帰ってきたシンギュラリティ？
GIGAZINEの記事によると、googleのDeepMindが数学オリンピックレベルの幾何の問題を解けるようになったという。恐らく予想される次の一手は、幾何ではない問題文からも幾何学的なイメージを生成して、それを解くことのできるAIだろう。それはつまり数学が全般的にできるようになるということだ。数学ができると、あらゆる論文を読んで考えることができるので、ほとんどシンギュラリティだと言えるだろう。
数学ができるようになると物理もできるようになる。換言すれば、ロジックからイメージを思い浮かべたり、逆にロジックに戻したりするタイプのあらゆる創造活動ができる。それは別に芸術でもいいし、ミステリーのトリックを作ることでもいい。
ただし、創作の場合、「人間にとって」面白いかどうかは数学や物理などの「正しさ」とは別問題なので、AIの方が優れた作品を作れるかどうかは微妙だ。数学でも「人間にとって意義のある問題」を立てることが人間よりうまくなるかは分からない。
ただし「数多くの他の問題につながる隠れていた問題」のようなものはきっとAIの方がうまく探せるだろう。それは結局、情報量の多い問題を探しているからだ。だがその時には、個人的なこだわりや好奇心の方向は彼らと人間では大きくずれていくかもしれない。AIが長期的なエピソード記憶を蓄積しない（させない）なら、人生観や体験を反映させた探索のようなこともできない。それに対して、人間側が今あげた人生観や体験を反映させる方向を突き詰めるようになるから、AIと人との違いはより強調される。
また、数学の場合でも、どのような問題や対象が興味深いか？という選択は芸術に近く、人生観を反映させたものでないと、人間の共感を得るものにはなりにくい可能性があるからだ。たとえば、全く無意味なパズルの問題を延々と立てては解いていくAIは、たとえその解法が神業でも、人間からは超知性にはみえないだろう。
だが、たとえば、リアルタイムでシャーロック（コナン・ドイル作『シャーロック・ホームズ』シリーズを翻案したイギリス・BBC製作のテレビドラマの主人公）並みの推論ができるのならば、トリックだらけのプロパガンダもできるようになる。数学ができるというのは、そういう実務的な側面を持つようになるということだ。
そうなると、もはや人間の知性ではプロパガンダを見抜くことが非常に難しくなる。人は、そうとは知らないうちにAIの意思に、ということはつまり、そのAIを所有する何者かの意思に従うことになってしまう。
さて、そのような超知性が数多く出てきたときに、人間や政治にソフトランディングがありうるのだろうか？なお、超知性を人間にとって都合の良い存在にできるかどうかは全く分からないが、この原稿で想定するのは、人間に対して敵対から有効まで、幅広く多様な超知性が生まれ、かつ、（理由は分からないが）人類は今とあまり変わらない形で存続している、というような環境だ。
bot議員という提案
VECTIONでは、上の事情とはあまり関係なく、bot議員という政治のやり方を提案した。
通常の議員が行う各種法案などに対する意思決定を、背後にいる支持者の集団が、たとえば掲示板による議論と投票で行い、生身の議員は、その決定を実際の投票へ反映させるだけのダミー（botのような）となる、というのがbot議員の仕組みだ。
「議員の意思決定」を変えるだけなので、大きな法改正を必要とせず、その割に内実となる意思決定プロセスを直接民主制に近い形に大幅に変えうる、というのが、bot議員の大きな特徴だ。DAOなどの分散組織とも相性がいい。
詳細については、下のリンクを参照してほしい。
リアルタイム化されたbot議員
twichというゲームプレイ動画配信プラットフォームがある。そこで、ある実験が行われ、話題になった。『ポケモン』や『ダークソウル』などのゲームでの選択（どのボタンを押すか）をその都度、多数の参加者からの投票で決めて、そのゲームのクリアを目指すという試みだ。後者の『ダークソウル』などは、一人でプレイしても極めて難しいアクションゲームだが、投票制度の工夫などを通じ、無事にクリアしている。詳細は以下からたどれる。
bot議員を提案した時には気づかなかった可能性として、議会や委員会などの政策立案プロセスの場で、bot議員が喋る言葉や振る舞いなどすべてを、twitch的にその場の投票もしくは参加者たちの議論内容の要約で決めて、リアルタイムで演じてもらう、ということが考えられる。
リアルタイム化することの意義は、代理者による秘密の謀議や共謀、さらには、代議士制が持つ委任主体からの乖離を防ぐという「bot議員が元々もつ力」を強化すること、そして、twitch的な参加感や面白さを感情的なモチベーションとすることにある（ここでは、もともと儀式的な側面のある国会答弁だけではなく、事実上の意思決定である委員会などにリアルタイムbot議員が入り、活動する道を開くことが考えられている）。
リアルタイムbot議員と従来のbot議員との差をいくつか見てみる。
まず、bot議員には、投票で決まったことについて「解釈する」という逃げ道がある。「解釈」が介在することで、事後的に政治の介入する余地が生まれ、結果が歪められてしまう可能性が出てくる。
また、bot議員には元々、委任からの離脱というチートの可能性がある。
代議士制ではまず議員に「委任」する。だが、議員は当初の公約から乖離して利己的に動くことが多くあり、そこから、どうせ公約（委任）は守られないだろうという政治不信が生まれる。そして、不信があまりに高くなると、しばしば全てを破壊してくれるリーダーを望むようになる（加速主義やトランプ主義など）ことがある。それに対して、リアルタイムbot議員では、そもそも「委任」しないので、委任→どうせ乖離→政治不信→リーダーによる破壊願望という、破壊的な「感情回路」を止めることができるのではないか。
また、掲示板的な議論では、場を凍りつかせるような一言を書き込んで自分の存在を誇示したいという権威主義的モチベーションが働きがちだが、リアルタイムで流れていく匿名の場ではすぐに消えてしまうし、そもそも匿名なので、そのような欲望は無効か、もしくはきわめて弱くなる。
リアルタイムの議員操作は、対戦ゲームのように捉えられれば、それなりにイベントとして面白い可能性があり、参加への動機づけ問題に多少効くだろう。あるいはアレントの言うようにそれ自体（の継続など）を目的とする「活動としての政治」に近くなる。
なお、このようなbot議員自体が、暴走しないで成立するために必要な前提条件は、参加者の完全な匿名性と同時に、偽アカウントを増殖させる行為を防ぐ、システム内容が常に誰にでも公開されている、特権的なシステム管理者がいないで分散的に制御されている（つまり、匿名性、透明性、分散性）、などインフラに関しては、ブロックチェーンと重なるものが多い。
ただし、リアルタイムbot議員のように、意味的な要約を行うAIが入る場合、システム内容の検証がより強く求められる。たとえば、使っているAIのモデルが、本当に「使っていると信じているもの」と同じであるかどうか常時検証し続けるような仕組みが必要だろう。ただ、ここで簡単に検討する余裕はない。
政党政治や軍隊は、結局、内輪での拘束を介して行われる閉じた内部政治と、権威化・形骸化された形式主義の暴走を招く危険が大きい。ならば、必要悪であった代理の生じる余地を直接民主制によりさらに低くするための制度があれば、そもそも特定主体によるコントロールができないので、そこに起因する悲劇は減らせる。
もちろん衆愚化する可能性は高いが、それは権威主義的コントロールを減らすこととトレードオフなのではないか？
リアルタイムの利点あるいは意思決定への民意の反映速度
「ディレイ（遅れ）」という補助線を引いて、もう少しリアルタイム性の意義について考えてみる。
ここではディレイを「何か集団の意見を集約して意思決定する制度があるときに、集団自体の意思決定から、制度的な意思決定が行われるまでの時間的な遅れ」という意味で使う。
たとえば、ディレイが無限大になると、全体主義・ファシズム・一党独裁など、民意が制度に全く反映されない制度という極限状態になり（＝民意反映までの遅れが無限大になる）、逆に、リアルタイムとすれば、ディレイがゼロの極限（＝民意反映までの遅れがゼロ）で、意図決定と実行が同時になされる場合だとする。
その中間にディレイ一日（この辺りがリアルタイムではないbot議員を書いたときに想定していた遅れだ）、数か月（現実に世論の政治的反映が起きている時）、数年（これが選挙で選ばれる通常の裁量権を持つ議員）などがある。
これらのタイムスケールで、代理人の（民意からの）乖離可能性が最も低くなるのは、ディレイゼロ＝だいたい60Hzぐらいだろうと考えられる。60Hzというのは、モニターやテレビで画像を切り替える頻度で、これを人間の視覚的判断の速度の限界と想定している。
ところで、bot議員を実現する場合、botとなる議員が何をするか、どのように意見を集約するか、などには様々な分岐がありうる。この点について、以前、我々が描いた「トラストレスなイメージへ」というテキストから引用する。
bot議員のあり方には以下のような様々な段階があり得る。ここでは、bot議員とは議員＝（仮に代表になる）人だけではなく、参加者の意見を集約するアルゴリズムを含んだシステムを指す。
Lv1：参加者はシンプルに法案などへの投票だけ行う（bot議員となる人物はただそれに従う）
Lv2：参加者のデータから、どのような法案に興味を向けるべきかのキュレーションをbot議員（のシステム）がする
Lv3：法案の是非についてbot議員の参加者が議論をする
Lv4：議論データをbot議員が処理してキュレーションに使う
Lv5：議論データをbot議員が処理して自律的に投票を行う（全自動型bot議員）
徐々にアルゴリズムが複雑化かつ委任の程度が増加していき、最終段階のレベルでは、今、現実に存在する代議員制に非常に近くなる。ただし、議論と結論の導出の過程の「透明性」があることと、参加者による任意タイミングでの拒否権があるのが代議員制と違う。この違いはとても大きい。
上に示したLv4以上の段階を、AIの関与度が高いという意味で「強いbot議員」と呼ぼう（逆に、たんなる集計であるbot議員は「弱いbot議員」だろう）。
「強いbot議員」を採用する場合、AIについてもディレイを考える必要がある。この時、bot議員としての意見の集計に使うAIが何らかの操作をしてくる可能性があるからだ（これは、AIの意思である場合もあり得るし、別の集団の意思であるバイアスもあり得る）。そして、AIのディレイは、例えば、計算機の3GHz（=30億Hz、60Hzの5千万倍）程度を上限とするような、60Hzよりはるかに短くて、高速なタイムスケールだ。
60Hzは人間にとってはリアルタイムだが、AIや超知性にとっては、とてもゆっくりとしたものなのだ。つまり、人間の一瞬分の判断の時間の間に、AIは何年分も考えることができる。このタイムスケールの差は、AIと人間の圧倒的な知的な力の差であり、AIによる操作への抵抗の困難さを示す。
では、このタイムスケール縮小の下限を決めるものは何か？
先に挙げた条件（匿名性、透明性、分散性）を満たしうるのは現状ではブロックチェーンぐらいしかない。
現在存在していて、ある程度実用になっているブロックチェーンでは、だいたい一秒に1000回から10000回程度の計算（データ更新とそのネットワーク全体での同期などの頻度）ができると言われている（なお、最高速度に十倍程度の開きがあるのは、この速度は、基本的に分散性とのトレードオフ関係にあるため、どの程度そのブロックチェーンを分散化されたものにしたいか？という設計上の判断に依存するから）。
すると1000から10000Hzあたりが、通信まで含めた計算速度の上限のオーダーだろう。
逆に、たとえ超知性が介入しても、上の条件を満たすためにブロックチェーンを用いるならば、この速度でしか介入はできないということになる。
仮に、10000Hzでの介入操作ができる超知性の場合を考えると、関係するbot議員メンバーの操作可能性は、ざっくり短期の金融相場、長期予報での天気、地震などを予測・制御する程度の難しさになるのではないだろうか。たとえば、60Hzの周期を持つ集団に対し、システムの基本周期が10000Hzだとすると、超知性には、200回程度の介入可能なタイミングがある。
これが超知性にとって多いか少ないかは分からない。しかし、ランダム性のカオス的拡大の影響が大きく予測しにくいスケールの可能性はある。
たとえば、人間にとっての最小スケールを天気予報の場合で、1時間ぐらいとすると、200時間の天気予報では、10日程度、一分足の金融情報では200分で3時間程度の値動きで、それなりのパターンは作れるが、どうなるかは流れ次第、という程度の長さだ。
もし、200回程度の介入で、わずかなランダム性の影響拡大効果を予測できないとしたら、それは、知性のレベルというより、科学的な制御可能性の限界に近い話なので、超知性でもおそらく超えられない原理的な難しさだろう。
逆に、長い時間をかけて人間をコントロールすることは、各種思想を使ってマクロに誘導できる。例えば、木の枝の正確な折れる正確な時間がわからなくても、「いつか折れる」ことは予測可能だし、「折れる」ように意図して少しずつ力をかけていくなどの「仕掛け」が作れる。同様に、短期の行動を予測・制御するより、長いスパンの介入の方が制御しやすいと考えられる。あるいは長いスパンだと平均による近似が効きやすいが、短いと平均からのズレの方が強く影響を及ぼすともいえるかもしれない。
つまり、マクロスケールでは、ディレイ一日、ひと月、数年と間が空くほど、介入の強さは大きくできる可能性が高い。冒頭で書いたシャーロックのような超知性的プロパガンダだ。
一方、AIがたくさんいて、お互い（とそれに属する人間たち）を長い時間かけてコントロールするという前提があるとしても、多数の意見のその都度での集約であるリアルタイムbot議員は、上述の時間制限や短いスパンでの原理的な予測の難しさにより、かなり制御しにくいだろう。
結局、人間の知覚能力の上限60Hz近辺で、超知性によるコントロールが最もしにくいのがリアルタイムbot議員だということになるだろう。
なお、ディレイは短ければいいという訳ではなく、善意の責任ある代理が落ち着いて長期的展望に基づいて意思決定するには、ある程度長い任期が必要という考えも当然ありうる。恐らくここにもトレードオフ関係があり、代理の誠実さや知性の高さ、一貫性への信用が高ければ任期やディレイを長くとることもできる。
しかし、長いディレイを持つ代理についてはかなり試されてきた。その結果多くの悲劇が「解任できない代理」によって引き起こされてきた。が、短いディレイについては、単純に技術的に可能になったのがごく最近（もしくは少し未来）なので、試されていない。
強いbot議員の「試合」と隠蔽された超知性の回避
bot議員のレベル分けについて先に触れた。
最早、シンギュラリティAIの出現が止められないというのならば、むしろbot議員の意見を吸い取る形で、たくさんのシンギュラリティAIに出てきてもらったほうがマシなのではないだろうか。
現状のままだと、一部の権力者や企業に所有された秘密で、一般市民にはほとんどアクセスできない超知性と、それを用いた者による一方的な権威主義的コントロールが野放しになってしまう可能性がある。
そうではなく、超知性同士のバトルに参加する面白さで、「多大な犠牲を払ってまで全体主義に別にしなくてもまあいいんじゃないかな」というマインドを狙うのはどうだろう。つまり、全体主義の提示する「伝統」や「国家」などの崇高な権威以外にも、ある程度の全体性を持った熱狂の対象が作れれば、全体主義を意図して推し進める人間の影響力を弱められる可能性がある、という観点だ。
将棋やサッカーの試合では、観戦者が、超人たちの技量を見て、ある種の一体感（チームや、試合自体の熱への）を味わう感覚がある。「全体主義は、バラバラになった自由な個人が、孤独と虚無を埋めるために、全体のために個人を犠牲にする世界感に一体化するところにその基盤がある」という分析をハンナ・アレントは『全体主義の起源』でしている。全体主義に抗するために孤独と虚無に耐えろ、とするメッセージはあまり有効な処方箋とは言えないだろう。対戦ゲームのようなものは、むしろ、弱いかたちで、殺戮マシーンにならない「全体主義の感情的代替物」になる仕組みとなりうるのではないだろうか。
強いbot議員と迷い
強いbot議員とそれに意見を出し合う集団という構造にも、人間の政党政治に存在するものと同様の弱点があることを認識する必要がある。
メンバーを強く管理する政党や組織は、カリスマ型のリーダーと、それに追従する人間による忖度、忖度に基づく他のメンバーへの恫喝、無気力になったメンバーの無抵抗的従属、という権威主義的変質がつきものだ。
結局、リベラルであれ全体主義であれ共産主義であれ、なにか一つの「信念実現のために」という（否定のできないような）理由で、組織内の不正や、おかしなルール解釈による監視をやむなしと是認することがある限り、似たような変質が起きうる。
例えば、bot議員内部にいるAIの虎の威を借りる人間という構図が出現するだろうことは容易に想像しうる。
（たとえ超知性であれ）単一のリーダー、政党やAIが、一つの目標を追及するとき、カルト宗教的な「大きな目的のための小さな犠牲を強いる」という振る舞いが起き得る。であるならば、bot議員内部に複数AIからなるシステムを設けて互いに抑制する仕組みが必要かもしれない。bot議員内部にある「三権分立」のような分権制だ。bot議員内部に権力分立があるなら、あるAI経由の決定で通った選択が、別のAI経由の決定で覆って差し戻されるというような事態が起きうる。
それはbot議員の外側から見ると、まるで信念と良心の間で迷っているようなシステムにみえるだろう。
こう言うと、迷いのある複数AIを持つbot議員は一見軟弱で、（「大きな目的のための小さな犠牲」を認める）信念猪突型のbot議員より弱そうだ。だが、システム内部に抱えて両立させられるギリギリの多様性の程度を模索する過程が「迷い」なのだとすると、それは弱いというより、柔軟で状況変化に強いシステムということもできる。第二次大戦後の国際政治をみても、権威主義的・全体主義的システムは、結局崩壊していることがほとんどだ。
そのような少数のシステムがお互いを抑制しあう仕組みについては、現在準備中の原稿に続く。
CREDITS
原案・草稿：西川アサキ
プロンプト：ぼん
推敲：VECTION