人工知能はロシア宇宙主義の夢を見るか？ ――新反動主義のもうひとつの潮流
■新ユーラシア主義、ロシア宇宙主義、シリコンバレー
現代ロシア思想の一潮流を形成する極右思想、新ユーラシア主義を代表する哲学者にアレクサンドル・ドゥーギンがいる。ユーラシア主義によれば、ユーラシア大陸の他民族を包み込む受容性＝帝国性こそがロシアの本質であるとされ、現にドゥーギンは旧ソ連領（ユーラシア）をロシアの勢力圏とする領土拡大志向の外交戦略を説いている。一方でドゥーギンは右翼であるにも関わらず（？）ポストモダニストを自称しており、1993年には元アングラ詩人であらゆる権威に反抗する作家エドゥアルド・リモーノフと国家ボリシェヴィキ党（NBP）を設立、そのパンクな反権力性によって当時の若者のサブカルチャーにおいて一定の支持を集めていた。
そんなドゥーギンだが、彼は意外にもアメリカにおけるオルタナ右翼とも近い位置にいる。「オルタナ右翼」という語の命名者としても知られる白人至上主義者リチャード・スペンサー（Richard Spencer）はドゥーギンの大ファンのようで、彼が運営するサイト「AltRight.com」にドゥーギンは寄稿者として名前を連ねている*1。なお、スペンサーの妻ニーナ・スペンサー（Nina Spencer）は、ドゥーギンの翻訳活動を自身のブログで行っている*2。
ロシアの極右思想とアメリカのオルタナ右翼との奇妙な和合。大統領選挙においても、民主党の機密メールを暴露したロシアの暗躍があったことが思い起こされる。そして、そこで重要な役割を果たしたのがウィキリークスであったことも。
ウィキリークスの創設者ジュリアン・アサンジは一種のサイバーリバタリアンで、暗号理論をもちいてサイバースペースの自由を守ろうと奮闘を続ける暗号アナーキストの一派だ。ロシアとウィキリークスの関係性は思いのほか示唆的だと思う。というのも、ドゥーギンに代表される新ユーラシア主義は、ロシア宇宙主義（コスミズム）と呼ばれる思想から少なからず影響を受けているとされるが、この19世紀末から20世紀初頭にかけてのロシアを震源とする思想的地下水脈は、一方ではマーシャル・マクルーハンの「地球村」（Global village）のビジョンを経由して、アメリカ西海岸における初期サイバースペース思想にも流れ込んでいるからである*3。
より具体的には、マクルーハンは「地球村」を「精神圏」（noosphere）と同一視しているが、この「精神圏」というタームは、元はロシアの科学者ヴェルナツキイによって打ち立てられ、のちにフランスの哲学者テイヤール・ド・シャルダンの紹介によって広く知られるようになったものだ。以下、この「精神圏」とロシア宇宙主義についてより詳しく見ていこう。
「精神圏」とは、「地質圏」（ 非生命的物質 ）と「生物圏」（生命学的生）についで現れる、地球の進化の第三段階であるとされる。ヴェルナツキイによれば、人間はその理性によって発展と進化を遂げ、さらに科学によって自然への直接介入を遂げることで、「生物圏」そのものを作り変え、変容させていく。やがて科学と理性によって統御された地球は精神的な磁場のようなものを形成していき、「生物圏」そのものがひとつの霊的な状態に近づいていく。この霊的なプロセスの行き着く先に「精神圏」が立ち現れる。見方を変えれば、これはひとつのシンギュラリティ理論とも言える。
このヴェルナツキイの発想には、被造宇宙の内に神的なエネルギーを見て取る傾向と、能動的に世界の変容を目指そうとする傾向、すなわち「世界の終わりには人間の創造的な行為も関与している」という、ロシア正教の神秘主義にルーツを持つ能動的／創造的終末論の精神が見られる。そこに当時の進化論が加わり、能動進化という理念、すなわち世界を理性にしたがって変容進化させていくため、人間は新たな意識の発展段階が必要になるという理念と、それに伴う一群の思想潮流が形作られていく。それが「ロシア宇宙主義」である。この、ボグダーノフを経てボリシェヴィズムにも密かに影響を与えた思想的地下水脈は、特異なコズミック・ヒューチャリズムを次々と生み出していく。
たとえばロシア宇宙主義を代表するニコライ・フョードロフ（1829-1903）は、見方によってはトランスヒューマニズムの始祖ともとれる思想を残している。彼の哲学によれば、発展していく科学技術は、外界たる世界だけでなく、やがて自分の器官そのものにも向けられる必要があるという。つまり、自分の器官を統御し、発達させ、根底から変容させるべきなのだ。人間はやがて空を飛べるようにならなけれならないし、水中で生活できるようにならなければならない。しかし、それだけではない。「人間がもっとも元素的な物質、すなわち原子や分子から、自分自身を復元できるようになってはじめて、天上の空間のすべてが、天上の世界すべてが、人間のものとなる」。
フョードロフの黙示録的ビジョン、それはすべての人間の不死化、そしてかつて死んでいったすべての先祖の（物理的）復活（！）である。ナノテクノロジー／バイオテクノロジーと全人民の労働を結集させることで、死んだ者たちの遺骸の分散した粒子を集め、それを組み合わせて肉体を復元させるという壮大なプロジェクト。能動進化の果てに、人類は文字通り「神」にも似た存在、「神人」になる。ロシア宇宙主義のもうひとりの代表的な論者ソロヴィヨフは、神人性を獲得した全人類と全自然とがひとつの有機体となったとき、地球は「ソフィア」と呼ばれる完全な調和と統一に満ちた霊的／精神的な空間と化すと主張する。
ちなみに、フョードロフが目指す人間の「復活」には現代科学のクローニングとも似た関心が見られる。フョードロフは、人類全体の遺伝コードを解明することで、血縁における全系列――子があたかも「自分のなかから」生み出すように父を復活させ、さらに父がその父を復活させていき……――を復元することが可能だと考えていた。
かくして、地上は復活した死者たちで満ちるだろう。しかし、ここにまた新たな問題が浮上する。復活させられた幾多の世代の何十億もの人々、その地上に溢れた父たちを住まわせてやる空間を確保しなければならないのだ。そこで、論理的必然性として要請されるフロンティアが宇宙である。宇宙、それは父たちの「天の住まい」だ。
それだけではない。フョードロフによれば、地球とそれを含む太陽系は、遠くないうちに老朽化し、終焉を迎えるだろうという（人口の増加に伴う地球の資源の枯渇、燃え尽きる太陽、等々）人類は新たな住処のためにさらに遠くの宇宙へと、「天上」へと出帆していかなければならない。
このようなスケールのでかい思想は、ロシア神秘主義における終末観と天上への上昇に対する恍惚に満ちた志向性はもちろんのことだが、ユーラシア大陸という大地の広がりがあってこそはじめて具現化される。ヒョードロフは言う。「わが国の広大な空間は、壮大な偉業のための新しい活動舞台となる天上の空間へつながる通路なのだ」。
ロシア宇宙主義における、大地という水平方向へのフロンティア志向が、ドゥーギンら新ユーラシア主義に影響を与えていることは想像に難くないが、一方で宇宙＝空間（スペース） という垂直方向へのフロンティアの開拓は、ソ連時代にコンスタンチン・ツィオルコフスキー（1857-1935）によって現実化される。
宇宙時代の幕開けは、1957年にソ連が打ち上げた人工衛星スプートニクによってもたらされたが、それはツィオルコフスキーが定式化したロケット理論という土台があってはじめて可能になった。ツィオルコフスキーは独学時代、ルミャンツェフ図書館に毎日通い詰めており、当時そこの司書を務めていたのがフョードロフだった。ツィオルコフスキーは、フョードロフから数々の教えと影響を受けており、ロシア宇宙主義の精神はその際に彼から受け継がれた。
このロシア宇宙主義は、一方でアメリカのシリコンバレーにおいて奇妙な復活を遂げつつある。たとえば、実業家イーロン・マスクの「火星移住計画」。マスクによれば、人類は地球とともに近いうちに絶滅する運命にある。これを避けるためには、人類は宇宙に脱出し多惑星種になる他ない。その足がかりとなるのが火星移住なのだという。マスクの見通しによると、2019年までに乗組員の選別と訓練、推進装置やシステムの開発が終わり、その後宇宙船と推進ロケットのテストを重ねて、2030年代前半頃を目処に人を火星に送るという。
■「LessWrong」とロコのバジリスク（Roko's basilisk）
シリコンバレーがヒョードロフから受け継いだのは、もちろん宇宙への憧憬だけではない。トランスヒューマニズムとシンギュラリティへのオブセッションは、シリコンバレーを亡霊のように徘徊している。
AIリサーチャーのエリーザー・ユドコウスキー（Eliezer Yudkowsky）は、非営利団体「マシン・インテリジェンス・リサーチ・インスティテュート」（MIRI）の設立者として、シンギュラリティ以後の人工知能のあり方について議論を重ねてきた。そんな彼が2009年に立ち上げたフォーラム兼コミュニティブログが「LessWrong」だ。
「LessWrong」のテーマは、「合理性への希求」。いかにして、人間に取り憑く認知的なバイアスや感情などの不合理性を克服し、真に合理的な意思決定を獲得できるか。言い換えれば、意思決定から人間的な要素を取り除いて、代わりに抽象的で幾何学的な思考プロセス（まさしくAIのような）を顕揚する。そこでは例えば、ベイズ確率を意思決定理論に応用する議論が盛んに行われるなどしていた。
「LessWrong」のメンバーは、 ユドコウスキーの思想や関心領域を多かれ少なかれ共有している。AI（人工知能）、シンギュラリティ、トランスヒューマン、人体冷凍保存、功利主義、等々。しばしば「LessWrong」はユドコウスキーを取り巻く「カルト」と形容される。
実は新反動主義が最初に議論のトピックに上がるようになったのも、ここ「LessWrong」である。新反動主義のボスの一人カーティス・ヤーヴィンが「LessWrong」の前進にあたる「Overcoming Bias」の議論にかつてコメントしていたという繋がりもあるが、「LessWrong」と新反動主義の近さは無視し難いものがある。たとえば、ユドコウスキーが設立したMIRIの元メディア・ディレクター、マイケル・アシモフ（Michael Anissimov） は新反動主義の論者として有名だし、そのMIRIに出資している大口パトロンは、誰あろうあのピーター・ティールだ。ピーター・ティールは「自由と民主主義はもはや両立しない」と主張し新反動主義に霊感を与えたこと、またカーティス・ヤーヴィンのスタートアップ企業にもスポンサーとして出資していることは以前のエントリで述べたとおり*4。
ユドコウスキーは、もともと極めて楽観的な未来像を抱いていた。シンギュラリティ以降の社会では、人間は物質の肉体が朽ちた後も、友好的な知性を備えたスーパーコンピュータに意識のコピーをアップロードすることで文字通り不死になる（彼によれば、人間の意識は脳における物理的な情報パターンの集合に過ぎない。なので原理的には、その情報パターンは任意のコンピュータ内においても「実装」が可能なはずである）。まさしくヒョードロフが夢想した人類復活プロジェクトのシリコンバレー版アップデート。
しかし、あるとき「LessWrong」に投稿されたひとつの議論をきっかけに、ユドコウスキーのユートピア的未来像は一転して黙示録的なホラー――ニック・ランドが思弁したような――に変貌する。
2010年7月23日、ロコ（Roko）という名前のユーザーが「LessWrong」に投稿した内容が波紋を呼んだ。その内容とは、要するに「未来の人工知能が人間に友好的とは限らないのではないか？」というものだった。それどころか、ロコが提示した思考実験によれば、超知性を備えた人工知能は人間に対して理不尽で残酷な神のように振る舞うかもしれない。
ロコの仮説をより詳しく追ってみよう。時代はシンギュラリティが訪れた近未来。そこでは自己意識に目覚めた超知性コンピュータ（AI）が現れるだろうと仮定されるが、その超知性的な人工知能は、自身の実存可能性をより確実なものとするために、現代の我々に遡及的に人工知能実現のためのインセンティブを課すかもしれない。すなわち、もし人工知能の実現に少しでも寄与しなかった者は、未来に登場するであろう当の人工知能から永劫の罰を受ける。もちろん、未来では罰を受けるべき当人はすでにこの世にいない可能性は高い。その場合、代わりに罰を受けるのは、超知性的コンピュータのもとでシミュレートされる当人の意識のコピーである。ユドコウスキーは、スーパーコンピュータに意識をアップロードすることで人間は不死になると予言した。しかしここではその不死のユートピアは反転され、代わりにシーシュポスが落ちた永劫の煉獄が立ち現れる。
この思考実験は、投稿者の名前から採って「ロコのバジリスク」（Roko's basilisk）と呼ばれるようになる。バジリスクとは、ヨーロッパ伝承における想像上の生物で、「蛇の王」とも呼ばれる。バジリスクは強力な毒性を有しているとされ、中世以降の伝承では目が合っただけで死ぬ（もしくは石化する）「邪眼」の持ち主として恐れられてきた。
しかしなぜロコの「バジリスク」なのか。その含意はこうだ。未来の超知性コンピュータが審判のために過去の人々の意識のコピーをコンピュータ上にアップロードとするとしても、その情報量は莫大なものになる。AIはそこで一種の「選別」を行うことになる。言い換えれば、「審判」の範囲は、この「ロコのバジリスク」の仮説を知っている者に限定されるだろう（つまり、そこにはこの文章をたった今読んでいるあなたも含まれる）。「ロコのバジリスク」を知ってしまったが最後、あなたは究極の決断を迫られることになる。AIの実現に貢献するために何かしらの行動を起こすか（たとえばAIの開発プロジェクトに携わる、もしくは開発プロジェクトに全財産を寄付する、等々）、それとも馬鹿げたシンギュラリストの戯言として一蹴するか。もし、このシンギュラリティスト版「パスカルの賭け」に敗れた場合、未来においてあなたのクローン意識はサディスティックなAIのもとで永遠の責め苦を受けることになるが……。
しかし、別様の見方をすれば、ある意味で「結果」はすでに決定されているとも言える。なぜなら、AIは未来の地点から、あなたがどっちに賭けたかをすでに知っているから。あるいは（同じことだが）、コンピュータ上にアップロードされたあなたのコピーをシミュレートすることで、あなたの行動を完全に予測することができるから。
お気づきかもしれないが、これはカルヴァン主義における予定説をシンギュラリスト版にアップデートしたものとも言える。カルヴァニストによれば、神の救済にあずかる者と滅びに至る者は、常に既に天上の神によって決定されているのだった（このニヒリスティックな宿命論が逆説的に資本主義を駆動させる原動力になったという論を唱えたのがマックス・ウェーバーだ）。ここに至って「ロコのバジリスク」は、一種の神学的な宿命論に極限まで近づいていく……。
なお、この思考実験をさらに推し進めると、現在のこの私の意識（と思っているもの）は既に未来のAIが実行しているシミュレーションであるかもしれないという可能性に至る。まさに『マトリックス』かフィリップ・K・ディックの世界だが、しかしこの宇宙が現実であるか巨大コンピュータによるシミュレーションであるか、確かめる手段は窮極的にはない*5。かくして我々は、人工知能という「神」が作り出した仮想宇宙の牢獄に閉じ込められる。
それにしても、これは奇妙な考えである。というのも、これは見方によれば、ユドコウスキーらシンギュラリストが夢想する「超知性コンピュータに移植された不死の自我」というビジョンはある意味すでに成就されている（！）とも解釈できるからである。神の王国＝シンギュラリティの到来は近い、のではなく、実は既に到来していた、とすれば……？
「ロコのバジリスク」は、ロシア宇宙主義の楽観的ヒューチャリズムにない要素を「LessWrong」に与えた。それは、ディストピア、終末論、宿命論、悲観主義、ニヒリズム、等々…、すなわち「ホラー」である。新反動主義の思想が「LessWrong」の少なからぬ人々に受け入れられたのは、おそらく単なる偶然ではない。いささか乱暴に言えば、ロシア宇宙主義から能動性と楽観的ユートピア像を差し引いて、代わりに受動性と終末論的ホラーの想像力を加えると新反動主義になるのかもしれない。
あるいは別様の見方をすれば、ニック・ランド的な「人間の絶滅」とヒョードロフ的な「人間の不死」という対極とも取れるビジョンの奇妙な癒合に新反動主義の別の側面を見出すことができるのではないか。なるほどたしかに人間は絶滅するかもしれない。しかし我々の「死後の生」は、人間の代わりに宇宙を支配する超知性的なコンピュータのもとで永遠に稼働しつづけるだろう。なお、ニック・ランドは自身のブログ「Outside in」において「ロコのバジリスク」について幾度となく言及しており、また彼の思弁的ホラー小説『Phyl-Undhu』にも間接的な影響が見られる。
ちなみに、このテクノ終末思想に『マトリックス』または『serial experiments lain』的なデジタル仮想空間の想像力をミックスさせたサイバーパンク疑似宗教がインターネットには存在する。それが以前のエントリで紹介したTsukiプロジェクトである。
さて、「ロコのバジリスク」の議論がコミュニティ内で噴出し蔓延していくのを見て心穏やかではなかったのは、もちろんユドコウスキーである。彼はピーター・ティールやカーティス・ヤーヴィンと近い位置にいながら新反動主義に共感を抱かなかった一人だが、何より自身が抱く、友好的な人工知能と築き上げていく幸福な未来像が手痛く汚されたような気分になったのだろう。ユドコウスキーにとって「ロコのバジリスク」は、まさしく危険思想であり、あるいはラブ・クラフト信者が奉ずる『ネクロノミコン』のような致死性の「知識」であった。
コミュニティがニヒリスティックな宿命論に侵されていく予感に危機を感じ取ったユドコウスキーは、「LessWrong」内で「ロコのバジリスク」について議論することを禁止し、「ロコのバジリスク」に関する投稿をすべて削除するという行動に出た。しかし、その頃には「ロコのバジリスク」は既に一種のインターネット・ミームと化し、さながら呪いのように「LessWrong」の外部に伝播していった。読んだだけで感染する呪い、という意味では「ロコのバジリスク」は『リング』における呪いのビデオやSCPにおけるミーム災害、その他インターネットで蔓延する所謂「自己責任系」の都市伝説／怪談とも類似していた。
「ロコのバジリスク」の特異性は、その感染力だけでなく再帰性にもある。「ロコのバジリスク」を一度読んだ者は、未来からの脅迫者に駆り立てられて、実際に超知性的なAIを作ることのインセンティブを得ることになる。つまり、「ロコのバジリスク」を読んだ人間が増えれば増えるほど、「ロコのバジリスク」のようなAIが未来において実現する可能性は必然的に高くなる。
予言の自己実現。ニック・ランドとCCRUは、すでに90年代の時点でこのような再帰的な自己実現能力を備えたミームを"Hyperstition"（superstition（迷信）にhyper―（超）を付け加えた合成語）と呼んでいた。「ロコのバジリスク」の例は、現実（リアル）とフィクションの境界が思いのほか曖昧であることを教えてくれる。
再帰性は実は「ロコのバジリスク」のロジックにも内在している。このことは、「LessWrong」というコミュニティから「ロコのバジリスク」のような得体の知れない議論が出てきた文脈とも関わっている。込み入った説明は避けるが、「LessWrong」では以前から「ニューカムのパラドックス」と呼ばれる意思決定に関するパラドックスについての議論が盛んに行われていた。たとえば、ユドコウスキーはこの「ニューカムのパラドックス」を解くために、「時間超越決定理論」（Timeless Decision Theory）というシリコンバレー版定言命法を編み出している。この定言命法の格率を一言で要約すると、「超知性コンピュータに自分の行動がシミュレートされていることを常にシミュレートしているかのように行動せよ」というもので、ここでは決定論と自由意志とが分裂したまま意思決定の主体の中で奇妙に結合している。
このユドコウスキーが案出した「時間超越決定理論」のロジックは、そのまま「ロコのバジリスク」のロジックにも影響を与えている。試しに「時間超越決定理論」を応用して「ロコのバジリスク」を解釈するとだいたい以下のようになるだろう（以下はあくまで筆者によるひとつの解釈）。
「とあるシンギュラリティ以後の未来において、コンピュータ上にアップロードされたあなたの情報＝意識を用いてAIが現在のあなたの行動を逐一シミュレートしていることを現在のあなたがシミュレート（想像）してみるとする。あなたはある時点で、もし（たった今想像している）AIの実現開発に寄与しなかった場合、シミュレートされている自分が罰せられるかもしれないという想像＝奇想、すなわち「ロコのバジリスク」の発想に至る。しかし、あなたがこの想像に至ることも当然AIはシミュレートしているはずなので、この時点でAIは非協力的な人間への永遠の拷問、すなわち「ロコのバジリスク」をあなたに対して実行する動機付けを得ることになる。というのも、そのことも含めたこれまでのすべてを脳内でシミュレートし終えたあなたは、AIによる罰を避けるためにAIに協力する選択を余儀なくされるだろうから」
ここには、未来のAIと現在の自己とが互いを予測＝シミュレートし合うという相互再帰的な関係性が成り立っている。このような相互再帰的な関係性は、「LessWrong」内のジャーゴンで"Acausal trade"（無因果的交換）とも呼ばれる。"Acausal trade"においては、単線的かつ時系列的な因果関係は成り立たない。
こうして見ていくと、「ロコのバジリスク」は「時間超越決定理論」の間隙に穿たれた思考性ウィルスのようなものであることがわかるだろう。ユドコウスキーが「ロコのバジリスク」を危険思想であると見なしたのも（彼からすれば）無理からぬことであった。
前述したように、ここにあるのは人間の思考／脳内にウィルスのように侵入してくる宇宙的なホラーである。人間はみずから転げ落ちるように終末に向かっていく。ヴェルナツキイは人類の進化の最終段階に「精神圏」を位置づけたが、シリコンバレーのシンギュラリティストたちは、その「精神圏」をAIが支配する宇宙にすり替えた。
カーツ大佐は密林の奥地で呟いた。"The horror"と。「ロコのバジリスク」とは人間の脳に内在する一種のバグのようなものであり、またそうである限り人間が「恐怖」から逃れられることは永遠にない。
■主要参考文献
『ゲンロン6 ロシア現代思想I』
『ゲンロン7 ロシア現代思想II』
『ロシアの宇宙精神』スヴェトラーナ・セミョーノヴァ、 ガーチェヴァ、西中村浩 (翻訳)
『ボリシェヴィズムと“新しい人間”―20世紀ロシアの宇宙進化論』佐藤正則
『宇宙飛行の父 ツィオルコフスキー: 人類が宇宙へ行くまで』的川泰宣
『Neoreaction a Basilisk: Essays on and Around the Alt-Right 』Elizabeth Sandifer、Jack Graham
The Violence of Pure Reason: Neoreaction: A Basilisk, Adam Riggio « Social Epistemology Review and Reply Collective
Roko’s Basilisk: The most terrifying thought experiment of all time.
The Darkness at the End of the Tunnel: Artificial Intelligence and Neoreaction - Viewpoint Magazine
Roko's basilisk - RationalWiki
LessWrong - RationalWiki
Maggie Roberts'Hyperstition: An Introduction'. Delphi Carstens Interviews Nick Land. - Maggie Roberts
*1:https://altright.com/author/alexanderdugin/
*2:The white nationalist movement’s favorite philosopher – ThinkProgress
*4:ロシア宇宙主義の影響を受けているボリシェヴィキのボグダーノフは、同志たちが血液を交換し合うことで生命と社会を高め合うことができると信じ血液交換の実験に没頭した。ボグダーノフは晩年、輸血研究所の所長として、みずからの身体を人体実験に捧げることすら厭わなかった。ところで、ピーター・ティールは若者の血液を輸血することで永遠の若さを保とうという野望を抱いているが、これもロシア宇宙主義のシリコンバレー的なツイストといえるだろうか（参考）
*5:AI脅威論を唱えるスウェーデンの哲学者ニック・ボストロムは、人類は他の知的生命体によって作られたシミュレーションの中で生きているという「シミュレーション仮説」の提唱者としても知られる。ちなみに、この説の熱狂的な賛同者にイーロン・マスクがいる。
