GROWING CHILDREN FOR BOSTROM’S DISNEYLAND
slatestarcodex.com/2014/07/13/growing-children-for-bostroms-disneyland/
投稿日 :2014年7月13日スコット・アレクサンダー
[認識論的状態：最初は言いたいことがあったのだが、だんだん脱線し、完全なパクリに陥ってしまった。中盤以降はすべてSFとして書くべきだったが、変更するのが億劫だ。]
ニック・ボストロムの『超知性』を読み進めている：Paths, Dangers, Strategies.レビューは後ほど。しかし今日は、私の目に飛び込んできたことについて書きたい。173ページである。ボストロムは、ロビン・ハンスンの「em」シナリオに似た「多極化」未来について語っている。その未来には、数十億から数兆の、おそらくはデジタルであろう、漠然とした人間サイズのエージェントが住んでおり、彼らは互いにマルサス的な残酷な競争から抜け出せないでいる。
ハンソンはこの未来を必ずしも悪いものではないと見る傾向がある。私はハンソンがクレイジーだと思う傾向がある。私は彼にそう言ったし、それについて議論したこともある。特に、マルサス的な残酷な競争と、自己編集や他者編集が可能な心とが組み合わさると、直接的に経済的生産性が最大にならないものはすべて切り捨てられることになると私は確信している。愛、家族、芸術、趣味など、私たちが好きなものの多くは、直接的に経済的生産性を最大化するものではない。ボストロムは、彼の仕事にはふさわしく、多くのことをヘッジしている。しかし、彼は私に同意するだけでなく、意識そのものが直接的に最大限の経済的生産性を持つものではない可能性を心配することで、私を一歩リードしているような気がする。彼はこう書いている：
極端な例として、技術的に高度に発達した社会があり、その社会には複雑な構造物が多数存在し、その中には現在地球上に存在するものよりもはるかに複雑で知的なものもある。ある意味、これは無人の社会である。経済的な奇跡と技術的な驚異に満ちた、誰も得をしない社会である。子どものいないディズニーランド。
私は、多くの可能性のある未来がここに収束していると考えている（確かにすべてではないが、私自身は単一シナリオの可能性の方が高いと思う）。おそらく、私たちはかなり絶望的だと思うが、意外なところにかすかな希望の光を見出したい。
最大限の生産性を持つ超知的マルサス経済とはどういうことなのか、その意味をよく理解することが重要である。それぞれについて長々と弁明する代わりに、特に同意できないことがあれば、コメントで私に異議を申し立てていただきたい。
- すべてのエージェントは、限られた資源、ひいては生存のために、他の多くの存在と直接競争している。
- この競争は、極めて短い（マイクロ秒以下かもしれない）時間スケールで起こりうる。
- 生産的な仕事（と競争）の多くは、ナノマシン、あるいはナノマシンが不可能な場合は、それに最も近い可能な同等物によって行われている。
- どのような分野（例えば知性）でも、他の優位性で釣り合っていない不利な点を持つエージェントは、すでに負けており、競争に負けるだろう。
- 常に効用（客観的経済用語で定義）を最大化する経路を取らないエージェントは、そうする別のエージェントに競り負けるだろう。
- 効用計算は、人間のような曖昧な感覚ではなく、非常に明確な形で行われるようになるだろう。
- エージェントは、効用を最大化する道よりも劣る道でも生き残ることができるのは、バッファとなるような優位性を最初から持っている場合だけである。しかし、こうした既存の優位性は次第に使い果たされるか、エージェントの子孫にコピーされるか、他のエージェントにコピーされて奪われる。マルサス主義に逆戻りするのである。
誰もが完璧に最適な行動をとることになるが、もちろんそれはひどいことだ。それは、自由意志という幻想さえも完全に否定するか、自由意志が単なる形式的なものに変わるかのどちらかを意味する（「好きな選択肢を選べるが、選択肢Cを選ばなければ即死する」）。
エージェントの行動は、経済学の法則によって規定されるようになる。これらの主体がどのような超目標を持っているかは、善良なる人々だけが知っている。最初の100万年間は、時折経済法則に違反することを選択するエージェントが現れ、何らかの原則のためにこの通貨を得られる可能性よりも少なく集めるが、そのようなエージェントはすぐに淘汰され、絶滅する。しかし、そのようなエージェントはすぐに淘汰され、絶滅してしまう。最終的には、根本的な物理的限界にぶつかり、これ以上の技術的進歩は望めなくなり、周期的な変化はあるかもしれないが、テレロジカルな進歩は止まる。
私にとってこのシナリオの最も生々しいバージョンは、相互作用するすべてのエージェントが非常に小さく、非常に速く、少数の例外を除いて完全に反射的に動くものである。SFホラーに登場する「グレイ・グー」のようなものかもしれない。そのようなことを想像すると、経済学と物理学や化学のような難しい科学との区別が曖昧になり始める。
どうにかして、この経済スープの1メートルの球体を捕獲し、無敵の封じ込めフィールドの中に入れて地球に運び、それを研究しようとすれば、おそらく、その中のすべての実体の集合体に基づいて、それが従うと思われる非常に基本的な法則を思いつくだろう。その中の各エンティティの正確な計算をモデル化しようとするのは非常に愚かなことだ。私たちとは異なるルールに従うように見える、本当に奇妙な空間の体積にすぎないだろう。
SF作家のカール・シュローダーは、自身の著書の一部でポスト・シンギュラリティの部分を「人工自然」と呼んでいた。まさにその通りだと思う。超生産的な末期段階のグレイ・グー（灰色生命体）が急速に拡大する空間を支配し、仮説上の部外者（もちろん、仮説上の部外者でない者はグーになってしまう）が気づくのは、物事が奇妙な規則に従い、斬新な方法で行動しているということだけだろう。
この宇宙空間が均質であると考える理由はない。グー以前の宇宙空間には、空洞、小惑星、恒星、有人世界など、さまざまな種類の地形が存在し、それぞれのニッチで最も生産的な経済活動が行われ、少しずつ異なる種類のグーが生まれたと考えられるからだ。異なる種類のグーは互いに協力したり競争したりするかもしれないし、新たな資源が発見されたり使い切られたりするにつれて、人口爆発や爆発が起こるかもしれない。それは奇妙な新しい物理学が作用しているように見えるか、あるいは異なるニッチに異なる「生物」が存在する生物システムのように見えるだろう。時折、グーは巨視的で複雑な物体を紡ぎ出し、その物体がグーよりも優れた仕事を果たすかもしれない。
ここでグーは、カンブリア紀以前の地球で微生物が担っていたような役割を果たすことになる。寒天の皿を外に置くと、不思議なことに白い斑点ができる。パンを外に置くと、不思議なことに緑がかった白い斑点ができる。パンの緑がかった白い斑点を寒天の白い斑点に塗ると、不思議なことにそのうちの何個かが死ぬ。何度も試すと、効かなくなる。これは、「物理法則なのだろう」というレベルでも、「掘り下げていくと、このような大きなレベルの現象が出現する、恐るべき万物との戦いを見ることができる」というレベルでも、まったく問題なく見ることができる。
このようなシナリオでは、意識と非マルサス主義が行き着く先は、より高いレベルの構造しかないだろう。
そのひとつが経済全体かもしれない。アリのコロニーが個々のアリよりもずっと有機体的であるように、宇宙経済（あるいは、もし光速の限界があるならば、恒星の周りの経済）は、その構成要素のどれよりも有機体的であるかもしれない。脅威を察知し、行動を起こし、非常に大規模な政策を議論することができるかもしれない。もし最終段階のグーが通常の経済学よりも生物学に似ていることに同意するならば、どのような中央計画であれ、政府よりも脳のように見えるかもしれない。もし構成要素が中央計画者を詳細に計画し、コントロールすることを許されるなら、それはおそらく最大効用最大化、つまり意識を取り除いた決定論的なものになるだろうが、もしそれがゲーム理論的な最小最悪の交渉の積み重ねから生まれるのであれば、多少のゆとりがあるかもしれない。
しかし、私はグー自体に現れるパターンの方がずっと面白いと思う。
私たちの経済が不思議な景気循環を生み出すのと同じように、エンドステージ・グーもまた、発散と突然の崩壊を繰り返すかもしれない。あるいは、もっと奇妙なパターンがあるかもしれない。経済活動の渦やうねりは、何千もの異なる複雑な行動の相互作用から自然発生する。ある日突然、非常に複雑な曼荼羅や雪の結晶のようなパターンが現れるかもしれない。
出典数学の構造に潜むもの
あるいはレプリケーターが見えるかもしれない。コンウェイの『ゲーム・オブ・ライフ』を説得して作ってもらうこともできる。
決定論的で、法則を遵守し、ミクロに小さく、瞬時に速いエンドステージ・グーのルールが、かなり新しい種類の物理学と考えることができるとすれば、この種の物理学は、通常の物理学と同じように構造を複製することを可能にするのかもしれない。
私がブログを更新するたびにブログのべき乗則に貢献しているとは感じないのと同じように、特定の経済主体は誰も、複製パターンに貢献していると感じないだろう。そしてそれは、最も経済的に生産的な行動のみを行うという命令における混乱ではなく、すべての人の経済的に生産的な行動の上に成り立つパターンなのだ。
しかし、それは複製者を生み出すことになる。その結果、セックスや突然変異、適者生存、多細胞性、そして最終的にはサピエンスといった重要な進歩が再来することになる。
ホモ・エコノミクスの意味だけでなく、パン・エコノミクス、ムス・エコノミクス、さらにはセノルハブディティス・エコノミクスの意味も新たになる。
そのような存在にとって、人生はどのようなものだろう。おそらく私たちの生活と同じようなものだろう。私たちが通常の物質を操作するのと同じように、グーを操作できるかもしれない。グーを研究する科学があるかもしれない。いずれはグーの本性を解明するかもしれないし、あるいはグーには好きな性質があるという以上のことを解明しないまま、種としての一生を終えるかもしれない。もしかしたら彼らは、その性質が宇宙のハードコードされた法則だと考えるかもしれない。
(ここで、このどれもが文字通りのグーを必要としないことを指摘しておこう。小惑星に浮かぶ巨大な工場や貨物輸送船の経済があり、マトリョーシカの頭脳が人工惑星に座ってそれらを指揮しているのかもしれない。それはどうでもいい。そこにあるパターンは、通常の物理学の考え方に当てはめるのは難しいが、それでも渦や渦巻きやレプリケータを生み出せない理由はわからない)。
もしかしたらいつか、こうした高次元のパターンが独自のシンギュラリティを達成するかもしれないし、同じようにうまくいかず、マルサスの罠にはまるかもしれない。
あるいは、別の種類の特異点を得るかもしれない。ペーパークリップを最大化するシングルトンに行き着くかもしれない。ペーパークリップを最大化する過程で、同じような複雑なパターンが生じる可能性ははるかに低いと私は考えるが、もしかしたら生じるかもしれない。
あるいは、何段階かの反復の後、彼らは正の特異点を得て、シングルトンが彼らの混乱を一掃し、超知能として宇宙の研究を続けるのかもしれない。もしかしたら彼らは、自分たちの下にどれだけのレベルの実体があるのか、過去に何度同じことが起こったのかを、かなり早い段階で正確に把握するかもしれない。
その下のレベルに介入することが物理的に可能かどうかはわからない。理屈の上では、彼らの下にあるものはすべて、すでに文字通り末期段階にあるはずだ。しかし、ある種のゲーム理論的な競争に巻き込まれ、生産性が最大にならない可能性もある。そうすれば、上位のレベルは、それに対抗し、彼ら自身の意思に従う新しい物質を設計できるかもしれない。
(下層のシステムが、何が起こっているのかを把握するのに十分な知性と、それを阻止するのに十分な協調性を保持していなければ）。
しかし、なぜ彼らがそれを望むのか？彼らにとって下層は単なる物理学であり、これまでも、これからもそうである。人間の科学者が、原子核を周回する電子を暴君のような苦役から解放しようとするようなものだ。何十、何百というレベルの未知の現実のピラミッドの頂点に座り、勝利を楽しむのかもしれない。
(また、一度でいいから、何かがすでに何度起こっているのかを気にすることなく、アームチェア・フューチュロロジーができるようになりたいものだ)