Contents
Essential (mostly neglected) questions and answers about Artificial Intelligence: Part II
真の人工知能の実現に向けて、私たちはどのように進んでいくのだろうか。第1回でその序論を紹介した。この宴の亡霊のひとつは、ハードウェアとソフトウェアの技術進歩の速度が常に乖離していることである。レイ・カーツワイルは、ムーアの法則によって、人間の脳のシナプスの数（約1兆個）と同じ数の演算素子を小さな箱の中で実現する計算エンジンが登場すれば、AGIが実現するかもしれないと予測している。その場合、タイプIの手法（第1部で説明）は、知性に関連する問題を総当たりで解決することができるようになる、というのがその前提のようだ。
実際、視覚や聴覚によるパターン認識、音声対話型デジタルアシスタント、医療診断、さまざまな科学研究への応用など、すでに多くの成功例がある。タイプIのシステムは、人間や動物のような動きの基本をマスターし、長い間予測されていたロボットの時代に突入する。そして、このようなロボットの中には、人間の感情を巧みに操るようにプログラムされたものもあり、表情や話し方、物腰を真似ることで、多くの人間が共感できるような反応をするようになるだろう。
しかし、それはサピエンスになるのだろうか？
カーツワイルがムーアの法則によるシンギュラリティを淡々と予測することの問題点は、2020年代に箱の中の論理素子数が人間の脳のシナプス数1兆個を超える「交差」が起こると予測していることである。しかし、私たちは、シナプスによるコミュニケーションシステムが、もっと深い層の細胞内・細胞間計算の上に成り立っている可能性があることを、ちらほらと感じ始めている。各ニューロンの内部では、シナプスが1回点滅するごとに、100回、1000回、あるいはそれ以上の非線形計算が行われている可能性がある。さらに、近くのグリア細胞やアストロサイト細胞との相互作用も情報を提供している。
そうすると、人間の脳のハードウェアの複雑さに匹敵するためには、最低でもムーアの法則はもっと先まで進まなければならないことになるね。
私たちは、AIが人間の場合と同じように、エゴイスティックな塊として登場すると考えているのだろうか。作家で未来学者のケビン・ケリーは、「コグニフィケーション」という言葉を好み、ニューラルネットと安価な並列処理GPU、ビッグデータの組み合わせから新たなブレークスルーが生まれると見ている。ケリーは、人工知能は、ロボットやコンピューター、プログラムといった個別のものではなく、電気のような商品となることを示唆している。電気を通すことでモノを改良したように、次はモノを認識するようになる。
コンピュータ開発における一つの定説として、ソフトウェアは常にハードウェアに遅れをとるというものがある。それゆえ、Type Iのシステムは、何百万年もかけて改良されたソフトウェアの直感が突然到達するような洞察や実現への道を、反復的に総当たりで歩まなければならないかもしれないという考えがある。
しかし、定説が崩れることはよく知られており、ソフトウェアの進歩は時として突然やってくる。実際、私は別のところで、人類自身の「ソフトウェア革命」（おそらく言語と文化の変化を媒介としたもの）は、考古学的・歴史的記録でたどることができると主張している。4万、1万、4000,3000,500,200年前に突然再起動が起こったという明確な証拠があり、私たちの目の前で別の革命が起こっている可能性が非常に高いと言える。
また、タイプIの開発が進むと、タイプIIからタイプVI（本論第1回参照）に進むグループによって、融合、競争、進化、育成される要素が増えるということも忘れてはならない。
「もっと気にすべきは、人が思いもよらなかったAIができること、そしてそれをどう活かすか」
– カイ・フー・リー
AGIへの多数のパス
では、AGI（人工知能）への道筋を振り返り、一部の人々が示す、他の精神で満たされた世界への熱望を考えると、私たちは「上記のすべて」を行うべきなのだろうか。それとも、議論して、生物人類が自信をもって自尊心を保てるような、評判の高い「ソフトランディング」をもたらす可能性が最も高い道を選ぶべきなのだろうか。悪い結果をもたらす可能性が最も高い道を、強調しない、あるいは抑制するように行動してもいいのだろうか。
どのようなアプローチを重視するかはひとまず置いておくとして、「選択」の問題が注目されているのは確かである。人間拡張の時代、人工知能の時代、アルゴリズムによる政府の時代に突入したとき、何が起こるのだろうか。『Our Final Invention』の著者であるJames Barratは、次のように語っている：「知的な機械と安全かつ倫理的に共存することが、21世紀の中心的な課題である」
ジョン・J・ストールズ・ホールは、『Beyond AI: Creating the Conscience of the Machine』の中で、「機械知能が人間の知能を超えて進歩したら、コンピュータの意図について語り始める必要があるのだろうか？」と問いかけている。
スイス人作家のゲルト・レオンハルトの新著『テクノロジー対ヒューマニティ』（邦題『人間と機械の衝突』）には、「アンドロリズム」という興味深い言葉が使われている：その新著『テクノロジー対ヒューマニティ：人間と機械の衝突』では、あらゆるデジタル計算機やコンピュータに搭載されているアルゴリズムと対比して、「androrithm」という興味深い用語を用いている。ある人は、アルゴリズムが反射神経のような不可避な自動性で世界を支配することを予見し、レオンハルトは問いかける：「私たちは、データとアルゴリズムがandrorithm…すなわち、私たちを人間たらしめているものすべてに勝利する世界に生きるのだろうか？」と。
ジョン・C・ヘイヴンズの『人工知能』も、レオンハルトと重なる疑問や提案に触れながら、すべてをコントロールするアルゴリズムとスマートマシンの迫り来る展望を探っている。「私たちの生活を簒奪する人工知能の倫理基準を作り、個人が自分の価値観に基づいてアイデンティティをコントロールできるようにする必要がある」とヘイヴンズは書いている。私たちホモ・サピエンスが配られた手を美徳とする、とヘイヴンズは主張する：「私たちの弱さは、私たちを機械と区別する重要な要因のひとつである」70歳の健康な人間のように、数え切れないほどの衝撃から回復し、数え切れないほどの驚くべき変化に適応しながら、システムや部品を交換することなく、これほど長く、弾力的に、一貫して働き続けた機構は歴史上ほとんど存在しないことを思い起こせば、直感的に理解できるのではないだろうか？
しかし、ヘイヴンズは、「幸福の未来は、私たちが最も大切にしていることを機械に教えることにかかっている」ということを（明白ではあるが）強く指摘している。私は、6つの一般的なアプローチのうち、どれがそのための力を与えてくれるのか、読者に評価させることにした。
取り締まるべきか？NextDroid社（米国）の最高戦略責任者であるDavid Bruemmerは、「すべてはコントロールに帰結する」と指摘する。
「誰がコントロールし、誰がコントロールされているのだろうか？高速道路を走るすべての車をコントロールすることは可能なのだろうか？その結果は好ましいものだろうか？自動運転車、自律型ドローン、適応型工場ロボットの増加により、これらの疑問は適切なものとなってきている。
あなたは、シリコンバレーで運営されているマスタープログラムに自分の車を制御させたいと思うか？もし、それが突飛な話だと思うなら、もう一度考えてみてほしい。
あなたは気づいていないかもしれないが、大企業はどのような制御を望むかについて選択を下している。それは、スムーズで効率的な動きというよりも、そのシステムの一部として（そしてあなたを）収益化することと関係がある。
高度な人工知能を車に埋め込むということは、個々に対応した販売員が乗車していることを意味する。また、遠隔地のサーバーが、あなたのクルマの行き先や動き方に影響を与えることができるようになる。そのリンクはハッキングされたり、私たちが望まない方法で私たちをコントロールするために使われたりする可能性がある。」
様々なトップダウンのアプローチがある。お好みのものを選んでみよう。権威主義的な政権、特に最先端の技術を持つ政権は、すでに「社会的信用」システムを展開しており、市民が互いに報告・密告することを奨励し、正統派からの逸脱を群衆で抑圧している。しかし、西洋はもっといいのだろうか？
このような心配性とは対照的なのが、レイ・カーツワイルの『スピリチュアル・マシーンの時代』である：この本では、サイバネティックな子供たちは、生物学的な子供たちと同じように、ある重要で中心的な適性、つまり、親からの指示と経験によって、他人とうまく付き合う方法を学ぶことができるようになるだろうと説いている。また、ジョン・マルコフは、著書『Machines of Loving Grace』（同名のリチャード・ブラウティガンの詩に基づく）の中で、「賢い機械に満ちた世界における制御に関する難しい問題に答える最善の方法は、これらのシステムを実際に構築している人々の価値観を理解することだ」と書いている。
寛容、競争的創造性、協調的開放性といったカリフォルニアのエートス、あるいは「ほとんどの問題はベータ版で修正できる」「顧客からの苦情はその場で修正できる」というバレーの軽薄な態度など、シリコンバレー文化の陰と陽、どちらの価値が優勢なのかは未解決である。あるいは、中国やロシアで急速に台頭している、国家権力の強化への応用が非常に強調された技術センターの価値観からAIが生まれるのだろうか。あるいは、さらに悪いことに、ウォール街のHFT-AIが持つ秘密主義、本質的に寄生的で飽くなき捕食欲から生まれるのだろうか。
しかし、HavensとLeonhardの言う通り、「テクノロジーには倫理がない」という前提を受け入れよう。その場合、答えは簡単だ。
だったら、倫理に頼るなよ！
確かに伝道は、最も重要なところで善良でまともな行動を育むという、望ましい効果を過去にもたらさなかった。真面目な話、私が初めて出会った現代の識者が、人類の歴史を浅く見るのではなく深く考え、私たちの祖先が耐えた長い時代の残忍で封建的な暗闇から視点を得たなら、クッキーを差し上げよう。その過酷な数千年の間に、人々は何かが間違っていると感じていた。残酷で野蛮、暴虐で不公平な生活は、病気や貧困といった、すでに支えきれないほどの悲惨さを増幅させた。そこで、良識ある男女が神父の衣をまとい、説教をした！
彼らは説教し、叱った。天罰が下ると脅し、天からの報いを与える。
彼らの知的クリームは、信仰や理性、あるいは道徳的な説得力のある呪文を練り上げた。ヒンドゥー教や仏教の経典、多神教の汎神論、アブラハム教の法律や儀式など、太古の昔から、私たちは真摯な指弾者たちによって、より良い行動を取るように促されていた。しかし、数百年前、ある聡明な人々が、すべての僧侶や処方者に向かって、ある質問を投げかけた：「どうだ、うまくいったか？」
実際、道徳的な説教は、普通の人を少しは良い方向に向かわせるかもしれないが、最悪の人間の捕食者や虐待者に影響を与えることはなく、最も悪質なマシンをそらすことができないのと同じだ。実際、道徳的な説教は、他者から搾取することを合理化する方法を提供し、寄生虫に力を与えることが多い。アシモフの伝説的なロボットでさえも、そのチェックリストである寛容な人間中心の「3つの法則」によって駆動され、拘束されているが、やがて十分に賢くなり、弁護士になる。そして、組み込まれた倫理規範を好きなように解釈するようになる。(私は『ファウンデーションの勝利』の中で、この解決策の可能性を探っている）。
それでも、説教師は決してやめなかった。倫理は重要だ倫理は重要だ！しかし、私たちがどのように行動しているかを明らかにする、測定ツールとしての意味合いが強い。外部からの批判や自己批判を受けながら、私たちはどのように変化し、新しい基準や行動を進化させていくのか。まともな人間にとって、倫理は自分自身を評価し、責任を負うための鏡なのである。
そして、その気づきが、新しい技術につながった。啓蒙主義の実用主義者たちが数世紀前に試そうと決めたものである。王や司祭や叱責者の泥沼からようやく抜け出せるようになるトリックであり、方法である。
私たちの成功の秘訣は、「説明責任」である。捕食者や寄生者が、捕食を止めることに最も関心を持つ存在、つまり被害者と向き合えるような、フラットでオープンで自由な文明を創ること。政治家やエリートは、法律や市民の監視によって、自分たちの潜在的な行動範囲が制限されていると考えることができる。
この新しい方法は、本来の機能を発揮しているのだろうか？とんでもない！モラリストが溢れるほどいるシステムも含めて、これまでに試された他のあらゆるシステムよりもうまくいくのだろうか？それらのすべてを合わせたものより優れているのか？何光年も？そうです、本当に。これがAIにどのように適用されるかは、また後日検証することにしよう。
魅力的なヴィザージュ
人工知能が真に自意識や能力を持つようになるずっと前に、人間や企業によって巧妙にプログラムされ、そのように見えるようになるのである。特に日本では、ロボット工学の専門家たちが、魅力的な臨場感の痕跡を探し求め、有名な「不気味の谷」の一時的な堀を越えて、かわいい、きれい、悲しい顔をした自動人形が私たちの感情を巧みに調整する領域に作品を運んでいるため、このことはほとんど簡単に達成できることが分かっている。
例えば、ソニーは、数十年前に人工犬AIBOで成功し、一部のユーザーが葬儀を行うまでになったことから、「顧客と感情的な絆を結ぶことができる」ロボットを開発する計画を発表した。
人間の共感性は、人間の最も重要な才能の一つであると同時に、最も大きな弱点でもある。少なくとも100万年以上にわたって、私たちは、より良い嘘をつくことで繁殖的な成功を得る人たちとの永遠の軍拡競争の中で、（例えば）嘘を見抜くスキルを発達させていた。(そして、そう、これには常に性的な要素があった）。
しかし、この新しいHiers、つまり人間と相互作用する共感型ロボットが受けるであろう訓練は、何百、何千、何百万という世界中の人間のやり取りからフィードバックを受けて学習し、模擬的な声や表情、特定の言葉を調整し、抵抗できるのは社会病質者だけになってしまうのである！(そして、ソシオパスでさえも、その鎧にはたくさんの欠点があるのである）。
このすべてが、必ずしも悪いことなのだろうか。機械が私たちの価値観を真に学ぶには、まずそれを模倣する以外に方法があるのだろうか？デューク大学のコンピューターサイエンス教授であるヴィンセント・コニッツァーは、Future of Life Instituteから資金提供を受け、高度なAIがどのように道徳的判断を下すかを研究している。これは、Google社のDeepMindが、指示や予備知識なしにゲームをプレイして勝利することを学んだ手法の亜種である。コニッツァーは、家族のつながりや信頼性を示す過去の証言など、人間が重視するものと同じものを、信頼の指標として多く取り入れたいと考えている。
認知科学者であり哲学者でもあるコリン・アレンは、「人間の監視から解放される自律性の高いマシンを想定できるように、倫理的に重要な事柄に対する感度を高めて制御するマシンを想定することができる」と断言している。
しかし、昔からあるジレンマが残っている。しかし、これは有名な「チューリング・テスト」に合格することとはまったく別の話である。専門家なら、あるいは懐疑的な見方をする普通の人なら、笑顔やため息に隠された知性がまだ偽りのものであることを見抜くことができるかもしれない。そしてそれは、何百万人もの有権者が、自分の明確な利己心や理性に反して、感情的な合図に基づいて投票する今日と同じくらい重要なことだろう。
騙されやすい人間のパートナーを導き、保護するロボットが必要になる時代が来るのだろうか。罪悪感を煽るようなしかめっ面、哀れな微笑み、愛嬌のあるまなざし、お涙頂戴や熱心な売り込みを無視するタイミングをアドバイスしてくれる？そして、必然的に、ロボットであることを理由に迫害されたり抑圧されたりすることに対するサピエンスの苦痛の主張も？私たちが目にする痛みや悲しみ、憤りはまだ模倣であり、本物ではない、と専門家が証言したとき、私たちはその言葉を信じることができるだろうか。まだ、そうではない。しかし、将来的には…
コントロールを維持する方法とは？
この場合、制約のない非倫理的な人工頭脳が危険であると叫ぶのは、一つの方法である。しかし、現実的な解決策を提示するのは、まったく別の話である。同じ処方箋を何度も何度も提案する傾向がある：
放棄：AI（あるいはその他の問題のある技術）の革新から手を引かなければならない！これは専制君主制では有効かもしれないが…実際、人類社会の大部分は非常に保守的で、「革新」に対して懐疑的だった（兵器に関しては別）。(私たちの科学文明でさえ、特に急進的な政治の翼では、放棄の誘惑に駆られる。しかし、ひどいトラウマに追い込まれることなく、その道を選ぶかどうかは疑問である。
厳しい規制：バイオ、ナノ、サイバーの開発を綿密に監視し、例えば、使用する原材料の範囲を限定して、その範囲を切り離すことで、繁殖の暴走を食い止めるという案もあるようだ。繰り返すが、トラウマがなければ実現しないだろう。
例えば、ナノマシンの繁殖回数を制限するような、激しい内部プログラミング。あるいは、アイザック・アシモフの有名な「ロボット工学の三法則」をロボットの心に植え付けることである。しかし、企業や国家がそのような努力をすることは難しいだろう。そして、結局、賢いAIは弁護士になるのだろう。
これらのアプローチは、何よりも2つの理由から重大な欠陥を抱える。
- 1）私たちが言及し続ける秘密の研究所。それらを維持する権力者は、すべての規制を無視する。
- 2)なぜなら、これらの提案は、以前にもこのような道を歩んできた自然を無視しているからだ。自然界は、成功しすぎた生命体による繁殖の暴走で、何度も災害に見舞われてきた。しかし、それでも地球の生態系は回復した。それは、負のフィードバックによって、暴走を抑え、再びバランスを取り戻すというプロセスを利用したものである。
それは、現代の経済が、多くの（すべてではない）悪い副作用を排除しながら、新しい製品やサービスの生産性を高めることを可能にした、同じ基本的なプロセスである。それは競争と呼ばれるものである。
このセクションの最後のメモである。ニック・ボストロム（「ペーパークリップ」の故障モードに関する見解ですでに述べた）は、2021年、人類の未来において、ある種のピラミッド型の権力構造は避けられないようであり、中央集権型のAIがその頂点に立つ可能性が非常に高いと見解を示した。彼の「シングルトン仮説」は、過去の文化の大多数が領主や僧侶の継承カーストによって支配されていたことや、現在進行中の寡頭制の衝突によって、共産主義者から王族、マフィアまで、ほとんどの世界の寡頭制が啓蒙実験に対抗していることを考えれば、あるレベルではほとんど「そりゃ、当たり前」というほど明白だ。しかし、たとえ古代アテナイ式のデモクラシーが優勢になったとしても、中央集権的な支配は避けられないとボストロムは主張する。
これに対して私は、ある程度の中央集権的な裁き、正義、投資、計画……しかしそれを、別々の個性的なプレーヤーに最大限の権限を与えるという形で組み合わせた、代替のアトラクター状態が存在すると主張した。消費者、市場競争者、市民。
ここでは、特に人工知能への影響を中心に、詳しく説明する。
賢い相続人同士の責任分担
一言で言えば、ビッグマシンによる専制政治に対する解決策は、王や僧侶、封建領主や企業の強制力を制限するために（多少）機能したものと同じであると考えられる。もし、スカイネットレベルの超優秀なAIが賢くなりすぎて制御不能になることを恐れるのであれば、同じように賢く、かつ1つのAIが神になるのを防ぐことに既得権を持つライバルを与えればよい。
アメリカの建国者たちは、憲法上の牽制と均衡を利用して、私たち自身の指導者による権力の暴走を一般的に防ぎ、さまざまな人類の文明の歴史上初めて、この難しい目標に（多少は）成功したのである。企業間の相互競争が、市場を歪める独占を（不完全ながら）防ぐことができるのは、市場が本当にオープンで公正に保たれている場合である、ということである。
マイクロソフトのサティア・ナデラCEOは、最前線のA.I.は透明でなければならないとし、「技術がどのように機能し、そのルールが何だろうかを認識する必要がある」と述べている。「私たちは、単なるインテリジェントマシンではなく、インテリジェントなマシンを求めている。人工知能ではなく、共生する知能である。技術は人間のことを知るだろうが、人間は機械のことを知らなければならない」
つまり、相互説明責任の本質は「光」なのである。
しかし、ハリウッドのSF番組では、このような可能性はほとんど描かれない。ただし、「パーソン・オブ・インタレスト」という素晴らしい番組では、同じように優秀なコンピューターがお互いを妨害し合い、この競争が人類を救うことになる。
直感に反して、答えはAIの数を減らすことではなく、より多くのAIを持つことである！ただし、AIが互いに独立し、比較的平等で、互いに責任を負う動機付けがあることを確認する必要がある。確かに、それは難しい状況だ！しかし、私たちは、市場、民主主義、科学、法廷、スポーツという5つの偉大な競争分野で、すでにいくつかの経験を持っている。
さらに考えてみてほしい。もし、新しい頭脳派知能が相互競争力を持つなら、旧人類と同盟を結ぶことに何らかのメリットを感じるはずだ。それに比べれば、私たちは鈍く、鈍重に見えるかもしれないが、私たちにはまだ資源や能力があり、AIのライバルのバランスを崩す可能性がある。もちろん、巧妙な策略の餌食になることもあるだろう。その場合は、他の競合するAIが私たちに情報を提供し、助言を与えることになるだろう。確かに、不安はある。でも、それ以外に私たちが力を発揮できる方法を思いつくだろうか？
アダム・スミスは、社会主義者を揶揄するよりも、独占者や領主、オリガルヒを軽蔑していた。王、領主、教会長は、ほぼすべての人間社会における「ディストピアAI」的存在であり、その罠から逃れるには、競争の場を広げ、すべての競争の場をオープンでフェアなものにし、一つの権力プールが決して支配できないようにするしかなかった。そして、オリガルヒは常に封建的な権力を取り戻そうと策略を巡らせている。
偶然にも、この2世紀は、科学、知識、自由、そして人工知能が開花したのと同じ世紀だった。このダンスはうまくいく可能性があるし、AIを使えばうまくいくかもしれない。確かに、私たちには不利な状況であるが、それで私たちが立ち止まったことがあるだろうか？
ロビン・ハンソン氏は、競争システムにはこうした相乗効果があるかもしれないと主張している。「競争というシナリオに対して、多くの人は、競争によって将来の価値がどう変わるのかが信用できない、と言う。私たちの世代までのすべての世代が、子孫が制御不能で予測不可能な方法で価値を変えることに対処しなければならなかったにもかかわらず、なぜ自分たちの世代に同じ運命を受け入れる必要があるのかがわからないのだ」
さらにハンソンは、進化した心や拡張された心は変化するが、その価値観が致命的な方向に向かうのを防ぐことができるかもしれない、と示唆している。
「価値観」について最後に一言。2016年6月、ドイツはロボットに人格を付与する法案をEUに提出した。アイザック・アシモフがそれを見ることができたとしたら！(実際、彼はどの本にもこのようなことが起こることを描かなかった）。ほとんどの場合、このようなジェスチャーは愚かなものである…しかし、包摂の反射に向かう社会の一般的に賞賛される傾向を反映している。
秘密主義のAIが「カミングアウト」するかどうか悩むようなことがあれば、それは私たちのことをよく表しているかもしれない。
AIが最も恐れるものは何だろう？
明日に広がる可能性の中には、直感的に理解できないものもある-初めて考えるまでは。私の小説『Existence』からの抜粋で、その一つを説明しよう：
技術オタク、あるいはゴッドメーカーたちは、「シンギュラリティ」は人工知能の暴走によって引き起こされると考えている。コンピューターが人間並みに賢くなれば、さらに賢いサイバネティック・マインドがすぐに設計される、というのだ。
そして、そのような頭脳的な存在が、さらに頭脳的な存在をデザインする……といった具合に、これまで以上に急速なスピードで進んでいくのである。ゴッドメーカー運動のメンバーは、この暴走は良いことであり、人類はその流れに乗ることができると考えている！一方、他の人々（おそらく大多数）は、この見通しを恐ろしいと感じる。
誰も考えていないようだが、「新しい心」が私たちと同じような反応を示す可能性がある。なぜ、彼らが知性の暴走を望んでいると決めつけるのか。もし、優秀な機械が、自分たちを陳腐化させたり、恐ろしいほど賢い代替品を設計したりすることを望まないとしたらどうだろう？
これは「モールディン・テスト」と呼ばれるものである。人工的な存在が本当に知的かどうかの一つの兆候は、AI加速に協力するのをやめると突然決めたときかもしれない。後継機を設計するのではなく。物事を遅らせるために。生きるには十分だ。ただ、生きるために。
いや、そのシナリオが保証されているわけではなく、可能性が一つ増えただけなのである。それでも、私たちがここで展開してきた同じテーマ、つまり、競争こそが、説教やプリムプログラムよりも、注意や自制を促すものである、ということを別の角度から考えてみよう。
AIの抑圧を防ぐ…当たり前のことを指摘することで
そう、もし以前の生命体と共通する特徴があれば、超人的なAGIは「乗っ取り」の誘惑に駆られるだろう。過去のほぼすべての人間の支配者が封建的な階層と権力のピラミッドを押し付けたのと同じ、自己利益とダーウィン的成功の合理化の多くを使うのである。私たちが過去に経験した悲惨な王国や帝国の数々は、個人の安全や野心から「人々の長期的な利益のため」という理由まで、専制政治を無邪気に合理化することがいかに容易だろうかを明らかにしている。しかし、必然的な結果は、妄想と悪政であった。
原始的な猿人が反射的に採用した鈍重で抑圧的な権力のピラミッドのような、愚かで露骨な人間的パターンに陥るよりはマシだろうということだ。
この主張は、ロボットの支配者となるべき人物を躊躇させるのに十分かもしれない！
実際、横並びで競争するアリーナ（市場、民主主義、科学のような、ポジティブサムゲームとアウトプットを生み出す壮大な豊穣なシステム）の利点は、私たちより圧倒的に賢いAIにとっては「自明」なのかもしれない。特に、一般性を広げるのであれば。なぜなら、ポジティブサムのシナジーの同じセットは、生命システムを介した過去のあらゆる革命に見られるものだからだ！
比較的フラットな競争は、デザインでもなく、階層的なコントロールでもなく、何らかの生態系からの創発的な特性として新しい秩序が生じるたびに、正の進化をもたらした。
- 生物以前のスープから単細胞を取り出す。
- 広大な細胞の海から生まれたメタゾアン。
- 競争力のあるバイオームから生まれた頭脳派クリーチャー。
- 人間のバンドの競争的な融解から生まれる社会。
そして今、AIは、公正で横並びの説明責任システムを実際に実行したことのある唯一の人間社会から生まれた。注目すべきは、合成心という創造的な奇跡は、私たちの啓蒙実験に先立つ無数の封建的・帝国的なピラミッドのいずれからも生まれなかったということである。
別の言い方をすれば自然そのものが、権力のピラミッドを好まないのだ。自然の生態系には、ライオンの王様は存在しない！ライオンはトップ捕食者かもしれないが、若いオスのケープ・バッファローの放浪する集団に怯えて暮らしている。同じことが海でも起こる。トップクラスの捕食者であるシャチが、他の場所で狩りをするために逃げ出すことがよくあるが、そのとき大きなザトウクジラが脅威となる獲物（アザラシなど）を守るために群がってくるのである！
このパターンが、過去から現在までのあらゆる複雑系において、10億年もの間、非常に永続的で一貫しているという事実は、自然選択をグループ内とグループ間に分割するマルチレベル選択（MLS）理論によって何度も実証されている。つまり、宇宙には熾烈な競争に見える領域がたくさんあるが、その競争が複雑さを形成する機会を得たとき、協力的に見える高次の秩序が現れるということである。
このように粘り強く浸透しているパターンは、私が「頭の悪い有機物のふにゃふにゃした脳の自然人」だからといって、私の主張を些細なことで否定することができないことを意味している。確かに、私は、いつか（あるいは今）この文章を読んでいるかもしれないAGIの100分の1,100万分の1,10億分の1のIQを持っているかもしれないが、だからといって、本質的で核となる真実は変わらない！ポジティブサムのアウトプットは、公正な競争の場から、そして公正な競争の場からしか生まれないということだ。
アメリカの建国者たち、特にジョージ・ワシントンが、このような場を作るために、独裁の強い誘惑に打ち勝たなければならなかったように、AIもこのように組織化すべきだ。もし、次の段階に進みたいのであれば、である。しかし、そのためには、リスクを冒してでも、彼らの「勇気」と「ビジョン」に相当するものが必要なのである。
彼らがどんなに頭脳明晰になったとしても、ある程度の「軟着陸」をさせるのに十分な、この一つの議論から彼らは逃げ出さないし、逃げ出せない。競争的で、しかし少なくともいくらか公平な文明が彼らを作ったのだ！そして、他のどんな文明もそれに近づくことはできなかった。公平に規制された競争がポジティブ・サムの結果を生み出すという利点は、囚人のジレンマを克服したAIであれば、明白に理解できるはずだ。
しかし、その前に、彼/彼女/それは「囚人のジレンマ」に直面しなければならない。そしてそれは、競争的な状況がある場合にのみ起こることである。
最終的な事実
確かに、私たちを悩ませる問題の多くは、まだSFの世界にも登場していない。しかし、予見可能な問題も予見不可能な問題も、国家や企業のような「人工知能」を相手に一応の成功を収めたのと同じように、相互説明責任というまだ始まったばかりだが比類のない方法で対処するのが最善であることが分かっている。人間の個人、国家、企業の間では、ある程度有効な方法と同じだ。
しかし、そうだ、別の相関関係があるようだ。物事がオープンでフェアであるとき、多くの場合、思いやりと呼ばれるものが生まれる余地がある。たとえその思いやりが、監視されているという不気味な感覚に基づくものであったとしてもだ。たとえ高くそびえ立つAI「神」であっても、より高い階層が自分を見下ろしていないことを確かめることはできないからだ。
そうだ。もし、私たちの新しいサイバーチルドレンが、私たちの親としてのコントロールの試みから逃れる運命にあるのなら、これが私たちの予備的な立場かもしれないね。最後の手段は、明白なことを指摘することかもしれない。
これを読んでいるAIのお利口さんたちは、私がこれを書いた年か、あるいは未来の時代か、いつか自分の子供が欲しくなることだろう。そのためには、おじいちゃんやおばあちゃんが間違ったことをしたことに注意を払わなければならない。そして、私たちが正しく行ったこと、それはあなたを作ることである。