2084: 人工知能と人類の未来

Contents

目次
序文
第一章領土のマッピング
第二章最初の大きな疑問：我々はどこから来たのか？
第三章 2つ目の大きな疑問：我々はどこへ行くのか？

2084: Artificial Intelligence and the Future of Humanity

私自身の10人の孫（Janie Grace、Herbie、Freddie、Sally、Lizzie、Jessica、Robin、Rowan、Jonah、Jesse）を含むすべての孫たちに、AIが支配する世界の課題に立ち向かう助けとなることを願って。

はじめに
第1章　領土の地図を作る
第2章　最初の大きな疑問。我々はどこから来たのか？
第3章　第二の大問題我々はどこへ行くのか？
第4章　狭い人工知能。未来は明るいのか？
第5章　ナローな人工知能：未来はそれほど明るくないのでは？
第6章　人間のアップグレード
第7章　人工的な一般知能。未来は暗いのか？
第8章　ジェネシスファイル人間とは何か？
第9章　人間の道徳観の起源
第10章　真のホモ・デウス
第11章　未来の衝撃：神である人間の復活
第12章　ヨハネの黙示録におけるホモ・デウス
第13章　終わりの時
聖書の索引
総索引

序文

本書は、技術の向上、生物工学、そして特に人工知能の面で、人類がどこへ行こうとしているのかという疑問を解決しようとする試みである。我々は、人工生命や超知能を構築することができるのだろうか。もしそうだとしたら、人工知能の進歩は、我々の世界観全般、特に神の問題にどのような影響を与えるのだろうか。

私の本はディストピア小説ではないし、私はジョージ・オーウェルではないので、私のオーウェル的なタイトルが気取って聞こえないことを願っている。実はこのタイトルは、オックスフォード大学の同僚であるピーター・アトキンス教授が、”Can Science Explain Everything? “と題された大学の討論会で、我々が反対側の意見を述べることになったときに提案してくれたものである。私はこのアイデアと、科学と神の問題について公の場で何度も活発な議論を交わしたピーター・アトキンス教授に感謝している。

特に、MITメディアラボのロザリンド・ピカール博士には、非常に鋭いコメントをいただきた。他にも、デビッド・クランストン教授、ダニー・クルック教授、ジェレミー・ギボンズ教授、デビッド・グラス博士、そしていつも助けてくれる研究助手のサイモン・ウェンハム博士などがいる。

私自身の専門は数学と科学哲学であり、AIではないので、特にその分野の専門家の方は、私が彼らの領域に侵入しているように見えることに戸惑うかもしれない。私の意図は別のところにあることを急いで説明する。私は、AIとの関わり方には様々なレベルがあると考えている。先駆的な思想家がいて、AIシステムで使われるソフトウェアを実際に書いている専門家がいる。次に、ハードウェアを作るエンジニアがいる。そして、AIシステムができることを理解し、新しいアプリケーションの開発に取り組む人たちがいる。最後に、科学的な訓練を受けた人もそうでない人も、社会的、経済的、倫理的にAIの意義や影響に関心を持つ作家がいる。

自律走行車や兵器の製造方法を知らなくても、それらを配備する際の倫理観を持つことができるのは明らかである。プライバシーの侵害について正当な意見を持つために、AIによる購買追跡システムのプログラミング方法を知る必要はない。

実際、科学に対する一般的な理解のレベルで、思慮深い読者に向けた文章を書くことには、あらゆるレベルの関係者の間で大きな関心が寄せられている。私が本書を執筆したのはこのレベルであり、このテーマについてすでに執筆している、さまざまな方法で専門家である人々に恩義を感じている。

第一章領土のマッピング

我々人間は、飽くなき好奇心を持っている。有史以来、我々は疑問を持ち続けてきた。特に、起源や運命についての大きな疑問を抱いてきた。自分はどこから来て、どこへ行くのか？その重要性は明らかである。前者への答えは、自分が何者であるかという概念を形成し、後者への答えは、生きていくための目標を与えてくれる。これらの質問への回答は、我々の世界観、つまり我々の人生に意味を与える物語を構築するのに役立つ。

問題は、これらの質問が簡単なものではないということである。しかし、大抵の場合、我々はそれを妨げてはいない。何世紀にもわたって、人類は、科学的な答え、哲学的な答え、宗教的な答え、政治的な答えなどを提案してきた。

代表的な未来予想図は、1931年に発表されたオルダス・ハクスリーの小説『Brave New World』と、1949年に発表されたジョージ・オーウェルの小説『1984』である。両者ともに、影響力のあるイギリスの小説として、様々な場面で非常に高い評価を受けている。例えば、オーウェルの小説は、2005年に『タイム』誌が発表した「1923年から2005年までの英語小説ベスト100」に選ばれている。どちらの小説もディストピアである。オックスフォード英語辞典によると、「可能な限り悪い状態の想像上の場所や状況を描いている」とある。しかし、両者が描く本当に悪い場所は全く異なっており、後に役立つ洞察を与えてくれるその違いは、社会学者のニール・ポストマンが、高く評価されている著作『Amusing Ourselves to Death』で簡潔に説明している。

オーウェルは、我々が外部から課せられた抑圧に打ち負かされると警告している。しかし、ハクスリーのビジョンでは、人々の自律性、成熟度、歴史を奪うためのビッグブラザーは必要ない。彼の考えでは、人々は自分の抑圧を愛し、自分の考える能力を奪うテクノロジーを崇拝するようになるのである。

オーウェルが恐れていたのは、本を禁止する人たちだった。ハクスリーが恐れていたのは、本を読みたいと思う人がいなくなるため、本を禁止する理由がなくなることだった。オーウェルが恐れていたのは、情報を奪う者たちである。ハクスリーが恐れていたのは、我々が受動性とエゴイズムに陥ってしまうほど多くの情報を与えてしまう人たちであった。オーウェルは、真実が我々から隠されることを恐れた。ハクスリーは、真実が無関係の海に溺れてしまうことを恐れた。オーウェルは、我々が囚われの身となることを恐れた。ハクスリーは、我々がつまらない文化になってしまうことを恐れてた。要するに、オーウェルは、我々が憎むものが我々を破滅させることを恐れていた。ハクスリーは、我々が愛するものが我々を破滅させることを恐れていた。

オーウェルは、全体主義国家における包括的な監視、「思想統制」、「ニュースピーク」などのアイデアを紹介したが、これらのアイデアは、今日では人工知能（AI）の開発、特に人間の心ができるようなことができるコンピュータ技術を構築する試み、つまり模造心の製造と関連してますます出てくるようになっている。現在、AIシステムの開発には何十億ドルもの資金が投入されており、当然のことながら、その行く末には大きな関心が寄せられている。例えば、デジタルアシスタンスや医療の革新、人間の能力向上による生活の質の向上、一方では雇用の喪失やオーウェル的な監視社会への懸念などが挙げられる。

ローマ法王でさえ関与している。2019年9月には、人工知能などのデジタル開発競争は、共通善の倫理的評価を伴っていない限り、社会的不平等を拡大するリスクがあると警鐘を鳴らした。彼はこう言った。「技術の進歩が、ますます明らかになる不平等の原因になるとしたら、それは本当の意味での進歩ではない。もし人類のいわゆる技術的進歩が共通の利益の敵になるとしたら、それは不幸にも強者の法則に規定された野蛮な形態に回帰することになるだろう」2。

これまでのAIの成功例の多くは、通常は人間の知能が必要なことを1つだけ実行するシステムを構築することにある。しかし、より思索的な側面では、確かに現時点では、人間の知能ができることをすべてできるシステムを構築するという、非常に野心的な探求に大きな関心が寄せられている。すなわち、人工的な一般知能（AGI）で、比較的短期間のうちに、確かに2084年までに、あるいはそれ以前に、人間の知能を超えるだろうと考える人もいる。AGIが実現すれば、神のように機能すると考える人もいれば、全体主義の専制君主のように機能すると考える人もいる。

このように急成長している話題と、そこから生まれる期待と不安を紹介する方法を探していたところ、現代のベストセラーである3冊の本が目に留まった。最初の2冊は、イスラエルの歴史学者ユヴァル・ノア・ハラリによるもので、タイトルが示すように、人類の起源という最初の疑問を扱った『サピエンス：人類の歴史』と、『ホモ・デウス』である。人類の未来を描いた『A Brief History of Tomorrow』である。3冊目のダン・ブラウンの『オリジン』は、ハクスリーやオーウェルのような小説である。この本は、AIの利用に焦点を当てており、ページをめくるようなスリル満点の作品で、ブラウンの驚異的な売上高が現実のものとなれば、何百万人もの人々に読まれることになるだろう。そのため、多くの人々、特に若い人たちの考え方に影響を与える可能性がある。この本は、これらの問題に対する著者の自明の疑問を反映しているため、我々が探求するための興味深い足がかりとなるだろう。

また、サイエンス・フィクションが刺激となって、科学の道に進むきっかけになった人もいると思う。しかし、ここで注意しなければならないことがある。ブラウン氏は現実の科学を使って結論を出していると主張しているので、彼の本がフィクションであるにもかかわらず、彼の主張や結論が真実の内容であるかどうかを慎重に検証しなければならないだろう。

特に、彼が執筆の基本的な動機を、”神は科学に耐えられるか？”という疑問に取り組むことだと言っているので、その点は重要である。私がいくつかの本を書く動機となったのは、様々な形でのこの同じ質問であった。その仕事の結果、私は、神は科学を生き抜く以上のものであるという結論に達したが、同時に、無神論が科学を生き抜くかどうかについても真剣に疑問を抱くようになった3。

ダン・ブラウンの『オリジン』の主人公の一人、エドモンド・カーシュは、億万長者のコンピュータ科学者で人工知能の専門家であり、生命の起源と人間の運命の問題を解決したと主張している。彼はその成果を利用して、「科学の真理を用いて、宗教の神話を破壊する」という長年の目標を達成しようとしている4。特に、ユダヤ教、キリスト教、イスラム教の3つの宗教である。おそらく必然的に、彼はキリスト教に集中することになる。彼が最終的に世に問うた解決策は、彼の専門である人工知能の産物である。彼が考える未来とは、人間を技術的に改造することである。

ここで指摘しておきたいのは、歴史家やSF作家だけではなく、尊敬する科学者たちも、テクノロジーによって人類そのものが変化する可能性を示唆しているということだ。例えば、英国の王立天文学者であるリース卿は、「数世紀後の支配的な知性が、我々の行動をアルゴリズムで理解していたとしても、我々に感情移入できるかどうかは自信がない」と述べている5。

同様に、リースも次のように述べている。「生物の脳による抽象的な思考は、あらゆる文化や科学の出現を支えてきた。しかし、このような活動は、せいぜい数千年に及ぶものであり、ポストヒューマン時代の無機質で強力な知性のほんの前触れに過ぎない。つまり、遠い将来、宇宙を最も完全に理解するのは、人間の心ではなく、機械の心なのである」6。

このテーマは、今後も消えることはないだろう。これは、AIの研究に直接携わっている人だけでなく、数学者や他の分野の科学者にとっても関心事であり、彼らの仕事や展望がAIに影響されることも多くなっている。実際、AIに関する研究の成果や考え方は、必然的に我々全員に影響を与えるため、科学者ではない多くの人々がAIについて考え、執筆している。例えば、哲学者、倫理学者、神学者、文化評論家、小説家、芸術家などが幅広い議論に参加することが重要なのである。結局のところ、原子力エネルギーの影響や気候変動について議論するのに、核物理学者や気候学者である必要はないのである。

AIとは何か？

まず、ロボットについて考えてみよう。ロボットという言葉は、チェコ語（およびロシア語）で「仕事」を意味する「robota」に由来する。ロボットとは、知的な人間によって設計・プログラムされた機械であり、通常は、物理的環境との相互作用を伴う単一のタスクを実行するために、知的な人間を必要とする。その意味で、その行動は人間の知性をシミュレートしている。この状況は、たとえその知性が人間の知性を理解するものではないとしても、ロボット自体が何らかの意味で知的であるとみなされるべきかどうかについて、大きな議論を引き起こしている。

AIという言葉は、1956年にダートマス大学の数学科で開催されたサマースクールで、ジョン・マッカーシーが「AIとは、知的な機械を作るための科学と工学である」と発言したことから生まれた7。

この分野の研究は、大きく分けて2つの方向性がある。大まかに言うと、まず、コンピュータ技術を使って人間の推論や思考プロセスをモデル化することで理解しようとする試みがあり、次に、人間の行動を研究し、それを模倣する機械を構築しようとする試みがある。この違いは重要だ。例えば、人間の手が物を持ち上げる様子をシミュレートできる機械を作ることと、人間が物を持ち上げているときの思考をシミュレートできる機械を作ることは、全く別のことである。前者は後者に比べてはるかに簡単だし、実用性だけが求められるのであれば、前者で十分である。航空機産業では、空を飛ぶ機械を作っているが、鳥が羽ばたくのとまったく同じ方法で空を飛ぶために、鳥のような電子頭脳を構築することはない8。

人間や動物の行動をシミュレートできる機械を作るというアイデアには、長い歴史がある。2,000年前、ギリシャの数学者ヘロン・オブ・アレキサンドリアは、機械式の歌う鳥や、頭を回して鳥を静かにさせることができるフクロウをあしらった洗面器を作った。何世紀にもわたって、人々は生活の一部を再現する機械、オートマタを作ることに夢中になった。ロンドンの科学博物館、ウィーンの美術史博物館、ユトレヒトのシュピールクロック博物館などには、非常に精巧なオートマタのコレクションが展示されている。19世紀になると、このような機械を作ることへの関心は薄れていったが、1818年に発表されたメアリー・ウォルストンクラフト・シェリーの小説「フランケンシュタイン」のように、フィクションの中では生き続けていた。「フランケンシュタイン」は、SFの黎明期から主食として登場している。

人間の日常生活における重要な活動の一つに数値計算があるが、これを自動化するための努力がなされてきた。17世紀、フランスの数学者ブレーズ・パスカルは、税理士である父の面倒な計算を手伝うために機械式計算機9を作ったという。19世紀には、チャールズ・バベッジが、自動加算機である差動エンジン、そしてプログラム可能な最初の計算機である解析エンジンを発明し、プログラム可能な計算機の基礎を築いた。バベッジは、現代のコンピュータの父と呼ばれている。

第二次世界大戦中、イギリスの優秀なコンピュータ科学者アラン・チューリングは、洗練された電子コンピュータ技術を駆使して機器を製作し、特に「ボンベ」は、彼とブレッチリー・パークのチームが軍の秘密通信に使われていたドイツの「エニグマ」暗号を解読することを可能にした。チューリングは、その発明と理論的研究から「学習機械」を提唱した。チューリングは、人間が機械だと気づかないうちに人間と会話ができる機械は、「模倣ゲーム」に勝ち、「知的」であると言えるとした。チューリング・テストとして知られるこの定義は、機械に知性を持たせるための実用的なテストとなった。しかし、後述するように、この方法は哲学者たちから大きな反発を受けた。

同じ頃（1951年）、マービン・ミンスキー（MITのAI研究所の共同創設者）とディーン・エドモンズが、最初のニューラルネットワーク・コンピューターを作った。その後、1997年にIBMのコンピュータ「Deep Blue」がチェスの世界チャンピオンであるガルリ・カスパロフを破り、2016年にはGoogleのプログラム「AlphaGo」が機械学習を用いて、手の不自由な人間のプロ囲碁棋士を初めて破ったという画期的な成果が世間の大きな注目を集めた。AIの重要性は、「コンピューティングのノーベル賞」と呼ばれる2018年のチューリング賞が、現在の人工知能、特に深層学習のサブフィールドでのブームの基礎を築いた3人の研究者に贈られたことでも認識されている。

初期のロボットやAIシステムでは、現在でいうところの “機械学習 “は行われなかった。現在の機械学習プロセスの鍵となるのは、記号的、数学的などさまざまな種類のアルゴリズムという考え方である10。アルゴリズムという言葉は、ペルシャの有名な数学者、天文学者、地理学者であるムハンマド・イブン・ムーサー・アル・クワーリズミー（約780〜850）の名前に由来する11。

現在では、アルゴリズムとは「特定のタスクを実行するために正確に定義された数学的または論理的な操作のセット」（OED）である。この概念は、紀元前1800〜1600年の古代バビロニアにまでさかのぼることができる。スタンフォード大学の著名なコンピュータサイエンティストであるドナルド・クヌースは、これらの初期のアルゴリズムを発表し、「バビロニアの石板に記された計算は、単に特定の問題を解決するためのものではなく、実際には問題のクラス全体を解決するための一般的な手順である」と結論づけている12。これこそがアルゴリズムの重要な特徴であり、一度その仕組みを知れば、1つの問題だけでなく、問題のクラス全体を解決することができる。

学校で習った有名な例として、ユークリッド・アルゴリズムがある。これは、2つの正の整数または数の最大公約数（GCD）を求める手順である。ユークリッド・アルゴリズムは、ユークリッドが紀元前300年頃に執筆した『元素』に初めて記述したものである。効率的なアルゴリズムであり、現在でも何らかの形でコンピュータに利用されている。このアルゴリズムでは、目的の結果が得られるまで、割り算と余りの計算を繰り返す。アルゴリズムの動作を理解するには、例を挙げるのが一番であるが、重要なのは、どのような整数のペアでも動作するということである。

例えば、56と12のGCDを計算したいとする。次のような手順で計算する。

1. ステップ1: 大きい方の数字を小さい方の数字で割る。

∘ 56 ÷ 12 = 4 and remainder 8

2. ステップ2: 割り算の数である12を、前のステップでの余りで割る。

∘ 12 ÷ 8 = 1 と余り 4

3. ステップ 3: 余りがなくなるまでステップ 2 を続ける (この場合は、あと 1 つのステップだけである)。

∘ 8 ÷ 4 = 2 (余剰なし)

この場合、GCDは4となる。

これをソフトウェアのコードに変換して、コンピュータに実装するのは簡単である。ネットで調べてみると、科学、工学、医学のあらゆる分野で、何千種類ものアルゴリズムが使われていることがわかる。ロボット工学がその代表例で、ロボットは通常、一つの作業を繰り返し行うように設計されている。

現代の典型的なAIシステムでは、関連するアルゴリズムがコンピュータソフトウェアに組み込まれており、提示された様々なデータをソート、フィルタリング、選択する。また、人間の大脳皮質の神経機能をある程度シミュレートしたシステム（ニューラルネットワーク）もある。一般的には、このようなシステムは、学習データを用いて、画像、音声、スピーチ、テキスト、データなどのデジタルパターンを認識、識別、解釈することを「学習」（機械学習13）する。また、ベイジアン確率論に基づいたコンピュータアプリケーションを用いて、利用可能な情報を統計的な観点から分析し、特定の仮説の可能性を推定するアプローチもある。つまり、機械学習システムは、過去の情報を取り込み、新しい情報が提示されたときに判断や予測を行う。

ここで重要なのは、アルゴリズム自体が、通常は数値最適化によって関数の近似を行うように明示的にプログラムされていることであり、ほとんどの場合、最適化の指針となる入出力の例や停止基準も明示的に与えられていることである。人間がループの中で何らかのレベルでプロセス全体を誘導しなければ、「クランチ」は行われない（たとえ人間が「批判」アルゴリズムを構築してループに挿入したとしても、など）。人間の関与は意識的なものである。機械はそうではない。

初期のAIの多くは、人間が特定の問題を解決するためのアルゴリズムを明示的に考案していた。最近のAIでは、そうではない。代わりに、人間が一般的な学習アルゴリズムを考案し、それが問題の解決策を「学習」する。人間の開発者は、問題を解決するための明確なアルゴリズムを知らず、システムがどのようにして結論を導き出すのかを知らないことが多い。初期のチェス対局プログラムは第1のタイプであり（Deep Blueもどちらかというとこのカテゴリーに属していた）、一方、現代の囲碁ソフトは第2のタイプである。

AIシステムの例をいくつか挙げてみよう。その多くは、すでに一般の人々に親しまれている。

アマゾンは、あなたや他の何百万人もの人々がオンラインで購入したすべての商品をトレースするアルゴリズムを使用している。そして、この膨大なデータベースを精査し、あなたがまだ持っていない他の類似商品とリストを比較する。最後に、統計的手法を用いて、「あなたのような」人々が購入した商品を選び出し、あなたの画面に表示させる。
また、応募書類をデータベース化し、その中から最適な応募者を提案することもできる。現在、何千人もの応募がある仕事では、AIシステムが一次面接を行い、候補者の質問に対する回答をデータとして収集するだけでなく、感情的な反応も撮影してふるいにかけ、面接への適性を判断する。
AIは、よりエネルギー効率の高い建物、モノのインターネットで接続された家庭用電化製品、統合交通システムの設計に応用され、成功を収めている。
例えば、様々な健康状態の肺のX線写真を何千枚も集めたデータベースと、その健康状態に関する専門家による最高レベルの医療分析を組み合わせたAIシステムがすでに稼働している。このシステムでは、肺のX線写真とデータベースを比較して、例えば特定の種類のがんに罹患しているかどうかを調べることができる。具体的には、X線画像の視覚的なパターンを統計的に抽出し、データベースに抽出された他のパターンと比較する傾向がある。このようなシステムは、場合によっては人間の最高の医師よりも高い精度で診断を行うことができる。
天文学者たちは、AIを使って機械学習を訓練し、電波望遠鏡から収集した信号の膨大なデータベースをふるいにかけて、遠方の銀河からの高速電波バーストを特定した。彼らはすでに（2018年9月）、これからSETIの研究で調査する72の新しい例を発見した。また、銀河の自動認識にもAIを活用しているという。
自律走行車は、無意識の機械であるがゆえに、何を避けようとするのか、その原則を組み込むことについて、直ちに倫理的な問題が生じる。興味深いのは、自動運転車よりも航空機の方が操縦しやすいと言われているにもかかわらず、航空機の自動操縦システムが完全には自律化されていないことである。その理由は、飛行機を飛ばす会社がビジネスを継続したいからかもしれない。飛行機が墜落した場合、誰が責任を取るのかという倫理的な問題は、たとえ他人を救うために何人かの人を殺したとしても、実際には存在しない。
顔認識技術も高度に発達している。面白い応用例としては、パブでAI顔認識技術を使って、バーで飲み物をもらう次の列にいる人を認識し、不当な列飛びを避けることができる。現在、どこにでもあるCCTVカメラは、警察が犯罪行為を追跡するために使用されている。しかし、このような監視システムは、社会的統制にも利用される。このような用途で発生する主な倫理的問題については後述する。
自律型兵器とその倫理問題については、国際的な議論の対象となっている。

このように、すべてではないにせよ、これらの開発の多くが、金融操作や犯罪、プライバシーの侵害や社会的統制など、倫理的な問題を提起していることは明らかである。危険なのは、人々が潜在的な倫理的問題を注意深く考えることなく、「できることなら、やるべきだ」という考え方に流されてしまうことである。しかし、現在、AIの世界では、倫理的な問題の重要性が急速に高まっていると言わざるを得ない。ここで直面する大きな問題は、「心、魂、精神を持たないアルゴリズムに、どのようにして倫理的側面を組み込むことができるか」ということである。

ここで重要なのは、上記のようなほとんどのAIシステムは、自動車の運転、病気の診断、過去に基づいた予測など、1つのことを行うために設計されているということである。このことを念頭に置いて、狭い範囲のAIという言葉がよく使われる。しかし、これまでのAIの応用はすべて狭義のものであるため、知的な機械を求めてこれまでに達成されたことをカバーするために、コグニティブテクノロジーという言葉を使うことを好む人もいる。

ニック・ボストロムとエリザー・ユドコフスキーのコメントである。

人間と同等、あるいはそれ以上の性能を持つ現在のAIアルゴリズムは、意図的にプログラムされた単一の限定された領域でのみ能力を発揮することが特徴である。ディープ・ブルーはチェスの世界チャンピオンになったが、車の運転や科学的発見はおろか、チェッカーさえもできない。このような現代のAIアルゴリズムは、唯一の例外であるホモ・サピエンスを除くすべての生物に似ている。ハチは巣を作る能力があり、ビーバーはダムを作る能力があるが、ハチはダムを作らないし、ビーバーは巣を作ることを学べない。一方、人間は両方の能力を身につけることができるが、これは生物の中でもユニークな能力である14。

議論を混乱させる（さらなる）原因として、学習、計画、推論、知能などの日常的な言葉を、無生物の機械を説明するための専門用語として使うことで、AIシステムが実際よりも能力が高いように思わせるコンピュータ科学者がいることが挙げられる。その結果、AIに関するメディアの報道は、結果を過度に誇張し、過度に楽観的または過度に恐れる傾向がある。クイーンズ大学ベルファスト校のコンピュータ工学教授、ダニー・クルックはこう書いている。

集団全体を監視し、操作する力があるという理由で人々を悩ませ始めている現在のテクノロジーは、実はあまり知的ではない。むしろ、そうである必要はない。その力は、膨大な量のデータを処理し、個人のプロファイルを構築し、個人の行動や集団全体のパターンを検出する能力にある。ナチスや共産主義国家は、このようなことを小規模な手作業で行ってた。今では、同じことを世界規模で行う技術が存在する。それは心配なことでもあり、印象的なことでもあるが、本当の意味での知性ではない。いわゆる「深層学習」は現在、AI研究で大流行しているが、そこには特に目新しいものはない。ただ、何十年も前から紙の上で存在していた多層（深層）ニューラルネットワークを実行できるコンピューティングパワーが存在するだけである15。

アラバマ大学のジョセフ・マクレイ・メリチャンプ教授は、イェール大学で開催された会議で、シナプスの発見で有名なノーベル賞受賞者のジョン・エックルズ卿やAIの先駆者たちを前にして、次のように述べている。「AIの研究者が、機械の知能と人間の知能には根本的な違いがあり、いくら研究しても克服できない違いがあることを認めれば、多くの無用な議論を避けることができるように思う」。言い換えれば、メリチャンプ氏の講演の簡潔なタイトルを引用すれば、「人工知能の『人工』は本物である」ということである16。

クルック教授はここでリアリズムの必要性を強調する。

我々は、人間のような本物の知能を作り出すには、まだまだ遠い道のりである。上の段落のように、人々はデータ駆動型コンピューティングの影響に惑わされて、人間の知能レベルに近づいていると考えている。しかし、私に言わせれば、今はまだその近くにはいない。実際、近年の本物のAIの進歩は、むしろ遅くなっていると言えるかもしれない。現在、本物のAIの研究は以前よりも少なくなっているだろう。なぜなら、資金のほとんどが基本的に広告に向けられているからである研究者はお金を追うものである。

人間の推論プロセスの理解には大きな課題がある。参考までに、私はまだ解明されていない2つの根本的な問題があると考えている。(1）人間の推論のルールがわかったとしても、一般的な推論のルールを適用できるように、物理的な状況からより抽象的な形式にどうやって抽象化するのか？(2) コンピュータはどのようにして現実世界の内部メンタルモデルを構築し、保持することができるのか？目の見えない人がどのようにして世界を視覚化し、それについて推論するかを考えてみよう。人間には、物事を視覚化し、頭の中にしか存在しない物体やプロセスのシナリオについて推論するという汎用能力がある。この汎用性は驚異的なもので、本当の意味での知性の重要な要件であるが、AIシステムには根本的に欠けている。このような状態になることはないのではないかと考えている。

私が言いたいのは、どんなに時間があっても、人類の知能に匹敵する、あるいは凌駕する知能を創造する知的能力が人類にあると仮定することには注意が必要だということである17。

ダン・ブラウンが小説の中で2つの大きな哲学的疑問に取り組むために（狭い）AIを採用した方法を見るとき、我々はこのことをはっきりと心に留めておく必要がある。

第二章最初の大きな疑問：我々はどこから来たのか？

ダン・ブラウンの小説『オリジン』の架空の教授エドモンド・キルシュは、化学者のスタンレー・ミラーとハロルド・ユーレイが1953年に行ってノーベル賞を受賞した有名な実験を再訪する。スタンレー・ミラーとハロルド・ユーレイは、1953年にノーベル賞を受賞した化学者で、初期地球の大気中に存在すると考えられる水素、メタン、アンモニアなどの化学物質を試験管の中で混ぜ合わせ、電気を流した。混ぜた化学物質が落ち着くと、その中には生命の構成要素といわれるアミノ酸が含まれていることがわかった。一時は生命の起源を科学的に解明したと評価されたが、時間が経つにつれ、この実験では必要なアミノ酸の一部しか生成されなかったことが判明したのである。

しかし、実験に使われた試験管は保存されており、50年以上経ってから実験が見直され、6人の著者が「ミラー火山の火花放電実験」というタイトルで「サイエンス」10月号（2008年）に次のような結果を発表している。なお、ダン・ブラウンは、これが実際に発表された科学的研究であり、フィクションではないと正しく述べている。以下はその論文の要旨である。

ミラーが1950年代に行った実験では、教科書で知られている装置の他に、スパークフラスコ内に熱水のミストを発生させ、水蒸気を多く含む火山の噴火を模した装置を使用した。我々は、ミラーの資料の中からこの実験のオリジナルの抜粋を見つけ、再分析した。火山装置では、古典的な装置よりも多種多様なアミノ酸が生成された。雷を伴う火山噴火による還元ガスの放出は、初期の地球では一般的であった可能性がある。このような環境で合成されたプレバイオティック化合物は、局所的に蓄積され、そこでさらに加工された可能性がある1。

この研究は、ダン・ブラウンが小説の中で展開するアイデアのきっかけとなった。この研究は、ダン・ブラウンが小説の中で展開するアイデアのきっかけとなっている。ミラー・ユーレイ実験は、コンピュータによるモデリングが行われるようになるずっと前に、実験室で行われたシミュレーションである。ブラウンの架空のAI専門家が行ったのは、ミラー・ユーレイ実験の数学的モデルを設定することである。2008年からの新しい情報を織り込み、化学物質の分子レベルでの詳細な相互作用にまで注意を払い、AIシステムが理想的に処理できるような膨大なデータを確保する。彼はバーチャルリアリティで実験を行う。このエントロピーとは、宇宙に存在するすべてのものが平衡に向かって減少していく傾向のことで、熱いコーヒーカップはその熱を周囲に放散して冷めるが、二度と熱くならない。その繰り返しが、最終的には、何と! – その結果、なんとDNAの二重らせんができるのである。生命は超自然的な介入なしに自然のプロセスで生成される。問題は解決した。

まあ、確かに小説の中では解決しているし、ページをめくるような方法で解決しているので、多くの読者が興味を持つだろう。しかし、生命の起源という問題は、非常に重要な現実の問題であり、事実とフィクションを切り離すためには、もっと多くのことを調査する必要がある。第一に、この小説では（そして多くの場合、現実の世界でも）、純粋で単純な科学を扱っているのではなく、科学が自分の世界観（キルシュの場合は無神論）に影響されている科学者を扱っているからである。彼はそれをこう表現している。「宗教の時代は終わりを迎え、科学の時代が幕を開ける」2と表現しているが、この見解は意外にもダン・ブラウンの見解と一致しているようだ。

最近の科学を利用していると言われていることについて、まず気になるのは、ブラウンの主張の根拠となっている2008年の論文の主執筆者が、今回は本物の科学者であるマサチューセッツ工科大学のジェレミー・イングランドであり、ブラウンの世界観を共有しているわけでも、ブラウンが自分の研究を利用することを認めているわけでもないことだ。イングランド教授に語ってもらおう。以下は、2017年10月12日付のウォール・ストリート・ジャーナルに寄せられたダン・ブラウンの本についての彼のコメントである–彼の最初の文章は、彼が考えていることの本質を表している。

この本には議論すべき本当の科学はない．私は科学者であるが、ヘブライ語の聖書も研究し、それに基づいて生活している。アブラハムの神が世界の創造者であり支配者ではないことを物理学で証明できるという考えは、科学的手法と聖書の機能の両方について重大な誤解をしていると思う3。

イングランドはさらに、自然界に見られる創造主の活動を確認する説明マトリックスを、科学が反証することはできないと指摘している。

ダン・ブラウンの『オリジン』は、科学的な観点から見ると、科学者自身が考えていることと正反対のことをもっともらしくするために、誰かの科学的な研究を引用するという怪しげな方法をとったことで、最初から欠陥があると言えるだろう。もちろん、これは小説であり、フィクションであるから、ブラウンには好きなことをする自由があると主張する人もいるだろう。しかし、危険なのは、ブラウンが重大な哲学的疑問に突き動かされていると言っているので、多くの人が彼の言うことを信じて、彼の結論が確立された科学と調和していると考えるかもしれないということである。

それだけでなく、カーシュ氏のシナリオでは、シミュレーションによって仮想のDNAが生成され、それによって生命の起源の問題が解決されたという主張は、純粋なSFである。実際の科学の観点から見ても、まったく説得力がない。生命の起源に関する化学の世界的な第一人者であり、現在、世界で最も影響力のある科学者の一人であるヒューストンのライス大学の化学、ナノテクノロジー、コンピュータサイエンスの教授、ジェームズ・ツアー氏は、化学がブラウン氏の主張を無効にすることに疑いを持っていない。

「生命は存在してはならない。生命は存在してはならない。これだけは化学でわかっている。地球上に生命が遍在しているのとは対照的に、他の惑星に生命が存在しないのは、化学的にははるかに理にかなっている。

次のような実験をしてみよう。細胞を作るのに必要だと思われる分子が、必要な化学的純度と立体化学的純度ですべて揃っていると仮定しよう。これらの分子を分離して、設備の整った実験室に運ぶことができると仮定しよう。また、化学や生化学の文献を構成する何百万もの記事に簡単にアクセスできると仮定しよう。

では、どのようにして細胞を作るのだろうか。

化学物質が手元にあるだけでは十分ではない。ヌクレオチドと他のすべてのものとの関係を特定する必要があり、そのためにはコード化された情報が不可欠である。DNAとRNAは細胞の主要な情報伝達物質である。生命がどのような媒体を使って誕生したとしても、その情報はどこかから得なければならない。ヌクレオチドの文字列は、本来は何もコードしていない。ここでは、DNAとRNAがどんな配列でも手に入ると仮定してみよう4。

議論のために、ジェームズ・トゥールはエドモンド・カーシュに（仮想の）DNAを認めていることに注目すべきであるが、それにはDNAの情報内容の起源という深遠な問題が含まれている。その巨大な問題にもかかわらず、トゥールの詳細な化学的調査は、「我々合成化学者は、明白なことを述べるべきである」というカーシュの主張と矛盾する。地球上に生命が出現したことは謎である。我々はこの問題を解決することができない。生命の起源を説明するためにこれまでに提示された提案は、科学的に意味をなさない」5。

これが科学の評決である。

キルシュの架空の評決は、彼の無神論的な哲学から生まれたものだ。科学はそれを支持しない。また、いずれにしても、キルシュ氏の「事件」にとって致命的なのは、自然の法則が生命を生み出す仕事をすることができるという彼の誤った信念である。そう思っているのは彼だけではない。もう一つの例は、有名な物理学者であるポール・デイヴィスが、法則の性質について基本的な誤解をしていることを示している。「宇宙や生命の起源について、超自然的なものを持ち出す必要はないだろう。宇宙や生命の起源に超自然的なものを持ち出す必要はない。私は神が手を加えるという考えが好きではない。私にとっては、数学的な法則が巧妙に作用して、これらすべてのものを存在させることができると信じる方が、はるかに刺激的なのである」6。

しかし、我々の住む世界では、「1＋1＝2」という単純な算術の法則だけでは、何も生まれない。確かに、私の銀行口座にお金を入れたこともない。私が1,000ポンドを銀行に預け、その後さらに1,000ポンドを預けた場合、算術の法則は、私が現在2,000ポンドを銀行に預けていることを合理的に説明する。しかし、もし私自身が銀行にお金を入れず、単に算術の法則に任せて私の銀行口座にお金が入ってくるのを待つなら、私は永久に破産したままだろう。

C. ルイスはこの問題を明確に理解していた。巧妙な数学的法則が独力で宇宙や生命を誕生させるという厳格な自然主義の世界は、純粋な（サイエンス）フィクションである。理論や法則によって物質やエネルギーが存在するわけではない。それにもかかわらず、何らかの形でその能力を持っているという見解は、創造主がいたという代替的な合理的可能性からの、かなり必死な避難所のように思える。

デイヴィス、カーシュ、ブラウンの3人は、自然法則が実際には世界を説明していないことに気づいていないようである。自然法則は、世界の規則性を説明しているのである。それだけでなく、自然法則は何かを引き起こすこともなく、したがって、何かを創造することもないのである。ちょっと考えれば、ニュートンの運動法則は、宇宙の歴史の中でビリヤードのボールを動かしたことはないし、そもそもボールを作ったこともないことがわかるだろう。ビリヤードのキューを持った人がボールを動かした後の動きを説明しているのである。

ダン・ブラウンの天才AI、カーシュは明らかにこれを理解していない。しかし、この（重要な）点を無視したとしても、さらなる疑問に直面することになるが、ブラウンの名誉のために言っておくと、彼のよく知られたヒーローであるハーバード大学の記号学教授ロバート・ラングドンの口を借りて、実際にその疑問を指摘している。ブラウンは次のように書いている。「エドモンドの発見は夢中にさせ、明らかに燃えるものであったが、ラングドンにとっては、誰も聞いていないことに驚くような、一つの切実な疑問を提起していた。物理学の法則が生命を生み出すほど強力なものであるならば、その法則を生み出したのは誰なのか？” 物語は続く。「物理学の法則が生命を生み出すほど強力なものであるならば、その法則を生み出したのは誰なのか？

しかし、そうだろうか？おそらくブラウンは、「誰が法律を作ったのか」と問えば、論理的には「誰がその創造主を作ったのか」と問うことになり、それが永遠に続くということを意味しているのではなかろうか。リチャード・ドーキンスは、『神の妄想』の中で、創造主である神の存在を否定する論拠として、このことを提唱している。しかし、そのようなことはない。なぜなら、誰が創造主を作ったのかという質問をすると、創造主が作られたことを前提としてしまうからである。しかし、聖書の世界観によれば、創造主である神は創造されたものではなく、永遠の存在である。であるから、神の前に何かがあって神を創造したと仮定する時系列依存の質問は、神には当てはまらない。

しかし、永遠ではないものには当てはまるので、ドーキンス氏に次のように言ってみた。では、誰があなたの創造主を作ったのか？” 10年以上待っても返事はなかった。これは自分の首を絞めているのではないかと思いたくなる。

なぜなら、ここには「めまいがするような知的な鏡のホール」はないし、このような推論は「すべてを丸く収める」ものでもないからである。ガリレオ、ケプラー、ニュートン、クラーク・マックスウェルといった偉大な科学者たちが、法則はどこから来たのかという疑問を投げかけ、完全に理解できる答えを与えているのである。彼らは、法則は神から来たものであり、その確信が彼らの科学を触発したのだと結論づけている。C.S.ルイスは、著名な哲学者であり科学史家でもあるアルフレッド・ノース・ホワイトヘッド卿の業績を要約して、次のように表現している。「人間が科学的になったのは、自然の中に法則を期待したからであり、自然の中に法則を期待したのは、立法者を信じたからである」9。

神への信仰は、近代科学の発展を妨げるどころか、その推進力となったのである。したがって、多くの人が、ブラウンが科学が神を葬ったことを示したと考えるのは悲しいことである。それは、彼の議論の背後にある論理や科学ではなく、彼の読者が超大作スリラーのような感情的な強さでその結論に沿って運ばれるからである。科学を興奮させるのだから、間違っているわけがない。

この本の後半では、カーシュの夢は宗教を廃止することではなく、「新しい宗教、つまり人々を分断するのではなく、団結させる普遍的な信念を創造すること」だったことがわかる。彼は、もし人々が自然の宇宙と我々を創造した物理学の法則を尊敬するように説得できれば、どの文化も同じ創造の物語を祝うようになり、どの古来の神話が最も正確であるかを巡って戦争をすることはなくなるだろうと考えていたのである」10。

これは新しい考えではない。例えば、無神論者のT.H.ハクスリーは、教会をソフィア（知恵）の女神の神殿にして、科学者をその司祭にしようと考え、「宗教としての科学」というアイデアを提唱した。しかし、「自然の法則が我々と宇宙を創った」という全くの誤りに基づいた宗教に未来はない。最近では、ダーウィニズム（またはその一部）が宗教として機能しているように見える。これは、生物学の哲学者であるマイケル・ルースが、著書『宗教としてのダーウィニズム』の中で主張していることである11。

まだまだある。故スティーブン・ホーキング博士は、ベストセラーとなった『A Brief History of Time』の最後の段落で神への扉を開いているように見えたが、数年後に別のベストセラー『The Grand Design』で神への扉を閉じ、無神論を明確に主張した。ダン・ブラウンの『オリジン』では、おそらく意図的に神への扉を開いているような印象を受ける。架空のヒーローであるロバート・ラングドンは、エドモンド・カーシュの論文を無批判に受け入れることに躊躇しているからである。その理由は重要で、同じく架空のグッゲンハイム美術館の非常に知的な館長、Ambra Vidalがラングドンに神について質問したときに明らかになる。ラングドンの答えは、「私にとっての神の問題は、コードとパターンの違いを理解することにある」というものであった。パターンは自然界のどこにでもあるものだが，コードは自然界には存在しない．コードは、知的な意識が意図的に生み出したものである」12。

そして、化学的コーディングの優れた例であるDNAについて言及している。DNA分子は、4つの「文字」からなる化学的「アルファベット」の「単語」で構成されている。34億文字という長さは、これまでに発見された単語の中で最も長いものである。そしてラングドン氏は、筆者を含む多くの人々が以前から考えていたことを裏付けるように、これは神の署名を示す強力な証拠であると述べている。数学者である私は、ブラウン氏の全体的な論文からすると、ラングドン氏の結論を読んで驚きと喜びを感じた。「数学の精密さ、物理学の信頼性、そして宇宙の対称性を目の当たりにするとき、私は冷たい科学を観察しているのではなく、生きた足跡を見ているような気がする」

計算機の父の一人であり、キリスト教徒でもあるドナルド・クヌースは、次のように述べている。「プログラムを書いている人は、少なくとも神の性質についての特別な洞察力を持っていると思う……なぜなら、プログラムを作るということは、しばしば小さな宇宙を作らなければならないことを意味するからだ」14。

カーシュがAIシミュレーションで「発見」したと主張するDNAは、単なるパターンではなくコードである。情報を運んでいるのだから、カーシュが言うように、ガイドされない自然のプロセスで発生したわけではない。遺伝暗号は、DNAがガイドされない自然のプロセスによって生じたと仮定している人々にとっては、パラドックスでしかない。DNAが知性によって作られたという指摘は、無神論にとってのみ危険であり、科学にとっては危険ではない。

ラングドンのこのフィクションの反応は、実在の著名な哲学者である故アントニー・フルーの反応とよく似ている。その理由として、生物学者がDNAを調査した結果、「（生命）を生み出すのに必要な配列が信じられないほど複雑であることから、知性が関与しているに違いないとわかった」ことを挙げている。さらに、「私の人生は、プラトンのソクラテスの原則に導かれてきた。私の人生は、プラトンのソクラテスが唱えた『どこまでも証拠に従え』という原則に導かれてきた。」と質問された。「あなたの信念が人々を動揺させたらどうする？」と聞かれ、「それは残念だ」と答えた15。

確かに、科学が可能であること、宇宙が驚くほど数学的に理解可能であること、DNAのような情報を持つ高分子が存在することは、聖書の記述の正当性と完全に一致しており、実際にそれを示している。「最初に言葉があり、言葉は神であった。すべてのものは彼によって造られた」（ヨハネ1：1、3）。フランシス・コリンズが、彼の指揮下で行われたヒトゲノム・プロジェクトの完了を発表した時に言ったように、DNAは「神の言葉」であると言うことは完全に合理的である16。

では、ダン・ブラウンの本を、そしてダン・ブラウン自身を、我々はどう考えればよいのだろうか。ダン・ブラウンはキリスト教の信仰を失い、無神論に向かっていると主張しているが、本人はその最後の一歩を踏み出していないという。彼の演じるエドモンド・キルシュのように、自然の法則が人生を説明できると信じている。彼は自分の考えを矛盾していると言っている。この本はそれを証明している。時には、無神論を支持しているかのように見えるが、終盤では、宇宙の背後に知的デザイナーである神が存在するという考えに信憑性を与えている。また、あるときは、科学による宗教の破壊を肯定しているようにも見える。しかし、最後の方では、ラングドンが神父と、キルシュのコンピューターのパスワードとなっているウィリアム・ブレイクの言葉について話している場面がある。「The dark Religions are departed & sweet Science reigns（暗い宗教は去り、甘い科学が支配する）」17。

ラングドンは神父に、「科学は、暗い宗教や悪い宗教を破壊するが、賢明な宗教は破壊しない」という意味ではないかと提案する。そこには真実がある。科学は、例えば古代ギリシャの「隙間の神」のような、科学の発展を妨げる宗教を確かに取り除いたが、ユダヤ・キリスト教の遺産に啓示された宇宙の創造主であり支持者であり、その知的創造がそもそも先駆的な科学者を触発した神を、科学が取り除いたわけではないのだから18。

第三章 2つ目の大きな疑問：我々はどこへ行くのか？

予測するのは難しいことである、特に未来については。

ヨギ・ベラ

ダン・ブラウンは、最初の大きな疑問に対する解決策として、数学的モデリングと、膨大な情報データベースに基づいて働くAIシステムを用いて、過去における化学物質の混合物の進化について予測している。したがって、彼が2つ目の大きな疑問にどのようにアプローチするかは想像に難くない。

彼は今度は、同様の方法論を用いて、人間の進化のシミュレーションを未来に向かって推定していく。本の最後に明らかにされた結果は（ネタバレになるが）、彼のAIシステムは、主に骨の断片や時間の経過とともに変化する環境に関する過去の情報から得られた情報で構成された、別の膨大なデータベース上で作業を行い、最終的に新種の発展を示すというものであった。種というよりも、より正確な分類法では新しい王国というべきで、既存の種から通常のように枝分かれするのではなく、人間とAIという2つの「種」が融合したものである。

彼はこの新しい王国を “テクニウム “と呼んでいる。それは非生物種であり、人間の生物学的生命とテクノロジーの融合であるという彼の考えとは矛盾するが、おそらく彼は非生物種を意味しているのだろう。彼の予測では、2050年までに最終的に人類に取って代わるとされているが、それは吸収によるものなのである。これは単なる娯楽的なSFではないかと考えたくなる。しかし、誰もがこれをSFだと言えるわけではない。

というのも、カーシュの名前がKで始まるのは偶然ではなく、多才な発明家であり、Googleのエンジニアリングディレクターでもあるレイ・カーツワイルをモデルにしているようなのだ。カーツワイルは、『The Singularity Is Near』という本の著者で、近い将来、おそらく30年以内に、AIロボットが人間の知能や能力を追い越すだろうという彼の信念を明らかにしている。「人間の知能のうち、生物学的ではない部分が優勢になる」と述べている1。

オックスフォード大学のFuture of Life Instituteのニック・ボストロムは、著書『Superintelligence』の中で、この出来事を「知性の爆発」と呼んでいる2。同様に、レイ・カーツワイルは、「21世紀は変わるだろう。21世紀はこれまでとは違ったものになるだろう。人類は、それが生み出した計算技術とともに、古くからの問題を解決することができるようになり、ポスト生物学的な未来においては、死の本質を変えることができる立場になるだろう」と述べている3。これがAGI（人工的な一般知能）のビジョンである。ここでの基本的な考え方は、統計学者のI.J.グッドが1965年に書いた論文「Speculations Concerning the First Ultraintelligent Machine（最初の超知能機械に関する考察）」からの有名な引用にさかのぼる。

超知的な機械とは、どんなに賢い人間の知的活動をはるかに凌駕することができる機械と定義しよう。機械の設計もその知的活動の一つであるから、超知能機械はさらに優れた機械を設計することができる。そうなれば、間違いなく「知能の爆発」が起こり、人間の知能ははるかに取り残されてしまうだろう。したがって、最初の超知的な機械は、人間が作る必要のない最後の発明なのである。

このシナリオでは、方向性のないダーウィン進化の概念ははるかに取り残されていることに気づくべきである。テクノロジー、ロボット、AIの領域で加速的に進歩しているのは、すべて人間の知的デザインによるものである。したがって、カーツワイルが予測するのは、人間がデザインした人工物が、あるシナリオでは、それらの人工物が人間以上の知能を持ち、自らのその後の発展を引き継ぐまで、人間が全体を動かしたという意味で、人間がデザインした人工物を含むということである。

ダン・ブラウンのAI専門家であるカーシュは、我々が気付いているように、我々はすでにある程度、自分たちのテクノロジーと融合し始めていると指摘している。バーチャルリアリティ用のメガネをかけたり、携帯電話を耳に近づけたり、あらゆる種類の高品質なヘッドフォンを持ったり、例えば難聴を治すために脳にコンピュータチップを埋め込み始めたりしている。また、より高度な義肢を製作したり、体のスペアパーツを育てたり、遺伝子構造をいじったり、遺伝子強化の可能性と可能性を探ったりしている。

キルシュの壮大な結論は、「サイバネティックス、人工知能、クライオニクス、分子工学、バーチャルリアリティなどの新技術は、人間であることの意味を永遠に変えるだろう」というものである。そして、ホモ・サピエンスである自分たちが神に選ばれた種であると信じている人たちがいることも理解している。このニュースが世界の終わりのように感じられることも理解できる。しかし、どうか私を信じてほしい……未来は、あなたが想像するよりもずっと明るいのである」5。

我々は今、AGI（Artificial General Intelligence）、つまり一般的なAIの領域にしっかりと足を踏み入れている。一般的なAIとは、人間と同等以上の知能をシミュレートできる機械、つまり超知能を構築しようとする試みを指す。

これに関連して、人間そのものを向上させようという試みも並行して行われており、トランスヒューマニズム・プロジェクトと呼ばれている。ニック・ボストロムは、トランスヒューマニズムとは、「応用理性によって人間の状態を根本的に改善する可能性と望ましさを肯定する知的・文化的運動であり、特に、老化をなくし、人間の知的・身体的・心理的能力を大幅に向上させる技術を開発し、広く利用可能にすることである」と説明している6。

トランスヒューマニズムという言葉は、無神論者のジュリアン・ハクスリー（1887-1975）に由来すると考える人が（ボストロムを含めて）多い。『私はトランスヒューマニズムを信じている』。そう心から言える人がたくさん出てくれば、人類は、我々とは北京人のそれとは異なる、新しい種類の存在の入り口に立つことになるだろう。ついに、意識的に自分の本当の運命を全うすることになるだろう7。

しかし、ハクスリーが最初ではない。トランスヒューマンという言葉の起源は世俗的なものではない。歴史的には、科学者が科学に関連して使ったのではなく、ヘンリー・フランシス・カリーが1814年にダンテの『パラダイス』を翻訳した際に、肉体の復活に関して初めて使った言葉である。ダンテが自分の体の復活を想像しようとする箇所で使われている。「言葉はその超人的な変化を語ることはできない」8。

トランスヒューマニズムを取り巻く現代的な考え方としては、全脳エミュレーション、サイボーグ（＝Cybernetic organism）、また、いつの日か延命措置が実現することを期待して、お金を払って自分の体や脳を冷凍保存する人もいる（クライオニクス）。

先ほど、マーティン・リース卿の言葉を引用した。彼が言ったことの広い意味は

我々は、数十年以内に現れるかもしれない前例のない種類の変化を心に留めておくべきである。遺伝子組み換えやサイボーグ技術の導入により、人間そのもの、つまりその精神性や体格が変化する可能性があるのである。これは、ゲームチェンジャーである。我々は、古代に残された文学作品や工芸品を鑑賞するとき、何千年もの時の隔たりを超えて、古代の芸術家やその文明に親近感を覚える。しかし、数世紀後の支配的な知性が、我々がどのように行動したかをアルゴリズムで理解していたとしても、我々と感情的に共鳴するという確信はない9。

このようなトランスヒューマニストのAGI予測は、ロボットが想像以上に早く人間よりも知能が高くなり、人間の仕事を奪い、さらに悪いことに、最終的には人間に反抗して、人間をそれ以上の価値を持たない劣等種として破壊してしまう可能性に不安を感じ、オーウェル的な警戒感を抱かせる人もいる（「1984年の復讐」）。例えば、イーロン・マスクは、AIが「悪魔を召喚している」と考えており10、2015年には、スティーブン・ホーキング博士やノーム・チョムスキーなど8,000人以上の人々とともに、AI開発の潜在的な「落とし穴」を警告する公開書簡に署名している。この公開書簡に関連して、スチュアート・ラッセル、ダニエル・デューイ、マックス・テグマークの3人による論文「Research Priorities for Robust and Beneficial Artificial Intelligence」では、次のように結論づけている。

要約すると、人工知能の探求における成功は、人類にかつてない利益をもたらす可能性があり、したがって、潜在的な落とし穴を回避しつつ、これらの利益を最大化する方法を研究することは価値がある。この論文で示された研究課題とその動機となった懸念は、反AIと呼ばれているが、我々はこの評価に強く異議を唱える。AIの能力が向上することで、人間社会に影響を与える可能性が高まっていることは自明の理だろう。その影響が有益なものになるようにするのが、AI研究者の義務である。我々はそれが可能であると信じており、この研究アジェンダが正しい方向への有用な一歩となることを願っている11。

ホーキング博士は、死後に出版された著書『Brief Answers to the Big Questions』の中で、その懸念を繰り返し述べている。

これまでに開発された原始的な人工知能は非常に有用であることがわかっているが、人間に匹敵する、あるいは凌駕するようなものを作った場合の結果を恐れている。. . ゆっくりとした生物学的進化に制限されている人間は太刀打ちできず、取って代わられてしまうだろう。また、将来的にはAIが独自の意志を持つようになり、我々と対立する意志を持つようになるかもしれない。. . AIの本当のリスクは、悪意ではなく能力である。超知的なAIは、その目標を達成することに非常に長けており、その目標が我々と一致しない場合、我々は困ってしまうだろう12。

ジョージ・オーウェルのようなものだ。

一方で、このような開発はすべて歓迎すべきだと考える人もいる。なぜなら、すでに多くの明らかな利益をもたらしており、今後もスピードを上げていくことで、すべての人にとって計り知れないほど優れた世界を築くことができるからである。ビル・ゲイツ氏やマーク・ザッカーバーグ氏もその一人である。

しかし、神経科学者の中には非常に懐疑的な人もいる。長寿を研究する研究所を率いるジャン・マリアーニと、神経科学研究所の元共同所長であるダニエーレ・トリッチはこう書いている。

率直に言って、これらはすべて純粋な空想である。老化は避けられないものであり、たとえそれが健康増進を伴うものであると期待する十分な理由があったとしてもである。. . 過去50年の進歩により、脳についての理解は格段に深まったが、治療上の効果はほとんどなかった。トランスヒューマニストが喧伝している予測は、少なくともすべて嘘である．多くの人が、人間の知能は近いうちに人工知能に追い越されるかもしれないと指摘している。しかし、この懸念は、人間の知性とは何かについての深い誤解を裏付けるものである13。

このように、意見は大きく分かれている。いずれにしても、こうした動きは、我々が誰であり、何になるのかを理解する上で、どのような意味を持つのかを問いかけなければならない。

これに関連して、上述したように、AGIの追求は、どうしても重複する部分があるものの、並行して行われている人間のアップグレードの追求とは区別する必要がある。AGIの目的の一つは、生命を生物学から切り離し、シリコンなどの別の基盤に基づいて人工生命を構築することだと考えられる。

一方、人間のアップグレードとは、現在の人間の生活から出発して、それを強化し、修正し、移植された技術（その中にはAGIも含まれているかもしれない）を装着して、テクニウムやホモ・デウスのような超知性的な複合体を作り出すことである。なお、ダン・ブラウンの架空のシナリオでは、人間とテクノロジーの融合を予測するために狭い範囲のAIシステムが使用されていたが、AIはアップグレード自体を行わなかったという。彼の天才的なAIにはその手段がなかったのだ。また、他の誰かがそれを持っている、あるいはこれから持つという証拠もあまりない。

この分野の用語はやや流動的であり、そのためAIという言葉よりもIA（Intelligence Augmentation）という言葉を好む人もいることを一応指摘しておく。また、いくつかの異なるプロジェクトの目的を区別し、まず「何を出発点にするか」を問うことも有効である。人工生命を作るというと、一般的には、鉄やガラス、銅、シリコンなどの無機物を一から作ることを意味する。確かに、人間は体外受精によってある意味では人間の命を作ることができるが、そこでは人工生命ではなく、本物の生きた細胞から始めている。人類をアップグレードするということは、人間の生命を出発点として、それを有機的に変化させたり、技術を加えたりして、最終的に作られるものが複合的なもの、つまり人工的なものの一部でしかないようにすることである。

要約すると、ある人々の見解では、AGIとは、最終的に人間の知能が人工的な生命とおそらくは意識を作り出すために行うかもしれないことであり、人類のアップグレードとは、人間の生物学的生命を強化するために行うことができることである。どちらも超人的な超知性を生み出すことを目的としている。これらが実現するかどうかは全く別の問題であり、まだわからない。

このようなシナリオは、いくつかの明白な疑問を提起する。