AIと文明の未来
スティーブン・ウルフラムとの対話

ai & the future of civilization

いくつかの厳しい質問があります。そのひとつは、人間の未来についてです。これは大きな疑問です。私は人生のある部分を、機械に何かを自動化させる方法を考えることに費やしてきました。私たち人間が長い間誇りにしてきたことの多くを自動化できることは明らかです。その中で、人間の未来はどうなるんでしょう？もっと言えば、人間の目標を、機械が自動的に実行できるようにするのがテクノロジーだと考えています。これまでの人間の目標は、自分の手ではなく、フォークリフトを使って物をあっちへこっちへ移動させるようなものでした。今、自動でできることは、もっと知的な種類のもので、従来はいわば専門職の仕事だったものです。これらは、これから機械でできるようになるものです。機械は物事を実行することができますが、何か、あるいは誰かが、その目標がどうあるべきか、何を実行しようとしているのかを定義しなければなりません。知的機械の未来について、知的機械が自分で何をすべきかを決めるようになるのか、ということが語られています。目標を与えられて、それをどのように実行すれば、有意義に自動化できるかを考えなければなりませんが、実際に目標を考案することは、ある意味で自動化への道筋があることではありません。自分自身の目標をどのように把握するのか？目標とはどのように定義されるのか？目標は、その人の個人的な歴史、文化的な環境、文明の歴史によって定義されることが多い。目標とは、人間特有のものです。ほとんど意味をなさないものです。私たちは、機械の目標は何だろうかと考えます。私たちは、機械を作るときに目標を与えたかもしれません。私にとってこのことがより切実なのは、計算に関する基礎科学の研究に多くの時間を費やしてきたこと、そしてそこから気づいたことがあるからです。少し長くなりますが、基本的には、知性や目標を持つ可能性のあるもの、目的を持つ可能性のあるものについて考えた場合、どのようなものが知性や目的を持つことができるのでしょうか。今、私たちは、知性や目的を持つものの代表例として、私たち、私たちの脳、私たち自身の人間の知性を知っています。その答えとして、私は当初、自然界のシステムがあると考えました。しかし、人間の知性は、世の中に自然に存在するものをはるかに凌駕しています。それは、精巧な進化の過程を経て生み出されたものなのです。それは、宇宙に存在する他のものとは一線を画すものなのです。しかし、私が科学に取り組んだ結果、そうではないことに気づきました。

私の子供たちは、いつもこのある名言で私に苦言を呈します：「天気には意思がある」まあ、これはアニミズム的な発言で、現代の科学的な考え方にはそぐわないように思えますね。しかし、この言葉は、一見すると、それほど愚かなものではありません。つまり、脳は何をしているのでしょう？脳はある入力を受け、計算し、ある行動を起こさせ、効果的にある出力を生み出しています。

脳であれ、雲であれ、さまざまな熱環境に対応するために、あらゆる種類のシステムが効果的に計算を行っていると考えることができるのです。私たちの脳は、大気中の流体で起こっているよりもはるかに高度な計算をしているのだろうか、と考えることができます。

私は最初、その答えは、「そうだ、私たちは慎重に進化しているのですから、自然界のどのシステムよりもずっと高度なことをしている」と思っていました。しかし、そうではないことがわかったのです。異なる種類のシステムが行う計算の種類には、非常に広い意味での等価性があることがわかったのです。というのも、私たちは「私たちは特別な存在で、他の誰にもできないような知性やあらゆるものを備えている」と言うかもしれません。しかし、それは真実ではありません。自然界には、計算能力、あるいは知的能力という点で、ほとんど等しいさまざまなシステムが存在するのです。

私たちは、これらすべてのものと何が違うのか？私たちを違うものにしているのは、私たちの歴史の特殊性であり、それが私たちに目的と目標という概念を与えているのです。つまり、机の上に置かれた箱は、どんな脳でも同じように考えることができますが、その箱が本質的に持っていないのは、私たちが持っている目標や目的だということなのです。それは、私たちの特殊な生物学、特殊な心理学、特殊な文化史によって定義されるものです。

このようなものの将来について考えるとき、私たちが考えなければならないのは目標です。人間が貢献すること、私たちの文明が貢献すること、それは目標の実行であり、それはますます自動化できるようになります。私たちは何千年もの間、それを自動化してきたのです。私たちは、このような目標を達成するために、非常に優れた自動化を実現することに成功するでしょう。私は人生のかなりの部分を、人間的な目標の概念から、世の中で実行されるものへと本質的に移行するための技術の構築に費やしてきました。

そこから生まれる疑問はたくさんあります。例えば、優れたAIを手に入れ、目標を実行できるようになりましたが、どうすれば彼らに何をすべきかを指示できるのか？それに対する一つの答えは、WolframAlphaやSiriなどに話しかけるように、彼らに話しかければいいのです。人間が発する自然な言葉を理解し、その言葉に基づいて何かをするのです。携帯電話をかざして1つの質問をする場合、これはかなりうまくいきます。自然言語を使ったコミュニケーションとしては、かなり成功した方法だと思います。しかし、もっと長く、もっと複雑なことを言おうとすると、あまりうまくいきません。

こんな経験をしたんです。私は、世の中に、そして子供たちにプログラミングを教えることに興味がありました。私はちょうどこの本を書いていて、練習問題を書いていたのですが、これは私にとっては非常に奇妙なことで、教科書で練習問題を書いたことは一度もありません。この本の最初のほうでは、練習問題がとてもシンプルなので、「1から10までの数字のリストを作るコードを書け」というように、英語を書くのは簡単です。 でも、本の最後のほうになると、異様にイライラしてきました。これは私が書きたい練習問題です、コードの意味はわかります、でもそのコードを表す英文はいったいどうやって書けばいいのでしょう」と思っていました。だんだん分かってきたのは、このテキストの一部が、特許などに見られるような、とても華やかで正確な、様式化された英語のように聞こえるようになってきたということです。

その結果、私が人生の大半を費やしてきたコンピュータ言語の構築は、それほど悪いアイデアではないことがわかったのです。コンピュータ言語では、自然言語では不可能な、より高度な概念をきれいな形で表現し、それを徐々に積み上げていくことができます。

私が興味を持っていることのひとつに、AIにどうやって目標を伝えるかということがあります。どのようにAIと話をするのか。私の基本的な結論は、「混在」です。人間の自然言語は、ある点までは優れていて、私たちが通常、世界で遭遇するものを表現するために進化してきました。自然界に存在するもの、私たちが選んで作り上げたもの、これらは人間の自然言語が表現するために進化してきたものです。しかし、世界には、人間の自然言語がまだ記述していないものがたくさん存在しています。AIがそれを効率的に見つけることはできても、私たち自身がそれを表現する術を持っていないのです。

より洗練されたもの、つまり、人々が大きなプログラムを作って行うようなことを記述する場合、人間の自然言語でそれらを記述する良い方法はありません。しかし、私たちはそれを記述する言語を作ることができます。

私が興味を持っているのは、ほとんどの人がコードを書けるようになったとき、世界はどうなっているのだろうということです。500年ほど前、書記とごく一部の人だけが読み書きでき、自然言語を書くことができた時代から、私たちは移行しました。今日、コードを書けるのは人口のごく一部です。彼らが書けるコードのほとんどは、コンピュータのためだけのものです。コードを読んでも、物事は理解できません。

しかし、私が試行錯誤した結果、コードが十分に高いレベルにあり、何をしようとしているのかの最小限の記述であるような時が来るでしょう。例えば、契約書は英語で書かれていますが、その英語をできるだけ正確に表現しようとするのです。例えば、契約書は英語で書かれていますが、できるだけ正確な英語を書こうとします。しかし、ほとんどの契約書がコードで書かれ、正確な表現ができるようになる時代が来るでしょう。それは、コンピュータが「このAPIを使ってこんなことができますか？」と言うようなケースかもしれません。これは人間の契約ではなく、人間が理解でき、かつ機械が実行可能なコードで書かれたものです。この契約に従ってこれを行うことができるかという問いは、自動的な問いかけなのです。これは、ほとんどの人がコードを書いたり読んだりできるようになったときに、世界がどのように変わり始めるかのほんの一例です。

興味深いのは、今日、コンピュータ言語というものがありますが、そのほとんどは、コンピュータのためだけに作られたものです。人間が読んで理解するためのものではありません。コンピュータに何をすべきかを詳細に指示するためのものです。一方、自然言語は、人間同士のコミュニケーションを目的としたものです。

私はこの知識ベースの言語を構築しようとしています。この言語は、人間と機械の間のコミュニケーションを目的としており、人間が読むことができ、機械も理解できるようになっています。私が今興味を持っているのは、ほとんどの人がコードを読み書きできるようになったとき、世界はどうなっているのか、ということです。

やりたいことを記述すれば、自動的に物事が進む世の中で、人間は今後どうなるのか？人間は何をするのか？私のちょっとした趣味のプロジェクトのひとつに、人間の目的の時間的な進化を理解しようとするものがあります。今日、私たちはあらゆる種類の目的を持っています。私たちは座って、目的について大きな議論をしていますが、おそらく何らかの目的があるのでしょう。私たちは、世の中でさまざまなことを行っています。

1000年前を振り返ってみると、人々の目的はさまざまで、「どうやって食べ物を手に入れるか？どうやって食べ物を手に入れるか、どうやって自分の安全を確保するか」現代の西洋では、人生の大半をそのような目的について考えることに費やすことはありません。あなたは異なる種類の目的に進化してきたのです。

1000年前の視点から見ると、今日の人々が持つ目的、今日の人々が行うことのいくつかは、トレッドミルでのウォーキングのように、まったく奇妙に見えるでしょう。1000年前に、誰かがトレッドミルの上を1時間歩くと言ったと想像してみてください。なんてクレイジーなんでしょう。なぜ、そんなことをするのでしょう？

今の世の中で私が面白いのは、中世にタイムスリップしたようなビデオゲームをプレイする人の割合が多いことです。未来では何が起こるのか？未来で人々は何をするのか？私たちが今日持っている多くの目的は、ある種の希少性によって生み出されています。世界には希少な資源があります。人は何かをもっと手に入れたいと思います。私たちの人生には時間がありません。いずれは、そうした希少性はなくなっていくでしょう。

最も劇的な不連続性は、人間の不老不死が実現したときでしょう。生物学的に実現するか、デジタル的に実現するかはわかりませんが、必然的に実現するものです。現在の人間の目的は、非常に多くのことが関係しています：「私は一定時間しか生きられないから、たくさんのことをやっておいたほうがいい」という考えです。物事が自動的に実行されるようになると、どのようになるのでしょうか。目的さえあれば、自動的に実行されるので、現在のような目的のための原動力や動機は必要ありません。それはどのよう見えるでしょうか？

いくつかの奇妙な仮説があります。ある仮説は、そうですね、人々は希少性があった時代を振り返って、「その時代に、人々は何を選んで行動していたのか？」と考えるでしょう。歴史の非常に長い期間、そして今日でもある程度そうですが、人々は古代や、はるか昔に作られた宗教を振り返って、「あれが作られたとき、人々は重要な問題を抱えていました。その時、彼らがどのように解決したかを見てみよう」と言います。

私のもっと奇妙な仮説の1つは、今日は歴史上初めて、世界で起こることの大部分が何らかの形で記録されている時代だということです。これが広く起こっているのは初めてです。現在の目的がもはや問題ではなくなった未来では、「人々がさまざまな種類の不足を抱えていたとき、彼らは何を選んで行動したのか？できるだけ丁寧にその時代を調べよう」ということが起こるかもしれません。

そうすると、私たちの時代にやっていることの細部が記録されていって、結局、目的を持った人間というのはどういうことなのか、だから2015年に彼らがやったことをやってみようとか、そういう餌になるんですね。これはやや極端なバージョンですが、歴史の大きなスパンを見ると、数千年前の目的を見ていた人々からすれば、それほど馬鹿げているわけではありません。

私が素晴らしい答えを出したいと思っていることのひとつは、未来の人間の派生が、結局何を選択するのか、ということです。悪い結果になりそうなのは、ビデオゲームばかりしていることです。文明の未来は、誰もがビデオゲームに興じる時代です。いわば、未来の「World of Warcraft」をプレイしているようなものです。

~ ~ ~

AIの歴史はおかしなもので、技術用語としての使い方も進化している言葉です。この数年、AIは非常に人気があり、人々はその意味するところをある程度理解しています。私たちはAIについて話すことができ、人々は私たちが話していることについてある程度の概念を持っています。私は、この進化を40年以上にわたって見てきました。

コンピュータが開発され始めた1940年代から1950年代にかけて、コンピュータに関する本や新聞の記事の典型的なタイトルは「巨大な電子頭脳」だったそうです。ブルドーザーや蒸気機関などが機械的な仕事を自動化したように、コンピューターも知的な仕事を自動化し、巨大な電子頭脳が誕生する、というものでした。この約束は、多くの人が予想していたよりも難しいものでした。脳のような活動を実現するために何が必要なのか、人々は知らなかったし、それはとても簡単なことではないことがわかったのです。

1950年代の面白い映画もありますよ。AIとしてのコンピューターは、昔からSF的な描写になったんですよ。デスクセット』というかわいい映画がありますが、これはIBMのコンピュータがどこかの会社に導入されて、みんなが仕事をしなくなる、という話です。この映画では、コンピュータが参考図書の質問をされまくるので、かわいいんですよ。私たちがWolframAlphaを作るときに疑問に思ったのは、1957年の映画「デスクセット」に出てくる参考図書館の質問をすべてできるのか、ということでした。最終的には 2009年にすべてできるようになりました。

当初は、機械的な作業を自動化するのと同じように、知的な作業も自動化できるという楽観論が大勢を占めていました。1960年代前半には、そのために多くの国費が投入されました。しかし、基本的にはうまくいきませんでした。

神経ネットワークについては、特に1943年のマッカロクとピッツによって議論されていました。彼らは、脳が概念的にどのように機能するかについて、このモデルを考え出しました。彼らは、その脳のようなモデルは、チューリング機械のような計算ができることに対応するという観測を行った。彼らは、1936年にアラン・チューリングが考案した普遍的なチューリング・マシンのアイデアを知っていました。そこから、脳のような神経回路網を作れば、一般的なコンピューターになることができることがわかったのです。

実際、チューリングの普遍計算に関する研究は、ENIACやフォン・ノイマンらによる実用的なコンピュータの研究へと流れ込んでいったのです。チューリング・マシンから直接ではなく、ニューラルネットワークという脇道を通ってきたのです。人々は単純なニューラルネットワークを構築しましたが、単純なニューラルネットワークはひどく面白いことをするわけではありませんでした。

フランク・ローゼンブラットはパーセプトロンというものを発明しましたが、これは1層のニューラルネットワークでした。60年代にニューラルネットワークに対して起こったもう一つの恐ろしいことは、マーヴィン・ミンスキーとシーモア・パパートが書いた『パーセプトロン』という本で、彼らは基本的にパーセプトロンは何も面白いことができないと証明しています。その証明はまったく正しい。パーセプトロンは物事を直線的に区別することしかできません。

問題は、これは典型的な学問の特徴なのですが、「この人たちは、ニューラルネットワークは何も面白いことができない、」という証明を書きました。しばらくはそうでしたね。

一方、AIには、世界の仕組みを記号的に理解する形式的なアプローチと、統計や確率論的なアプローチという2つのアプローチが存在しました。そして、「記号的なAIができるようになるのか？そのテストケースのひとつが、「コンピュータに積分のようなことを教えられるか？コンピュータに微積分を教えられるか？」これは、1960年代後半のAIのテストケースでした。その後、機械翻訳のような、コンピュータができることの良い例になると人々が考えたものがありました。

基本的な結論としては、70年代初頭には、このようなものは墜落してしまったのです。その後、エキスパート・システムと呼ばれるものが登場しました。これは70年代後半から80年代前半に登場したAIの次のラウンドで、専門家が何をすべきかを判断するために使うルールを機械に学習させるというものです。しかし、これは衰退してしまいました。実際、私の最初の会社は、私の意に反して、最終的にそのような方向へ進んでしまいました。いずれにせよ、それが次の段階だったのです。

それからAIは、かなり長い間、「そんなこと本当は誰もやっていない」「まがい物だ」「面白いことは何もない」と、おかしなことになってしまいました。このAIへの疑問があったんですね。私自身、子供の頃から、今となっては憂鬱なほど昔ですが、AI的なものをどうやって作るのかに興味がありました。特に、私たち人間が文明の中で蓄積してきた知識をもとに、質問に答えることを自動化する方法に興味がありました。

このことを最初に考えたのは1980年頃です。質問を分解して象徴的なものに変え、それに答えることができる体系的なシステムを構築することで、それを象徴的に行うにはどうしたらよいかを考えました。これをうまくやるには、ファジーな質問、ファジーな答え、こういうものを含む脳のようなものが必要だという結論に達しました。脳を作るのは大変だと思ったんです。当時もニューラルネットワークに取り組んでいたのですが、あまり面白い進展はありませんでした。しばらく脇に置いておいたんです。

私は、このような難しいプロジェクトを数年ごとに考え、世界のアンビエントテクノロジーが今このプロジェクトを行う準備ができているかどうかを見極めるというアプローチをしています。2002年半ばから2003年にかけて、私はこの疑問についてもう一度考えてみようと思いました：計算機による知識システムを作るには何が必要なのか？という問いに対して、もう一度考えてみようと思ったのです。そして、私がこれまで行ってきた科学的な検証の結果、「こうしなければならない」という私の当初の考えが完全に間違っていることに気づきました。

私は、本格的な計算知識システムを作るには、まず脳のようなものを作り、通常の教育で物事を学ぶように、知識を与える必要があると考えていました。そうすれば、優れた計算知識システムができるはずだと。

私は、自分が行った多くの科学の結果、何が知的で何が単なる計算機なのか、この明確な線引きがないことに気づきました。私は、知能のトランジスタのような、魔法のようなものが存在すると思っていました。つまり、私たちが単なる計算機よりもはるかに高い能力を発揮できるような、魔法のようなメカニズムが存在すると思っていたのです。

しかし、私が科学的に証明したのは、そうではない、ということです。少なくとも私のような人間にとって、常に課題となるのは、このような基礎科学、ほとんど哲学的な結論をどのように受け止め、それに基づいて何かをすることを決めるか、ということです。哲学的なドッグフードを食べて、それを信じられるでしょうか？

私にとってのそれは、技術を構築することでした。もしそれが可能なら、それを実現する技術スタックを構築するのです。例えば、WolframAlphaはそのような経緯で生まれたものです。そこで私が発見したのは、世界に存在する知識の膨大なコレクションを、本質的には単なる計算技術を使って、それに基づいて自動的に質問に答えることができる、ということです。

これは重要な脚注で、単なる計算機というと、プログラムを書いているように思われがちです。プログラムはどうやって書くのでしょう？プログラマーは座って、「これをするプログラムを書きたいから、このモジュールを書こう、あのモジュールを書こう」と言います。私は、「このプログラムで達成したいことをどうやって実現するか」を考えます。一歩一歩、自分の行きたいところへ向かっていくんです。

それは、生物学でいうところの進化論に近いもので、計算可能なプログラムの宇宙には、無限に可能なプログラムが存在するということです。その可能なプログラム空間の中で、1兆個のプログラムをランダムに見て、これらのプログラムは何をするのかと尋ねると、ある種類の可能なプログラムをすべて網羅できるほど単純なプログラムであれば、どれも面白いことはしない、単純なことをやるだけのプログラムだから気にすることはないと思うかもしれません。しかし、私が科学的に発見したことは、そうではないということでした。特にセルラーオートマトンやチューリングマシン、その他の種類のプログラムを見てみると、非常に単純な例であっても、すでに非常に高度なことができるのです。私の結論のひとつは、自然の仕組みを理解するという点でも興味深いですが、技術を見つけるという点でも重要だということです。

事実上、私たちがプログラムを作るときに通常行うことは、この技術の一部を段階的に構築していくことです。もうひとつは、計算機の世界に出かけていって、計算機の世界から技術を掘り起こすことです。一般的には、物理的な採掘を行う場合と同じような課題があります。例えば、磁性を持つ鉄やコバルト、特殊な磁性を持つガドリニウムなど、素晴らしい資源を見つけることができます。素晴らしい磁気特性があります。これをどう使うか？その能力を、実際の人間の目的や、私たちが持っている目標、その技術ができるようにしたいことに結びつけることができるでしょうか。磁性材料の場合、それを実現する方法はたくさんあります。自然界には、さまざまな素晴らしいものがあります。その中から、人間の役に立つ目的を見つけ、技術に取り込むことはできないでしょうか。

プログラムに関しても、同じような話です。世の中にはあらゆる種類のプログラムがあり、非常に複雑なことをする非常に小さなプログラムもあります。それを、何か人間の役に立つ目的のために調教することはできないでしょうか。これは、私たちがその方法を学んだことです。特定の目的、特定の目標があれば、1兆個のプログラムを徹底的に検索して、その目的に役立つことをするものを見つければいいのです。

そのプログラムは、乱数生成器やハッシュ符号化システムなど、自然言語や理解に関連するものを作っていることもあります。また、もっとクリエイティブなことをする場合もあります。数年前、私たちは音楽生成システムを開発しましたが、これは基本的にボタンを押すだけで、プログラムの大きな空間を検索します。ヒューリスティックに基づき、ある特定の音楽スタイルにマッチするプログラムを探し出し、それを演奏してくれます。これは興味深いケースで、自動化された創造性のケースでした。

「機械があっても、人間が得意とすることがある、それは創造的であることである」と言われます。この小さな音楽制作サイトで最も興味深かったのは、作曲家などが「作曲に関するインスピレーションが必要で、そのインスピレーションをコンピュータを使って着飾ることができるかもしれない」と言うと思っていたことでした。しかし、そうではなく、「いいサイトですね」と言われることが多いんです。私はそこで曲の核となるようなインスピレーションを得、それを人間として着飾ることで意味を持たせ、自分のやろうとしていることにフィットさせるのです。このように、オリジナリティやクリエイティビティという属性は、この計算機の世界では簡単に手に入るものだということがわかります。

それは、物理的な世界に出て行って、世界の美しい場所を探して写真を撮ってこい、というのと同じことです。それらはすでに存在しています。私たちが気になるものを選んで見るということなのです。

AIの箱舟の話に戻りますが、私たちが発見したことのひとつは、工学的な問題として、単にプログラムを段階的に構築するのではなく、計算可能な宇宙の中からプログラムを発見することでできることがたくさんある、ということです。また、私たちが時間をかけて作り上げた知識ベース言語は、世界の知識をそのまま言語に取り込もうとするものです。

従来のコンピュータ言語のアプローチは、メモリの確保、変数の値の設定、他のものの繰り返し、プログラムカウンターの変更など、コンピュータが本質的に知っている操作を表現する小さなコンピュータ言語を作ることでした。その少し高度なバージョンですが、基本的には、自分の言葉でコンピュータに指示を出すということです。それが、50年来のプログラム言語の伝統なのです。

私の持論は、コンピュータに迎合するのではなく、人間に迎合する言語を作ること、そして、できるだけ人間が考えたことを、コンピュータが理解できる形に変換できるような言語を作ることです。人間が考えていることの一部は、人間が世界について知っていることです。マサチューセッツ州ケンブリッジの存在を知っているとか、明日朝日が昇るということを知っているとか、そういうことです。

科学の分野でも、世界中のデータの収集でも、私たちが蓄積してきた知識を、コンピュータとのコミュニケーションに使える言語にまとめられるか。それができるようになったことが、私のこの30年ほどの大きな成果です。

そこで重要なことのひとつは、計算知を行うというこの問題を解決しようとするとき、そのような言語を持つことで、世界に関することや世界でできることをエンコードするのに必要な方法となります。このAIの方舟の観点からすると、非常にAI的だと思われることの1つは、世界の知識を取り込むことができ、世界について持っている知識に基づいて質問に答えることができることです。

60年代には、「これができるようになれば、AIができたとわかる」と言われていたことが、ずらりと並んでいます。微積分の授業で習ったような積分ができるようになったら、あれもこれもできるようになり、AIができたとわかるでしょう。コンピュータと会話をして、まるで人間のように思えるようになったら。このとき、これまで難しいと思われていたことのひとつに、「コンピュータは世界のことを十分に知らない」というものがありました。コンピュータに「今日は何曜日か」と聞けば、答えられるかもしれません。大統領は誰か？と聞くと、答えられるかもしれません。このようなことです。その時点で、自分が話しているのはコンピュータであって、人間ではないことがわかります。

この時点で、チューリングテストやAIの会話テストに関して、例えばWolframAlphaとチューリングテストボットを接続しようとした人は、毎回負けています。なぜなら、高度な質問をし始めるだけで、それに答えることができるからです。人間にはそれができないのです。数種類の異なる質問をする頃には、そのすべてを知っている人間はいなくなるでしょうが、システムはそれを知ることができます。その意味で、私たちはそのレベルで、優れたAIを実現したのです。

つまり、人間にとっては非常に簡単な作業でも、機械にとっては従来から非常に困難な作業があるということです。その代表的なものが、視覚的な物体識別です。これは何でしょう？私たちはこれが何なのか、簡単に説明することができますが、コンピューターはそれができないのです。

それが昨年、ガラッと変わりました。例えば、3月、4月、あるいは今年の春先に、私たちは小さな画像識別システムのウェブサイトなどを発表しました。多くの企業が似たようなことをやっています。私たちのものは、ちょっと面白い理由で、他の人たちのものより少し優れています。良くなるに越したことはないのですが、たまたま多少良くなっているのです。何かを見せると、約1万種類のものに対して、それが何だろうかを教えてくれますし、かなり良い仕事をしてくれます。それを混乱させようとするのは楽しいことです。抽象画を見せて、それが何だと思うかを見るのも楽しいです。しかし、それが何なのかは、かなりうまく教えてくれるんですよ。どのように動作するのですか？1943年にマッカロクとピッツが考え、80年代初頭に多くの人が取り組んだニューラルネットワークとまったく同じ技術で動作します。

今でこそ機能しますが、昔は機能しなかったのはなぜか。英語には、絵に描ける名詞が5000個ほどあり、一般的な名詞は絵に描けますが、特殊な植物や甲虫など、ある程度の頻度で認識できる特殊なものを含めると、1万個ほどあります。

今、私たちができることは、このようなあらゆる種類の画像を3,000万枚使って訓練し、この大きな複雑で厄介なニューラルネットワークを作り上げたことです。ニューラルネットワークの詳細がどうなっているかは、おそらくあまり重要ではないでしょう。このトレーニングを行うのに、GPUの演算が約1兆回必要です。その結果、10,000種類のものを認識することができるようになりました。

私たち人間が感動するのは、これが私たち人間ができることとほぼ同じだからです。私たちが持っているのとほぼ同じ学習データを持ち、人間が人生の最初の2,3年で見るであろう画像の数とほぼ同じなのです。訓練に必要な操作の数もほぼ同じで、少なくとも視覚野の第一階層にあるニューロンの数もほぼ同じなのです。

細部はすべて異なっています。この人工ニューロンの実際の働きは、脳の実際のニューロンの働きとはほとんど関係ありませんが、概念的には似ていて、起こっていることにある種の普遍性があります。数学的なレベルでは、非常に多くの関数の合成であり、ある種の連続性を持っているため、微積分法を効果的に使って漸進的に訓練することができます。このような特性があれば、私たちが生理的な認識を行うのと同じような仕事をするものができそうです。

80年代には、OCR（光学式文字認識）に成功していたんですよ。英語のアルファベット26文字から、「これはAか？これはBか？これはCか？といった具合に。26種類の可能性には対応できても、10,000種類の可能性には対応できないのです。それは、今日それを可能にするシステム全体の規模の問題なのです。

しかし、「AIはまだか」ということで、これらは重要な要素です。基本的にこれらはいくつかあります。生理的な認識、音声からテキストへの変換、そして言語翻訳です。この3つは、人間が難易度の差こそあれ、なんとかやっていることです。私は、人間の言語の翻訳をすることはできません。ラテン語なら少しはできるかもしれませんが。しかし、人間は言語翻訳を学ぶことができます。他の2つは、音声からテキストへの変換で、人はそれを学びます。また、生理的認識で、人は生後2,3年のうちにそれを学びます。

これらは、人間のような働きをする機械を作るためのミッシングリンクのようなものです。私にとって興味深いことのひとつは、これらの能力を正確な記号言語に組み込むことです。日常世界を表現するための記号言語を持つという点で、私たちが今何をする必要があるのか、500年前の話ですが、言いたいことは山ほどあるのです。私たちは今、これは水の入ったグラスです、などと言える能力を備えています。水の入ったグラスの絵から、水の入ったグラスという概念に至ることができるのです。そして、それらを表現するための実際の象徴的な言語が必要なのです。

私自身は、数学的な技術的知識を表現することから始めましたが、その後、さまざまな知識を表現するようになりました。世の中の客観的な知識を体系化することは、かなりうまくいったと思います。そして今、問題になっているのは、日常的な言説や、人々が互いに言い合うようなことを、正確な記号で表現することです。

正確な記号表現では、「Xは5より大きい」と言うかもしれませんね。これは述語です。また、「私はチョコレートが欲しい」と言うかもしれません。これも述語です。チョコレートはこんなものよりもカロリーが高い」ではなく、「欲しい」が入っています。このように、従来人間の自然言語で表現してきたものを、象徴的な表現、正確な表現として見出す必要があります。

ということに興味を持ちました。これは私が最近考えていることの一つです。面白いもので、私は宿題をするのが好きで、これに関して他の人が何を解明したかを調べるのが好きなんです。文献を読み始めると、ほとんどの文献が1600年代を指しているんです。1600年代後半にはライプニッツのような人がたくさんいましたし、ジョン・ウィルキンスという人物もいました。哲学的言語と呼ばれるものが存在した時代です。

哲学的な言語というのは、基本的に私が今試みているような、世界を象徴的に表現するものでしょう。ジョン・ウィルキンスの哲学的な言葉を見ると、彼が世界で重要なものをどのように分けていたかがわかります。それは、いささか気が重くなりますが、ある意味では喜ばしいことでもあります。人間の条件には、1600年代から変わらない側面もあります。同じような種類の問題が出てくるのです。

いくつかは非常に異なっています。死や人間のさまざまな苦しみに関する項目は、当時は全体が巨大でした。今日のオントロジーでは、もっと小さくなっています。大きな成果です。今日の哲学的言語と1600年代半ばの哲学的言語とがどのように異なるかを見るのは興味深いことです。これは、どのような違いがあるのかを見るための進歩の尺度です。

そのひとつが、現在、体系的な言説を象徴的に表現しているように、日常的な言説を象徴的に表現できるようにすることです。このような形式化の試みは、長年にわたってたくさん行われてきました。

数学では、例えばホワイトヘッドとラッセルが1910年に発表した『プリンキピア・マテマティカ』が、少なくとも最大の目玉となる努力でした。それ以前にも、フレーゲやピーノが、もう少し控えめな表現で、数学を精密なシステムでどのように形式化するかを試みたことがありました。彼らが何を正しく、何を間違っていたかは興味深い。結局のところ、彼らは何を形式化すべきかという考え方が間違っていたのです。彼らは数学的証明のプロセスを形式化するべきだと考えていたのですが、多くの人が関心を持つようなものではないことがわかりました。

現代のチューリングテストはどのようなものか、チューリングテストの現代のアナログはどのようなものか、という質問がありましたね。興味深い質問です。チューリングのアイデアである会話型ボットを作ることができます。これはまだ残っています。これはまだ解決されていません。解決されるでしょう。唯一の問題は、それが解決されるアプリケーションは何かということです。

私は長い間、なぜ私たちは気になるのか、そういうことを聞いてきました。それは素晴らしい用途ですが、私の好きな人生の過ごし方という点では、特に上位に入るものではありません。カスタマーサービスは、まさに、会話というインターフェイスを実現しようとする場所のひとつです。

チューリングの時代と私たちの時代の大きな違いは、コンピュータとのコミュニケーション方法です。チューリングが想像していたのは「会話」でした。今の時代では、スクリーンが表示されるのです。数年前、私が興味を持ったのは、映画館に行って、人から映画のチケットを買うこともできるし、機械から映画のチケットを買うこともできる、というケースです。

私のように最新のテクノトイを使うのが好きな人間は、映画館にあれが登場すると、すぐにその機械ばかり使っていました。長い間、誰も使っていない状態でした。それが、都会の映画館では、どんどん機械を使っている人を見かけるようになりました。今ではほとんどの人が機械を使っています。

機械との取引は、人間との取引とどう違うのか？主な答えは、機械に視覚的なディスプレイがあることです。機械はあなたに何かを尋ね、あなたはボタンを押すだけで、すぐにそれを見ることができます。ちょっと違うんです。

例えば、WolframAlphaでは、何か質問すると、Siriの中で使われている場合、短い答えがあれば、Siriがその短い答えを返してくれます。しかし、多くの人が求めているのは、もっと大きなレポートで、これこれのインフォグラフィックが表示されるようなビジュアル表示です。これは興味深いことで、人間以外のコミュニケーション形態でありながら、従来の人間のコミュニケーションよりも豊かなものであることがわかります。

もし私たちがみんな信じられないほど速く、完璧な芸術家だったら、話している最中にインフォグラフィックを描いて、これが私の言っていることですと言うことができるでしょう。しかし、実際には、人間同士のコミュニケーションでは、純粋な言語しか残りません。一方、コンピュータと人間のコミュニケーションでは、より高い帯域幅を持つビジュアルコミュニケーションというチャンネルがあり、それが重要であることがわかります。

従来のチューリングテストは少しおかしいのですが、通信チャネルが増えたことで、最も強力なアプリケーションの多くが消えてしまうからです。例えば、私たちが今、追求しようとしているものがあります。プログラムを書くことを伝えるためのボットです。このプログラムを書きたい、こんなことをしたい」と言うと、すると、「そうですね、私はこのプログラムを書きました、こんなことができます。これがあなたの望みですか？」という具合に、ガヤガヤと。一進一退のボットです。

他にも、化学の一端を理解するチューターボットのようなものもあります。人間のモデルを作らなければならないので、面白い問題ですね。説明する場合、この時点で何を言うのが正しいのか？なるほど、人間はここで何に戸惑っているのでしょう？人間のモデルがないと、何に戸惑っているのかがわからない、といった具合です。

私がなかなか理解できなかったのは、チューリングテストのAI的なものを実現するときに、適切な動機がないことです。おもちゃとして、人々がチャットできるような小さなチャットボットを作ることができます。それが次の課題でしょう。現在のディープラーニング、特にリカレントニューラルネットワークは、人間の話し言葉や書き言葉をかなりうまくモデル化しています。例えば、「今日の気分はどうですか」と入力するのはとても簡単で、誰かがこのような質問をすると、たいていの場合、このような返答をするものだとわかっています。

例えば、メールの返信を自動化できるかどうかを考えたい。答えは「ノー」だとわかっています。私にとってのチューリングテストは、ボットに私のメールのほとんどに返信させることができるようになったときでしょう。これは難しいテストです。例えば、「これはどうでもいいから、スパムフォルダに入れといて」というようなメールであれば、比較的簡単です。しかし、誰かが「製品の設計にあるこの矛盾をどうしたらいいのか」と言った場合、「あなたはこれを承認しますか」と言えるようにするのは、それなりの信頼性を持って答えられるようにするのは難しい。

その答えを、メールがつながっている人間から学ばなければならない、ということです。私は25年ほど前から自分のデータを収集しているので、少し先を行っているのかもしれません。25年分のすべての電子メール、20年分のすべてのキーストローク、その他たくさんのデータがあるのです。私ができることを、おそらく私よりもうまく、他の人よりも簡単にやってくれるアバター、AIを訓練することができるはずです。

AIが私たちのために多くのことを解明している世界では、AIに乗っ取られるシナリオを心配する人がいます。私が考えるに、このシナリオでは、ある意味、もっと興味深いことが先に起こるのではないでしょうか。AIは、あなたが何をするつもりなのか、何をしたいのかを知っていて、そこに到達するための方法を考えるのが得意だということが、すぐにわかるようになるのです。

車のGPSと同じで、「この目的地に行きたい」と伝えます。自分が一体どこにいるのかわからず、ただGPSに従うだけです。私の子どもたちは、私が持っていた初期のGPSが「こっちを走れ、こっちを走れ、こっちを走れ」というもので、ボストンハーバーに出る桟橋で、ただGPSに従うだけだったことをいつも面白がっていますよ。

何が起こるかというと、もっと言うと、私たちの歴史を知っていて、このメニューならきっとこれを注文したいだろうとか、この人と話しているのなら、このことについて話したほうがいいとか、そういうことを知っているAIが登場することです。「あなたの趣味を調べました、相手の趣味もなんとなく知っています、こういう共通の趣味があります、こういう話題なら話しかけられますよ」と。AIはますます、私たちがすべきことを提案してくれるようになり、ほとんどの場合、人々はAIに言われたことに従うのではないでしょうか。その方が、自分で考えたことよりも、きっと良いことだと思うからです。

私にとって、AIによる買収のシナリオは、人間の怠慢 … それは怠慢ではなく、適切なアドバイスを受けることです。AIはあなたに何をすべきかを教えてくれるのです。それは、自分で考えたことよりも良いものであることです。AIが言うとおりにすれば良いことなるのです。

テクノロジーという点では、複雑な相互作用があります。テクノロジーでひどいことをすることもあれば、テクノロジーで良いことをすることもあります。人は常に人であり、テクノロジーでひどいことをしようとする人もいれば、テクノロジーでよいことをしようとする人もいます。

私が今日のテクノロジーについて気に入っていることのひとつは、多くの人々に平等に提供されていることです。昔は、自分が知り合いの中で一番いいコンピューターを持っていると自負していた時期もありました。でも今は、知り合いのほとんどと同じコンピューターを持っています。同じスマートフォンを持っていて、70億人のうちのかなりの割合の人が、ほとんど同じ技術を使うことができるのです。完全にフラットではありませんが、それなりにフラットです。医療技術など、他の多くの技術分野でも、同じようなことが起こるでしょう。運がいいのか、そうでなければならないのかはわかりませんが、自分の作った技術が非常に広く利用されることがあります。王様の技術とみんなの技術が違うということはないんです。それが大事なことなんです。

Mathematicaがどれだけ使われているか、WolframAlphaがどれだけ使われているかという指標を、世界中のさまざまな国で発表しようと考えたこともあります。そこから膨大なことがわかるからです。技術的に非常に洗練されている国もあれば、そうでない国もあります。

500年前の大開拓地は識字率でした。今日、それはある種のプログラミングをすることです。今のプログラミングは、そう遠くないうちに時代遅れになるでしょう。例えば、私がコンピュータを使い始めた70年代には、「本格的なプログラマーなら、アセンブリ言語を使わなければならない」と言われたものです。今、私はコンピュータサイエンスの卒業生に、「アセンブリ言語を学んだか？」とよく尋ねます。と聞くと、「はい、アセンブリ言語についての授業が1回だけあった」と言うんです。

なぜなら、コンピュータは人間よりもアセンブリ言語を書くのが得意で、言語がどのようにアセンブリ言語にコンパイルされるかの詳細を知る必要があるのは、ごく限られた人たちだけだからです。今日、大勢のプログラマーが行っていることの多くは、これと同じようにありふれたものです。目標はもっと簡潔に説明できるのに、JavaのコードやJavaScriptのコードなど、巨大な塊に変わってしまうのです。そんなものを人間が書く正当な理由はありません。

私のような人間は、プログラミングのプロセスを自動化しようとするのですが、重要なのは、人間がやりたいことを、できるだけ自動的に機械にやらせることです。今、私が興味を持っていることのひとつに、このイコライザーが生み出すものがあります。昔は、何か重要で現実的なもののために、本格的なコードやプログラムを書こうと思ったら、大変な労力が必要でした。ソフトウェア工学の知識が必要で、何カ月も時間をかけ、その知識を持ったプログラマーを雇うか、自分で勉強しなければなりませんでした。大きな投資でした。

今、多くのスタックを自動化したことで、大きな成果が出ていますが、それはもう真実ではありません。1行のコード片、時にはツイートできるようなものでさえ、すでに何か面白いこと、役に立つことをしているのです。つまり、これまでコンピュータに何かをさせることができなかった人、コンピュータに何かをさせることができなかった人の、幅広い可能性を引き出してくれるのです。

さて、どうなるでしょうか。この時点で、コンピューターに指示を出すという点では、子供も派手なプロも同じレベルになっています。世の中のできるだけ広い範囲の人に、構成思考やプログラミングを教えるにはどうしたらいいのでしょうか。

私が望むことのひとつは、知識ベースのプログラミングという新しい能力を身につけた子供たちが、世界中のランダムな国に大勢いて、最も豪華で教育水準の高い場所にいる人たちと同じくらい洗練されたコードを効率的に作成できるようになることです。これは手の届くところにあるのです。

知識ベースのプログラミングを誰でもできるようになり、さらに重要なのは計算機的思考を身につけられるようになったことです。プログラミングの実際の仕組みは、もうかなり簡単です。難しいのは、計算機的な方法で物事を想像すること、そして、私たちが持っているこの活動を計算機的な方法でどのように概念化するかを考え抜くことです。

計算機的思考をどのように教えますか？例えば数学では、数学的思考をどのように教えるかについて、1000年の歴史があります。例えば、微積分の教科書はどうでしょうか？私の記憶違いでなければ、いつも14の章から構成されています。その14章はいつからあるのですかと尋ねました。1727年にコリン・マクローリンが書いた一番最初の微積分の本も、同じような構成になっているという主張でした。例題の多くも同じでした。これは、長い時間をかけて開発されたもので、人間に数学を教える方法として、非常に正確に知られているものです。

いくつかポイントがあります。まず、Wolfram言語のコードを書いている場合、その言語がどのように機能するかという設計と構造について、最終的には私に責任があります。DNAコードや生物学の場合、これを設計したのはあなたですと言える人はいません。長い時間をかけて進化してきたものなのです。人間の自然言語と同じように、何をするのかを知るにはある程度の複雑さがあります。設計された言語がある場合、設計者が考えたとおりのことができるはずです。とはいえ、生体システムをプログラムすることがあまり有用でないとは言いません。なぜなら、私たちは生体システムであり、生体システムは分子コンピューティングに成功した唯一の例だからです。いずれは、コンピュータ言語と同じように設計された生命体のようなものを設計できる時代が来るかもしれません。しかし、今はまだその時点ではありません。私たちは、今ある分子コンピュータ、つまり私たちと私たちの生物学を使わなければならないのです。

そのプログラミングをどうするかという点では、非常に興味深い問題です。ナノテクノロジーの伝統を見ると、「どうすればナノテクノロジーを実現できるか」という考え方があります。答え：現在、私たちが理解しているような大規模な技術を、非常に小さくするのです。原子レベルのCPUチップを作るにはどうしたらいいですか？機械的に作るかもしれませんが、基本的には、私たちが知っているCPUチップと同じアーキテクチャを使っています。

しかし、それだけが唯一のアプローチではありません。私が行った、簡単なプログラムとその動作を見ていると、非常に単純な貧弱なコンポーネントでも、正しいコンパイラを使えば、効果的に、非常に興味深いことをさせることができることがわかります。

分子スケールのコンピューティングは、私が長い間やりたいと思っていたプロジェクトのひとつです。私のようなアンビエント技術を構築するつもりのない者が、分子コンピューティングで何かをすることが可能になる日が、もうすぐそこまで来ていることを期待しています。

私が思うに、普遍的なコンピュータを作るのに十分な部品が揃っているのです。この部品を使ってどうやってプログラミングするかはわからないかもしれませんが、可能なプログラムの空間を検索することで、構成要素を構築し始め、そのためのコンパイラを作ることができるのです。驚くのは、貧弱なものでも高度なことができることで、コンパイルのステップは思ったほど陰惨なものではありません。

2つの状態と3つの色を持つ、最も単純な普遍的チューリング機械があります。この機械には小さなルールがあり、英語で書くとおそらく1文の長さになるでしょう。しかし、写真に撮れば、それは小さくてシンプルなものなのです。このチューリングマシンを使って、私が気になるプログラムをコンパイルするにはどうしたらいいのか？

私はまだやったことがありませんが、厄介なマシンコードの層があり、その上はかなりシンプルになると思います。その厄介な機械コードの層は、おそらく1万分の1かそれ以上の非効率性をもたらすでしょう。しかし、大規模なものに比べて分子の規模を扱う場合には、1万分の1というのは大したことではありません。

私の偏見と考えでは、計算機の世界を探索し、興味深いプログラム、興味深い構成要素を見つけようとすることは、良いアプローチだと思います。伝統的な工学的アプローチでは、純粋な思考によって、どのように物を作るかを解明しようとしますが、私の推測では、それは困難な道です。

しかし、私の予想では、「これが構成要素で、これをうまく表現して、これを使って作れるプログラムを検索してみよう」というだけで、すごいことができるようになると思います。例えば、「この分子の組み合わせができる。いろいろと楽しいことができそうだ。この大きな塊ができる。こんなこともできる、あんなこともできる……。」しかし、そんなことどうでもいいじゃないですか。そして、人間の目的とシステムから得られるものを結びつけるという、この問いに戻るのです。

多くの人がコーディングの方法を知っていると、世の中はどうなるのでしょうか。コーディングは、英文が表現形式であるのと同じように、表現形式のひとつです。私にとっては、シンプルなコードも詩的なんです。とてもきれいな形でアイデアを表現しています。自然言語による表現と同じように、美的なものがあるのです。

一般的に、私たちが見ているのは、このように自分を表現する方法があるということです。自然言語で表現することも、絵を描いて表現することも、コードで表現することも可能です。コードの特徴のひとつは、すぐに実行できることです。何かを書いたら、誰かがそれを読まなければならず、それを読む脳は、書いた人の思考を別途吸収しなければならない、というようなことはありません。

世界の歴史の中で、知識がどのように伝達されるかを見てみると、知識の伝達の一つの形態は、基本的に遺伝的なものです。つまり、ある生物がいて、その子孫がその生物が持っていたのと同じ特徴を持つということで、レベルゼロです。

レベル1とは、生理的認識などの知識伝達のようなものです。新しい生物が生まれると、その生物には何らかの神経ネットワークがあります。その神経回路網には、ランダムな接続があります。しかし、その生物が世界中を回るうちに、さまざまな種類の物体を認識するようになり、その知識を学んでいきます。動物界では、生物は生理的な認識を学んできました。それが、次のレベルの知識です。

そして、私たちの種の大きな成果であった知識のレベル、それが自然言語です。知識を、実体のない方法で伝達できるほど抽象的に表現する能力です。いわば、脳から脳へ。個々の脳は、原材料から学び直す必要はないのです。知識を抽象化して、次の脳へ伝えることができるのです。自然言語は、私たちの種と人類の歴史において最も重要な発明です。多くの点で、私たちの文明やその他の多くのことにつながったものですから、重要なことなのです。

これにはもう一つレベルがあり、おそらくいつかもっと面白い名前がつくと思います。知識ベースのプログラミングでは、基本的に、世界の知識の表現を取る方法があります。これは世界の実際の表現なのです。単なる数学でもコンピュータ言語でもありません。世の中の現実のものを表現するものですが、それを精密かつ象徴的な方法で表現しているのです。脳が理解でき、他の脳やコンピュータに伝えることができるだけでなく、すぐに実行できるという特徴があります。

これは大きな問題で、ある面では自然言語が文明を与えたように、知識ベースのプログラミングが何を与えるかという問題があるのは間違いないと思いますね。悪い答えとしては、AIが文明を与えてしまうということです。それは人間にとって残念なことです。なぜなら、中間言語がなく、私たちの脳とのインターフェースもないため、AIが互いにコミュニケーションし、さまざまなことを行っているのに、私たちはそこから取り残されてしまう可能性があるからです。

今、超興味があるのが、この第4階層の知識コミュニケーションにおける問いかけです。それがつながる大きなものってなんでしょう？もしあなたが穴居人オグとかで、言語が始まっていることに気づいたとしたら、そこから文明を想像できるのか、というようなことです。今、私たちは何を想像すればいいのでしょうか。

これは、「もしほとんどの人がコードを書けるようになったら、世界はどうなるのだろう」という人間に対する問いかけと関連しています。契約書はコードで書かれるでしょうし、レストランのメニューもコードで書かれるかもしれません。「料理はこうやって作られるのか？この部分とこの部分を変えたいんだけど……」といった具合に。そういう単純なことが変わっていくのです。

変化するものには、もっと奥深いものがあるはずです。例えば、官僚制のようなものは、識字率の上昇によって、これまでも存在していましたが、良くも悪くも劇的に加速しました。政府制度がより深化したのです。それが、ほとんどの人がコーディングできるようになった場合、どのように見えるのか？コーディングの世界は、文化の世界とどのように関係しているのか？

最近考えていることのひとつに、高校教育があります。プログラミングやコーディング、計算機的思考を高校レベルでどのように教えたらよいのでしょうか。可能性のひとつは、今日、人々が教えられているさまざまなことの上に、この科目を追加していくことです。

もう一つの可能性は、既存の分野をすべて見直すというものです。計算機的思考があれば、歴史の研究メソッドにどのような影響を与えるか？言語や社会科の勉強にどのような影響を与えるのか？答えは、大きな効果があります。

あなたが作文を書いているところを想像してください。今日、典型的な子供の作文の素材は、「何かを読む-これが素材であり、今それについて書く」です。子供たちが新しい知識を簡単に生み出せるかというと、そうではありません。しかし、コンピュータの世界では、もはやそんなことはありません。コードの書き方を知っている子供なら、美しくデジタル化された歴史的データを見て、何か新しいことを見つけ出すのはとても簡単なことです。そして、発見したことをエッセイに書いて、作文するわけです。

これは知識ベースのプログラミングの成果であり、もはや不毛なものではありません。なぜなら、コードを書くために使う言語に、世界の知識が編み込まれているからです。今、人々が教えているのは、純粋な数学の分野です。少なくとも基礎的な数学は、あらゆるところに入り込んでいます。文系にはあまり入り込んでいませんが、少なくとも基礎的な数学は、物事を考える方法の一部になっているのです。

同様に、コンピュテーションは、この時代、私たちが物事を考えるべき基本的な考え方の一部であるものです。計算の素晴らしいところは、物事を計算で考えれば、すぐに実行できるようになることです。計算機的にアイデアがあり、コードを書く仕組みが少しわかっていれば、とても簡単な仕組みです。そのアイデアがあり、計算機的に定式化されていれば、あとは機械に仕事をさせることができます。子供でも、高級な研究者と同じように、機械に仕事をさせることができるのです。

先ほども言いましたが、ここが大きな問題なんです。AI単体では目標がありません。目標は人間が作り出したものです。私がこれまで行ってきた多くの科学的研究から生まれたのは、知性と計算が同じものであるという認識です。乱流が複雑な流れのパターンを作り出しているにせよ、小惑星があれやこれやと相互作用する天体の力学にせよ、あるいは脳の中にせよ、宇宙の至るところに計算が存在するのです。

この「目的はあるのか、その目的は何か」という問いは、どのシステムについても問うことができます。天気には目標があるのか？気候には目標があるのか？残念ながら、これはアリストテレス以来、人々が問い続けてきたことの1つです。アリストテレスにとって、これは最終的な原因の質問でした。これを少し解きほぐしてみましょう。

今日、私たちが目にする多くのものは、人間の手によって作られたものであることが一目瞭然です。紀元前100年から紀元後100年にかけての難破船から掘り出されたアンティキティラ島の装置は、何かの目的のために作られたのか？ 落として二つに割れたとき、歯車がたくさん出てきたので、これは何かの目的のために作られたとすぐに分かりました。それは、人間の工学の歴史の一部なのですから。

歴史を考えると、物事に人間の目的を認めるのはとても簡単なことです。それは、この「生きているかどうか」という問いと少し似ています。地球上では、この問いに答えるのはとても簡単です。RNAはあるか？細胞膜はあるのか？こういったものは、地球上の生命の歴史から生まれたものです。

私が子供の頃、最初の火星着陸船が着陸したのを覚えています。火星に生命はいるのか？季節ごとに起こるような緑のものは、植物か何かか？どんなテストがあるのか興味津々だったのを覚えています。今の時代からすると、かなり愉快なものです。基本的なテストは、火星の土をすくって砂糖を与え、それを食べるかどうかというものでした。それが一番上のテストでした。生命が砂糖を食べるようなものでなければならないとは、誰も思わないでしょう。生命の抽象的な定義とは何かという問題です。それは難しい。

この「目的をどう認識するか」という問題に戻ります。一つの例として、宇宙から地球を眺めてみましょう。地球上に何か目的を持ったものがぶら下がっていると言えるでしょうか？地球には文明があると言えるでしょうか？

今から15年ほど前になりますが、宇宙飛行士に「地球上に知性があることを示すものは何か」という実験をしました。最初に言われたのは、ユタ州のグレートソルト湖に一本の直線がある、ということでした。それは、藻の色が全く異なる2つの地域を分ける土手道であることがわかりました。とてもドラマチックな直線ですね。次に、光でできた一番長い直線はどこだろうと興味を持ちました。オーストラリアに長くてまっすぐな道路があるんです。ロシアには、シベリアにある鉄道がありますが、この鉄道は長く、駅に停車するとライトが点灯します。ですから、直線やいろいろなものを見ることができるのです。

また、ニュージーランドには、エレバス山という多かれ少なかれ真円の山があります。私がこの研究をしていたのは、ウェブが一般的になる前でしたから、その属性が何だろうかを調べに行くことはできませんでした。地図などを入手しようとして、ニュージーランドの地質調査所と連絡を取っていたんです。教科書を書くなら、エレバス山が円形の火山だとは書かないでほしい」と言われました。円は火山に由来するものではありません。円は火山の周りに描かれた国立公園からきているのです。”国立公園の中には羊か何かが放牧されていますが、外にはいない、あるいはその逆で、それが円につながっています。これも、人間から来た幾何学の断片の例です。

宇宙から見た地球で、明らかな目的を持つ例を見つけるのはかなり難しい。また、地球外生命体にとって素晴らしい質問ですが、もし私たちが地球外生命体を認識したいのであれば、私たちが受け取っている信号に目的があるかどうかをどうやって見分ければいいのでしょうか。1968年、パルサーが発見されました。数ミリ秒から数秒おきに、周期的なものであるフラッターのような音が聞こえるのです。当時、最初の疑問は、これはビーコンなのだろうか、ということでした。だって、あんなに周期的なものを作るのは何でしょう？何か目的があるに違いません。しかし、それは中性子星が回転しているだけだということがわかりました。

この質問は何度も出てきます：目的を証明するものは何でしょうか？1900年代初頭、マルコーニとテスラはともに地球から離れた場所からの無線通信を聞いていました。マルコーニは大西洋の真ん中にヨットを浮かべ、クジラの歌のような奇妙な音を聞いていましたが、それは無線から来たものでした。テスラは、「これは火星人が私たちに信号を送っている」と強く感じたのです。どうやって見分けるのですか？

実は、電離層のあるモードが原因だったのです。これは流体力学的な現象で、まさに物理学です。これは、「天気には意思がある」という事例のひとつです。それが知性や目的を持っているものなのか、それとも単なる電離層の磁気流体力学なのか、どうやって見分けるのか？

1つの基準として、目的を特定できた場合、その目的を達成するために最小限のものだろうかどうかということがあります。例えば、食べるためのフォークがあったとして、そのフォークには信じられないほど精巧な装飾が施されていたとします。そのフォークの目的は、フォークであることです。しかし、このような装飾が施されているのは、その目的とは関係ありません。その装飾品自体には、そのフォークや他のものに対して、人々に異なる感情的な反応を与えるという目的があるかもしれません。

しかし、この質問は、何かがその目的のために最小限のものであり、それは目的のために作られたことを意味するのか？あるものを見たとき、何が起こるかについて、通常、さまざまな説明ができます。ひとつは、機械論的な説明です。ボールが坂を転がり落ちるのは、次の瞬間に引力がこうなって、こうなるからです。あるいは、ボールが丘を転がり落ちるのは、最小作用の原理を満たしているからであり、この特定の事柄を最適化しようと世界的に努力しているからです。

何かを説明するとき、一般的に「機械論的説明」と「目的論的説明」という2つの説明がありますよね。どちらが勝れた説明なのか、すべてを正しく説明するのはどちらなのか。一つの基準として考えられるのは、その目的を達成するために必要最小限のものであれば、そのものは目的のために作られたということです。

問題は、基本的に既存の技術のすべてがそのテストに失敗していることです。そのように機能する技術を想像することはできますが、私たちが作るもののほとんどは、技術的な歴史に絶対的に深く刻まれていて、その目的を達成するためには信じられないほど非最小化されています。CPUチップを見てください。CPUチップが達成することを実現するための最小限の方法であるはずがないのに、私たちの工学技術の歴史に深く刻まれているのです。

そのモノに目的があるかどうかをどう見極めるか、この問題は難しいです。例えば、地球外生命体の問題では、それが重要です。地球外生命体が星を好きなように並べられるとします。どのように並べたら、それが目的を持って並べられたと言えるでしょうか。一直線に並べるでしょうか？おそらくそうではないでしょう。なぜなら、そうなる可能性のあるあらゆる物理的プロセスを想像することができるからです。正三角形に並べることはないでしょう。なぜなら、正三角形は特に単純な物理的プロセスだからです。「コーラを買おう」という看板があるでしょうか？エイリアンのアートワークがあるのか？私たちは間違いなく、エイリアンのアートワークが知的な目的を持つものだとは認識しないでしょう。

重要な質問です。銀河系からの電波ノイズを見ると、携帯電話のCDMA通信と非常に似ています。根本的に違うわけではありません。携帯電話のCDMA通信は、擬似的なノイズシーケンスを使用しており、偶然にもある種の再現性を持っています。しかし、それらはノイズとして伝わり、他のチャンネルと干渉しないようにするなどの目的でノイズとして設定されています。

根本的な目的をどのように認識すればいいのでしょうか。パルサーから生成される一連の素数を観測したら、何がこれを生成したのか？成長し、素数を発見し、コンピュータを作り、無線送信機を作り、これを行うような文明全体が必要だったのか？それとも、何らかの物理的なプロセスによって素粒子が作られるというだけの別の説明があるのでしょうか。その物理的プロセスは、その内部でさまざまな奇妙なことが起こっているのかもしれません。

昔作ったセルラーオートマトンで、素数を作るものがあります。分解してみると、その仕組みがわかります。その中に小さなものが入っていて、それが弾むと素数の列が出てくるんです。しかし、そこに至るまでには、文明や生物学などの歴史は必要なかったのです。

スバラシイことです。何かを観察するとき、それは目的を持って作られたものなのか？目的を持っているかどうかは、どうやって見分けるのか？抽象的な目的意識はないと思います。つまり、宇宙には目的があるのだろうかという奇妙なことになります。そうすると、ある意味、神学をやっていることになりますね。抽象的な目的なんてないんです。目的という抽象的な概念があることに意味はないのです。つまり、目的とは歴史から生まれるものなのです。

計算について真実かもしれないこと、私たちの世界について真実かもしれないこと、がっかりすることのひとつは、私たちが歴史や生物学や文明などをすべて経験し、一日の終わりに、答えが42か何かであることです。いわば、それで終わりなんです。答えに辿り着いたのです。40億年の様々な進化を経て、42に辿り着いたわけですから。

なぜなら、ゲーデルの万能計算の定理に由来する「計算の非簡約性」という考え方があるからです。計算には、自分が通過できる、そして物事がしばしば通過する過程があり、その過程をショートカットする方法はないのです。つまり、「時間を無駄にした」とは言えないのです。科学の多くは、自然が行う計算をショートカットすることを目的としてきました。

例えば、天体力学を学ぶ場合、100万年後の惑星の位置を予測しようとします。その場合、方程式に従って、一つひとつのステップを追って、一歩一歩何が起こるかを見ていけばよいのです。しかし、科学における予測の大きな成果は、それをショートカットして、今いる場所からジャンプして計算を減らすことができたからです。私たちは宇宙よりも賢くなり、すべてのステップを踏まずに、ここが終点であることを突き止めることができたのです。それが、この予知と科学の物語なのです。

科学にとっては悪いニュースですが、有意義な人生を送る私たちにとっては、いわば良いニュースなのです。私たちは、そのようなステップを不可逆的にたどらなければなりません。ある意味、だから歴史は意味があるんです。もし、ステップを踏まずに終点にたどり着けるのであれば、歴史はある意味無意味なものになってしまいます。

この事実は、こうした予測ができないので科学にとっては悪いが、文明の歴史などの意味づけにとっては良いということで、こうした詳細が還元できないということです。ある意味、すべてのものが知性などの属性を持ち得るとわかったとき、私たちについて特別でなければならないのは、私たちに関するこれらの詳細のすべてであることに気づくのです。何か大きな特徴になるわけではないのです。

私たちだけが知的で、それ以外のものは知的でない、というようなことはあり得ません。私たちと雲やセル・オートマトンとの間に、大きな抽象的な違いがあるわけではないのです。抽象的な違いではありません。この脳のような神経ネットワークは、このセル・オートマトンとは質的に違うのだ、と言えるようなものではありません。むしろ、この脳のようなものは長い文明の歴史によって生み出されたものであり、このセル・オートマトンは私のコンピューターによって最後の1マイクロ秒に生み出されたものだという細かい違いなのです。

抽象的なAIの問題は、地球外知的生命体の問題と非常に似ています。物にはいつ目的があるのか、物にはいつ知能があるのか、という認識です。繰り返しますが、これらの問題は、私は答えが出たとは思っていません。もちろん、科学の分野では、なぜ地球外生命体が見つかっていないのか、ということが重要です。どうして私たちはこんなにもユニークな存在なのか？それは愚かな質問かもしれません。なぜなら、宇宙には知性があふれていて、その知性にどれだけ近づけるかを考えなければならないからです。RNAはあるのか？民主主義という概念を発明したのか？

私たちが考える他の属性の多くは、「AIはインテリジェントである」と言い切るときに思いつくものです。AIは、「ブラブラ」できるようになれば知的です。もし素数を見つけることができたら、もしあれやこれやを作り出すことができたら……」そのような結果を得るには、他にも多くの方法があります。それは、知能と単なる計算の間に明確な線がないという事実の結果です。

いわば、コペルニクス的な物語のもう一つの部分です。私たちはかつて、地球が宇宙の中心だと考えていました。今、少なくとも私たちは、自分たちには知性があり、他のものにはないのだから特別だと考えています。しかし、悪いことに、それは区別されていないのです。ところで、この区別のなさは、人間の未来について考える上で、かなり重要です。

ここで、私が気になっているシナリオの一つを紹介します。人間の意識がデジタル形式で容易にアップロードでき、仮想化されるなどして、かなり早い段階で1兆個の魂の箱ができる時代が来たとしましょうか。箱の中に1兆個の魂があり、すべて仮想化されています。私たちはこの箱を見ています。この箱の中には、うまくいけば素晴らしい分子コンピューティングがあります。ある意味では生物学から派生したものかもしれませんが、そうでないかもしれません。箱の中では、あらゆる種類の精巧なことが行われています。

そして、箱の隣に置かれた岩石を見てみましょう。岩の中では、さまざまな電子がさまざまなことを行っていて、精巧なものが作られています。岩と1兆個の魂の箱の違いは何でしょう」と考えます。その答えは、1兆個の魂の箱にはこの長い歴史があるということでしょう。そこで起きていることの詳細は、文明の歴史や、2015年に作られたビデオを見る人たちなどから導き出されたものです。一方、岩はその地質学的な歴史から得たものですが、私たちの文明の特別な歴史ではありません。

知性と単なる計算の区別がないことに気づいたこの問いは、文明の未来が1兆個の魂の箱で終わることを想像させ、ではその目的は何なのか？今の私たちから見ると、例えばそのシナリオでは、すべての魂が基本的に永遠にビデオゲームをしているようなものです。その終着点は何なのでしょうか？