AI LaMDA(ラムダ)Lex Fridman Podcastシミュレーション仮説意識・クオリア・自由意志未来学・シンギュラリティー・人工知能

デミス・ハサビス ディープマインド – AI、超知能、そして人類の未来|Lex Fridman Podcast #299
Demis Hassabis: DeepMind - AI, Superintelligence & the Future of Humanity | Lex Fridman Podcast #299

サイトのご利用には利用規約への同意が必要です

強調オフ  文字サイズ

レックス・フリードマン

チャンネル登録者数 190万人

デミス・ハサビスはDeepMindのCEOであり共同設立者です。このポッドキャストをサポートするために、スポンサーをチェックしてください。

EPISODE LINKS
  • デミスのツイッター: twitter.com/demishassabis
  • ディープマインドのツイッター: twitter.com/DeepMind
  • ディープマインドのインスタグラム: instagram.com/deepmind
  • ディープマインドのウェブサイト:https://deepmind.com
  • プラズマ制御の論文:https://nature.com/articles/s41586-02…
  • 量子シミュレーション論文:https://science.org/doi/10.1126/scien…
  • エンペラーズ・ニューマインド (書籍): amzn.to/3bx03lo
  • ライフ・アセンディング (書籍): amzn.to/3AhUP7z
PODCAST INFO:
アウトライン
  1. 0:00 – イントロダクション
  2. 1:01 – チューリング・テスト
  3. 8:27 – ビデオゲーム
  4. 30:02 – シミュレーション
  5. 32:13 – 意識
  6. 37:13 – アルファフォールド
  7. 50:53 – 知能を解決する
  8. 1:03:12 – AlphaFoldとMuJoCoのオープンソース化
  9. 1:13:18 – 核融合
  10. 1:17:22 – 量子シミュレーション
  11. 1:20:30 – 物理学
  12. 1:23:57 – 生命の起源
  13. 1:28:36 – エイリアン
  14. 1:36:43 – 知能ある生命
  15. 1:39:52 – 意識的なAI
  16. 1:53:07 – パワー
  17. 1:57:37 – 若い人へのアドバイス
  18. 2:05:43 – 人生の意味
  19. SOCIAL

Lex Fridman 0:00

ディープマインドのCEOであり共同設立者であるデミス・ハサビスとの対談です。ディープマインドは、世界中のどの人間よりも優れたゴルフゲームを独学で学んだアルファゼロなど、コンピュータ史上最も驚くべき人工知能システムを発表し構築してきた会社です。

また、長い間不可能に近いとされていたタンパク質の折り畳みを解決したアルファフォールド2もその一つです。デニスは、人工知能の歴史において、また科学と工学の歴史において、最も優秀でインパクトのある人物の一人であると広く認められています。

今回、ついに彼と対談できたことは、私にとって本当に光栄なことであり、喜びでもあります。そして、これからまた何度も話をすることになると思います。この番組はラックス・フリードマンのポッドキャストです。

応援してくださる方は、説明文にあるスポンサーをチェックしてください。

チューリング・テスト

さて、親愛なる皆さん、デミス・ハサビスの登場です。ちょっと個人的な質問から始めましょう。

私はあなたが書いたAIプログラムで、私があなたにインタビューできるほど上手になるまで、人にインタビューするためのものなのでしょうか?

Demis Hassabis 1:11

まあ、もしあなたが私に感銘を受けなかったら、私は感銘を受けるでしょう、まだそこまで達していないと思います。しかし、もしかしたらLexさんは未来から来たのかもしれませんね?

Lex Fridman 1:18

もしそうだとしたら、それは教えてくれるかな?タスクがインタビューだった言語モデルに、それが実はAIであると伝えることは良いことなのでしょうか?

Demis Hassabis 1:27

もしかしたら、私たちは一種のメタ・チューリング・テストをしているのかもしれませんね。おそらく、言わない方がいいと思います。つまり、行動を変えないということですね?これは一種のつるべ落とし的な不確実性原理の状況です、もし私があなたに伝えたらあなたは違う行動をする、多分それは私たちに起こっていることなのです。もちろんです。

Lex Fridman 1:41

これは未来からのベンチマークですが、AISが十分な性能を発揮する前の年として 2022年を再現するのでしょうか。そして今、私たちは見たい、それは合格しそうですか?その通りですか?私がそのようなプログラムであった場合?あなたは、伝えることができるでしょうか?

チューリングテストの質問にそう思いますか?あなたが話してくれました?知能を解くためのベンチマーク、彼はノーベル賞と資産を獲得し、ノーベル賞を受賞について話している印象的なものでしょうか?しかし、私はまだチューリングテストの精神に説得力のあるとしてチューリングテストに戻ってきました。説得力のあるテストではありません。

Demis Hassabis 2:17

チューリングテストは、もちろん、信じられないほどの影響力を持っています。チューリングは私のヒーローの一人ですが、1950年の論文を振り返って、原文を読んでみると、彼がこのテストを厳密な形式的テストとして意図していたとは思えないのです。例えば、専門家や裁判官がその場にいなかった場合の知識、それを調査するための時間などを明記していません。

チューリングテストを本当の意味で正式なテストにするのであれば、これらの重要なパラメータが必要です。10年前、ある人がチューリングテストは合格だと主張しました。

つまり、審査員は、その機械は子供だと思ったわけです。ですから、AIの専門家がマシンに質問して、それがどのように作られたかを知るのとは、まったく異なるでしょう。ですから、正式なテストとして行うのではなく、一般的なテストとして、さまざまなタスクでAIの能力をテストし、最終的には数千、数百万のタスクで人間レベル以上のパフォーマンスを達成できるかどうか、認知空間全体をカバーできるかどうかを確認すべきなのだと考えています。

当時としては、驚くべき思考実験だったのではないでしょうか。また、1950年代の話です。当時はまだコンピュータ時代の幕開け前でした。もちろん、彼はテキストについてしか考えていませんでした。しかし、今ではもっと多くの異なる入力があります。

Lex Fridman 3:54

そうですね、テストすべきは一般化能力かもしれません。しかし、Godのようなシステムが示すように、最終的には言語と同じようにマッピングされる可能性もあると思います。これは、私たちが会話を通じて行っていることです。全く異なる理解の仕方をすることで、最終的に、すべての領域(タスクと考えることもできます)でうまく動作する能力につながるのです。

Demis Hassabis 4:42

ええ、確かに、私たち人間は、言語を主な一般化コミュニケーションツールとして使っていますね。ですから、私たちは結局のところ、言語で考え、言語で解決策を表現しているのだと思います。ですから、システムが何をしているのかを説明するための、非常に強力な手段になるはずです。しかし、それだけが重要な手段だとは思いません。ですから、言語以外にも能力を表現するさまざまな方法があるはずです。

Lex Fridman 5:15

そうですね、視覚、ロボット工学、ボディランゲージ。行動、対話的な側面、それらすべてがその一部です。

Demis Hassabis 5:25

しかし、Gattoの面白いところは 予測を極限まで高めている点です。任意のシーケンスを他のシーケンスにマッピングして 次に何が起こるかを予測するようなものです。ですから、予測は知能の基本であるように思われます。

Lex Fridman 5:41

何を予測するかはそれほど重要ではないのですか?

Demis Hassabis 5:44

そうです。それはかなり一般化できそうですね。言語モデルは次の単語を予測しますが、Gattoはあらゆる行動やトークンを予測する可能性があるわけです。これはほんの始まりで、今のところ私たちの最も一般的なエージェントと言えます。しかし、これ自体は、これまでよりも大幅にスケールアップすることが可能です。明らかに、私たちはその途上にあります。

Lex Fridman 6:04

しかし、AGIを解決するための大きな要素は、一般化可能性をテストするためのベンチマークを作成することで、私たちがどんどん近づいていくのを助けることです。アラン・チューリングという人が、哲学的にかもしれませんが、追随できるベンチマークを作ろうとした最初の一人であり、おそらく今でも唯一の人であることは、今でも興味深いことです。

このベンチマークは、あいまいではありますが、テストを実施するのに十分な厳密さを持っています。親しい友人がいて、その友人がAIシステムであったとしても、良い友人であるためには、スタークラフトをプレイできなければならないでしょう。そして、これらのタスクをすべてこなさなければならないでしょう。

ビールを持ってくる、ロボット工学のタスク、一緒にゲームをする、言語やユーモアを使うなど、いろいろなことができますが、最終的には言語に集約されます。しかし、一般的な知能が世界に与える実際の影響という点では、言語が真に輝く場所になるような気がしています。

Demis Hassabis 7:18

私たちにとって重要なインプット・アウトプットの一種であるため、そう思うのです。チューリング・テストは、その背後にある哲学のようなもので、「機械は人間の行動を模倣することができるか」という考えなのですが、言語やテキストだけでなく、行動や創造性など、あらゆる面で人間の認知能力と同等かそれを超えることができれば、真の知性を獲得できると思います。ですから、そのような観点から、彼は正しい設定を行ったのだと思います。

Lex Fridman 7:56

私はただ、AIシステムの中に、この会話を振り返る未来のユーモアのようなものがあると思うのです。そしてチューリングテストについて考えるのです。そして、その時には、自分たちが何年後にようやく人間レベルの知能の閾値を超えることができたかを知ることになるのでしょう。

そして、私たち人間が、この問題全体にまだ混乱していることが、いかにおかしいかを考えるのです。とっくに解決済みです。「未来のエージェントたちよ、こんにちは。」

ビデオゲーム

ところで、あなたの旅の話に戻りますが、あなたが最初にプログラミングに恋したのはいつですか?

Demis Hassabis 8:33

実は、かなり若い頃なんです。最初はゲームが大好きだったんです。4歳くらいのときにチェスを始めました。当時、英国で大人気だった「エクスペクトラム」は、英国の全世代のプログラマーを育てることができる素晴らしい機械だと思います。

私の両親はコンピューターについて何も知りませんでしたから。でもチェス大会の賞金だったから、「買いたい」と言えたんです。それで本屋に行って、プログラミングの本を買ってきて、プログラミング・コードを打ち込み始めたんです。そうすると、当然ながら、それを調整して、自分でゲームを作るようになるんです。そのとき、コンピュータが大好きになり、コンピュータがとても魔法のような装置であることに気づいたんです。

当時はうまく説明できなかったのですが、コンピュータは自分の心の延長線上にある魔法のようなものだと感じていました。私はいつもこの感覚を持っていましたし、コンピューターが自分のために何かしてくれます、何かをしてくれるということが好きでした。

寝て、次の日に戻ってきました。ら、それが解決しています。私にとっては魔法のような感覚です。つまり、すべての機械がある程度そうなっているのです。私たちが本来持っている能力を高めてくれるのです。

自動車メーカーは、私たちが走れるようになれば、速く移動できるようになるのは明らかです。しかし、これは心を拡張する機械なのです。そしてもちろん、AIは機械ができること、学ぶことを究極的に表現したものです。ですから、私にとってこの考えは、ごく自然に、すぐにAIへと広がっていきました。

Lex Fridman 10:16

最初に開発されたプログラミング言語を覚えていますか?これは機械に特化したものですか?

Demis Hassabis 10:22

いえ、そうではありません。基本的なものでした。ZX Spectrumでは基本的なものだったような気がします。具体的にどのような形だったかは知りません。その後、Commodore Amigaを手に入れたんですが、これがまた素晴らしいマシンで、今じゃ見せびらかしてるようなもんです。それで、アセンブラでプログラミングをしたんです。それと、最も基本的なこの、この特定の形式のBasicも、実はすごいんです。それで私はコーディングのスキルをすべて手に入れたのです。

Lex Fridman 10:51

AIに夢中になったのはいつですか?寝ている間に数学的演算をしてくれるようなプログラムを書くだけではだめだということを理解しはじめたのはいつですか?単純な数学的演算よりも複雑なことを理解することができるような、生命を吹き込むようなものですか?

Demis Hassabis 11:15

そうですね。私にとっては、幼い頃からいくつかの段階がありました。まず、チェスを上達させるために、イギリスのジュニアチェスチームのキャプテンをしていました。そして、10、11歳くらいのとき、プロのチェスプレイヤーになろうと思ったんです。それが私の最初の考えでした。

Lex Fridman 11:32

その夢は、彼女が最高レベルに挑戦することを示すためにあったんですね。そうですね。

Demis Hassabis 11:35

私は12歳くらいでマスタースタンドになり 世界で2番目に高い評価を受けた ユディット・ポルガーは 素晴らしいチェスプレイヤーで 世界女性チャンピオンにもなりました。私がチェスを上達させようとしたとき、まず自分の思考プロセスを改善しようとするのは当然です。

そうすると、自分の脳はどうやってアイデアを出しているのでしょうか、なぜミスをするのでしょうか、といったことを考えるようになります。なぜミスをするのでしょうか?どうすれば、その思考プロセスを改善できるのでしょうか?もう一つは、チェス・コンピュータの始まりです。

80年代前半から半ばにかけて、チェス・コンピュータは物理的なボールで、目の前にあるような、四角を押さえるものでした。カスパロフが持っていたのは、私が買ったブランド品だったと思います。しかし、当時はかなり強かったので、オープンニングを上達させるために、よく対戦練習をしたものです。

ですから、たぶん11歳か12歳くらいのときに初めて手にしたんだと思います。このチェス盤でチェスをするために、どうやって誰かがプログラミングしたんでしょう、と思ったのを覚えています。ですから、私が11-12歳くらいのときに手に入れたことになります。

この本には、チェス・プログラムがどのように作られているのかが完全に説明されていました。私の最初のAIプログラムは、Amigaのプログラムでした。Amigaはチェスをするほど高性能ではなかったので、チェスのプログラム全体を書くことはできませんでしたが、オセロ(アメリカでは「リバース」と呼ばれていると思います)をプレイするプログラムを書きました。

チェスよりも少し単純なゲームです。でもチェス・プログラムにある原理、アルファ、ベータ、サーチを全部使ったんです。それが私の最初のAIプログラムでした。よく覚えていますよ。12年ほど前のことです。これが私をAIに引き入れたきっかけです。

その後、16-17年頃に第二弾が登場しました。私はプロとしてゲームを書いていました。ゲームをデザインして テーマパークというゲームを書きました。シミュレーションの一部として AIをゲームプレイの中核に据えたものです。このゲームは世界中で何百万本と売れました。

AIは現在のAIの基準からすると比較的単純ですが、プレイヤーの操作に反応するところが評価されました。サンドボックスゲームと呼ばれるようになりました。  『シムシティ』と並んで、このようなゲームの最初のタイプの1つです。つまり、プレイするゲームすべてがユニークだったんです。

Lex Fridman 13:55

少し余談ですが、本当に印象的なAIについて、何かおっしゃることはありますか?ゲームデザインの観点から?人間が楽しむという観点から、あなたがゲームで見た本当に印象的なAIについて教えてください。また、AIシステムを作るには何が必要なのでしょうか?それはどのくらい難しい問題なのでしょうか?というわけで、100万個の質問?そうですね、ちょっとだけ余談を。

Demis Hassabis 14:18

ゲームというのは、3つの理由で私の人生に大きな影響を及ぼしてきました。まず第一に、私がゲームをして、ゲームで自分を訓練していたことです。そして、子供のころは、ゲームのデザインやゲームのAIを書く段階でした。私が専門的に書いたゲームは、すべてAIを中核とするものでした。

それは、主に90年代のことです。当時、ゲーム業界はテクノロジーの最先端を行く場所でした。ジョン・カーマックや『Quake』などのグラフィックスにせよ、AIにせよ、すべてのアクションはゲームの中で起こっていたように思います。

GPUのようなものが登場しても、その恩恵はまだ続いています。皮肉なことに、GPUは明らかにグラフィック、つまりコンピュータグラフィックスのために発明されたものですが、その後、AIに驚くほど役立つことが判明しました。すべてが行列の掛け算であることが判明し、それが世界中に出現するのです。

当時、ゲームには最先端のAIが搭載されていたと思いますし、そのゲームの多くは、私が開発に携わったものです。私が初期段階から携わった「black and white」というゲームがありますが、これはコンピューターゲームにおける強化学習の最も印象的な例だと今でも思っています。

そのゲームでは、小さなペットの動物を訓練するのですが、そうすると、その動物があなたの接し方を学習していくんです。もし、あなたがひどい扱いをすれば、その動物は意地悪になります。そうすると、村人や住民、つまりあなたが運営している小さな部族に対して、意地悪になるんです。しかし、もしあなたが優しくしたら、それは優しくなる。その仕組みに人々は魅了されたのです。

だから私は、そのような展開の仕方に、特に

Lex Fridman 15:55

善と悪にマッピングすることです。そう、あなたのおかげで、自分が下す選択によって、自分の行く末を決めることができるのだということを実感しました。つまり、私たち全員が、魅力的な場所への軌跡に沿ったさまざまな選択において、あらゆる事柄において善悪の区別をすることができるということです。つまり、ゲームにはそれができるのです。フィロソフィカをあなたに、そしてこの稀有な、稀有なようです。

Demis Hassabis 16:22

そうですね、ゲームというのは、ユニークなメディアだと思います。エンターテインメントでありながら、実際にエージェントとして積極的に関与しているのです。ですから、映画や本といった他のメディアよりも、より直感的に楽しめるのだと思います。

2つ目は、AIやゲームをデザインすることです。3つ目の用途として、私は最初からAIの利用を考えていました。それは、AIアルゴリズムを実証し、AIアルゴリズムを開発するための実験場としてゲームを利用することです。

これは、DeepMindの設立当初、私たちのビジョンの中核を成すものでした。また、システムがどの程度改善されているのでしょうか、アイデアがどの方向に進んでいるのでしょうか、段階的な改善がなされているのかを確認するための指標も非常に簡単に得ることができます。

Lex Fridman 17:18

そして、これらの利益は、多くの場合、人間が事前に長い間行ってきました。ことに根ざしているので、すでに強力なルールのセットがあり、それはすでにひどく良いベンチマークであるようなものなのです。

Demis Hassabis 17:28

そうですね、多くの理由でとても優れています。なぜなら、人間がどれくらいの能力を発揮できるのでしょうか、明確な尺度があるのです。囲碁のように、私たちは何千年も前からプレイしているものもあります。また、スコアや風速などの条件が設定されていることもよくあります。

ですから、報酬学習システムにとって、報酬を得るのは非常に簡単で、その報酬を指定するのも非常に簡単です。また、そのようなゲームで世界最強のプレーヤーと対戦することで、自分のシステムがどれだけ強いか、外部で簡単にテストすることができます。

ですから、いろいろな意味でとてもいいんです。また、クラウド上で何百万ものシミュレーションを並列に実行することができるので、非常に効率的です。2010年当時、私たちがこれほどまでに成功したのは、ゲームを活用したことが大きな理由だと思います。

そして、DeepMindの設立当初、素晴らしいゲームエンジニアを雇いましたが、彼らは私が以前ゲーム業界で働いていた時に知り合った人たちで、そのおかげで、私たちは非常に早く立ち上がることができたのです。

Lex Fridman 18:30

さらに、チェス盤や囲碁盤の上で、人間対機械という、ほとんど哲学的なレベルで、なぜかとても説得力があるのです。特に、AIの歴史全体が、チェスで人間に勝つ機械を作るのは不可能だと言われ続けてきたことを考えると、なおさらです。そうなると私がAIの世界に入った頃、人々は囲碁は解けないゲームだと確信していました。

なぜなら、組み合わせの複雑さがあまりに大きすぎるからです。いくらムーアの法則に従って計算しても、囲碁を解読するのは無理でしょう。AI研究者、エンジニア、そして一人の人間として、その不可能性に直面することは、何か説得力があるのです。

不可能だと思っていたことが、どんどん崩れていく。自分が思っているほど賢くないということに気づき、謙虚になります。今は不可能だと思っていることが、もしかしたら実現するかもしれないと思うと、身が引き締まる思いです。

将来的には。ゲームやAIシステム、ゲームの中のビニ人間には、このメッセージを後押しするような、本当にパワフルなものがあります。特に囲碁の場合は、何百万人、何十億人という人たちのためになるのです。

Demis Hassabis 19:59

特に囲碁の場合、何百万、何十億という人々の心のよりどころとなります。ですから、本当に面白い鼻でした。AlphaGoの試合は、私にとって素晴らしいものでしたが、どこかほろ苦い瞬間でもありました。AlphaGoの対局を見たとき、そして明らかにその対局に深く関わっていたときです。

しかし、あなたが言うように、チェスは、つまり、カスパロフが正しく知性のショウジョウバエと呼んだものなんです。そうですね このフレーズは大好きです。その通りだと思います。チェスは、この分野全体が始まったときから、AIと密接に関係していましたから。

そうでしょう?チューリングやクロード・シャノンを始めとするAIの研究者は皆、チェスのプログラムを書こうとしたんです。私はクロード・シャノンの最初のチェス・プログラムの原版を持っています。1949年のもので、論文の原型のようなものです。

みんなそれをやったんです。有名なのはチアリングが書いたチェス・プログラムですが、周りのコンピュータはどれも遅くて動かせません。ですから、彼がコンピュータになるしかなかったんですね。それで彼は文字通り、2日か3日かけて自分のプログラムを鉛筆と紙を使って手で動かし、彼の友人とそのチェス・プログラムで対戦したんだと思います。

もちろん、カスパロフを破ったブルーは大きな出来事でした。もちろん、チェスやコンピュータ、AIなど、私が大好きなものばかりでしたから。当時、私は大学にいました。ディープブルーよりもカスパロフの頭脳に感銘を受けたのを覚えています。

彼はチェスをすることができただけでなく、この野蛮な計算マシンとほぼ同じレベルで、もちろん、カスパロフは人間ができることは何でもできます。自転車に乗ったり、いろいろな言葉を話したり、政治をしたり、カスパロフのように素晴らしいことを全部できるんです。

同じ頭脳を持つのに、ディープ・ブルーは、チェスではないのに、チェスのために手作業でコード化され、チェスのグランドマスターの知識を抽出し、クールなプログラムにしてしまったのですから、見事です。しかし、それ以外のことは何もできませんでした。

例えば、「Tic Tac Toe」のような、もっと単純なゲームさえもできないのです。つまり、そのシステムから得られる知性には、私たちが知性と見なす何かが欠けていたんです。だから私はAlphaGoでその方法を学びました。

Lex Fridman 22:36

そうです。AlphaGoとAlpha zero、mu zero、そしてGod、その他にも魅力的な軌跡があるんです。しかし、チェスにだけ簡単に触れておきましょう。チェスの人間的側面についてですが、あなたはゲームデザインの観点から、チェスをゲームとして魅力的にするのは、夜のビショップの間に創造的な緊張があることだと提唱しました。これを説明できますか?まず第一に、何がゲームを説得力のあるものにし、何世紀にもわたって定着させるのかを考えるのは、本当に興味深いことです。

Demis Hassabis 23:12

ええ、このことについてちょっと考えていました。実際、素晴らしいチェスプレイヤーでさえ、ゲームデザイナーの観点から、必ずしもこのことについて考えていないことが多いんです。では、私が考えていたゲームデザインの帽子をかぶってやってみましょう。

なぜチェスはそれほど魅力的なのでしょうか?その決定的な理由は、クローズドかオープンかなど、さまざまな種類のチェスのポジションを追加できるダイナミックなプネウスが、ビショップとナイツから生まれているからだと思います。つまり、ビショップとナイトの能力が動き方の点でどれだけ違うかを考えて、そしてどういうわけかチェスはその2つの能力を多かれ少なかれ等しくバランスさせるように進化してきたので、両方とも大体3点ずつの価値があるのです。

Lex Fridman 23:48

つまり、力学は常に存在していて、他のルールはその力学を安定させようとするものだということですね。

Demis Hassabis 23:53

ゲームを安定させようとしていると?まあ、おそらく、鶏と卵のようなもので、おそらく両方が一緒になったのでしょう。しかし、一晩に一回ビショップを持てるという、この美しい均衡が成立しているという事実があります。両者のパワーは大きく異なりますが、宇宙のあらゆるポジションの集合において、その価値は同等です。

ビショップやナイトを、一晩だけビショップと交換しても、ほとんど同じ価値しかないということが、このゲームに創造的な緊張感を与えていると思います。しかし、今は違うタイプのポジションを狙いますよね。ナイトを持っているならば、ポジションを閉じたい。ビショップがあれば、オープンポジションを狙います。これがチェスにおける創造的な緊張の多くを生み出すと思います。

Lex Fridman 24:30

制御された創造的緊張というわけですね。AIの観点から、AIシステムは最終的に、人間にとって最適な説得力のあるゲームをデザインできるとお考えですか?

Demis Hassabis 24:41

それは興味深い質問ですね。時々、AIと創造性について聞かれることがあるのですが、その答え方はこの質問と関係があります。創造性を「独創的なものを考え出すこと」と定義するならば、それは目的に対して有益なものです。そして、最も低いレベルの創造性とは、「補間」のようなものだと思うのです。

つまり、あなたが見たすべての例の平均化です。ですから、非常に基本的なAIシステムは、「こんなものがあります」と言うことができるでしょう。何百万枚もの猫の写真を見せるとします。そして、「平均的な外見の猫をください」と言うわけです。

平均的な外見の猫を生成することを内挿と呼びますが、外挿もあります。AlphaGoが示したように、AlphaGoは何百万もの自分自身との対局を行いました。そして、ミュー37のような素晴らしい新しいアイデアを思いついたのです。

それを私は外挿と呼んでいます。しかし、その上のレベルとして、既成概念にとらわれない思考や真のイノベーションとでもいうべきものがあります。チェスを発明して、チェスの妙手を思いつくだけでなく、囲碁の妙手も思いつくか?でも、できるでしょうか?チェスや囲碁と同じくらい優れたものを実際に発明できるでしょうか?AIはいつかできると思います。

しかし、今足りないのは、そのタスクをどうやってプログラムに指定するかということです。もし私が人間やゲームデザイナー、あるいは人間のゲームデザイナーにそれを指示するとしたら、次のように言うでしょう。「5分で覚えられるゲームを考えろ」と。

囲碁はルールが単純なのでそうなりますが、マスターするには何世代もかかる。とても深くて複雑だからです。それに、美的にも美しい。しかも、3〜4時間のゲームプレイで完成しますから、人間の1日分の時間を有効に使うことができます。というような、ハイレベルなコンセプトのサイドを指定することがあります。そうすると、その制約を満たすようなものができるかもしれません。しかし、問題は、私たちのAIシステムには、このような高レベルの抽象的な概念をまだ指定できていないことです。

本当に理解できる高レベルの概念や抽象化、組み合わせ可能な概念、構成可能な概念という点で、まだ何かが欠けていると思います。ですから、今のところ、AIは内挿・外挿はできても、真の発明はできないと思うのです。

Lex Fridman 27:14

ルールセットを考え出し、そのルールセットに沿った複雑な目標で最適化することは、今のところできません。しかし、特定のルールセットを持って、自己再生実験のようなものを行い、ゼロからのAIシステムの学習方法を観察し、その学習の道のりがどのくらいになるかを見ることはできます。

もし、あなたがおっしゃったような、学習の早さなどを満たしていて、AIシステムでもマスターするのに長い時間がかかるようであれば、これは有望なゲームだと言えるかもしれません。しかし、アルファコードみたいなことができたらいいなと思います。ルールをプログラミングし、ルールを生成することで、ルール生成の部分まで自動化することができるのです。

Demis Hassabis 28:00

もし、あなたのゲームを一晩で何千万回もプレイして、ルールのバランスを整えてくれるようなシステムがあれば、ゲームデザイナーにとって素晴らしいことだと思うんです。ルールや方程式、パラメータを調整して、ゲーム内のユニットのバランスが良くなるように、あるいはルールの一部を調整できるようになるわけです。

これは、基本セットを与えて、モンテカルロ・ツリーサーチか何かでそれを探索するようなもので、実際に、ゲームのバランスを自動調整するための超強力なツールになると思います。ですから、ある時点で、この装置が十分に効率的になれば、一晩でそれができるようになるかもしれない、と想像することができます。

Lex Fridman 28:59

AIシステムによって最適に設計されたゲームは、地球という惑星に非常によく似ていると思いませんか?

Demis Hassabis 29:09

そうかもしれませんね。…..ただ、私が作ってみたいゲームというのは、私のゲーム、つまりゲームデザインのキャリアの中で、試してきたものです。もちろん、「SIM EARTH」のような、地球全体をシミュレートしようとするゲームも作りました。

Lex Fridman 29:36

でも、Mirthaは実際にプレイしていないと言っています。だからそれは何ですか?進化率のようなものでしょうか、それともそうでしょうか。

Demis Hassabis 29:40

進化があり、それを生物圏全体として扱おうとするものですが、かなり高いレベルからのものです。

Lex Fridman 29:48

ズームイン、ズームアウト、ズームインができるのはいいことです。

Demis Hassabis 29:51

その通りです。ですから、明らかに夜間はそれができなかったんです。彼がこの文章を書いたのは90年代だと思います。ですから、それはできなかったんです。…..そんなことはできなかったんです。しかし、これは明らかに究極のセットでしょう。もちろん、箱なしゲームです。

シミュレーション

Lex Fridman 30:01

私たちはシミュレーションの中で生きていると思いますか?そうですね。まあ、そうですね。では、ばかばかしいほど哲学的な話から、短い技術的な話へと飛びますね。もちろんです、とても。

Demis Hassabis 30:10

とてもうれしいです。この質問に対する私の答えは少し複雑です。シミュレーション理論というのがあって、これは明らかにニック・ボストロムが最初に提唱したことで有名だと思います。私は、そのような意味では、あまり信じていません。

つまり、私たちはある種のコンピューターゲームの中にいるのでしょうか、それとも私たちの子孫が何らかの形で再現したのでしょうか、ということです。21世紀の地球を、何らかの実験的な理由で再現したのでしょうか?

でも、物理や宇宙を理解する最善の方法は、計算機的な観点から理解することだと思います。つまり、宇宙を情報の宇宙として理解することです。そして、物質やエネルギーではなく、情報が現実の最も基本的な単位であると。

物理学者は、物質やエネルギーはMCの2乗に等しいと言いますが、私は情報であると言いたいのです。ですから、情報というのは、宇宙を表現する最も基本的な方法なのかもしれません。ですから、私たちはある種のシミュレーションの中にいると言えるかもしれません。

しかし、私はそうではありません。…..。私は、このような何十億ものシミュレーションは、その辺にある使い捨てのようなものだという考えにはあまり賛成ではありません。このシミュレーションは

Lex Fridman 31:42

しかし、宇宙をコンピュータとして扱うということですか?物理学、化学、生物学、そしておそらく人類などの問題を解決するには、情報を処理し変更することが良い方法なのでしょうか?

Demis Hassabis 32:00

そうです。物理学を情報理論という観点から理解することが、ここで起こっていることを本当に理解するための最良の方法かもしれません。

意識

Lex Fridman 32:09

普遍的なチューリング機械の理解から、コンピュータの理解から、コンピュータの能力の外にあるものが私たちの宇宙に存在すると思いますか?ロジャー・ペンローズと意見の相違があるのですか?

はい。意識の性質についてですが、彼は意識は単なる計算機以上のものだと考えています。あなたは、そのすべてが、全体が喜劇になりうると思っているのですか、

Demis Hassabis 32:34

私はロジャー・ペンローズと多くの魅力的な議論をしました。彼は有名な方で、私は「Emperor’s New Mind」を読みました。そして、彼の著書、彼の古典的な本は、90年代にかなり影響を与えました。彼は、意識と脳を説明するためには、もっと何か量子的なものが必要だと考えています。チューリング機械、つまり古典的な計算を限界まで追い込んでいるわけです。

同時に、私は神経科学も研究してきました。そのために博士号を取得しました。神経科学や生物学の観点から 脳に量子的なものがあるかどうかを調べるためです。これまでのところ、ほとんどの神経科学者、主流の生物学者や神経科学者は 脳に量子システムや効果があるという証拠はないと言うでしょう。

私たちが見る限り、それはほとんど古典的理論で説明できます。それで、ある種の、生物学的側面からの探索が行われています。生物学的側面からの探索と同時に 古典的な応援団ができることのハードルを上げています。新しいAIシステムもそうです。

先ほども触れましたが AI、特にここ10数年は 驚くべき出来事や驚くべき成功の連続でした 不可能と思われていたことが次々と理論を覆しています。囲碁からタンパク質の折り畳みに至るまでです。

ですから、チューリングマシンや古典的な計算のパラダイムがどこまで通用するのかに賭けるのは、非常にためらわれると思います。

私の予想では、私たちの脳で起こっていることはすべて、おそらく古典的な機械で模倣したり近似したりすることができ、形而上学的なものや量子を必要としないのではないでしょうか。

Lex Fridman 34:38

この美しく複雑な生物学の世界をモデル化する旅が始まるのだと思います。人間の心の魔法はすべてここから来ていると考えているわけですが、ほんの数ポンドの生物学的計算の粥は、ニューラルネットワークの作品のいくつかに似ています。直接ではなく、DeepMindが取り組んできたような精神的なものですか?

Demis Hassabis 35:06

もちろん、これは宇宙最大の奇跡で、私たちの頭蓋骨の中にある数キロのドロドロに過ぎません。しかし、それは私たちの脳であり、宇宙で最も複雑な物体でもあるのです。ですから、私たちの脳には何か深い美しさと驚きがあるのです。そして、信じられないほど素晴らしい、効率的な機械だと思います。

そして、それは基本的に現象なのです。AIを作るということは 私がAIを作りたい理由の1つであり いつも作りたいと思っていることです。AIのような知的人工物を作り 人間の心と比較することで 私たちが有史以来ずっと不思議に思ってきました。

心のユニークさと真の秘密を解き明かす助けになると思います。意識 夢創造性 感情 これらは全て何でしょう?そう、私たちは、人類の夜明け以来、ずっと不思議に思ってきました。ことです。私は哲学や心の哲学が好きなのですが、その理由の一つは、歴史上の非常に賢い人たちに、内観以外に私たちが本当に使える道具がなかったからです。

非常に賢い哲学者たちが、これを科学的に調査したのです。しかし、今、私たちは突然、多くのツールを手に入れました。まず、神経科学のツール、fMRI装置、単一細胞の記録など、あらゆるものが揃っていますし、コンピュータやAIで知的システムを構築する能力もあります。

ですから、私は、人間の心が行うことは驚くべきことだと考えています。人間の心がなくても、コンピュータのようなものを作ることができるのはすごいことだと思います。そして、実際に、このような疑問について考え、調査することさえできるのです。これもまた、人間の心を証明するものだと思います。

Lex Fridman 36:52

宇宙が人間の心を作り、それが今、宇宙と人間の心の両方を理解するのに役立つコンピュータを作り上げているのですね。そうですね。

Demis Hassabis 37:01

その通りです。つまり、私たちは、宇宙が自分自身を理解しようとするためのメカニズムであると言えるかもしれません。

アルファフォールド

Lex Fridman 37:09

そうですね、美しいです。生物学の基本的な構成要素に行きましょう。これは、人間の心や身体を理解し始めるための別の切り口で、とても魅力的なものです。ここで、解決不可能と思われていたもう一つの問題、それはタンパク質の折り畳みですが、アルファフォールド(特定のアルファフォールド)は、まさにそれを実現しました。

これは、構造生物学の歴史において、あるいは一般的な科学において、最大のブレークスルーの一つであると私は思います。構造生物学の歴史はもちろんですが、一般的な科学の分野でも最大のブレークスルーだと思います。その仕組みは?そして、その後に魅力的なショーの質問をすることができます。

Demis Hassabis 38:09

タンパク質フォールディングに馴染みのない方に説明すると、まず、タンパク質について説明します。タンパク質はすべての生命にとって不可欠で、体内のあらゆる機能はタンパク質に依存しており、タンパク質は生物学の主力商品と呼ばれることがあります。

私はアルファフォールドの一員として、ここ数年、タンパク質と構造生物学を研究していますが、タンパク質は驚くべきもので、小さなバイオナノマシン、タンパク質は、その働きについて、実際に動画やアニメーションを見ると、信じられないほど素晴らしいものです。

タンパク質は、アミノ酸配列と呼ばれる遺伝子の配列によって特定されます。つまり、遺伝子の構成と考えることができます。そして、体内では、自然界では、タンパク質は3次元構造に折り畳まれています。つまり、数珠つなぎになったものが、折り重なって球になります、と考えてください。

さて、重要なのは、その3次元構造が何であるかを知ることです。なぜなら、タンパク質の3次元構造は、タンパク質が体内でどのような機能を果たすかを決定するのに役立つからです。また、薬物、薬剤、病気に興味がある人は、この3次元構造を理解する必要があります。

そのためには、当然、3次元構造を理解する必要があります。そして、アミノ酸配列によって構造が特定されます。つまり、アミノ酸配列という一次元の文字列から、3次元の構造を即座に計算で予測できるかどうかが、タンパク質の折り畳み問題の本質なのです。

この問題は、50年以上にわたって生物学のグランドチャレンジとなっています。1972年にノーベル賞を受賞したクリスチャンとフィンセンが、ノーベル賞受賞記念講演の中で、アミノ酸配列から3次元構造への移行が可能であることを初めて明言しました。どうやってとは言いませんでしましたが。私は、「フェルマーの最終定理」に相当するものだと考えています。ただし、生物学の場合です。

Lex Fridman 40:12

将来ノーベル賞を受賞する可能性のある人であれば、そうすべきです。しかし、それ以外の分野では、余白にそのようなことをもっと書き込むべきでしょう。

Demis Hassabis 40:23

DBAに合格するように仕向けるのですね。その通りです。そして、ただ、私は誰もが正確になるべきだと思う任意の正確に与えることはありません、私は将来のためにそれを覚えておく必要があります。そうそう、フェルマーがそうであったように、彼はたった一言をきっかけに、50年にわたる計算生物学の全分野をスタートさせたんです。

しかし、この分野では、まだあまり進展が見られず、行き詰まっていました。そして、今まで、アルファフォールが登場するまで、これは実験的に、非常に苦労して行われました。タンパク質を結晶化する必要がありますが、これは本当に難しく、膜タンパク質のように結晶化できないタンパク質もあります。

そして、非常に高価な電子顕微鏡やX線結晶学、機械を使って3次元構造を取得し、3次元構造を可視化するために本当に骨の折れる仕事をしなければならないのです。実験生物学の経験則では、1つのタンパク質を作るのに、博士課程の学生1人、博士号取得者全員が必要だと言われています。

しかし、アルファフォールの2つのタンパク質では、数秒のうちに3次元構造を予測することができるのです。そこで私たちは、クリスマスに全ヒトプロテオーム、つまり人体に存在するすべてのタンパク質、2万個のタンパク質を解析しました。

ヒトプロテオームは、ヒトゲノムに相当するものですが、タンパク質と空間に関するもので、構造生物学者にできることに革命を起こしたようなものです。なぜなら、今や、骨の折れる実験者について心配する必要がなくなり、すべての努力を払うべきかどうか、ほとんどGoogle検索のようにタンパク質の構造を調べるだけでよいからです。

Lex Fridman 41:53

学習させたデータセットがあり、このアミノ酸配列をどのようにマッピングするかということですね。まず第一に、この小さな化学コンピューターが、ある種の分散型方法で計算を自ら行い、それを非常に速く実行できることが信じられません。これは不思議なことです。

そして、そのように進化してきたのです。というのも、当初はタンパク質そのものが偉大な発明だったんです。そして、多くのタンパク質を持つようになり、そのタンパク質は、高度な機能を形成するために、互いに相互作用し複合化できる構造を作ることができるように、それ自体がコンピューターになる方法を考え出したのです。つまり、彼らが解明したのは、奇妙なシステムなのです。

Demis Hassabis 42:35

まあ、確かに。私たちは、生命の起源についても話すべきかもしれません。しかし、タンパク質そのものは、魔法のようで、信じられないものだと思います。私が言ったように、小さな、小さなバイオナノマシン、そして実際に、AMPと同時代の別の科学者であったレビン・タオルは、このレビン・タオルを造語にし、生きたタオルのパラドックスとして知られるようになりました。

つまり、タンパク質が折り畳める方法は10の300乗通りもあるのです。しかし、自然界ではなぜか、物理学がこれをミリ秒のうちに解決してしまいます。ですから、タンパク質は体内で、時にはコンマ数秒で折り畳まれるのです。つまり、物理学はその探索問題をどうにかして解決しているのです。

Lex Fridman 43:29

誤解がなければ教えていただきたいのですが、このようなケースの多くは、配列がそれ自体を形成するユニークな方法があることが多いですね。そうです。膨大な数の可能性の中から、そう、安定的に形成される方法を見つけ出すのです。場合によっては、機能不全に陥ることもありますし、それが多くの障害につながることもあります。しかし、たいていの場合は、独自のマッピングを行います。そして、その固有のマッピングは明らかではありません。

Demis Hassabis 43:54

正確にわかるのです。そのとおりです。つまり、健康な場合は通常一意のマッピングがあり、おっしゃるように病気の場合は一意のマッピングがあるのです。例えば、アミロイドβタンパク質は、折り畳み方が間違っているため、神経細胞の中で絡まってしまうのだと考えられています。

ですから、健康な状態と病気の状態の両方を理解するためには、これらのタンパク質がどのような働きをし、どのような構造をしているのかを知ることが非常に重要なのです。もちろん、次の段階として、タンパク質は何かと相互作用したときに形を変えることがあります。ですから、生物学ではタンパク質は必ずしも静的なものだけではありません。

Lex Fridman 44:37

ゲームとは異なり、この問題は現実の物理的なシステムであり、自己再生型のメカニズムにはあまり従順ではないため、データセットのサイズが小さく、特定の事柄について非常に巧妙でなければならないことを示すことができます。

何かお話になることはありますか?解決するのが非常に困難だったことは何ですか?また、そのソリューションの美しい点は何でしょうか?

Demis Hassabis 45:09

そうですね、alpha foldは最も複雑で、おそらくこれまで作ったシステムの中で最も意味のあるものだと思います。この2,3年の間に、それが実現したのは、本当に素晴らしいことでした。というのも、先ほどもお話ししたように、私たちがAlphaGoやAlphaZeroのようなものを作り始めたのは、ゲームからでした。

しかし、最終的な目標は、単にゲームを解読することではなく、一般的な学習システムのブートストラップとして利用し、リアルワールドの課題、特に私が情熱を注いでいる科学的課題、例えばタンパク質の折り畳みなどに応用することでした。アルファフォールドは、それを証明する最初の大きなポイントです。

タンパク質の折り畳みを解明するためには、30種類以上の異なるアルゴリズムを組み合わせる必要がありました。物理学や進化生物学に基づいたハードコードされた制約を組み込むことで、タンパク質の結合角度に大きな制約を加えながらも、学習システムには影響を与えないようにしたことが、大きな工夫のひとつだと思います。

そのため、学習システムには影響を与えず、例題から物理学そのものを学ぶことができます。40年間の実験生物学の歴史を振り返っても、構造が明らかになったタンパク質は15万個しかないのです。しかし、自己蒸留のような様々なトリックを使うことで、このようなトレーニングセットを作成しました。

アルファフォールドの予測を実際に使ってみて、非常に信頼できると思われる最高の予測のいくつかをトレーニングセットに戻し、トレーニングセットをより大きくしました。このように、最終的に問題を解決するためには、実に多くのイノベーションが必要でした。

これは、タンパク質中のすべての分子間の距離を一対一に並べた行列のようなもので、3次元構造を作成するためには、別途最適化プロセスが必要でした。アルファ第2巻で行ったのは、まさに 「end to end」(端から端まで)です。

つまり、アミノ酸の塩基配列から3次元構造まで、中間ステップを経ずにダイレクトにたどり着いたのです。機械学習では、エンド・トゥー・エンドであればあるほど、より優れたシステムになることが分かっています。これは、最終的にはシステムが制約を学習する能力に長けているからでしょう。

ですから、最終的な流れに任せて、本当に求めているもの(この場合は3次元構造)を生成することができれば、中間ステップがあって、その次のステップを手作業で作らなければならないよりは、いつでも良いのです。ですから、グラデーションや学習は、システム全体を通して行われるようにした方がよいのです。エンドポイント、つまり最終的な出力から入力まで。

Lex Fridman 48:11

つまり、新しい問題を手作りで始めるには、たくさんのものを作り、たくさんの手動制約を加え、小さな端から端までの学習部分や小さな学習部分から始めて、その学習部分を全体が消費されるまで成長させるのが良い方法です。

Demis Hassabis 48:22

そのとおりです。これは、私たちが多くの成功したアウトフィットを行う中で開発した手法で、私たちはこれをアルファXプロジェクトと呼んでいます。最もわかりやすいのは、AlphaGoがAlphaZeroに進化したことです。AlphaGoは学習システムでしたが、囲碁だけを打つように特別に訓練されたもので、私たちがやりたかったことは、AlphaGoの最初のバージョンで、どうやっても世界チャンピオンになれるパフォーマンスでした。

それから、もちろんAlphaGoのゼロバージョンでは、人間のゲームを出発点として使う必要性を排除していますね。つまり、最初からランダムな出発点から自分自身と対戦することができるのです。つまり、囲碁に関する人間の知識が不要になるわけです。

そして、最後に「アルファゼロ」を一般化し、碁盤の対称性など、私たちが持っているあらゆるものを取り除きました。そのため、「アルファゼロ」は、どんな対局もゼロからできるようになったのです。そして、ミューゼロは、その一連のものの最終最新版で、ゲームのルールを与えなくてもいいように拡張しています。ゲームのルールを自ら学習してくれるのです。ですから、ボードゲームだけでなく、コンピューターゲームも扱えるようになったんです。

Lex Fridman 49:27

AlphaGo AlphaGo、ゼロアルファゼロミューゼロという線は これが、模倣学習から完全な自己教師あり学習へと移行するまでの完全な軌跡です。

Demis Hassabis 49:40

ええ、その通りです。ゼロから環境を構築して学習し、自分でプレイしてそれを起動させるのです。しかし、私たちがアルファゼロやミューゼロを箱から出して最初に作るのは、心理的にも不可能だったでしょう。

Lex Fridman 49:58

多くの人が不可能だと言うので、常に疑心暗鬼になってしまうのです。

Demis Hassabis 50:06

そのとおりです。あなたが言っていたように、誰もが不可能だと考えていたこと、少なくとも私たちがそれを実行したときから10年後の20 15 24 2016年には、それを実行するだけでも大変だったわけです。もちろん、AlphaGoを最初に開発することで、私たちは多くのことを学びましたしね。

ですから、私がAIと工学科学を最も魅力的な科学分野の1つと呼んでいるのは、このためだと思うのです。しかし、自然科学とは異なり、研究対象の現象は自然界に存在しないため、まずそれを構築しなければならないという意味で、工学的な科学でもあるのです。つまり、まず人工物を作り、それを分解してどのように機能するかを研究する必要があるのです。

Lex Fridman 50:46

この質問をするのは難しいです。なぜなら、おそらくあなたはそれがすべてだと言うでしょうから。なぜなら、DeepMindはAIの歴史の中で最も素晴らしいアイデアを生み出している場所だからです。しかし、それはまた、優れたエンジニアリングの場でもあるのです。

知能を解決する

このディープマインドの大きな目標である知能の解決は、どの程度が科学なのでしょうか?どの程度が工学なのでしょうか?アルゴリズムはどのくらい?データはどのくらい?ハードウェアや計算機のインフラは?ソフトウェアとコンピュータのインフラは?そうです。

他に何があるのでしょうか?人間のインフラは?人間がある種の相互作用をすること?そうです。そして、すべてのアイデアのスペースは、どのくらい哲学のようなものでしょうか?どの程度?何が鍵なんです?もし?もし200年前を振り返ってみて、知能を解決する鍵は何だったかというと、アイデアがエンジニアであることです。

Demis Hassabis 51:47

それとも組み合わせでしょうか。まず第一に、もちろん、それはすべてのものの組み合わせです。しかし、その比率は時代とともに変化しています。この12年間でさえ、私たちがDeepMindを始めたのは2010年です。今では想像もつきませんが 2010年といえばほんの12年、短い年月ですが、誰もAIについて話していませんでした。

MIT時代を思い出しても、誰もその話をしていませんでした。私はその頃、MITでポスドクをやっていました。そして、AIがうまくいかないことは分かっている、と考えられていました。90年代に一生懸命試したのですが。MITのようなところでは、論理システムを使った古いタイプの古き良きAI、今で言うところのミンスキーやパトリック・ウィンストンといった人たちと、よく議論したものです。

学習システムを使って新しい高度なことができると考える私のことを、彼らは頭がおかしいと思ったものです。少なくとも、その時点であなたは独自の道を歩んでいるわけですからね。

もちろん、この業界では、2セントを集めるのは大変なことでした。今でこそ、VCやファンドレイジングの最大の流行語になっている「ZZ」なども、今では想像もつかないでしょう。2010年当時、それはとても難しいことでした。その頃、私たちが始めた理由は何だったかというと、Shaneと私はディープマインドの創業の精神は何だったかとよく話し合っていました。

それは、実にさまざまなものでした。ひとつは、アルゴリズムの進歩です。Geoff HintonとCOVIDは、深層学習を学界で発明しましたが、産業界では誰もこのことを知りませんでした。私たちは強化学習が大好きで、これはスケールアップできると考えていました。

しかし、それ以前の10年間で、人間の脳に関する理解は、fMRI装置などによってかなり進んでいました。そのため、脳が使用するアーキテクチャやアルゴリズム、表現方法について、いくつかのヒントを得ることができました。実装レベルではなく、システムレベルとしてです。

そして、もう一つの大きなものは計算機で、GPUでしたね。GPUは、主にゲーム業界を通じて、コモディティ化するようになりました。そして、それを利用することができるようになったのです。そして最後に、知能の数学的・理論的な定義です。

シェーンが上司のマーカス・ホテルと取り組んだAICは、ユニバーサルインテリジェンスの理論的証明のようなもので、実際には強化学習システムなのですが、そのようなものです。

限られた免疫の問題では、チューリング・マシンが証明するような方法で、無限の計算を無限の記憶で行うのですが、私は、チューリング・マシンや、チューリングやシャノンが考え出した計算理論が現代のコンピュータ科学を支えるようなものを見ることも待っていました。

私は、AGIの研究を支えるような理論を待っていたのです。ですから、シェーンと出会って、彼がそのような研究に取り組んでいることを知ったとき、私にとってはジグソーパズルの最後のピースのような存在になったのです。私たちにとっては、深層強化学習や深層学習のスケールアップがそれにあたります。

もちろん、私たちは変幻自在で 2010年から現在に至るまで、3つか4つの大きな飛躍を遂げました。もちろん、最近のGPT3の結果や、私たちのものを含むすべての大規模な言語モデルや大規模なモデルが、大規模であることは明らかで、大規模なモデルは明らかにAGIソリューションには不要になりそうですが、おそらく十分ではないでしょう。

Lex Fridman 55:22

あなたは、強化学習のような、これが実際に機能する可能性があるというアイデアに固執するこの分野のパイオニアの一人で、アーチーは過去に限られた成功しか収めていません。そして、まだ分かっていないこともありますが、世界最高の研究者を抱え、知能の解決について語ることを誇りにしています。

AGIと呼ぶかどうかはともかく、このようなことを話しているわけです。MITといえば、それはそれは、あなたが持ち出さないようなもので、そうではなく、4050年前などにはそうだったかもしれません。しかし、MITは、非常に小規模で、あまり野心的なプロジェクトではなく、いじくり回すような場所でした。

最大の野心的プロジェクトは、ロボット工学の分野で、DARPAチャレンジのようなことをやっていました。知能の問題を解決し、それが可能であると信じることは、本当にパワフルなことです。工学がその役割を果たし、優れたエンジニアを擁し、優れたシステムを構築するためには、こうした不可能な課題を実際に解決できるという信念を、全体を通して持つ必要があるのです。

Demis Hassabis 56:37

ええ、そのとおりです。2010年当時、私たちのミッション・ステートメントは、今でもそうなのですが、「ステップ1:インテリジェンスを解決する」でした。ステップ2は、それを使って他のすべてを解決することです。そうです。2010年当時、これをベンチャーキャピタルに売り込んだら、どんな目で見られたか想像してみてください。

教授にはこのことを一切話さないようにしていたのですが、彼らは私たちがキャリアアップのために自殺したと思っていました。それで、やらなければならないことはたくさんありましたが、私たちはいつもそれを信じていました。

ところで、強化学習をずっと信じてきた理由の1つは、神経科学を見ると、霊長類の脳が学習する方法、主なメカニズムの1つは、ドーパミンシステムが何らかの形でTD学習を実施することです、これは90年代後半に非常に有名な結果です。

これは90年代後半に発表された有名な成果で、サルでこの現象が確認されました。そして、予測誤差を伝播させるのです。数学の世界では、知能を解こうとするような野心的なことをするとき、青天井の研究をするとき、誰もその方法を知らないとき、正しい方向に導くために、あるいは正しい方向に進んでいるという確信を得るために、あらゆる証拠や情報源を利用する必要があるのです。

それが、私たちがそれを強く推し進めた理由のひとつです。また、先ほどの組織についての質問に戻りますが、ディープマインドで発明を奨励するために革新したもう一つの大きなことは、私たちが構築し、現在も継続している学際的な組織です。

ディープマインドはもともと、神経科学における最先端の知識と、機械学習、工学、数学、そしてゲームの合流点だったのです。その後、さらに発展させました。哲学者、倫理学者、そして物理学者など、さまざまな分野の科学者が集まっています。

このように、私は新しいタイプのベル研究所を作ろうとしましたが、彼の黄金時代には、その新しい表現として、この驚くべきイノベーションマシンを育成しようとしたのです。つまり、機械の中の人間というのは、心そのものが学習機械であり、その中に多くの素晴らしい人間の心が集まって、学習システムを構築しようとするのです。

Lex Fridman 59:00

アルファフォールドという大きな野心的な夢に話を戻すと、これは生物学における非常に長い旅の初期段階かもしれません。

同じようなアプローチで、より複雑な生物学的システムの構造や機能を予測することができるとお考えですか?つまり、多タンパク質の相互作用や、そこからどんどん大きなシステムをシミュレートして、最終的には人間の脳や体のような、巨大で、美しく、弾力性のある生物学の混乱をシミュレートすることができるのでしょうか?それは長期的なビジョンなのでしょうか?

Demis Hassabis 59:39

そうですね。十分に強力なシステムを手に入れたら、AIをどのような分野に応用したいかを考えてみると、生物学や病気の治療、生物学の理解などは、私のリストの最上位にありました。それが、私自身とアルファフォールドを推し進めた理由のひとつです。

計算機で何ができるかを示す証拠になればと思います。アルファフォールドは、タンパク質の構造という大きな問題を解決してくれます。しかし、生物学はダイナミックなものです。私たちは現在、タンパク質同士の相互作用や、リガンドとの結合、分子との反応などを研究していますが、将来的にはパスウェイを構築し、ペンチやバーチャルセルを作りたいと考えています。

多くの生物学者、私の友人、クリック研究所を主宰するポール・ナース、素晴らしい生物学者、ノーベル賞受賞生物学者と、もう20年もバーチャルセルについて議論しています。新薬の探索という点では、標的の特定から薬の候補を得るまでにだいたい10年かかりますが、その作業のほとんどをin silicoで行えば、それを1桁短くすることができるかもしれません。

バーチャルセルに到達するためには、生物学のさまざまな部分と相互作用について理解を深める必要があります。それで、私たちは数年おきに、ポールとこの話をし、そしてついに昨年、アルファフォールドの後、私は「今がその時だ、ついに行けるぞ」と言ったのです。

そしてalpha foldは、これが可能であることを証明する最初のポイントになりました。彼はとてもエキサイティングです。彼の研究室とはいくつかの共同研究を行っていますが、実はこの研究室は、ご存知の通り、ここキングスクロスから道路を挟んだ向かいにあるクリック研究所と素晴らしい関係にあります。

そして、次のステップでは、alpha foldのようなものの上に構築される生物学の驚くべき進歩があると思います。よく言うんですが、数学が物理学の完璧な記述言語だとすると、AIは生物学の完璧な記述言語になってしまうかもしれません。

生物学はとても厄介で、創発的で、ダイナミックで複雑なので、ニュートンの運動法則のような、細胞を記述するためのエレガントなものに到達するとはとても思えませんよね?あまりにも複雑すぎるのです。ですから、私はAIが適切なツールだと考えています。

Lex Fridman 1:02:25

基本的な構成要素から始めて、その構成要素すべてについてAIでシミュレーションを行う必要があるのです。そうすれば、これらの構成要素から、その生物学的システムの機能と進化がどのように進むかを予測する、非常に強力な方法を手に入れることができるのです。

セル・オートマトンのようなもので、高度な分析はできませんが、基本的な構成要素からルールを考え、実行する必要があります。そう、そして走らせるのです。しかし、この場合、ルールを理解するのは非常に難しい そう、その通り。それを学ぶのです。

Demis Hassabis 1:02:56

まさにその通りです。つまり、生物学が複雑すぎて、ルールを理解できないのです。例えば、惑星の運動のような物理学的なシステムと比べて、創発的でダイナミックなのですね。ですから、ルールを学ばなければならないのです。私たちが作っているのは、まさにそういうタイプのシステムなのです。

AlphaFoldとMuJoCoのオープンソース化

Lex Fridman 1:03:11

あなたはAlpha foldをオープンソース化したとおっしゃいましたが、それに関わるデータまでオープンソース化されました。これは、かなりヤンチャな動きだと思います。

このようなことをする企業や人はほとんどいませんが、その理由は何でしょうか?その背景にはどんな哲学があるのでしょうか?

Demis Hassabis 1:03:41

ケースバイケースということですね。どちらのケースでも、そうすることが人類にとって最大の利益であると考えましたし、科学界、あるケースではロボット工学や物理学のコミュニティがmacocoと協力してくれました。OBSのパターを購入し、それをオープンソース化するために、Expressの原理で公開しました。

ですから、その点は評価されています。そう言ってもらえると、とてもうれしいです。というのも、最初に作った素晴らしい教授にとって、このプログラムはあまりにも大きくなりすぎたからです。そこで、私たちは彼を助けました。アルファフォールドの場合はさらに大きく、アルファフォールドの下流への応用は、想像を絶するほどたくさんあると判断しました。

ですから、創薬や基礎研究を加速させる最善の方法は、そのデータをすべて提供することと、システムそのものを提供することでしょう。たった1年という短い期間と科学の進歩の中で、人々がそれを実現したことは、本当に喜ばしいことです。そして、50万人以上の研究者がこのシステムを利用しています。

世界中のほぼすべての生物学者が、およそ50万人のプロの生物学者が、興味のあるタンパク質を見るために使っていると考えています。驚くような基礎研究が行われているのを目の当たりにしています。核膜孔複合体は、体内で最も大きなタンパク質の一つで、細胞核に出入りするすべての栄養素を制御するタンパク質です。

つまり、核膜孔は小さな穴のようなもので、開閉することで細胞核に出入りしているものを取り出します。ですから、本当に重要なんです。しかし、それは巨大なドーナツリングのような形をしているため、巨大です。その構造を解明しようと何十年も研究してきました。

実験データはたくさんあるのですが、解像度が低すぎて、欠けている部分があるのです。そこで彼らは、巨大なレゴのジグソーパズルのように、アルファ線による予測と実験データを組み合わせることができました。そして、この2つの独立した情報源を組み合わせることができたのです。

実は、世界中の4つの異なるグループが、アルファ線を使った予測を、ほぼ同時に行うことができたのです。これは驚くべきことでした。私が話をした製薬会社の幹部は皆、創薬を加速させるためにアルファテクノロジーを使っていると言っていました。ですから、αフォールドがもたらす影響という点では、ノックオン効果は非常に大きいと思います。

Lex Fridman 1:06:15

アルファフォールドは、生物学者を生み出し、より多くの人々をこの分野に引き込んでいます。

Demis Hassabis 1:06:28

そうですね、少しでも計算をする人が増えてくれればと思いますし、私たちにとっても、次のステージでは、先ほど申し上げたように、アルファフォールドの上に構築するために、他の検討事項を持たなければならないと考えています。タンパク質の相互作用や、ゲノムなど、いろいろなことをお話ししました。

すべてがオープンソースになるわけではありませんが、一部は商業的に利用されるでしょう。また、他の方法もあります。また、非営利のスタイルで行うプロジェクトもあります。例えば、合成生物学には二重利用がありますよね。ですから、将来的には他の検討課題も出てくるでしょう。しかし、今のところ、アルファフォールドは私たちから科学界への贈り物のようなものだと思っています。

Lex Fridman 1:07:20

ですから、将来的にアルファフォールドのようなものがノーベル賞の一部となることは間違いないと思います。しかし、私たち人間は、もちろん、単位を割り当てるのが苦手です。ですから、もちろん人間にあげます。

AIシステムが否定されない日が来ると思いますか?ノーベル賞を受賞するような?21世紀には実現すると思いますか?

Demis Hassabis 1:07:47

最終的にどのようなAIを作るかによるのでは?そうでしょう?目標を求めるエージェントなのでしょうか、誰が目標を指定するのでしょうか?誰が仮説を立て、誰がどの問題に取り組むかを決定するのでしょうか?そうです。ですから、私たちはその一環として、結果を正確に発表したのだと思います。

もちろん、このようなシステムの背後には、人間の素晴らしい創意工夫があるのだと思います。私の考えでは、システムは単なる道具であり、ガリレオと彼の望遠鏡のように、その工夫や功績は望遠鏡にあるべきだと思っています。つまり、ガリレオが道具を作り、それを使っているのです。

このように、道具は自ら学ぶものですが、私は今でも同じように考えています。アルファフォールドのように、科学のための究極の道具として、また科学者として新しい知識を獲得するための道具として、私たちが作っているものを考えています。

インターネットやPubMedのデータを平均化するだけでなく、AIシステムが自ら一般相対性理論を解くような日が来るかもしれませんね。しかし、そうなったら面白いですね。

これは、先ほどの創造性についての議論と少し似ていて、単に良い碁の手を考え出すのではなく、碁を発明するということです。つまり、人間の科学者やクリエイターが指定するのではなく、「碁」を発明して、突然、新たな推測を生み出すことが必要なのです。ですから、今現在は、それは間違いなく、ただ単にそうなのだと思います。

Lex Fridman 1:09:26

というのも、多くの人が科学を見るとき、あなたは常に巨人の肩の上に立っているからです。そして問題は、巨人の肩の上にどれだけ手を伸ばしているのでしょうか、ということです。

もしかしたら、過去のさまざまな結果をシミュレーションし、最終的に新しい視点を得て、ブレイクスルーアイデアを生み出しただけかもしれません。しかし、そのアイデアは、インターネットや次の100年のノーベル賞ですでに発見されているような、目新しいものではないかもしれません。インターネット上には、すでに発見されるべきものがすべてあるのです。

Demis Hassabis 1:10:03

これは大きな謎の一つだと思います。AIです。まず第一に、今後数十年、あるいは過去十年の間に起こるであろう大きな新しいブレークスルーの多くは、一見バラバラだった分野の間に何らかの新しいつながりが見出され、異なる主題分野の交差点で起こるものだと思います。

ディープマインドは、先ほど申し上げたように、神経科学のアイデアとAI工学のアイデアの間の学際的なものだと考えることもできますし、元々はそうでした。

そういうことだと思います。そして、今日、私たちが想像もつかないことの一つは、大規模なモデルがうまく機能したことに私たちが驚いた理由の一つは、実は、私たち人間の頭、限られた人間の頭では、インターネット全体を読むようなことを理解するのは非常に難しいからだと思いますね。

思考実験ができると思うんです。私がよくやっていたのは、「もし私がWikipediaを全部読んだらどうだろう?何を知っているのだろう?」私たちの頭脳は、それがどんなものかを理解することができると思いますが、インターネット全体は理解を超えています。

ですから、私たちは、潜在的に正しい、そして同時にアクティブな、これらすべてを心に留めておくことができるようになることが、どのようなことなのか理解していないのだと思います。そして、そこで利用可能なコネクションは何なのでしょうか。

ですから、このような発見があることは間違いありません。しかし、それ以外にも、新しい知識、新しいアイデア、今まで考えもしなかったようなこと、既知のことからは想像もつかないような、真の閃きという創造性があると思います。

もちろん、真空中では誰も創造などしません。ですから、どこかにヒントがあるはずなんです。しかし、それらを組み合わせる方法が独特なのです。歴史上最も偉大な科学者たちは、このような方法を取っていたと思います。ただし、彼らが私たちを生み出したときに、何が正確に知られていたのかを知ることは非常に難しいのですが。

Lex Fridman 1:11:49

あなたは本当に考えています。なぜなら、100のウィキペディアページを深く知るという思考実験だけです。私は、技術的なトピックのためのウィキペディアに本当に感銘を受けたことがありません。そうですね。ですから、100ページでも1000ページでも、それがどのような知性なのかを視覚的に真に理解することはできないと思うのです。

これはかなり強力なインテルです。その情報を正しく統合して使う方法を知っていれば。そうですね、本当に遠くまで行けると思いますし、それをもとに思考実験を組み立てて、さまざまなアイデアをシミュレートすることもできるかもしれません。

ですから、もしこれが本当なら、もしかしたらこれは本当かもしれないという思考実験をしてみる。これは発明ではありません。文字通り、知識を持って、それを使って世界のごく基本的なシミュレーションを構築しているに過ぎないんです。それがロマンであり、力であると主張する人もいます。しかし、アインシュタインも思考実験で同じようなことをやっていたはずです。

Demis Hassabis 1:12:44

そう、何百万ものウィキペディアのページとPubMed、これらすべてを体系的に調べることは想像に難くありませんが、そうして発見されるものはたくさんあり、非常に有用だと思います。

材料科学の分野で、室温超伝導のようなものを実現したいとか、いつか、より最適化された電池を作るのを助けるAIシステムを導入したいとか、いろいろ想像できます。このような機械的なものはすべて、モデルによって導かれる体系的な検索が、非常に強力なものになると考えています。

核融合

Lex Fridman 1:13:17

そういえば、あなたは核融合、トカマクプラズマの磁気制御、深層強化学習に関する論文を発表していますね。

つまり、あなたは高温プラズマの深層RL学生制御で核融合を解決しようとしているわけですが、この仕事について説明してもらえますか?また、AIは最終的に核融合を解決できるのでしょうか?

Demis Hassabis 1:13:37

ここ1,2年はとても楽しくて、とても生産的でした。私の夢のプロジェクト、言ってみれば、私が長年かけて集めてきた、加速させれば非常に大きな変革をもたらすと思われる科学の分野、そして本当に興味深い問題、それ自体がエネルギーとなる科学的課題を、たくさん取り上げてきたからです。

エネルギー、その通りです。エネルギーと気候です。病気の話をしましたが、生物学は最大の疫病の1つであり、AIはそれを解決するのに役立つと思います。そして核融合は、AIが貢献できる分野の1つです。核融合には多くの課題がありますが、そのほとんどは物理学と材料科学、そして巨大な核融合炉を建設し、プラズマを閉じ込めるための工学的な課題です。

私たちは、新しい分野に進出するときはいつも、私たちのシステムを応用し、その分野の専門家を探し、協力してくれる世界最高の人々を見つけようと努めています。今回、核融合の分野では、スイスのEPFLという素晴らしい研究所と共同研究を行っています。

彼らは試験炉を持っていて、私たちが慎重に使用しようとしていたものを快く使ってくれました。彼らは何とか説得して私たちに使わせてくれましたが、そこには素晴らしい試験炉があり、そこであらゆる種類のかなりクレイジーな実験が行われています。核融合のような新しい分野では、ボトルネックとなる問題は何なのか、ということに着目します。

第一原理から考えて、現在でも核融合がうまくいっていないボトルネックとなる問題は何なのかを考えるのです。そして、核融合の専門家に教えてもらいながら、そのボトルネックを探っていきます。そして、そのボトルネックに目を向けます。そして、そのボトルネックのうち、どれが今のAIの手法に適応できるかを調べるのです。

そして、研究の観点からも、私たちの観点からも、AIの観点からも、興味深いものになるでしょう。そうすれば、ボトルネックの1つを解決することができます。この場合、プラズマの制御は完璧でした。プラズマの温度は100万度で、太陽よりも高温です。

それを閉じ込める材料がないのは明らかです。ですから、超伝導の強力な磁場が必要なのです。しかし問題は、プラズマはかなり不安定だということです。想像してみてください、原子炉の中にミニミニ星を持っているようなものです。ですから、プラズマがどのような動きをするのでしょうか、前もって予測したいのです。

そこで、磁場を数ミリ秒のうちに動かして、プラズマが次に何をするのでしょうか、基本的に封じ込めることができるのです。ですから、強化学習の予測問題だと思えば、完璧な問題だと思います。つまり、コントローラーが磁場を動かすとします。

私たちが登場するまでは、従来のオペレーション・リサーチ型のコントローラーでやっていました。問題は、もちろん、プラズマの動きに瞬時に反応することはできないので、ハードコーディングしなければならないことです。そのため、通常はハードコーディングで対応するのですが、私たちはそれを学びたいと考えています。また、このプラズマのシミュレーターもあります。私たちが使いたいものと一致する基準がたくさんあったのです。

Lex Fridman 1:16:34

では、AIは最終的に核融合を解決できるのでしょうか?

Demis Hassabis 1:16:38

私たちはこの問題に取り組み、昨年、ネイチャー誌の論文で発表しました。プラズマを特定の形状に保持することで、核融合を実現したのです。このように、核融合の問題の1つは解決されたようなものです。

Lex Fridman 1:16:57

つまり、形状に関係なく制御することができるコントローラーがあるのですね。

Demis Hassabis 1:17:01

そうです、それを構造的に保持することができるのです。そして、飛沫と呼ばれるエネルギー生産に適したさまざまな形状があります。これはとても大きなことでした。現在私たちは、核融合分野で取り組める次の問題は何かと、多くの核融合スタートアップ企業と話し合っているところです。

量子シミュレーション

Lex Fridman 1:17:18

もう1つ興味深いのは、「pushing the frontiers of density functionals by solving the fractional electron problem」(分数電子問題の解決による密度関数の限界への挑戦)という論文で、電子の量子力学的な振る舞いのモデリングとシミュレーションに取り組んでいることですね。そうです。この仕事について、また、将来的にAIが任意の量子力学系をモデル化・シミュレーションできるのでしょうか、説明してください。

Demis Hassabis 1:17:42

そう、これも私が10年以上前から目をつけていた問題で、電子の特性をシミュレートすることです。それができれば、基本的に元素や材料、物質の働きを記述することができます。物質科学を発展させようと思えば、シュレディンガー方程式があり、その近似値である密度汎関数があり、これらは有名ですが、人々はこれらの汎関数に近似値を書こうとするのです。

そして、電子の雲について、どこに行くのでしょうか、2つの元素を組み合わせたときにどのように相互作用するのでしょうか、といった説明を考え出すのです。そして、より多くの種類の化学を記述できるようなシミュレーションや関数を学ぼうとしているのです。

今までは、高価なシミュレーションを実行することができましたが、それでは非常に小さな分子や単純な分子しかシミュレーションすることができません。そのため、現在ではそのような方法はありません。私たちは、シュレディンガー方程式を近似する関数を構築し、電子が何をしているかを記述できるようにすることを目指しています。そして、すべての材料科学と材料特性は、電子とその相互作用に支配されているのです。

Lex Fridman 1:19:01

このように、関数を通してシミュレーションをうまくまとめつつ、実際のシミュレーションに近いものを作成することができます。複雑なシミュレーションを実行し、初期条件とシミュレーションのパラメータからマッピングする作業を学び、関数がどのようなものかを学ぶ、その作業はどれほど難しいものだったのでしょうか。

Demis Hassabis 1:19:27

そう、かなり厄介なんです。私たちは、分子動力学シミュレーションの多くを、私たちの計算機クラスタ上で実行することができるのです。そのため、大量のデータを生成することができます。つまり、この場合はデータが生成されるわけです。

ですから、私たちはこのようなシステムを好んで使っています。ですから、ゲームシミュレーターで生成したデータを使っています。クラウド上で空いているコンピュータがあれば、それを使って計算を実行することができます。

Lex Fridman 1:19:59

つまり、無料のコンピュータは、量子力学、量子力学、正確にはシミュレーションに使い切られたわけです。

Demis Hassabis 1:20:03

タンパク質のシミュレーションなどに使っていました。YouTubeで猫の無料動画を検索している時以外は コンピューターを有用に使っているのです。量子化学の考え方は有効です。そして生成されたすべての計算データを使って 関数を学ぼうとします。もちろんその方がずっと効率的です?もちろん、シミュレーションを行うよりもずっと効率的です。

物理学

Lex Fridman 1:20:30

いつかAIによって、基本的に物理学が解明され、光速よりも速く移動するようなことができるようになるかもしれないとお考えですか?

Demis Hassabis 1:20:39

私の究極の目的は、常にAIにあります。私が生涯をかけてAIに取り組んできた理由は、宇宙を盗み見ることを理解するためのツールを作ることでしたから、物理学、そして現実の本質を理解したかったのです。ですから、まだそのようなことができるシステムにはなっていないと思います。

しかし、AGIを目指すのであれば、まずAGIを適用すべきと思います。私は、物理学や物理学の知識の限界を試したいと思っています。私が科学に魅力を感じるのは、科学的手法を支持する者として、人類がこれまでに得た最も偉大なアイデアの1つであり、私たちの知識を進歩させるものだと思うからです。

しかし、真の科学者として思うのは、解明すればするほど、「私たちは知らない」ということが分かってくるということです。そして、いつも思うのは、もっと多くの人が悩んでいないことに驚かされるということです。

毎晩、私たちがいつも接している、時間、意識、重力、生命など、どのように作用しているのか分からないものすべてについて考えますが、これらはすべて自然の基本的なもので、私たちはそれらが何であるかを本当に分かっていないと思います。

Lex Fridman 1:21:47

というのは、私たちは自然界に存在する基本的な事柄にある種の仮定を置き、その仮定を事実であるかのように扱っているからです。そうすることで、ある種の箱詰めをすることができるわけですね。そうですね、現実は、時間について考えるとき、自分自身に言い聞かせるべきで、棚から上げて、「いや、私たちにはたくさんの前提がある」と気づくべきです。

時間とは何かということについては、まだ多くの議論があり、正確には不確かな点がたくさんあります。時間の矢はあるのでしょうか?多くの根本的な疑問があり、それを仮定することはできません。AIを使えば、何も棚に上げずに済むかもしれません。そうですね、どんな難しい仮定も立てて、本当にそれを開いて、私が何を正確に理解しているのかを確認することができます。

Demis Hassabis 1:22:32

その点では、私たちは本当にオープンマインドであるべきだと思います。そして、特定の理論に固執しないことです。例えば、冒頭でお話しした宇宙の計算機的性質について、もしそれが本当なら、どうやってそれを検証するか、また、スコット・アーロンソンやその他の人々が、空間と時間の特定のプランク単位にどれだけの情報が含まれるかについて混雑していますよね?

このようなアイデアを検証することは可能かもしれません。もしAIがあれば、新しい精巧な実験ツールを作る手助けをしてくれるでしょう。

Lex Fridman 1:23:24

そのシミュレーションを実行することで、どのような質問に答えることができるのでしょうか。量子シミュレーションで行っているような、効率的な方法で実行できる物理シミュレーションがたくさんあると想像できます。

生命の起源

また、生命の起源もそうかもしれません。アルファフォールドの研究が始まる前に、どのように岩石からこの全体が出現したかを解明しているのですね。そうですね。

静的なものから、AIでできるようになるのでしょうか?それは、あなたが考えていることですか?生命の起源を理解しようとしてるのでしょうか?まずは自分自身から?どう思います?一体どのように生命は地球上で誕生したのでしょうか?

Demis Hassabis 1:24:08

ええ、まあ、その話はすぐにでも出てくるかもしれません。しかし、AIの究極の使い道は、なんというか、科学を最大限に加速させるために使うことだと思うんです。私は、AIを「知識の木」のようなものだと考えています。宇宙には到達すべきすべての知識があり、私たちはこれまで、その表面をほとんど引っ掻いていません。

私たちは、悟りの境地以来、人類としてかなりうまくやってきたのですが、AIは、アルファフォールドのように、そのすべてを加速させると思います。そのためには、AIが私たちの理解やパターンの発見を助けるだけでなく、新しいツールや実験的なツールを設計・構築する可能性もあると思います。

また、シミュレーションの実行やシミュレーションの学習も行います。これらはすべて、私たちがすでに行っていることで、まだほんの一歩のレベルです。しかし、これから何十年か後には、ご存知のように、このような考え方が完全に花開くことになれば、本当に信じられないようなことになると想像できます。

Lex Fridman 1:25:15

この「知識の木」を視覚化すると、人間にとっての知識、知識の木はもっと小さいと思います。可能な限りの知識の木の集合の中で、私たちの認知の限界、限られた認知能力を考えると、実際にはかなり小さいのですが、私たちが作ったツールを使っても、まだ多くのことを理解することはできないのです。人間以外のシステムは、道具としてだけでなく、それ自体が何かを理解し、それを持ち帰ることができるため、より遠くまで到達できるかもしれません。

Demis Hassabis 1:25:48

ええ、そうかもしれませんね。つまり、あなたが今おっしゃったことには、たくさんのことが凝縮されているのです。まず第一に、2つの異なるものがあると思います。

今日、私たちは何を理解しているのでしょうか?人間の頭脳は何を理解できるのでしょうか?そして、理解されるべきものの総体とは何なのでしょうか?そうでしょう?この3つの概念は、より大きな3本の木と考えることもできますし、その木の枝をさらに探索することもできます。そして、AIでは、そのすべてを探求することになると思います。

さて、問題は、理解できることの全体像が何であるかを考えた場合、あることが理解できないのは、基本的な物理学的理由があるのかもしれません。ですから、そのような難しい制約があるかもしれません。

Lex Fridman 1:26:34

例えば、私たちは空間について考えますが、時間は私たちの基本です。人間の脳は、時間のある3次元の世界という考えにとても慣れていますよね?たぶん

Demis Hassabis 1:26:46

私たちの道具はそれを超えることができ、その制限を受ける必要がありません。あらゆる次元で11の方向から考えることができますし、必要なことは何でもできます。しかし、それでも私たちは、いくつかの異なる方法でそれを理解することができます。

私がいつも例に挙げるのは、スピードチェスでガルリ・カスパロフと対戦したとき、あるいはチェスやこの種のことについて話をしたときのことです。チェスがそれなりに得意な人なら、Garryが思いつくような手を思いつくことはできませんが、彼はそれを説明することができるんです。

そして、あなたは理解することができ、その理由を事後的に理解することができるのです。ええ、そうです。ですから、「こんなの発明できないよ」というような、さらに上のレベルがあると思うんです。ヴィヴァルディやモーツァルトを理解するのと同じように、自分自身で構築することができなくても、その美しさを理解することができるのです。

そう、そして自分で音楽を作る。このようなことは、人生のあらゆる形態に見られると思います。ですから、その何倍もあるんです。しかし、想像してみてください、知性のひとつの証は、物事を明確に説明する能力です。私のヒーローの一人であるリチャード・フィンマンは、こう言っています。「簡単に説明できなければ、それでおしまいだ。複雑なトピックをシンプルに説明することが、そのトピックを理解するための最良の方法の一つである。」そうですね。

Lex Fridman 1:28:01

私は自分がそのようにゴミとAIシステムを話すことができます。私がいかに頭が悪いかイライラして、説明しようとするんです。それは、つまり、あなたは知的ではない、という感じです。だって、知性があれば簡単に説明できるはずですからね。

Demis Hassabis 1:28:14

もちろん、自分自身を強化するという選択肢もあります。デバイスがなくても、私たちはすでにコンピュータ・デバイスと共生しているようなものですからね。携帯電話やその他の機器と共生しています。さらに、ニューラル・リンクなどの技術によって、さらに進化させることができるかもしれません。ですから、ここから先には、本当に素晴らしい可能性がたくさんあると私は考えています。

エイリアン

Lex Fridman 1:28:35

さて、友人を探しているあなたに野暮な質問をさせてください。外にはたくさんの宇宙人文明があると思いますか?

Demis Hassabis 1:28:43

これは、生命の起源に関する質問にも通じますが、私はそれが鍵だと思います。私の個人的な意見ですが、これらすべてを見ると、私の趣味の1つである物理学がわかります。物理学は私の趣味のひとつで、よく考え、多くの専門家と話をし、多くの本を読みます。

そして、現在感じているのは、「私たちは孤独だ」ということです。今ある証拠から考えて、それが最も可能性の高いシナリオだと思います。その理由は、SETI計画や宇宙時代の幕開け以来、私たちは望遠鏡や電波望遠鏡などを使って、宇宙を探そうとしてきたと思うからです。

地球上の人類の進化を考えてみると、100万年先の未来も100万年後の未来も、何百年、何千年か前に起きた、ちょっと変わった奇抜な出来事で、簡単に実現できたかもしれません。もし隕石が恐竜に衝突するのが100万年早かったら、もしかしたら物事は進化していたかもしれません。今より100万年進んでいたかもしれません。

つまり、100万年後どころか、数100年後の人類を想像してみると、うまくいけば、気候変動などの問題も解決し、人類は繁栄し続けることができるのです。そして、AIのようなものを作り、宇宙旅行をします。

そして、宇宙旅行をする、これら全ては人類が永遠に夢見たものですよね?SFは永遠に語り継がれています。私たちは星々を越えて広がっていくでしょう?フォン・ノイマンは有名な計算をしました。最も近い太陽系にフォン・ノイマンの探査機を送り込めば、100万年程度で到達できるだろうと。

そして、そのセルでさらに2つのバージョンを作り、その2つを次の最も近い星系に送り出しました。100万年以内には、銀河系のすべての星系にこのプローブが設置されることになると思います。100万年以内には、銀河系のすべての星系に探査機が行き渡るでしょう。

ダイソンなどは、星の周りにダイソン球を作り、星から出るエネルギーをすべて集めることを考えていますが、そのような建造物が宇宙空間、おそらく銀河系全体に見えるようになるでしょう。そして、30年代、40年代以降に発信されました、全てのラジオ・テレビの電波について考えてみましょう。

100万年分のことを想像してみてください。何百もの文明がそれを行っています。耳を開くと、その時点で、私たちは十分に技術的に洗練されています。宇宙時代には、不協和音が聞こえるはずです。その不協和音に加わるはずです。しかし、私たちは耳を開きましたが、何も聞こえません。

宇宙人がいると主張する人たちの多くは、「まだ徹底的に調べてはいない」と言うでしょう。私たちはまだ徹底的に捜索していませんし、探すべきバンドを間違えているのかもしれません。それに、私たちが持っている機器も間違っています。そして、私たちはエイリアンの姿に気づかないでしょう、私たちが慣れ親しんだ姿とあまりにも違うので。

でもね、私はそうは思いません。ダイソン球が点滅する標識が設置されているのを見たり、そういう証拠がたくさんあるはずです。

また、他の人たちは、「私たちはまだ原始的な種だ、なぜなら宇宙を旅していないからだ」というようなサファリ的な見方をします。地球には、スタートレックに干渉しないという普遍的なルールがあるというのです。

しかし、見てください、私たちは気候変動に対処するために人類を調整することさえできません。私たちは一つの種です。異なる人類文明、つまり異星人の文明が、同じ優先順位を持ち、コストやこの種の事柄に同意する可能性があるでしょうか。

仮にそれが真実で、私たちが自分たちの利益のためにサファリにいたとしても、私にとってはシミュレーション仮説と大差ありません。シミュレーション仮説の意味は、最も基本的なレベルでは、私たちが見ているものは全く現実ではない、ということです。

もっと深いところにあるもの、それは計算機的なものかもしれません。もし私たちがサファリパークのような場所にいて、見ているもの全てがホログラムで、それが宇宙人によって映し出されたとしたら、それは私たちが別の宇宙にいると考えるのと大差はない。そうでしょう?

Lex Fridman 1:32:53

つまり、他の説明もあります。彼らのコミュニケーション方法が根本的に違うだけかもしれません。私たちは頭が悪すぎて、もっと優れたコミュニケーション方法を理解できないだけかもしれません。

そうですね、「ミューズ」というのは、とても乱暴に聞こえますが、思考かもしれませんし、私たちが元々私たちのものだと思っている心との相互作用が、実は他の生命体から来たものである可能性もありますね。意識そのものがそうなのかもしれません。

Demis Hassabis 1:33:34

というのはあり得ますが、なぜ異星人のすべてがこのように見られるのか、という点については、賢明な議論が見あたりません。そうですね、中にはもっと原始的なものもあるでしょうし、私たちのレベルに近いものもあるでしょうし、そういうものは全体として正規分布のようなものとしてあるはずです。

あるものは攻撃的で、あるものは分裂して、不思議なことに他のものは非常にストイックでカレンは哲学的でしょう。しかし、そうではありません。つまり、1つの異星人の文明は、思考や他の人とコミュニケーションをとるようなものかもしれません。しかし、なぜ、潜在的に何百もの彼らが、このように均一であるべきなのか、私にはわかりません。

Lex Fridman 1:34:09

そうですね。宇宙人の文明が成功すると、人々は破壊的な能力を獲得し、桁違いに破壊的になるのです。しかし、もちろん、悲しいことに、人間は非常に特別な存在なのです。私たちは多くの飛躍を経て、人間であることの意味にたどり着いたのです。

そうですね。しかし、他の多くの人たちがこのレベルに到達しているにもかかわらず、大きなフィルターがかかっているために、多惑星種になることや星に到達することを妨げているのです。

このようなことは、他の宇宙人文明が存在するかどうかにかかわらず、私たちにとって本当に重要な問題です。もし私たちが自滅するとしたら、どのようにするのでしょうか。そして、それはどれくらい簡単なことなのでしょうか?

Demis Hassabis 1:35:12

ええ、まあ、これらは大きな疑問です。そして、私はこれらについて何度も考えてきました。しかし、面白いのは、もし私たちが孤独だとしたら、それは偉大なフィルターの観点からすると、いくらか慰めになるということです。

なぜなら、それはおそらく、偉大なフィルターが私たちの過去にあったということだからです。そして、私は彼らがそうであると確信しています。

ということは、生命の起源という問題に立ち戻ることになるかもしれませんね。例えば、化学スープから最初の生命体が生まれたというようなことです。これはかなり難しいことだと思います。しかし、多細胞生物は、ミトコンドリアを捕獲し、それを自分の一部として使うというステップは、信じられないほど難しいように思えます。

Lex Fridman 1:35:54

最も大きな、最も重要なことだと思いますか?銀河ヒッチハイク・ガイドのようなものを1つ選ぶとしたら、すべての賢い生き物が行ったことを1つの文章で要約すると、多元宇宙が存在することになるでしょうか。

Demis Hassabis 1:36:08

という本がありますが、これは1010の発明を推測しています。その1つは、知性と意識的な知性の出現で、私たちが科学やその他のことを行えるようになったことが大きいと思います。地球の歴史上、知性は一度しか進化していません。ですから、その進化はまだ先の話です。しかし、初期の候補があるのは確かです。多細胞生物は巨大だと思います。

知能ある生命

Lex Fridman 1:36:41

知性の起源が何であるかについて仮説を立てることができれば、お聞きしたいのですが。私たちが火を使って肉を焼き始めたということでしょうか?それとも、私たちが非常に強力になれることを理解して、祖先の間で協力するようになり、アルファオスを打倒できるようになったのでしょうか?

リチャード・ブランハムと話したのですが、彼は、独裁者、権威主義者、部族を支配するアルファ・オスを倒すために協力する方法を見つけたベータ・オスに過ぎない、と考えています。他の説明はありますか?2001年宇宙のようなモノリスがあったのでしょうか?そうです、地上に降りてきたのです。

Demis Hassabis 1:37:25

まあ、私はそれらのすべてが、あなたはちょうど良い候補の火と料理を持っていると思います。そうでしょう?エネルギー効率、つまり、肉を調理することで、より効率的に食べることができ、エネルギーを消費することができます。これはとても大きなことだと思います。

そして、火や道具の活用。部族間の協力関係や言語についても、おっしゃるとおりだと思います。なぜなら、おそらくそのおかげで、私たちはネアンデルタール人や、おそらく協力的でない種に対抗することができたからです。ですから、道具作りや槍の斧もそうかもしれません。

特にノートンやアメリカ大陸で、人類が到着した時に、多くの巨大動物の絶滅に人類が関与していたことは、今ではかなり明白だと思います。ですから、道具の使い方を発見すれば、それがどれほど強力で、動物にとって恐ろしいものであったかは想像がつくと思います。

ですから、これらのことはすべて説明できたと思います。なぜなら、私たちの脳が使うエネルギーは、体内のエネルギーの20%にも及ぶからです。しかも、膨大な量です。チェスを考えている時、面白いことを言いました。

レーシングドライバーがF1レースで使うのと同じくらい、真剣にハイレベルなチェスをする場合、ただ座っているだけでは、脳は膨大なエネルギーを使うので、考えもつかないでしょう。動物や生物がそれを正当化するためには、大きな見返りが必要なのです。

問題は、脳の半分や経路、知能、IQがサルの脳のようなもので、人間レベルの脳に到達するまでは、その進化を正当化できるかどうか、はっきりしないことでした。しかし、どうやってその仕事をするのでしょうか?動物に見られるような特殊化した脳から、人間が持つような汎用的で強力な脳への進化は、非常に難しいので、まだ一度しか行われていないのだと思います。

そして、そのおかげで、私たちは現代の現代社会を発明することができるのです。そして、その壁を越えるには多くのことが必要です。AIシステムでも同じことが言えると思います。ごく最近まで、チェスのような問題に対して特定のソリューションを作るのは、多くのことができる汎用学習システムを作るより常に簡単だったのです。

意識的なAI

Lex Fridman 1:39:52

この進化したシステムにおける人間の心の面白い癖の一つは、意識であるように見えます。知能を解決するためには、途中で意識も解決する必要があるとお考えでしょうか?AGIシステムが真に知的であるためには、意識を持つ必要があるとお考えでしょうか?

Demis Hassabis 1:40:28

ええ、実はこの点についてはよく考えてみました。私が思うに、意識と知性は二重に分離可能なのです。つまり、どちらか一方が欠けても、もう一方を手に入れることができるのです。

動物やペット、犬を飼っている人ならわかると思いますが、高等動物やイルカは、自己認識を持っていて、とても社交的で、夢を見ているように見えます。

このような特徴は、ある種の意識と自己認識を持っているとみなされるものです。しかし、彼らはそれほど賢くはありません。そうでしょう?つまり、IQの基準とかで言うと、それほど賢くないんですね。そうです。

Lex Fridman 1:41:09

私たちの知能に対する理解に欠陥がある可能性もありますね、IQをつけるような。確かに、犬ができることは、実は知能の道筋のかなり先まで進んでいるのかもしれません。私たち人間は、チェスをしたり、詩を書いたりできるだけなのです。

Demis Hassabis 1:41:24

そうです。しかし、AGIや一般的な知能の考えに戻ると、犬は非常に特化していますよね?ほとんどの動物はかなり特化しており、何をするにも素晴らしい能力を発揮しますが、彼らは一種のエリートスポーツ、スポーツマン、といったところでしょうか。だから彼らは極めて優秀で、脳全体が最適化されています。

Lex Fridman 1:41:40

彼らは全人類を説得して、彼らを養い、彼らに奉仕させています。つまり、ある意味、彼らは支配しているのです。

Demis Hassabis 1:41:46

そうです、まさに、私たちが進化した場所、あるいは、おかしな程度に、そう、犬が、ほら、尻尾を振って鼻をひくつかせるやり方さえ、そう、私たちがどうしようもなくかわいいと思うところを、私たちは見つけているのです。しかし、その反対側にも知性を見ることができると思うのです。

人工的なシステムは、囲碁やチェスなど、特定のことに関しては驚くほど賢いのですが、あなたが私にすること、私があなたにすることのような意識はまったく感じられません。そして、私は、AIを構築することは、このような知的構造物であり、意識の謎を解明するための最良の方法の一つであると思います。

なぜなら、私たちは、特定のことに長けていたり、特定のことができるデバイスを持つことになりますが、潜在的に自己認識や他のことを全く持っていない可能性があるからです。そして実際、もし選択肢があるのなら、私はこう提唱します。そもそも意識を持っていないAIシステムは、私たちがよりよく理解し、よりよい能力を発揮できるようになるまで、単なる道具に過ぎません。

Lex Fridman 1:42:54

この話題についてですが、DeepMindのCEOとしてではなく、あくまで人間としてです。一人の人間として、Googleのエンジニアがコメントしました、あるいは言語モデル、ラムダ言語モデルには感覚を示す側面があると信じていました、ある特定の逸話的証拠についてお聞きしたいのです。

つまり、「まだ送られていないシステムを作る責任があるかもしれない」と言ったわけです。そして、この特定のエンジニアの経験は、私は、このようなことについての一般的な意見を聞いてみたいと思っています。

エンジニアが、ではなく、エンジニアリングのバックグラウンドを持っていない人々が、ますますインテリジェントなシステムと対話し始めたとき、私たちは彼らを擬人化し、彼らがいなくなったときに私たちが寂しいと思うような、深い、インパクトのある対話をし始めるのです。

そして、彼らが生きているように感じ、自己認識するようになり、もしかしたら、彼らに感覚を投影するようになるかもしれません。では、この特殊なシステムについて、あなたはどうお考えですか?そうですか?言語モデルに会ったことがありますか?感覚を持った?

いいえ、ありません。

このシステムに感覚の要素があると感じた場合、どのようにお考えですか?

Demis Hassabis 1:44:12

そうですね。これは興味深い質問で、明らかに、非常に基本的なものです。まず最初に言っておきたいのは、現在あるどのシステムも、意識や感覚のかけらすら持っていないということです。これは、毎日システムを使っていて感じることです。

このように、あのエンジニアが話したことを議論するのは時期尚早だと思いますが、今のところ、私たち自身の心の働きの投影だと思います。

その昔、最初のチャットボットのテンプレートで もっとも間抜けなイライザや60年代のチャットボットの大部分は ある状況下で心理学者のふりをして 人々を騙していました。基本的に同じ質問をあなたに返すだけです。あなたが質問したことをあなたに返します。

それを信じてしまう人がいるのですから、私たちには無理でしょう。チューリング・テストが正式なテストとして少し欠陥があると思うのは、この区別をする資格があるかどうかが、裁判官の洗練度によって決まるからです。

ですから、この件に関しては、一流の哲学者に話を聞くべきだと思います。ダニエル・デネットやデビッド・チャルマーズなど、明らかに意識について深く考えている人たちです。

もちろん、意識そのものは、うまく定義が定まっていません。もし私が推測するとしたら、私が好きな作業定義の深さは、「情報が処理されるときに感じる方法」、多分マックス・テグマークが考え出したと思います。

この考え方は好きです。この考え方が、より実践的なものに近づく助けになるかどうかは分かりませんが。しかし、これはこれで、いい捉え方だと思います。神経科学から、ある種の前提条件を見出すことができます。例えば、自己認識は必要ですが、十分ではありません。

自己と他者という考え方、時間の経過とともに首尾一貫する一連の好み、これらのもの、おそらく記憶、これらは感覚や意識のある存在に必要なものでしょう。これは実に興味深い哲学的な議論ですが、AGIに近づいたとき、そして今よりもはるかに強力なシステムになったとき、私たちにとって難しいことが起こると思います。

このとき、私たちはどのように判断するのでしょうか。1つの方法として、チューリング・テストは行動学的な判断の一種ですが、システムは人間の感覚や知覚がある人間が示すであろう行動をすべて示していますか?正しい質問に答えていますか?正しいことを言っていますか?人間と見分けがつかないかどうか、などです。

しかし、私たち人間がお互いを感覚的な存在とみなすには、もう一つ理由があると思います。なぜ私たちはそう考えるのでしょう?なぜそう考えるのでしょうか 私はダニエル・デネットと議論しました。よく見落とされます2つ目の理由があると思います。

それは私たちが同じ基盤の上で動いているということですね?私たちが人間として多かれ少なかれ同じ行動をとっていて 同じ炭素ベースの生物学的基盤、つまりこのふにゃふにゃしました、頭蓋骨の中の数ポンドの肉の上で動いているとしたら 最も簡潔な説明は、あなたが私が感じているのと同じことを感じています、ということになりますね。

しかし、2番目の部分、つまり機械と基板の等価性は、決して得られないでしょう?ですから、私たちは、行動に基づいて充電しなければならないのです。私たちが「意識がある」と思い込んでいるのは、この「基質との等価性」が重要な理由だと思います。

実際、動物でも、高度な動物では、感覚を持った動物に期待されるような行動をとるので、意識を持っているのではないかと思います。彼らは同じもの、つまり生物学的なニューロンでできていることが分かっています。

Lex Fridman 1:47:59

機械と人間の間にある基盤の違いを説明したり、モデルを作ったりしなければ、行動を超えたところに到達することはできません。しかし、私にとって、現実的な問題は非常に興味深く、非常に重要です。何百万、何十億という人々が、感覚を持ったAIがいると信じ、グーグルのエンジニアが信じていたことを信じるとしたら、それは明らかに、ごく近い将来のことで、確実にAGIへの道筋にあると私は考えています。

それは世界をどのように変えるのでしょうか?何百万人もの人々を助けるために、AIシステムにはどんな責任があるのでしょうか?また、倫理的にはどうなのでしょうか?なぜなら、作る前から偽物のシステムで、意味のある深い体験をすることで、多くの人を幸せにすることができるのですから。そうですね。そして、何が正しいのでしょうか、誰が正しいのでしょうか、わからないのです。

AIは常に道具であるべきなのでしょうか?なぜ私たちはAIを友達ではなく、道具として制約しているのでしょうか?

Demis Hassabis 1:49:07

そうですね、これらは素晴らしい質問であり、また重要な質問でもありますね。なぜなら、私たちは成功のために計画を立て 2010年当時はどのように遠隔操作をしていたかを知っているからです。そして、DeepMindでは常にこのような倫理的配慮を基本としてきました。

言語モデルや大規模モデルに関する私の現在の考えは、それらはまだ準備ができていません、まだ十分に理解できていません、ということです。分析ツールや 何ができて何ができないかといった ガードレールといった観点で 大規模に展開するには まだ大きな倫理的疑問が残っています。

そもそもAIシステムは 常に自分がAIシステムであると発表すべきなのでしょうか?おそらくイエスでしょう。AIシステムに対して人々が抱く感情に関する哲学的な質問にはどう答えるのでしょうか? という属性があります。ですから、まず最初に、責任を持ってこれらのシステムを大規模に展開できるようにするために、やるべき研究が山ほどあると思います。

いずれは、解釈の問題や分析の問題を解決するためのツールを手に入れることができると確信しています。また、倫理的な問題については、科学を超えたところに目を向けることが重要だと思います。哲学、社会科学、神学、その他、芸術や人文科学など、さまざまなものが含まれます。

人間であること、人間であることの精神とはどういうことなのでしょうか、それを高め、これまで経験できなかったことを経験できるようにし、人間全体の状態を向上させ、人類全体を改善し、根本的な豊かさを手に入れ、多くの科学的問題を解決し、病気を解決することです。

ですから、この時代こそ、素晴らしい時代だと思うし、それを実現すれば、私たちはそこに向かっていると思います。しかし、注意しなければならないことがあります。ソーシャルメディアなどでは、二重利用技術が、まず、悪い人、悪い行為者、素朴な行為者、おかしな行為者によって悪用されることがあるのを、すでに見てきました。

つまり、既存の二重利用技術の一般的な、あるいは庭先での誤用があるわけです。そしてもちろん、AIには、最終的にはAI自身が主体性を持つようになる可能性があるということも、克服しなければならない課題です。AIは、それ自体で善にも悪にもなり得ます。

ですから、これらの問題には非常に慎重に取り組まなければならないと思っています。なぜなら、AIのような強力なテクノロジーでは、何か問題が起きると、それを解決する前に多くの害が発生する可能性があるからです。画像処理アプリやゲームアプリのように、何か問題が起こっても比較的簡単に修正できるようなものとは違うのです。

また、その被害も比較的小さいものです。ですから、「大きな力には大きな責任が伴う」という、いつもの決まり文句があるのだと思います。目の前にある大きなチャンスを考えると、Aiのようなケースはまさにその通りだと思います。システムの設計や、システムが持つべき価値、どんな目標に向けるべきかなど、技術者だけでなく、できるだけ多くの人々の声が必要だと思うのです。

特に、システムの配備となると、基礎研究よりも一般消費者に影響が出ます。ですから私は、最初の一歩として、このようなシステムをツールとして構築する選択肢があれば、より良いものになると考えています。もちろん、道具の域をはるかに超える可能性はありますから。もちろん、単なるツールをはるかに超える可能性はありますから。しかし、こうしたものが何をできるのかを注意深く実験して理解するためには、これが良い最初のステップになると思います。

パワー

Lex Fridman 1:53:01

では、道具から感覚を持つ存在になるまでの道のりは、非常に慎重である限り、そうですね、暗い、個人的な質問をさせてください。あなたはこのコミュニティで最も優秀な人物の一人であり、また最も親切な人物の一人でもありますね。私が言うのもなんですが、コミュニティの中で最も愛された人の一人です。

つまり、超高知能AIシステムの創造は、道具であれ何であれ、世界で最も強力なものの一つでしょう。そしてまた、古いことわざにあるように、権力は腐敗し、絶対的な権力は絶対的に腐敗するのです。あなたもその一人になる可能性が高いのです。

しかし、私はおそらく、そのようなシステムの支配者になる可能性が最も高い人物と言うでしょう。このようなシステムについて話すとき、権力の腐敗性について考えることはありますか。過去に独裁者や人々が信託統治者を引き起こしたように、彼らは常に良いことをしていると思っています。しかし、権力は何が善で何が悪なのでしょうか、彼らの心を汚染しているので、彼らは善を行うことはありません。

このようなことを考えるのでしょうか?それとも、言語モデルだけに注目しているのでしょうか?

Demis Hassabis 1:54:16

いえ、いつも考えていますよ。そしてですね、それに対する防御策は何だろうと考えるのです。ひとつは、何をやっても、何を達成しても、地に足をつけて謙虚でいることだと思います。私の親友は、ケンブリッジ大学時代の友人たち、家族、そしてとても大切な友人たちです。

私は常に、学際的な人間であろうとしてきました。なぜなら、あるテーマでどれだけ優れた研究者であっても、その分野では自分より優れた研究者がいるものだからです。また、常に新しいテーマをゼロから学び直し、新しい分野を開拓していくことは、とても謙虚な姿勢でいられることです。

そうですね。私の場合、この5年間は生物学という大きな分野のトピックを扱ってきましたが、これはとても楽しい仕事でした。しかし、そのおかげで、地に足をつけて、オープンマインドでいられるんです。そして、もうひとつ重要なことは、会社や組織の周りに、倫理的で地に足の着いた、本当に優れた人たちがいて、その人たちがあなたをそのように導いてくれることです。

そして、最終的には、あなたの質問に答えるために、私たちがAIを誕生させる大きな一翼を担うことを望んでいます。そうすれば、これまでのどんなツールやテクノロジーよりも人類に大きな利益をもたらし、私たちを根本的に豊かな世界に導き、病気を治し、私たちの目の前にある多くの大きな課題を解決し、そして最終的には、人類の究極の繁栄を助け、星を旅して、もし宇宙人がいたらそれを見つけます。

そして、もしいなければ、なぜいないのかを突き止めることです。この宇宙で何が起こっているのでしょうか、それはすべてこれからわかることなのです。それが私の夢でした。しかし、AIがあまりに大きなアイデアだとは思っていませんし、そうなるとは思っていません。

AIシステムが自分で知識のほとんどを学習するとしても、システムにはそのシステムを作った人の文化や価値観が残ると思うからです。地政学的にも興味深い問題があります。

文化が異なるため、世界はかつてないほど分断されています。残念ながら、グローバルな協力という点では、気候変動など、差し迫った問題に対してグローバルに協力し合うことができないようです。

時間が経てば変わっていくと思います。おそらく、根本的に豊かな時代になれば、もうそんなに競争する必要はないでしょう。多分、もっと協力的になれるでしょう。資源がそれほど不足していないのであれば。

Lex Fridman 1:56:44

確かに、権力が腐敗して破壊的なことにつながるという点では、過去の残虐行為のいくつかは、資源に大きな制約があるときに起こっているように思いますね。

Demis Hassabis 1:56:56

私はそれがまず不十分だと思います。希少性が競争を促し、ゼロサムゲーム的な思考を崩壊させたのだと思いますが、私は全員がプラスサムワールドになることを望んでいます。そのためには、希少性を排除しなければなりません。なぜなら、人に対する権力欲や、このような腐敗したものがあるからです。

しかし、最終的には、AIは一人の人間や一組織によって運営されるものではなく、世界のもの、人類のものであるべきだと思います。そして、おそらく多くの、さまざまな方法でこれが実現されると思います。そして最終的には、誰もがそれに対して発言権を持つべきだと思います。

若い人へのアドバイス

Lex Fridman 1:57:37

もしAIに興味があったり、世界に大きなインパクトを与えたいと考えている高校生や大学生に、誇りに思えるキャリアや人生を送るために何をすべきか、アドバイスはありますか?

Demis Hassabis 1:57:55

私は次の世代の人たちに話をするのが好きなのですが、若いときに学ぶべき、そして見つけるべき最も重要なことは、自分の本当の情熱は何なのか、という2点です。そのためには、できるだけ多くのことを探求することです。若いうちは、時間があって、リスクを負うことができます。

また、ユニークな方法で、物事と物事のつながりを見つけることも、情熱を見つけるのにとても良い方法だと思います。2つ目は、「自分を知る」ということです。例えば、仕事をするのに最適な時間は何時なのでしょうか?例えば、仕事をするのに最適な時間は何時なのでしょうか、最適な勉強方法は何なのでしょうか。

プレッシャーにどう対処するか、さまざまなシナリオで自分をテストし、弱点を改善します。そして、自分ならではのスキルや強みを見つけて、それを磨いていく。そうすれば、それが後々、あなたの世界での超価値となるのです。

そして、この2つを組み合わせて、自分ならではの強いスキルと交差する、心からワクワクするような情熱を見つけることができれば、あなたは素晴らしい何かを手に入れることができるのです。そして、あなたは世界に大きな変化をもたらすことができると思います。

Lex Fridman 1:59:10

では、自分自身をよく知るために質問させてください。これは楽しいことです。これは楽しいです、Day in the Lifeについての簡単な質問です。完璧な一日、人生における完璧な生産的な一日。それは、どのように、そう、多分。

多分、これらの日、あなたは多くのことが関与しています、そして多分あなたが単一のプロジェクトに集中することができたときに少し。あなたは何時に起きますか?あなたは夜型ですか?朝は早く起きますか?面白い習慣は何ですか?一日に何十杯のコーヒーを飲みますか?

あなたが使っているコンピュータは何ですか?セットアップはどうなっていますか?画面はいくつでキーボードは何ですか?私たちは話していますか?EmacsやVim?もっとモダンなもの?そういう質問がたくさんあるので、多分、一日の生活の中で。完璧な一日とはどのようなものでしょうか?

Demis Hassabis 1:59:59

10-20年前は、丸一日、研究、個人研究、プログラミング、実験、神経科学コンピューターサイエンス実験、たくさんの研究論文を読み、そして夜には、SFの本を読んだり、ゲームをしたりしたものです。

Lex Fridman 2:00:25

しかし、プログラミングであれ、研究論文を読むことであれ、多くの集中、深い集中作業を行うのです。

Demis Hassabis 2:00:31

そうです、そうです。この5〜10年の間に、私はとてもうまくいく仕組みを手に入れました。私はずっと夜型の人間です。ですから、そのために最適化したんです。基本的には、1日普通に仕事をして、11時くらいに出社して、7時くらいまでオフィスで仕事をします。

そして、その間にできるだけ多くの人とミーティングをするように手配します。そして、家に帰って、家族や友人と夕食をとり、少しリラックスします。そして、2日目の仕事を始めるのですが、私は2日目の仕事を22時23時頃と呼んでいます。

そして、朝の4時か5時くらいまで、考え事をしたり、研究を読んだり、論文を書いたりします。悲しいかな、もうコードを書く時間はありません。しかし、最近は時間の都合上、そうするのは効率的ではありません。

しかし、その時間帯に、じっくりと考えたり計画を立てたりしています。そしておそらく、電子メールなどを使って、翌朝に対応するためにチームに多くのことを送りつけます。一晩中このことについて考えずに、翌日にはこのプロジェクトに取り掛かるか、この会議を手配すべきです。

Lex Fridman 2:01:55

考えなければなりません。ペンを持った一枚の紙のことでしょうか?何かあるのでしょうか。

Demis Hassabis 2:01:58

独立した構造がありますか?ええ、私は今でも、物事を解決するには鉛筆と紙が一番好きです。でも最近は、研究論文を画面上で読むのがとても効率的なので、今でもよくプリントアウトしますし、実際、マークアウトする方が好きです。ですから、ノートを取るんですね。私は、電子ノートもたくさん持っているし、家で使っているノートの束も全部持っています。そうですね。

Lex Fridman 2:02:27

最も困難な次のステップ、たとえば、私たちの誰も知らないようなことに取り組んでいる場合、そこには深い思考が必要だと思いませんか? 例えば、何が正しい問題なのでしょうか?正しいアプローチは何なのでしょうか?そうすると、チーム全体に膨大な時間を投資して、このことを追求しなければならなくなるからです。

正しい方法は何なのでしょうか?全員がここで働くことになるように?そして、はい?何を試すのが正しいのでしょうか?あなたにとって正しいベンチマークは何ですか?ベンチマークを一から構築する必要があるのでしょうか?そういうの全部?そうですね。

Demis Hassabis 2:02:58

そのようなこと、それから、時間的なこともあるでしょうが、それ以上に、私はいつも、朝の静かな時間、みんなが寝ている時間、外がとても静かな時間を大切にしています。その時間が好きなんです。夜中の1時から3時の間、音楽をかけながら、深い思考を巡らせるんです。

哲学書を読んだり、スピノザが最近のお気に入りなんです。そして、歴史上の偉大な科学者について読んだり、彼らがどのように行動し、どのように考えていたかを調べたりします。そうやって、クリエイティブな思考をするのが私のやり方なんです。

私の場合は、1日の中で1つのブロックに集中してクリエイティブな思考をすることを勧めています。その時間帯は誰も起きていないので、邪魔されることもなく、とても深いフローに入ることができます。夜間に行うことのもう一つの利点は、もし私が本当に何かに夢中になっていたり、何かに深く入り込んでいたりしたら、それを延長することを選択できることです。

朝の6時までやってもいいし、何でもいい。そして、翌日にはその分の支払いを済ませます。そうすると、ちょっと疲れてしまって、ベストな状態にはなりません。しかし、それでいいんです。次の日のスケジュールを見て、この特別な考えや創造的なアイデアのために、次の日にその費用を支払うと決めればいいんです。

その方が、朝4時に起きるような人よりも柔軟性があると思います。しかし、一日の始まりは朝食時、つまり最初のミーティングがある時間帯から始まりますから、大変です。流れ作業で一日中スケジュールを変更しなければならないのです。そうですね。。

Lex Fridman 2:04:40

このような場合、後で自分自身を見失ったときに、素晴らしいアイデアが生まれる可能性があります。そうですね。会議では、本当に難しい問題を短時間で読み込むわけです。そのため、第一原理を考える必要があります。何が問題なのでしょうか?現状はどうなっているのでしょうか?次のステップは何なのでしょうか。

Demis Hassabis 2:05:02

特に、私たちが多くのことを行っているように、科学的なことも含めれば、科学的な分野というのは、それ自体が複雑な分野であり、その分野全体で仕事をしているわけですから、文脈の切り替えは最も難しいことの1つです。それに遅れを取らないようにしなければならないのですが、私はそれを楽しんでいます。

私はいつも、ある意味、ジェネラリストなんです。チェスを止めた理由のひとつは、コンピュータに夢中になったことなんですがそれ以外にも素晴らしいゲームがたくさんあることに気づき始めたんです。ですから、私はいつもそういう傾向があり、学際的なのです。世の中には面白いことがたくさんありすぎて、1つのことだけに時間を費やすことはできないのです。

人生の意味

Lex Fridman 2:05:41

スピノザのことを話したら、人生についてのとんでもなく大きな質問をされましたね。

このすべてのものの意味は何だと思いますか?私たち人間はなぜここにいるのでしょうか?宇宙が人間を創ったのでしょうが、なぜ私たちはここにいると思いますか?宇宙を理解するため?そうです、私は

Demis Hassabis 2:06:00

私の答えは、少なくとも私が生きている間は、知識を得て理解すること、つまり、知識を得て宇宙を理解することだと思うんです。それ以上の目的はないと思っています。

古典ギリシャを思い起こすと、知識を得ることの美徳というのがあるでしょう。私たちを取り巻く世界をよりよく理解することは、数少ない真の美徳のひとつだと思います。そうすれば、より思いやりが生まれ、自分自身をより理解できるようになり、より寛容になれる。

私にとって、現実の本質を理解することは、最大の疑問です。とても神秘的です。私たちは何か巨大なパズルの中にいるような気がします。しかし、世界は、宇宙は、科学が可能な方法で構成されているように見えます。科学的な方法が有効で、物事が再現可能なのでしょうか?知識を得るのに適した構造になっているように感じます。

ですから、なぜコンピューターが可能なんだろうと思うんです。計算機や電子デバイスが可能なのはすごいことだと思いませんか?

砂でできていて、地殻にあるケイ素という最もありふれた元素で、それがダイヤモンドか何かでできていたら、コンピュータは1台しかなかったわけですよね?ですから、いろいろなことがちょっと怪しいんです。私にとって、それは

Lex Fridman 2:07:26

このパズルは、以前お話ししました、長時間プレイしても本当に楽しいゲームをデザインするために必要なものに、確かに似ています。このパズルは、さっきも言ったように、知れば知るほど、いかに自分が知らないかということに気づかされるようです。

謙虚になりつつも、もっと学べる可能性にワクワクする、とんでもないパズルがここにあるんです。先ほど申し上げたように、世界中のあらゆる人の中で、人間以上の知能を実現するAGIシステムを作るのは、あなたである可能性が非常に高いのです。

ですから、もしチャンスがあれば、非常によく言えば、あなたはシステムのある部屋に入って会話をする人になれるかもしれません。もしかしたら1つだけ質問できるかもしれませんが、その場合、あなたは彼女にどんな質問をしますか?

Demis Hassabis 2:08:19

私はおそらく、「現実の真の姿は何なのか?」という質問だと思います。多分、42とかそういう答えになるんだろうから、よくわからないけど。しかし、それが私の問いかけです。

Lex Fridman 2:08:32

そうすると、システムから深いため息が出ます、「さて、どう説明しようか」という感じです。

その通りです。

わかりました、説明する時間がありません。絵に描いて説明するには。つまり、どうやって始めればいいんです?その質問に答えるには?

Demis Hassabis 2:08:51

そうですね、つまり、

Lex Fridman 2:08:52

その答えがどのようなものだと考えていますか??

Demis Hassabis 2:08:55

物理学のより根本的な説明が始まりのように見えるかもしれませんね。

Lex Fridman 2:09:11

今日の物理学では完全に見逃していたことを垣間見ることができるかもしれません。彼は、ここに垣間見えるような、もっともっと精巧な世界や、もっともっと単純な世界がある、というようなことではないんです。

Demis Hassabis 2:09:26

もっと深く、もっとシンプルに物事を説明するでしょう。物理学の標準モデルは、うまくいかないと分かっているのに、まだ追加し続けています。そうです。意識、夢、生命、重力など、私たちが何千年にもわたって不思議に思ってきました。多くの謎を包含し始めるものです。

Lex Fridman 2:09:48

それらの説明の片鱗を私たちに与えてくれます。そうですね。デニス、あなたはこの巨大なパズルの中で特別な人間の一人です。そして、あなたが大きなパズルから小休止して、小さなパズルを解いてくれることは、とても光栄なことです。今日、私と会話をしてください。本当に光栄であり、喜びです。来てくださってありがとうございました。

本当に楽しかったです。ありがとうございました。ありがとうございました。ダマスカス・アワーとの対話を聴いていただきありがとうございました。このポッドキャストをサポートするために 説明文にあるスポンサーをチェックしてください。

それでは、エドガー・ダイクストラの言葉をお届けします。コンピュータ・サイエンスはもうコンピュータのことではなく、天文学は望遠鏡のことなのです。ご清聴ありがとうございました、次回もよろしくお願いします。

タイトルとURLをコピーしました