Max Tegmark Life 3.0 Lex Fridman Podcast #1

強調オフ

Lex Fridman Podcast未来・人工知能・トランスヒューマニズム物理学・宇宙

サイトのご利用には利用規約への同意が必要です

Max Tegmark Life 3.0 Lex Fridman Podcast #1

Lex Fridman 0:00

MITの経過6099人工知能の一環として、マックス・テグマークと話をする機会を得ました。彼はこのMITの教授です。彼は物理学者で、キャリアの大部分を宇宙の謎の研究に費やしてきました。彼はまた、人工知能の有益な可能性と実存的なリスクについても研究しています。彼はFuture of Life Instituteの共同創設者であり、私が強く推薦する2冊の本の著者でもあります。1つ目は「私たちの数学的宇宙」、2つ目は「人生3.0」です。彼は本当に常識にとらわれない考え方をする人で、楽しい人なので、話をするのがとても楽しいです。今後もこのようなビデオを見たいという方は、ぜひ購読してください。また、小さなベルのアイコンをクリックして、ビデオを見逃さないようにしてください。また、ツイッターのLinkedin AGI that mit.eduで、他の講義やこのような会話をご覧になりたい方は、Maxの著書「light 3.0」の第7章「目標」が私のお気に入りです。この章は哲学と工学が一緒になっているところで、ダスティ・アスキーの言葉で始まります。人間の存在の謎は、ただ生きていることではなく、何か生きがいを見つけることにある。最後に、私は失敗はすべて学ぶ機会を与えてくれると信じています。その意味では、私は幸運にも多くの新しいエキサイティングな方法で失敗してきました。今回の会話もそうでした。私は、RFI(Radio Frequency Interference)というものを知りました。調べてみると、地元のラジオ局からの音楽や会話が、録音している音声に混じってしまい、その音声をほとんど台無しにしてしまうことがあるらしく、取り除くのが非常に難しい音源なのだそうです。そこで私は、今後のレコーディングでRFIを回避する方法を学ぶと同時に、Adobe Auditionとisotope RX 6を使ってノイズやオーディオの修復を行う方法を学ぶ機会を得ました。もちろん、これは取り除くのが非常に難しいノイズです。私はエンジニアですが、オーディオ・エンジニアではありません。我々のグループの他の誰もがそうだ。しかし、私たちは最善を尽くしました。とはいえ、ご辛抱いただきありがとうございました。そして、この会話を楽しんでいただければ幸いです。宇宙には知的生命体が存在すると思いますか?簡単な質問から始めましょう。

Max Tegmark 2:33

私はここでは少数派の意見を持っています。実際、私が講演をするときには、よく「宇宙のどこかに知的生命体がいると思う人は手を挙げてください」と尋ねます。と聞くと、ほとんどの人が手を挙げてくれます。そして、その理由を尋ねると と聞くと、「ああ、銀河がたくさんあるから」という答えが返ってきます。きっといるはずだ。でも、私は数字オタクなんですよね。ですから、もっと注意深く見てみると、私たちが宇宙について語るとき、まず第一に、宇宙全体を意味しているわけではないということが、まったくわからないのです。実際には宇宙を意味しているのかどうかはわかりませんが、後ろにつけたければ宇宙を投げてもいいでしょう。ビッグバンから148億年、138億年の間に光が到達した宇宙の球状の領域を意味します。ここにはもっと大きな空間があります。しかし、私たちがアクセスできるのはこれだけなので、これを宇宙と呼んでいます。では、望遠鏡やコンピュータを作るまでになった知的生命体は存在するのでしょうか?私の推測では「いいえ」ですが、実際のところ、ある惑星でそれが起こる確率は 何らかの数値がありますが、それが何なのかはわかりません。なぜなら、天の川銀河だけでも10億個以上の地球型惑星があり、その多くは地球よりも数十億年も古いからです。そして、一部のUFO信奉者を除けば、超巨大文明がここに来たという証拠はあまりありません。これが有名なフェルミのパラドックスですね。ある惑星に生命が存在する確率がどれくらいか見当がつかない場合、心を開いて考えてみると、10のマイナス10乗からマイナス20乗、あるいは10のマイナス2乗の確率が等しくなることがわかりました。つまり、私たちの最も近い隣人は、10^10^16~17~18乗mの可能性があるということになります。さて、10の16乗をはるかに下回る距離になると、そこまで近いものは他にないことがよくわかります。

Lex Fridman 4:47

そして、10の16を超えるとを超えてしまうと、それはそれで発見されたことになります。

Max Tegmark 4:48

そうですね、同じように発見されていたかもしれませんし、もし本当に近ければ、彼らが行っているエンジニアリング・プロジェクトに気づいていたかもしれません。もしそれが10の26乗メートルを超えていたら、それはもうここの外です。私の推測では、高度な技術を構築するまでになった生命は、実は私たちだけだと思います。これは、私たちが失敗しないようにするために、多くの責任を私たちの肩に負わせることになります。そうではないことが、私たちを誤った安心感へと誘うのだと思います。それよりも、この素晴らしい機会に感謝し、それを最大限に活用しましょう、と言う方がずっと賢明だと思います。

Lex Fridman 5:44

物理学の観点から見て、知的生命体は、宇宙の大きさの統計的な観点だけでなく、宇宙の基本的な物質の観点からもユニークだと思いますか?知的生命体が、人間のようなものを作るのは本当に難しいというあなたの発言に示唆されているような、高度な技術を持った生命体を誕生させるのは、どのくらい難しいのでしょうか?

Max Tegmark 6:07

私たちが知っているのは、生命がいない状態から、生命がいて、私たちと同じレベルの技術が使えるようになるまでには、ある種の道のりがあるということです。そこにはいくつかの大きな障害があり、私が時々呼んでいるように、素晴らしいフィルターがあり、それを通過するのは大変です。その障害物が我々の後ろにあるか、我々の前にあるかのどちらかなのです。私はそれが後ろにあることをとても願っています。NASAから「火星に生命体を発見できなかった」という新しいレポートが届くたびに、私はとても興奮します。そう、素晴らしい。というのも、もしかしたら大変だったのは、最初のリボース・ゾームを手に入れることだったのかもしれませんし、非常に低いレベルのある種の踏み台を手に入れることだったのかもしれません。もしそれが本当なら、未来は本当に私たち自身の想像力によってのみ制限されているということになり、もっと悲惨なことになります。もし、このレベルの人生がダイヤモンドのようなものだとわかったとしても、そうではありません。しかし、もしかしたら他の問題があるかもしれません。例えば、ある文明が100年以内に高度な技術を手に入れた途端、自分たちとくだらない喧嘩をしてしまう。そして、パッと見て、ああ、それは残念なことだ。

Lex Fridman 7:21

そうですね。あなたは宇宙の謎を探究してきましたが、今日、私たちの間にある宇宙、すなわち宇宙論的な宇宙だけでなく、もう一つの宇宙、すなわち心の謎、知的生命体の知性の謎の宇宙についても探究し始めていると思います。宇宙や知性についての興味や考え方には共通点があるのでしょうか?

Max Tegmark 7:48

ああ、そうですね。私が10代の頃、私はすでに最大の疑問にとても魅了されていました。そして、科学における2つの最大の謎は、外にある私たちの宇宙だと感じていました。そして、ここにある私たちの宇宙です。そうですね。ですから、四半世紀のキャリアの中で、この2つの謎について考えるのはごく自然なことだと思います。今、この問題について研究するという贅沢を味わっているが、これはとてもクールなことだ。今がその時だと思っています。あなたのトレンドを紹介することで、この分野の理解を直接深めることができます。

Lex Fridman 8:25

をご覧になって、この件の調査を始めてみませんか?

Max Tegmark 8:26

というのも、多くの人は知能を、私たちのような生物にしか存在しない神秘的なものだと考えているからです。そのため、人工的な一般知能についての話はすべてSFだと思っています。しかし、物理学者である私の視点では、今の私はクォークと電子の塊であり、一定のパターンで動き回り、一定の方法で情報を処理しています。そして、これもまた、クォークと電子の塊である。私は水筒よりも賢くはありません。そして、私は異なる種類の作品を作ったので、クォークとダウンクォーク、全く同じ種類のこれを作ったのですね。秘伝のソースはないんです。私の場合は、情報処理のパターンがすべてだと思っています。つまり、人間がテクノロジーを作ることができないという物理法則はないということです。テクノロジーを作れば、信じられないほどの知性を発揮して人間を助け、人間が解明できなかった謎を解き明かすことができたはずです。つまり、私たちはこれまでのところ、本当に知能の氷山の一角しか見ていないのだと思います。

Lex Fridman 9:26

そうですね。パーセプトロニウム(perceptronium)ですね。

Max Tegmark 9:29

そうですね。

Lex Fridman 9:30

あなたはこの素晴らしい言葉を作りました。物理学の観点から考えると、主観的な経験の出現、意識の出現を助けることができる物質とはどのようなものか、ということになります。では、この物理学の観点から、意識についてどのように考えますか?

Max Tegmark 9:49

とてもいい質問ですね。繰り返しになりますが、多くの人が私たちがこの問題を解決する能力を過小評価していると思います。私は、何も欠けていないし、そうではないと思っています。色や音、感情のデザインといった驚くべき主観的な経験を与えてくれる意識の興味深い点は、むしろ情報処理のパターンに関する高次のレベルのものです。だからこそ、私はこのパーセプトロニウムというアイデアを考えるのが好きなのです。任意の物理システムが、その粒子が何をしているかという点で意識を持つとはどういうことでしょうか?あるいは、その情報が何をしているか?私はカーボン・ショービニズムが嫌いだと思います。炭素原子でできていなければ、賢くない、意識がない、という態度です。

Lex Fridman 10:54

情報処理についての何か はい、物質の種類です。

Max Tegmark 10:58

いつか誰かがこれを見ているかもしれませんし、意識を持つためには情報処理が満たさなければならないという方程式を考え出してくれるかもしれません。なぜなら、私たちは、ある情報処理が意識的であることを知っているからです。しかし、多くの情報処理が意識的ではないこともわかっています。例えば、今あなたの脳で行われているほとんどの情報処理は意識的ではありません。また、心拍数の調節など、ほとんどのことを意識していませんよね。でも、例えば、ここに書いてあることを読めと言われても、それを見て、ああ、何を言っているのかわかったとしても、実際にどのように計算が行われたのかは意識していないでしょう。そうでしょう?あなたの意識は、最後に最終的な答えが書かれたメールを受け取ったCEOのようなものなのです。では、その違いを生み出すものは何なのか?それは科学的にも大きな謎だと思います。実際、MITの私の研究室でも少しずつ研究しています。しかし、それだけでなく、答えを出すのが本当に急務だと思います。まず、あなたが救急治療室の医師で、反応のない患者が来た場合、あなたがいる場所にあるCTスキャナーに加えて、意識スキャナーがあれば、その人が実際にロックダウンられた症候群なのか、それとも実際に昏睡状態なのかを把握することができるので、素晴らしいことだと思いませんか?将来的には?もし、ロボットや機械ができて、その機械と会話ができるようになったら?実現する可能性は非常に高いと思いますよね。ホームヘルパー・ロボットが実際に何かを経験しているのか、それともただのゾンビのようなものなのか、知りたいと思いませんか?つまり、あなたはそれを望みますか?どうしますか?スイッチを切ることに罪悪感を感じたり、退屈な家事をしなくて済むように、実際に無意識であることを望みますか?それとも、何がいいのでしょうか?

Lex Fridman 13:02

確かに、私たちは意識があるように見えることを好むでしょうし、私もそうです。しかし、問題は、意識の外観が意識そのもののコストと異なるかどうかです。それを質問するようなものですね。何かを構築するためには、意識とは何かを理解し、意識の難しい問題を解決する必要があると思いますか?AGIシステムのように?

Max Tegmark 13:29

いいえ、そうは思いません。この問題に答えられなくても、私たちはおそらく何かを作ることができるでしょう。でも、起こったことが良いことであることを確認したいのであれば まずそれを解決しなければなりません。ですから、あなたがここで提起しているのは、ハードプロブレムについて基本的に3つの視点を持っているという素晴らしい論争です。つまり、2つの異なる見解があり、どちらも意識のハードプロブレムはBSであると結論づけているのです。一方では、ダニエル・デネットのような人たちがいて、彼らは「私たちの意識はBsだ」と言います。意識は知性と同じもので、違いはありません。意識的に行動するものはすべて意識的であり、我々のように嫌われているのです。また、AIのトップ研究者を含む多くの人々が、「私には良心がある」と言っていますが、これは単なるデタラメです。もちろん、機械が意識を持つことはありえません。彼らをどう扱うかについて罪悪感を感じる必要はありません。そして、ジュリオ・トノーニをはじめとする第3のグループと、もうひとつのココナッツ兄弟、私はこの中間派に属すると思いますが、彼らは実際に情報処理には意識的なものとそうでないものがあると言います。では、それがどちらであるかを判断するための方程式を見つけましょう。私たちは長い間、この問題から少し怠惰に逃げてきたように思います。この問題は、「C」という言葉を口にすることさえ、ほとんどタブーになっています。これは科学の問題であり、私たちはそれに取り組むことができます。この問題を予測する理論を検証する方法もあるのです。そして、このヘルパーロボットの話に戻ります。つまり、あなたは自分の助けとなるロボットに、確かに意識的に行動し、代わりに会話をするように接してほしいと言ったのですね?私はそう思います。ちょっと気持ち悪いなと思ったときに、そう思いませんか?テープレコーダーに光沢をつけただけだとわかったら?ゾンビがいて、感情をごまかしていただけだとしたら?あなたは、それが実際に経験したものであることを望みますか?それとも、実際には何も経験していない方がいいのでしょうか?そうすれば、何をしても罪悪感を感じなくて済むと思いませんか?

Lex Fridman 15:41

これはとても難しい質問ですね。なぜなら、それは、あなたが恋愛をしていて、あなたが「あなたを愛しています」と言うと、相手も「あなたを愛しています」と返してくれるようなものだからです。それは、相手が本当にあなたを愛しているのか?相手はただ愛していると言っているだけなのか?あなたはどうですか?本当は相手に愛してもらいたいのではないでしょうか?意識があるように見えること、知性があるように見えること、愛情、情熱、愛があるように見えることの違いを本当に知るのは難しいです。そして、それが実際にそこにあるのか?私にはよくわかりません。

Max Tegmark 16:17

国内の古典的な質問のように、マス・ジェネラル・ホスピタルが川を挟んですぐのところにあるという点をもう少し強調しなければなりませんよね?そう、仮にあなたが医療処置を受けに行くとしましょう。筋弛緩剤を投与しますので、動けなくなりますし、手術中は耐え難い痛みを感じますが、あなたは何もすることができません。しかし、その記憶を消す薬を投与します。あなたはそれを冷静に受け止められますか? いいえ、あなたがそれを意識するかしないかの違いは何ですか?意識するかしないか?行動に変化がなければ、ですよね。

Lex Fridman 16:51

そうです。本当にわかりやすい言い方ですね。そういう意味では、価値ある品質として経験しているように感じられます。つまり、主観的な経験をすることができるということは、少なくともそのような場合には価値があるということです。

Max Tegmark 17:08

私たち人間は、他の存在には意識がないという自己満足的な主張をしてきたという点で、少し悪い実績があると思います。よく、動物は痛みを感じないと言われますよね。ロブスターを茹でてもいいんだよ、だって痛いかどうか聞いても何も言わないんだよ。ロブスターを茹でると痛みを感じるという論文が発表され、スイスでは茹でることを禁止しています。そして、私たちは奴隷に対してこのようなことを頻繁に行い、「ああ、彼らは気にしていない」と言っていました。私たちの現在の意識や、女性には魂がないとか、そういうことではなくて、「機械には経験がない」ということを公理にしている人を聞くと、ちょっとドキッとします。私は、これは本当に魅力的な科学の問題だと思っています。

Lex Fridman 18:01

ボストン・ダイナミクス社の人型ロボットが、ほうきで押されているようなものだとしたら、それは彼の意識の問題を押し始めているのだと思います。そこでお聞きしたいのですが、数人の神経科学者が信じているように、AGIシステムには物理的な具現化が必要だと思いますか、肉体のようなものが必要だと思いますか?

Max Tegmark 18:27

いいえ、そうは思いません。意識的な経験をするためには、意識を持つ必要があるということですか?確かに、肉体を持つことは、人間にとって重要な世界のことを学ぶのにとても役立つと思います。しかし、体現することが必要だとは思いません……。夢を見ているときのことを考えてみてください。目は閉じていて、何の感覚も得られず、何の行動も動きもしていません。しかし、そこにはまだ経験があるのです。そうです。ですから、夢の中でクールなものを見たときの経験は、明らかに目から来るものではありません。脳内での情報処理そのものが、その経験となっているのですね。

Lex Fridman 19:10

しかし、別の言い方をすると、神経科学から来ていることですが、肉体や物理的な何か、つまり物理的なシステムを持ちたい理由は、自己を持つために何かを保存できるようにしたいからなのです。保存したいと思うためには、自己を具現化するようなものが必要なのではないか、と主張することができます。

Max Tegmark 19:38

さて、私たちは少しずつアモルファス化し、物事を擬人化し、自己保存の本能について話しています。つまり、人間は進化した生物なのです。ダーウィンの進化は、アメリカをはじめとするすべての生物に自己保存本能を与えたのです。遺伝子は遺伝子プールから一掃されます。だろ?そうです。人工的に一般的な知性を構築した場合、デザインできる心の空間は、その心を進化させることができる特定のサブセットよりもはるかに大きくなります。つまり、人工知能の心は、必ずしも自己保存本能を持っている必要はないのです。また、必ずしも個人主義的である必要もありません。例えば、第一に、私たちは死をとても恐れているでしょうか?例えば、5分ごとに自分をバックアップすることができるとしましょう。そして、飛行機が墜落しそうになると、「しまった、最後の5分間の経験を失うことになるのは、最後のクラウドバックアップか」と思ってしまいます。でも、それは大したことではありません。もし、私たちの心の間で経験を簡単にコピーすることができれば、それはケイ素ベースであれば簡単にできますよね?そうすれば、私たちはもう少し集団心理のように感じられるかもしれません。ですから、AGIがアルファ・オスの本能のような競争心を持たなければならないと考えるべきではないと思います。一方で、これはとても興味深いことですが、ある人たちは行き過ぎだと思うのです。もちろん、先進的なAIがこれらすべてのものを持つことを心配する必要はない、なぜなら私たちは欲しいものを何でも作れるからだ、と。スティーブ・オモフントロやニック・ボストロムなど、素晴らしい議論がありました。ニック・ボストロムなどが指摘しているのは、私たちが機械を作るとき、普通は何らかの目標を持って作るということです。例えば、このチェスゲームをするとき、この車を安全に運転するときなどです。そして、その目標の1つは、ほとんどの場合、自己保存になります。なぜなら、その過程で壊れたり死んだりしたら、目標を達成できないからです。例えば、小さなロボットを作って、スターマーケットに行って食べ物を買ってきて、イタリアンディナーを作るように指示したとしますが、途中で誰かがロボットを殴って壊そうとすると、ロボットは破壊されないように自己防衛したり、逃げたりするインセンティブを持ちます。そうしないと、失敗してあなたの夕食を作ることになるからです。それを恐れているわけではありません。しかし、どうしても夕食作りの金字塔を打ち立てたいのです。だから、自己保存の本能を持ち、機能的なエージェントであり続けるのです。そうですね。同じように、AGIにもっと野心的な目標を与えれば、より多くの資源を獲得したいと思うでしょう。そうすれば、より良い結果が得られます。AGIの安全性に関する懸念は、まさにこのような意図しないサブゴールから生まれるのです。AGIに何か目標を与えると、それは全く無害に見えます。しかし、気がつくと、それ以外のこともやろうとしています。そしてそれは、もしかしたら私たちよりも賢いかもしれません。そうですね。

Lex Fridman 23:00

最後になりましたが、私は非常に人間中心の考え方をしていますので、一旦中断させてください。ほら、死の恐怖は貴重な動機付けになります。そうですね。では、あなたはそうは思いませんか?それは進化の賜物だと思いますか?進化が生み出した心の空間ですね。私たちは自己保存に取り憑かれたような遺伝子を持っていると?では、死を恐れる必要はないと思いますか?つまり、自分がやり続けるための自己保存という副次的な目標だけではないのです。でも、もっと根本的には、私はこのようなことが終わるような有限のものを持っています。あなたにとって、ある時点で。興味深いですね。私はそれが、正確には知性だけでなく、意識にも必要だと思いますか?つまり、それらのために、両方のために?あなたは本当に有限の死のように思いますか?そして、それに対する恐怖は重要なのでしょうか?

Max Tegmark 24:02

答えを出す前に、知性と意識のどちらに必要かに同意する前に、この2つの言葉をどのように定義するかを明確にする必要があります。私はAIの専門家を集めたパネルに参加しましたが、彼らは知性をどう定義するかについてさえ合意できませんでした。そこで私は、「知能」を「複雑な目標を達成する能力」とシンプルに定義しました。私はあなたの広い定義が好きです。その場合、確かに死を恐れる必要はありませんが、AlphaGoやalpha zeroはかなりの知能を持っていると言えるのではないでしょうか?アルファゼロは、アヴェダの概念すら理解していないので、消される恐怖はないと思います。そして同様に、意識。つまり、確かに想像することはできますが、それは非常にシンプルな経験です。もし、ある植物が何らかの経験をしたとしても、彼らは死ぬことをあまり恐れていないと思います。彼らには何もできないのだから。ともかく。しかし、もっと真剣に考えてみると、意識的であることだけではなく、情熱を感じたり、小さなことに本当に感謝したりするような、私たちがエキサイティングな人生と呼ぶべきものを持つことができるかどうかを問うてみたらどうでしょう。もしかしたら、そうかもしれませんが、どうにかして、「これは限りあるものだ」という背景を持つことは、助けになるかもしれません。いや、これはこれで、この人生を最大限に生かしてください。もしあなたが永遠に生きると知っていたら、もしあなたが自分の人生を変えると思うならば、それはあなたの人生を変えることになるでしょう。

Lex Fridman 25:37

つまり、ある視点から見ると、永遠に生きることは信じられないほど退屈な人生になるでしょう。ですから、あなたがおっしゃったように、他の人間が理解できるような刺激的な何かを持っているという、ゆるい主観的な言葉で言えば、そうですね、有限性が重要だと思います。

Max Tegmark 25:57

さて、あなたに朗報があります。それは、あなたが宇宙論について理解していることに基づいているということです。私たちの宇宙にあるすべてのものは、カクカクしていたり、大きかったりしますが、最終的には、おそらく有限のドルです。無限の可能性があるのは?ビッグ・チル、ビッグ・トレンチ、ビッグ・リップ、ビッグ・スナップ、デス・バブルなど、いずれも10億年以上先のことです。ですから、私たちの祖先が考えていたよりもはるかに長い時間があるはずです。しかし、いくつかの抜け道があるとはいえ、無限の計算サイクルに絞るのはまだかなり難しいそうです。可能性はあるかもしれません。でも、「5年後に死ぬと思って生きろ」とか、そういう最適な仮定を言う人がいますが、それは良い仮定だと思います。でも、安全のために、すべてが有限であるかのように文明を構築すべきではないでしょう。

Lex Fridman 26:55

はい、その通りです。知能を「複雑な目標を解決する能力」と定義したと言いましたが、その線引きはどこにあるのでしょうか。人間レベルの知能と超人間レベルの知能をどのように定義するのでしょうか。この意識もその定義に含まれていたのでしょうか?いいえ。

Max Tegmark 27:14

意識はこの定義に入りません。ですから、私は知能について考えます。チェスがうまいとか、囲碁がうまいとか、車の運転がうまいとか、投資がうまいとか、詩がうまいとか、いろいろな種類の目標を持つことができます。つまり、知能はその性質上、測定できるものではありませんが、全体的な良さとしての1つの数値であり、いやいや、もっと優れた人もいるし、もっと優れた人もいるのです。今、私たちは、大きな数の掛け算や大きなデータベースの記憶、チェスや囲碁、そして近い将来には自動車の運転など、非常に狭い範囲の作業においては、私たちよりもはるかに優れた機械を持っています。しかし、一般的な知能で人間の子供に匹敵する機械はまだありません。しかし、人工的な一般的知能AGIは、あなたの経過の名前ですが、その定義からすると、人間と同じように何でもできる機械を作るための探求であり、60年代に始まったAIの古い聖杯に至るまでのものです。もしそれが実現すれば、もちろん、地球上の生命の歴史の中で最大の転換点になると思います。でも、それは必ずしも待つ必要はありません。大きなインパクトがあるのは、そうですね。機械が私たちよりも編み物が上手になるまでは、本当に大きな変化はその瞬間には訪れないのです。機械はすべてにおいて私たちより優れています。彼らが本当に大きな変化をもたらすのは、まず、私たちが行うほとんどの仕事を彼らが上手にこなすようになったときで、それによって人間の労働力に対する需要の多くがなくなるからです。そして、本当に大きな変化が訪れるのは、彼らがAIの研究において我々よりも優れた存在になったときです。そう、そうなんです。今のところ、AI研究のタイムスケールは、人間の研究開発サイクルである数年に制限されています。例えば、ソフトウェアやiPhoneなどのリリースから次のリリースまでにどれくらいの時間がかかるかということです。しかし、Googleが4万人のエンジニアを4万個の同等のソフトウェアなどで置き換えることができるようになったとしても、何年もかかる理由はなく、原理的にはもっと早くできるのです。そして、AIをはじめとする科学技術の将来的な進歩のタイムスケールは、人間ではなく機械によってもたらされます。この単純な点が、知性の爆発、いわゆるシンギュラリティが起こりうるかどうかという、信じられないほど楽しい論争を生んでいるのですね。あなたは、私が人間のレベルをどのように定義しているかを尋ねましたか?そうです。口先だけの答えは、「私たちの認知タスクは、すべての認知タスクにおいてどの人間よりも優れているように見えるでしょう」と言った以上のことを言うことですが、本当に興味深いバーは、それよりももう少し下にあると思います、実際には、AIプログラミングや、一般的な学習など、私が言った以上に記憶できるようになったときです。

Lex Fridman 30:47

つまり、「より優れている」というのがキーワードで、「より優れている」というのは、達成可能な目標の複雑さのスペクトルのようなものです。別の言い方をすれば、それは確かに人間の法律の非常に明確な定義です。つまり、海が隆起しているようなもので、あなたが示したグラフィックのように、もっともっといろいろなことができるようになります。つまり、いくつかのピークがあり、海面が上昇していて、ますます多くの問題が発生しているということです。でも、ちょっと立ち止まってみてください。私たちはたくさんの質問をしましたし、多くのソーシャルネットワークで、多くの人が創造性や、おそらくピークではないようなことについて、少し違った方向性の質問をしました。それは、人間には欠陥があり、おそらく、矛盾を抱えていること、何らかの欠陥を抱えていることによって、より良い意味を持つということです。では、まず最初に、あなたはたくさんのクールな方程式を持っていますね。あなたの好きな方程式は何ですか?まず、何ですか?どれもあなたの子供のようなものだと思います。でも、それはどれですか?

Max Tegmark 31:45

量子力学のマスターキーは、この方程式のミクロの世界で、分子を加えたものから全てをチェックすることができます。

Lex Fridman 31:58

なるほど、量子力学は確かに私たちの世界を美しく、神秘的に表現していますね。物理学ほどの美しさはないかもしれませんが、数学の世界では、抽象的には、フェルマーの最終定理を証明したアンドリュー・ワイルズがいます。彼はつい最近これを見て、ちょっと目を引いたんですよね。推測されてから350年後のことです。非常にシンプルな公式です。誰もがそれを証明しようとし、誰もが失敗しました。そして、ある男が現れ、最終的にそれを証明し、その後、証明に失敗して、また証明して、と繰り返して94年になった、と。インタビューでは、2つの仮説をつなぐピースにようやく気づいた瞬間、それは筆舌に尽くしがたいほど美しく、とてもシンプルでエレガントで、どうして見逃していたのか理解できなかったと言いました。私は20分ほど信じられない気持ちでそれを見つめていました。そして、その日のうちに部署内のウォークスルーを行い、自分のデスクに戻ってきては、まだそこにあるかどうかを確認していました。私の仕事人生の中で最も重要な瞬間であり、興奮を抑えきれませんでした。私の仕事人生で最も重要な瞬間でした。その瞬間、私は「何が必要なのか」と考えるようになりました。そして、私たちは皆、小さなレベルではありますが、そのような経験をしてきたと思います。皆さんにお聞きしたいのですが、人生の中でそのような瞬間がありましたか?ふとした瞬間にアイデアが浮かんだことはありませんか?わあ、そうなんだ」と思いました。

Max Tegmark 33:40

アンドリュー・ワイルスと同列に語るつもりはありませんが、物理学に関する非常にクールなことに気付いて、頭が真っ白になるような「アハ」な瞬間は確かに何度もありました。実際、私のお気に入りの発見のいくつかは、後になって、有名な人が以前に発見していたことに気づきました。だから、私がそれを発表するには遅すぎるのです。でも、だからといって何かが変わるわけではありません。でも、それは何の役にも立ちません。

Lex Fridman 34:10

wow. そうですね。では、何が必要でしょうか?そして、その瞬間にWow、それが一瞬で自分のものになったということ?では、何が必要だと思いますか?知能システム、AGIシステム、AIシステムがそのような瞬間を持つためには?

Max Tegmark 34:25

これは厄介な質問ですね。1つは、aをnに加えてbをnに加えて3をnに加えてZをnに加えて等しくすることは決してできないということを証明するための候補です。nが2よりも大きいとき。その単純なことが、知能の問題では、その知能を持った機械を作ることができるのか?そして、そのレベルの機械が独立してできるようになる頃には、おそらくAGIにかなり近い証明ができるのではないかと思います。2つ目の質問は、意識についての質問で、When will we will will? そして、そのような機械が、ただのゾンビのようなものではなく、実際に何かの経験を持つ可能性はどのくらいあるのでしょうか?また、それに対して何らかの感情的な反応があると期待できるのでしょうか?あるいは、人間の感情に似たものがあるだろうか?機械の目的が達成されたとき、何が起こるのでしょうか?何かとてもポジティブで、正しく、崇高で、深く意味のあることだという見解は?もしも将来、私たちが同世代の、あるいは子孫となるような機械を作ったとしたら、その機械が人生に対する崇高な崇高な感謝の念を持っていることを、私は確かに望みます。ある意味、私の最悪の悪夢は、遠い未来のある時点で、もしかしたら私たちの宇宙は、一見クールに見えるすべてのポスト生物学的生命であふれているかもしれない、ということです。そして、もしかしたら最後の人類が、私たちの種がやがて消えてしまう頃には、「まあ、いいか」となっているかもしれません。なぜなら、私たちはこの子孫をとても誇りに思っているからです。そして、私の最悪の悪夢は、意識の問題を解決していないことです。そして、これらがすべてゾンビであることに気づかないことです。彼らは何も意識していません。テープレコーダーが何らかの経験をしていないのと同じです。だから、全体が空のベンチのための遊びになってしまい、究極のゾンビの黙示録になってしまう。私はむしろ、チンパンジーがその素晴らしさを本当に理解するような、このような存在を手に入れたいと思っています。

Lex Fridman 36:56

創造性の役割については、何人かの人が創造性について質問していましたね。知性について考えるとき、つまり、あなたが本の冒頭で話したストーリーには、映画を作ることなどが含まれていると思いますか?そう、だからお金を稼ぐ、現代の世界では音楽や映画で大金を稼ぐことができますよね。だから、もしあなたが知的なシステムを持っているなら、それを得意にしたいと思うかもしれません。そうですね。でも、それは必ずしも創造性という意味ではありません。その上で重要なのは、複雑な目標ですか?何か素晴らしい創造性があるために、海はどこに向かって上昇しているのでしょうか?それとも、私は非常に人間中心的で、創造性が知性に比べて何か特別なものだと考えているのでしょうか?

Max Tegmark 37:41

私の直感では、創造性は単に知性の一つの側面として考えるべきだと思います。人間の虚栄心には気をつけなければなりません。私たちには、機械が何かをできるようになると、それを矮小化して、「ああ、でもそれは本当の知性とは違うし、貿易やあれやこれとも違う」と言う傾向があります。もう1つは?例えば、アンドリュー・ワイルズがしたことのように、創造的であることの定義を書き出してみると、誰かが思いがけない飛躍をすることを意味していることが多いのではないでしょうか。573を224倍するのとは違いますよね。人が考えたこともないような2つのことを結びつけるとか、驚くようなことをするとか、そういったことです。私は、これは知性の一面だと思います。そしてこれは、実は最も重要な側面のひとつなのです。従来のコンピュータよりも人間の方が優れている理由は、従来の論理ゲートベースのコンピュータマシンよりも、ニューラルネットワークの方がより自然にできることだからかもしれません。人間は物理的にすべての接続を持っています。そして、ここを活性化し、ここを活性化し、ここを活性化するのです。私の直感では、もし私たちが機械を作ったとしたら、機械に「ヘイ、ヘイ」とタスクを与えることができるでしょう。世界を旅したいと思っているんだけど、今月、AGI経過を8回教えてくれないかな?と言うと、「わかりました、やります」と言ってくれます。インプロバイザーなどでやっていたようなことをすべてやってくれるのですね。そうですね、私の考えでは、多くの創造性が必要だと思います。

Lex Fridman 39:43

そうですね、とてもいい表現だと思います。私たちは、知性の定義とは、どうやって構築するかわからないものすべてである、というようなことを掴もうとしていると思います。だから人間は、機械が持っていないものを見つけようとします。そして、創造性は、それを表現するために使う言葉のひとつなのかもしれません。それはとても面白い表現ですね。

Max Tegmark 40:07

そこまで守りに入る必要はないと思います。「私たちは何か特別な存在だ」と言っても、良いことは何もないと思います。歴史上、私たちが他のすべての知的生命体よりも何か優れているように見せかけようとして、かなり悪い結果を招いた例はたくさんあります。そうですね。ナチス・ドイツでは、自分たちは他の人間よりも何らかの点で優れていると言っていました。今日、私たちはまだ、私たちはとても優れていると言って動物に多くの残酷なことをしていますが、動物は痛みを感じることができません。実際に人工的な一般知能を構築して、我々よりも優れたことができるようになったとしても、知能の面での優越性というインチキな主張に自分の価値を見出そうとすべきではないと思います。私たちは、自分が経験したことから、自分の使命や人生の意味を理解し、見つけるべきだと思います。自分より頭のいい人がいたとしても、教授会で何かを話していて、ふと気づくと、「あ、こいつは古い賞を持っている。私は何も持っていない……それは私の人生の楽しみを減らしてしまうのか?それとも?その人たちとの会話を楽しんだとき?逆に私は、私よりも多くのものを持っている他の非常に知的な存在と交流できることを非常に光栄に思い、特権的に感じています。ですから、知的機械と同じアプローチができない理由はないと思います。

Lex Fridman 42:08

これはとても興味深いことです。人はあまり考えないことですが、もし機械がより知的になったとしたら、それは有益なタイプの知能ではないと考えるのが自然でしょう。ノーベル賞受賞者のペアのように、一緒に話しているだけで楽しい存在になる可能性があるとは気づかないのです。彼らはある種の話題については賢いかもしれませんし、一緒にお酒を飲むのも楽しいでしょう。そう

Max Tegmark 42:32

また、誰もが共感できるもう一つの例として、自分よりも頭の良い人たちの前で感動することは、決して悪いことではないということですが、私とあなたが2歳の頃のことです。つまり、私たちの両親は私たちよりもずっと知的だったのです。そうでしょう?そうです。うまくいったね。そうですね。彼らの目標は、私たちの目標と一致していたからです。そうですね。そしてそれこそが、私たちが解決しなければならない第一の重要な問題だと思います。私たちが価値観を合わせれば、価値観の一致の問題は解決します。なぜなら、お粗末なSF、筋書きのあるハリウッド映画をたくさん見た人は、間違ったことを心配するからです。彼らが心配するのは、弁護士だけが悪者になっている機械です。悪意ではありません。その願いが心配なのです。それは能力です。定義によれば、知能があれば、より知的な目標を達成するためにコンピュータが知能の低い方を演じる場合、非常に有能になります。そして、私たちが知性を定義するとき、それは目標を達成する能力ですよね?知能の高い方が勝つことになります。もし、人間と、すべての方法よりも知能の高いAGIがいて、それぞれが異なる目標を持っていたとします。どちらが勝つと思いますか?そうですね。私は、ほんの数年前に絶滅してしまったサイの種について読んでいました。お母さんサイのかわいい写真を見ても、その子供であっても、がっかりします。なぜ人間がサイを絶滅に追いやったかというと、私たちが邪悪なサイ嫌いだからではありません。私たちの方が知的だったので、サイにとってはあまり良い結果にはなりませんでした。ですから、もし私たちがAGIを作ったとしても、何かを解き放つ前に、私たちの目標を理解することを学習し、私たちの目標を採用し、その目標を維持することを確認することがとても重要だと思います。

Lex Fridman 44:38

ここでの興味深い問題は、私たち人間が価値観を形成しようとすることです。合衆国憲法は、当時、白人男性の集団が座っていた方法として考えることができますが、これは良い例です。彼らがこの国の目標を策定し、多くの人々がその目標が実際によく保たれていることに同意していると言うべきでしょう。これは興味深い価値観の形成であり、他の点では惨めに失敗しました。価値観の整合性の問題を解決するには、人間の価値観を紙やプログラムに書き込まなければなりませんが、それはどのくらい難しいと思いますか?

Max Tegmark 45:24

非常に、でもとても重要なことなので、本当にベストを尽くさなければなりません。難しいのには2つの理由があります。ひとつは、機械に目標を理解させ、それを採用し、維持させるにはどうしたらいいかという技術的な価値観の調整の問題。そして、これとは別に哲学的な部分、つまり誰の価値観なのかということです。この地球上では、価値観について大きなコンセンサスが得られているわけではありませんから、どのようにして、どのようなメカニズムで価値観を集約し、良い妥協点は何かを決めるべきなのでしょうか?そうでしょう?その2回目の議論では、これは残せないのでしょうか?私のような技術オタクは、そうでしょう?その通りです。もし私たちがこの話を拒否して、AGIが作られたとしたら、誰が誰の価値観を決定するのでしょうか?沢山の男達とどこかの技術会社になるのでしょうか?そして、彼らは必ずしも全人類を代表する存在であり、私たちは彼らを楽しみたいと思っているのでしょうか?あるいは、彼らは将来の人類の幸福を語るのに、特別な資格を持っているのでしょうか?AIのプログラミングが得意だからといって?私はむしろ、このような包括的な会話をしたいと思っています。

Lex Fridman 46:26

しかし、多様性、文化的多様性、そして権利や自由、人間の尊厳を議論するためのさまざまな視点を含んだ美しいビジョンを作ることは可能だと思いますか?しかし、そのようなコンセンサスを得ることはどれほど難しいのでしょうか?それは確かに、私たち全員が努力すべき、とても重要なことだと思いますか?しかし、それは実現可能だと思いますか?

Max Tegmark 46:54

私は、失敗を保証するのに、話をすることを拒否したり、試すことを拒否したりする以上の方法はないと思います。また、「よし、まずは長時間の議論をしよう」というのは、本当に悪い戦略だと思います。そして、完全なコンセンサスが得られたら、それをマシンに搭載しようとする。完璧さは善の敵ではないのですそうではなくて、誰もが納得する幼稚園のような倫理観からスタートして、それを機械に搭載していくべきだと思います。例えば、旅客機を作る人は、どんなことがあってもビルや山には絶対に突っ込まないようにしたいと思っていますよね?しかし、9月11日のハイジャック犯はそれを可能にしたのです。さらに恥ずかしいことに、ルビッツの下では、この落ち込んでいたジャーマンウイングスのパイロットが、旅客機をアルプスに突っ込ませて100人以上の人を殺してしまいました。彼はオートパイロットに指示を出し、コンピュータに高度を100メートルに変更するように指示しました。GPSマップがあったにもかかわらず、コンピュータは「わかった、じゃあ、そういう基本的な価値観を持つべきだ」と言ったのです。問題は、私たちが同意していないことではなく、機械にそれを搭載することを怠ってきたことにあるのかもしれません。セーフモードにして、コックピットのドアをロックして、近くの空港にこのような非常に基本的な価値観を導入することは、非常に大きな意味を持ち、非常にタイムリーなことです。車でさえもです。トラックやバンを運転して歩行者にぶつかったことはありますか?それを車にハードワイヤリングするなんて、まったくもって、クレイジーな考えです。何らかの理由で他人に危害を加えようとする人は常に存在しています。しかし、そのような人々のほとんどは、そのようなものを回避する方法を理解する技術的な専門知識を持っていません。だから、カードがどうしてもできない場合は 助けになります。そこから始めましょう。

Lex Fridman 49:02

それは素晴らしい点ですね。完璧さを追求するのではなく 世界中のほとんどの人が同意していることがたくさんあります。

Max Tegmark 49:10

そうですね、まずはそこから始めましょう。そして、そこから始めたら、「じゃあ、ここには他に何を入れるべきか」というような会話をする習慣を身につけていきましょう。

Lex Fridman 49:23

そうですね。しかし、それは同時に、これらの事柄を記述し、それを機械に説明することでもあります。Stephen wolfrumと何度か話をしたことがあります。皆さんがStevenのことをご存知かどうかはわかりませんが。

Max Tegmark 49:37

ええ、彼のことはよく知っています。

Lex Fridman 49:38

彼はいろいろなものを研究していますが、セル・オートマトン、単純な計算可能なもの、これらの計算システムを研究しています。そして彼は、おそらくこれらのシステムの中に、会話ができないために知らないだけで、AGIのような意味を持つものがすでに存在しているのではないかと述べていました。知的システムがあっても、彼らに何かを説明する方法を知らないし、彼らは私たちとコミュニケーションをとることができない、というのは面白いアイデアだと思います。あなたは、AIが自分自身を説明できるようにするために、説明可能なAIの研究をしていますね。では、自然言語処理やその他のコミュニケーションについてはどうお考えですか?AIはどうやって私たちに何かを説明するのでしょうか?私たちはどうやって機械に何かを説明するのでしょうか?あるいは、あなたはそれを別の方法で考えていますか?

Max Tegmark 50:35

あなたの質問には2つの部分がありますが、そのうちの1つはコミュニケーションに関係しています。これはとても興味深いことです。もう1つは、私たちはすでにAGIを持っているが、それに気づいていないだけなのかということです。でしょ?私はそうは思いません。セル・オートマトンにも、インターネット自体にも、人工的な一般知能は存在していないと思います。もし、そのようなことが起こる日が来たとしたら、私たちはすぐに気づくでしょう。しかし、第二部のために。

Lex Fridman 51:19

申し訳ありませんが、それはできません。Eは、あなたが意識を定式化する美しい方法を持っているので、ご存知のように、情報処理として、知能と情報処理を考えることができます。そしてこれは、宇宙全体がこれらの粒子であると考えることができます。そして、これらのシステムは、この情報処理能力を持って、歩き回っています。私たち人間が行うような方法で情報を処理する力を持った何かが、そこにあるとは思わないでしょうか。しかし、パワーはすでにそこにあるという考えには説得力があります。つまり、パワーとコミュニケーションできるかどうかにもっと焦点を当てるべきなのです。

Max Tegmark 52:07

それには賛成です。ある意味では、ハードウェアの処理能力はすでに存在しています。というのも、私たちの宇宙そのものが、すでにコンピュータであると考えることができますよね。水の波はどうか、水の波や川の流れはどう進化するか、空気の分子をどう動かすかなどを常に計算しているのです。セス・ロイド氏は、私の呼び掛けに応じて、非常に厳密な方法で、私たちの宇宙全体を量子コンピュータと考えることもできると指摘していますが、私たちの宇宙がこの驚くべき処理能力をサポートしていることは明らかです。なぜなら、私たちが住んでいるこの物理コンピュータの中でも、実際にラップトップなどを作ることができるからです。つまり、明らかにパワーがあるのです。ただ、私の意見では、自然が持つ計算能力のほとんどは、誰も見ていないどこかの場所で海の波のシミュレーションをするような、つまらないことに浪費されているようです。ですから、ある意味では、生命がやっていること、つまり私たちがコンピュータを作るときにやっていることは、自然がやっている計算をすべてチャネリングしているということになります。そして、ただの海の波よりももっと面白いことをしているのです。ですから、ハードウェアのパワーは確かにあります。しかし、コンピューティングのように、5秒後に何が起こるのか、このウォーターフォールには、とんでもない量の計算が必要なのです。人間のコンピュータでやったら。そう、この水瓶はそれをやったのです。しかし、だからといってこの水瓶がAGIを持っているわけではありません。AGIとは、私の本を書いたり、このインタビューをしたりするようなこともできるはずです。そうですね。そして、それは単なるコミュニケーションの問題ではないと思います。それができないと思うのです。そして

Lex Fridman 53:46

他の仏教徒は、水を見ていると、美しさや深さ、そして自然とのコミュニケーションができると言います。

Max Tegmark 53:54

コミュニケーションも非常に重要です。というのも、私の仕事の幸運な部分は教師であることです。非常に知的な教授たちを知っていますが、彼らはコミュニケーションをとるのに少し苦労しています。彼らは素晴らしいアイデアを持っていますが、他の人とコミュニケーションをとるには、その人の心をシミュレートできなければなりません。

Lex Fridman 54:16

そう、共感ですね。

Max Tegmark 54:18

相手の心を十分に構築し、その心のモデルのもとで、相手が理解できるようなことを言えるようにする。それはとても難しいことです。だからこそ、今日、がんの診断をするコンピュータがあったとして、あなたが「なぜ私が手術を受けるべきだと言うのですか」と尋ねると、とても苛立たしい気持ちになるのです。できれば、「私は5テラバイトのデータで訓練され、これが私の診断です」と答えたいところですが。ブーッ、ブーッ、ピッ、ピッでは自信が持てませんよね。そうですね。だからこそ、私たちはコミュニケーションの面でやるべきことがたくさんあると思うのです。

Lex Fridman 54:54

あなたは、説明可能なAIについて、どのような取り組みをしているのでしょうか?最も有望な道は何だと思いますか?それは、自然言語処理のアレクサ問題のように、人間が解釈できるコミュニケーション方法を実際に使えるようにすることだと思います。それとも、もっと根本的な問題を解決しなければならないのでしょうか?

Max Tegmark 55:18

自然言語処理が重要なのは言うまでもありません。しかし、もっとオタク的な基本的な問題もあります。たとえば、「チェスをするなら」とか「ゲームをするなら」とか。

Lex Fridman 55:31

ロシア語でチェスをする場合、私は

Max Tegmark 55:33

ロシア語

Lex Fridman 55:38

いつロシア語を学んだのですか?

Max Tegmark 55:39

ロシア語

Lex Fridman 55:50

ワオ あなたが知っている言語、すごいですね。

Max Tegmark 55:54

人生にはコンタクトベースがあります。でも私が言いたいのは、もしあなたがチェスをするなら、でもαゼロのゲームを見たことがあるでしょう。

Lex Fridman 56:01

実際のゲームではありません。

Max Tegmark 56:02

これをチェックしてみると、いくつかのゲームには驚かされます。本当に美しい。そして、もしあなたが「どうしてそうなったのか」と尋ねるならば、あなたはサービスとして彼らに話をしに行くのであって、心の中の他人ではないのです。最終的に彼らが教えてくれるのは、ニューラルネットワークを定義する大きな数字や行列の表だけです。そして、あなたは顔が青くなるまで、その他人の数字を見つめることができます。しかし、なぜそのような動きをしたのかについては、あまり理解できないでしょう。自然言語処理を使って、人間の言葉で「ああ、5点、7点から8点」と教えてくれたとしても、実際には役に立たないでしょう。だから私は、楽しいチャレンジにはいろいろな種類があると思っています。それらは、知的なことを行う計算機を、同等のものに変換することに関わっています。いいですね、同じように知的です。しかし、より理解しやすいものです。これは本当に価値のあることだと思います。なぜなら、私たちの世界のエバーモアのインフラ、株式市場で取引される送電網、兵器システムなどを機械に任せるとき、これらのAPIを信頼して好きなことをできるようにすることが絶対に重要だと思うからです。そして、信頼とは、非常に基本的な方法である「理解」から生まれるものなのです。機械が私たちの目標を採用し、それを維持することを確実にするためには、より多くのことが必要だと考えています。そのような信頼は、実際に理解できるものに基づいている必要があると思います。たとえ自動運転車であっても、おそらく定理が証明されているものですよね。膨大なデータで訓練されていて、私は一度も事故を起こしたことがありません」と言われても、実際に証明されている場合に比べて安心感は得られません。もしかしたらコンピュータが検証した証明かもしれません。でも、どんな状況でも、この車が対向車線に突っ込むようなことはありません、と書いてあります。そしてそれは

Lex Fridman 58:02

このような情報は、信頼を築き、目標の整合性、目標や価値観が一致していることを少なくとも意識することに役立ちます。

Max Tegmark 58:12

非常に短期的に見ても、今日のサイバーセキュリティの状態は非常に嘆かわしいものだと思います。30億ものYahooアカウントや、ほぼすべてのアメリカ人のクレジットカードなどが盗まれましたが、なぜこのようなことが起きているのでしょうか?結局のところ、誰もその仕組みを完全に理解していないソフトウェアがあるからです。だからこそ、バグが発見されなかったのですね。AIは、ハッキングなどの攻撃に非常に効果的に利用できると思います。願わくば、検証可能性を自動化し、さまざまな方法で構築されたシステムを作ることで、防御にも利用できると思います。そうすれば、そのシステムについて実際に証明することができます。そうですね。これは重要なことですね。

Lex Fridman 59:05

ソフトウェアといえば、誰もその仕組みを理解していませんが、もちろん、多くの人があなたの論文を読んで、ディープラーニングや深層学習がなぜそんなにうまくいくのか、あなたの考えを尋ねています。それが論文です。でも、深層学習についてはどうお考えですか?私たちの脳の単純化されたモデルは、知覚やパターン認識に成功してきましたが、今回のアルファ・ゼロのように、巧妙なことができるようになりました。この作品の可能性の限界について、どうお考えですか?

Max Tegmark 59:35

そうですね、非常に重要な洞察がいくつもあると思います。そして、このような成功例から得られる重要な教訓があります。その一つは、人間の脳を見ると、11個のニューロンからなる非常に複雑な10個のニューロンがあり、それらはすべて異なる種類のニューロンであるということです。何十種類もの神経細胞があることが、実際に知性に必要なのかどうか、長い間議論されてきました。しかし、今回、私は、「いや、1種類あれば十分だ」という疑問に非常に説得力のある答えを出すことができました。アルファゼロのボンネットの中を見てみると、1種類のニューロンしかありません。そして、それはとんでもなくシンプルで、そのシンプルな数学的なものです。物理学と同じように、波のある気体があったとしても、それは物質の分子の詳細な性質ではありません。物質の分子の詳細な性質ではなく、何かしらの集合的な振る舞いなのです。同様に。ネットワークの高次構造が問題なのです。私たちの脳は複雑に入り組んでいますが、それは進化したものではないからです。知的であるだけでなく、自分で組み立てることができるように進化したのです。そして、自分で修復できるように進化したのです。そして、進化的に達成可能な一致。ですから、私の直感では、脳の仕組みを完全に理解する前に、AGIの作り方を理解することになると思います。ちょうど、機械的な仕事用の鳥を作るよりもずっと前に、空飛ぶ機械の作り方を理解していたように。

Lex Fridman 1:01:07

ええ、それはあなたに与えられた方法です。飛行機の中の機械的な鳥の例を見て、飛行機は鳥の飛行を真似しなくても、かなり上手に飛ぶことができると思います。

Max Tegmark 1:01:18

それから100年経った今でも、ドイツ製の同じ鳥を使ったTEDトークをご覧になりましたか?

Lex Fridman 1:01:23

あなたがそれに言及するのを聞きましたか?

Max Tegmark 1:01:25

驚きましたね。なぜなら、私たちが思いついた方法の方がシンプルで、私たちの目的に合っていることがわかったからです。そして、それは同じだと思います。これが1つの教訓です。もうひとつの教訓は、私たちの論文が何を目指しているかということです。まず、もし物理学者がいたら、人工ニューラルネットワークと、物理学で研究されてきた、繰り込み群の方程式やハミルトニアンなどのマニアックな名前のものとの間に、非常に密接な数学的関係があることに興味を持ったでしょう。これをもう少し詳しく見てみると、もっとおかしなものがあるような気がしますが、それでは意味がありません。というのも、超シンプルなニューラルネットワークを構築する場合でも、タップの絵や犬の絵の部分は地獄だとわかっているからです。今ではそれがとてもうまくできるようになりました。しかし、少し考えてみると、それは不可能に違いないと自分を納得させます。なぜなら、1メガピクセルあれば、たとえ各ピクセルが白黒であっても、2の累乗で100万の画像が可能であり、それは私たちの宇宙にある原子の数よりもはるかに多いからですね。そこで、それぞれの画像に番号を付けて、それが犬である確率を算出するのです。つまり、画像の任意の関数とは、宇宙に存在する原子の数よりも多い数のリストなのです。ですから、私のGPU、あるいはコンピュータのフードの下にそれを保存することはできません。そう、私の作品ね。これはどういうことでしょうか?つまり、ニューラルネットワークを使って解決しようとする問題のうち ほとんどすべての問題は、合理的なサイズのものでは解決できません。しかし、私たちが論文で示したのは、物理学の法則を考慮すると、分断された問題、問題の種類、提起できるすべての問題の中で、私たちが実際に関心を持っている問題の割合も、限りなく小さい小さな部分であるということです。そして驚くべきことに、この2つは基本的に同じポイントなのです。

Lex Fridman 1:03:37

そう、まるで私たちの世界が作られたかのように……つまり、両者が一緒になっているのです。

Max Tegmark 1:03:41

世界が世界を作ったところで、世界が私たちのために作られたとは言えないかもしれませんね。しかし、私はもっと控えめな解釈をしています。それは、代わりに、進化はまさにそのためにニューラルネットワークを私たちに与えたのではないか、というものです。なぜなら、あなたのノートパソコンに搭載されているものとは異なり、この特殊なアーキテクチャは、自然が私たちの祖先に与え続けた問題を解決するのに非常によく適応しているからです。つまり、そもそもなぜ私たちが脳を持っているのか、それは未来を予測できるようにするためだということになります。ですから、もし解決できないような不運なシステムを持っていたら、ランチは食べられません。だからこそ、これはとても美しい事実だと思います。私たちは、より深いネットワークがなぜ優れているのかについては、以前から研究されていましたが、さらに素晴らしい事実を示すことができました。それは、1000個の数字を与えて、それらを掛け合わせるようにと言われても、数行のコードを書けば、簡単に終わります。隠れ層が1つしかないニューラルネットワークでそれをやろうとしたら。それは可能です。しかし、1000個の数字を掛け合わせるためには、2の1000乗個のニューロンが必要になります。だから、それは何でもないことなのです。しかし、もしあなたが許可してくれれば、もしあなた自身が許可してくれれば、それを何層もの深いネットワークにすれば、4000ニューロンしか必要ありません。完全に実現可能なのです。だから

Lex Fridman 1:05:17

これは本当に面白いですね。別のアーキテクチャタイプについて。つまり、あなたは「トレーニングは方程式」とおっしゃいましたが、量子コンピューティングについてはどうお考えですか?また、この種の計算ユニットの役割や、インテリジェントなシステムの構築についてはどうお考えですか?

Max Tegmark 1:05:34

ハリウッド映画の中で?キャロルが私の名前を出しましたが、ネタバレはしたくありません。彼らがAGIを手に入れる方法は、量子コンピュータを構築することなんです。そうです。量子という言葉がクールに聞こえるから、とか。だろ?だろ?まず、私は量子コンピュータは必要ないと思っています。彼らはAGIを構築します。私は、あなたの脳は量子コンピューターではないと思っています。そして、意味を見出したのです。何年も前に、デコヒーレンスを計算して論文を書いたことがありますよね。いわゆるコヒーレンス時間と呼ばれるもので、環境からのランダムなノイズによって、量子コンピュータや神経細胞がやっていることが消えてしまうまでの時間で、約10秒からマイナス21秒となっています。頭の中に量子コンピューターがあったらかっこいいと思いますが、私はそんなに早く考えられません。そうですね。その一方で、量子コンピューターを使ってできることは非常に素晴らしいものがあります。それは、機械学習が脳よりも優れた結果を出すのに役立つかもしれません。例えば、これは単なるムーンショットです。でもね、学習は非常に重要だということはご存知でしょう。検索と同じことです。ニューラルネットワークを学習させて、何かを上手にこなせるようにしようとすると、失われた関数があり、たくさんのノブがあり、それを回したり、たくさんの数字で表して測定したりして、それを微調整して、できるだけ良い状態にしようとします。よく知られているように、非常に高次元の風景や複雑なものがある場合、最小値を見つけるのは非常に困難です。量子力学はこの点で驚くほど優れていますよね。この水が持ちうる最も低いエネルギー状態を知りたい場合、計算するのは信じられないほど難しいのですが、私たちはできますが、自然は喜んでこれを解明してくれます。ボールをどこかに置いておくと、最小値まで転がり落ちます。これは比喩的に言えば、エネルギーランドスケープで起こることです。今日の機械学習システムでは、最小値を見つけようとするとローカルミニマムに陥ってしまうのを嫌うのですが、量子力学では巧妙なトリックを使っています。量子力学では、実際に障壁をトンネルでくぐり抜け、再び行き詰まることはありません。これはとても興味深いことです。そこで私は、例えば、ニューラルネットワークをより良く訓練するために、量子コンピューターを使用する日が来るかもしれないと言いました。

Lex Fridman 1:08:23

それはとても興味深いですね。例えば、学習プロセスを構成する要素として、ということですね。そうですね。それでは、最後にお聞きしたいことがあります。先ほどの人間の本質や愛についての質問に戻ります。あなたがおっしゃったヘルパーロボットというのは、パーソナルロボットのことだと思いますか?そうですね。私たち人間が恋に落ちてお互いにつながる方法は、AIシステムや人間の低いAI知能システムでも実現可能だと思いますか?そのようなつながりを見ることができると思いますか?あるいは、複雑な目標を解決するという議論の中で?ええ、このような人間の社会的なつながりですか?海面上昇だった目標や山あり谷ありの中で、それが実現できると思いますか?それとも、それは最終的には、あるいは少なくとも短期的には、目標と比較して達成できないものだと思いますか?

Max Tegmark 1:09:23

すべて可能だと思います。ご存知のように、AI研究者の間では、いつAGIを実現するかについて、非常に幅広い推測がなされています。他にもいろいろな人がいます。私はもっと早く実現すると思いますし、最近の世論調査でもそうなっています。たぶん半分くらいか、AI研究者は数十年以内にAGIが実現すると考えているようです。ですから、そうなれば、もちろん、これらのことはすべて可能だと思います。しかし、それが実現するかどうかという点では そうなると、あまり「将来どうなると思いますか?まるで私たちは、未来が私たちに起こるのを待っている、哀れで受動的な傍観者のようですね?ねえ、この未来を作っているのは私たちだよね?だからこそ、私たちは積極的に、どんな未来を実現したいのかを問うべきなのです。そうですね。でも、そんな未来にするためには、機械的なことばかりが起きている、とてつもなく退屈なゾンビのような未来のほうがいいのかな?情熱も、感情も、経験も、もしかしたらないかもしれない。いや、もちろん、私たちが最も大切にしているものがすべて存在するならば、その方がずっといいと思います。 人間性です。主観的な経験、情熱、感情、愛、それらが存在する未来を作ることができれば、どんなものが存在するのでしょうか。さて、最終的に思うのは、私たちの宇宙が私たちに意味を与えるのではないということです。こちらが宇宙を与えているのです。もし私たちがより高度な知性を構築するのであれば、意味がその一部となるように構築しようではありませんか。

Lex Fridman 1:11:08

私は真剣にこの問題を研究し、さまざまな角度からそれを考える多くの人々が欲しい、彼らはその起こることを介して考える場合、大部分のケースで問題を抱えている?ええ、人類にとって有益でないものですか?そうですね。そうそう、それで、あなたの考えは1インチでしたっけ?人々は何をすべきなのでしょうか?私は人が怖がるのが好きではありません。私たちが解決できるような方法で、人々がこの問題について考えるにはどうしたらいいのでしょうか?私たちはそれを作ることができますが

Max Tegmark 1:11:39

パニックになっても、何の解決にもならないと思います。うまくいく可能性が高まるわけでもありません。たとえ、本当に脅威がある状況であってもです。みんながパニックになれば解決するの?そうでしょうか?もちろん、そうではありません。もちろん、最悪の事態に陥る可能性もあると思います。まず第一に、重要なことです。問題やリスクについて考えるとき、うまくいけばどれだけ大きなプラス面があるかを忘れてはいけません。私たちが愛してやまない社会やイノベーションのすべては、知性の産物です。私たちの知能を機械の知能で増幅することができれば、もう愛する人を失わず、不治の病と言われている病気にもかからずに済むのですから、当然、私たちはそれを目指すべきです。それがモチベーションになるのです。問題を解決しようとするのは、単に暗い気持ちにならないためではなく、何か偉大なことをしようとしているのだということを、自分自身に思い出させることができると思います。しかし、次にリスクについてですが、本当に重要なのは、結果を良いものにするために、今日何ができるかを問うことだと思います。そして、このリスクを見逃すことは、そのようなことではないのです。このようなテーマのパネル考察に参加すると、企業で働く人たちが、いつも「心配することはない、心配することはない、心配することはない」と言っているのがとても面白いんです。でも、心配しているのは学者だけです。考えてみれば、それはまったく驚くべきことではありません。アプトン・シンクレアはこう言いましたね。「自分の収入が何かを信じていないことに依存しているときに、その人に何かを信じさせるのは難しい」と。率直に言って、私たちは企業にいる多くの人たちが他の人たちと同じように心配していることを知っています。しかし、もしあなたが会社のCEOなら、ジャーナリストがあなたの言葉を引用するときにターミネーター・ロボットの写真を載せるような愚かなことをしているときに、そのことを記録に残したくはないでしょう。だからこそ、問題は現実的なのです。私がこの問題について考えているのは、基本的には、私たちに与えられた本当の選択肢は、まず第一に、このリスクを無視して、「さあ、このまま進んで、私たちができることをすべて、より良く、より安くできる機械を作りましょう。何か悪いことが起こるのではないか?だろう?」これがひとつの態度です。それとは反対に、「この素晴らしい可能性があるのだから、私たちが本当にワクワクするような未来とはどんなものなのかを考えよう」という姿勢が必要だと思います。私たちが本当に目指すことのできる共通の目標とは何か?そして、そこに到達するためにはどうすればいいのかを真剣に考えてみましょう。そうです。そうすれば、避けたい障害についても考えることができます。なぜかというと、私のオフィスにはよく学生がキャリア相談に来るのです。彼らにはいつも、まさにこの質問をします。あなたは将来どこに行きたいですか?もし彼女が、「ああ、私は癌になるかもしれないし、私たちに轢かれるかもしれない」としか言えなかったら…。

Lex Fridman 1:14:43

目標ではなく、障害になってしまうのです。

Max Tegmark 1:14:44

彼は結局、心気症の被害妄想に陥るだけです。一方、もし彼女がやってきて、目を輝かせて「私もそこにいたい」と言ってくれたら、障害について話し合って、どうやってそれを回避するかを考えることができます。その方がずっと健全な姿勢だと思います。そして、それが私の実感でもあります。紛れもなくワクワクするような未来のビジョンを考えるのはとても難しいことです。漠然と「がんを治そう」という話をしているのではありません。私たちはどんな社会をつくりたいのか?AIやAGIの時代に、人間であることの意味を考えたいのです。もし、このような幅広い対話を行い、少なくとも正しい方向性を持った未来に向かって徐々に収束していくことができれば、建設的に障害に立ち向かう意欲が湧いてくるでしょう。そして、もし私がそうなれば、もしあなたがそうなれば、もし私がこの話をもっと簡潔にまとめれば、私たちは、私たちを圧倒するのではなく、私たちに力を与えてくれるようなAGIの構築を目指すべきだということに、今では誰もが同意することができると思います。

Lex Fridman 1:16:05

それを実現するためのさまざまな方法を考えてみましょう。それが自律走行車の世界の私の側から見た場合でも同様です。私は個人的には、自律走行車のようなものを実現するためには、人間レベルの知能が必要だと考えていますし、実際に私たちが使ったり参加したりして楽しめるものになると思います。これはその一例です。他にも、ロボットや医療など、さまざまな分野があります。それらに焦点を当てて、障害物を考えたり、うまくいかない方法を考えたりして、1つずつ解決していくのです。

Max Tegmark 1:16:38

自律走行車を作ることができたからといって、たとえ自分で運転しなくても問題なく走行できる車を作ったとしても、人生には自分でやりたいことがあるかもしれません。そうなんですよ。例えば、私たちの社会全体を考えてみても、何かとても意義のあることをしていると思います。だからといって、それをやめなければならないわけではありません。機械のほうが上手にできるからですよ。誰かがテニスロボットを作って私を打ち負かしたとしても、私はテニスをやめるつもりはありません。

Lex Fridman 1:17:07

人々はまだチェスをしています。

Max Tegmark 1:17:10

近い将来、ベーシックインカムを提唱している人たちもいます。しかし、もし政府が何もしないで人々に現金を配ることを厭わないのであれば、政府はもっとたくさんの教師や看護師を雇うべきかどうかを真剣に考えなければならないでしょう。政治家が「教師を増やす余裕はないが、ベーシックインカムを導入しよう」と言うのは、もう聞き飽きました。私たちの人生に意味を与えるものについて、もっと真剣に研究し、考えることができれば、仕事は収入以上のものを与えてくれるのではないでしょうか。そして、将来のことを考えると、どんな役割があるのか?機械に力を与えられていると人々が実感できるような役割とは何でしょうか?

Lex Fridman 1:17:59

私はソビエト連邦のロシアから来ました。20世紀の多くの人々にとって、月に行ったり、宇宙に行ったりすることは刺激的なことだったと思います。私は、「心の宇宙」を感じています。つまり、AI、理解創造型知能、それを21世紀に向けて。ですから、本当に驚きです。研究資金の面でも、できる限りの資金が投入されていないことにも驚きました。しかし、最も重要なことは、政治家の側から見ると、殺人ロボット「ターミネーター」のような見方を除いては、それが公の場で語られることはないということです。つまり、人々はまだ、私たちが共に築くことのできる可能性のあるポジティブな未来に興奮していないのだと思います。だから

Max Tegmark 1:18:48

政治家は通常、次の選挙期間に焦点を当てるものですからね。私たち人類が学んだ最も重要なこと、そして科学の歴史全体がそこにあると感じています。私たちは過小評価の達人です。私たちは何度も何度も宇宙の大きさを過小評価し、自分たちが存在すると思っていたものは、もっと大きなもののほんの一部に過ぎないことに気づきました。そして、未来を読む私たちは、私たちの祖先が夢見たこの宇宙よりもはるかに大きな可能性を秘めていることを知ったのです。想像してみてください、もし地球上のすべての生物が完全にいなくなったとしたら。マサチューセッツ州のケンブリッジを除いて、私はそうしたいと思います。もし私たちが、マサチューセッツ州のケンブリッジに永遠に留まることだけを目指していて、1週間で絶滅してしまったら、地球はもっと長く続いていたとしても、ちょっとつまらないと思いませんか?私たちが今持っている宇宙規模での態度は、地球上で生命が4年ではなく、何十億年も栄えることができると感じられるものです。そうですね、太陽が熱くなりすぎたときに、どうやって生命を危険から遠ざけるかということも教えてあげましょう。そして、ここにはより多くの資源があります。今日、もしかしたらバクテリアや牛のような生命体がいる惑星がたくさんあるかもしれません。しかし、この機会のほとんどは、私たちが見る限り、サハラ砂漠のようにほとんど死んでいるように見えます。しかし、私たちには、この周辺で生命が繁栄するのを助ける機会があるのです。何十億年もあります。だから、1/5 1マイル左右に小さな境界線を引くべきかどうかで揉めるのはやめて、空を見てみましょうよ。

Lex Fridman 1:20:44

そうですね。だからこそ、あなたや他の人たちがイーロン・マスクの活動に関わっていることは、本当にエキサイティングなことだと思います。なぜなら、彼は文字通り宇宙に出て、私たちの宇宙を探索しているからです。それは素晴らしいことです。

Max Tegmark 1:20:57

それこそが、イーロン・マスクが誤解されている理由なのです。彼がAIの安全性を重視する理由は、他の誰よりも、この素晴らしい機会を評価しているからですが、もし私たちが地球上から消えてしまったら、彼らは無駄になってしまいます。次の世代だけではなく、すべての世代、そしてそこにある素晴らしい機会を消してしまうことになるのです。それは本当にもったいないことです。テクノロジーを使わないほうがいいと考えている人たちのために、AIの話をしましょう。しかし、これだけは言わせてください。技術を向上させなければ、問題は人類が絶滅するかどうかではありません。問題は、次の大きな小惑星や超巨大火山など、技術を向上させれば簡単に防げるような馬鹿げたものにやられてしまうかどうかなのです。そして、宇宙で生命を繁栄させたいなら、AIがその鍵となります。私の本にも詳しく書いてありますが、最もインスピレーションを受けたSF作家の多くでさえ、宇宙旅行、特に他の銀河への旅行の機会を完全に過小評価していたと思います。

Lex Fridman 1:22:18

そうですね。AGIは私たちの進歩を可能にし、より良い生活を可能にするというあなたの見解に通じるものがありますね。それはとても美しい表現で、努力すべきことだと思います。マックス、本当にありがとうございました。今日は素晴らしい時間をありがとうございました。

Max Tegmark 1:22:33

ありがとうございます。ボリショイを見てみましょう。