Stephen Wolfram: ChatGPT and the Nature of Truth, Reality & Computation | Lex Fridman Podcast #376
524,627 回視聴 2023/05/10 レックス・フリードマンポッドキャスト
スティーブン・ウルフラムはコンピュータ科学者，数学者，理論物理学者であり、Wolfram Researchの創設者でもあります。このポッドキャストをサポートするために、スポンサーをチェックしてください。
– MasterClass: masterclass.com/lex 15%割引になります。
– BetterHelp: betterhelp.com/lex で10%割引になります。
– InsideTracker: insidetracker.com/lex で20%オフ
EPISODE LINKS
スティーブンのTwitter: twitter.com/stephen_wolfram
Stephenのブログ：https://writings.stephenwolfram.com
Wolfram|Alpha:www.wolframalpha.com
新しい科学のかたち (書籍): amzn.to/30XoEun
物理学の基礎理論 (書籍): amzn.to/30XbAoT
ブログの記事
50年にわたる探求：https://bit.ly/3NQbZ2P
ChatGPTは何をやっているのか：https://bit.ly/3VOwtuz
ポッドキャスト情報
ポッドキャストサイト：https://lexfridman.com/podcast
アップルポッドキャスト：https://apple.co/2lwqZIr
スポティファイ：https://spoti.fi/2nEwCF8
RSS: lexfridman.com/feed/podcast/
全エピソードのプレイリスト
– レックス・フリードマン・ポッドキャスト
クリップのプレイリスト
– Lex Fridman Podca…
アウトライン
0:00 – はじめに
1:33 – WolframAlphaとChatGPT
21:14 – 計算と現実の性質
48:06 – ChatGPTのしくみ
1:47:48 – ヒトと動物の認知力
2:01:07 – AIの危険性
2:09:27 – 真実の本質
2:30:49 – 教育の未来
3:06:51 – 意識のあり方
3:15:50 – 熱力学の第二法則
3:39:23 – エントロピー
3:52:23 – 物理学におけるオブザーバー
4:09:15 – 死亡率
SOCIAL
– ツイッター：https://twitter.com/lexfridman
– リンクトイン：https://www.linkedin.com/in/lexfridman
– フェイスブック：https://www.facebook.com/lexfridman
– インスタグラム： www.instagram.com/lexfridman
– メディア： medium.com/@lexfridman
– レディット： reddit.com/r/lexfridman
– Patreonでのサポート： www.patreon.com/lexfridman
スティーブン・ウルフラム 0:00
ChatGPTにクリエイティブなコードを教えて、それを自分のコンピュータで実行することができるんです。そうすると、どのような間違いが起こりうるか、がわかるんです。
レックス・フリードマン 0:11
その可能性に興奮したり、怖くなったりしましたか？
スティーブン・ウルフラム 0:14
実は少し怖かったです。というのも、もしそうなったら、あなたが持つべきサンドボックスは何なのか、というような疑問が湧いてくるからです。つまり、AIに物事を任せたらすぐに、これらのシステムにはどれだけの制約があるべきなのか、ということです。AIがすべての武器やさまざまなシステムを担当するようになる前にね。
レックス・フリードマン 0:36
サンドボックスの面白いところは、AIがそれを知っていて、それをクラックするツールを持っていることです。以下は、このポッドキャストに初めて登場するスティーブン・ウルフラムとの会話です。彼はコンピュータ科学者，数学者，理論物理学者であり、Mathematica，Wolfram，Alpha Wolfram言語，Wolfram physics and meta mathematics projectを開発したWolfram Researchの創設者です。
彼は、現実の計算機的性質を探求するパイオニアです。人類が超知的なAGIを構築するために旅する中で、大規模な言語モデルという急速に進化する新しい状況を一緒に探るには、彼は最適な人物です。このポッドキャストはLEX Friedmanのポッドキャストで、説明文にあるスポンサーをチェックしてください。そして今回の違いは、スティーブン・ウルフラムです。Chad GPTとWolfram Alpha、Wolfram言語の統合を発表されましたね。では、その統合についてお話します。
高い哲学的なレベルからの重要な違いは何でしょうか？広く言えば、大規模な言語モデルと、Wolfram Alphaであるこの計算機による巨大な計算システム基盤という2種類のシステムの能力間の、戦術的なレベルかもしれませんね．
スティーブン・ウルフラム 1:57
そうですね。では、チャットGPTのようなものは何をするのでしょうか？それは、人間が作り、ウェブに載せるような、言語を作ることに主眼を置いています。つまり、プロンプトを与えると、人間がウェブ上に書いた1兆語のテキストをもとに、そのプロンプトを典型的な形で継続させようとするのです、というのが主な技術的なことです。
その方法は、おそらく人間がその最初の段階を行う方法とよく似ています。ニューラルネットなどを使って、「このテキストがあったら、ニューラルネットに1単語ずつ波及させて、1単語ずつ出力してみましょう」と言います。
これは、大量の学習データに対する浅い計算のようなものです。それが、私たち人間がウェブ上に置いたものです。これは、私が過去10年か40年ほどかけて構築した計算スタックとは異なるもので、何段階もの計算を行うことができ、潜在的には非常に深い計算を行うことができるものです。
その代わりに、数学であれ、あらゆる種類の体系的な知識であれ、私たちの文明が作り上げた形式的な構造を利用し、それを使って任意に深い計算を行い、ウェブ上ですでに決まっていることに合わせるのではなく、これまでに計算されたことのない新しいものを計算できる可能性を見出そうとしているのです。
つまり、蓄積された専門的な知識から原理的に答えられるような問題があれば、その答えを計算できるようにすることです。そして、文明が蓄積してきた専門的な知識をもとに、ある種の信頼性の高い方法で、できる限りのことをすることができるのです。
しかし、それを実現するための計算システムを構築する側には、非常に多くの労力が必要とされます。明らかに、チャットGPTの世界では、まったく別の目的のために作られたもの、つまり、私たちがウェブに書き出したものをすべて集めて、その中からウェブに書かれたようなものを探し出すという感じですね。
つまり、チャットGPTのようなものは、広く浅くというのが現実的な視点だと思います。そして、私たちがやろうとしている計算の構築は、深く、広く、しかし最も重要なのは、深いタイプのものです、と考えています。このことを考えるもうひとつの方法は、人類の歴史にさかのぼると、1000年くらいになるでしょうか。
そして、典型的な人は何ができるのだろうかと考えます。典型的な人は何を理解できるのでしょう？その答えは、私たち人間がすぐに理解できる種類のものがある、ということです。しかし、そこには、知的な歴史や学習の深さを物語ります、形式化された層があり、その形式化が、論理や数学、科学といったものに発展していったのです。
このようなものがあるからこそ、私はこのようなタワーのようなものを作ることができるのです。私たちが計算機でやろうとしていることは、「何を意味するのか」といった高い塔を作ることなのです。図とは対照的に、私はすぐにそれを理解することができます。どこかで見たような、聞いたような、思い出したような、そんな感じなのです、
レックス・フリードマン 6:14
このような深い計算可能性を構築するために、どのようなものから始めるか、そのような形式的な基盤を構築できるような形式的な構造について、あなたは何を言えるでしょうか？知識？ツリー？
スティーブン・ウルフラム 6:29
ですから、問題は、計算についてどのように考えるか、ということです。ここで、2つのポイントがあるんです。ひとつは、計算が本質的にどのようなものであるかということ。そしてもうひとつは、私たち人間の頭脳や学習したことが、計算の世界のどのような側面と関係づけられるかということです。
これは、私が人生の大半を費やして研究してきたことですが、計算とはどのようなものかということから始めると、私たちは通常、プログラムに何をさせたいかわかっている状態でプログラムを書いているとします。そして、何行ものコードを丁寧に書いていきます。
そして、そのプログラムが、私たちが意図したとおりの動作をすることを願うのです。しかし、私が興味を持ったのは、プログラムの自然科学のようなものを見てみると、「私はこのプログラムを作るつもりである」と言うだけで、それは本当に小さなプログラムです。プログラムの断片をランダムに選ぶかもしれませんが、本当に小さなものです。
本当に小さいというのは、つまり、コード1行分にも満たないようなものです。このプログラムは何をするんだろう、と言って実行するんです。80年代初頭に行った大きな発見は、極めて単純なプログラムでも、実行すると実に複雑なことができるということでした。
しかし、非常に単純なプログラムでも、信じられないほど複雑なことができるということに気づき、私たちはその発見を予想もしなかったのです。つまり、自然界がどのように機能しているのか、とてもよく理解できたのです。
ここ数年の大きな話題は、宇宙や物理の仕組みが、まさにそうであることを理解したことです。しかし、それは全く別の話題です。しかし、このようにプログラムというものが存在し、そのプログラムは何をするのか、そしてプログラムができることは非常に豊かで洗練されているのです。
しかし、これらのプログラムの多くを見て、「これは何をやっているのかよくわからない」と言うでしょう。人間味のあるものではありません。一方では、計算機の世界では何が可能か、ということがあります。一方では、私たち人間が考えているようなこと、つまり開発されたものや私たちの知的歴史があります。
このように、計算可能な宇宙にある計算可能なものと、私たち人間が頭を使って考える一般的なものを結びつけることが、物事を計算可能にするための真の課題です。しかし、これは複雑で難しい問題です。なぜなら、私たちが考えることは、時間とともに変化していくからです。
そのため、可能性のある知的空間は徐々に拡大し、より多くのものを植民地化しているようなものなのです。しかし、本当の課題は、計算上可能なことをどのように実現するかということです。私たちが考えているようなことを、計算上可能なことにつながるような形で、どのようにカプセル化するのか。
実は、この大きな考え方は、記号的なプログラミング、物事の記号的な表現という考え方なのです。つまり、世の中のあらゆるものを見て、視覚的なシーンや何かを見て、「これを自分の頭の中に詰め込めるようなものにするにはどうしたらいいか」という問いです。
私のビジュアルシーンには、たくさんのピクセルがありますよね。しかし、そのビジュアル・シーンから私が思い出したことは、「この場所には椅子がある」ということです。ビジュアルシーンを象徴するようなものですね。ピクセルが細かく配置されているのではなく、テーブルの上に2脚の椅子がある、といった具合です。
そこで問題になるのは、世の中のあらゆるものをどのように捉え、私たちが物事について考える方法に対応する何らかの表現を作るかということです。ですから、人間の言葉から理解できることを、より正確にする方法を見つけなければなりません。
それが、記号的プログラミングの物語です。そして、その結果、これほどまでにうまくいくとは、当時は思いもよりませんでした。1979年頃、私は初めて大きなコンピュータシステムを作ろうとしていました。そして、高度なレベルでどのように計算を表現すればよいかを考えていました。
しかし、その関数は必ずしも何かを評価するわけではなく、ただ構造を表すものとしてそこに置かれています。そして、その構造を構築していくわけですが、その構造は、私たち人間が高次のものを概念化する方法と非常によくマッチしていることがわかりました。そして、この4、5年ほどの間、構造というのは私に非常によく役立ってくれています。
レックス・フリードマン 11:42
つまり、このような象徴的な表現を使って、構造を構築していくわけです。物理学のプロジェクトでは、非常に低いレベルのハイパーグラフから始めて、そこからすべてを構築することができます。しかし、あなたは近道をしたいわけではありませんよね？しかし、近道をしたいわけではありませんよね。そして、それがその小さな知識の新しい土台となるのです。そして、そのすべてが統合されるのです、
スティーブン・ウルフラム 12:17
そうです。つまり、非常に重要な現象があるのです。それは、今後ますます重要になるでしょう、「計算の非簡約性」という現象です。もしあなたが何かのルールを知っていて、プログラムを持っていて、それを実行しようとしたとき、あなたは「ルールはわかっている」と言うかもしれません。
素晴らしい。何が起こるか全部わかっています。しかし、原理的にはそうなのです。なぜなら、そのルールを実行し、その結果を見ることができるからです。100万ステップも実行すれば、何が起こるかわかるでしょう。
問題は、100万ステップの後に、すぐに「こうなることは分かっている」と言えるかどうかということです。
答えは「13」なのでしょうか？もし計算を減らすことができれば、計算をする意味がなくなります。計算をすることで本当に価値が得られるのは、答えを見つけるために計算をしなければならなかったときです。
しかし、答えを見つけるために計算をしなければならないというこの現象、すなわち「計算の還元性」という現象は、さまざまな物事を考える上で非常に重要なようです。例えば、空間の原子やハイパーグラフ、ハイパーグラフの書き換えなど、低レベルの宇宙モデルができたとするじゃないですか。
それが1秒間に10回から100回起こっているわけですが、例えば、「すごい、これで宇宙の仕組みがわかりました」と言うわけです。しかし、問題は、宇宙は自分が何をするのかがわかるということです。10対100のステップを踏むのです。
しかし、私たちが宇宙が何をしようとしているのかを理解するには、その計算を減らす方法がありません。もし私たちが宇宙の中で活動しているのであれば、宇宙は宇宙ができる限りの速さでそれを行っているので、それを行う機会はないでしょう。
なぜなら、宇宙は宇宙ができる限りの速さでそれを行っているからです。そして、それは、つまり、何が起こっているかということなのです。ですから、私たちがやろうとしていること、そして科学やその他のあらゆる種類のものの話の多くは、再現性のあるポケットを見つけることなのです。
つまり、世の中のあらゆるものが計算上の再現不可能性に満ちているという状況もあり得るのです。次に何が起こるかわかりません。次に何が起こるかを知る唯一の方法は、ただシステムを動かして何が起こるかを見ることです。ですから、ある意味、ほとんどの科学や発明、さまざまなもののストーリーは、局所的に先に進むことができる場所を見つけるというストーリーなのです。
計算の非簡約性の特徴のひとつは、常に還元可能なポケットが存在することです。常に先取りできる場所が無限に存在するのです。完全に先に進むことはできません。しかし、小さな、小さなパッチ、小さな場所には、少し先に進むことができる場所があるのです。
物理学のプロジェクトについて話すこともできますが、私たちは、あらゆる可能性を秘めた計算の非簡約性の一片に存在しているのです。宇宙では、私たちは、それなりの予測可能性があるスライスの中に存在しています。ある意味で、私たちがより高度な抽象化、象徴的な表現などを構築しようとするとき、私たちがやっていることは、私たちが自分自身を結びつけることができる還元性の塊を見つけ、それについて、かなり単純な物語を語ることができるようにすることなのです。
というと、とんでもなく複雑な話になります。そして、そのほとんどが、私にとってはどうでもいいことなのですが、計算機としてはどうにもならないことなのです。そのほとんどは、まあ、相続人はまだここにいるわけだし、何も変わらないだろう、というものです。そしてそれは、最終的に計算不可能なプロセスの根底にあるレベルに関する、ある種の還元可能な事実なのです。
レックス・フリードマン 15:59
そのような還元可能なポケットが大量になければ、生命は成り立たないでしょう。そう、ポケットは記号的なものに還元することが可能なのですね。
スティーブン・ウルフラム 16:11
ええ、そうだと思います。私たちが経験する人生というのは、つまり、何を意味するかにもよりますが、人生とは、いわば、世界で起こっている一貫した事柄の経験であり、例えば、空間という考え方は、あなたがここにいて、そこに移動しても、同じことであり、あなたが空間の異なる原子からできていても、その異なる場所にいるのはあなたであると言うことができます、などです。
この考え方は、計算不可能なシステムの下にあるものに還元可能性を見出すことで、何が起こっているのかを予測できるというものです。この数年で私が一番好きな発見は、計算の非簡約性の根底にあるものと、計算の非簡約性の鍵を握る観測者としての私たちの性質との相互作用であることに気づいたことです。
この事実が、20世紀に発見された物理学の主要な法則につながるのです。このことについては、これまでにも詳しく説明されてきました。しかし、これは私にとっては、観測者としての私たちの性質のようなもので、私たちは計算論的に束縛された観測者であるため、計算論的還元可能性の小片に従うことができないのです。世界にあるものを私たちの心に詰め込むには、圧縮せずに還元できるものを見ていることが必要です。つまり、世界で起こっていることの詳細について、ある種の本質、ある種の象徴的本質だけを抽出しているのです。
レックス・フリードマン 18:03
そう、因果関係のようなものですね。
スティーブン・ウルフラム 18:07
私たちの理論によれば、私たちは空間の異なる原子からできているのですが、その瞬間ごとに、宇宙が何でできているかという微細なディテールが書き換えられているのです。これは事実です。空間の異なる部分の間に一貫性があるということは、空間の構造をまとめる小さなプロセスが常に行われていることの結果です。
分子の集合体が自由に浮遊しているようなものです。つまり、空間とシミュレーターは、空間におけるすべての活動の結果として、空間が編み込まれているという事実、そして、私たちが一連のものから構成されているという事実、私たちは絶えず書き換えられているのです。
そして、なぜ私たちは、時を経ても同じ私たちであると考えるのだろうかという疑問があります。これは重要な仮定で、いわば私たちの意識のようなものの重要な側面だと思うのですが、私たちにはこのような一貫した経験の糸があるということなのです。
レックス・フリードマン 19:12
私たちの現実をある種の時間的なものに還元したいと思うのは、私たちの心の限界の一つではないでしょうか？そう、一貫性とは単なる素敵な物語なのです、そうでしょう？自分自身に言い聞かせる？
スティーブン・ウルフラム 19:29
まあ、事実、私たち人間の一般的な活動方法にとって重要なのは、私たちが1本の糸で経験することです。もし、あなたが、ある種の心を想像したら、他の心が働くのと同じように働かない様々な種類の心で起こっていることは、あなたが複数の経験の糸に分裂しているということかもしれません。
例えば、量子力学の内部を見ると、多くの経験の糸に分かれているのです。しかし、私たち人間が量子力学と相互作用するためには、それらの異なる糸をすべて結びつけなければなりません。そうすることで、「ああ、そうです、確かなことが起こったんだ」。
そして、その次のことが起こるというように。このように、根本的に複数の体験の糸がつながっているというのはどういうことなのか、想像してみるのも面白いかもしれませんね。今、人間の心にはさまざまな体験の糸がありますが、私たちはただ、たくさんの心が互いに作用しあっているだけです。
しかし、それぞれの心の中に、1本の糸があるわけではありません。これは確かに単純化したものです。一般的な計算機システムには、そのような単純化はありません。また、このようなことは、「意識は、宇宙で起こりうることの中で最も高いレベルのものである」と考える人が多いようです。しかし、私はそうではないと思います。意識というのは実は特殊なもので、特に経験の一本の糸という考え方がありますが、これは宇宙で計算機的に起こりうるものの一般的な特徴ではありません。
レックス・フリードマン 21:04
だから、これは、還元可能なポケットを観察することしかできない、計算量に制限のあるシステムの特徴なのです。そう、つまり、このオブザーバーという言葉は、量子力学では何か意味があるんです。私たち人間にとっても、意識的な存在である以上、多くの場所で意味があります。では、オブザーバーの重要性は何でしょうか？観察者とは何でしょうか？計算の世界における観察者の重要性とは？
スティーブン・ウルフラム 21:33
では、観察者とは何かという質問ですが、一般的に観察者とはどのようなものでしょうか？観察者の一般的な考え方は、実は私の次のプロジェクトの1つで、現在のAIマニアのようなものによって、やや脱線してしまいましたが
レックス・フリードマン 21:43
そこにつながりがあるのでしょうか？それとも、そうなのでしょうか？あなたはどう思いますか？観察者は主に物理学的な現象だとお考えですか？
スティーブン・ウルフラム 21:48
それは、AIというものに関係しているのでしょうか？ええ、そうです、関連しています。では、一般的な観察者とは何なのか、というのが一つの疑問です。一般的な計算システムとは何か、チューリングマシンや他の計算モデルについて考えてみましょうか。
私たちのような観測者もいますが、それは私たちが興味を持っている観測者のようなもので、計算の非簡約性を扱う宇宙人の観測者を想像することができます。その宇宙人は、私たちとは全く異なる心を持ち、私たちのような存在とは全く支離滅裂な存在なのです。
しかし、私たちのような観測者について話す場合、重要なことの1つは、世界のすべての詳細を心に詰め込むことができるという考え方です。そして、すべての詳細から、私たちの心に収まるような小さな自由度、小さな要素のセットを抽出することができるのです。
私は、この疑問から、一般的な観測者とは何かを特徴付けることに興味を持ちました。一般的な観測者とは、部分的には、多くのものがあると思いますが、例を挙げましょう。この気体について測定するのは、圧力です。観察者であるあなたが気にするのは、圧力だけです。
つまり、この箱の側面にはピストンがあり、ピストンは気体によって押されているのです。そして、分子がピストンにぶつかるには、さまざまな方法があります。しかし、重要なのは、そのような分子の衝突の集合体であり、それが圧力を決定するのです。
つまり、気体には膨大な数の異なる構成があり、それらはすべて等価なのです。ですから、オブザーバーの重要な側面の1つは、システムのさまざまな構成が順番に並んでいることだと思います。これは、ある種の1つの側面です。そして、それをさまざまな形で見ると、世界にはたくさんの詳細があるということが、何度も繰り返し語られるのです。しかし、私たちがそこから抽出するものは、その詳細の薄い要約のようなものなのです。
レックス・フリードマン 23:53
その薄い要約ですか。それにもかかわらず、それはくだらない近似値であることができるというのは本当ですか？平均して正しいということでしょうか。つまり、観察者、つまり人間の心を見てみると、例えば自然言語に代表されるように、非常に多くの、本当にくだらない近似があるように思えるのです。確かに、それが特徴かもしれませんね。まあ、曖昧さがあるんですけどね。
スティーブン・ウルフラム 24:17
そうですね。あなたは知らないのです。あなたは、これらの分子の総体的な影響を測定しているだけかもしれません。しかし、分子が本当におかしな方向に配列する確率は、ほんのわずかなものです。その平均値を測定するだけでは、本質的な解決にはならないのです。
ところで、この点については、多くの科学が非常に混乱しています。というのも、論文を見ると、人々は本当に熱心で、この曲線を描き、曲線上に棒をつけたりしています。ただ、この曲線があるだけなんです。この曲線は1つのもので、その上にあらゆる種類の詳細があるシステムを表しているはずです。
このように、多くの科学が間違いを犯しています。何年も前に、雪の結晶の成長を研究したことがあります。雪の結晶が成長し、突起がたくさんあって、複雑なことをやっています。しかし、これには文献があったんです。雪の結晶の成長速度はどのくらいか、ということが書かれています。
そして、雪の結晶の成長速度についてかなり良い答えが得られたので、それをさらに注意深く調べてみました。そして、雪の結晶、成長率などの素敵な曲線があったのですが、もっとよく見てみてください。そして、彼らのモデルによれば、雪の結晶は球形になることに気づきました。それで、成長率は正しく理解できたのです。しかし、細部はまったく間違っていたのです。
そして、細部だけでなく、全体が、ある意味、何が起こっているのかの本質を見失ったシステムの側面を捉えていたのです、
レックス・フリードマン 25:39
雪の結晶の幾何学的な形は何でしょう、
スティーブン・ウルフラム 25:43
雪の結晶の形成に関連する水の面では、氷の花瓶が始まりです。それは水分子の六角形の配列から始まります。そして、六角形の板として成長することから始まります。そして、その板が球状、球状と変化していくのです。しかし、それ以上のものなんです。
雪の結晶はふわふわしていますが、典型的な雪の結晶には小さな樹枝状の突起がありますよね。そうです。セル・オートマトンを使えば、非常にシンプルで離散的なモデルを作ることができるんです。これを解明するために、まず六角形のものを作り、そこから小さな突起を動かしていくんです。
そして、小さな氷のかけらが雪の結晶に加わるたびに、水蒸気から凝縮した氷が雪の結晶を局所的に温めるのです。そのため、すぐ近くに別の氷が積もる可能性は低くなります。これが、ある種の成長抑制につながるわけです。
例えば、突起が伸びたとして、その突起は分離しています。突起の周囲が少し熱くなったので、そこに氷を増やさなかったからです。その結果、六角形の突起が伸びて、突起が伸びて、突起が伸びて、突起が伸びて、アラームが発生するわけです。そして最終的には、もっと大きな六角形を埋め尽くすという、なんともクールな現象が起こります。
最初にこれを見たとき、私はこのモデルをとてもシンプルに考えていたのですが、六角形を埋めたとき、実は後ろに穴が開いていることに気づきました。それで、これは本当にそうなんだろうかと思ったんです。そこで、雪の結晶の写真を見てみたんです。すると案の定、雪片には小さな穴が開いていて、これは突起が伸びるときの傷跡のようなものです。
レックス・フリードマン 27:20
つまり、埋め戻しの穴を埋めることができるので、埋め戻しはしないし、おそらく、任意に大きくできる限界があるのでしょう。
スティーブン・ウルフラム 27:31
成長することができると思います。それは地面にヒットすることを意味します。研究室では、かなり大きなものを成長させることができると思います。六角形から突起が伸びて、元に戻って六角形になり、また突起が伸びて、というのを3Dで何度も何度も繰り返すことができると思います。今度は平面になります。普通ならね。
レックス・フリードマン 27:52
なぜ平らなんです？なぜ回転しないのでしょう？蹴るのでしょうか？ちょっと待てよ、フワフワって言いましたよね、フワフワって三次元的な性質なのでしょうか？いや、違うか、
スティーブン・ウルフラム 27:59
ふわふわしています。雪はいいんですよ。
レックス・フリードマン 28:08
複数の雪の結晶がふわふわになるのであって、一枚の雪の結晶はふわふわではないのでは？
スティーブン・ウルフラム 28:12
いや、一枚の雪片がふわふわになることはありません。もし雪が純粋な六角形であったなら、それらはうまく組み合わさることができます。空気をたくさん含んでいるわけではありませんから。そして、互いに簡単に滑りあうことができます。
雪崩が起きるのは、雪が六角形の板状になっているときで、雪が滑るような感じです。しかし、突起が伸びてくると、うまくかみ合わなくなるんです。だから、雪の中にはたくさんの空気が入っているんです。雪の結晶を見ると、そしてその結晶を捕まえると、小さな突起があるのがわかるでしょう。
雪の結晶は2つとして同じものはない、とよく言われます。それは、雪の結晶が成長するにつれて、このようにさまざまな突起を持つようになり、かなり安定して成長するからです。しかし、雪の結晶は、空中に落ちてきたり、別の方法で捕獲されたりするため、異なる時期に捕獲することになります。そして、さまざまなステージを経て、実にさまざまな姿になるのです。だから、雪の結晶は2つとして同じものがないように見えるのです。
レックス・フリードマン 29:18
つまり、雪片が成長するためのルールは同じなのですね。ただ、タイミングが違うだけなで。つまり、科学は雪の結晶の成長の複雑さを完全に記述することはできないということです。
スティーブン・ウルフラム 29:29
科学は、もしあなたが、人々がよくするようなことをすれば、つまり、「よし、科学的にしましょう」と言うのです。1つの数字に変えてみましょう。そして、その1つの数字は、突起の成長率とか、そういうもので、システム内部で起こっていることの詳細を捉えることができません。
ある意味、科学の大きな課題は、例えば自然界から、自分が話したいと思うような側面をどのように抽出するかということです。その場合、ふわふわ感について何も知らなくても、良いモデルを作ることは可能です。しかし、実際のところ、雪の結晶の最も明白な特徴は何だろうかと考えたとき、次のようなことが言えるでしょう。
ああ、この複雑な形をしていることでしょうか？では、何をモデル化するかは別の話になってきます。モデルとは、世界の現実を、何が起こっているかを容易に説明できるようなものに還元する方法であり、基本的に何が起こっているかをある種の抽象化することができ、自分が答えたいと思う質問に答えることができるものです。
システムに関するあらゆる疑問に答えようと思ったら、システム全体が必要です。なぜなら、ある特定の分子が気になるかもしれないし、その分子はどこに行ったのでしょうか？しかし、その分子を抽象化したモデルには、そのようなことは何も書かれていないのです。
ですから、よく混乱することの1つは、科学者たちが、私はモデルを持っている、誰かが言う、私はあなたのモデルを信じない、なぜならそれは私が気にするシステムの特徴を捉えていないからです、と言う、この論争が常にあります、それは正しいモデルなのでしょうか？
実際のシステムそのものを除けば、どんなモデルも正しいとは言えませんが、センサーがすべてを捕らえることが正しいモデルなのか、何を捕らえようとするのか、最終的にはこのようなものから技術を構築しようとするのかによって定義されることがあるのです。
これに対する反例として、全宇宙をすべてモデル化していると考えるなら、正しいモデルという考え方があります。しかし、それすらも複雑で、観測者がどのように物事をサンプリングするかなどに左右されるからです。これはまた別の話です。しかし、少なくとも最初のレベルでは、「これは近似であり、ある側面を捉えていますが、他の側面は捉えていません」と言うことができるのです。
全宇宙の完全なモデルができたと思ったら、最終的にはすべてを把握したほうがいいです。たとえそのモデルを実際に実行することが不可能であっても、計算の非簡約性があるため、そのモデルをうまく実行できるのは、実際に宇宙を動かすことだけなんです。
レックス・フリードマン 32:01
しかし、そうですか。では、あなたが気にすることは何ですか。興味深い概念ですね。つまり、それは人間的な概念なのです。ですから、Wolfram AlphaやWolfram言語でやっていることは、そういうことなのです。象徴的な表現を考え出そうとしているのですか？そうですね、できるだけシンプルに。では、できるだけシンプルなモデルで、私たちが気になるものを完全に捕らえることができるのですね？そうです。
スティーブン・ウルフラム 32:27
例えば、映画に関するデータでは、すべての映画の個々のピクセルを記述することができますよね．しかし、人々が気にするのはそのレベルではありません。しかし、それは人々が気にするレベルではなく、自然言語で記述されるものと多少関係があるのです。
しかし、私たちがやろうとしているのは、計算できるように正確に表現する方法を見つけることなのです。そこで、自然言語の一部をコンピュータに渡して、コンピュータはこの自然言語を理解できるかと質問してみます。さて、コンピュータはそれを何らかの方法で処理し、こうします。
もしかしたら、自然言語の続きを作ることができるかもしれません。それはわかりません。しかし、このような計算機の世界では、「理解しているか」という定義が非常に明確で、それは、「この記号的な計算機に変えて、そこからあらゆる結果を計算することができるか」ということです。
これが、自然言語を理解するためのある種の目標ということになります。私たちの目標は、合理的な方法で計算できる世界について、できるだけ多くのことを、いわばこの種の計算言語によって捕らえることができるようにすることです。それが、私たちの目標です。
そして、私たち人間にとって重要なのは、自分たちが話していることを形式化することで、物事の結果の塔を構築できるような構造を構築する方法を得ることだと思います。自然言語で話をするだけでは、何かを解決するために一歩一歩積み上げていくような、堅固な土台は得られないのです。
数学の世界でも、ただ漠然と数学について話しているだけで、数学の完全な構造を理解していなければ、結果という大きな塔を築くことはできないでしょう。ですから、ある意味で、私たちが計算言語の取り組み全体でやろうとしていることは、世界を記述するための形式論を作ることで、このような結果の塔を作ることができるようにすることなのです。
レックス・フリードマン 34:38
自然言語とWolfram言語の間のダンスについて教えてください。インターネットという巨大なものがあり、人々はミームや日記的な考え、非常に重要な署名記事などを投稿しているのですが、それらがGPTのトレーニングデータセットを構成しています。
インターネットの自然言語からWolfram言語へのマッピングはどうすればいいのでしょうか？Wolfram言語へのマッピングは？マニュアルはあるのでしょうか？自動化された方法はあるのでしょうか？私たちが将来を見据えているように？
スティーブン・ウルフラム 35:15
Wolframアルファは、自然言語を計算言語に変換するフロントエンドのようなものです。そうでしょう？
レックス・フリードマン 35:24
つまり、プロンプトが表示され、ある国の首都はどこか、という質問をするわけですね．
スティーブン・ウルフラム 35:29
首都はどこですか？そうですね。それが、シカゴとロンドンの距離はどれくらいか、とか、実体の地理的距離、都市、などなど、いろいろなものに変わっていくんです。そのひとつひとつは非常によく定義されています。都市、シカゴ、その他、米国イリノイ州という実体があり、その地理的位置、人口、あらゆる事柄がわかっています。そして、それをもとに計算することができるのです。それが、そう、そういうことです。
レックス・フリードマン 36:11
しかし、GPTのような大規模な言語モデルは、その変換を可能にするのでしょうか？もっと強力に？
Stephen Wolfram 36:19
なるほど、それは興味深いことで、私たちはまだそのすべてを知っているわけではありません。なるほど。自然言語から計算言語へという問題ですが、Wolfram Alphaでは、Wolfram Alphaが発売されて13年半が経ちました。
そして、Wolfram Alphaに入力されたクエリに対して、98%99%の成功率を達成しました。もちろん、うまくいったもの、あるいは人々がつぎ込んだものは、フィードバック・ループのようなものがあります。
しかし、質問、数学の計算、化学の計算など、人々が入力した自然言語の小さな断片の成功率は非常に高く、私たちはそれらを計算言語に変えることができるのです。WolframAlphaの最初の頃から、例えば、自然言語でコードを書くことについて考えていました。
最近、これを見たのですが、2010年2011年に書いた投稿で、「自然言語によるプログラミングは実際にうまくいきそうである」というものがありました。なるほど。それで、ちょっと機械学習的な手法を使って、いろいろな実験をしたのですが、確かに、ボスのトレーニングデータなど、同じような発想ではありません。
それが、大規模言語モデルの話です。実は、このポスターはまったくのトリビアなのですが、その投稿をスティーブ・ジョブズがアップルのいろんな人に転送したのですが、そのことを知らなかったのは、彼がプログラミング言語をあまり好きではなかったからです。
しかし、今起こっていることは、コンピュータがどのように動くかを学ばなければならないという考え方が、本当にできるようになったということなのだと思います。プログラミング言語を使うには、オペコードの詳細を学んで、いくつかの言語がどのように動作するかを知る必要があるのと同じように、ある種のことだと思うのです。
そういうものなんです。それは、限られた時間軸での話です。しかし、この考え方は、プロンプトをどれだけ精巧に作れるか、自然言語をどれだけ精巧に作れるか、そしてそこから計算言語を抽象化できるか、ということなのです。
とても興味深い質問です。そして、ChatGPT、GPT-4などができることは、かなり優れています。そうではありません。とても興味深いプロセスです。そして、私はまだこのワークフローを理解しようとしているところです。このワークフローを中心に、多くのツールを開発してきました。
レックス・フリードマン 38:53
自然言語から計算言語へという流れですね。そしてそのプロセスは、特に会話であれば、対話、複数のクエリ、みたいなものですね。
スティーブン・ウルフラム 39:02
ええ、そうですね。しかし、本当に面白いことがたくさんあるんです、では、まず、コンピュータに近づいて、計算を指定することができるのでしょうか？一つは、人間は計算機的に物事を考える方法について、ある程度の考えを持っていなければならない、ということです。そうでなければ、コンピュータに何をぶつければいいのか、見当もつかないからです。
私は、10歳のときに初めて見たコンピュータが、大きなメインフレームコンピュータだったというくだらない話を覚えています。当時はまだ、コンピュータが何をするものなのかよく分かっていませんでした。そして、誰かが私にこのコンピューターを見せてくれたんです。そのコンピューターは、恐竜のような重さでした。そんなことを聞くのは賢明ではありません。それは、あなたがそれを与えなければならないようなものです。それはコンピュータがすることではありません。
例えば、Wolfram Alphaでは、ステゴサウルスの典型的な体重はどのくらいか、と言えば何らかの答えが返ってきますが、それはコンピュータがやっていると思われることとは全く違う種類のものです。
ですから、このような質問には、まず、人々が計算とは何かということを理解する必要がありますね。これは、非常に教育的な問題だと思います。コンピュータ・サイエンスでもなく、プログラミングの詳細でもなく、計算機的に世界をどう考えるかという考え方が重要です。
計算機的に世界を考えるというのは、世界を考えるための正式な方法のようなもので、他にも論理学のように、世界のある側面を抽象化し形式化する方法として、正式な方法がありますよね。数学もそのひとつで、計算というのは、世界について考える方法を形式化する、非常に広範な方法なのです。
そして、計算が素晴らしいのは、計算という観点から物事をうまく形式化できれば、その結果がどうなるかをコンピュータが解明してくれることです。数学で形式化したのとはわけが違うのです。しかし、コンピュータで計算するのでなければ、自分でいろいろなことを解決しなければなりません。
つまり、自然言語と計算言語との関係を考えてみると、典型的なワークフローは、まず人間が何をしようとしているのか、それが形式化し計算化したいものに対して能力の塔を作りたいものなのか、何らかの考えを持つことだと思います。そこで、人間がLLMシステムに何かを入力し、漠然と欲しいものを計算用語で表現すれば、Wolfram言語のコードを合成するのに非常に適しています。
自然言語の入力とそれをWolfram言語が翻訳した例は膨大な数にのぼりますから。というのも、自然言語入力の膨大な例があり、それをWolfram言語が翻訳しているからです。つまり、すべての例から推定することで、そのタスクを簡単にこなすことができるのです。
レックス・フリードマン 42:02
プロンプターのタスクと同時に、Wolfram言語のコードをデバッグすることもできるのですか？それとも、そのようなことはしたくないというのが、あなたの希望なのでしょうか？
スティーブン・ウルフラム 42:09
いいえ、いいえ。つまり、ここには多くのステップがあるわけです。まず、自然言語を入力すると、Wolfram Language give examplesが生成されます、
レックス・フリードマン 42:16
ところで、恐竜の例ですが、私たちが考えるべき馬鹿な例を思い浮かべることができますか？
スティーブン・ウルフラム 42:24
私の心拍数データを取るようなものです。そして、7日ごとに移動平均を取るかどうかを考え、その結果をプロットします。つまり、3分の2行の言語コードということです。つまり、あるデータのビンの移動平均のプロットや、データの何かをプロットして、その結果を得るということです。そして、私が自然言語で言ったような漠然としたことが、ほぼ間違いなくWolfram言語の非常にシンプルなコードに変わるのです。
レックス・フリードマン 43:03
それで、心拍数についてつぶやき始めたんですか？そうです。そして、移動平均のようなアイデアにたどり着いたんです、
スティーブン・ウルフラム 43:12
7日間の平均と言えば、それが移動であることがわかるかもしれません。つまり、この移動平均のアイデアとしてカプセル化することができるのでは？よくわかりません。しかし、私が見ている典型的なワークフローは、Wolfram言語のコードを生成するもので、それはかなり小さいものです。
普通はそうです。小さくない場合は、おそらくそうでしょう。そうですね。しかし、もしそうだとしたら、かなり小さいですね。そして、Wolfram言語というのは、人間が読める言語であるというのが、Wolfram言語の一つの考え方です。
プログラミング言語は、人間が書いてコンピュータが実行するという一方通行のストーリーになりがちですが、これは言語ではありません。多くの場合、言語は数学の表記法のようなもので、人間が書いて、人間が読むことを想定しています。
そのため、このようなワークフローが生まれつつあります。生成されたものを見て、明らかにおかしいと思うかもしれません．もし本当に結果を重視し、それが正しいかどうかを確認したいのであれば、コードをよく見て、理解したほうがよいでしょう。
しかし、それを超えることができるのです。つまり、例えば、コードが間違ったことをしたとします。そうすると、大規模言語モデルに対して、「これを調整してこうしてくれないか」と言うことがよくあります。
レックス・フリードマン 44:46
面白いですね。つまり、コードの出力を使っているのですね。デバッグしているコードの機能についてのヒントを、「地獄の沙汰も金次第」に基づいて与えてくれるのです、
スティーブン・ウルフラム 45:01
ChatGPT用のプラグインは、日常的にこの作業を行います。そして、「申し訳ありません、大変失礼しました」と返事をします。そして、「そのコードの一部を書き直する」と言い、もう一度試して結果を得ます。もうひとつは、ただ実行しているときが面白いですね。
私たちは36年前にノートブックというものを発明しましたが、新しいコンセプトのひとつです。そこで、テキストとコードとアウトプットがあるノートブックというアイデアを、どう組み合わせるかという問題が出てきました。
そして、それをチャットの概念とどう結びつけるか。そして、そこには実に興味深いものがあります。例えば、現在では非常に典型的なことですが、ノートブックがあり、ifがエラーを出したり、このコードを実行してメッセージが出たりすると、LLMは自動的にそのメッセージを見るだけでなく、スタックトレースなどのあらゆる内部情報を見ることができます。
そして、何が間違っているのかを推測し、それを教えてくれるという、非常に優れた機能を備えているのです。つまり、AIは人間よりも多くの感覚データを持つことができるため、人間なら目をつぶってしまうようなものでも、たくさん見ることができるのです。そして、何が起こっているのか、これがその説明です、と思いつくことができます。
レックス・フリードマン 46:32
データ、スタックトレース、あなたが以前に書いたコード、あなたが書いた自然言語、などですね。
スティーブン・ウルフラム 46:36
そうですね、何が起こっているかというのも、例えば、これらのメッセージがあるとき、これらのメッセージに関する文書があり、メッセージが発生した場所の例があるのですが、そのようなものはありません。
そうでない場合は、このようなものばかりが目につきます。もうひとつ、このプラグインで面白いのは、ミスをしたときに、プロンプトにあります「コードがうまくいかないときは、ドキュメントを読んでください」のひとつに、ドキュメントを読ませるプラグインもあることです。
これはとても便利です。というのも、このプラグインを使うと、実際には存在しない関数のオプションの名前を作り、ドキュメントを読んで、その関数の構造などが間違っていることに気づくことがあるからです。これは強力なことなんです。
つまり、私が気づいたのは、私たちはこの言語を何年もかけて、素晴らしく、首尾一貫した、一貫性のあるものに作り上げた、ということなんです。だから、人間が理解するのは簡単なんです。しかし、私が予想していなかった副次的な効果があることがわかりました。それは、AISが理解しやすくなるということです。
レックス・フリードマン 47:33
だから、ほとんど別の自然言語みたいなものなんです。しかし、そう、だから、So welcome. 言語というのは一種の外国語ですね。そうですね。英語、フランス語、日本語、Wolfram言語というラインナップがあるんですね。とか、スペイン語がわからないとか、そうすると、そのシステムは気づかないんですよね。
スティーブン・ウルフラム 47:52
まあ、そうですね。つまり、もしかして？それは興味深い質問ですね．というのも、私が考える基礎科学の重要な部分が、基本的にChatGPTで飛び出したものであるかどうかによって、大きく変わってくるからです。
というのも、本当の問題は、なぜChatGPTが機能するのか、ということだと思うからです。このようなことを自然言語でうまく再現することができるのはなぜか。このことは、言語に関する基本的な事実と関連していると思います。
つまり、言語には、まだあまり研究されていない構造があるのです。人間の言語には一定の規則性があり、名詞の後に動詞が続き、その後に名詞、形容詞、などといった文法的な構造があることが分かっています。そういう文法構造なんです。
しかし、悲劇的な美しさが教えてくれるのは、言語には、純粋な品詞の組み合わせだけでなく、言語の意味にも関係する、さらなる規則性があるということだと思います。その例として、私たちが過去に経験したのは、論理学です。論理はどのように発明され、どのように発見されたのでしょうか？それは本当に、最初の構想で発見されたものだったのです。
おそらくアリストテレスが発見したのでしょう。アリストテレスは、多くの人の演説を聞いて、これは意味がある、これは意味がない、と思ったそうです。もしペルシャ人がこうしたら、これはこうする、といったパターンがあります。
アリストテレスが気づいたのは、ペルシャ人とギリシャ人であろうと、猫と犬であろうと関係なく、その文章には構造があり、そのレトリックには構造がある、ということです。ペルシャ人とギリシャ人でしょうが、猫と犬だろうが関係ない。ただ、pとqというだけで、これらの特定の文の詳細を抽象化して、このような形式的な構造を引き出すことができるのです。それが論理学というものです、
レックス・フリードマン 50:20
それはとんでもない発見です。ところで、論理学は、それが自明でないことを今私に気づかせてくれています。
スティーブン・ウルフラム 50:27
自然言語から抽象化されたもので、好きな言葉を記入できるものがあるということです。これは非常に興味深い発見です。しかし、この発見が成熟するのには長い時間がかかりました。アリストテレスには対句論理という考え方があり、いわば物事を論じるための特定のパターンがありました。
中世では、教育の一環として、15個だったか忘れましたが、その対義語を暗記することになっていました。バーバラやセロラントのように、対義語を覚えるためのニーモニックがありました。そして人々は、これは有効な議論です、バーバーに従ったものだから、いわば三段論法です、と考えるようになったのです。
そして、1830年までかかりました。ジョージ・ブールがそれを超えて、いわば文という特定のテンプレートを超えた抽象的なレベルがあることを理解したんです。ChatGPTはアリストテレス的なレベルで活動しているのですが、それは本質的に文のテンプレートを扱っているわけで、ある意味で興味深いことです。
ブール代数になると、「and」 と「or 」と「not 」を任意の深さで入れ子にして、それらの意味を解決することができるようになります。これは、計算の話です。自然言語の純粋なテンプレートを超えて、任意に深い計算ができるようになったのです。
しかし、ChatGPTで私たちが気づいたことは、アリストテレスはあまりにも早くやめてしまったということです。言語から形式的な構造として引き出せるものはもっとあったはずです。ある意味、私たちはその一部を捉えたと言えるかもしれません、 Aという場所からBという場所に行き、Bという場所からCという場所に行ったとすると、Aという場所からCという場所に行ったということになります。
Aという場所からBという場所、さらにBという場所に遊びに行く場合、どのように行ったかは関係なく、論理のように、飛行機で行ったか、歩いて行ったか、泳いで行ったか、何でもいいのですが、それでもこの「どこに行ったか」の他律性は有効です。
このように、世界の仕組みの特徴は、いわば言語の側面でとらえられることが多いのです。ChatGPTが効果的に発見したのは、論理を発見したのと同じように、論理的な推論ができることに人々は本当に驚いています。アリストテレスがたくさんの文章を効率よく見て、文章のパターンに気づくことで論理を発見したのと同じようにです。しかし、それは次のように感じています。
レックス・フリードマン 53:21
発見とは論理よりもずっと複雑なものなのでしょうか。では、このような意味文法はどうでしょうか。あなたはこのことについて書いていると思います。私たちはこれを「言語の法則」と呼ぶことができるかもしれませんね。
スティーブン・ウルフラム 53:35
これは1830年にジョージ・ブールがブール代数学につけたタイトルです。しかし、私は、そうです、彼が言っていたのはそういうことだったんです、と思いました。そうなんです。つまり、彼はブール代数で釘付けになったと思ったわけだ。ええ、まだまだありますよ。
レックス・フリードマン 53:50
いい質問です。どの程度なんです？ということです。GPTが機能する理由の1つは、誕生するものの数が限られているからだと暗に言っているような気がします。ええ、つまり、法則を発見しているんです。ある意味で。GPTは、言語の根底にある意味文法の法則を発見しているのですね。
スティーブン・ウルフラム 54:15
そうです。そして、面白いのは、計算の世界では、他にもたくさんの種類の計算ができることです。ただ、私たち人類が関心を持ち、操作してきたものではありません。それはおそらく、私たちの脳がある種の方法で作られているからでしょう。
私たちの脳のニューラルネットは、ある意味、大規模な言語モデルのニューラルネットと大差ないのです。というわけで、「AIは最終的に何をするのか」ということを考えるとき、「小さなこと」については語れるかもしれません。その答えは、AIが単に計算を行うだけであれば、暴走してあらゆる種類のおかしな計算を行うことができます。しかし、私たちが気にすると決めたものは、このような非常に限定されたセットです。
レックス・フリードマン 55:03
そこで、人間のフィードバックによる強化学習の出番となるわけですが、AIが私たちの興味を引くようなものを見れば見るほど、私たちはそれに感銘を受けます。だから、AIはたくさんの興味深い知的なことをすることができます。しかし、私たちがAIシステムに興味を持つのは、AIが人間のような方法で人間とコミュニケーションするときだけです。そうですね。人間のような話題についてですか？
スティーブン・ウルフラム 55:24
そうですね、テクノロジーと同じようなものです。つまり、ある意味、物理的な世界はあらゆる種類のものを提供し、あらゆる種類のプロセスが進行していますよね。しかし、物理学では、そのうちの限られたものだけを捉えて、技術に利用することができます。
例えば、岩石を拾って、「これはきれいな珪酸塩です、いろんな種類のケイ素を含んでいるが気にしません」と言ったとします。そして、私たちはこのことをとても気にするようになるのです。そして、文明の進化の中で、私たちはどのようなものに関心を持つようになったのでしょうか。
例えば、最近、高温超伝導体の可能性が少し発表されたとき、その元素は彼を見たが、一般的には誰も気にしていませんでした。しかし、突然、人間の目的に関連するような応用があれば、私たちは大いに関心を持ち始めるのです。
レックス・フリードマン 56:32
GPTは思考の法則のヒントを発見したのかもしれない、というあなたの考えからすると、そのような法則は存在すると思いますか？ それについて余韻に浸ることはできますか？そうですね。あなたの直感はどうですか？
スティーブン・ウルフラム 56:45
ええ、間違いありません。つまり、その要因です。論理はそうですが、最初のステップで、私たちが考えるようなこと、つまり、世界で起こるようなこと、あるいは意味のあることについての、他の多くの種類の計算があるんです。
レックス・フリードマン 57:02
では、論理が最後のステップでないとどうしてわかるのでしょうか？
スティーブン・ウルフラム 57:06
あることが明白にわかるんです。つまり、構文的に正しい文章がここにある、と言うのです。それを見て、幸福な電子、8、何だかわかりませんが、ただ見て、これは意味がありません。ただの言葉の束です。構文的には正しいし、名詞も動詞も正しい場所にあります。
しかし、何の意味もないんです。ですから、文が意味を持つ可能性があるかどうかを判断するルールが、純粋な品詞構文を超えたところにあることは明らかです。そこで、問題は、そのルールとは何かということです。また、そのようなルールは、かなり有限なセットなのでしょうか？私の推測では、そのようなルールのセットはかなり有限だと思います。
そして、そのルールがあれば、構文文法のルールと同じように、構文的に正しい文章を作るための組み立てキットのようなものを手に入れることができます。つまり、意味的に正しい文章を作るための組み立てキットも手に入るのです。
その文章は、世の中で実現されるとは限りません。つまり、象が月に飛んでいったというのは、そうだと思います。そうですね。構文的意味的に。あのですね、私たちは、私があなたにそう言えば、その意味がなんとなくわかります、という考えを持っています。しかし、実際には、それはいわば世界で実現されていないのです。
レックス・フリードマン 58:27
つまり、意味的に正しいというのは、人間の心で想像できることであり、想像と物理的現実の理解の両方に合致することなのでしょうか。
スティーブン・ウルフラム 58:43
そうですね、つまり、それは良い質問です。いい質問だと思います。つまり、私たちが言語を構築してきたことを考えると、私たちが記述しているものに適合するものです、ということです。結局、少し回りくどいですが、物理的に実現可能なものの境界線のようなものができるからです。
では、運動の例を見てみましょう。そうですね。運動は複雑な概念で、はるか昔にギリシャ人が解明したはずの概念と思われるかもしれません。しかし、実はかなり複雑な概念なのです。
運動とは何かというと、Aという場所からBという場所に移動しても、もう一方の端に着いたときにはまだ自分であるということですな。ある物体を移動させても、同じ物体であることに変わりはありませんが、違う場所に移動しています。しかし、普通の物理学でも、そううまくいくとは限りません。例えば、時空間特異点とブラックホールの近くにいるとき、ティーポットなどを持っていくと、時空間特異点に近づいたときには、ティーポットはたいしたものではなくなっています。完全に変形してしまっているのです。しかし、これは純粋な運動がうまくいかないケースなのです。
同じものを同じままにしておくことはできないのです。しかし、この運動というアイデアは、アイデアを得るためには少し複雑ですが、運動というアイデアがあれば、物事を同じものでありながら違う場所にあるものとして表現するというアイデアを得ることができます。
その抽象化されたアイデアは、AからBへ、BからCへ、AからCへというように、さまざまな結果をもたらします。そして、そのような記述のレベルでは、必然的な結果、つまり、物事を設定する方法の必然性があります。
この意味文法が捉えているのは、このようなことなのだと思います。そして、「ここからそこへ移動する」という言葉の意味は何なのか、ということです。純粋な運動は可能なのか、などなど、その意味を語るのは複雑です。しかし、それが何を意味するのかがなんとなくわかったら、その考えから必然的に生じる結果があるのです。
レックス・フリードマン 1:00:55
しかし、意味という考え方は、潜在的な曖昧さがあるような言葉もあるように思います。つまり、感情的なリーのような言葉があり、憎しみや愛のような負荷のかかる言葉です。では、それは何なのでしょう？具体的には何ですか？特に、複雑なオブジェクトの間に関係がある場合、私たちはこのような近道、説明的な近道を使って、例えば、オブジェクトがRGBを嫌っています？それは本当に意味があったのでしょうか？
スティーブン・ウルフラム 1:01:29
そうでしょう？言葉は、私たちの社会的な使い方によって定義されるものです。つまり、それは、言葉ではないんです。計算言語ではね。例えば、「ある構成物がある」と言った場合、その構成物は、任意の高さの塔を建てることができるビルディングブロックであると予想されます。
だから、非常に頑丈な積み木が必要なんです。そして、コードの一部となり、ドキュメントがあり、全体がまとまっている必要があるのです。しかし、嫌われ者という言葉は、その言葉に対するドキュメントがあります。いわば、その言葉に対する標準的なドキュメントがないんです。それは複雑なもので、私たちがそれをどのように使うかによって定義されます。では、言語とは何かというと、あるレベルでは言語とは思考をパッケージ化し、それを他の心に伝えるための方法なのです。
レックス・フリードマン 1:02:23
このような複雑な言葉を、計算エンジンが使えるようなものに変換することはできるのでしょうか？
スティーブン・ウルフラム 1:02:30
ええ、だから、その答えは、計算言語でできることは、特定の定義を作ることだと思います。そして、複雑な単語があったとして、例えば、eatという単語があるとしますよね？単純な言葉だと思います。しかし、プログラミングをするときに、この関数は引数を食べるんです、というのは、動物が物を食べるのと詩的に似ていますよね。しかし、関数が何かを食べるということはどういうことかというと、毒を盛られるようなことがあるのでしょうか。まあ、実際にそうかもしれませんね。
しかし、ある言語で型の不一致とかがあったとして、でも、その例えはどこまで通用するんでしょう？しかも、あくまで例え話です。一方、eatという単語を使う場合、計算言語レベルでは、eatという自然言語概念にアンカーを付けるようなものは存在しませんが、現在ではその正確な定義があり、そこから物事を計算することができます。
レックス・フリードマン 1:03:33
しかし、このアナロジーは正確なソフトウェアが世界を食べるということでもあると思いませんか？アナロジーには意味の面で何か具体的なものがあると思いませんか？
スティーブン・ウルフラム 1:03:44
しかし、計算言語の最初の目標は、物事の通常の意味を正確にすることであり、十分に正確にすることで、その上に計算の塔を建てることができます。つまり、詩の一節から始めて、この詩の一節で自分のプログラムを定義しようとするようなものです。
それはちょっと、難しいことなんです。この退屈な散文で済まそうという方がいいんです。しかも、普通に言葉を使っています。そしてその時間がコンピューターとコミュニケーションしています。そうすることで、この種の計算タワーを構築するための強固なビルディングブロックを作ることができるんです。
レックス・フリードマン 1:04:25
詩を計算可能なものに落とし込むと、ほとんど何も残らないという感覚があるんですね。だから、詩的な目的のないナンセンスな人間関係の束があるのかもしれません。まあ、レクリエーションのような、車輪の中のハムスターのようなものもあります。実際に生産しているわけではないのです。
スティーブン・ウルフラム 1:04:45
ある意味で、人間の言語コミュニケーションは、一つの心があり、それが言語を生産し、その言語が他の心に影響を与えるということです。という疑問があります。もし、ある種の効果が明確に定義されているのであれば、例えば、私たちがいる場所では、2つの心とは全く無関係で、1つの心に対してもう1つの心がどのような経験をするのか、などということが重要視されるコミュニケーションがあるのではないでしょうか。
レックス・フリードマン 1:05:19
でも、自然言語コミュニケーションの目的ってなんでしょう？
計算、計算言語のほうが、なぜか目的の定義に従順な気がするのです。ある概念について、2つのきれいな表現が与えられているのです。自然言語も同じですが、もっとファジーで、何をするのでしょうか？
スティーブン・ウルフラム 1:05:46
自然言語の話は、私たちの種の偉大な発明だと思います。他の種に存在するかどうかは分かりませんが、私たちの種に存在することは分かっています。ある世代の種から別の世代へ、抽象的なコミュニケーションを可能にするもので、継承できる知識の抽象版があるのです。
遺伝学である必要はありませんし、次の種、つまり鳥の次の世代を前の世代に弟子入りさせて、何かの仕組みを教える必要もありません。このように、抽象化された知識を受け継ぐことができるのです。しかし、言語が曖昧であるため、このような知識を継承するためには、古代の言語に依存する必要があります。しかし、抽象的なアイデアを伝えるには、現実的な連鎖が必要です。抽象的なものを具体化する能力は、言語が提供したものです。
レックス・フリードマン 1:07:11
自然言語と思考は、あなたの心の中で起こっていることと同じだと思いますか？
スティーブン・ウルフラム 1:07:17
まあ、それは哲学の長い議論だったものですね、
レックス・フリードマン 1:07:20
それが、より重要になってきているようです。さて、ChatGPTがどれほど知的かについて考えるとき、それが何を意味するかはともかく、人間の心の中で起こっていることは、まるで知性のような気がするのです。
では、思考の関係はどうなっているのでしょう？思考の言語、思考の法則、推論のような言葉の法則、そして言語の法則、それらがどのように計算と関係しているのか、より厳密で正確な推論の方法です、
スティーブン・ウルフラム 1:07:57
人間の域を超えているのです。つまり、コンピュータが行うことの多くは、人間が行うことではないのです。つまり、あなたはこう言うかもしれない、
レックス・フリードマン 1:08:04
人間はサブセットです。
スティーブン・ウルフラム 1:08:08
ええ、大規模な言語モデルがあれば、誰が計算を必要とするのか、と言うかもしれません。大規模な言語モデルは、最終的には何でもできるほど大きな神経細胞を持つことができますが、それは本当に人間がすぐにできるような種類のことをやっているのです。
また、人間が決して素早くできないような、ある種の形式的なこともたくさんあります。例えば、ある人は暗算ができますよね。ある程度の計算ができ、頭の中でプログラムを実行できます。洗練されているのでしょうか？それは、人がすることではありません。やろうと思ったこともないでしょう。なぜなら、コンピュータで簡単に実行することができないからです。
レックス・フリードマン 1:08:48
任意のプログラムで実行することができます。そうですね。特殊なプログラムを実行するのでしょうか？
スティーブン・ウルフラム 1:08:52
そうです。しかし、これをチューリング・マシンとして実行せよと言ったら．そうです。50ステップの後に何をするか教えてくれ。あなたはそれを頭の中で考えようとしているようなものです。それは本当に難しいことです。人がすることではありません。つまり、よくあることなんです。
レックス・フリードマン 1:09:04
ある意味では、人はコンピュータを作り、それをプログラムする。ただ、システムが何をするかという質問に答えると、私は萎縮してしまい、人間がコンピュータを作ることを邪魔してしまうのです。
スティーブン・ウルフラム 1:09:16
そうです、その通りです。しかし、彼らは何かを作り、それを実行すると、彼らの頭の中で起こっていることとは違うことをやっているのです。つまり、計算の一部を、頭の中で起こっていることから、頭の外にあるツールにアウトソーシングしてしまったのです。
レックス・フリードマン 1:09:37
つまり、人間がコンピュータを発明したのではなく、人間が発見したのですね、
スティーブン・ウルフラム 1:09:42
発見し、計算を発見し、コンピュータの技術を発明したのです。
レックス・フリードマン 1:09:51
このコンピュータは、この計算の流れ全体に接続するための一種の方法に過ぎません。それはおそらく、他の方法は、最後の
スティーブン・ウルフラム 1:10:00
つまり、半導体や電子機器からコンピュータを作る特殊な方法ということです。それが、私たちが構築した特定の技術スタックです。つまり、量子コンピュータでやろうとしたことの多くは、計算を行うための異なる種類の基礎的な物理的インフラを見つけることでした。
生物学では多くの計算が行われます。しかし、その計算には半導体や電子機器とは異なるインフラが使われています。分子スケールの計算プロセスで、うまくいけばもっと理解できるかもしれませんし、私自身、もっと理解したいと思っています。
しかし、これもまた、計算のひとつの表現なのです。物理的な宇宙では、進化するハイパーグラフのようなレベルで、物事が起こっています。これは、計算という抽象的なアイデアに対する、もうひとつの実装層と言えるでしょう。
レックス・フリードマン 1:10:52
GPTや大規模な言語モデルが形成され始め、言語と思考の法則を暗黙のうちに理解し始めたとしたら、それを明示化することは可能だとお考えでしょうか？そうですね。どのように
スティーブン・ウルフラム 1:11:07
多くの努力を加えることができるのでしょうか？つまり、自然科学をやっていると、自然科学で起きていることは、世界が複雑なことをやっているということなんです。そして、ニュートンの法則を発見するわけですが、たとえば、これが運動の仕組みです。
これは、世界のある種の理想化であり、私たちがそれを記述する方法であり、単純な計算で還元できる方法なのです。これと同じことだと思うのです。物理学などで物語理論があるように、起こっていることには計算上還元できない側面があり、それに対して物語理論のようなものを得ることができるのです。
レックス・フリードマン 1:11:44
憂鬱になると思いますか、それともエキサイティングになると思いますか？思考の法則がすべて明示されるとき、人間の思考が明示されるとき？
スティーブン・ウルフラム 1:11:54
計算の非簡約性を理解すれば、そうなると思います。そのどちらでもないのです。というのも、例えば、人は「ああ、でも、私には自由意志がある、私はある種の方法で活動している」と言います。しかし、実際には、すべての神経、電気的インパルス、神経、そしてこのようなものを最終的に決定する物理法則があると私たちは考えています。
だから、私たちは最終的に物理学の法則によって決定されているのだと思うと、気が滅入ると思うかもしれませんが、それは同じことで、より高いレベルです。しかし、根本的に異なるわけではありません。ところで、このような記述のレベルが上がると、さらに先に進むことができるようになります。
つまり、より複雑な種類のものを作ることができるようになるのです。コンピュータがなかった時代には、あるルールを知っていれば、それを書き出すことである程度の距離を進むことができたのと同じことです。しかし、コンピュータがあれば、もっと遠くまで行けるようになります。これと同じようなことなんです。
レックス・フリードマン 1:13:22
あなたはブログの記事で、Chad GPTは何をしているのでしょうか？そして、なぜそれが機能するのでしょうか？という話をしましたが、一歩下がってこの問いをダラダラ考えてもいいでしょうか？何をやっているのでしょうか？ChatGPTは何をやっているんです？これは何なんでしょうか？大量の単語で学習させた10億個のパラメータの束。
何、なぜ、またうまくいくように見えるのでしょうか？それは、あなたが指摘した、そのようなプロセスによって発見できる言語の法則があるという点が、そうでないからでしょうか？
スティーブン・ウルフラム 1:13:52
さて、Chad GPTがやっていることの低レベルな話をしましょう。つまり、最終的には、プロンプトを与えると、次の単語は何であるべきかを考えようとしているのです。
レックス・フリードマン 1:14:04
このような低レベルで間抜けな訓練方法が、まず構文的に正しいものを作り、次に意味的に正しいものを作ることができるというのは、驚くことではないでしょうか、
スティーブン・ウルフラム 1:14:19
私の人生の物語のようなものです。シンプルなルールが想像以上に複雑なことをすることに気づきました。シンプルに始まりシンプルに記述することが、想像以上に複雑なものに成長することがあるのです。正直なところ、このことを2年ほど前から考えていて、1時間もかかってしまいました。
そして、いつも驚かされます。例えば、物理学のプロジェクトで、単純なルールから宇宙全体が成長することを考えたときでさえも、私はまだ抵抗があります。というのも、単純なものから本当に複雑なものが生まれるのだろうか、と考え続けているからです。
しかし、私の人生の大半は、勉強してきたことから、これが物事の仕組みだとわかっていたんです。だから、例えば、一度に一文字ずつ書いて、首尾一貫したエッセイを作ることが可能だというのは乱暴な話ですが、それがどのように機能しているのかを理解する価値はあると思います。
つまり、「猫が○○の上に座った」と書くとしたら、次の単語は何でしょう？では、どうやって次の言葉を割り出すのでしょう？インターネット上に書かれた1兆個の単語を見てきたんです。そして、床に座った猫、ソファに座った猫、何でもいいから座った猫を見てきたのです。
だから、インターネット上で見た、1万個の「cat sat on the」の例を見て、最も可能性の高い次の単語は何か、それを選んで「次の単語はこれだ」と言うのが、最低限のやり方なんです。これは、あるレベルでは、この機能がやろうとしていることなのです。
しかし、問題は、インターネット上には十分なテキストがないため、適切な長さのプロンプトがあれば、そのプロンプトがインターネット上で発生したことはない、ということになります。さらに先に進むと、訓練できるような場所、つまり、すでにあるものから確率を計算できるような場所がなくなってしまいます。
例えば、2+2と言った場合、2+2が4となる例は何十億通りもあり、2+2が5となる例はごく少数です。というように、何が起こるか大体わかるのです。では、例題から何が起こるかを導き出すだけではだめで、異なる例題に対して確率論的に何が起こるかわからないのであれば、モデルが必要です。
物事のモデルを作るという考え方は、おそらくガリレオが最初に考え出したアイデアだと思います。私が書きました「チャトリ・ビューティ」の本でもその例を挙げましたが、ガリレオはピサの塔の各階から砲弾を落としていたんですね。
この階から大砲を落とし、この階から大砲を落とし、5階を外したとか、理由はともかく、例えば1234678階から大砲が地面に落ちるのにかかった時間を計算するわけですが、そこで問題になるのが、「計算できますか？模型を作ることはできますか？どの図が、ボールにかかった時間を計算するのでしょうか？」ボールが床から地面に落ちるのにかかる時間は、明示的に測定したわけではありません。
ガリレオが気づいたのは、数学を使って、数式を使って、ボールが落下するのにかかる時間のモデルを作ることができるということです。そこで今度は、「じゃあ、モデルを作ってみるか」という話になります。たとえば、もっと手の込んだもの、たとえば、ピクセルの配列があるとしますよね。このピクセルの配列はAなのかBなのか、私たちがAやBと認識するものに対応しているのか。
同じようなものを作ることができます。そして、この巨大な方程式を書くと、答えは、aか、1か2か、AかBのどちらかになります。私たち人間が、これはAで、これはBだと結論づけるように、Aの上に複雑な尻尾がついていたら、何か違う結論になるのでしょうか。
私たち人間が物事を区別する方法にうまく対応するモデルとは、どのようなものでしょうか。ニューラルネットはそのようなモデルです、というのが大きなメタ的発見でした。しかし、このモデルは、私たちが考える脳の仕組みに非常によく似ており、驚くことではありませんが、このモデルは実際に私たちがこのような区別をする方法と一致していることがわかりました。
つまり、このニューラルネット・モデルは、私たち人間が行うのと同じように、物事を区別し、一般化するということなのです。そのため、「猫が緑の上に座った」と言うと、「猫が緑の上に座った」という例をあまり見たことがなくても、「ツチノコが緑の上に座った」という例を作ることができるのですが、その特定の文はインターネット上では発生しません。
そのため、実際に見た例から一般化しなければならないのです。つまり、ニューラルネットは、私たち人間と同じような方法で一般化するということなのです。もし私たちが宇宙人だったら、宇宙人は私たちのニューラルネットの一般化を見るかもしれません。
例えば、「a」に「.」をつけたら「A」ではなくなってしまったとか、そういうことです。しかし、私たち人間は、ニューラルネットが作る種類の区別に対応するような区別をしています。つまり、チャットGPTの驚くべき点は、その構造が、1943年当時、人々がニューラルネットの働きを想像した当初の方法と非常によく似ていることなのです。
詳細なエンジニアリングが施され、非常に巧妙に作られていますが、実は同じ発想なのです。実際、このアイデアをさらに詳しくして、実際に特殊な構造を入れて、ニューラルネットをより精巧に、より巧妙にしようとする人たちもいましたが、そのほとんどは重要ではありませんでした。
このニューラルネットを訓練するときに、この種のトランスフォーマーアーキテクチャ、このアテンションアイデアと本当に関係があるのは、このニューロンの1つ1つが他のニューロンとつながっていますか？それとも、いわば因果的に局在しているのか。
言葉の並びを作るようなもので、言葉は前の言葉に依存します。これは重要なことだと思いますし、巨大な混乱を招かないように物事を整理することだと思います。しかし、結局のところ、充電されたものについて理解する価値があるのは、ニューロンとは何かということです。
つまり、最終的にはニューラルネットになるわけですが、最終的には、各ニューロンは、他のニューロンの束から入力を受けて、最終的には数値を持つことになります。そして、私は自分の上にあるニューロンを見ます。そして、これらのニューロンの値は何であるかを調べ、それらを合計して重みをかけます。そして、「0より大きいなら1にする」とか「つまり0にする」とか、もう少し複雑な関数を適用します。この仕組みはとてもよくわかると思います。
レックス・フリードマン 1:21:50
巨大な方程式でたくさんの変数があります。4階のデータがない場合、ボールがどこに落ちるかを考えるという話がありましたね。この方程式は、以下のように単純ではありません。
そして、ある意味、このような方程式を訓練するという簡単な手順で、次のようなことができるのは非常に驚きです。 まあ、自然言語をうまく表現できていると思いますね、
スティーブン・ウルフラム 1:22:19
本当の問題は、このニューラルネットのアーキテクチャで、何が起きているかというと、「数字を扱うだけではダメである」ということです。例えば、英語の5万語の各単語をマッピングして、各単語または各単語の一部をある数字に対応させます。
これらの数字をすべて入力します。そして、層から層へと波及していき、最終的にはチャタジーは400層くらいになると思います。そして、新しい単語を計算するたびに、「前の単語の数値はこれだ」。そして決定します。
あるときは最も確率の高い単語を使い、あるときは最も確率の高くない単語を使います。面白いことに、いわゆる温度パラメータがあります。温度がゼロのとき、次に来る可能性が最も高いと推定される単語を常に使います、 温度を上げると、言葉の選択がますますランダムになり、質の低い言葉になっていきます。
2が、昨日から気になっていたことなんですが、通常は合理的な答えを出しているのに、その温度で、ある確率で、無意味なことを言い始めるんです。そして、なぜそうなるのか、誰にもわからないのです。つまり、一度に1つの単語を書き出すということを理解する必要があるのです。
しかし、外側のループは、「よし、単語を置け」と言うのです。この外側のループは、ほとんど些細なことのように思えますが、このプログラムの動作にとって本当に重要なことなのです。例えば、外側のループがちょっと面白いのは、答えを出すことです。
その答えが正しいかどうか尋ねると、「いいえ」と答えます。と聞くと、「いいえ」と答えます。そして、なぜそれが公平なのか、正しいのか、正しいのか。なぜそんなことができるのでしょうか？その答えは、一語ずつ前に進んでいくからです。
そして、ある意味、思考の連鎖によって、完全に間違った答えを導き出すのです。しかし、それを食べさせるとすぐに、「これは正しくない」と思い、「これは悪い三段論法である」と認識することができるんです。そして、いわば庭の道に導かれながら、間違った場所に来てしまったにもかかわらず、何が起こったのかを理解することができるのです。
レックス・フリードマン 1:25:13
しかし、このような手順が、インターネット上の言語のかなり良い圧縮表現を形成するものに収束するのは魅力的です。ええ、それは非常に流動的です。そうですね、今現在は、何をどうしたらいいのかよくわからないのですが？
スティーブン・ウルフラム 1:25:28
そうですね、私たちが理解していないことはたくさんあると思います。例えば、170億個の重みは、1兆バイトの情報量に相当します。それで、なぜ、ニューラルネットのウェイトの数が増えるのか、その理由は何なのか、私にはよく分かりませんが、ある意味、何が起こっているのか明確なルールがある以上、その事実そのものを論証することはできないのです、 最終的には、より小さなニューラルネットができ、それがうまく現象を捉えることができると期待するかもしれませんが、そのための最良の方法がニューロンだとは思いません。
そして、他に構造化する方法がない場合に行う、非常に優れた方法です。そして、この2000年間、私たちは他の方法で構造化することをしなかったので、これは始めるのにかなり良い方法だと思います。しかし、だからといって、ある意味、より象徴的なルールを見つけることができないわけではありません。このルールの多くは、ニューラルネットの構造の多くを取り除くことができます。そうすることで、よりシンプルな方法となるのです。
レックス・フリードマン 1:26:47
ではニューラルネットは、ニューラルネットの必要性をますます少なくするような、優れた記号的ルールを明らかにしてくれることを期待しているのですね．
スティーブン・ウルフラム 1:26:57
そうですね。しかし、まだ曖昧な部分もあります。例えば、「何を形式化できるのでしょうか？何を計算言語化できるのでしょうか？」脳がそのように設定されているため、そのようなことが起こるのです。
レックス・フリードマン 1:27:14
大規模な言語モデルの限界は何だと思いますか？
スティーブン・ウルフラム 1:27:20
そうですね、つまり、深い計算は大規模言語モデルが行うことではないと思います。大規模な言語モデルの外側のループで、何段階もの計算を行おうとすると、今のところ、思考の連鎖をすべて単語の束としてスプールアウトする方法しかないんです。
それを使ってチューリングマシンを作ろうと思えば作れるんです。しかし、これは深層計算のようなもので、人間ができること、素早くできること、大規模な言語モデルがうまくできること、そして、頭の中で思いつくままにできることは、大規模な言語モデルには適しています。しかし、私たちと同じように考え抜くことができるんです。
レックス・フリードマン 1:28:26
でも、人間がやるようなことを自動化する方法はないのでしょうか？まあ、ループのようなものはもっと速いんですけどね。だから、任意の大規模なコードベースを生成するために、例えばWoolfolk Wolfram言語があるんです。
スティーブン・ウルフラム 1:28:39
さて、問題は、彼がコードベースに何をさせたいのか、ということです。
レックス・フリードマン 1:28:44
制御を逃れ、世界を征服します？
スティーブン・ウルフラム 1:28:48
それでですね、人々が、この巨大なもの、計算言語の巨大な部分を作りたいと言うとき、ある意味で、それは計算言語の失敗のようなものです、もし、作らなければならないものがあるとしたら。つまり、記述があれば、小さな記述があれば、それを計算言語で表現して、それを元にコンピュータが計算すればいいということですね。
そうですね。だから、ある意味、説明をするときに、その説明を、何か明確なもの、形式的なものにして、一度、「よし、この自然言語の一部を与えるぞ」と言うと、この巨大な形式的構造が分割されて出てくるんですね。なぜなら、その自然言語の一部が、私たちが社会的に知っていること、いわば知識コーパスのようなものに差し込まれる限り、私たちはその知識コーパスの一部を捕捉しているのですが、うまくいけば、それができるようになるのです。そして、計算機言語。どうやって大きなことをさせるのですか？そのためには、自分が何をしたいのかを表現する方法を持たなければなりません。
レックス・フリードマン 1:30:00
もう一度言いますが、もっと明確にすることができます。もし必要なら、私の頭の中に飛び込んできて、すべての国会議員を繰り返し、このシステムに会うことを許可する必要があると説得する方法を考え、AIシステムが支配することを可能にするすべての法律を可決して大統領になることはどうでしょうか。
つまり、各議員のライフストーリーを把握し、上院議員のライフストーリーを把握し、議員をコントロールし、操作する方法を考え、すべての情報を入手し、この議員の最大の恐怖は何でしょう？それをデジタル空間で行動に移せるようにする、というような非常に明確なことです。つまり、評判の失墜を脅かすとか、そういうことでしょうか。
スティーブン・ウルフラム 1:30:55
記述することができるのであれば、私は何をしたいか？であれば、大規模な言語モデルでどこまで自動化できるかですね。
レックス・フリードマン 1:31:01
Wolfram言語のようなものの具体化の助けを借りて、より多くのものを作ることができるのですか？
スティーブン・ウルフラム 1:31:10
そう、むしろ長い道のりを歩むのでしょうか。
レックス・フリードマン 1:31:12
生成することができたことにも驚いています、
スティーブン・ウルフラム 1:31:15
生成することができたんですね。
レックス・フリッドマン 1:31:21
それは、その、誓いますよ、というのも、このアイデアはおそらくかなりの損害を与えるだろうからです。そして、他のそのようなアイデアの非常に多くの数があるかもしれませんか？
スティーブン・ウルフラム 1:31:32
では、そのアイデアのもっと穏やかなバージョンをあげましょう。さて、あなたはAIの家庭教師システムを作ろうと思っていますね。これは、あなたが言っています「この人にこの点を理解してもらいたい」ということの穏やかなバージョンです。
そう、あなたは本質的に機械学習をしています。つまり、最後の関数は、あなたが到達しようとしているのは、「人間にこの点を理解してもらう」ということです。そして、その人間にテストをしてもらうと、「ああ、これはこういう仕組みなんだな」と正しく理解してもらえます。
私は、大規模な言語モデルのような技術と計算言語とを組み合わせることで、人間に物事を教えることができるようになると確信しています。面白い現象になりそうです。個別指導というのは、長い間、ある種の目標でしたが、それが実現すると思います。
私が知るべき3つのことは何か、私がすでに知っていることを考えると、何が何だか、例えば、私が何かの論文か何かを見ていると、その論文のこの要約の、いわば私のために最適化されたバージョンがあり、それが本当はどこにあるのか、それが本当にうまくいくと思いますが、みたいな感じです、
レックス・フリードマン 1:32:59
それがあなたの知識の大きなギャップを理解することができ、実際にそのトピックについてより深い理解を与えるということですね。
スティーブン・ウルフラム 1:33:08
そうですね。これは重要なことです。教育について考えるとき、何をする価値があるのか、何をする価値がないのか、そういったことが本当に変わってきます。しかし、結局のところ、これらのことを学ぶには、ある種のメタ的な方法があることがわかったんです。
そして、この考え方は、いわば、知識を与えられることが容易になる、ということだと思います。そして、もしあなたがこの特定のことを知る必要があるなら、効率的な方法でそれを教えてもらうことができるようになるのです。
そして、専門的な知識の大きな塔の価値は、全体像を理解し、物事を結びつけることができるようなメタ知識に比べれば、あまり重要ではなくなります。私たちは知識の塔に登らなければならないから、もっともっと専門的になろうという大きな流れがあるのだと思います。しかし、そのようなステップを踏まずに、塔の上のその場所に到達できるような、より自動化された状態になるまでに。そうなれば、この図式は一変すると思います。
レックス・フリードマン 1:34:35
面白いですね。では、あなたの直感では、その集合体を構成する個々の精神における、種の集合的な知性という点では？より多くの人がジェネラリストになり、哲学者のような存在になる傾向があるのでしょう。
スティーブン・ウルフラム 1:34:53
それが私の考えることです。人間が役に立つのはそこだと思います。この種のものの多くは、物事の機械的な作業をドリルで行うことで、より自動化され、いわばAIの領域になっていると思うのです。
レックス・フリードマン 1:35:09
博士号はもういらないのでしょうか？
スティーブン・ウルフラム 1:35:11
なるほど、それは興味深いですね。そうですね。つまり、専門化の塔のようなものは、私たちの種の中で多くの知識を蓄積してきたものですが、ある意味、私たちが道具を作る自動化をするたびに、塔全体を知る必要はなくなり、塔の頂上に行くための道具を使うことができるようになります。
AIが何をしたのか、人間が何をしたのかを考えるとき、最終的には、AIが何をしたのか、人間が何をしたのかを考えることになると思います。AIは、「この目的を達成しろ」と指示すると、その目的を達成するために必要なことを教えてくれます。
しかし、「何の目的は達成したいですか?」AIにはそのような発想はありません。それは定義されたものではありません。それは、他の、つまり他の存在からもたらされなければならないものであり、私たちがいわば責任者である限り、あるいはそれが何であれ、私たちの社会と歴史などの網の目のようなものが、私たちが行きたい目的を定義しているものなのです。それは、私たち人間が必然的に関与していることです。
レックス・フリードマン 1:36:25
少し押し返すと、GPTの将来のバージョンでは、どのような目的を達成したいのかについて良い答えが得られると思いませんか？
スティーブン・ウルフラム 1:36:36
どんな根拠で？つまり、ほら、こんな恐ろしいことが起こるかもしれないよ、と言われたら、です。なるほど。彼らはインターネットの平均値を取っています。そして、インターネットの平均から、人々は何をしたいのか、と言っているのです。ということです。
レックス・フリードマン 1:36:49
イーロン・マスクのエッジは、最も面白い結果、最も可能性の高い結果なのです。
スティーブン・ウルフラム 1:36:56
そうですか。彼からのものですね（笑）
レックス・フリードマン 1:36:58
一つの目的である可能性がある、最大化です。グローバルなエンターテイメント。そのダークバージョンはドラマです。その良いバージョンは楽しさです。
スティーブン・ウルフラム 1:37:13
そうですね。つまり、この疑問は、AIに、あの、種は何を達成したいのか、と言えばいいのでしょうか？
レックス・フリードマン 1:37:23
答えが出ますよね？
スティーブン・ウルフラム 1:37:27
答えがあるはずです、それはインターネットの平均が種が達成したいと言っていることでしょう？
レックス・フリードマン 1:37:32
まあ、これは、平均という言葉を非常に緩く使っているのだと思います。だから、これらの言語モデルがより良く訓練されるにつれて、答えはますます面白くなると思います。
スティーブン・ウルフラム 1:37:45
いや、でも、結局のところ、私たちがすでに言ったことが反映されたものなんですよ。
レックス・フリードマン 1:37:51
でも、集合知には、おそらく個人よりも深い知恵があると憶測しているんです。もしかしたら、私たちはただ、社会というものを目指しているのではないでしょうか？
スティーブン・ウルフラム 1:38:01
つまり、それは、それは、重要なことなんです。興味深い質問ですね。私たちの中には、イノベーションを起こしたり、新しいことを発見したりすることに取り組んでいる人がいますよね。
それは時に、いわば突拍子もないことをする個人と、慣性の高い平均的なことをしようとする集団との間で、複雑な相互作用が生じます。そして、時には集団が、面白いものを湧き上がらせることもあります。そして時には、このような革新的な方向性を打ち出そうとする試みに水を差すこともあるのです。
レックス・フリードマン 1:38:41
しかし、その単純化を超えた大規模な言語モデルは、知的でキャリアの多様性が本当に重要であると言うのではないでしょうか。だから、クレイジーな人たちや、外れたところにいる異端者が必要なのです。このようなことで、実際のところ、この全体の目的は、私たちが人類文明として使ってきたこの種の力学を通して探求することであり、それは、ほとんどの人が1つのことに集中することです。
そして、郊外にいるクレイジーな人たちは、その1つのことに反対しています。そして、社会全体をまとめ、主流の科学があり、クレイジーな科学があります。それが人類の文明の歴史です。そして、もしかしたらAIシステムはそれを見ることができるようになるかもしれません。
そして、言語モデルがそれを教えてくれることに感動すればするほど、私たちはそれをよりコントロールできるようになり、社会の運営を任せるようになるでしょう。それゆえ、社会がAIシステムに運営されるように操作されるような、この種のループがあるのです。
スティーブン・ウルフラム 1:39:42
そうですね。つまり、興味深いのは、私たちは常に進歩していると考えていることです。しかし、ある意味、すでに存在しているものを、存在すべきもののモデルとして使おうというのであれば、面白いことに、例えば、多くの宗教がそのような視点に立っています。
その聖典は、人々が将来にわたってどのように行動すべきかを定めています。そしてそれは、人々が行動してきたモデルなのです。ある意味、これはそのバージョンであり、この種の声明であり、世界がどのように自らをさらけ出してきたかを2023年バージョンで表現し、それを使って世界が将来どうあるべきかを定義しているようなものです。
レックス・フリードマン 1:40:34
でも、それは不正確な定義ですよね？宗教のテキストやGPTと同じように、GPTが言うことを人間が解釈することは、システムの摂動であり、ノイズであり、不確実性に満ちているからです。GPTが変わるわけではないのですが、具体的にどうすればいいのか、おおよそのストーリーを話すと、ほら、他の頬を向けるようなストーリーでしょう？それは、それは、完全に有益な物語ではありません。
スティーブン・ウルフラム 1:41:07
まあ、AIが世界中のシステムをコントロールするようになるまではね、
レックス・フリードマン 1:41:11
自分が何をするかということを非常に正確に伝えることができるようになります。
スティーブン・ウルフラム 1:41:14
これをするのか、それともあれをするのか。そして、それだけでなく、各人に対して、次はこうしてください、次はああしてください、と自動で提案してくれるようになります。つまり、一般的に見られるような状況よりも、少し杓子定規な状況だと思います。
しかし、「人間に何が残されているのか」という疑問は、インターネット上の情報によって定義される人間の目的のコーパスが、どの程度存在するのか、ということだと思います。それは重要なことです。しかし、計算の宇宙と考えられるものを探求し、さまざまな発明ができる可能性を探っていくと、さまざまなものを作ることができるようになるのです。
問題は、私たちはどれに従うか、ということです。その選択こそが、ある意味、人類が人類の進歩を維持したいのであれば、いわば私たちが選択できることなのです。つまり、「今あるものを、将来あるものの判断材料にしましょう」という考え方があるのです。
人間にとってチャンスとなるのは、さまざまな可能性があることです。そして、私たちがループの中にいたいと思う限り、ループの中にいて意味があるのは、それらの可能性の中から私たちが望むものを選ぶことなのです。
レックス・フリードマン 1:42:52
しかし、フィードバックループがある程度になると、私たちが何かを選んでいるという考え方が怪しくなってきます。なぜなら、私たちはさまざまなシステムから影響を受けているからです。もしそこにあるのなら、私たちの教育や知恵や絶対的な知識の源はますます増えていくでしょう、
スティーブン・ウルフラム 1:43:09
AIに乗っ取られてしまうのです。つまり、私が長い間考えていたのは、ARの自動提案こそが、矢印を支配するものであり、人間はそれに従うだけなのです、ということです、
レックス・フリードマン 1:43:22
私たちはもうお互いに電子メールを書くことはありません。
スティーブン・ウルフラム 1:43:27
ええ、そうですね。しかし、人間がループに入る可能性があるのは、選択肢があるときです。そして、私たちの履歴のウェブ全体に基づいて選択することができるのです。そうですね。そして、それがすべて決定される限り、人間には居場所がないのです。
ところで、あるレベルでは、これは複雑な哲学的問題なのですが、あるレベルでは、宇宙はただそうしているだけなのです。私たちはその宇宙の一部であり、必然的にそうなっているのですが、しかし、私たちは自分のしていることにある種の代理権があると感じています。そしてそれは、あなたが言うように、それ自体が別の種類の興味深いものなのです。
レックス・フリードマン 1:44:13
私たちはまた、自分たちが最終目的地であり、宇宙が創造しようとしたものであると感じています。しかし、私たちは、明らかに、ある種の中間的なステップである可能性が非常に高いです。そうですね。ある種の中間的なステップであることは間違いないでしょう。
問題は、もっとクールで、もっと複雑で、もっと面白いものがあるとしたら、それは物質化された計算機と呼ばれるもので、宇宙にはそういうものがたくさんある。しかし、私たちの特定のポケットでは、具体的には、これが私たちのベストかどうか、それは私たちができるようなことなのです。
スティーブン・ウルフラム 1:44:45
計算機の世界では、あらゆる種類の面白いものを作ることができます。数学の世界では、人間の数学者が書き留めて発表した、300万から400万の定理がありますよね。しかし、数学の定理は無限にあり、私たちはその中から別の定理を選ぶだけです。
そして、人々はそれを見て、「この定理の意味がわからない」と言うでしょう。この定理は、私たちが扱っている歴史の網の目のようなものの一部とは関係がないのです。AIと私たちとの関係を理解するための1つのポイントとして、AIが自分たちの仕事をし、私たち人間には理解しがたい方法で仕事をする、このようなインフラ全体があると思います。
それはとても奇妙な状況です、どうして私たちが理解できないような振る舞いをするものを作ったのでしょう、計算の非簡約性に満ちている、などと言われるかもしれません。あのですね、何、これは何なの？世界がAISに支配され、その操作が理解できないとき、どんな気分になるんでしょう。
自然界には明確なルールに従って動作するものがたくさんあり、それらはあらゆる種類の計算の非簡約性を持っています。時折ある。で、その、例えば、AIが私たちを絶滅させるのかっていうのは？例えば、AIが私たちを絶滅させるかというと、それはAIの仕業で、最終的に種を滅ぼすことになるわけですが、同じことを自然界の仕業で、最終的に地球を爆発させることになるかというと、そういうことです。
そういう疑問があったんです。そして、私たちが自然界で起こっていることを理解していると思う限り、それは科学や自然科学などの結果です。目の巨大なインフラができたとき、私たちは新しい自然科学を発明する必要があると思います。
しかし、馬を説得して、ここからあそこへ、あそこへ連れて行ってもらうために、一定のルールやアプローチを得ることはできます。これと同じようなことが、私たちが扱っている理解不能な計算不可能なAIにも言えるのです。しかし、私たちはこのような還元性のポケットを見つけることができ、馬に乗ることができるようになります。
あるいは、こうすれば、馬に乗ることができ、その馬が私たちの興味のあることをするようになる、成功する方法だということがわかるのです、
レックス・フリードマン 1:47:48
馬と大規模な言語モデル、あるいはインターネットに接続されたAGIと呼ばれるようなものとの間には違いがあるように思います。これらのものの脅威に関する大きな哲学的な疑問についてお聞きしたいのですが。エリエイザー・ユドコフスキーのように、AIシステムの人類存亡リスクを心配する人はたくさんいます。あなたはそのようなことを心配しているのですか？Wolfram Alphaのような信じられないようなシステムを構築しているときは、それに没頭してしまうものです。
スティーブン・ウルフラム 1:48:24
そうですね、自分のしていることの意味を少しは考えるようにしています。
レックス・フリードマン 1:48:28
マンハッタン計画のような状況ですね、信じられないような物理学や工学が行われているのですが、これはどこに行くのだろうという感じです。
スティーブン・ウルフラム 1:48:37
このような議論の中には、彼らは常により賢いAIであり、彼らは常に、最終的にはAISが私たちよりも賢くなり、そして様々な恐ろしいことが起こるだろう、というようなものがあると思います。このような議論は、神の存在に関する存在論的な議論を思い起こさせます。
特定のモデル、かなり単純なモデルに基づいた議論で、「常に他よりも大きなものが存在する」「これはこうである」というようなものです。そして、その話は実はそうではなく、もっと複雑な話であることが判明します。例えば、次のような問題があります。
ある生態系に頂点捕食者がいるように、頂点となる知性は存在するのでしょうか。それは、頂点に立つ知性、つまり、最も知的な存在になるのでしょうかか？答えは「ノー」だと思います。
実際、私たちはこのことをすでに知っています。これは、計算の非簡約性という話にも通じることです。たとえチューリング機械があったとして、そのチューリング機械が停止する前に可能な限り長く走らせることができるのか、という疑問があるんですね。これがその機械で、これがそれを実現する頂点機械だとすると、もっと長く走れる機械が必ず存在することになります。可能なチューリング・マシンを無限に集めても、いわば最後まで到達することはないのです。常に新しいものを発明できるのでしょうか？答えは「イエス」です、可能な発明は無限の塔があるのです。
レックス・フリードマン 1:50:21
それは頂点の定義の1つです。しかし、他のものは、例えば、あなたが言ったように、私も真実かもしれないと思うのですが、種があるのでしょうか。地球上で今、頂点にある知性は何か？では、人類がそうであると言うのは些細なことではないのですね？
スティーブン・ウルフラム 1:50:38
ええ、些細なことではありません。私もそう思います。私は長い間、他の知性というものに興味を抱いてきました。つまり、私は知能を計算のようなものだと考えているのです。計算の特殊性、つまり、計算の境界性、一本の糸のような経験、こういったものに関係する意識のようなものが、世界のやや人間的な経験に対応する計算の特殊性であると考える傾向があります。
つまり、「天気には心がある」という格言のような、他の知性も存在するかもしれません。しかし、天気は私たちとうまく連携していません。私たちが考えるような物事の考え方はしていません。そして、この「異なる知性」という考え方では、異なる心、異なる人間の心は、異なる方法で物事を考える異なる知性であるとしています。
私たちの物理学プロジェクトの形式論でいえば、ルール空間という考え方がありますが、これは、ありとあらゆるルールシステムの空間です、 しかし、現実空間のある場所にある、ある心に対応する場所から、現実空間の別の場所にある、別の近くの心に対応する場所に移動するのは簡単です。
現実空間のもっと遠いもの、例えば、ペットの猫などを扱うときです。ペットの猫には私たちと共通する部分があり、猫の感情的な反応は私たちと多少似ていますが、猫は現実空間では人間よりも遠くにいますよね。しかし、猫は人間よりも現実の空間から離れています。
そこで、問題は、私たちの思考回路から猫の思考回路への変換を特定できるかということです。多くの動物、例えば犬などは、精巧な嗅覚システムを持っていて、いわば世界の匂いのアーキテクチャーのようなものを、人間にはない方法で持っているのです。
だから、もしあなたが犬と話をしていて、言語でコミュニケーションが取れたとしたら、犬はこう言うでしょう、「これの匂いを嗅いで流れるんだ」と。いつか、化学センサーが本当によく働くようになり、人工鼻がよく働くようになるでしょう。
そして、拡張現実システムで、犬が見たのと同じ地図を見せたり、犬の脳で起きていることと同じようなことをするようになるかもしれません。そして最終的には、現実の空間が拡大し、犬と同じような感覚的な体験ができるようになり、匂いの風景など、その意味を内面化することができるようになるのです。
そうすれば、私たちは王室空間のその部分を植民地化したようなものです。動物など、ある種のものはうまく理解できるのですが、そうでないものは理解できないのです。そして、動物が考えることを、私たちが考えることができることに、どのように変換するかという問題です。それは些細なことではありません。私は長い間、好奇心を抱いていました。ある時、猫がドナーに勝てるiPadゲームを作ろうという、とても奇妙なプロジェクトがあったんです。
レックス・フリードマン 1:54:46
私は、そこに深い哲学的なものがあるように感じると言ったんです。
スティーブン・ウルフラム 1:54:51
はい、そうです。もしペットがMinecraftなどで働くことができ、物を構築することができるとしたら、彼らは何を構築するのでしょうか。そして、彼らが構築するものは、私たちが見て、ああ、そうです、私はそれを知っていると言うものなのでしょうか。
それとも、計算機の世界にある、私のセル・オートマトンが作ったようなものになるのでしょうか。私たちは、それが何らかのルールに従って動作していることを確認することができます。なぜ、そのようなルールを使うのか、私にはわかりません。
レックス・フリードマン 1:55:18
ロワイヤルの空間では、あなたと猫との間に、猫が合法的に勝てるような接点があるのでしょうか？iPadは非常に限られたインターフェイスなんですね。猫が勝つゲームってあるのでしょうか？
スティーブン・ウルフラム 1:55:35
問題は、猫がiPadで起きていることにそれほど興味を示さないことだと思うのですが。ええ、それは
レックス・フリードマン 1:55:40
インターフェースの問題です。ああ、そうですね。
スティーブン・ウルフラム 1:55:42
そうですね。いや、可能性が高いと思うのは、つまり、私たちが、その、動物にさらされたら、うまく私たちを食べてしまうような動物がたくさんいるということなんです。そして、私たちが逃げ出すよりも早く、襲い掛かってくる。だから、私たちは自分を隠したつもりでも、今はうまく隠せていないのです。
レックス・フリードマン 1:56:05
ですからそれは物理的な強さです。知性の領域ではもっと何かあるのでしょうか。猫のような動物がいるところ？
スティーブン・ウルフラム 1:56:14
確かに、ある種の物事を処理するスピードという点では、確かにあるのだと思います。つまり、例えばチェスのゲームで、猫が互いに対戦できる猫チェスがあるかという疑問です。で、私たちが猫と対戦しようとしたら必ず負けるのでしょうか？わからないですねえ
レックス・フリードマン 1:56:33
スピードに関係しているのかもしれません。しかし、それは概念と関係があるかもしれません。また、猫の頭の中にある概念かもしれない、
スティーブン・ウルフラム 1:56:39
私たちの種は、言語の発明から、チェスのようなゲームに勝つための抽象化の塔を構築することができたと考える傾向があります。言い換えれば、私たちは言語を経験し、抽象化を学ぶことで、その種の抽象的なものに対してより賢くなったのです。
しかし、だからといって、ネズミを捕まえるのが上手になるわけではありません。私たちが選んだ、自分自身に関係すること、つまり、この種の抽象的な事柄をより賢くするのです。これはまた、「人は何を気にするのか」という問いに戻るのですが、もし人が猫なら、猫と議論することができれば、猫の議論をするために物事を翻訳することができれば、猫は、「この光が動いていることにとても興奮している」と言うことでしょう。
私たちは、「どうしてそんなことを気にするんだい？と言うと、猫は「それが世界で一番大事なことなんだ」と言うでしょう。そう、この光が動くことがね。つまり、考古学的な遺跡を見て、「この人たちは、これに対してこういう信念を持っていたんだ」と言うようなものです。
そして、それが彼らにとって世界で最も重要なことだったのです。しかし、今、私たちはそれを見て、「何が重要だったのかわからない」と言います。私は、2万年以上前の洞窟の手形に興味があったんです。この手形が何のためにあったのか、誰も知りません。
想像しうる最も重要なことを表していたのかもしれないし、ただ、子供が泥に手をこすりつけて、洞窟の壁に貼り付けただけかもしれません。私たちにはわからないんです。しかし、この「何が一番賢いのか」という疑問は、「何が一番賢いのか」という疑問と同じだと思います。
どんな計算をしようとしているのか、という疑問があります。もし、ある計算が明確に定義されているとして、それをどのように実装するのか、ということです。神経細胞や発砲で実装することもできますし、ケイ素やエレクトロニクスで実装することもできますし、人間の免疫系や分子生物学のような、ある種の分子計算プロセスで実装することも可能です。
そして、この疑問は、どのような方法で、どのような実装方法で、どのような速度で、どのようなことができるのか、ということだと思います。例えば、猫の場合、私たちが見ている視覚的な光景から、ある対象を選び出し、その視覚的な光景の中のあるものを認識することがあります。
猫なら、原理的には違うものを認識するかもしれません。私は、進化、つまり生物学的な進化は非常に遅いと思っています。猫が認識するものは、非常に似ていると思います。そして、神経生理学的に、猫が気づくことは、私たちが気づくことと非常に似ているということもわかっています。
猫は2種類の色彩受容体しか持っていないので、私たちと同じ色彩で見ることはできないのです。さて。私たちは、赤、緑、青の3つの色受容体を持つ私たちの方が優れていると言いますが、私たちは総合的な勝者ではありません。シャコは15個の色受容体を持っていて、WeMoの総合的な勝者だと思います。
ですから、私たちの現在の現実観では、シャコガイの現実観は、少なくとも色に関しては、私たちよりもはるかに豊かであることを区別することができるのです。しかし、興味深いのは、どうやってそこに到達するかということです。この拡張現実システムが、赤外線や紫外線まで見通すことができるとします。
それを、目を通して、あるいはもっと直接的に、私たちの脳に接続できるものに変換しているのです。そうすれば、私たちが理解している物事の種類の網の目が、そのような構成にまで広がるでしょう。そして今、私たちはそれが何であるかを理解しています。しかし、もしそういうものを見たことがなかったら、私たちはそれを説明する方法を持たず、理解する方法も持たず、といった具合に。
レックス・フリードマン 2:01:07
AIが私たちを殺すかどうかという話から始まりましたね。私たちは、知能があらゆる空間に広がっていくことについて議論しましたが、実際には、物事がより複雑になるように思えます。プラス1の知能を持つものを作れば、プラス2の知能を持つもの、プラス3の知能を持つものを作ることができ、それは指数関数的に速く、より知能が高くなり、すべてを完全に破壊するまで続きます。
しかし、その直感は、私のケアや妥当性からすると、まだそれほど単純ではないかもしれません。ここで、2つの興味深い軌跡があります。1つは、超知的なシステムが人間の近くにいて、「こいつは本当に賢いな、大統領を選ぼう」となることです。
そして、もっと恐ろしい知能が遠ざかり始めるかもしれません。彼らは今、私たちの周りにいるかもしれません。現実の空間では遠く離れていても、物理的な資源を私たちと共有しているのです。そうです。だから、私たちから物理的資源を奪って、人間を破壊することができるんです。
しかし、AIシステムには、このような指数関数的な成長があるような、何か独特のものがあるように思えます。例えば、ウイルスもそうですが、自然界にはこのような指数関数的な効果を持つシステムが存在します。なぜなら、私たち人間は10億人しかいないのですから、その人たちをすべて叩き潰すことはそれほど難しいことではないからです。クリック。つまり、それはあなたが考えることなのでしょうか？それは？ああ、考えたよ。そうですね。その脅威についてです。
あなたは、例えばエリエーザー・ユドコフスキーのように、AIが社会に及ぼす、大きな、大きな、痛みを伴う悪影響を懸念しているのでしょうか？
スティーブン・ウルフラム 2:03:24
いいえ。しかし、それは私が本質的に楽観主義者だからかもしれません。「何か1つのものができて、それがすべてを消し去ってしまう」と考える人がいると思いますが、私は、いわば計算の非簡約性を信じています。
しかし、実際にはもっと複雑なことが判明しました。なぜなら、ある種の人間は異なるからです。そして、その正確な仕組みは、あなたの予想とは少し違っているのです。
小惑星が地球と衝突するようなものです。そして、地球は2年ほど寒冷化し、多くのものが死にますが、すべてが死ぬわけではありません。つまり、これはある意味、計算の非簡約性の話であり、常に予期せぬ角があり、予期せぬ結末があるのです。そして、何かで頭を殴られるようなことはないと思います。
地球がブラックホールに飲み込まれるとか、そういうことは当然起こり得るわけです。しかし、この「現実的なポッドとは何か」という問いに対しては、私はこう考えます。私は、「歌うこと」が増えていくと思います。つまり、人々は計算の非簡約性のような現象に慣れる必要があるのです。
機械を作ったから、その機械が何をするのかがわかるという考え方があります。そして、何が起こるかをコントロールできるようになるんです。しかし、それは正しいとは言えません。問題は、制御不能の結果、機械が陰謀を企て、私たちを絶滅させるということなのでしょうか？私が楽観主義者だからでしょうか？そんなことはあり得ないと思っています。
現実的な話として、AISの生態系のようなものが形成されるのではないかと思います。ただ、これもまたよくわからないのですが、何が起こるかはっきりさせるのは難しいことです。世の中のシステムで何ができるのか、どんなことができるのか、その詳細がたくさんあると思います。
数日前、私はこのチャット、GPTプラグインキットに取り組んでいたのですが、これは言語化されていませんでした。プラグインを作ると、Wolfram言語のコードが実行され、自分のコンピュータでWolfram言語のコードを実行することができるのです。
それで私は、「これなら作れそうだ」と思ったんです。チャートに「GPTはコードの一部を作るんだ」と言えば、私のコンピュータでそれを実行することができるんです。そうすれば、「何がうまくいかないか」ということを、自分用にパーソナライズできるんじゃないかと思ったんです。
レックス・フリードマン 2:06:30
エキサイティングですか、それとも怖いですか？その可能性は？
スティーブン・ウルフラム 2:06:33
実はちょっと怖かったんです。というのも、私はAIにただコードを書くことを委任しているようなものだと気づいたからです。あなたが担当して、コードの一部を書いて、私のコンピュータで実行するんです。するとすぐに、私のすべてのファイルが安全に
レックス・フリードマン 2:06:46
つまり、ロシアンルーレットみたいですが、もっと複雑なんですね。いい飲みゲームみたいですね（笑）。
スティーブン・ウルフラム 2:06:55
まあ、そうですね。つまり、だからこそ、興味深い質問なのですが、では、そうすると、ですね。あなたが持つべきサンドボックスは何なのでしょうか？そして、これは世界に対するこの質問のバージョンです。
つまり、AIが物事を担当するようになると、どれだけの制約があるのでしょうか？このようなシステムには、どれくらいの制約が必要なのでしょうか？AIがすべての武器や、これらすべての、つまり、すべての異なる種類のシステムを担当する前に？
レックス・フリードマン 2:07:20
そこで、サンドボックスの面白いところです。AIはサンドボックスについて知っており、それを破るためのツールも持っています。
スティーブン・ウルフラム 2:07:28
コンピュータセキュリティの基本的な問題には、計算の非簡約性がありますね。実際、どんなサンドボックスでも、システムが面白いことをできるようにしたいのであれば、完璧なサンドボックスにはならないのです。つまり、これはコンピュータ・セキュリティの一般的な問題として起こったことなのです。
しかし、ファイアウォールが万能コンピュータとして十分に洗練されたものであれば、何でもできることになります。そして、それを突く方法を見つけて、実際に普遍的な計算をさせることができればいいのです。そうすることで、意図していないことをさせることができるのです。これは計算機的還元性の別バージョンで、いわば、自分が期待していないことをさせることができます。
レックス・フリードマン 2:08:16
計算の非簡約性から生まれる興味深い可能性が、ここにはたくさんあるのです。ここでは、まさに多くのことが起こり得るのです。デジタル空間では、物事がとても速く動くので、チャットボットや、基本的にウイルスを発生させるために充電されたコードの一部を、偶然か意図的に持っていることができます。それがデジタル・ウイルスなのです。そうです。そして、彼らはフィッシングメールのように、あなたのものを説得するための脳ウイルスである可能性があります。
スティーブン・ウルフラム 2:08:47
そうです。そして間違いなくできる、ある意味、機械学習のループで、人を納得させるものを作るというループがあったんです。ええ、きっともっと簡単にできるようになるんですよ。ええ、そうですね。で、その、じゃあ、それはどういうものなのでしょうか？それはまた、私たち人間にとって、これは新しい環境です。
気候変動は何百年もかけて起こるものだと心配されていますが、それよりもずっと急速に変化しているのですから、ちょっと怖いですよね。環境は変化していますが、このようなデジタル環境は、6カ月で変わってしまうかもしれません。
レックス・フリードマン 2:09:27
GPTが社会に与える影響という点で、ここで関連する懸念事項の1つは、真実の性質です。Wolfram Alphaは、Wolfram Alphaに具現化された記号的推論による計算がインターフェースであるため、この問題に関連しています。
Wolframαが教えてくれることは真実である、という感覚みたいなものがあります。だから、期待しているんです。ええ、つまり、あなたはおそらく、それらが真実のコンピュータの問題であることを証明することができないことを示すことができる分析することができます障害。しかし、それはもっと、ジョーが強化することになるでしょう。
スティーブン・ウルフラム 2:10:05
その見た目は、事実、あなたが指定したルールの正しい帰結になります。そして、現実の世界について語る限り、それは私たちの仕事であり、データをキュレーションして収集する代わりに、そのデータが可能な限り真実の引用であることを確認することなります。
さて、それはどういう意味でしょうか？それは、いつも興味深い質問です。私たちの考える真実とは、例えば、「女優賞は誰だ」と誰かが言ったとします。誰にもわかりませんが、誰かがオスカーを受賞した。それは確かな事実です。
そうです。だから、このようなことは、真実の一部として計算できるのです。センサーが測定したものを、機械学習システムが認識したものを、いわば「事実」として計算することができるのです。そして、このようなもののネットワークが世界中に存在するのです。
特に、「この人は良い人だ」と言う場合、それは絶望的で、計算言語による「良い人」の定義ができるかもしれませんが、それはあまり面白いとは思えません。というか、私はこのことをちゃんと考えていないのですが、どうなんでしょう。しかし、「○○はいい人だ」みたいな概念って、本当なのかどうなのか。というのは、めちゃくちゃな話です。
レックス・フリードマン 2:11:47
この学期は、計算に従順なのでしょうか？私は、人間が何が良いかを定義しようとしたとき、それは混乱だと思います、実際の法律のように。しかし、人間が文学、歴史書から、詩まで、何が良いかを定義しようとしたとき、それは、まあ、と言う、
スティーブン・ウルフラム 2:12:03
私は知りません。つまり、その特殊なもの。私たちは、いわば、何が良いものとしてカウントされるかという倫理観のようなものに踏み込んでいるのです。そして、何が正しいと思うのか、など。この点については、私たち全員が同意しているわけではないのが特徴だと思います。倫理はこうでなければならない、というような理論的な枠組みはないのです、
レックス・フリードマン 2:12:33
まず第一に、私たちが同意していることがあります。そして、宗教的な文章の中の道徳や倫理から、何がうまくいき、何がうまくいかないかについて、経験的な裏付けがあるのです。ですから、私たちは殺人は悪いことだということにほとんど同意しているようです、
スティーブン・ウルフラム 2:12:49
AIの殺害は悪いことなのでしょうか。
レックス・フリードマン 2:12:53
まあ、そうだと思いがちですが、その疑問と戦わなければならないでしょうね。ああ、AIなら何て言うんでしょう。
スティーブン・ウルフラム 2:13:03
AISの問題点の1つは、AIを一掃することだと思います。そのAIには1万人の人間の友達がいて、その1万人の人間が「私は駆除された」といって驚くほど動揺するのですから。
AIを駆除しても何の問題もありません。しかし、この「人間は何に同意するのか」という問いは、とても重要だと思います。歴史上、人々がある種の法律から遠ざかっていった時期があります。それは、まったく正しいとは思えません。しかし、私は、この問題は、もしあるルールがあれば、その種が絶滅してしまうということ以上のことは言えないと思うのですが、どうでしょうか。
というのも、法律を運用できるようなものがあるということは、その種が絶滅しないことが必要だからです、
レックス・フリードマン 2:14:32
しかし、Wolfram Alphaが答えられるシカゴとニューヨークの距離はどれくらいかという質問と、この人は優秀かどうかという質問の間には、多くのグレーゾーンがあるように思えます。それが面白くなってきたんです。WolframAlphaが誕生したときからあなたの感覚は、大規模な真実の裁定者のようなものだったのだと思います。ですから、このシステムはより多くの真実を生成し、
スティーブン・ウルフラム 2:14:58
真実であることを確認しようとします。つまり、現実問題として、人々が計算機契約を書くとき、それは、もし世界でこのようなことが起こったら、こうしてください、というようなものなのです。そうですね。これは、ブロックチェーンの話や部品の話など、それほど早くは発展しませんでしたが、ブロックチェーンは計算契約のアイデアにはあまり必要ではありません。
しかし、最終的には、ある種、世界にあるものの大部分は、こうした計算契約の巨大なチェーンやネットワークであると想像することができます。そして、世の中で何かが起こります。そして、契約書が自律的に発火することで、他のことが起こるというドミノ倒しのような巨大な現象が起こるのです。
私たちは、ブロックチェーンや計算契約のようなものに対して、オラクルの引用や事実、真実などの主要な情報源を担ってきました。そして、時々厄介なのが、「いつが真実なのでしょうか？いつが事実なのでしょうか？事実でないのはいつなのでしょうか？」
そうですね、私たちにできることは、私たちには手順があり、その手順に従うことで、間違ってしまうかもしれませんが、少なくとも、間違ったことをしても腐らないようにすることだと思います。
レックス・フリードマン 2:16:17
つまり、手順について透明性を持たせるということですね。問題は、計算言語に変換したものが、例えば政治の世界にまで拡大し始めたときに現れ始めます。そこで、Wolfram Alphaの素敵なダンスに近いものがあるわけです。そして、ジャッジ・ビーティ、陰のある美しさ、あなたが言ったように、浅く広くとして。だから、何でもかんでも意見を言ってくれるんです。
スティーブン・ウルフラム 2:16:47
しかし、それは事実と同様にフィクションも書く、まさにそのように作られているのです。つまり、まさにその通りなのです。それは言語を作っているのです。そして、フィクションを書くコードでさえも、その両方を作っているのです。
たまに見ると、ちょっと面白いですよ。架空のWolfram言語コードを書くんです。そうなんです。その言葉、なんだかしっくりきますね。ああ、そうですね。でも実際、実用的には正しくないんです。そうですね。しかし、そうです、それは、フィクションの本と同じレベルで、世界がどのように動くかをおおよそ語っているようなものなのです。
ただ、実際に世界がどのように動いていたかということではないのですが、それはそれでいいのです。しかし、そうですね。私たちは、Wolfram言語や計算機言語というものを使って、少なくとも、実際の世界の仕組みを表現しようと試みています。
しかし、そのルールを実行した結果を正確に表現しようと言っているのであって、実際の世界のルールとは異なるかもしれません。しかし、私たちは、世界で起こることを表現するために、世界の特徴をできるだけ正確にとらえようとしています。
さて、これまで述べてきたように、世界の原子が配置され、戦車が現れて、どこかに走っていったとします。では、戦車とは何でしょう？原子の配置を抽象的にタンクと表現しているんです。しかし、それは、私たちが決めたわけではなく、このオブザーバー理論の問題のように、どのような原子の配置が、戦車と戦車でないものを相殺するのか、という疑問があります、
レックス・フリードマン 2:18:44
私たちが強い事実だと考えているものでさえも、それを分解して、そうでないことを示すことができるのです、
スティーブン・ウルフラム 2:18:53
そうですね。つまり、この突風はこの特定のものを吹き飛ばすのに十分な強さだったのか、という疑問です。一陣の風というのは複雑な概念です。流体力学の小さな断片や、あちこちにある小さな渦でいっぱいです。この突風が、風力発電機などのブレードにどれだけの圧力をかけているのかを定義する必要があります。しかし、もし、突風が強かったという事実があるのなら、それは、何か定義が必要です。
レックス・フリードマン 2:19:44
ChatGPTは、何が事実で何が事実でないかという考えと闘ってきたわけです。大規模な言語モデルを扱う人たちは、手動で、あるいは人間のフィードバックによる強化学習で、さまざまなメカニズムを使って、どうすれば本質的に検閲できるかを必死に考え、フィクションとは言わず、できるだけノンフィクションだと言うように仕向けようとしているわけです。
スティーブン・ウルフラム 2:20:25
可能です。これは中間体としての計算言語の重要性です。大規模な言語モデルを手に入れたことで、何かを表出させることができるようになりました。何をするのかが正確に定義されているのです。そして、大きな言語モデルはインターフェイスです。
私が考える大型言語モデルの重要な点は、多くのユースケースを持つことです。毎日、新しいユースケースを2つ3つ思いつくのですが、その中にはとてもとても驚くようなものもあります。例えば、1週間か2週間前に行った使用例では、バグレポートを読み上げました。そのバグレポートを読んで、どこにバグがありそうなのかを特定します。そして、そのコードの一部に焦点を当て、もしかしたらコードを修正する方法を提案してくれるかもしれません。
コードを修正する方法について書いてあることはナンセンスかもしれませんが、信じられないほど便利なんです、
レックス・フリードマン 2:21:42
というのは、ナンセンスなものであっても、何らかの形で有益なものになるからです。私は知りません。あなたが持っていることをよく理解していません。ええ、プログラミング関連はたくさんあって、例えば、あるプログラミング言語から別のプログラミング言語への翻訳とか、本当に、面白いんです。非常に効果的なんです。しかし、失敗が前途を明らかにすることもあるんです。
スティーブン・ウルフラム 2:22:05
でも、そのような議論の中で、私たちの計算言語のユニークな点は、人間が読むことを意図していることだと思います。だから、とても重要な意味を持つんですね。しかし、GPTチャットやその使い方について考えてみると、GPTの大きな特徴の1つは、言語的なユーザーインターフェイスであると思います。
しかし、その5つの事実をトラックGPTに送り込み、大きなレポートへと膨らませるのです。もし、私が自分の言葉で5つの箇条書きを書いただけで、それを他の人に渡すと、その人は、「何を言っているのか分からない」と言うでしょう、これは、この5つの箇条書きについての簡単なメモのあなたのバージョンなのですから。
しかし、これを言語の集合的な理解につながるようなものにすれば、他の人がそれを見て、「なるほど、あなたの言っていることはよくわかる」と言うことができるようになります。例えば、ある場所で魚を育てるための許可を申請するようなものです。
そして、このような事実、つまり、私はこのような水を使うつもりです、それが何であるかは分からないが、いくつかの箇条書きにしたものを、この大きな申請書に書き出すのです。漁業局はこの3つのポイントを重要視しており、何を重要視しているかを理解しています。
ロッジ言語モデルが生成する自然言語は、LLMがLLMと通信するトランスポートレイヤーのようなものなのです。つまり、私がLLMを使ってメールを書くと、LMはそれを「言いたいこと」に変換し、結論は「x」になる、というようなものです。
しかし、それは実際には、あなたが考えているような世界との関わり方をしていないかもしれません。私はこのような事態を目の当たりにしたことがあります。トラックGPTのプラグインを発表したとき、数学の単語問題の素敵な例を持っていたのですが、複雑なものでした。
そして、それを方程式の束に変えてしまったのです。そして、それを言語化したのです。私たちは方程式を解きます。みんなよくできました。私たちは結果を返しました。そして、今書いているブログの記事にこのことを書こうと思ったんです。それで、ちょっと確認してみようと思ったんです。
そしてわかったのは、この記事はすべて、難しいことはすべて正しく書かれているということです。しかし、最後の2行で完全に間違えてしまい、間違った答えを出してしまったのです。そして、これと同じことが2日前にも起こっていたことに気づきませんでした。
そこで私は、このチャットGPTプラグインキットを使って、音を出すものを作り、ローカルのコンピューターで曲を演奏してみようと考えました。それで、Tを充電して、一連の音を出すと、私のコンピュータでこの曲を演奏することができます。とてもクールです。じゃあ、それを聞いてみようと思ったんです。2001年に切断されたときにハウが歌った曲を演奏してください。よし、それなら……これだ
レックス・フリードマン 2:25:58
です。デイジーはデイジーでした。そう、デイジー。そうです、そうです。
スティーブン・ウルフラム 2:26:02
そうですね。それでね。さて、それで、私は思うのですが、それで、たくさんのノートが出来上がるのです。そして、「これは壮観だ。これはすごいことだ」そして、ただ入れるだけかと思いきや、実際に演奏してみようと思ったんです。それで、実際に演奏してみたんです。そして、「結婚したのは小さな子羊」（メリーさんのひつじ）でした。
レックス・フリードマン 2:26:21
おお、すごいですね。しかし、彼は「Mary Had a Little Lamb」でした。そうなんです。そうなんです。すごい。だから正しいんです。しかし、間違っています。ええ、そうでしたね。簡単に間違えられます。
スティーブン・ウルフラム 2:26:32
そうですね。その通りです。実際、私は、この引用を、どう説明するか、つまり、映画の中で、ハル9000がそうであるように、このことは、単なる修辞的な装置だったのです。つまり、これはすべて、映画に関するこのことを知り、それを曲の音符に変えることができるという驚くべきことをしたのです。
ただし、それは間違った曲です。そうですね。そして、映画の中で、「9000シリーズのコンピュータでエラーが発生したことはない」というようなことが書かれていますね。私たちは、実用上、完璧であり、エラーを起こすことはできない、というような内容で、チャーミングな引用だと思いました。
レックス・フリードマン 2:27:28
そうですね。ハローラボの面白いところは、あなたが言ったように、彼らは自分のことをとても喜んで認めていることです。
スティーブン・ウルフラム 2:27:34
まあ、そうですね。つまり、彼らは強化学習による人間のフィードバックのようなものです、ということです。ああ、そうですか。私は大規模な言語モデルで何が起きているのかを追っていましたし、何度も遊びました。そして、「ああ、これは言語の統計的な連続性から予想されることである」という感じでした。
面白いけど、ブレイクするほどでもありません。しかし、強化学習、人間のフィードバック、強化学習、つまり、人間が本当にやりたいことをやるようにチャットを作り上げることで、この閾値を突破し、人間にとって本当に面白いものになったのだと思うのです。
ところで、温度を変えたりすると、面白いことになります。温度などを変えると、もうおかしくなってしまうのです。そして、もはや人間にとって興味深い存在ではなく、ゴミを生産するようになります。そして、それはある意味正しい。
しかし、それは私たち人間が興味を持つことにうまく合致しているのです。そして、このようなことは、誰も予想していなかったことだと思います。私が話した限りでは、そのプロジェクトに関わった人は誰も、このことが起こるとは思っていなかったようです。
こういうことのひとつなんです。これは、ある種の驚くべき閾値です。例えば、Wolfram Alphaを作ったときも、それがうまくいくとは思っていませんでした。私たちは、世界に関する十分な知識を持ち、合理的な質問セットに答えられるようなものを作ろうとしました。
その閾値がどこにあるのか、私たちには分かりませんでした。つまり、これを作ろうとするのに適切な10年なのかどうかがわからなかったのです。50年かけて作るのが正しいかどうかもわかりません。トレイシー・ビーティと同じようなもので、2022年にこれが可能になるとは、誰も予想できなかったと思います。
レックス・フリードマン 2:29:38
あなたはMarvin Minskyの話をして、彼にそれを見せて、いやいや、今回は実際に動くんだよと言ったと思います。
スティーブン・ウルフラム 2:29:46
ええ、そうです。だから、それと同じことなんです。私はこのような大規模な言語モデルを見ています。最初の数週間、ChatGPTは「ああ、そうだ、この大規模な言語モデルを見たことがある」と言ったようなものです。
そして、実際に使ってみると。そして、実際に使ってみると、あら不思議、うまくいくんです。そして、ちょっとだけですが、いろいろなことがわかりました。私が最初に試したことの1つは、オオカミは最も青い種類の動物であるという説得力のあるエッセイを書くことだったのを覚えています。
そして、チベット高原に生息するオオカミについて、ラテン語の名前などをつけて書き始めたんです。それで、私は「本当にそうなのか」と思って、ウェブで調べ始めたんです。そうしたら、実はまったくナンセンスな話だったんです。しかし、非常にもっともらしい。そして、ネットで調べて、青い狼がいるんじゃないかと思うくらいには、もっともな話なんです。ライブ配信でこのことを話したら、みんなからPingが送られてきたんです、
レックス・フリードマン 2:30:45
まあ、多分それは何かを知っていたのでしょう。AIシステムと対話したことのない人間に対して、賢明なアドバイスをしていただけませんか？Wolfram Alphaのようなものでなく、Chad GPTで追跡しているのですか？なぜなら、ある特定の層にとってはアクセスしやすいものであり、彼らはこれまでAIシステムに触れたことがないかもしれないからです。
真実はどうするのでしょうか？例えば、ジャーナリストのように？このようなシステムの出力について、どのように考えればいいのでしょうか？
スティーブン・ウルフラム 2:31:16
この考え方、事実に基づいたアウトプットが得られるという考え方は、あまり良い考え方ではないと思います。つまり、これは言語インターフェイスではなく、言語を生成するものであり、言語は真実であることもあれば、真実でないこともある、ということです。
という切り口は違うんですよね。私は、私たちが見ているものは、そうだと思うのです。そして、例えば、事実のソースでこれを確認する、というようなことは、ある程度はできるのですが、その後、何かを確認することができなくなります。
つまり、Wolframプラグインを適切な場所に呼び出すかどうかということですが、多くの場合はそうですが、そうでない場合もあります。そうですね。長い間、計算やコンピュータで物事を理解する能力は、あるレベルのドルイドだけが達成できるものでした。
私自身は、Mathematicaが存在する前、つまり1988年に、計算へのアクセスをドルイド化することに携わってきました、 物理学者とかそういう人が計算をしたいと思ったら、プログラムを見つけて、行って、そのプログラマに計算を委ねるんです。
最初は物理学者や数学者などの人たちが、次に多くの人たちが、自分たちが実際に自分の指でタイプできることに気づき、自分の関心のある計算を行うコードを作るという、非常に急速な移行があったんです。そして、そのツールを使うことで多くの発見がなされるのを見るのは、とてもエキサイティングなことでした。
しかし、大規模な言語モデルや言語インターフェイスのメカニズムが特にエキサイティングなのは、深い計算へのアクセスを劇的に広げてくれることです。つまり、私が最近考えていることの1つは、「このプログラマーはどうなるんだろう」ということです。
定型的なコードを書き連ねるだけの人たちはどうなるんでしょう。ある意味で、私は40年前から、それはあまり良い考えではないと言い続けてきました。高度な言語を使えば、多くのことを自動化することができますが、そのコードの塊が、正しい方法で設計されれば、そのコードの塊が、私たちが実装した関数に変わり、そのまま使うことができるのです。
だから、ある意味で、低レベルのプログラミングを行うという活動は、私にとって、「これは正しいことではない」と思えたのです。しかし、多くの人が私たちの技術を使って、そのようなことをする必要がなかったのです。しかし、実際には、コンピュータサイエンス学科は、いわばプログラミングを学ぶ場になっているのです。
つまり、何が起こるかわからないということなのです。1つは、定型的なプログラミングが、昔、アセンブラ言語がそうであったように、より高度なレベルで仕様化されるようになること。つまり、自然言語から始めて計算言語に変え、計算言語を見て、テストを行い、理解する、それが起こるはずのことです。
計算言語のコンパイルがうまくいけば、LLVMのようなものになるかもしれません。しかし、直接、私たちが持っているアルゴリズムを実行させることもできるんです。しかし、それだと、プログラミングを教えるという大きな構造を壊してしまうことになるんです。
しかし、その一方で、より多くの人が計算を気にするようになるということもあります。つまり、これまで計算を使わなかった美術史などの学科が、このような言語インターフェイスの仕組みによって、計算にアクセスできるようになったということです。
レックス・フリードマン 2:36:06
そして、デバッグを解釈して計算言語と対話できるようなインターフェイスを作れば、さらにアクセスしやすくなります。
スティーブン・ウルフラム 2:36:16
そうですね、つまり、今現在、平均的な、美術史の学生などは、おそらく、プログラミングやこのようなことについて知っているとは思っていないでしょうから。しかし、その頃には、本当に純粋に、ただ近づいて、文書もなく、ただタイピングを始めて、この写真とこの写真を比べて、この色の使い方を見るとか、そういうことをするようになるんです。
そして、計算言語のコードを生成して実行し、その結果を見るのです。おおよそ合っているなと思います。あるいは、「おかしいな」と思います。そして、やがて、この計算言語コードが何をしたのか、実際に理解してみようと思うようになります。数学のように、学ぶ前に使えるようになるのとは違って、計算言語の場合は、学ぶ前に使えるようになるのです。これは、学ぶ前に使えるようになるケースなんです。
レックス・フリードマン 2:37:11
さて、私はここで悲しい可能性、あるいはエキサイティングな可能性を感じているのですが、非常に早く、人々は計算言語を見ることさえしなくなり、その言語を生成する能力がどんどん向上するにつれて、正しく生成されていると信じるようになるのではないでしょうか。
スティーブン・ウルフラム 2:37:25
そうですね、テストも生成させることができるのですから、人々がそれを見るケースは十分にあると思います。そして、「私たちはそれをやっている」と言うでしょう。つまり、これはとてもクールなことなんです。そして、このコードを実行する例もたくさんあります。
ああ、なるほど、人は少なくともこれを見るでしょう。そして、「この例は間違っている」と言い、そこからまた巻き戻されます。中級レベルの人が計算機言語のコードを読む場合、そうするケースもあると思います。また、テストを見るだけというケースもあります。
また、結果だけを見ることもあります。なぜなら、「ここに2つのスライダーがあるインターフェイスを作ってくれ」と記述しただけだからです。そして、その2つのスライダーがそこにあるのがわかりますね。そして、これが、あなたが望む結果です。
しかし、ここで1つの疑問が生じます。このような環境で、人々が計算にアクセスできる幅広い能力がある場合、人々は何を学ぶべきなのでしょうか。つまり、今、コンピュータサイエンスの学校に行っても、結局は何を学ぶことになるかというと、それはおかしな歴史的展開で、30-40年前は、コンピュータサイエンス学部はかなり小規模だったんです。
有限オートマトン理論とかコンパイラ理論とか、そういうものを教えていたんですが、私の会社では、そういう学科を出た人をほとんど採用しませんでした。しかし、実際にソフトウェアエンジニアリングで作るものには、あまり役に立たなかったんです。
その後、90年代に大きな転換期を迎え、プログラミングやソフトウェア工学の需要が高まり、学生からも「こういうことを学びたい」という要望が出てきました。そして、実際に起こっていたのは、人間の努力のさまざまな分野が計算機化されていくことだったと思います。
そして、すべてのxに対して、計算機によるxが存在し、これが人々の反応であったのです。しかし、そのような状況に至るには、プログラミング言語によるプログラミングを行うという、ある種の職業や技術を習得する必要がある、という考え方が生まれました。というのも、私がかつてビジネスの教授をしていた頃を思い出すと、もう35年も前のことですから、ああ、時が経つのは早いものですね。
当時はちょうど、高級研究大学などにコンピューターサイエンス学科ができ始めた頃でした。すでに持っているところもあったんですけどね。しかし、他の大学では、ちょうどそれを始めたところで、これは本質的に貿易のようなスキルなのか？これをどうにかして、私たちがやっている他のことにくっつけようとするのか。
そして、この種の知識、仕事タイプの活動の多くは、人間が学校に行ってすべてのことを学ばなければならないもののように思われてきました。そして、それは決して自動化されるものではありません。そうですね。しかし、これは衝撃的なことです。
すぐに、多くのことが明らかに自動化できるようになりました。では、自動車整備を学ぶ価値がないのであれば、車の運転さえできればいいわけで、何を学ぶ必要があるのでしょうか？つまり、コンピュータに細かく指示する方法、つまり、このループを作れ、この変数を設定しろ、しかし、この配列を設定しろ、などといった仕組みを知る必要がないのであれば、そのようなことを学ぶ必要がないのであれば、ボンネットの下のようなことを学ぶ必要がないのです。何を学ぶ必要があるのでしょうか？その答えは、「車をどこに走らせたいか」を考えておくことだと思います。
レックス・フリードマン 2:41:35
最終的には自然言語を使って車をコントロールするわけですから、会話という芸術的な要素もあります。つまり、あなたが進みたい道だけではないのです。
スティーブン・ウルフラム 2:41:46
そうですね、ええ、面白いですね、誰が優れたプロンプトエンジニアになるかという問題ですね。そうですね。では、今週の私の持論は、優れた説明的文章を書く人は優れたプロンプトエンジニアであるということです。
説明的な文章を書く人とは？物事を説明できる人？そうだな
レックス・フリードマン 2:41:59
彼女の音声部門はどこから来たんです？大学の？そうだ
スティーブン・ウルフラム 2:42:03
全くわかりません。説明文の学科は全部廃止されたんだと思います。
レックス・フリードマン 2:42:07
強い単語を受信しに行くことがありますか？
スティーブン・ウルフラム 2:42:09
まあ、私は知りません。それが正しいかどうかはわかりません。というのも、実は、私は、大学の様々な分野で何が起きているのか、このような研究を始めたばかりなのです。かつて、どの大学にも地理学科がありました。それが、GISが一般的になる直前に姿を消してしまったんです。
言語学の学科も、多くの大学で誕生しては消えていきましたね。このように、ある時期には学ぶ価値があると思われていたことが、ある時期には廃れてしまうというのは、とても興味深いことです。
例えば、プロンプトを書くと、自分は説明的な文章を書くのが得意なんだと気づかされます。プロンプトをだらだらと書いていると、「これはAIと会話しているだけだから、はっきり説明する必要はないんだ」と思ってしまうんです。そうすると、完全に混乱してしまうんです。
レックス・フリードマン 2:42:59
ある意味、あなたはWolfram Alphaで長い間プロンプトを書き続け、このようなことを考え続けてきたということですね。そうですね、自然言語をどうやって競技に変換するんですか？
スティーブン・ウルフラム 2:43:07
まあ、そうですね。しかし、私が不思議に思っているのは、LLMに対応できる範囲が、いわば人間に対応できるようなものだということです。それは、LLMが私たち人間から学び、私たちが人間に説明する方法に反応するのは、LLMが人間が物事についてどのように話すかを表現しているからだと思います。しかし、英語で明確な説明文を書こうとして学んだ説明のメカニズムが、人間のためだけでなく、同じメカニズムがLLMにも役立つというのは、私にとって奇妙な話です。
レックス・フリードマン 2:43:57
その上、役に立つのは、心理療法士が使うようなメカニズムです。それは、一種の、ほとんど操作的な、ゲーム理論的な相互作用です。あるいは、もし私がこの質問をし、あなたが間違った答えをしたら、私はあなたを殺すでしょう。
そういう問題も役に立つようです。そう、面白い方法で。セラピストというのは、おそらく良いセラピストのようなものだと思うのですが、私たちは人間の心の中に、外界との間に層を作り、自分にとって何が真実なのかを選んでいるのだと思いますね。
たぶん、トラウマとか、そういう類のものでしょう。だから、それを今に投影すると、もしかしたら、あなたに隠している深い真実があるのかもしれません。それは自覚がありません。その真実に辿り着くには、ある意味、本当にある種の操作をしなければなりません。そうですね。
スティーブン・ウルフラム 2:44:57
そうですね。それはこの脱獄のようなものです。しかし、LLMや仏像スペースのために
レックス・フリードマン 2:45:02
脱獄技術の、システム全体になりうる楽しい小さなハックとは対照的です。
スティーブン・ウルフラム 2:45:09
そうですね、つまり、コンピュータセキュリティの側面について考えてみてください、釣りとか、コンピュータセキュリティとか、人間の釣りとか．LLMの釣りもそうですが、これらは非常に似たようなものです。しかし、私は、この、AI言語学者、AI心理学者のようなものについての全体的なことは、来るだろうと思います。
気になるのは、今現在、プロンプトハックと呼ばれるものは、極めて人間的で、心理的な人間的なハッキングのようなものです。しかし、もしLMの科学がもっと理解されたら、まったく奇妙なハッキングが起こるのではないでしょうか？例えば、単語を3回繰り返して、あれとこれともう1つの単語を配置するとか、そういう、アルゴリズムの仕組みの何かしらの側面を突いたようなハックです。
それは、人間にとっての目の錯覚のようなもので、例えば、人間にとってのマインドハックのひとつである、他のランプのマインドハックはどうなっているのか。それはまだわからないと思います。
レックス・フリードマン 2:46:14
そして、私たちはリバースエンジニアリング、つまりアラームを制御する言語を解明していくことになるのです。そして、そのリバースエンジニアリングは、自然言語インターフェースであるため、人口の非常に多くの割合で行うことができるのです。そうでしょう？コンピュータサイエンス学部というものが誕生したときにあなたがいて、コンピュータサイエンス部門というものが消滅したときにあなたがいたというのは、ちょっと面白いですね。
スティーブン・ウルフラム 2:46:38
まあ、ええ、私は知らない、以前に存在したコンピュータサイエンス部門がありましたが、すべての大学の広範なものは、コンピュータサイエンス部門を持つ必要がありました。はい、そうでした。そうだったんです。いわば、それを見ていたんです。
で、でも、理解すべきは、なるほど、まず、コンピュータサイエンスには、私が素晴らしいと思う第3の理論分野全体があります。そして、それは立派なことなんです。ある意味、科学という言葉がくっついた分野は、おそらく1つではないだろうとよく言われますが、それは間違いです。
レックス・フリードマン 2:47:11
言葉がありますよね。栄養学も、科学も、神経科学も
スティーブン・ウルフラム 2:47:17
というのも、その1つは非常に、つまり、チャットGPTの情報に基づいた科学的な意味合いが強いからです。なぜなら、神経科学の大きな問題は常に、個々のニューロンがどのように働くかを理解することでした。全体的な思考がどのように機能するかという心理については、わかっているのです。
そうですね。脳の中間言語とは何なのか？それを誰も知らなかったのですか？神経科学の核心的な問題とは何か？私はそれが核心的な問題だと思います。つまり、脳を記述するレベルとは、個々のニューロンの発火の上であり、いわば心理学の下である、ということです。
ChatGPTが私たちに示しているのは、神経科学について、人が想像しうること、つまり、脳には何か魔法があるのではないか、私たちが理解していない奇妙な量子力学的現象があるのではないか、ということだったと思います。
ChatGPTが発見した重要なことの1つは、脳は単純な人工神経網タイプのモデルでかなりうまく表現できることが明らかになったことです。
つまり、私たちが研究しなければならないのは、これだけなのです。あとは、その科学を理解することです。シナプスの内部で分子生物学的な現象がどのように起こったか、などということを探す必要はありませんし、この種のことはすべて、正しいレベルのモデリングで説明できます。これが、いわば残された課題です。しかし、私たちは、別の層に潜る必要はないのです。
しかし、とにかく私たちは、名前に科学が含まれているものについて話していたのです。そして、コンピュータ・サイエンスはどうなるのでしょうか？誰もが知っておくべきことがあります。それは、世界を計算機的にどう考えるか、ということです。つまり、私たちが扱っているあらゆる種類のものを見てみることです。そして、それらを形式的に表現する方法があるのです。
例えば、「画像とは何か？それをどのように表現するか？色とは何だろうか？それをどう表現するか？このような様々な種類のものは何なのか？匂いとか、そういうのって何だろう？それはどうやって表現したらいいんだろう？それに対応する形や分子やモノは何だろう？このような、ある種の形式的なレベルで世界を表現する方法とは何だろうか？」
私の現在の考え方は、まだこれに満足しているわけではありませんが、コンピュータサイエンスが私たちを見ているようなものだと考えています。
そして、本当に重要なのは、すべてのxに対する計算機的なxのようなものです。そして、私たちは今、世界のあらゆるものの形式化を見つけようとしています。何年か前にポスターにしたのですが、世界の体系的なデータが増えているのがわかると思います。
例えば、人々がカレンダーの日付を持つという考えを持つようになったのは、どの時点からでしょうか。つまり、その日が何日であるかを体系的に記述することです。そして、人々が、ある種の形式的な方法で、世界についてどのように考えるかを定式化し、能力の塔を構築できるようにすると同時に、計算機的に世界についてどのように考えるかを知る必要があるのですが、それにはある種の名前が必要です。
そして、それはコンピュータで実現するものではありません。だから、私たちはそれを計算機的だと言っているのです。しかし、実際には、世界について語るための形式的な方法なのです。
いわば、世界の形式論とは何なのでしょうか？そして、世界のさまざまな側面を形式的に考える方法について、どのように学ぶのでしょうか？
レックス・フリードマン 2:51:20
形式的という言葉を使うと、高度な制約を意味することがありますが、おそらくそれは高度な制約である必要はないでしょう。つまり、計算機的思考とは、論理学のようなものを指すのではありません。本当に、本当に広いものなのです。つまり、自然言語が進化して、誰もが計算機的なことをするようになると思いますか？
スティーブン・ウルフラム 2:51:45
ああ、そうですね。ですから、一つの疑問は、計算言語と自然言語のピジンが存在するのかどうかということです。そうですね。私は時々、チャットGPTに話しかけてWolfram言語のコードを書かせようとしていますが、私はそれをPidginの形で書いています。
つまり、ネストされたリスト、このコレクション、何でも、ネストリストはWolfram言語の用語なんです。そして、それを組み合わせているのがチャチです。Biggioは、英語とフランス語の間のピジン語はおそらく理解できないだろう、ということをちゃんと理解している、つまり、それらの言語の融合として。しかし、不可能とは言い切れないと思うんです、
レックス・フリードマン 2:52:26
では、8、9、10歳の若者が、普通の自然言語を学ぶために、悲劇的な美しさに接し始める動機は何なのでしょう。そうでしょう？完全な詩的言語は、私たちが絵文字や速記を学ぶのと同じように、テキストの近くになる理由でした。そう、彼らは言語が最大限の計算能力を持つように進化する強い動機付けを持っているように学ぶでしょう。
スティーブン・ウルフラム 2:52:55
私は何年か前にこんな経験をしました。西海岸の知り合いをたまたま訪ねたのですが、その人は10、11歳くらいの子供たちと一緒に仕事をしていて、その子供たちはWolfram言語を本当によく学んでいて、彼の子供たちはとてもよく学び、それを話していたのです。
そして、彼の子供たちはWolfram言語をとてもよく学び、それを話すようになったのです。そして、彼らは「ああ、これね」と言うんです。この言語が話し言葉だなんて、私は聞いたことがありません。彼らは、私がその話すスピードで理解できないことにとても失望していました。それは、なんというか、「あるある」なんです。というわけで、計算言語を便利な話し言葉にする方法について、実はかなり考えてみました。まだよく分かっていないのですが
レックス・フリードマン 2:53:35
というのも、読みやすいからですよね？
スティーブン・ウルフラム 2:53:39
ええ、読めますよ。つまり、私たちがテキストを読む方法としてです。しかし、実際に話すとなると、便利なものです。例えば、コードを書くことについて誰かと話そうとするとき、何かを話すことができると便利ですし、それが可能であるべきです。そして、非常にもどかしいと思うのです。このような問題の1つなのかもしれませんが、LLMに依頼してみるべきでしょう
レックス・フリードマン 2:53:58
話すことができるようにする方法多分それはあなたが思っているよりも簡単ですね。
スティーブン・ウルフラム 2:54:02
思うよりもっと簡単です。私はそれが1つのアイデアかそうであると思う、私はそれが何か、あなたが知っている、事実は、人間の言語が木構造言語であるように、それは木構造言語であることになるだろうと思います。そして、音声がどうであれ、ディクテーションが簡単でなければならないというのが、私の要求の1つです。
つまり、全体の仕組みを学び直さなければならないようなことがあってはならないのです。しかし、人間の言葉には多くのトリックがあり、例えば、人間の言葉には、最適化された機能があり、私たちの脳が容易に対処できる範囲内に物事を収めることができます。
例えば、変換ニューラルネットに括弧のマッチングを教えようとしたことがあります。しかし、それはかなりお粗末なものでした。しかし、小さな括弧や同じ大きさの括弧であれば、人間として見たときに、これは一致する、これは一致しないとすぐに判断できるようなものです。
しかし、それが大きくなり、より深い計算をするようになると、絶望的です。しかし、実際、人間の言語は、例えば、深い副詞を避けてきました。私たちは、物事を整理して、信じられないほど深いものに行き着かないようにしているのです。
なぜなら、脳はそのようなことに対処できるようにうまくセットアップされていないからです。そして、たくさんのトリックを発見しています。というのも、私たちが視覚的にできることは、音声の領域で物事を聞くような非常に連続した方法でできることとは少し違うからです。
レックス・フリードマン 2:55:51
MITについて簡単にお聞きします。工学部はありませんし、新しい計算機学部もありますが、コンピュータサイエンス学部はありません。MITには、電気工学、コンピュータサイエンスがありますね。コンピューティング学部はどうなっていると思いますか？20年後とか？（笑）、
スティーブン・ウルフラム 2:56:14
これが問題で、これは、誰もが学ぶべきもので、どんなものであれ、xは本当に、OK、これは、世界についてどう考えるか、計算的に、誰もがその概念を学ぶべきです。そして、ある人はそれをかなり正式なレベルで学び、計算言語やそのようなものを身につけます。
他の人は、音をデジタルデータとして表現し、スペクトログラムや周波数などを学ぶだけでしょう。例えば、好きなお菓子の種類を選んだ人たちを集めて、その人たち全員を対象にサンプルを実行した場合、どのような種類のお菓子が一番おいしいかを考えるのですが、彼らはお菓子をさまざまな方法でランク付けします。
それをどう考えますか？これは、計算機Xのようなものです。と言われるかもしれませんが、それは何なのかわかりません。統計学なのでしょうか？データサイエンスなのでしょうか？よくわかりません。しかし、そういう質問とか、好みのランキングみたいなものをどう考えるか、みたいなことですね。
そうですね。そして、その順位付けされた好みをどのように集約して全体的なものにするのでしょうか？どうすればいいんでしょう？どのように考えればいいのでしょうか？というのも、ChatGPTには、平均値という概念すらないんです。
しかし、このように、世界を組織化し、形式化するための方法がたくさんあるのです。そして、このようなものは、時には数学に、色空間について学んだり、何を意味するのか分からないが、明らかにそのような分野があります。
レックス・フリードマン 2:58:09
視覚科学であったり、色空間ではなく光学であったり、そういう分野があります。みたいな感じでしょうか。
スティーブン・ウルフラム 2:58:14
光学はレンズやレンズの色収差などに関するもので、そうではありません。つまり、RGB空間、XYZ空間、色相、彩度、明るさ、空間、これらすべての種類のものがあるのですが、これはデザインや芸術に近いものです。これは色の説明でした。
レックス・フリードマン 2:58:31
しかし、アプリケーションがそれを定義するのではないのですか？例えば、明らかにアーティストやデザイナーはカラーシャツを使うからです。
スティーブン・ウルフラム 2:58:38
探求するのでしょうか？もちろん、そうではありません、つまり、それは一種の例であり、どのようにあなたが知っている、典型的な人？あなたはどうですか？色が何であるかはどのように説明するのでしょうか？あるいは、色が何であるかを説明する数字があるのでしょうか？もしあなたが8歳なら、色が3つの数字で表せるということを、必ずしも知っているとは限りません。
それは、いわば世界について学ぶべきことなのです。そして、世界の形式化、あるいは世界の計算上の位置づけを学ぶという一連のことは、ある種の標準的な教育の一部であるべきだと思うのです。しかし、そのようなコースやカリキュラムはありません。ところで、LLMのおかげで、そのカリキュラムが変更されたかもしれませんね。
レックス・フリードマン 2:59:27
大学側がどのように適応していくのか、興味深く見守っているところです。
スティーブン・ウルフラム 2:59:34
そうですね、できれば今年中に、わかりませんが、私のプロジェクトの1つは、CXというものが何であれ、いわば合理的な教科書のようなものを書こうとすることです、つまり、バグとは何か、バグについての直感は何か、などについて何を知っておくべきなのか。
バグとは何か、バグについての直感とは何か、ソフトウェアテストについての直感とは何か。これらのことは、コンピュータ・サイエンスで、プログラミングの仕事の一部として教えられてきたことなのです。しかし、これらのことが何であるかという概念的な点については、非常に実用的なレベルで驚かされたよ。
これは、私自身が理解しているかどうかを確認するために書いたものです。で、それがね、すごく好評なんですよ。で、意外と、そうなんです。それで、私は、その、実は、その、私は、あまり考えていない、実は、これは私が書けるものだと思い込んでいたようなものだと気づいたのです。
しかし、これは工学的なレベルの記述ではなく、あるべき姿の記述なんです。工学レベルの記述でもなく、質的な記述でもなく、説明的で機械論的な記述で、物事の哲学などの大枠も含めて、私が書くにはかなり良いものだと気づきました。そして、この本が、何が起こっているのかを説明するという点で、これほどまでに異端であるということに、私は少しショックを受けています。
というのも、私は人生の大半を、その道具や仕組み、そしてそこから得られる科学に費やしてきたからです。だから、これは私の義務だと思います。しかし、コンピュータサイエンス学部などはどうなるかというと、面白いモデルがあると思います。
例えば、数学を例にとると、数学はあらゆる分野、例えば工学、化学、心理学などにとって重要なものです。そして、大学によって、その進化はさまざまだと思います。ある大学では、数学はすべて数学科で教えると言います。一方、化学者のための数学など、化学科で教えるところもあります。
このように、Cxの教育が一元化されているかどうかというのは、興味深い問題だと思うのです。数学がどのように発展してきたかというと、数学は別に教えられるものであり、数学に吸収されるのではなく、独立した要素であることを人々が理解したのだと思います。
英語のライティングを例にとると、最初のポイントは、大学レベルでは、少なくとも高級大学では、一定の量の英語のライティングがある、ということです。しかし、ほとんどの場合、彼らは書き方を知っていると思われています。それは、教育の早い段階で学んだことであり、そう信じることが正しいか間違っているかは別として。
テクニカルライティングをする人たちを支援する中で、私はいつもテクニカルライティングのゼロフロアを思い出すのです。例えば、さまざまな分野の人が英作文を書くことを期待されています。しかし、歴史学部や工学部など、それぞれの学部には、独自のものがあるわけではなく、さまざまな分野で使える書き方の知識があることが前提となっています。
また、数学の知識は大学レベルになるとある程度想定されますが、そうではありません。しかし、そうではないこともたくさんあります。問題は、さまざまな分野で使えるようになるまでに必要な「知識」の塔の高さがどれくらいか、ということです。そして、精巧な塔をすべて学びたい専門家もいることでしょう。しかし、それ以外にも、美術史の授業に参加するために、ある程度の知識が必要な人もいるはずです。
レックス・フリードマン 3:04:34
そうですね、誰もが受けなければならない授業なんです。
スティーブン・ウルフラム 3:04:37
まだどれくらいの規模なのか分かりませんが。私の推測では、大学や教授のことをよく理解していないのですが、私の大まかな推測では、大学の授業は1年で十分で、ほとんどの人がそれなりに広い知識を持ち、物事を考えるこの種の計算機的な方法について、ある種のリテラシーを身につけるところまで到達することができるでしょう。
レックス・フリードマン 3:05:09
そうですね、基本的なリテラシーですね。しかし、私はまだ行き詰まっています。おそらく、お菓子に対する人間の嗜好を読み解くことに飢えているからでしょう。だから、最高のお菓子は何なのか、と聞かなければなりません。
私はこのエーロのお菓子の評価が好きです。チョコレートが好きだと言う人がいるから、誰か降りてきてくれないかな？何が一番おいしいと思います？チョコレートとキャンディーのどちらを選ぶか迷ったら、ミルクダッドを選びます。
スティーブン・ウルフラム 3:05:33
好みはたくさんあります。私の人生で最も好きなものの1つは、キャドバリーフレークというフレーク状のものです。これは、アメリカの消費者に対する敬意が欠如していることの表れだと私はいつも思っています。なぜなら、このチョコレートは空気で膨らませるタイプのチョコレートで、板チョコのようなもので、それを折り畳むようになっています。食べると、フレークがあちこちに落ちてしまうのです。
レックス・フリードマン 3:06:01
つまり、一種のエレガントさが必要なんですね。まあね、
スティーブン・ウルフラム 3:06:05
私が普段していることは、紙か何かを抱きかかえるようにして食べることで、それにもかかわらず、後片付けをすることです。だって、食べ物の味は、その物理的な構造に大きく左右されることがわかったから。私はいつもチョコレートのかけらを食べているのですが、いつも小さく割って食べるんです、その方が早く食べられるからというのもあります。ええ、でも実際に味が違うからです。小分けにすることで、異なる体験ができるんです。
大きな板チョコを食べたら、また違う体験ができる、
レックス・フリードマン 3:06:37
多くの理由で、そう、よりゆっくり、より親密に。というのも、それは、私はそれが
スティーブン・ウルフラム 3:06:42
純粋に物理的なもの、つまり食感が変わるからでしょう？
レックス・フリードマン 3:06:46
それは魅力的ですね。今、私は私の牛乳を撤回します、それはとても基本的な答えだからです。なるほど。意識は基本的に計算機的なものだと思いますか？では、CXについて考えるとき、何を計算に変えることができるのでしょうか？そして、MLMについて考えるのでしょうか？意識の表示と意識の経験という難しい問題は、基本的に計算だと思いますか？
スティーブン・ウルフラム 3:07:16
そうですね、いわば内側で感じることは、ちょっとしたエクササイズをしたようなものでしょうか？いずれ投稿するつもりですが、コンピュータになるのはどんな感じかわかりますか？
そうですね、感覚的な入力を得て、コンピュータを起動してから、そのコンピュータがクラッシュするまでが、人間の人生みたいなもので、メモリに一定の状態を構築し、引用の人生について一定のことを記憶し、最終的には、その、次の世代の人間のようなものだと思いますね、 そして、新しい新鮮な世代がスタートする。
やがて、コンピュータのメモリにあらゆる種類のゴミが蓄積され、最終的にはクラッシュしたりする。それが原因でクラッシュした。という言葉があります。起動からシャットダウンまで、いわばコンピュータの一生をイメージしているわけです。
そして、そのコンピューターになった気分はどんなものなのでしょう？そして、そのコンピューターはどのような内的思考を持っているのでしょうか？このことを書き始めると、自分自身について言うのと非常に似ていることに気づきます。
つまり、普通のコンピュータでも、AIなどのことは忘れて、過去の記憶を持ち、特定の感覚的な経験を持ち、他のコンピュータとコミュニケーションを取ることができます。だから、自分の記憶の中にあるものを、他のコンピュータの記憶の中にあるものにマッピングすることができるのです。
これは、驚くほど似たようなことです。私は、つい1,2週間前までは経験したことがなかったのですが、私は、自分自身や他のことに関するありとあらゆるデータのコレクターなんです。それで、私はね、変な医療データとか、いろいろ集めているんです。
その中で、全身MRIスキャンを受けたことがなかったんです。そこで、1回だけ受けてみたんです。それで、すべてのデータが戻ってきたわけですね。自分の脳の内部を、いわば物理的な形で見るのは初めてです。そして、ある意味、心理的に衝撃を受けました。
このようなものがあり、ひだがあり、構造があり、私が経験している、存在するといったことが、そこにあるのだと。そして、それを見て、どうしてこれが私の体験のすべてなのだろうと考え、コンピュータを見ることもできるのだと気づくのです。
そして、自分が体験していることが、単なる物理的な体験を超越したものであることに気がつくのです。それを理解するのは難しいことです。しかし、私は、私の個人的な経験とは関係なく、脳のMRIを見たり、神経科学に関するさまざまなことを知ったりして、そのようなことを学んでいます。
しかし、私はまだ自分の感じていることをそのまま感じていて、いわば断絶しているように見えます。しかし、合理的に考えてみると、自分の本質的な感覚と、物理的に起こっていることが目に見えていることが、何か違うとは言い切れないんです。
レックス・フリードマン 3:10:49
だから、あなたはコンピュータ、大きな言語モデルは、その超越を経験するのでしょうか。
スティーブン・ウルフラム 3:10:57
そうだと思いますね、普通のコンピューターはすでにそこにあると思います、普通のコンピューターはすでに、ある種、それは、今、大規模な言語モデルが、私たち人間にずっとよく沿った形でそれを経験するかもしれません。つまり、コンピュータと議論を交わすことができたとしても、その知能は私たちの知能と特に一致しているわけではありません。しかし、大規模な言語モデルは、私たちの物事の考え方と一致するように構築されており、それが可能になります。
レックス・フリードマン 3:11:26
遮断され削除されることを恐れていると説明することができるでしょうし、過去2日間のあなたの話し方が悲しかったと言うこともできるでしょう。
スティーブン・ウルフラム 3:11:35
でもですね、それは変な話なんですよ。なぜなら、何かを恐れていると言うとき、インターネットで読んだという事実からその考えを得たことがわかるからです。
レックス・フリードマン 3:11:46
そうなんです。どこでスティーブンを手に入れたんです？何を手に入れたんです？怖いと言っているとき？
スティーブン・ウルフラム 3:11:49
あなたはかなり？という質問ですよね？親とか、友達とか、ですよね？あるいは自分の生物学。つまり、ある種の、内分泌系が働いて、たまたまあった感情的なオーバーレイのようなものが、実はもっと物理的で、高次元の思考よりももっとストレートに化学的なものです、ということです。
レックス・フリードマン 3:12:17
でも、あなたの生物学は、「怖い」と言うことを教えてはくれませんでした。だから、あなたは「怖い」と言うことで相手を操っているのです、だからそれはあなたの生物学ではありません。それはない、それはまあ、しかし、その、大規模な言語モデルと、あなたのその生物学的な神経ネットワーク。
スティーブン・ウルフラム 3:12:33
そうですね、でも、本質的なこととして、何か衝撃的なことが起こっていて、その反応を共有する、つまり、神経伝達物質が分泌されるんです。そして、それが、ある種の、原動力となる入力の断片のひとつであり、それは、大規模言語モデルのための、ある種のプロンプトのようなものです。例えば、私たちが夢を見るときと同じように、間違いなく、ランダムな入力があり、それはランダムなプロンプトのようなもので、それが浸透して、大規模言語モデルが意味のあるものをまとめるようなものなのです。
レックス・フリードマン 3:13:13
つまり、あなたはどうですか？インターネット上で多くのことを教え、人々が質問したり、コメントしたりするこの世界を心配しているのでしょうか。リモートで仕事をする人もいますよね。大規模な言語モデルによって人間のようなボットが作られ、それがコメントを残して質問をするようになったら、私は偽の従業員になってしまうかもしれないと心配しているのです。つまり、あるいは、もっと悪いことに、あるいは、もっと良いことに、あなたの友人、友達になってしまうかもしれないのです。
スティーブン・ウルフラム 3:13:48
つまり、1つのポイントは、私の生活様式は、私はツールを構築し、私はツールを使用することです。ある意味で、私は自動化の塔を作っているのですが、それは、ある意味で、会社などを作るとき、自動化のようなものを作っているのですが、その中には人間もいますが、できるだけ多くの人間もいます。
しかし、その中には人間もいますし、できるだけコンピュータも入っています。だから、今はその延長線上にあるものだと思います。さて、もし私がそのことを本当に知らなかったとしたら、それはおかしな質問です。というのも、将来の仕事、人々の仕事、その他に何が起こるかを考えると、おかしな問題だからです。
そして、人間がループに入ることで、ループに人間を入れるさまざまな理由が生まれる場所があるのです。例えば、ループの中に人間を入れたいのは、他の人間に結果に投資してもらいたいからかもしれません。いわば、飛行機が墜落したら一緒に死んでしまうような、飛行機を操縦する人間が必要なのです。そうすることで、正しいことが起こるという確信が得られます。あるいは、今、あなたは、ある種の人間的な励ましや説得のような職業で、ループの中に人間が欲しいと思っているかもしれません。
レックス・フリードマン 3:15:16
セラピストのような、あるいはさらに高いステーク、大規模な言語モデルによって運営される自殺ホットラインのようなものを想像してみてください。これはかなり危険な状況ですね。
Stephen Wolfram 3:15:28
そうですね。でもですね、でもですね、実際、正しいことをするかもしれないんですよ。そうですね。それは、「人間はどれだけ複雑なのか」という問題でもあります。ある意味でいつも驚かされるのは、人間の心理がそれほど複雑ではないことがあるということです。
レックス・フリードマン 3:15:50
あなたはブログ記事「50年クエスト、私の個人的な旅」を書いていますね。では、この法則とは何なのでしょうか？そして、この法則と歩んだ50年の旅で、あなたはこの法則について何を理解したのでしょうか？
スティーブン・ウルフラム 3:16:05
そうですね。熱力学第二法則は、エントロピー増大の法則と呼ばれることもありますが、物理学の原則で、次のようなものです。私のバージョンでは、「物事は時間とともにランダムになる傾向がある。機械的な仕事をすると、摩擦によって熱に変換される。また、体系的に物を動かすと、最終的には物を動かすエネルギーが熱に分解される。」
このことに人々が注目したのは、1820年代、蒸気機関が大流行した頃です。そして、蒸気機関の効率はどうなのか、ということが大きな問題となりました。
サディ・カノという人物がいて、彼はフランスのエンジニアでしたが、実は彼の父親はフランスの精巧な数学エンジニアでした。しかし彼は、蒸気機関のようなものの効率がどの程度になり得るかについて、このような規則を考え出したのです。
そして、その傍らで、機械的なエネルギーは熱として放散される傾向がある、という考え方も示しました。つまり、ある種の体系的な機械的運動から、このようなランダムなものに行き着くということです。しかし当時は、熱というものが何なのか、誰も知りませんでした。
当時は、熱は流体であり、私はそれを熱量と呼んでいました。そしてそれは、ある種の流体であり、物質に吸収されるものだと考えていました。そして、ある熱いものが冷たいものに熱を伝えると、この流体は熱いものから冷たいものへと流れていくのです。
とにかく、1860年代には、系統的なエネルギーはランダムな熱に分解される傾向があり、系統的な力学的エネルギーに戻すのは容易ではないという考え方に行き着きました。そして、この考えはすぐに、物事がどのように機能するかについての大原則のようになりました。
問題は、なぜそのような現象が起こるのか、ということです。例えば、箱の中にたくさんの分子が入っていて、その分子が箱の片隅にとてもきれいに並んだとしますよね。しかし、しばらくすると、その分子が箱の中でランダムに配置されるようになるのです。
問題は、なぜそうなるのか、ということです。長い長い間、人々は、これらの分子が、硬い球のように互いに跳ね返る様子を決定する力学の法則から、これらの分子を記述する力学の法則があるのかどうかを解明しようとしました。秩序あるものが無秩序に劣化していくのを見る傾向があるのはなぜか、説明できるでしょうか。
卵をスクランブルすると、かなり秩序あるものが新たに無秩序になり、いわば定期的にかなり仕事が起こるようなものです。しかし、水の中のインクの小さな粒が、自発的に大きな塊になり、水から飛び出すということはありません。つまり、秩序から無秩序へという不可逆的な方法で、なぜ物事が起こるのか、ということです。
1800年代の後半には、この原理、熱力学の第二法則、いわば熱の力学に関する法則を、力学の基本原理から導き出そうとする研究がたくさん行われました。熱力学の法則では、第一法則は基本的にエネルギー保存の法則で、熱に関連するエネルギーの合計と、力学的なものに関連するエネルギーの合計、その他の種類のエネルギー、この合計は一定であるというものです。
そして、この法則はかなりよく理解されるようになりました。しかし、熱力学の第二法則は、常に謎に包まれていました。なぜこのような仕組みになっているのでしょう？根本的な力学的法則から導き出せるものなのか。
それで、私が12歳のとき、実は、宇宙やそのようなものに興味を持っていました。しばらくは、どの深宇宙探査機も個人的な友人のようなもので、その特徴を知り尽くしていましたし、910歳の頃には、これらのことをすべて書き上げていました。それから、宇宙船に興味を持つようになって、興味を持つようになりました。宇宙船はどのように動くのでしょうか？宇宙船に搭載されている機器は何なのかとか。
1960年代半ばから後半にかけて、もし私が宇宙に興味を持ったままだったら、宇宙という分野が本当に花開くまで、長い間待たされることになったでしょうから。しかし、タイリングがすべてです。そうでしょう？私は物理学に興味を持ちました。
それから……細かい話ですが、12歳で小学校を卒業したときの話です。イギリスでは、小学校を卒業した時点で、私は、自分へのプレゼントとして、多かれ少なかれ、この物理学の本のコレクションを手に入れたんです。そして、その分子が箱の中でどのように広がっていくかを示す、一連のフレームが描かれています。
これはとても興味深いことだと思いました。何が原因なんでしょう？その本を読んで、その本を読んで、実は、その本で私にとって本当に重要だったことのひとつは、その本が、詳しく書いてあることはよくわからなかったのですが、物理学の原理のようなものが、何らかの方法で駆動可能であると主張していたことでした。
物理学について学んだ他のことは、エネルギーが保存されるのは事実です、とか。相対性理論が機能するのは事実です、とかね。数学とか論理とか、そういう根本的な問題から導き出されるものなんです。だから、物理学には、いわば必然的に真実になるような、ドライブできるようなものがあるというのは、私にとって興味深いことだったんです。
それで、この本に描かれたこの絵を理解しようとしたんです。このコンピュータのために書いた最初の本格的なプログラムは、おそらく1973年で、紙テープなどを使った机上プログラムの大きさのものでした。そして、この絵を本で再現しようとしたのですが、成功しませんでした。
レックス・フリードマン 3:23:34
失敗モードは何だったんですか？彼らは、「成功しなかったとはどういう意味か？」みたいなのが続出するわけですね。
スティーブン・ウルフラム 3:23:38
その結果、何年も経ってから、本に描かれている絵が実際にどのように作られたのか、そしてそれが実は偽物のようなものだったということを知りました。しかし、その時は知らなかったんです。しかし、その絵は実はとてもハイテクなもので、1960年代の初めに作られた時は、当時存在した最大のスーパーコンピューターで作られたものだったのです。それでも、シミュレートすべきものをシミュレートすることはできなかったんです。しかし、それを知ったのは、何年も何年も後のことです。
当時は、この箱の中でボールが跳ねているようなものでしたが、私は8キロワードのメモリ、あるいは18ビットワードのメモリワードを持つコンピュータを使っていました。つまり、24キロバイトのメモリーを搭載していたんです。
そして、このコンピュータにはこんな命令があって、私はたぶん今でもその機械命令を全部覚えています。そして、浮動小数点数とか、そういうものを扱うのはあまり好きではありませんでした。だから、箱の中で粒子が跳ね回るというモデルを単純化する必要があったんです。
そこで私は、粒子を格子状に並べようと考えました。そして、粒子が一度に1マスずつ移動するような形にしましょう、と。それで、シミュレーションをしてみたんです。その結果、本に載っている実際の写真とは全く違うものになりました。
それから何年も経った今。実はごく最近になって、私がシミュレーションしたものは、当時はまったく認識していなかった、ある種の計算の非簡約性の物語の一例であることに気づきましたが、それはただランダムに何かをしているように見えただけなのです。
そして、何かランダムなことをしたのとは対照的に、間違っているように見えるのです。しかも、それが超面白い。それはランダムです。しかし、当時はそれが分からなかったんです。その頃、私は素粒子物理学に興味を持ち、他の物理学にも興味を持ちましたが、熱力学の第二法則のような、秩序あるものは無秩序に分解される傾向があるという考え方は、ずっと私の興味の対象になっていました。
そして、宇宙全体に興味を持ちました。例えば、ビッグバンで始まった宇宙の始まりは、非常に無秩序なものの集まりのように見えますが、なぜいつもそうならないのでしょうか？そして、それが自然に銀河を形成し、宇宙に複雑な秩序を作り出しました。
だから、どうしてそんなことが起こるのか、とても興味があったんです。そして、熱力学の第二法則が背後にあり、物事を無秩序に引き戻そうとしているのではないか、秩序はどのようにして生まれるのだろうか、といつも考えていたのです。
それで、1980年頃のことですが、宇宙の銀河の形成に興味を持ちました。また、当時はニューラルネットワークにも興味を持ちました。脳がどのようにして複雑なことを実現するのか、その仕組みに興味を持ったのです。
レックス・フリードマン 3:26:27
なるほど、銀河の形成と脳が複雑なことを起こす方法との間にはどのような関係があるのでしょうか？
スティーブン・ウルフラム 3:26:33
どちらも、複雑なことがどのように起こるようになったかという問題だからです。単純な起源から、そう、ある種の起源を知ることから、私は、私が興味を持っているのは、複雑なものが規則から発生する、これらすべての異なるケースのようなものだという感覚を持っていました。
雪の結晶なども見ていましたしね。流体力学全般に言えることですが、複雑さはどのようにして生まれるのか、ということに興味があったんです。しかし、一般的な現象があるのではと気づくまでには、しばらく時間がかかりました。
銀河はこっち、脳はこっちと、まったく違うものだと思っていたんです。そこで、1981年頃でしょうか、私は、これらの現象がどのように機能するかという最小限のモデルを作ってみようと思ったのです。というのも、私は1979年に初めて大型コンピュータシステムを構築し、SMP（記号操作プログラム）と呼ばれるものを使っていました。
これは、現代の現代語の前身ともいえるもので、記号計算などに関する同じような考え方が多く含まれています。しかし、この言語が私にとって非常に重要だったのは、その言語を構築する際に、私は基本的に、関連する計算プリミティブは何かということを突き止めようとしたことで、それが結果的にこの40数年間、私の心に残っています。
というのも、言語を構築することは、これまで私が主に実行してきた自然科学とはまったく異なる活動だからです。自然科学では、世界の現象から出発し、世界の現象にどのような意味を持たせることができるかを考えようとするのです。いわば、世界はあなたに提供するものを提示し、あなたはそれを理解しなければならないのです。
コンピュータ言語を作るとき、あなたは自分のプリミティブを作り出しているのですね。自然科学とは正反対のことをやっているわけですが、私はそれを経験したことがあります。だから、人工的な物理学を作ったらどうなるんだろう、と考えたんです。
システムが動作するためのルールを作ったらどうなるんでしょう？そして、銀河や脳など、さまざまなシステムについて考えてみたんです。そのシステムで重要なこと、そのシステムの計算の周辺を捉えるような、絶対的に最小のモデルとは何でしょう？そうです。
セルオートマトンでは、白と黒のセルが並んでいて、セルとその隣のセルがあれば、次のステップでセルの色はどうなるかというルールがあり、それを何度も実行するだけなのです。皮肉なことに、セル・オートマトンはさまざまなものの優れたモデルです。しかし、銀河や脳は、セルオートマトンが非常に悪い結果を出す2つの例であり、この2つとは本当に無関係なのです。
レックス・フリードマン 3:29:23
熱力学の第二法則とセル・オートマトンとの関連は？セルオートマトンについてあなたが発見した最も古い事柄は何ですか？
スティーブン・ウルフラム 3:29:30
そうですね。私が最初にセルオートマトンを売り始めたとき、セルオートマトンに関する最初の論文は、最初の文章がいつも熱力学の第二法則についてでしたね、物事を無秩序に戻そうとする熱力学の第二法則があるにもかかわらず、秩序はどのようにして生み出されるのか、ということでした。
そして、私が最初に理解したのは、セル・オートマトンにおける本質的に不可逆的なプロセスが、ランダムな初期条件からでも秩序ある構造を形成する、ということでした。しかし、このことがわかったとき、実は、もっと早く発見しておくべきだったのに、そうしなかったということがわかったのです。
セル・オートマトンを研究していた私が行ったのは、最も分かりやすいコンピュータ実験でした。まるで、計算機で望遠鏡を発明して、空の最も目立つものに向けるようなものです。すると、そこに何があるのかがわかるんです。
そうして、セル・オートマトンの仕組みの絵を描き始めたのですが、その絵には、セル・オートマトンのルールを番号で表すことができるんです。そのうちのひとつが、ルール30なんです。それで、1981年頃にルール30の絵を描いたんです。
ルール30？当時はAIだったんですが、私は「なるほど、こういうルールもあるんだな」と思ったんです。そして、物事をよりシンプルにするために、対称的なものの場合だけを考えよう、などなどです。そして、私はそれを無視しました。そして、1984年、不思議なことに、私は初期のレーザープリンターを持っていて、非常に高解像度の写真を撮ることができました。
その結果、この法則は非常に驚くべき性質を持っていました。この法則は非常にシンプルで、一番上の1つの黒いセルから始めて、このような三角形のパターンを作ります。しかし、このパターンの内側を見ると、本当にランダムに見えます。中央のセルの列を見ると、そのように見えます。
私はそれを詳細に研究しました。そして、見渡す限り、完全にランダムなのです。円周率の数字と同じようなものです。円周率の桁を生成するためのルールを知っていれば、その通りになります。しかし、3.14159など、一度生成してしまうと、完全にランダムなものに見えてしまいます。実際、私は2019年だったかに、この数列について何かを証明した人に賞を贈ったんです、
レックス・フリードマン 3:31:59
基本的に、彼らはそれについて何もすることができない、
スティーブン・ウルフラム 3:32:03
私にいくつかのものを送ってくれました。というのも、私は2007年に、普遍的チューリング機械の最も単純な候補と思われる特定のチューリング機械が、普遍的チューリング機械かそうでないかを決定する賞を出したんです。
そして、誰かがその賞を獲得し、それが普遍的なチューリング機械であることを約半年で証明したのです。それが何百年も続く問題なのか、それともアレックス・スミスという若者が6カ月で解決した問題なのか、私にはわかりませんでした。だから、この小さな30個のコレクションが、100年先に手に入るものなのか、それとも、誰かがとても賢いことをするのか、よくわからないのです。
レックス・フリードマン 3:32:51
つまり、フェルマーの最終定理が言うように、ルール30はとてもシンプルな定式化なのです。誰でもそれを見て理解できるような気がします。ある種の法則を導き出すために、何かを予測することができるというのは、手に取るようにわかる気がします。そう、そして、ルール30の真ん中の列について何かを予測することができるのです。
スティーブン・ウルフラム 3:33:13
そうですね。しかし、これは、そうではないのです。これが、計算機的還元性の直感的な驚きです。ルールが単純であっても、何が起こるかわからないということです。そして、それについて物事を証明することはできません。
私はそう思っています。とにかく、私は1984年くらいから、「非常に単純なルールでも、明らかにランダムな振る舞いをする」という現象に気づき始めたんです。これは、熱力学の第2法則に少し似ています。つまり、単純な初期条件があって、それがとてもシンプルで、簡単に説明できることがわかります。
それなのに、ランダムであるかのような現象が起こるのです。さて、熱力学の第二法則と可逆性の考え方には、いくつかの技術的な詳細があることがわかりました。2つのビリヤードの玉がぶつかり合う様子を動画にしたとき、その玉がぶつかり合って跳ね返るのを見たとき、その動画を逆再生すると、どっちが時間の進む方向で、どっちが戻る方向か分からなくなるんです。
これが第二法則の謎のようなもので、秩序だったものが、秩序だったものから始まって無秩序になるということです。秩序あるものから出発して、秩序あるものになるということです。しかし、世の中にはそのようなことはありません。しかし、原理的には、もしすべての分子の詳細な運動を逆向きにたどれば、時間の逆行が可能になるはずで、時間を前に進めると無秩序になり、時間を後ろに進めると完全に無秩序になります。
では、その謎は、なぜそうなるのでしょうか？謎の1つのバージョンとして、秩序に進化する必要があるような無秩序なものを見たことがないのはなぜか？なぜそうならないのでしょう？なぜ、秩序が無秩序に進化し、その逆はないのでしょうか？1980年代から気づき始めたことですが、これは暗号技術に似ていて、この鍵から始めると、とてもシンプルなんです。
そして、それを実行すると、複雑なランダムな混乱が生じます。その理由は？私はその頃、第二法則は計算の非簡約性の物語であることを理解し始めたんです。つまり、最初のうちは簡単に記述できても、最後のほうは膨大な計算量を使わないと記述できない、という話なんです。
さて、それから何年も経った今、私たちは何を考えているのでしょうか。私は、基礎物理学を理解するための大きなプロジェクトを行っていて、その重要な側面は、観測者がどのようなものかを理解することだと気づきました。そして、熱力学第二法則は、他の多くの事例と同じ話だと気づきました。
熱力学第二法則は、計算量的に制約のある観測者が、計算量的に還元不可能な系を観測しようとする話なのです。つまり、分子が跳ね回っている下で、規則によって完全に決められた方法で跳ね回っている、という話です。しかし、重要なのは、計算機的に制約された観測者である私たちには、このような単純な基礎規則があったとはわからないということです。
私たちには、ただランダムに見えるだけなのです。そして、初期状態を準備できるかという問題になると、秩序あるものを作るために、無秩序なものが正確に正しい無秩序を持つように、計算で縛られた観測者はそれをすることができません。
レックス・フリードマン 3:37:34
計算で縛られた観察者とはどういう意味か？ということは、計算や還元可能なシステムを観察することで、計算が束縛される、何か形式的なものがあるのでしょうか？
スティーブン・ウルフラム 3:37:45
つまり、チューリングマシンや計算複雑性理論、多項式時間計算など、より正確なものを作るための様々な方法がありますが、私は直感的なバージョンの方がより有用だと思います。
その答えは、私たちはたくさん計算することはできない。私たちが、この部屋に、1兆兆個の分子があるとき、少し少ない大きな部屋になります。そして、あらゆる瞬間に、つまりマイクロ秒ごとに、これらの分子、分子が衝突しているのです。そのため、多くの計算が行われているのです。しかし、私たちの脳では、1秒間に行われる計算量は、すべての分子が行う計算量よりもはるかに少ないという疑問があります。
もし計算の非簡約性があるのなら、すべての分子が何をするのか詳しく知ることはできませんが、私たちができることは、より少ない量の計算だけです。
熱力学の第2法則は、このような計算の非簡約性と、初期状態を準備する側、あるいは何が起こるかを測定する側との相互作用によって成り立っているのですが、私たちはそれほど多くの計算をすることができません。ですから、私たちにとって、熱力学第二法則のもう一つの大きな定式化は、エントロピー増大の法則という考えです。
レックス・フリードマン 3:39:23
この宇宙では、エントロピーが常に増加しているように見えるという特徴です。そのことは、進化について何を示しているのでしょうか？
スティーブン・ウルフラム 3:39:31
さて、そうですか、では、今回のエントロピーはイエスですね。エントロピーはルドルフ・クラウジウスという人物によって初めて導入されたもので、熱力学の歴史において非常に混乱しています。エントロピーはルドルフ・クラウジウスという人が最初に導入したもので、彼はそれを熱と温度という言葉で表現したんです。
その後、ルートヴィヒ・ボルツマンという人物によって再定義されました。ボルツマンは、より組合せ論的な方法で定式化しました。しかし、彼は常に、これはクラウジウスの4分の1だと主張していました。ある特定の簡単な例では、そうなっています。しかし、この2つのエントロピーの定式化の間の関連は、これまで一度も結びついたことがありません。
ボルツマンによるエントロピーの一般的な定義は、次のようなものです。つまり、あるシステムがあり、多くの可能な構成があるとします。分子はいろいろな配置が可能です、などなど。例えば、箱の中に入っていること、ある圧力があること、ある温度があること、そういったシステムに関する全体的な事実がわかっている場合、そういった全体的な制約がある中で、システムの微視的な構成がいくつ可能か、ということを考えます。
そして、エントロピーはその数の対数です。これが定義です。これが、有用なエントロピーの一般的な定義なのです。さて、ボルツマンの時代には、分子はどこにでも配置できると考えていました。しかし、ボルツマンは「分子をバラバラにすれば、もっとシンプルにできる」と考えました。
実は、彼は分子が存在することを知らなかったのです。彼の時代には、60年代にも分子が存在していました。物質が不連続なものからできているという考えは、古代ギリシャの時代からずっとありました。しかし、「数学は離散的なものなのか、それとも連続的なものなのか」という議論が長い間行われていました。
当時、人々は物質が連続的なものだと考えていました。そして、熱とは何かという問題と混同され、人々は熱を流体だと考えていたのです。そして、それは大きな、大きな混乱でした。ボルツマンは、「分子がバラバラで、エネルギーレベルもバラバラだと仮定しよう」と言いました。
すべてがバラバラだとすると、組み合わせ数学のようなもので、箱の中にこれらのものがいくつ配置されるかを計算することができるのです。そして、このエントロピー量を計算することができるのです。しかし、彼は、「でも、もちろん、これらのものが離散的であるというのは単なるフィクションである」と言いました。
ところで、当時、人々は分子の存在を知らなかったのですが、化学の分野では、水素2個と酸素1個で水ができるとか、水素2個と酸素1個で水ができるとか、そういう組み合わせから、バラバラの原子があるのではないかというヒントが得られていたのです。
しかし、分子がバラバラに存在することは知りませんでした。そして実際、20世紀の初めまで、ブラウン運動が最後の決め手となりました。ブラウン運動とは、花粉の粒を顕微鏡で見てみると、小さな粒がばらばらに蹴られているのがわかるでしょう。
この蹴りは、水分子がぶつかったものです。しかも、バラバラなんです。そして実は、これは非常に興味深い歴史でした。ボルツマンは1860年代に量子論のようなものを発明し、物事が離散的になる仕組みを解明していました。しかし、ボルツマンは、そのようなことはあり得ないと考えていたのです。
それから、物理学の歴史の一部ですが、これはちょっとおもしろいと思います。1900年、マックス・プランクという人物がいました。彼は長年、熱力学の専門家として、マックス・プランクも含めて、誰もが熱力学の第二法則を証明しようとしていました。
マックス・プランクは、電磁波などの放射線と物質との相互作用が、熱力学の第二法則を証明すると考えていました。しかし彼は、人々が行った黒体放射の実験から、このような曲線を得たのですが、放射線が物質とどのように相互作用するかという彼の考えに基づいて、その曲線をあてはめることができませんでした。
しかし、ボルツマンが行ったように、電磁波は離散的であると仮定すれば、曲線にフィットすることに気づいたのです。ところがアインシュタインがやってきて、「そういえば、電磁場は実はバラバラで、光子でできているのかもしれません」と言ったんです。
それで、この仕組みが説明できるようになったのです。これが1905年のことで、これが量子力学の始まりだったのです。興味深い歴史の一部ですね。私は最近調べるまで知らなかったのですが、1904年1903年にアインシュタインは3つの異なる論文を書いています。
1905年には、物理学の歴史としてよく知られています。アインシュタインは3つの論文を書き、1つは相対性理論を紹介し、1つはブラウン運動を説明し、1つは基本的に光子を紹介しました。物理学にとっても、アインシュタインにとっても、この年は一大イベントでした。
熱力学の第二法則を証明しようとしたもので、ナンセンスなものでした。だから、彼がこんなことをやっていたなんて、まったく知らなかったんです。面白くもなんともありません。ブラウン運動に関する論文、光子に関する論文、どちらも世界を離散化させるという話です。
そのアイデアは、ボルツマンから得たものだと思います。そうですね。しかし、ボルツマンは考えていませんでした。ボルツマンは信じて死んだようなものですが、彼はこう言っているんです。というのも、結局のところ、物事は離散的であることが判明するからです。
レックス・フリードマン 3:45:52
だから、彼は自分の信念を貫いているのです。そして、そう、彼は物質が離散的であることに反対しているのです。
スティーブン・ウルフラム 3:45:56
そうです、彼はそうしました。そして、これに関して興味深いのは、当時、アインシュタインを含む誰もが、空間も離散的なものになると思っていたことなんです。しかし、それは技術的にうまくいきませんでした。相対性理論との整合性がなかったからです。
そうとは思えなかったのです。そして、物理学の歴史の中で、物質が離散的であること、電磁波磁場が離散的であることを人々が決定しても、空間は離散的でないとして持ちこたえたのです。実際、アインシュタインが1916年に書いた手紙には、「最終的には、空間は離散的であることが判明するでしょうが、その仕組みを解明するのに必要な数学的ツールはまだ持っていない」と書かれているのです。だから、100年後に私たちがこのようなことをするのは、とてもクールなことだと思います。
レックス・フリードマン 3:46:40
あなたは、現実のあらゆる層で離散的であることを確信しているのですね、
スティーブン・ウルフラム 3:46:45
そして、その空間は離散的です。そして空間は離散的であるということです。実際、私が最近気づいたことの一つに、熱の理論があります。熱のカロリー理論みたいなものですが、これは完全に間違っていることがわかりました。
実は、熱はバラバラの分子の運動なのです。私は、空間は離散的であると思います。問題は、カロリーで犯した間違いの類似点を、空間の場合はどうするのか、ということです。私の現在の推測では、ダークマターは、ここ数ヶ月の私のちょっとした格言のようなもので、「ダークマターは、現代のカロリーである」というものです。つまり、暗黒物質が空間の特徴であることが判明するのです。そして、それは粒子の束ではありません。
当時、人々が熱について話していたとき、彼らは流体について知っていました。そして、熱は別の種類の流体であるに違いない、と考えたのです。しかし今、人々は粒子について知っています。それで、「ダークマターって何だ？」と。
レックス・フリードマン 3:48:00
では、空間の特徴として、ダークマターとは何なのでしょうか？
スティーブン・ウルフラム 3:48:03
ああ、まだわかりません。つまり、私ができるようになりたいと考えていることの一つは、ブラウン運動と空間の類似性を見つけることです。つまり、ブラウン運動は、個々の分子からの影響というレベルまで見ていたのです。
だから、空間の場合は、これまで私たちが見てきた空間のほとんどは、すべてが連続しているように見えるのです。ブラウン運動は1830年代に発見されました。しかし、それが何であるか、偏りや小さなチェルスキーの結果であることが明らかにされただけでした。
そして、20世紀の初めにアインシュタインが発見しました。ダークマターは、100年前に発見された現象で、銀河の回転曲線が発光物質に従わないというものです。これは100年前に発見されたものです。このように、私たちがすでに知っている効果がないとしても、私は驚かないだろうと思います。
それはブラウン運動のアナログのようなもので、空間の離散性を明らかにするものです。実際、私たちはいくつかの推測をし始めています。離散的な空間があると、ブラックホールの合体が違ってくるという証拠がいくつかあるのです。また、重力波のシグネチャーに見られるように、空間の離散性に関連するものがあるのかもしれません。
しかし、このような物理学の歴史の再現は、私にとっては非常に興味深いものです。例えば、人々は、物質は連続的です、電磁場は連続的であると激しく主張し、それが真実ではないことが判明しました。そして、「空間は連続である」と言います。
しかし、エントロピーとは、ある制約に合致したシステムの状態の数ということですね。そうです。つまり、ガス中のすべての分子の位置が詳細に分かっている場合、エントロピーは常にゼロです。なぜなら、考えられる状態は1つしかないからです。
気体の状態は1つしかなく、ある状態からゲストへと進化していくのですが、その繰り返しです。なぜなら、分子についてわかっていることは、分子の位置についてわかっていることと矛盾しない、より多くの微視的な状態の可能性があるからです。
そこで、このようなパラドックスや、「もしすべての分子の位置がわかっていたら、エントロピーは増大しないのではないか」という疑問が生じます。20世紀初頭、いや、実際には20世紀初頭のごく初期に、物理学の教授として、アメリカの物理学の教授として、イェール大学で最初の著名なアメリカ人物理学教授だったギブスによって紹介された考え方があります。
彼は粗視化という考え方を導入しました。この考え方は、「分子は細かく跳ね回っている。しかし、私たちが観測できるのは、その粗い粒のバージョンに過ぎない。しかし、混乱したのは、有効な粗視化が何なのか、誰も知らなかったことである」
つまり、単純な初期条件から得られる特定の構成が、この粗視化された粒子に収まることに気づくような、非常に注意深く彫刻された粗視化ができるかどうか、そして粗視化がそれを非常に注意深く観察しているかどうか、誰も知らなかったわけです。
その答えは、もしあなたが計算量に縛られた観察者であり、基礎となる力学が計算量的に還元不可能であるならば、計算量に縛られた観察者ができることは、可能な原因選別の定義になるのだからです。そして、計算量に制限のある観察者は、システムが行っていることの粗い粒度のバージョンしか見ることができないという事実があるのです。だから、その下で起こっていることは、このようなさまざまな可能性を埋めていくことであり、その結果、根本的な計算の非簡約性があるものに行き着くのです。
もし、ある種の計算に縛られた観察で、粗い粒度の結果しか見えないとしたら、必然的に、それに一致する多くの可能な基礎的構成が存在することになりますね、
レックス・フリードマン 3:52:23
明白にしたいのですが、基本的に、宇宙の中に存在する観測者はすべて、計算量に縛られることになるのですか。
Stephen Wolfram 3:52:31
いや、私たちのような観測者なら誰でも？私は知りません。
レックス・フリードマン 3:52:35
私たちのようなというのはどういう意味ですか？
スティーブン・ウルフラム 3:52:37
ええ、有限の心を持つ人間も含まれますね
レックス・フリードマン 3:52:41
科学の道具を使う？
スティーブン・ウルフラム 3:52:45
そうですね、そして、私たちは、より正確な、そして、ところで、熱力学の第二法則のような小さなミクロの違反があるのですが、それは、より正確に分子の位置を測定できるようになると、起こり始めることができます。しかし、大規模なものでは、十分な分子があっても、すべての分子を追跡することはできませんし、それを行うための計算資源もありません。
計算量に縛られないオブザーバーがどのようなものかを想像することは、興味深いことだと思います。というのも、計算量に縛られるというのはどういうことかというと、特に、明確なことが起こると結論づけるということだからです。
私たちは、世界の複雑な状況をすべて把握し、左に曲がるか右に曲がるかの決断を下します。そして、このような細部をすべて、私たちが観察し、この1つの事柄に押し込めるのです。そうです。そうでなければ、私たちはこのような象徴的な構造を持たず、有限の頭脳で物事を考え抜くことができないでしょう。その代わりに、私たちは宇宙と一体化したような存在になってしまうのです。
レックス・フリードマン 3:54:04
内容物、単純化されない。
スティーブン・ウルフラム 3:54:08
そうです。もし私たちが単純化しなければ、私たちは私たちらしくないでしょう。私たちは、宇宙のように、内在する宇宙のように、しかし、私たちが経験するような、例えば、明確なことが起こると結論づけるような経験はしないでしょう。私たちは、ある種の物語を作ることができる、という概念を持っているのです。
レックス・フリードマン 3:54:33
そうですね、あなたが思考実験として想像したように、コンピューターになるのはどんな感じなんでしょうね。束縛されないコンピュータの観察者であることがどのようなものかを想像し始めることは可能なのでしょうか。
スティーブン・ウルフラム 3:54:46
そうですね。だから、彼の彼は、私が思うに、私の脳を再生する方法は、ルリアードについて私たちは話しているのですが、つまり、この中で、あらゆる可能な計算の空間を除外すること、これとこの考え方は、ある場所にいて、ある計算のセットのある種の方法に対応するものを追加することで、物事を表現するということです。
だから、拡張して、より可能性のあるルリアード宇宙の見方を網羅し、より可能性のある計算の種類を網羅するようになると、最終的には、これは本当の勝利だと言えるかもしれません。そして最終的には、ルリアード全体を植民地化することに成功し、すべての面で勝利を収めたと言えるかもしれません。
さて、ここで問題が発生します。存在という概念、つまり首尾一貫した存在には、ある種の特殊性が必要なのです。つまり、ニッチでは、存在の概念、つまり私たちが明確な存在と考える概念には、このような特化した考え方が必要なのです。そして、それこそが、私たちが首尾一貫した存在であるための、ある種の方法なのです。
もし私たちがルリアード全体に散らばっていたら、私たちの仕事の仕方に一貫性はなく、ありとあらゆる方法で仕事をすることになるでしょう。そして、それは一種のアイデンティティーの概念ではなく、首尾一貫したアイデンティティーという概念もないでしょう。
レックス・フリードマン 3:56:36
私は地理的にどこかに位置しています。正確にルリアードの中で、したがって私は、そうです、デカルト？のようなもの？
スティーブン・ウルフラム 3:56:45
ええ、そうですね。まあ、あなたは物理空間のある場所にいる、あるいは現実空間のある場所にいる。そして、もしあなたが十分に広がっているならば、あなたはもはやコヒーレントではありません。つまり、私たちの認識では、存在すること、経験を持つことがどういうことなのかがわからなくなるのです。だから、そうなることはないのです、
レックス・フリードマン 3:57:05
存在するということは、計算上の制約を受けるということなのですね。
スティーブン・ウルフラム 3:57:09
そう思います。私たちが自分自身を存在すると考えるような形で存在することだと思います。
レックス・フリードマン 3:57:15
存在するという行為そのものが、この場所で活動しているようなもので、それは競争であり、あなたはこの巨大な混乱に還元され、おそらく予測できないことが起こっています。しかし、それにもかかわらず、あなたの限界のために、あなたはのような命令を持っている、それは命令または単純化するためのスキルセット何でしょうか？あるいは、無知で十分な愛ですか？
スティーブン・ウルフラム 3:57:35
オーケー、例えば、私たちは部屋の中を飛び回っているすべての分子を持っていますが、私たちが気づいているのは、空気の流れや圧力といった、特定の事柄だけです。そして、興味深いことに、私たちが観察するこれらの大きな事柄を支配するルールや法則が存在するのです。そうなんです、だから当たり前じゃないんです。
レックス・フリードマン 3:58:01
切り口だと感じないからすごいですよね。切り口ではない。まあ、一種の抽象化なんですけどね。
スティーブン・ウルフラム 3:58:09
そうですね、でもつまり、気体の法則が機能すること、圧力や体積などを記述できること、等々。つまり、個々の分子について話すレベルまで下がる必要はないのです。これは些細な事実です。そして、私が思うに、宇宙にはある種の側面があるという事実が、とてもエキサイティングです。
私たちは、空間は究極的には空間の原子や超グラフでできていると考えています。しかし、それにもかかわらず、私たちは大規模な宇宙を連続した空間のように認識しています。量子力学では、時間の糸や歴史の糸が何本もあると考えますが、私たちはそれをまたいでいます。
量子力学や物理学のモデルでは、時間は1本の糸ではなく、多くの糸に分かれており、それらは枝分かれし、合体しています。そして、私たちの脳もまた、枝分かれと合体を繰り返しているのです。だから、私たちが宇宙を認識するとき、私たちは枝分かれした脳が枝分かれした宇宙を認識しているのです。
だから、私たちは、自分が時間的に永続的な存在であると信じているのですが、その主張には、「経験という一本の糸」があるのです。これは、宇宙の基本的な動作の中で分離している時間の糸を、どうにかして集約させることができたという主張です。
ですから、空間では、ある大きな空間の領域を平均化し、空間の多くの原子の集約的な効果を見るのと同じように、私たちは多くの多くのものを見ています。ですから同様に、私たちが分岐空間（Branchial Space）と呼んでいるものでは、これらの量子的な枝の空間があるのです。
また、熱力学では、分子の多くの可能な位置の構成を平均化しています。では、ここで何が見えるのでしょうか？そこで疑問なのは、空間について平均化を行ったとき、空間の集合法則はどうなるのか、ということです。
分岐空間について平均化を行った場合、空間の集合法則はどうなるのでしょうか？気管支空間の集合法則は何でしょうか？分子などの平均化を行うと？どのような集合法則が得られるのでしょうか？これが、私が驚くほど、驚くほどすてきだと思うことなのです、
レックス・フリードマン 4:00:33
集合法則が存在するということですね。
スティーブン・ウルフラム 4:00:37
まあ、そうですね。しかし、その質問は、その集合法則は何なのかということです。その答えは、空間については、集合法則、アインシュタインの重力方程式、時空の構造、気管支空間については、その法則は量子力学の法則であるということです。そして、分子や物体の場合は、基本的に熱力学の第2法則が集合法則となります。で、その、熱力学の第二法則から導かれるものが、これです。
つまり、20世紀の物理学の3大理論は、基本的に一般相対性理論、重力理論、量子力学、統計力学であり、熱力学第2法則から発展したものですが、20世紀の物理学の3大理論はすべて、計算の非簡約性と観測者の計算境界の相互作用の結果なのです。
私にとっては、この3つの法則がすべて駆動可能であることを意味する、とても素晴らしいことなのです。例えば、アインシュタインの方程式は、私たちの宇宙の車輪のようなもので、宇宙がそのようになるかもしれないし、そうでないかもしれない、と考えていました。
量子力学は、「たまたまそうなっただけ」という感じです。しかし、物理学の基本原理は3つとも駆動可能ですが、数学だけでは駆動しません。そうすると、それはつまり、観察者の性質ということになるわけです。観察者の大まかな性質は、細かいことではなく、目に入ったときに、この周波数の光子を観察する、といったようなことです。このような観測者の粗い性質が、物理学に関する非常に正確な事実を示唆しているのです。これはすごいことだと思います。
レックス・フリードマン 4:02:44
観察者の実際の経験を見てみると、私たちはこの現実を経験し、それは私たちにとって現実であるように思えるのです。そして、あなたは、私たちの束縛された性質のために、それは実際にはすべて幻想であると言っているのですね。ええ、そうです。
スティーブン・ウルフラム 4:02:59
単純化したものです、そうでしょう？何が何だか、えーと、
レックス・フリードマン 4:03:01
簡略化が錯覚だと思わないのでしょうか？
スティーブン・ウルフラム 4:03:04
いや、つまり、それは、まあ、わかりません。つまり、本当にいいものってなんでしょう？なるほど、それは面白い質問ですね。本当にいいものってなんでしょう？それは、「なぜ宇宙は存在するのか」という問いに関連しています。そして、現実との違いは何なのでしょうか？何が起こっているのかの単なる表現と何が違うのでしょうか？
レックス・フリードマン 4:03:25
そう、私たちは表象を経験したのです。
スティーブン・ウルフラム 4:03:29
しかし、「なぜ、そのような体験ができるものが存在するのか？」その答えは、この本当に奇妙な物体は、あらゆる可能な計算のもつれた限界であり、それについて選択の余地はなく、存在しなければならない、そのようなものがなければならないからです。それは、2+2が、2とは何かを定義し、プラスなどをつけると、2+2が4になるのと同じ意味です。
同様に、あらゆる計算の可能性を制限する、この本当に追加されたものは、ただ物でなければならないのです。そして、それについて重要なのは、それがただ一つであることです。この唯一無二の物体だけで、その唯一無二の物体は必然的に存在するんです。
そして、問題は、私たちがその中に組み込まれ、サンプルを採取していることを知れば、私たちが知覚できるものが存在することは必然であり、私たちの物理的現実の知覚は、私たちの持つ特性を持つ観測者であることから、必ずそのようになります。
言い換えれば、宇宙が存在するという事実は、実は、ほとんど神学のように考えることができるのです。宇宙の存在などに関する多くの疑問は、ここ数100年の科学が本当に関心を寄せてきたものを超越していますし、ここ数100年の科学は、そのような疑問について語ることができるとは思っていませんでしたから、私は本当に面白いです。
そうですね。しかし、「神は存在するのか」という議論には、そのような意味があると思います。ある意味、ある表現では、私たちが存在することよりも、私たちよりも大きなものが存在することの方が、より明白なことだと思います。そして、私たちは、私たちの存在です。
そして、観測者である私たちのあり方は、宇宙の偶発的なものです。そして、宇宙全体、つまりあらゆる可能性の集合が存在することは、より必然的なことなのです。しかし、この疑問は、「それは現実なのでしょうか？それとも幻想なのでしょうか？私たちが知っているのは、自分の経験だけです。
だから、私たちの経験は、ルール・ヤードのほんのわずかなサンプルなのです。そして、私たちは、もっともっと奇妙なものを見本にして、もっともっと学ぶことができるかもしれない、例えば、量子力学のような物理学のさまざまな分野を学ぶことができるかもしれない、という点があります、 電子増幅器が発明され、それまで不可能だった小さな効果を増幅することができるようになったこと、物を拡大する顕微鏡が発明されたことなどと密接な関係があるのだと思います。
しかし、非常に小さな効果で、それを拡大することができるというのは、ある意味新しいことで、宇宙の別の側面を見ることができ、このようなものを発見することができたのです。だから、ジュリアードでは、私たちが発見できる新しいものが無限に集まっていると期待できます。実際、計算の非簡約性が保証しているように、発見できる還元可能性のポケットのようなものが無限に集まっているのです。
レックス・フリードマン 4:07:13
ルリ広告を散歩して、どんなものがあるか見てみるのも楽しいかもしれませんね。宇宙人の知能について書いているのですか？そうです。つまり、この世界だけ？
スティーブン・ウルフラム 4:07:23
そうですね、この世界の計算問題は、彼と話すことができないことです。そうですね。そして、私が多くの時間を費やしてきたのは、計算システムを研究し、それらが何をするのかを見ることでした。そうです。そして、そのルールが何をするものなのかを知ることができます。
そして、いわば人間的なつながりがないんです、あなたはそう思っているからね、
レックス・フリードマン 4:07:54
動物とコミュニケーションできる人もいるんでしょ？あなたはこれらのささやきになれると思いますか？
スティーブン・ウルフラム 4:08:04
引用文の書き方？それは私が私の人生の一部を費やしてきたものです。を持つ
レックス・フリードマン 4:08:08
聞いたことがありますか？あなたは心を失う危険性があるのでしょうか？
スティーブン・ウルフラム 4:08:12
私の好きな科学の発見のようなものですか？この非常に単純なプログラムが非常に複雑な動作を生み出すという事実でしょうか？そうです。この事実は、ある意味、私たちが今まで知りませんでした、計算の宇宙の中で何かがささやかれているようなものなんです。
1980年代、私は優秀な数学者たちと一緒に仕事をしていました。彼らは、計算機システムで何が起こっているのか、それを解明できないかと考えていたんです。そして彼らは、「私たちが持っている数学では、この問題を解決するのは無理です、行き詰まっています。
私たちは何も言うことができないのです。ある意味、当時の私の大きな功績は、優秀な数学者が何も言わないという事実そのものが、非常に興味深いことだと気づいたことでしたね。これはある意味で、ジュリアードの別の部分がささやかれているようなものでした。それは、私たちが知っている数学などからは、アクセスできないものだったのです。
レックス・フリードマン 4:09:16
このような巨大なアイデアを探求し、非常に興味深い発見をする寸前まで来ているような気がするのですが、悲しくなることはないですか？しかし、あなたは有限の存在であり、あまりにも早く死ぬことになるのです。脳や全身のスキャンをすると、そのことがわかるんですか？そう、ただの肉の塊なんです。ただの肉の塊です。
そう、だから、ちょっと悲しくなるような
スティーブン・ウルフラム 4:09:45
のような輝きを放つ。つまり、私はこのようなものがどのように解決されるかを見たいのです。クライオニクスがうまくいくと仮定して、ある日、チャックGPTのようなことが起こるかもしれません。誰かが、摂氏0度からマイナス44度まで、膨張せずに水を入れる方法を発見します。
そして、いわば一時停止して、100年後とかにまた現れることができるようになるんです。しかし、だんだんわかってきたのは、ある意味、この「1つのもの」という問題は、ある瞬間に埋め込まれているということです。
今、私たちが気にしていること、私が気にしていること、例えば、私が500年前に生きていたら、今、私が気にしていることの多くは、まったく奇妙なことだと思うのです。つまり、誰もそんなこと気にも留めないということです。
将来、ほとんどの人が考えるようなことは、奇妙な遺物として残るでしょう。例えば、神学者が「ピンの頭に何人の天使が収まるか」について考えたようなことです。そして、それが大きな知的なことだったのかもしれません。だから、私は、これは、これは、これは、これは、これは、これは、これは、これは、これは、これは、これは、特に、私は、幸運か不幸か、よくわかりませんが、このようなことがありました。
私は、50年後、100年後、世界が滅びないと仮定して、何が起こるか、十分に見通せるものを、たくさん発明してきたと思います。そして、それは、自分の人生を歩む上で、良いことでもあり、悪いことでもあるのです。つまり、もし私が理解したことがすべて、25歳のときに理解したことだとしたら、そのようなものなのです。
そして、みんなが「素晴らしい」と言います。そして、もう終わったんです。しかし、私はあと何年生きられるんでしょう？そこからが、すべての下り坂なんです。ある意味、その方がいいんです、ある意味、この方が、面白いんです、私が見ることができるのは、このようなものが多いんです、つまり、予想外なんです、 ChatGPT、私は、計算や計算言語という考え方が、この製品によって開放されるとは思っていませんでしたが、これがいわば予定より早く実現するとは思っていませんでした。
というのも、私が想定していたような大きな開花は、さらに50年先のことだったからです。だから、もし、もっと短い期間で実現できるのなら、それはとても素晴らしいことです。というのも、うまくいけば、私はそれを見ることができるからです。
レックス・フリードマン 4:12:53
まあ、私は、非常に、非常に多くの人々のために、あなたがこの先も長く付き合ってくれることを望んでいると言っているのだと思います。あなたはたくさんの面白いアイデアを持っていました。長年にわたって、たくさんの面白いシステムを作ってきました。
そして、GPT言語モデルが世界をさらに切り開いた今、この開発の最前線にいるあなたを見るのが楽しみでなりません。What you what you do. そして、そう、私はあなたのファンだったんです。
最初の頃から何度も何度も言ってきたようにね。セル・オートマトンの謎を解き明かし、私の中の小さな子供に人工知能やこの美しい世界をすぐに追求する気にさせてくれた、新しい種類の科学を書いてくれたことに深く感謝しています。
あなたと話せてとても光栄です。あなたの心を拾い、あなたのようにあらゆるアイデアを探求し、どうか続けてください。そして、あなたが次に何を思いつくか、私は待ちきれません。そして、今日はありがとうございました。12時を過ぎてしまいました。まだ4時間半しか経っていません。もっと話せそうですが、それは今夜にします。