2023/04/16 グッドタイム・ショー｜ポッドキャスト・インタビュー完全版
0:00 イントロ
1:54 Stephen Wolframの生産性向上への取り組み方
6:12 スティーヴンの一日一晩の生活
7:45 スティーブンによる人工知能の展望
13:05 人間の脳と人工知能のアナロジー
16:40 GPTに対するWolframのユニークなアプローチ
31:00 円周率計算のこと
34:14 AIのリスク
45:32 スティーブンさんのXファクター
51:36 物事は見かけによらず複雑なものなのか？
1:03:00 単純なことを正しく行う
著名な物理学者、数学者、コンピュータ科学者であるスティーブン・ウルフラムがポッドキャストに参加し、AI、物理学などについて議論しました。私たちは、人工知能の現状と、それがもたらす課題と機会について探求しました。スティーブンは、計算宇宙とセル・オートマトン、そして物理学との関係についての洞察を披露してくれました。
🎙️ The Good Times Show： Aarthi RamamurthyとSriram Krishnanが、一流のビルダーやCEOとの対話をホストし、内部で成功するために必要なことを明らかにします。
🔊 Spotifyで聴く: open.spotify.com/show/2CuAlPd…
🔊 Apple Podcastsで聴く:podcasts.apple.com/us/podcast…
📕 Substackで購読する: substack.com/profile/11392198…
📷 SriramをInstagramでフォローする: www.instagram.com/sriramk/
🐦 SriramのTwitterをフォローする: twitter.com/sriramk?s=20
📷 Follow Aarthi On Instagram: www.instagram.com/aarthir/?hl=en
🐦 AarthiのTwitterをフォローする： twitter.com/aarthir
スティーブン・ウォルフラム 0:00
この3年間で、私にとって大きな喜びは、基礎物理学の仕組みが解明されたことです。その結果、私たちの実際の宇宙では、このようなことが可能なのだろうかという疑問を持つことができるようになりました。そして、それは非常に複雑な話であると言えると思います。
スリラム・クリシュナン 0:16
この番組では この番組では、この分野のトップにいる人たちとの会話をお届けし、彼らがどのように仕事をしているのか、本当に詳しく説明したいと思います。そして今日は、私たちが長い間お呼びしたかっただけでなく、何十年も前から純粋にインスパイアされてきた方をゲストにお招きしました。
アーティー・ラマムルシー 0:38
そうですね。今日はStephen Wolfram（スティーブン・ウルフラム）をお招きしました。彼は科学者です。物理学者です。新しいタイプの科学の著者でもあります。Wolfram Researchの創設者でもあります。しかし、何よりも、この言葉が飛び交う現代において、彼は正真正銘の天才です。彼は本物の天才なのです。
スリラム・クリシュナン 0:55
本当にそうです。この後1時間ほど、私たちは本当にその話に没頭しました。彼の仕事の仕方、生産性、彼はとても生産的です。AIについてどう考えているのか、彼はAI、生命、セル・オートマトン、物理、宇宙についてたくさん研究しています。
その中には、驚くべきエピソードもあります。彼は何人かの驚くべき人たちと仕事をしてきました。特に、唯一無二の存在であるリチャード・ファインマンとの素晴らしいエピソードは、私たちの憧れの的です。さて、私たちは、彼が天才であることを知っていました。
私たちは皆、彼が天才であることを知っていたのだと思います。しかし、私たちが知らなかったこと、そして感動したことは、彼がどれほど面白く、どれほど楽観的で、どれほど温かく、どれほど人間的であったかということです。
ですから、そのすべてをご覧いただければと思います。それでは、皆さん、スティーブン・ウルフラムです。私たちが個人的な生産性にどのようにアプローチしているのか、また、これまで私が触れてきたものをすべて保存するシステムをどのように構築してきたのか、そのあたりを説明してください。
スティーブン・ウルフラム 2:06
要は、私は物を作るのが好きで、物を作るのに最高の機会があるように自分の人生を設定しようとしたのだと思います。そして、それはマクロなスケールで起こることです。そして、ミクロのスケールでも、マクロのスケールでもです。
私はこれまで、私はアイデアを生み出す人間だと考えてきました。そして問題は、アイデアをどうやって現実のものに変えるかです。そのための最良の方法は、36年間同じ会社を経営し、非常に優秀な人材をたくさん抱えていることです。
私は個人でクリエイティブな仕事をするのも好きですが、他の人と一緒に仕事をするのも好きです。私は、他の人と一緒に仕事をすることで、私がやりがちなことの1つに、公開型の仕事、つまり、物事を解明しようとする、私はよくやるのですが、他の人と一緒にやるのが好きです。
しかし、物事を考えるために隅に追いやられるのではなく、実際に他の人たちと対話しながら行うものなんです。この5年間は、社内のデザインミーティングをライブストリーミングで配信するなど、より極端な取り組みを行っています。そのため、言語などをどれくらいの頻度で構築すべきかを考えています。
これは、興味深いプロセスでした。しかし、個人的に取り組んでいることに関して言えば、私にとって重要なことのひとつは、個人的な記憶がきちんと残っていることです。そのため、自分がやったことをすべて知っておきたいし、自分がやったことにアクセスできるようにしたいと思うようになりました。
だから、あらゆるものをアーカイブしています。33年分くらいでしょうか、メールのアーカイブがありますし、入力したすべてのキーストロークや画面の画像、個人的なことですが、毎日何歩歩いたかとか、そういうことをすべて記録しています。
さらに、1980年代前半以前の古代史の時代から、すべてが紙であった頃の文書も、25万ページほどスキャンしました。というのも、何か物事が起こったときに、「あ、そうだ、このこと、前に一度考えたことがあるな」と思って、検索できる可能性があるからです。
アーティー・ラマムルシー 4:36
LLMで検索を高速化し、オートコンプリートを可能にするために、そのすべてをLLMに取り込むのですか？アルゴリズムが整った今、このリポジトリをすべて使って何をしようと考えているのでしょうか？
スティーブン・ウルフラム 4:46
なるほど、興味深い質問ですね。つまり、私たちは5,000万語の出力を準備したところです。これは私のコーパス、つまり私の個人的なコーパスのほとんどで、約3,000万語です。しかし、これは素晴らしいことです。
そして今、私たちはそれを自分たちのトレーニングに使うことができるのですが、その結果がどうなるのか、少しやってみました。今のところ、いろいろな人からいろいろな質問をするメールがたくさん届くので、わからないのですが。
しかし、現実的には、そのすべてに答える時間はないのです。そこで考えられるのは、まずボットが回答し、その回答として有用なリソースを提供しようとして、「これが気に入りませんでしたか？」というように、ボットが回答し、有用なリソースを提供しようとします。
これは、そのような事態に対処するためのメカニズムとして考えられるものです。また、私が期待しているのは、「名前とかを覚えるのが得意である」ということです。だから、名前を覚えていて、それがフックになります。そして、そのままテキスト検索をすることができます。
しかし、もう少し曖昧な場合もあって、コンセプトは覚えているけど、具体的な単語は覚えていない、ということもあるんです。このような場合、LLMベースの検索が役立つと思います。しかし、私たちは、まだそれを実現しようとしているわけではありません。しかし、まだその進捗状況を報告することはできないのです。
スリラム・クリシュナン 6:11
人生を変えたような変化はあったのでしょうか？それとも、Stephen Wolframのコーパス全体へのアクセスに基づいて仕事をするようになったのでしょうか、
スティーブン・ウォルフラム 6:21
例えば、私は電子メールへの対応について知っているのですが、ある時点まで蓄積して、それから一定の時間をかけて、それを削っていきます。また、何時ごろにこのメールを見るべきか、どの程度溜めてから本格的に絞り込むか、などといったことも重要です。
私は毎日1万歩歩くのが好きなのですが、そのようなことをやっています。それで、いろいろなことを設定したんです。朝一番のミーティングは、私が歩くことができるものです。私はこのようなことについて、非常に詳しくて、アシスタントが天気などを調べて、私が外を歩けるかどうか、外を歩く場合は異なる種類のミーティングが可能で、中を歩く場合はそのようなことが可能です。私の一般的な計算では、生活の仕組みをできるだけ単純化すれば、生活の知的創造的な側面に費やせる努力の量を増やすことができるんです。それが好きなんです、
アーティー・ラマムルシー 7:45
Wolframはご存知のように物理学者であり科学者ですが、AI、人工知能、機械学習のパイオニアでもあるのです。最近、彼は多くの仕事を出しています。チャット上の大規模言語モデルやGPT、人工知能に関する記事を大量に出しています。
そこで私たちは彼に、椅子GPTはどのように機能するのか、そしてそれが私たち全員にとって、また私たちの将来にとって何を意味するのかを尋ねました。私たちが驚いたのは、この人は明らかに研究と科学の頂点にいる人だということです。そして、彼はチャットGPTをコンセプトとして、誰もが理解できるように説明してくれたのです。
スティーブン・ウォルフラム 8:29
多くの人が知っているような基本的なことですが、これは、テキストがあり、人間がそのテキストを継続する可能性が高い方法は何かということです。その可能性が高いというのは、ウェブから読み取った数億ページに基づいて、そのテキストが継続する方法について統計的に期待できることは何かということです。
しかし、ウェブ上には十分なテキストがないことがわかりました。1兆語のテキストを読むことができるかもしれませんが、「私のオフィスのトラは○○しています」というテキストを継続できるほど十分ではありません。ですから、人間が言語についてどう考えているかというモデルが必要なのです。
このモデルは、1940年代に考案された、脳がどのように構成されているかを理想化したもので、神経細胞が重さなどでつながっている、ある意味形式的なモデルです。そして、このモデルは、テキストがどのように継続されるべきかを推測するのに非常に適した方法であることが判明しました。
つまり、チャットGPTが最終的に行っていることは、一度に単語を追加することで、数十億のウェブページに書かれた内容に基づいて、人間がこの特定のテキストを続ける可能性が高い方法を見つけ出すことなのです。このように、ある意味ストレートな発想のものが、Chad GPDが生み出すエッセイのように、人間のようなものを生み出すことができるのは、驚くべきことです。
これは、人間の言語に関する科学的事実のようなもので、ある意味、私たちが知ることができたし、知るべきであったということなのでしょう。長い間、人間の言語には一定の規則性があり、人間の言語の構文文法には、名詞、動詞、名詞といったものがあることを私たちは知っていました。
しかし、ChatGPTが学んだのは、名詞や動詞だけでなく、さまざまな言葉が意味する事柄を扱う、意味による文の構築のルールも存在するということです。これは2000年も前のことですが、アリストテレスが提唱した「論理学」という考え方があります。
ある意味で、アリストテレスが論理学を発明したときのイメージは、人々が行った演説のレトリックの例をすべて取り上げて、人々が使った議論の構造は何だろうかと言うことだと思います。そして、中世の人々が使っていた、つまり、小学生が暗記していたような、さまざまな論証の構造は、今ではすっかり廃れてしまいましたが、テキストから抜き出すことができるようなものだったのです。
ソクラテスは人間です、したがって、ソクラテスは死すべきものです。あなたは実際にソクラテスについて話す必要はありません、あなたは他の多くの事について話すことができます。しかし、構造は同じなんです。「ほら、すごいじゃないか」と言われることがありますよね。
チャットGPTはいろいろな推論ができるんですよ。サッカーで見たように、アリストテレスで見たように、このような種類の議論構造の例を無限に見ることができるのです。そうです。人が通常行うことを行うことで、そのような議論構造に従うようになります。
つまり、言語には、論理のような、しかし論理とは異なります、他の種類の話題について語るような構造があるということです。この2000年の間にカタログ化されたかもしれませんが、たまたまそうではなく、実は私はこの10年ほど、このプロジェクトに着手するつもりでした。これは、ある意味で、自分の人生を計画し、どのようなプロジェクトを行うかを考えようとする場合の一つのケースです。
このプロジェクトはいつやるべきか、やりたいプロジェクトはたくさんあるが、これをやるのは今なのでしょうか？というのも、このプロジェクトは、法学修士課程で学んだ結果、より簡単に、より豊かなものになったからです、
アーティー・ラマムルシー 13:04
仕事での立ち上げ方についての記事を読んだとき、いくつかの点がとても気に入りました。私が得たものは、コンピュータの背後にあるものを理解することに加えて、コンピュータを理解すること、1つは、温度についての説明がとても気に入りました。
しかし、全体を通して読むと、猫の見分け方とか、そういう例も出てきますよね。私にとっては、自分の脳の仕組み、あるいは人間の脳の仕組みが本当にわかったような気がしたんです。担当モデルとしてのGPTは、あまり関係なかったですね、GPTは。
単純化しすぎですが、人間の脳は基本的に、この限られたコーパスとオートコンプリートのシステムを使って、次に何を言おうとしているのかを前もって予測し、限られた言語能力でそれをモデル化しようとしているように感じました。ですから、私にとっては、脳の働きを知る上で、とても魅力的なことだと思いました。
スティーブン・ウォルフラム 14:06
1900年頃、人々は脳がどのように機能するかを理想化するために、1943年にニューラルネットワークの原案が作られました。各ニューロンは、樹状突起や軸索などの触手をすべて突き出しているような細胞で、多くの場合、その数は1万個ほどです。
そして、その仕組みが電気的であることに気づいたのです。そして、脳を表す電気回路のようなものを理想化することになったのですが、今あるのは、それが最初に行われたときの人々が考えた、5つのニューロンを持つ回路です。
私が初めてニューラルネットをシミュレートしたのは1980年頃でしたが、何も面白いことはできませんでした。実際、私はニューラルネットが好きではありませんでした。ニューラルネットは複雑で、さまざまな重みと接続があるためです。
実際、私が科学に携わるようになった大きな理由のひとつは、ニューラルネットの仕組みを、よりシンプルなセル・オートマトンと呼ばれるシステムにまで単純化したことにあります。そして、そのような非常に単純なシステムであっても、非常に複雑な振る舞いをすることがあることを発見したのです。
人工神経回路網と脳の働き方の比較という点では、たしかに強い対応関係があると思いますし、脳にはまだマイクロエレクトロニクスで再現できていないトリックがあると思います。しかし、そこにあるものの多くがうまく再現されているとは思えません。
実際、「ニューラルネットがこれだけ便利なことをできるなんてすごいじゃないか」と言われるのは、ニューラルネットが人間の脳と似たような構造をしているからなのです。私たちが気にかけていることをやっているのです。
猫や犬の認識など、私たちがやっていることをやっているのです。しかし、私たちが進化してきたもの、そして、私たちと同じように設計されているので、注意を払うことにしています。私たちと同じように設計されているため、そのようなことにはよく対応してくれます。
スリラム・クリシュナン 16:38
Wolframがchatty beautyのプラグインをリリースしたんですが、ぜひチェックしてみてください。Wolframのアプローチは、モデルを構築して実際の記号計算を行うというもので、この2つを融合させたような魅力的なものだと思います。
また、GPDでは、言語をはるかに超えた内部モデルが存在すると思われる事例が時々あります。例えば、先日Twitterで、車軸と歯車の束を手に入れると、この歯車はこう動く、この歯車はこう動くと教えてくれる、というような例がありましたが、これは名詞や形容詞の世界とは異なり、これらの事柄を知っているかのような匂いがします。この2つの世界についてどのように考えているのか、また、GPT 4は内部の宇宙のモデルを持っているのかについて、あなたの考えをお聞かせください。
スティーブン・ウルフラム 17:39
理解すべきは このような浅い計算を深い計算とすることです GPTモデルなどの奇妙な特徴の1つです LLMは現在の世代のLLMです ある程度のテキストがあり 次の単語を考えようとしています 既にあるテキストを基本的に数値に分解するのです。
それをニューラルネットに通すと、数100層のニューラルネットを経て、次の単語の確率を導き出すのですが、その際、ただただ波打つだけなのです。そして、フィードバックする唯一の方法は、単語を追加した後、次の単語を見つけるために、これまでに得たすべての情報を使用するという事実です。
これは、非常にわかりやすい計算のアーキテクチャです。しかし、一般的に計算ができることは何かというと、それはもっと豊かな話です。私が長い間興味を持っているのは、ごくごく単純なプログラム、ごくごく単純なルールのセットから始める場合です。
例えば、白と黒のセルが並んでいて、一行ずつページを下っていくとします。そして、各ステップで、ある特定のルールに従って、各セルの色を、その上のセルの色とその左右のセルの色から決定するのです。まず、白と黒の正方形という非常にシンプルなルールから始めるわけですが、そのルールは1行以下のコードやアイコンで指定することができます。
そして、そのようなルールがある場合、最初はただ黒い四角が1つあるだけで始めます。すると、驚くほど複雑なパターンができあがります。1980年代初頭にこの法則を発見したときはとても驚きましたが、その後、コンピュータで画像を生成するようになってからも、「ああ、これは本当に物事が動いているんだ」と実感するまでに2、3年かかりました。
これは本当に基本的な現象で、計算可能なプログラムの宇宙から抜き出したような単純なプログラムが、非常に複雑な挙動を示すことがあるのです。プログラムは単純なのに。その挙動は複雑です。この種のプログラムで起こることのひとつは、100万ステップを実行することです。
すると、これはどうなるのか。100万ステップ走らせれば、明らかに5つの発見があります。しかし、先に進んで、「答えはx、x、yになる」という公式を手に入れただけで、「これはできる」と言えるでしょうか？計算不可能性という現象がありますが、これは本当に重要な現象だと思います。
この現象は、世界を理解する上で、また、AIを理解する上で、ますます重要になると思います。この現象は基本的に、先を急ぐことができない状況はたくさんあるということであり、科学は常に先回りして物事を予測する方法を提供してくれるものではありません。
だから、非常に単純なプログラムでも実現できるような還元不可能な計算があるとき、その還元不可能な計算は、ある種のニューラルネットでは実現できないのです。いいえ、非常に精巧なもので、計算の断片をフィードバックして、そのバージョンを押し出すというようなことは想像できますね。
しかし、チャットGPTのような一般的な使い方では、この種の不可逆的な計算に対して非常に浅い計算を行うものではありません。つまり、私が考えるに、深い計算の世界と、還元不可能な計算の世界があり、これはコンピュータが生きている世界です。
そして、脳が生きる世界には、LLMのような浅い、オートコンプリートのような世界があります。そして、私たち人間にとって、コンピュータという道具は非常に新しいものだと思います。数学の手法などによるエミュレーションは、数100年から1000年前からありましたが、還元可能な計算ができるという知的ツールは、私たち人間にとってむしろ新しいもので、今はとてもすてきなものなのです、 MLMやWolfram言語などのアーキテクチャを統合することで、私たち人間と同じように、LLMに深層計算ツールを使わせることができるのです。
そして、これは非常に強力な可能性を秘めています。つまり、私が理解しているワークフローは、私たちの言語である計算言語が何をするのか、何がポイントなのか、何がポイントかというと、計算用語で世界の真の公式表現をすることです。
つまり、化学物質を表現する方法として、2つの都市間の距離を表現する方法があり、映画を表現する方法があり、画像や音の断片を表現する方法があり、このようなものはすべて、この世界の計算上の表現の一部であるようなものです。
オーディオ・サンプルを使って何かできることがあれば、スペクトログラムを作ったり、バンドパス・フィルタリングをしたり、音声分析をしたりすることができます。ある意味、真の意味での計算機による世界の理解なのです。LLMのようなものには、世界を本当に理解している、そこから何でも計算できる、というような基礎的なものがありません。
もし三段論法や論理学のようなパターンがあれば、それらを組み合わせていくことができるのです。このような言語的なパターンがあれば、私はそれができるようになるでしょう。しかし、そうでない場合、還元不可能な深い計算となると、運が悪いとしか言いようがありません。
このようなことは、特に生物学の教訓の1つだと思います。生物学では、「この生物はどうやってこんなことをやってのけたのでしょう」と驚くようなものばかりですが、実際に分析してみると、「この生物はこんな賢いことを考え出しました」ということになります。
ちょっとしたトリックのようなものです。私の推測では、あなたが説明した力学の問題の場合、何らかの方法で、その仕組みを本当に理解したときに、「ああ、これはトリックなんです」と言うのではないでしょうか。対義語みたいなもので、歯車があって、それを聞いていると、いつもこうなんです。
で、ほとんどわかるようになるものなんですよ、あの、なぞなぞみたいな、そういうものです。そして、言葉は私の推測です。この機械のこの部分のトルクを計算するとなると、うまくいかないんですよね。それは、もっと深い計算が必要なんです。
ここ数百年の間に、科学や数学の分野では、このような深い計算を行う方法を解明することに成功しています。昔は、例えば数百年前までは、ほとんどの物理学や科学は言葉だけで話していましたが、その後、人々は科学を表現するための形式的な方法を発明しはじめました。そして、物事を理解するために、より深い計算をするようになりました。このような、計算言語という考え方全体が、よりエキサイティングになったのです。
以前からかなりエキサイティングだとは思っていましたが、人間とAIとのコミュニケーションやコラボレーションのための媒介となるわけですから。
シュリラム・クリシュナン 25:34
そうですね、やはり同意見です。そして、私が子供の頃、NKを読んでいたのを覚えています。
当時はその多くを理解していませんでしたし、おそらく今でもその多くを理解していないでしょう。しかし、ルール30に出会ったことは覚えています。私が考えるに、これはパイに似ていて、簡単な式があり、誰もがそれを理解し、それが永遠に続くことを知り、それが有理数でないことを知りますが、実際に最後の場所を見つけることは、海賊がそれを行うことはありません。しかし、実際に海賊がそれを行った終着点を見つけることは、ほとんど美のようなものです。では、これを理解することは可能でしょうか？ルール30がなぜ面白く、美しいのか、説明してください。
スティーブン・ウォルフラム 26:11
ルール30はセルオートマトンの1つで、30を2進分解すると11110になります。これはルールを指定するものです。これは基本的にプログラムであり、30という数字は非常に単純なプログラムの番号付けの方法にすぎません。
そして面白いのは、その非常に単純なプログラムは、1つの空白のセルから始まり、この全体的なパターンを得て、そこにいくつかの規則性があることです。しかし、中央の列のセルだけを見ると、円周率の数字に似ているんです。
私たちが知る限りでは、一度生成したものは完全にランダムなものに見えます。ランダム性のテストや暗号化解析など、いろいろなことをやってもいいのですが。この非常に単純なルールから生成されたものだとわかっていても、ランダムに見えてしまうのです。
ルール30を発見したことで、例えば自然界を見たときに、このような複雑さがあることを理解するための扉が開かれたのです。これは、自然が使っているトリックなのです。これは、計算機の世界から抜き出したような、シンプルなプログラムを使っているのです。
このような単純なプログラムは、計算の世界から抜き出したもので、科学の世界では見逃されていました。人々はただ、「これは厄介です、複雑です」と言うだけでした。何をやっているのかわかりません。計算の世界では、単純なプログラムが非常に複雑なことをすることができるのです、という考えを受け入れることで、新しい科学が生まれるのです。
従来の科学は、システムがどのように振る舞うかについて数式を書くことができるかというものでした。しかし、ここでのポイントは、そうではなく、システムがどのように振る舞うかを指定するプログラムが存在するということです。そして、そのプログラムを実行すると、多くの場合、還元不可能な計算が行われるのです。
物理学と伝統的な考え方、そして物理学との相互作用について、私は昔話をすることができます。ルール30のようなものです。私は以前、リチャード・ファインマンという有名な物理学者と友人でした。ディック・ファインマンは、物理学における直感的思考の持ち主として有名でしたが、私はいつも、人の働き方についてよく知ることによって、何かを学ぶということがあります。
というのも、ファインマンは、彼の最も印象的な特質のひとつに、物事を計算するヒューマン・コンピュータとして非常に優れていたことがあります。私はそれができませんでした。コンピュータがあれば、かなりうまくできるのですが、コンピュータがなければ、自分で計算するだけでは絶望的です。
しかし、彼はそれをやってのけたんです。そして、彼はいつも、そんな難しい計算をするのはつまらないことです、などと思うのです。答えが出た後で、なぜその答えがそうでなければならないのか、直感的な理由を考えなければならないんです。
しかし、そんな計算なんて誰も気にしませんよ、誰でもできることですから。それは簡単なことです。そう考えたのです。それで、このような直感的な説明を思いつくケースがたくさんあるのです。しかし、誰もその方法を理解することができませんでした。
というのも、彼は誰にも見せずに計算をしていたのですが、私はそれがとても面白かったからです。しかし、このようなケースもあります。自分がたまたま簡単だと思ったことは、他の人にとってはそれほど簡単でなくても、あまり意味がないと思ってしまうのです。
ルール30については、私たち2人はボストンにあるThinking Machines Corporationという、最終的には不運な会社でコンサルタントをしていたことを覚えています。AI的なことをするのに適したマシンだと思われていたのですが、あまりうまくはいきませんでしたが、セルオートマトンのシミュレーションにはとても適していました。
あるとき、私はルール30について考えていたのですが、ルール30を高解像度で印刷した巨大なプリントアウトを持っていました。そして、私たちはその特徴をいろいろと解明しようとしたんです。ファインマンは、このような計算、数学的な計算をして、ある側面について、つまり、どれくらいランダムなのか、といったことを調べていました。そして、そのうちのひとつが、私を脇に追いやって、こう言ったのです。
「ルール30が、このような本当にランダムな挙動を生み出すと、どうしてわかったのか？私は「知りませんでした」と答えました。ただ、可能性のあるルールをすべて実行し、何が起こるかを見ただけです。そうしたら、このルールが面白いことになったんです。
と言うと、彼は「ああ、そうか、これで気が楽になったよ」と言いました。しかし、これがどう動くかを教えてくれる直感があったんですね。結局、人は多くの事例を見て直感を養うものですが、私にはそれがなかったんです。だから、実験を丁寧にやるしかないんです。そして、それを吸収できるようになることです。実際に見てきたものを吸収し、実験できるようになるには、2、3年かかると思います。
アーティー・ラマムルシー 31:00
ラマナサンについて、またそれに関連することで、いつも私を困惑させ、不幸にしたことがあります。私はマネージャーの大ファンで、彼の仕事をすべて追っていました。そして、PIの計算についてですが、私はいつも、神が現れて数字を教えてくれたという彼の推論が気になるのです。
なぜ彼がそう言うかというと、それはファインマンと違って直感的でないからです。神の介入というよりは、彼は計算がとても速いんです。彼は頭の中で実に素早く計算するのですが、誰もそれを信じてくれません。しかし、誰も信じてくれなかったんです。そして、彼はついにそれに嫌気がさしたんです。そして、彼は、まあ、それは女神のようなものです、もちろん、それは、ええと、私はちょうどその話は本当に面白いと思いました。
スティーブン・ウォルフラム 31:52
そうですね。ラマチャンドランが、例えば円周率を計算する方法について、今日でも使われているような素晴らしい公式や結果などを生み出したことは、興味深いことだと思います。そして問題は、彼はどうやってそれを行ったのかということです。
あなたの言うとおりです。つまり、彼は計算が上手だったんです。彼はただ計算をし、そのパターンに気づいて、「この式は、私がすべてのケースを計算したから、この結果に違いない」と言ったのです。そして、この式は、私が計算したこれらのケースに適合する、と。
当時の数学者にとっては、まったくもって奇妙な数式を生み出すことができたのです。だから、あるエンジンが現れて、奇妙な数式が並んでいると、「でも、どうやってそれを証明するんだ？」と言われました。
だから、ヘンソンは女神の話やこのようなことに不満を持っているのです。しかし、私が思うに、この実験的数学という考え方は、抽象的な世界で実験ができるという考え方は、数学のために経営者が行ったものであり、興味深いものです。
私は計算機の世界で多くの時間を費やしてきました。科学のほとんどの分野では、実験家も理論家もたくさんいますが、まだ非常にゆっくりした歩みで、実験的な数学をやっている人たちがいますね。そして、計算機による実験も行われています。
私は、単純なルールが何をもたらすかを研究する「ルリロジ」という言葉を作りました。この言葉は最近作ったものですが、私はもう40年もこの研究をしています。そして、私は、本当に論理学の教授が現れるのがいつになるのか、ただ待っているようなものなのです。
単純なルールの研究ということで、素晴らしい分野だと思います。そして、その研究内容は、ある意味、完全に基礎的な問題なのです。そして、そのような基礎的な問題を研究すれば、多くの異なる種類のものに応用できることが保証されているようなものです。いわば、アイデアのサプライチェーンの上流に位置する、とても良い場所なのです。このような非常にシンプルなルールで運営していると、下流に多くの結果をもたらすことになるのです。
アーティー・ラマムルシー 34:13
ここでひとつ、有力な質問があります。あなたは他に聞きたいことがあるのでしょう。しかし、私がずっと聞きたかったことの1つは、ランダム性、乱数、あるいは何かのランダムな生成というものが本当に存在すると思っているのでしょうか？それとも、次の配列やパターンそのものを解明できるだけの計算能力がまだないだけなのでしょうか？あるいは、時間がなくて、パターンが繰り返されるのを見ることができるほど長く待っていないだけなのでしょうか。
スティーブン・ウォルフラム 34:43
実際にランダムというのは、予測できないという意味です。そうです。では，もし私たちがより良く，より賢く，より速く，それを予測することができたとしたら，どうでしょうか？これは、計算機による還元不可能性という観点からすると、興味深い質問です。
そういう疑問があるんです。シアン 私たちは、「そうですね、原理的には予測できますよ」と言うつもりです。しかし、本当に重要なのは、私たちの宇宙でそのようなことが起こりうるかどうかということです。言い換えれば、原理的には存在しうるということです。
しかし、私たちの物理的な宇宙では、それが存在することは不可能かもしれません。そして、もう1つ、もっと詳しくお話ししましょう。この3年間、私にとって大きな喜びのひとつは、基礎物理学の仕組みが解明されたことです。
そうすると、「実際の宇宙では、こんなことが可能なのか」という疑問を持つことができるようになります。私たちの宇宙におけるランダム性とはどういう意味なのか、例を挙げれば、非常に複雑な話だと言えるでしょう。ちょっと話が飛びますが、ある意味で、宇宙における私たちの存在の1つは、例えば、私たちは物理的な空間のどこにいるかというと、たまたまこの銀河の隅にあるこの惑星にいる、などです。
しかし、それは私たちがたまたまいる場所なのです。ここが私たちのいるべき場所だというような理論があるわけではありません。ただ、私たちがたまたまそこにいるのです。その意味では、私たちがたまたまいる場所というのは、ある意味ランダムな選択と言えるかもしれません。
しかし、宇宙がどのように機能するかという力学は、多くの点で完全に決定されています。しかし、私たちが宇宙を観察する際には、ある意味、他の観察者ではなく、私たちが観察者であるために、たまたまそのようになったという側面があります。
ですから、ある意味では、私たちがたまたまここにいるという事実だけで、ランダム性の源となるものがあります。しかし、宇宙で起きていることのダイナミズムは、宇宙の営みそのものなのです。そして、それは非常に決まった方法で行われているのです。
私たちは、それをさまざまな形でサンプリングしているだけなのです。宇宙は、サンプリングという問題とは根本的に無関係に、パイのように次のステップを計算するような仕組みになっているのでしょうか。それとも、どんなコンピューターにもできないようなことをするのでしょうか。私は、特に物理学で解明されたことに基づいて、宇宙はパイに近い形で機能していると強く考えています。
つまり、コンピュータ、つまり、現在あるコンピュータの十分大きなバージョンで、いわば宇宙を計算できるようなものだと思います、
Sriram Krishnan 37:14
少し前の話に戻りますが、今、最も重要な話題の1つは、AIの安全性とアライメントについてでしょう。複数の考え方がありますが、まず最初に、超人的な知能が私たちをペーパークリップの最大化者に変えてしまうリスクについて、どのようにお考えでしょうか？気になりますね。
それは可能なのでしょうか？心配するようなことなのでしょうか？AIのポジティブな効果に対して、どのようにトレードオフするのでしょうか？このようなことについて、あなたはどのように考えていますか？
スティーブン・ウルフラム 37:45
私がこのことについて考えているのは、世の中にはAIで行われることがますます増えていくだろうということです。そして、AIの内部で何が起こっているのかを理解するのは難しい。結局、AISの内部ではいろいろな計算が行われていて、最終的には、AISの文明、つまり、私たちが容易に理解できないような方法で動作している世界のある種のインフラが存在することになるのです。
このような状況で私たちが存在することは、非常にショッキングだと言われるかもしれません。しかし、実は、私たちは自然界に対してこのような状況に置かれているのです。いわば、私たちが存在している間、自然界はあらゆる計算を行い、あらゆることを行い、私たちは自然界と共存しているのです。
小惑星が衝突して、私たちを壁で焼くとか、そういうことがあるかもしれません。このように、自然界にはさまざまな種類のものが存在するのです。では、自然界はどうするのでしょうか？自然界が何をしようとしているのか、わかるものなのでしょうか？自然科学者は、自然界を研究し、自然界が何をしようとしているのかを見ようとします。
そして、自然界が何をしようとしているのかについて、私たちはある程度のことを言うことができます。しかし、結局のところ、私たちは計算機的還元不能性（computational irreducibility）に悩まされているのです。
そして、自然界が何をしようとしているのか、すべてを知ることはできないのです。ただ、物事がどのように展開していくかを見守るしかないのです。つまり、ちょっと運命論的な見方ですね。しかし、それは必要なことだと思います。
AIに関しては、短期的に見れば、そして技術の詳細が明らかになればなるほど、おかしなことが起こりうるし、問題を引き起こす可能性もあります。しかし、最終的には、AISの文明が生まれ、私たちはCOを進化させながら共存していくことになると思います。ですから、計算機世界やAIも同様で、私たちが嫌がるようなことをすることもあるでしょうし、それはそれで仕方のないことだと思います。
また、機械が何をするのかを容易に理解できるようにする、という考え方は、まさに産業革命的な考え方だと思います。歯車とレバーがあり、すべてのレバーの歯車をたどって、その動きを見ることができます。そのため、私たちは工学的な制約を受け、「何をするか予測できるシステムしか作らない」と言い続けてきました。
しかし、AIはそのようなことがない例です。なぜなら、「この計算をしたら、答えが42になることがわかりました」と言えるようになるまでに、AIはより強力になるからです。なぜわざわざ計算するんです？もう答えがわかっているんだから。つまり、計算をする価値がある時点で、答えがどうなるかはわからないという、還元不可能な計算でもあるのです。なぜなら、それがいわば計算をすることの意義だからです。
スリラム・クリシュナン 40:48
この「忠実でない」という言葉を使うのは初めてで、すごいと思いました。自然界とAIの間には、2つの違いがあると思います。ひとつは、私たちには代理権があり、AIを作るかどうかは、独裁的な魔法の杖を振って、すべてのGPUで何が動くかをコントロールすることができるかもしれない、ということです。
あるいは、『デューン』を思い出せばわかるように、無法者のAIは何なのか。つまり、ある意味、エージェンシーがあるわけですが、私の家の周りの木にはありません。2つ目は、自然界は、AIがそうであるように、外界から変化したり賢くなったりすることはない、ということです。それをどう考えるかですが、例えば、それは運命論的な見方です。
しかし、魔法の杖によって、世界中でGPUの生産がストップし、永遠にGPDから抜け出せなくなるという考え方もありますね、
スティーブン・ウルフラム 41:37
自然界の観点から、私たちは、パロアルト以外の場所に住むことを忘れよう、とか、人間が住むのはそこだけだ、とか決めることができます。
スリラム・クリシュナン 41:48
パロアルトの不動産価格にとって、良いことだと思います。
スティーブン・ウルフラム 41:51
ええ、海の奥深くに存在しようとしたり、海の中に都市を作ったり、そういうことは忘れてください。私たちは自然界に対して、どのような選択をするのか、ある意味、魔法の杖のようなもので、私たちはこの場所に住み、この場所には住まない、自然界はだんだん賢くなっていくのです。
それが生物進化の物語であり、私たちを今日に導いているのですが、いわば「賢くなるとはどういうことか」という問いは少し厄介です。なぜなら、コンピュータにあらゆる計算をさせることができるからです。私は人生の大半を費やして、コンピュータに単純なルールに基づいて計算させることに費やしてきました。
そうすれば、非常に高度な計算ができるようになります。ただ、問題は、その計算のほとんどが、私たち人間が気にする必要のない計算であるということです。つまり、ある意味、恣意的な知能は、私たちが「それはいいことだ、でも気にするな」と言うものなのです。
私たちが「なるほど、これは賢いな」と思うような計算の領域は、非常に限られたものだと思います。例えば、ルール30を知る前は、誰かがビットの集合体を生成しても、人々はそれを見て、「ランダムなビットの集合体だから、気にすることはない」としか言いませんでしたが、ルール30を知るようになってからは、「ああ、これはランダムなビットの集合体なんだ」と。
しかし、ある種の文化的な発展があり、その特定の事柄を気にするようになると、コンピュータがそれを作ることができるかどうかが重要だと思えるようになるのです。しかし、そのような計算の多くは、宇宙人の計算のようなもので、私たちが世界について考える方法とは関係のない計算です。
例えば、計算言語は、計算で可能なことと、人間が気にすることの橋渡しをするものだと考えているんです。そして、そのような計算を選び出すものなのです。いわば、私たち人間が気になるような計算を記述しているのです。そして、超高性能なAIについて語るとき、このことを理解する必要があると思います。
AIはあらゆる種類の計算をしています。そして、人間ができることを超えています。人間が理解できることも超えています。問題は、AISができることで、人間がそれを気にかけ、人間が進むべき方向に進み、AIがより良くなり、人間が進むよりも早く、AISができることが他にあるのか、ということだと思うのです。
私の感覚では、ある程度はあるのではないかと思っています。私のような人間が好んで作る壮大なアナロジーのようなものは、奇跡的にAISのMakerBotが、おそらくひどく長くなる前に、そうなったことを認識し、そこからどんな結論を導き出せるかを見るために、些細なことではないけれど、そうなるだろうと思うのです。
しかし、私は、AIが人間のようなことをすることはできても、人間ができることよりも速くできるようになることはたくさんあると思うのです。私たちが気にするような、質的に異なる何かが存在するような、ある種の超知能の層が存在するというのはあまり意味がないと思います。
ただ、私たちはたまたまそれを気にしていないだけなのです。もしかしたら将来、私たちの文化や知的歴史が発展して、2023年にAIがそれを発見した、というような方向になるかもしれません。そして今、私たちはなぜ気にしなければならないのかを理解しています。そして、それは本当に重要なことであり、私たちはそれをめぐる物語をたくさん持っているのです。
スリラム・クリシュナン 45:33
このようなゲストをお迎えしたのは 軽々しく言うことではありませんが、あなたは明らかに優秀ですよね？ただ褒めているわけではありません。しかし、多くの人はこれを観て、あなたの作品群を観て、「なるほど」と思うことはないでしょう。
という意味で興味があるのですが、多くの一般人が実際にやっていないようなことを、あなたはどう考えていますか？例えば、私は、あなたが頭の中で概念的な枠組みを構築し、その周りにマトリックスやロジックツリーを構築する方法を考え出そうとしているという考えに魅了されています。しかし、ここ数十年の間に、「私はこういうことをやっている、たぶん一般的な人とは違うでしょう。
スティーブン・ウォルフラム 46:17
記憶力はそこそこいいです 第一に、私は多くのことを学びましたし、学び続けてきました。私は、本業です、いわばCEOであり、世界のあらゆるものを計算可能にするはずの計算言語を作る会社ですが、それを原動力にして、さらに多くのことを学んできました。
そして、学習や記憶というのは本当に便利なものです。多くの人は、ある技術を習得し、あるやり方を身につけると、「私はずっと学び続けてきたのに」と思ってやめてしまいます。そして、新しい分野に進むたびに、いつもこう言うのです。
「これはいよいよ自分には難しそうだ」と。しかし、何百もの分野を学んだ後では、次の分野を学ぶのは実はそれほど難しいことではないことがわかります。しかし、いつも、その分野に入ったとき、最初のうちは、ああ、こういうことなんです、誰かとそのことについて話すたびに、自分が聞いたこともないような概念について教えてくれるんです。
そして、自分はこの分野に関してバカなんじゃないかと思ったりします。しかし、そういう人は、たいてい、基本的なことをある程度学んだところで、一番低いところにいることがわかったんです。そして、話をするたびに、私が知らなかったことを山ほど教えてくれるんです。
そして、ある時、物事が好転する瞬間が訪れる。そうすると、人が話してくれることはすべて、どこかで聞いたことがあるような話になるんです。そして、私がこの分野のために開発した、ある種の概念的な枠組みに適合するのです。そうすることで、より多くのことを知れば知るほど、新しいことを学ぶのが容易になるということもあると思います。
そしておそらく、私のような人間がこのようなパターンに気づいたように、AIがこのようなパターンに気づくことを発見するのでしょう。そう、重力理論で起こることとメタ数学には類似性があるのです。つまり、免疫学などでも、物事の構造的な考え方が似ているような、このような壮大なアナロジーがあるのです。
しかし、事実を知ることは本当に便利なことだと思います。事実を覚えておくことは、物事を考える上で重要なことだからです。もうひとつ、私が気づいたことは、出会うものすべてに対して、思考装置を働かせておくということです。
人は、ある特定の分析的な物事の考え方について、とてつもなく洗練されている、という恐ろしい習慣があります。そして、誰かが、例えば会社を経営しているとして、ある種の人事のような問題を投げかけてきます。そうすると、「そんなこと、私には考えられない」となります。しかし、思考装置を働かせ続けることは、とても意義のあることだと思います。
シュリラム・クリシュナン 48:53
その点についてお聞きしたいのですが、私はとても興味があります。HRファイナンスという非常に退屈な領域で、スティーブン・ウルフラムが第一原理的思考をもたらし、その領域の既存の実務家を驚かせたようなことはあるでしょうか。
スティーブン・ウォルフラム 49:08
homeboyはいろいろなことに手を出していました。どうでしょう。最近もERPシステムについての講演があったような気がします。
さて、それでは、あなたが依頼した
Sriram Krishnan 49:20
ERPに関する素晴らしいWolfram、これは新しいもので、これまで取り上げられたことはありません、
スティーブン・ウルフラム 49:24
そのとおりです。私たちの会社ではトランザクション処理などがありますが 35年前からそうです 私は、会社のそのような側面にはあまり注意を払っていませんでした。というのも、私たちが使っているのは大きなシステムであり、それはちょっと厄介なものだったからです。
それで、ようやくセットアップが完了したら、このライセンスは更新しない、これはただのゴミです。だから、自分たちで作ろうと思ったんです。Wolfram言語を使って、シンボリックなERPシステムを構築することになったのですが、5年ほどかかって、今はほぼ完成しています。
現在では少なくとも半分が製品化されています。例えば、これはとてもつまらないアイデアです。製品、ライセンス、ビジネス慣行を記号的に記述すると、価格戦略で間違ったことをしていないか、自動定理証明のようなことができるようになります。
そして、もっと買えばもっと安くなるとか、そんなことはできないとか、そういう定理を証明し始めることができるのです。誰もそんなことは覚えていません。だから、誰かがスーパーバイザーのスーパーバイザーを見つけて、「このトランザクションはどうすればいいんです」と言わなければならないんです。
そこで私は、現代では、賢明なカスタマーサービス担当者がいて、彼らが計算言語を学び、コードを学ぶことができるのだから、すべての取引が単なるコードの断片になる、と考えました。そして、私たちは、起こった取引のノートを保存しています。
そのため、誰かが行って、この曖昧な取引は多国籍企業のライセンスです、と見つけることができます。彼らはそれを見て、コードの断片を見て、コードの断片を編集します。しかし、これは「そんなのうまくいくわけがありません」と言われるほどでした。
アーティー・ラマムルシー 51:36
私や私は、大学を卒業する1年前に、最初の会社に入りました。私たちは、本当に大きな会社かどうかはわかりませんでしたが、若い子たちに入りました。当時は、現状に疑問を持ち、「なぜ、こんなに複雑なことをしなければならないのか？これは何なのか？」と。これはソフトウェアの一部で、スプレッドシートを使って計算し、それを別のデータベースに格納するんです。
そして、私たちはいつもこう言われました。「幼いころは、物事が本当に複雑であることを知らない。本当に複雑なことが起こっていて、例えば、あなたはそのほんの一部しか解釈できない」これは電話機にも言えることで、物事がどれだけ複雑で、どうあるべきかを知らないということを、私たちは常に聞かされました。今となっては、本当に複雑で、そうでなければならないごく一部のものについては、それが真実かもしれないと思います。
しかし、私たちが仕事でも家庭でも何でも使うものの大半は、そうである必要はないのです。そして、私は今、「そんなことはありません」と言うようなおかしな人間になってしまいました。電子レンジであれ何であれ、1つの機能を果たすためには、できるだけシンプルな方法で機能しなければならないのです。しかし、ERPシステムの話を聞いていると、物事はそれほど複雑なものではないのだという希望が湧いてきます。
スティーブン・ウォルフラム 53:05
最後に、物事を考える方法と、物事を考えるためのさまざまな方法について考えましたが、2つのことを言いたいのです。しかし、いろいろな分野のことを知るうちに、どの分野にも、それぞれ微妙に異なる考え方があることがわかりました。
そして、物事を合法的に考えるにはどうしたらいいのか。DevOpsの観点から物事を考えるにはどうしたらいいのか、などなど、それぞれの物事には、ある種の、異なる思考のリズムがあります。しかし、それぞれの考え方になると、その土地の言葉を吸収しないと、意味のないものになってしまいます。
そのあたりは、私がコメントしたい、物事を基礎から考えるという点で、ありふれたことを話しているのです。しかし、他のことについては、どの程度、これを委任するのか、それを扱っている人たちに任せるのか、また、私自身が飛び込んで実際にそれに取り組むと、彼らに対する信頼感を示すことにならないのか、という疑問があります。
まあ、結局のところ、私はいろいろなことを経験してきたわけです。だから、自分が何をすればいいのかがすぐにわかって、他の人がやるには長い時間がかかるようなことがたくさんあるんです。そして、私は10、15年ほど前に、少なくともCEOの伝統のようなものを壊そうと決めたのです。
そして、15分で解決できることがわかったら、すぐにでも行ってみることにしました。私はそれを実行に移すつもりです。関係者を巻き込んでね。しかし、私はそれをやるつもりです。その結果、本当に厄介なバグや不具合、コンピュータシステムの大規模なコンプが発生したときに、解決できないまま何カ月も立ち往生するような仕組みができたんです。
最終的には、「これを解決するために試行錯誤をさせたい」という会議をすることになります。そして、私は自分自身をとても誇りに思っています。問題は、どうやってそれを実現するかということです。よくある間違いは、これもまた、「オペレーターの思考を働かせる」というタイプの問題です。
このログを見て、何が起こっているんでしょう？何百、何千というメッセージを吐き出しています。では、このメッセージをどうするのでしょうか？このメッセージをオープン・ランゲージで読み込んで、分析を始める。しかし、それは誰もが知っているような標準的なものではなく、私たちが今まさに発明したようなものなのです。
なぜなら、このログにはこんなことが起こっているかもしれないと推測するからです。そして、驚くほど頻繁に、「ああ、こんなことが起きているんです」とわかるのです。一体何が起こっているのでしょうか？ある有名なメールシステムのバグなんですが、Javaのスレッドが256個以上生成されたときに倒れたことがありましたね。
なるほど。256個が限界の数で、そのスレッドがメッセージを吐き出すなんて、どう考えてもありえないことなんです。で、まあ、筋道を立てていくと、ああ、この夏は糸で見るんです、と気づくわけです。それで、アクティブなスレッドの数をプロットし始めると、256まで上がる。
そうすると、何が起こっているのかがわかるんです。しかし、この可視化を行わないと、ログに記録されたスレッドの停止数を数えるのは難しいです。これは面白いことだと思うのですが、私も、DevOpsなどでうまくいかないことがあると、必ず「何が悪かったのか」「実際に何が起こったのか」を詳しく説明します。
そして、数十年かけてそれを蓄積していくのです。そして、それが役に立つようになり、思考装置を鍛え、一方で、異なる領域にはまったく異なる種類のことが起こるということを認識するようになります。しかし、物事をどう考えるかという点では、私はドリルダウンのような基礎的な思考をするのが好きです。
私はこれまで、さまざまなプロジェクトを行ってきました。そして、あるレベルでは、それらはすべて同じプロジェクトです。なぜなら、それらはすべて、ある複雑な領域で動いているからです。そして、掘り下げて、本質を見極め、プリミティブなものを見つけ出す必要があるのです。そして、その本質を突き詰めたら、大きな工学的なもの、あるいは知的な構造を構築して、面白いものを作り上げるのです。
だから、私がこれまでやってきたこと、そして、私が一生懸命取り組んできたことは、「私はこれを本当に理解しているのでしょうか？いわば骨まで削って、可能な限りシンプルにする。そして、そこから積み上げていくのです。
しかし、そのためには、ある種の謙虚さが必要だと思います。でも私は、技術的なことでも、科学的なことでも、どんなことでも、いわば困難の中心に向かっていく傾向があります。基礎的な問題があります。そして、その基礎的な問いを攻撃してみようということです。
多くの人はこう言うでしょう、つまり、これは私が非常によく目にすることなのですが、どんな人もこう言うでしょう、「ああ、大変です、これが基礎的な質問です、どうやってこれを攻撃するんです、明らかに攻撃するのが最も難しいものに違いません」とね。
しかし、実はそうではないことが多いのです。なぜなら、科学、技術、その他の分野の発展で起こったことは、基礎となることが実行されたからです。今、私たちは何世代も後の世代になります。そして、誰もが、ああ、あれはとても難しいことです、と言います。
それは、つまり、全体の聖域のようなところにあるものです。そして、誰もそこに行くべきではありません。私たちは皆、その外側にものを作っているのです。しかし、何十年も経つと、他の方法を発見して、その中心部に入り込むことができるようになるかもしれません。
そして、一旦、中心部に進出してしまえば、周辺部で何かを進めるよりも、はるかに高いレバレッジを発揮することができるのです。実際に何十万回となく、物事に取り組んできて、最も極端な例ですが、最近の例では、物理学の基礎理論がそうでした。
物理学の進歩は、ある意味、困難の中心に向かい、何かを基礎から解明しようとすることについてのもう一つのポイントは、それをしようと決心するには、ある程度の自信、傲慢さ、何でもいいのですが、それを持つ必要があることです。この分野では、それが核心なのです。
この分野について書かれた論文は10万本もありますから、その10万本の論文をすべて読み切らずにどうやって進歩させることができるのか、と。私の経験では、核となる部分が無防備であることはよくあることで、いわば、人々が見向きもせず、数世代にわたって見向きもしなかったようなことなのです。
だから、これは私のドリルダウンのひとつなんです。つまり、核となるものを扱い、その核を目指すのです。そして、もうひとつは、それを何度も繰り返しているうちに、「これならうまくいくかもしれません」という自信がついてくることです。
それが重要なんです。そして、私たちの会社では、ある問題を解決しようとすることはよくあることです。「この問題は40年前から研究されているんだ」と言う人がいます。この問題については、4000もの論文があるんです。
そして、どうやってこれを解決するんです？私は、何か解決できるかどうか試してみようと思います。そして、大抵の場合、何かが見つかるんです。それはなぜか？それは、新しい方法を取り入れるからです。始める前から諦めているわけではないのです。
もし、私が他の人たちよりも少しは理解できたとしたら、その一つは、基礎的なことをやってみることだと思います。しかし、何が起こっているのかよく理解できていません。私は、説明的な文章を書くことに多くの時間を費やしてきましたが、この前、実は、パンデミックが始まってから毎週行っている、科学技術や子供向けのQ&Aについてのライブストリームをやっていました。
今日はAIについて話していたのですが、皆さん、AIについていろいろと質問してきますね。しかし、私にとっては、ライブストリームでも文章でも、自分のことを説明しようとするこのプロセスが、本当に役に立つのです。なぜなら、説明しようとすれば、自分が本当に何を言っているのかがわかるようになるからです。自分が何を話しているのか、本当に分かっているのか、確信が持てるようになることが重要です。そうでなければ、強固な基礎の上に建物を建てることはできませんから
スリラム・クリシュナン 1:02:35
ゲストの皆さんにお聞きしたいのは、アスリートであれ、今日のような優秀な数学者・物理学者であれ、その人を作っているのは、毎日やっている小さなことなのです。そこで、スティーブンに、彼の有限ゲームのプレイブックは何か、タイラー・コーウェンが言うところの生産関数は何か、と尋ねたところ、彼は期待を裏切らない答えをしてくれました。
Cellar Automatorの素晴らしいところは、シンプルなものが驚くほど複雑になるという考え方で、これは人生にとって素晴らしい比喩だと思います。番組でもそうですが、有限のゲームでは、単純なことを何度も何度も繰り返すということについてよく話しています。
そして、よく言われるように、何かをするときにどうすればいいかというのは、すべてをするときにどうすればいいかということなのです。私は、若い人たちや、この番組を見ている人たちに興味があります。もっと多くの人に自分の人生を生きてほしいと思うようなシンプルなことは何でしょうか？そうですね。
シンプルな生産機能、シンプルなルール、それが美しい複雑な、よく生きる人生につながるかもしれない。
スティーブン・ウォルフラム 1:03:39
もっと考えましょう。現代では、洗練された教育などで、「やり方は知っている、技術もある、このままやっていける」ということに夢中になる傾向が非常に強いのです。例えば、科学の世界では、最終的に最も大きな貢献をするのは、どのような質問をするかについて優れた戦略を持っている人たちであることがよく知られています。
「専門家が解決してくれた」と言うのではなく、「もういいや。もういいん」。私自身は、「あなたは専門家かもしれない」という視点を持っています。それは素晴らしいことです。私はあなたから何かを学ぶことができます。
しかし、なぜそれが真実なのかを説明できないのであれば、私はそれを信じるつもりはありません。合理的な方法で説明されないと、何も理解できないのと同じことなんです。そして、人は、この特定のことについては知っているが、他のことについては知らない、とあきらめる傾向があると思います。
他のことはわからないと。他のことを扱うときに、思考装置を働かせないのです。人が何を学ぶか、どれだけ幅広く物事を学ぶか、どれだけ幅広く物事を考えるかという点で、私は、世の中で起こっていることを見たときに、「あれは本当にバカだった」と思う傾向があると思います。
しかし、それを紐解いてみると、「この人はこの方向に向かって歩いていたんだ」と気づくんです。そして、その方向しか、歩き方を知りませんでした。それしかなかったのです。巨大な貨物列車が横から迫ってくるという事実を考えていたのに、それに気づかなかっただけなのです。
もし、世界をより良い場所にするのであれば、より多くの人が考え、より多くの人が物事を理解できるという自信を持ち、物事を本当に理解できるようになることが必要だと思うのです。私の観点からは、もっともっと世の中を考えてほしいと思っています。それは良いことだと思います。
スリラム・クリシュナン 1:05:44
スティーブンの「自分自身で考えてみよう」。これ以上の言葉はないでしょう。これ以上の言葉はありません。本当に光栄なことでした。
アーティー・ラマムルシー 1:05:51
私たちは今は、ここで表面をこすった程度です。というのも、また10-15時間分の質問があるような気がするからです。しかし、本当に光栄なことに、ここにいるだけで大きな喜びです。金曜日の午後、ただあなたと話すだけでいいのです。時間を作ってくれて本当にありがとうございます。
スティーブン・ウルフラム 1:06:08
そうですね。とてもうれしいです。
Sriram Krishnan 1:06:09
本当にありがとうございます！素晴らしいです。