Eric Weinstein: Revolutionary Ideas in Science, Math, and Society | Lex Fridman Podcast #16
Lex Fridman 0:00
以下は、Eric Weinsteinとの会話です。彼は数学者、経済学者、物理学者であり、ティール・キャピタルのマネージング・ディレクターでもあります。彼は「インテレクチュアル・ダーク・ウェブ」という言葉を作った人で、公共の知識人がゆるやかに集まったグループの創始者とも言えます。サム・ハリス、ジョーダン・ピーターソン、スティーブン・ピンカー、ジョー・ローガン、マイケル・シャーマーなど、そうそうたる顔ぶれです。この対談は、MITの人工知能に関するポッドキャストの一部であり、今後も継続していく予定です。楽しんでいただけましたら、YouTubeやiTunesで購読していただくか、ツイッターでLex Friedman, spelled fri D.までご連絡ください。緊張していますか？ 怖いですか？さて、「カンフー・パンダ」の話が出ましたが、これはあなたの好きな映画の一つですよね。この映画では、いつものように横顔の師弟関係が描かれています。
では、誰が誰に師事したのでしょうか？それは、あなたの考え方やライフワークの方向性に大きな影響を与えます。もしあなたがカンフー・パンダなら、あなたの師匠は誰ですか？
Eric Weinstein 1:08
面白いですね、シーフーが先生だとは思っていませんでしたから。
Lex Fridman 1:12
誰が先生だったのですか？
Eric Weinstein 1:13
way Master oogway, the turtle, all the turtle, right? 彼らは映画全体で2回しか会っていません。しかも最初の会話はカウントされていないようなものです。だから、この映画のマジック、というかポイントは、本当に重要な教えはたった1回の会話で伝えられるということなんです。そしてそれはとても短いものです。私の人生でそのような役割を果たしたのは、私の祖父、ハリー・ルービンとその妻、ソフィー・ルービン、私の祖母、あるいはトム・レイヤー、トップ・レイヤーのいずれかです。
Lex Fridman 1:57
どのような方法で。
Eric Weinstein 1:58
トム・レーラーのレコードを子供に与えた場合、後のマルウェアに引き継がれる能力を破壊することになります。それはとても不遜で、ウィットに富んでいて、賢くて、卑猥で、多くの人にとって普通の生活を送る能力を破壊してしまうのです。ですから、もし私が誰かに会って、その人が通常のニューロティピカルな表現から大きく変化していたら、よく「トム・レーラーのファンですか」と聞きますが、その人が答える確率はかなり高いです。
Lex Fridman 2:33
トム・レーラーはどこかの公園でハトに毒を盛っています。
Eric Weinstein 2:38
それはとても興味深いですね。トム・レーラーの曲の中で、「公園でハトを毒殺している」という曲が一般に広まったものは少ないのですが、「エレメント・ソング」や「バチカン・ラグ」などがあります。そのような歌を知っている人に会ったとき、あなたが今私をどのように判断しているのかを知らないとしたら、あなたは厳しいのではないですか？
いや、でも君はロシア人だからね。それがあなたの知っているニコライ・イヴァノヴィッチ・ロバチェフスキーなんですね。それが私たちです。うん。そう、あれは実際に盗作された盗作についての歌で、ほとんどの人はダニー・ケイからの盗作を知らない。
私たちは「Stanislavski of the musky arts」という曲を捧げています。トム・レーラーは、盗作をテーマにした曲を盗作して、非ユークリッド幾何学を研究していた数学者の曲にするという見事な仕事をしたのです。これは、子供にヘロインを与えるようなもので、非常に中毒性があり、最終的には私を様々な場所に導いてくれましたが、その一つが数学の博士号だったのかもしれません。
Lex Fridman 3:36
彼は確かハーバード大学で数学のリサ・レクチャーもしていましたよね。
Eric Weinstein 3:42
彼とは一緒に食事をしただけです。実は、私の息子が13歳になったとき、本人には内緒にしていたのですが、彼のバル・ミツバのプレゼントは、彼のヒーローであるトム・レーラーとのディナーだったのです。タイラーは88歳で、鋭く、攻撃的で、不遜で、最高に面白い人でした。この世には、生きているうちに会わなければならない人はほとんどいないのです。私たち家族にとっては、間違いなくその一人でした。
Lex Fridman 4:09
そのウィットは、深い意味での知性を反映していますね。トム・レーラーのファンであるかどうかは、知性を測るのに適しています。ユーモアや不条理さを見抜く力など、そういったものはどうでしょうか？それが知性とどう結びつくと思いますか？そのようなユーモアを評価するのは、マイクを持ったユダヤ人だけなのでしょうか？
Eric Weinstein 4:34
いや、それは絶対に知性と結びついていて、それを見ることができると思います。トム・レーラーが『ギルバート・アンド・サリバン』のギルバートを揶揄して、ギルバートに勝るとも劣らない巧妙で意味のない言葉遊びをしようと決めた場面があります。そして彼は、オーストラリア人を忘れてしまいました。彼はギルバートとサリヴァンが書いたかのようにクレメンタインを演じていて、「このミスター・デ・ペスターという若い妹が落ち込んでいて寂しかった」と言っています。彼女は姉妹を困らせようとした 化膿した水ぶくれのように 彼女に抵抗するのが最善だと 彼女は抵抗した デ・キャストロ氏の忠誠心を失った 彼女が言った時 彼女を手に入れられると言った時 彼女の姉妹が手に入れられると言った時 きっと台本を提出したに違いありません。 それはとても馬鹿げています。正気の沙汰とは思えません。
そう、それは明らかに知性だ。だって、あんなものを作るのは難しいですよね。私の好きなトム・レーラー、チャンドラーの歌詞を見てみると、完璧に不条理なものがあります。我々は1918年に彼らに教訓を与えました。それ以来、彼らはほとんど我々を悩ませていません。そうでしょう？これは、別の種類のインテリジェンスです。とても恐ろしいものを、口に合うように、笑えるように、そして自分の人間性を示すようにしているのです。トム・レーラーが書いた恐ろしいセリフの数々から伝わってくるのは、彼がいかに繊細で美しい魂を持っていて、ユーモアと優しさをもって痛みと向き合っていたか、ということです。
Lex Fridman 6:02
ヨーロッパでもロシアでも、第二次世界大戦の世代から同じようなユーモアが生まれています。このユーモアは、生み出された痛みや苦しみに何とか対処するために必要なもののように思えます。
Eric Weinstein 6:15
スラブの広い心を生み出すには環境が必要ですが、アメリカ人の多くがロシアのユーモアを理解しているとは思えません。スターリン政権下の第58条の時代に、どのようにジョークを言わなければならなかったかというと、非常に慎重にならなければなりませんでした。つまり、ロシアの風刺雑誌のコンセプトは、ワニのように意味をなさないのです。
このように、人間の経験の中には、知らないほうがいい分野があるという異文化問題があります。残念なことに、東欧は自分たちのことをよく知っています。そのため、ウラジーミル・ウィソツキの歌はとても魅力的ですし、プーシキンの詩も、それが何であれ、東欧の経験の深さを評価しなければなりません。アメリカ人がこのようなことを知ったのは、南北戦争の頃かもしれませんし、奴隷制度やジム・クロウの下かもしれませんし、労働争議の中で石炭や鉄鋼の使用者の厳しい専制政治があった時かもしれません。
しかし、一般的には、例えばロシア人が受けたような選択的圧力のシステムがない限り、集団文化を理解し想像することは難しいと思います。
Lex Fridman 7:42
戦争から生まれた良いものがあるとすれば、それは文学、芸術、ユーモア、音楽ですね。
Eric Weinstein 7:51
そうではなくて、死と破壊を除いて、ほとんどすべてが戦争の良いところだと思いますよ。
Lex Fridman 7:58
死がなければ、彼らはそのロマンスをもたらすでしょう、全てが。
Eric Weinstein 8:03
だからこそ、私たちはいつも戦争に巻き込まれ、戦争に対して非常に曖昧な関係を持っているのですが、それは戦争が人生を現実的で切迫した意味のあるものにするからです。そして、それは受け入れがたい代償であり、その代償はかつてないほど高くなっています。
Lex Fridman 8:17
それでは、AIに少し飛び込んでみましょう。あなた。あるビデオでの会話の中で、AIシステムができないことの1つとして、生物学的なシステムは物理的な世界で自己複製できると述べていましたね。いやいや、物理的な世界では、まあね。
Eric Weinstein 8:39
はい、物理的なロボットは自己複製ができます。
しかし、非常に厄介な点があります。それは、人間の生殖システムの類似性を持った、本当に複雑なものを作ることができたのは、ソフトウェアだけだったということです。
Lex Fridman 8:57
とはいえ、ソフトウェアは自分自身を複製するものです。まず始めに、物理的な世界との間に防護壁やギャップがあると思いますか。
Eric Weinstein 9:14
とデジタルの世界の間に保護バリアやギャップがあると思いますか？デジタルとは言わず、論理的な世界と物理的な世界とではどうでしょうか。
Lex Fridman 9:20
なぜ論理的なのですか？
Eric Weinstein 9:21
例えば、アインシュタインの脳が保存されていたとしても、物理的な物体としては意味がありませんでした。
このように、論理的に保存されているものと、物理的に保存されているものと、必ずしもそうではないものとは、必ずしも同義ではないのです。論理的な世界に物質的な基礎がないと言っているわけではありませんが、論理ゲートや0と1を呼び出す必要のない別のレイヤーで識別する必要があるのです。
Lex Fridman 9:59
この2つの世界をつなぐのは、物理的な世界の中の論理的な世界、あるいは、私たちの脳の中の論理的な世界、つまり、脳と言いましたが、私たちの知性を引き出す、人工的な知性、人工的な知性という考えを述べましたね。そうです。
Eric Weinstein 10:16
このエッセイは、ジョン・ブロックマンが私に書いてほしいと言ってきた中で、彼がエッジの掲載を拒否した唯一のエッセイです。
Lex Fridman 10:25
なぜですか？
Eric Weinstein 10:26
まあ、うまく書けていなかったのかもしれませんね。しかし、私にはわかりません。
Lex Fridman 10:31
このアイデアは非常に説得力があり、ユニークで新しいものです。そして、少なくとも私の見解では、あなたならそれを説明できるかもしれません。
Eric Weinstein 10:38
確かにそうですね。私が考えていたのは、実際には人工生命はそれ自体が恐ろしいのに、なぜ私たちは人工的な一般知能に怯えるのを待っているのかということです。そしてそれはすでに存在しています。選択圧のシステムを持つためには、3つの異なる要素が必要です。集団内の変動、遺伝率、成功の差です。ソフトウェアについては他にも指摘したことがありますが、本当にユニークなのは、人間が構築する方法を知っていることを考えると、それが印象的だということです。
私はいつも車を例にとり、「車には物理的、生理的なシステムのそれぞれのアナログがあるか」と考えます。フレームである骨格構造を持っているか？神経学的な構造を持っているか、オンボードコンピュータを持っているか、消化器系を持っているか。ただ、生殖システムは持っていません。
しかし、プロセスにスポーンを呼び出すことができれば、事実上、生殖システムを持っていることになります。つまり、バリエーション、遺伝性、成功の差を持つものを作ることができるということです。
さて、思考の連鎖の次のステップは、無生物、非知的生命体が知的生命体を打ち負かすのはどこかということでした。私にはお気に入りのシステムが2つありますが、気が散らないようにそのシステムに留まるようにしています。1つは、フリーズ・オーキッド、変異株、亜群、何と呼べばいいのかわかりませんが、これです。
Lex Fridman 12:18
花の一種ですね。
Eric Weinstein 12:19
これは、受粉媒介者の種の雌を模倣する花の一種であり、雄を騙して偽の雌との疑似交尾をさせるためのものです。また、フェロモンを使ってオスに絶好のチャンスだと思わせることもあります。
しかし、花はオスを騙しているので、低い位置にある花蜜の形でエネルギーを提供する必要はありません。もう一つのシステムは、ミズーラの清流に生息するマッスルランパ・ソラスという特殊な種です。この種はバスを騙して、子供の入った肉厚の唇を噛ませます。バスが好んで食べる魚の種にそっくりなこの肉厚の唇をバスが見ると、幼魚は爆発してエラにしがみつき、バスに寄生し、さらにバスが最終的に放出する際に再分配できなくなります。
このような説得力のあるルアーを作っているのは何でしょうか？それは、以前に騙されたターゲットの知能を利用した戦略です。ターゲットが十分に賢くなって戦略を回避すると、弱い擬態は落ちてしまい、末期症状になって、優れたものだけが生き残るのです。
つまり、寄生される対象の種が賢くなり、他の知能の低い、あるいは知能のない物体があたかも賢くなったかのような軍拡競争になるのです。つまり、私たちに寄生するためには、人工知能や人工的な一般知能は必要ないということです。人間は自分自身を出し抜くだけで十分なのです。
例えば、ナイジェリアの詐欺のようなプログラムがあって、手紙を書き、ビットコインを送ってきた人を使って、プログラムのどの部分を残すべきか、どの部分を変えて捨てるべきかを考えることができます。自分が何をしているのかわからないものに寄生されるという悪夢のようなシナリオを描くために、それが知的である必要はありません。
Lex Fridman 14:46
あなたはいくつかの種類を実に雄弁に表現していますが、いくつかの方向性を示してみましょう。今日のソフトウェアの書き方では、ソフトウェアが自己修正できるようにすることは一般的ではありませんが、その能力はあります。今、私たちは能力を持っていますが、それは一般的ではないだけなのです。ですから。つまり、あなたの考えでは、もしこのような状況になったら、それは深刻な心配事だということです。
Eric Weinstein 15:15
現在利用できるコードを修正することになれば、それは深刻な問題です。
Lex Fridman 15:18
自己改造にはさまざまな種類がありますよね。例えば、メールアプリやGmailは、ログインした後に自分で修正することができますよね。しかし最終的には、すべての情報が中央に集約されます。
しかし、あなたは自分が完全に独立しているところでアイデアを考えているので、これは選択的な圧力のもとで動作するユニークな存在です。そして、それはあなたが考えていることを変えるのです。
Eric Weinstein 15:49
私たちの免疫システムは、次に何が襲ってくるのかわからないという事実がありますが、その免疫システムには、いくつかの構成要素があります。
もし、それが十分に表現力のあるシステムであれば、どんな形状や結合領域でも、そこにあるレゴで近似することができます。そうすれば、何が襲ってくるかを知る必要はなく、必要な構成に到達するのに十分な組み合わせがあるという自信を持つことができます。
Lex Fridman 16:23
それは素晴らしいことですね。手の届くところにあるので、心配するのは恐ろしいことですね。
Eric Weinstein 16:30
何を提案するにしても、それを話すことで実現するかどうか、いつも心配しています。
Lex Fridman 16:36
来週、オープンAIの創始者と話をするために、オープンAIからあることが設定されています。このアイデアは、彼らのテキスト生成、新しい、テキストを生成するために持っている新しいものは、彼らはそれを持ってきたくなかったのです。彼らは、計算されていないものから計算されたものへの影響を心配して、それを公開したくなかったのです。
Eric Weinstein 16:58
しかし、結局はリリースすることになりました。そうですね。そういうことなんですよ。
Lex Fridman 17:01
少なくとも私の立場では、技術がイノベーションを促進するのではなく、技術がイノベーションの有害な影響を防ぐことを支持していますが。
Eric Weinstein 17:16
私たちは今、加速度的に坂道を転げ落ちているようなものです。ですから、私たちが推進派であろうとなかろうと、そんなことはどうでもいいのかもしれませんが、私はそうは思いません。ただ、私は、物事を抑制してきた人たちがいて、その人たちの名前も知らないような貧しい死に方をしたと感じています。
頭のいい人たちが自分の開発したもので自分の頭の良さをアピールすることは、もしかしたら末期的なプロセスかもしれない、という考えを否定すべきではないと思います。特に、エドワード・テラーがレオ・シラードに書いた美しい手紙が心に残っています。シラードは第二次世界大戦末期に原子兵器の使用をコントロールする方法を示そうとしていましたが、私たちの多くが彼を怪物と見なしているので、彼女にはかなり奇妙なことですが、高度な道徳的思考を示していました。技術的な問題に取り組んでいるときに、自分が何をしているのかを直感的に感じている人は少ないと思うのです。
この映画は、捕虜となったイギリスのPWが、橋をうまくかけたいという思いから、日本の捕虜と協力してしまうというものです。
Lex Fridman 18:43
さて、あなたは、アイデアやAIについて無制限にオープンに議論することに疑問を感じています。
Eric Weinstein 18:51
答えを知っているとは言いませんが、この問題について話し合って、技術的に抑制することに集中する必要があるか、この問題について話すのをやめて、これらの問題に目を向けている比較的少数の高度に熟練した個人が、実際には抑制する方法について話し合うべきであるほど小さくなっていることを期待する必要があるかのどちらかについて、きちんとしたケースを作ることができると言っているのです。
Lex Fridman 19:13
アイデアがイノベーションを起こす方法、ニュートンが微積分を開発したときにどんな新しいアイデアが生まれたか、もし彼が黙っていたら、そのアイデアは他の場所で生まれていたかどうか、もちろんニュートンの場合はそうでしましたが、AIの場合はどうだったか。そのようなアイデアが生まれる個人の集合はどれくらい小さいのでしょうか？です。
Eric Weinstein 19:38
私たちが知っている研究者や、私たちが知らない研究者は、私たちに何を知られたくない国に住んでいるかもしれませんし、彼らが現在どのようなレベルにいるのかを知られたくないと思っているかもしれませんが、このようなことを自分の中にとどめておくことに非常に慎重であるという考えです。
もちろん、ケララ州のある宗教学校では、宗教的な祈りやライマン散文の中で無限級数を扱うという点で、微積分学に非常に近いものを開発しています。だから、ニュートンにそれを抑える能力があったわけではないのです。私たちにそれを阻止する能力があるとは思いませんが、効果を心配するために費やす時間の割合を変えることはできると思っています。単に成功しようとするのではなく、成功したらどうだろうか、後から事態を抑えられるのではないでしょうか。
Lex Fridman 20:28
しかし、オートエレガンスの考えに基づいて、坂道を転げ落ちるように慎重に歩くことに同意したとしたら？他に何ができるのか、できないのか、意志の形 あなたは？
例えば、FacebookやGoogleも同じようなことをするでしょう。ユーザーに影響を与えて、ある行動をさせたいのでは？これは、私たちの知能がシステムによって、さまざまな種類の製品をより多く売るために、これらの知的な人間の行動をおそらく修正していることの一例です。
しかし、このような例が他にもあると思いますか？どんな寄生システムでも、成功率や遺伝率に差をつける何らかの方法があるはずです。
Eric Weinstein 21:23
これが魔法の材料なのです。もし本当に悪夢のようなマシンを作りたかったら、変動性を表現するシステムにスパニングセットを持たせて、十分な表現力を持たせることで、任意のレベルまで学習できるようにしてください。それがあなたのナイトメアです。
Lex Fridman 21:43
それはあなたの悪夢ですね。しかし、強力なシステムを作るための、非常に強力なメカニズムである可能性もあります。
では、ネガティブな方向とポジティブな方向のどちらを心配していますか？寄生すると言いましたが、必ずしもシステムが収束する必要はないのでは？それは何ですか？30奇数の多毛症です。
Eric Weinstein 22:07
寄生と共生の境界線はそれほど明確ではありません。
Lex Fridman 22:13
結婚についてはそう言われます。私はまだ独身ですので
Eric Weinstein 22:17
まあ、そうですね、それにも踏み込んでみましょう。しかし、私たちは、自分のミトコンドリアに感染しているかどうかを評価する必要があると思います。そうですね。結婚すると、自立性が失われることを恐れますよね。
しかし、アメリカの治療界は共依存を非常に懸念しているかもしれませんが、生殖の道が開けるまで13年も待たなければならないので、最大限に症例選択され、信じられないほどのケアを必要とする子供を育てるための安定した関係を持つためには、共依存が必要でないとは言い切れません。そして、ほとんどの人は、13歳の子供が子供を持つことを、分析するのに非常にやっかいな状況として望んでいません。
私は、捕食者と寄生者が私たちの進化の多くを推進していると言いたいのですが、彼らに対して怒っていいのか、考えていいのかわかりません。
Lex Fridman 23:13
結局のところ、彼らは、つまり、誰も人生の意味や幸せが何であるかを知らないのです。しかし、彼らが教えてくれなかった指標があります。彼らは言いませんでした。教えてくれませんでした。だからこそ、すべての詩集は、AIシステムが歩き回っていることがどれだけ良いことなのかを測ることができる指標があることをテーマにしているのです。つまり、あなたは自己複製するラースのアイデアを楽観視するよりも、ソフトウェアに神経質になっているということですね。
Eric Weinstein 23:45
私たちは自分たちがどこにいるのか実感していないと思います。時折、911が目を覚ますことがありますが、それは私たちがアメリカ国内で経験してきたすべてのことと比べてあまりにも異常なことで、その可能性があるということに完全なショックを受けました。
実際には、アフガニスタンの奥深くにいる、非常に創造的で決断力のある研究開発チームが、私たちがオープンにしているある種の利用方法を教えてくれたのですが、誰もそれを表現することを選択しませんでした。私が公にしていないものをいくつか挙げることができますが、それは、大混乱と破壊を引き起こしたいと思っている人たちが、これまでどれだけ比較的想像力に欠けていたかということに関係しているようです。
それ以来、なぜあのようなことが起こらないのか、私たちにはわかりません。私たちは何度も危機一髪を経験してきました。ミスもあったし、瀬戸際作戦もあった。そして今起こっていることは、「ああ、これは何でもないことなんだ」という感覚に落ち着いてしまったことです。あのレベルの危険な状態になってから随分と時間が経っているので、頭の中に間違った考えがあるのです。だからこそ、ベン・シャピロ氏の番組で、地上での核実験を再開する必要性を訴えたのです。なぜなら、これまでの経験から、例えばドナルド・トランプと北朝鮮がツイッターでやり取りをしても、「ああ、何でもない、ただのポーズです。みんなお金のためにやっているだけだ。人々はビデオゲームをしているような感覚に陥りますが、これは正しい判断でした。1945年以来。私たちはほとんどビデオゲームモードでした。驚きです。
Lex Fridman 25:52
実存的なものを見たことのない世代について心配していると言います。
Eric Weinstein 25:56
私たちはその下で生きてきました。あなたは若いですよね？また、あなたはモスクワから来たのかどうかはわかりませんが。
そうですね。「The day after」というテレビ番組がありましたが、この番組は、アメリカで育った世代に大きな影響を与えました。この番組では、核交換後の生活がどのようなものになるかが語られました。
私たちは、このようなことを考えるような具体的な経験をしたことがありません。これは、私たちの中の年長者が行ってきた最も無責任なことの1つだと思います。それは、バラの茂みのとげを切り落とし、すべての端を丸くしてやすりをかけた美しい庭を提供することです。だから人々は、すべてがうまくいくという、まったく非現実的な考えを持つようになったのです。私の最大の関心事はAGIなのか、それとも熱核交換なのか、遺伝子操作なのか、それともこれらのどれかなのでしょうか。私にはわかりません。
しかし、この非常に長い実験の中で、私たちがここで過ごす時間は限られていることはわかっています。なぜなら、私たちが作ったおもちゃは非常に印象的ですが、それに伴う知恵は実現していないからです。1945年以降、私たちは実際に知恵を増やしてきたと思います。世界の舞台には危険なスキルを持ったプレーヤーがたくさんいましたが、彼らはどんなに悪いことをしても、私たちを取り返しのつかないことに巻き込むことはありませんでした。
Lex Fridman 27:37
冷戦から抜け出せなかった。
Eric Weinstein 27:39
そうですね。そして、冷戦からの距離です。私は、ロシアの伝統として、結婚式の日に命を捧げた人たちの記念館を訪れるというものがあったことをよく知っています。これを想像できますか？人生で最も幸せな日に、スターリングラードの戦いで戦い死んでいった人たちに敬意を表しに行くなんて。
私は共産主義の大ファンではありません、と言わざるを得ません。しかし、ロシア人がソビエト時代に行ったことの中には、本当にポジティブなものがいくつかありました。そして、人々に人生の深刻さを知ってもらうためには、ロシアの深刻さのモデルはアメリカのモデルよりも優れていると思うのです。
Lex Fridman 28:28
そして、あなたがおっしゃったように、911の後、そのようなことが少し反響を呼んだかもしれません。しかし、私たちは
Eric Weinstein 28:34
しかし、私たちはそれを形成させませんでした。911の話もしましたが、本当に動いたのは912でした。みんながそこにいるとき、誰も話したがらなかったんです。私たちは超重大なことを目撃したと言いました。コンピューターに向かって、自分の深い考えや感情をぶちまけようとはしませんでした。しかし、その場で少しだけ目が覚めたような気がして、とても深かったです。
私は、組織の物語のゲート化について話しましたね。私はこれまでに3回、このプログラムが壊れるのを見てきましたが、そのうちの1回はドナルド・トランプの選挙でした。もう1つはリーマン・ブラザーズの破綻で、ベア・スターンズがそれほど重要ではないことを知っていた誰もが、次はリーマン・ブラザーズとAIGの合併だと知っていたときで、もう1つは911でした。
私は53歳ですが、世界的な物語が本当に中断されたのは3回しか覚えていません。このことからも、私たちがいかに発展途上の出来事を把握していたかがわかります。ユーロフェルトの連邦ビルが爆発したこともありましたが、物語が中断されるほどの重大な出来事ではありませんでした。912年頃、私たちは眠りから覚め始めましたが、権力者たちは一緒になろうとしませんでした。統治者は「買い物に行け」と言っていたのを知っていますか？
Lex Fridman 30:02
権力者たちは、「私を責めろ」とは言わず、「私は知らない」と言いました。それが何であれ
Eric Weinstein 30:10
その力が何であれ、その力には創発的な側面があります。また、意図的に作られた要素もあります。2つの要素で構成されたポートフォリオを自分で作ってみましょう。
しかし、人が集まれば大きな力となることを理解していることもあります。今、あなたが目にしているのは、一緒になろうとする力と、物事をバラバラにしようとする力があるということだと思います。その1つが、グローバリストの視点から見た、グローバリストの物語と国家の物語です。ナッシュ・ネーションは悪いもので、本質的には一時的なものだと考えています。彼らは民族主義的であり、ジンゴイズム的であり、すべてが否定的です。ナショナル・モーニング、ナショナル・イディオムの2人は、ほら、ここで税金を払っているんです。ここは私が税金を納める場所であり、兵役に就く場所でもあります。私が投票権を持っているのもここです。自分が世界的にお金を稼げる場所に移ったからといって、自分が特別で高度な義務を負っている他の人々を見捨てることを選んだとは、一体誰が言うのでしょうか。このような対立する物語が、エリート層からグローバルな視点へと押し寄せてきたのだと思います。そして、ますます多くの権利を奪われた人々が、「私は実際にある場所に住んでいて、法律があり、言語があり、文化があります。あなたがどこか遠くの国で利益を得られるからといって、同胞に対する私の義務が大幅に軽減されると言うのは、一体誰なのでしょうか。
Lex Fridman 31:43
このような国家間の緊張関係は、最終的には、自分の国を誇りに思うことで、戦争などにつながるある種のものを生み出す可能性があるのです。最終的にはそれが人間の本性であり、様々な種類の目覚まし時計があるのは良いことだと思います。
Eric Weinstein 31:59
これらは緊張関係にあると思います。
私が言いたいのは、ナショナリズムの暴走は悪夢だということではありません。また、国際主義の暴走も悪夢のようなものです。問題は、これらの振り子をある程度バランスの取れた場所に押し込もうとしていることです。そこでは、私たちのログを共有する人たちに対して、私たちの法律や市民権に対してより高い配慮をする義務があります。
しかし、グローバルなシステムに対する配慮の義務も忘れてはなりません。これは初歩的なことだと思いますが、私たちが直面している問題は、一部の人がシステム内の他の人に対する義務を放棄することで、イベントで利益を得ることができるということです。それが何十年も続いているのです。
Lex Fridman 32:48
彼は核兵器について言及しました。あなたは経済学の分野で活躍されていますし、人間の行動を理解して、なぜ私たちがまだお互いを吹き飛ばさないのかを理解できるかもしれませんから、あなたから答えを聞きたかったのですが、わかりました。はい、わかりました。早い話が……本当にわからないということが重要なのです。
Eric Weinstein 33:07
と、知恵の軽い上昇、です。
Lex Fridman 33:09
知恵の穏やかな上昇。しかし、私は彼の楽観主義を信用していません。私はロシア人ですから、彼を信用したことはありません。あの人は楽天家でしたか？
Eric Weinstein 33:24
そうではなくて、戦争のような運動エネルギーが、使われていない核兵器のような位置エネルギーにどんどん変わっていくシステムを見ている人の話なんです。そして、今、私はそのシステムを見ています。そして、もし位置エネルギーの用語がなければ、すべてがどんどん良くなっていくことになりますね。
Lex Fridman 33:45
そうですね。すごいですね。物理学者にしかできないことだと思います。
Eric Weinstein 33:51
物理学者ではありません。
Lex Fridman 33:53
それは汚い言葉ですか？いやいや、私も物理学者だったらよかったんですけどね。私もです。私の父は物理学者ですが、私はおそらく残りの人生をそのように生きようとしています。彼もきっとこれを聞くでしょうね。あなたの友人のサム・ハリスは、AIの脅威を心配していますね。あなたが説明したような方法ではなく、もっとそうです。
Eric Weinstein 34:17
イーロンと付き合っているのでしょうか？わかりません、本当に。
Lex Fridman 34:20
ロボットシステムや伝統的に定義されているAIシステムが、本質的に人間よりもはるかに優れた超知能を持つようになり、彼らがすでに持っているものを手に入れることについて、そのようなことを心配していますか？
Eric Weinstein 34:45
そうではありませんが、全体として見るとそうですね、つまり、いろいろな意味があります。でも確かに、一般的な知性に特有だと思われていたことの多くは、一般的な知性を必要としません。試合を見なくても、統計データだけでかなり説得力のあるスポーツ記事が書けるというのは、大きな発見のひとつです。
では、政治について生き生きとした文章を書くことは可能なのでしょうか？ええ、まだできません。というわけで、私たちはどこかで行き違いがあったのです。チェスについては、以前Quoraで質問したことがありますが、あまり反応はありませんでした。「コンピュータとチェスゲームが生み出した最高の輝きとは何か」という質問です。
これは、「史上最高のゲームは何か」という質問とは別のものでした。「輝き」について考えてみると、私たちの多くがチェスを芸術の一種であると考えるきっかけとなります。チェスの動きや組み合わせには、才能や気品、そして魂が込められています。コンピュータはそのようなことは得意ではありませんでしましたが、ポジション・モンスターとしては優れていました。最近では、見事な作品を見ることができるようになりました。
Lex Fridman 35:56
アルファゼロで物事がうまくいくことを認識しているグランドマスターはほとんどいませんでした。
Eric Weinstein 36:02
そうですね。AGIだとは思っていませんが、チェスのような非常に限定されたルールの中では、高次の詩が見られるようになってきています。AGIを待っているのではなく、AGIがゆっくりと私たちの生活に浸透していくという考え方は好きではありません。
線虫が300個のニューロンしか持たず、非常に低いレベルの意識しか持っていないからといって、無意識の存在として扱われるべきではないと思うのと同じように。なぜなら、私たちはこれらのことがスケールアップしたときにどのような意味を持つのかを理解していないからです。
では、このような一般的な現象を心配しているのでしょうか？もちろんです。しかし、今起きていることの1つは、多くの人がこの問題に頭を悩ませているということだと思います。私たちは常にゴラムのことを心配しています。
Lex Fridman 36:56
そうですね。神とは、人工的に作られた生命のことだったのです。フランケンシュタインのようなものですよね。
Eric Weinstein 37:01
そうですね、キャラクターですね。ユダヤ人のバージョンですね。そして、フランクリン、フランケンバーグ、フランクリンのああ、それは理にかなっていますよね？しかし、私たちはこのようなものを作ることに常に不安を感じていました。そして、それはどんどん近づいてきています。そして、私たちが経験してきたすべてのこと、つまり私たちの人生の文脈が、ほぼ確実に終わりを迎えようとしていることに気づかなければならない方法があります。
私たちが生き残れないと言いたいわけではありません。そして、それが明日来るのは300年後かもしれないし、500年後かもしれないと言いたいのではありません。
しかし、私が知っている限りでは、地球、月、火星という、現在の技術的な夢の範囲内で感覚的に住める可能性のある3つの岩があったとしても、その計画はありません。また、非常に競争力のある文明を持っていますが、仲裁できない紛争を解決するためには、いまだに暴力を行使せざるを得ません。
アインシュタインの速度制限を破ることができるかどうかを調べるという次の段階に進むまで、私たちに長期的な未来があるとは思えません。そして、それには私たちのソースコードが必要なのです。
Lex Fridman 38:21
私たちのソースコード……私たちの脳の中にある、何を解明するためのもの……私たちのソースコードとは、どういう意味ですか？
Eric Weinstein 38:26
文脈のソースコード、それが何であれ、コルク、電子、栄養を生み出すもの、我々のソースコード、私は
Lex Fridman 38:33
私はそれを手に入れました。つまり、これは
Eric Weinstein 38:35
高レベルの言語で書かれた最高のもの、という良いアイデアですね。
Lex Fridman 38:38
ええ、その通りです。低レベルのビットの話ですね。
Eric Weinstein 38:41
そうですね。それが現在、私たちをここに留めている理由です。私たちは想像することさえできません。私たちは、アインシュタインの制限速度内に収まるように、とんでもない計画を立てています。自分を引きずって浮遊状態になればいいとか、複数の世代を持てばいいとかね。そういったことは、とても愚かなことだと思います。
しかし、私たちの知恵が、私たちが持っているおもちゃを、500年間使わないで済むようなレベルまで向上すると想像するのも、かなり愚かなことだと思います。
Lex Fridman 39:13
アインシュタインといえば、あなたがその人と一文字違いであることに気づいたとき、私は深いブレイクスルーを得ました。
Eric Weinstein 39:20
ええ、でもファインスタインとも一文字違いですよ。
Lex Fridman 39:23
だからこそ、あなたは選ぶことができるのです。 さて、統一理論ですが。あなたは幾何学の美しさを楽しみながら仕事をしてきましたよね。実際に楽しんでいるかどうかはわかりませんが。あなたは確かに、「tremble before trembled before」が得意ですが、もしあなたが宗教を持っているなら、それは一つの方法です。
Eric Weinstein 39:40
私は宗教的でなければならないと思います。それはとても美しいです。あなたはとにかく震えるでしょう。
Lex Fridman 39:45
アインシュタインの伝記を読んだのですが、あなたが行ったことの一つに、統一理論を探求しようとしたことがあります。それは、4次元の時空連続体をよりよく理解できる14次元の観測者についての話です。どのように考えているのか興味があります。また、4次元以上のものについて、高いレベルでどのように哲学的に考えていますか？私たちが知覚できる次元よりも大きい次元について数学の世界で話すことは、あなたをどのように感じさせようとしているのでしょうか？ですか？単なる数学以上の何かがあるのでしょうか？
Eric Weinstein 40:26
まず第一に、私に向かって舌を出してください。はい。舌の前面には、甘味の受容体があります。その隣には、2つの異なる側面に塩分の受容体がありました。少し奥には酸味の受容体があり、苦味の受容体がある舌の奥は見せてくれませんよね。
Lex Fridman 40:50
舌の良い面を見せるのはいつでもOKですが
Eric Weinstein 40:51
これで4次元の味覚受容体ができあがりました。しかし、その舌には痛みの受容体もありますし、おそらく熱の受容体もあるでしょう。そのため、それぞれ1つずつ持っていたと仮定すると、6つの次元となります。
では、何かを食べるときには、一切れのピザを食べますか？ピザの一切れを食べると、ハラペーニョなどの唐辛子がかかっていて、6次元の体験をしていることになります。
Lex Fridman 41:16
どうですか？私たちは、次元のひとつとしての時間の価値を強調しすぎていると思いますか？それとも空間？まあ、確かに私たちは時間の価値を強調しすぎています。というのも、私たちは物事が始まったり終わったりするのが好きだし、あるいは物事が終わるのは本当に嫌だからです。もし、空間的な次元の1つを反転させて、時間的な次元にしたらどうでしょう？
Eric Weinstein 41:36
あなたと私がニューヨークで会うことになり、「さて、いつ、どこで会おうか」と言います。例えば、36丁目のレキシントン通りで午後2時と朝11時に会うのはどうでしょうか。これではとても混乱してしまいます。つまり、私たちは3つの空間と1つの時間の次元を持っていて、それらが奇妙な布のように織り合わされていて、少しの空間と少しの時間を交換することができるという、おいしい状況にたまたまいるということです。
しかし、他の3つの次元と比較して選ばれた1つの次元しかないので、まさにGladys Knight and the Pipsのようです。
Lex Fridman 42:15
では、これらの次元を誰のために開発したのでしょうか？それとも、その次元は常に存在していたのでしょうか？それはないのでしょうか？
Eric Weinstein 42:23
時間的な次元が4つある場所はないと想像しますか。あるいは、空間と時間、あるいは時間の3つと空間の1つを加えて、時間は空間の役割を果たしていないと想像しますか。なぜあなたは、自分がいるセクターがすべてだと想像するのでしょうか？
Lex Fridman 42:37
確かにそうではありませんが、そうでないとは考えられません。
しかし、いつかは、イオスコを使って、ビルの中に入ってみたいと思っています。そこには数学者たちがいます。そこには数学者がいて、幾何学的なものを見ることができます。
Eric Weinstein 42:53
疑似ロマニと幾何学について聞いてみましょう。あるいは、ペルーのシャーマンと話してみるのもいいかもしれません。
Lex Fridman 43:01
余分なお金を払うことになります。
Eric Weinstein 43:02
その場合、計算はできなくなります。
Lex Fridman 43:06
まあ、違う種類の計算ですね。私の好きな人の一人であるエドワード・フランケル（バークレー大学教授、『LOVE AND MATS』の著者）は、統一理論などの観点からこのような美しく独創的なアイデアを思いつくあなたは、非常に優れた知性の持ち主だと言いましたが、あなたは学界の外で仕事をしています。本当に独創的で面白いアイデアを開発する上で、学内と学外では何が違うのか、という一つの疑問があるのですが、そのような知識を開発することに関しては、ひどい選択だと思います。
Eric Weinstein 43:41
ひどい選択です。アカデミックな世界では、常にコンセンサスへの忠誠心を示さなければなりません。そして、一般的な評価を得るために、小さな、ほとんど微細な異端で自分を際立たせるのです。そして、非常に有能な人や優秀な人たちが一緒に仕事をしていて、彼らは非常に深い社会的ネットワークを形成しており、少なくとも数学の分野では、技術的には物理学、理論物理学の分野では、非常に高いレベルの行動をとっています。外に出れば、狂人やイカれた人たちに出会います。マッドメンと呼ばれる人々は、通常、コンセンサスの立場を支持せず、ほとんど常に道を見失っています。
重要なのは、奇跡的にシステムの中にとどまり、より多くの異端を引き受けることができる人から、進歩がもたらされる可能性が高いかということです。それはちょっと考えられないことですが、その場合、それは魅力的なことでしょうか？それとも、誰かが学問の外からレベルの高い規律を維持し、自分の分野のコンセンサスへの忠誠心を常に確認する必要がないことから得られる自由を利用できる可能性の方が高いのでしょうか。
Lex Fridman 45:21
あなたは、学術界が衰退しているという特徴を持っていますが、あなたはその傾向を示しています。では、この2つのうちどちらの方向性なのでしょうか？あなたはどちらに期待していますか？
Eric Weinstein 45:40
団塊の世代はいつまでも元気でいてくれるでしょうか？
Lex Fridman 45:43
確かに、一般的にはそうですね。第二に、学問の世界では、それはとても重要なことです。
Eric Weinstein 45:46
今回の目的は
Lex Fridman 45:49
は団塊の世代のことです。
Eric Weinstein 45:50
私たちは、数年続いた後に弾ける金融バブルに慣れていましたが、ベビーブーマーのバブルは本当に長持ちしました。イデオロギー、行動パターン、規範、例えば、超ひも理論は、ほとんどすべてがベビーブーマーの現象です。非常に高度な数学的能力を必要とするため、ベビーブーマーができることだったのです。
Lex Fridman 46:20
超ひも理論がオリジナルのアイデアだとは思いませんのですか？ああ、そうですね。
Eric Weinstein 46:25
つまり、ベニシアナのオリジナルなんですよ。おそらく、ベビーブーマーよりも古いのではないでしょうか。そして、ベビーブーマーよりも若い世代でも、超ひも理論をやっている人はいます。それどころか、素晴らしい数学がたくさんあります。そして、物理学の構造の多くは、超ひも理論家によって解明されました。超ひも理論という名の出荷されない製品の成果性について、私はどのように考えていますか？
それは主に、高度に数学的・幾何学的に才能のあるベビーブーマーの物理学者のためのアファーマティブアクションプログラムであり、彼らが言うところの量子重力の制約の中で何かを研究していると言えるようにするためのものだと思います。他にも、漸近的安全性のようなスキームがあります。他にも想像できることはありますが、私は主要なプログラムのどれにもあまり関心がありません。
しかし、Shibbolethを使ってこのレベルの忠誠心を与えたことで、きっとあなたはx、y、文字列プログラムのほとんどすべてを疑っていないでしょう。だからこそ、私は物理学を辞めたのです。あなたが私を物理学者と呼んだとき、それはとても名誉なことでした。しかし、私が物理学者にならなかった理由は、数学を好きになったからではありません。先ほど言ったように、1984年、1983年に、私はこの分野がおかしくなっているのを見ました。
一方、様々な問題を抱えている数学は狂っていないと思いました。そこで私は、物理学で研究するよりも、同じ対象を数学で研究したほうがはるかに安全だと考えたのです。物理的な直観を失うという大きな代償があります。しかし、重要なのは、それが北朝鮮の再教育キャンプでもなかったということです。
あなたは、アインシュタイン統一理論を解明することに希望を持っていますか？これは、量子論ですべてを統一するかどうか、本当に、本当に理解していることです。つまり、私はこの役割を果たそうとしているのです、私自身が、より責任ある、より専門的な、より有能なコミュニティに引き渡す代わりに。ですから、彼らの信念構造の多くは間違っていると思います。しかし、私は、このグループの人々とは本当に深い愛憎関係にあると信じています。
Lex Fridman 48:46
物理学者は、そうですね。数学者はもっとオープンマインドのように見えますからね。それと。
Eric Weinstein 48:52
でも、彼らはオープンマインドですが、素晴らしい数学に見えるものなら何でもいいんですよね。物理学的にはあまり重要ではないことでも研究するでしょう。しかし、それが美しい数学であれば、彼らはこれらのことについて優れた直観力を持っています。
数学者が優れているのはもちろんのこと、私は知的にもある程度の馬力があるので、彼らの方が有利だと思います。理論物理学のコミュニティは、私たちがこれまでに作ってきた中で、最も深遠で知的なコミュニティです。私の知る限り、第1位であり、第2位の人はいません。彼らは余暇を利用して、分子生物学を発明したのです。
Lex Fridman 49:31
分子生物学の起源は何だったのでしょうか？フランシス・クリックのような人のことを言っているのですね。
Eric Weinstein 49:34
つまり、初期の分子生物学者の多くは物理学者でした。シュレディンガーが書いた「生命とは何か」はとても刺激的でした。この点を評価しなければなりません。理論物理学の基礎研究のようなコミュニティはありませんし、彼らを強く批判するわけではありません。
彼らは、物理学のどこに問題があるのかという誤解に基づいて、何十年もの時間を費やし、あなたの信仰心を無駄にしただけだと思うのです。しかし、これまでに学術界で目撃された最大の知的崩壊となりました。
Lex Fridman 50:19
あなたはこれを崩壊と見るのか、それともただの小康状態と見るのか、どちらでしょうか？
Eric Weinstein 50:22
このままでは活力が失われてしまうのではないかと恐怖を感じています。この人たちにお金を払う余裕はありません。彼らが次のエネルギーレベルで何かを見つけたときのために、遊びのためのアクセラレータを与える余裕もありません。
この人たちが、私たちの経済を作ったのです。第二次世界大戦を終わらせるために2つの原子爆弾を開発し、半導体とトランジスタを開発し、粒子加速器の正の外部性であるムーアの法則によって経済を活性化させ、ワールド・ワイド・ウェブを開発しました。そして私たちは、なぜ私たちの税金であなたたちに資金を提供しなければならないのか、と不遜なことを言うのです。
さて、質問ですが、あなたは物理学ドルを楽しんでいますか？そう、彼らは世界最悪のライセンス契約を結んでしまったのです。もし彼らが、あなたがトランジスタやURLを使うたびに単純に課金していたら、あるいはこの期間、彼らが開発した恐ろしい兵器やあなたの通信機器を通じて、彼らが提供した平和を享受していたら、私たちの経済を動かしているすべてのものは、化学が物理学から生まれ、分子生物学が物理学から生まれたという程度にまで、本当に物理学から生まれたものだと思います。
ですからまず、私がこのコミュニティに対して非常に批判的であることを知っておいてください。第二に、このコミュニティは私たちにとって最も重要なものですが、私たちはこのコミュニティを軽視し、乱用し、真剣に考えていません。何世代にもわたって失敗を繰り返した後、彼らをリハビリに連れて行くことさえ気にしていないのです。そうでしょう？
理論レベルの標準モデルに実際に貢献した最年少の人物は、1951年に生まれた人ではないでしょうか。そう、フランク・ウィルゼックです。そして、ほとんど何も起こりませんでした。1973年以降の理論物理学では、理論開発のためにストックホルムに誰かを送り込み、実験を予測していました。ですから、私たちは自分たちがやっていることを理解しなければなりません。そうは言っても、私の意見では、彼らの行動はひどいものでした。自分たちが実際にどこにいるのか、どんな問題に直面しているのか、どれだけ明確にできるのかを認めていないからです。彼らは、他の分野で切実に必要とされている最も素晴らしい発見のいくつかを共有していません。
例えば、ゲージ理論は、少なくとも数学者は共有することができますが、これはニュートンの微分積分と軽さをアップグレードしたものです。そして、繰り込み理論の重要性を共有できていません。繰り込み理論の重要性は、科学の世界では標準的な手順であり、さまざまな層、さまざまなレベルの現象を扱うことができるはずなのに。
Lex Fridman 53:01
共有というのは、異なる側に広まるような方法で伝えるということですね。これらの
Eric Weinstein 53:06
理論物理学者も数学者も、巨大な知的財産の山の上に座っています。そう、彼らはどこにも現れていない多くのものを持っているのです。
私はちょうどツイッターを見ていました。Twitterで、ハバマン・スイッチ・ピッチの話をしたと思うのですが、これは四面体の自己二重性がリンク機構として実現されていることを示しています。これは些細なことのようです。それが素晴らしいおもちゃになって、市場を作り、うまくいけばチャック・ホーバーマンの財産にもなりました。僧侶たちが自分の修道院にどれだけ素晴らしいものを持っているか、あなたにはわからないでしょうね。
Lex Fridman 53:44
あなたにとっては、まさに愛と憎しみの関係なのですね。そうですね、いや、どちらかというと好きな方のようですね。
Eric Weinstein 53:49
私たちが今いるこの建物は この建物で私は、全米科学アカデミーと全米科学財団が、政府の大学産業研究円卓会議を通じて、アメリカの学者の交渉力を破壊しようとした陰謀をまとめました。外国人労働者を使い、顔にマイクロフィッシュを貼る。そうなんですね。それがこの建物の中で行われたのですから、私たちは、そして、私は、本当に
Lex Fridman 54:16
革命家と私は過激です。
Eric Weinstein 54:18
いや、いや、いや、いや、いや、いや、いや、いや、いや、いや、いや。知的なレベルでは。
私は絶対に園芸品種です。
私はただ真っ直ぐなだけです。この大学のシステムは、機能的に狂っています。ハーバードは機能的に狂っています。私たちはそれを理解していません。私たちがこれらのことを間違ってしまうと 金融危機はこのことを明確にしました。ネクタイを締めた大人たちが、正しい学位を持ち、名前の最後にバリトンをつけて、いかにボランティアのボラティリティを禁止するかを語っていた時期が長くありました。私たちは最大の節度を持っています。なるほど、みんな狂っていました。そして、誰が誰のことを言っているのかがわかりました。Nassim TalebとNouriel Roubiniですね。
しかし、市場はおかしくなったのではなく、それまでもおかしくなっていたのです。そして何が起こったかというと、突然正気に戻ったのです。今、私たちはアカデミックの世界にいます。今の学術界は帽子屋のように狂っています。次々とグラフが表示され、内部での議論や陰謀が明らかになっています。ハーバード大学では、たまたまアジアから来た有色人種への入学政策をめぐって、今、ある問題に取り組んでいますが、このような狂気はすべて、ゲームを続けるために必要なのです。革命家の話をしているときに、正気の崩壊の危険性について話しています。
Lex Fridman 55:50
そう、あなたは部屋の中の象を指摘している人なのです。そして、その象には服がありません。それでどうなるかというと、Joe Roganにこの男について一度に少し話すつもりでした。
しかし、あなたの話を聞いていると、異なる分野の違いについて、学界に向けて雄弁に語ることができるのではないかと思います。学術界における科学、工学、そして人文科学の間には、許容できる範囲の違いがあるとお考えですか？私の考えでは、コンピュータサイエンスやエンジニアリングの方が、過激なアイデアに寛容なのではないかと思いました。
しかし、これは私の純真な考えかもしれませんが、私はいつも、今起こっているすべての戦いは、もう少し人文学やジェンダー研究などの側にあるのではないかと思っていたのです。アメリカ数学会が発行した「Get out the way」というエッセイをご覧になりましたか？そしてその
Eric Weinstein 56:50
でしたか？大学や数学界で役職に就いている白人男性は、若い黒人女性がこのようなものを引き継げるように、自分の役職を明け渡すべきだという考えですが、どうでしょうか？
Lex Fridman 57:03
それは、多様性という意味では、私もお聞きしたいと思っています。しかし、厳密にはアイデアの多様性という点では、そうでしょうね。あなたは基本的に、物理学はコミュニティとして、新しいラディカルなアイデアに対してある程度、不寛容になっていると考えていますか？あるいは、少なくともあなたは？最近は少し変わってきたとおっしゃっていましたが、それはどういうことですか？
Eric Weinstein 57:24
つまり、超ひも理論でさえも、「短期的にはあまり期待できない」と認めるようになったのです。そうですね。そこで問題になるのが、何をコンパイルするかということです。コンピュータサイエンスの例えで言えば、何がジャーナルに載るのでしょうか？何があなたを雑誌に載せるか？ある論文をジャーナルに載せるために人生を費やすことになるのでしょうか？それとも、簡単に採用されるのでしょうか？投稿者の特徴については何がわかっているのでしょうか？そして、何が採用されるのでしょうか？そして、何が取り上げられないのでしょうか？
これらの分野のすべてがプレッシャーを感じているのは、どの分野も見事にうまくいっていないからです。それは、私たちが慣れ親しんできた話し方や考え方に革命をもたらしているからです。
Lex Fridman 58:12
しかし、理論物理学でも、多くの場合、超ひも理論のような理論でも、最終的には、この理論が検証可能な方法は何か、ということにつながると思いませんか？
Eric Weinstein 58:26
最終的には、ポパーや科学的手法についての話がありますが、これは非常に頭の良い人たちの間では癌や病気のようなものです。ほとんどのことがどのように解決されるかということではありません。どうやってチェックされるかですよね。
そうですね。だから、理論と実験の間には対話があるのです。ポールが1963年にアメリカのサイエンティフィック・アメリカン誌に寄稿した記事を読んでみるといいでしょう。そこでは、あたかもシュレディンガー方程式について語っています。
重要なのは、自分の理論が少しでもずれていれば、実験と一致しないということです。しかし、それはその理論が実際に間違っているということではありません。しかしdirectは、電子には反粒子があるはずだと予測した彼自身の方程式について語っていたのかもしれません。当時、正電荷を帯びた粒子は陽子しか知られていませんでしたからね。
ハイゼンベルクが指摘したように、反粒子である陽子は電子と同じ質量を持つべきではないでしょうか。それはあなたの理論を無効にするのではないか？ということで、私が思うに、直接は潜在的にかなり卑劣なことをしていたのです。そして、ハイゼンベルクによって自分の理論からある程度外されてしまったという事実を話していたのです。
しかし、私たちが科学的手法やポパー、反証を重んじるのは、それが分野に入ってくるおかしな考えから私たちを守るためです。つまり、タイプ1のエラーとタイプ2のエラーのバランスを取ることが問題なのですが、私たちはかなり狂っていました。
Lex Fridman 1:00:01
その逆ですね。生物学や工学のように、私を安心させてくれるものを言わせてください。一日の終わりに、これは動くのでしょうか？ええ、あなたはクレイジーな人たちをテストすることができます。狂った人たちは、あなたが言っていることを理解するでしょうが、あるアイデアは本当に狂っていて、ある夏は実際に正しいのです。
Eric Weinstein 1:00:20
つまり、「事前に正しく、現在はクレイジー」ということですね。ですから、事前に正しくて現在は狂っている人をすべて排除したいわけではありません。問題は、誰がキャリアの面で剣にかけられなければならないのか、誰が巨大な時間のかかる厄介者として保護されなければならないのかを判断するための一般的な基準がないということです。すべてを変えてしまうかもしれない人とは？
Lex Fridman 1:00:47
そういった選択の仕組みを作ることは可能だと思いますか？
Eric Weinstein 1:00:51
この答えは気に入らないかもしれませんね。しかし、ここからが本番です。これは非常に人間的な要素に関係しています。私たちはこれをルールや公平性のようなレベルでやろうとしていますが、うまくいかないのです。なぜなら、このことを本当に理解しているのは、「二重螺旋を読む」という本だけだからです。
これは本です。ああ、この本を読まなければなりません。ジム・ワトソンはこの三次元構造のDNAを発見しただけでなく、バカになる前のとんでもない作家でもあります。そう、彼は自分の評判を落とそうとしていたのです。
Lex Fridman 1:01:29
ケツのことは知っていましたが、良い作家のことは知りませんでした。
Eric Weinstein 1:01:32
ジム・ワトソンは、現在生きている中で最も重要な人物の一人です。そして、前にも言ったように、ジム・ワトソンにはあまりにも重要な遺産があります。そしてその本は、実際に何がダイヤルを動かすのかについて詳しく教えてくれます。彼についてはもう一つの話がありますが、私はこれには賛成できません。つまり、彼がロザリンド・フランクリンとの間に抱えていた問題は事実なのです。しかし、私たちは単純な解決策ではなく、それを掘り下げることによって、歴史の中のその緊張感を尊重すべきです。
ジム・ワトソンは、フランシス・クリックについて語っています。彼は、誰もが内心では超優秀だと知っている面倒な人物でした。DNAの構造を解明すべきだったヌクレオチドの等モル関係を考え出したチャーガフと、ワトソンとクリックの出会いがあった。そして、彼は「震えが止まらない」という話をしていますが、生物学の鼓動などはとても華やかで、考えただけでも震えてしまいます。我々は、誰を恐れるべきかをよく知っています。そして、我々が恐れる人々に資金を提供する必要があるのです。そして、たぶん両方の方向でいくつかの間違いを犯すでしょう。
しかし、私たちは自分たちの仲間を知っているから、うまくいくかもしれないお尻の痛みを知っています。そして、本当にただの口先だけの人は、ほとんどの場合、ほとんど貢献できないことも知っています。100%ではありません。しかし、ルールではそこに到達することはできません。
Lex Fridman 1:03:10
そうですね。ある種の本能を使うのです。正直に言うと、ちょっと目を丸くしてしまうかもしれませんが。しかし、地球が平らだと信じている人たちの大きなコミュニティがあると初めて聞いたとき、私は立ち止まって聞いてみました。
Eric Weinstein 1:03:25
なぜそのようなコミュニティがあるのでしょうか？
Lex Fridman 1:03:27
地球が平らである可能性はあるのでしょうか？そこで私は、ちょっと待てよ、と思いました。その後、とても健全な思考プロセスを経ることになります。結局、最終的には幾何学的なものになります。少なくとも、面白い思考実験だと思いますよ。
Eric Weinstein 1:03:44
しかし、私はこの実験の別バージョンをやっていません。なぜこのコミュニティは安定しているのか、ということです。
Lex Fridman 1:03:48
ええ、それは良い分析方法ですね。
Eric Weinstein 1:03:50
興味深いのは、何をやってもコミュニティが消滅しないことです。たぶん、2の平方根の合理性について十分に考えていないだけで、誰かが素晴らしく、我々はそれを理解するでしょう。もしかしたら、いつか木星の表面に着陸して探査するかもしれません。そう、これらは絶対に起こらないクレイジーなことなのです。
Lex Fridman 1:04:14
ソーシャルメディアがAIアルゴリズムによって運営されているほどです。彼は、コンテンツを推薦することについて少し話していました。そこで、この過激な思想のアイデアについて、AIはどのくらいあなたが反対するものを見せるべきでしょうか？ツイッターで、とか。この探求のためのトータルワークヴァージョンで？うん、うん。だって、答えがわからないじゃないですか。いいえ。
Eric Weinstein 1:04:37
いや、いや。いいですか、私たちは、彼らはこの認知的なレゴを私たちに押し付けてきました。それは狂気につながるだけです。自分が同意できないことに挑戦するのは良いことです。答えはノーです。今のところ同意していない面白いことに挑戦するのは良いことです。しかし、それは本当かもしれません。
私は、自分が何かに反対しているか、反対していないかということはあまり気にしていません。私が知りたいのは、なぜその特定の反対するものが押し出されているのかということです。それは、それが真実である可能性が高いからですか？それはなぜか？私が書くことができるから、コンピュータ・ジェネレーターを書いて、誰も見る必要のない無限の反対意見を出すことができるから、何らかの理由があるのでしょうか。だからお願いだから、不愉快なことを押し付ける前に 理由を教えてください。
Lex Fridman 1:05:22
この質問は非常に間抜けな面があります。特に、さまざまなネットワークで、「私たちはこれを解決しようとしています」という意味で、ほとんど一般的に使われているからです。
しかし、基本的には、自分が気に入らないもの、同意できないものを見ることにどれだけの価値を見出すかということです。肝心なのは、あなたが嫌いなもの、もしあなたがヒラリー・クリントンの支持者なら、ドナルド・トランプに関するものを見たくないかもしれませんし、気分が良くないかもしれません。アルゴリズムで最適化できるのは、今のところこの点だけです。アルゴはもっとうまくやれると思っています。これが私たちの仕事です。だから
Eric Weinstein 1:06:12
GoogleやFacebook、Twitterを構築できる人たちが、なぜ私たちと信じられないような低レベルの議論をしているのかわからないのですが、彼らは賢い人を知らないのでしょうか？このような議論を盛り上げることができる人たちの電話番号を知らないのでしょうか？
Lex Fridman 1:06:36
そうですね。しかし、それを別のことに最適化するのです。そして、そのような人たちを部屋から追い出してしまうのです。そうです。
Eric Weinstein 1:06:43
私たちには見えないものに最適化しているのです。そして、そこには利益があります。いや、でも誰もそれを疑ってはいません。
しかし、彼らは政治的なコントロールや、パキスタンでビジネスをしているという事実のようなものにも最適化しているのです。そのため、パキスタンで曲げられることになるすべてのことを話したくないのです。だから、偽の議論に巻き込まれたのです。
Lex Fridman 1:07:07
あなたは、あの深さの会話がGoogle内部で行われていると思うのですか？Googleは基本的な指標を持っていないと思いますか？ユーザー・エンゲージメントの下で？
Eric Weinstein 1:07:15
あなたは私たちと偽の会話をしています。私たちはあなたが偽の会話をしていることを知っていますが、私はあなたの偽の会話に参加したくありません。このユニットをどうやって冷却するか知っていますか？高可用性、誰にも邪魔されないこと、私のGmailは決してダウンしません。ほとんど
Lex Fridman 1:07:33
あなたは、インフラというソフト面で素晴らしい仕事ができるからといって、人間の行動や人間理解に関する難しい問題にも対処できると思っているようですが、そうではありません。
Eric Weinstein 1:07:47
私は、Googleの開発者画面を見たことがあります。FacebookやAppleの話も聞いたことがありますが、私たちはそうではありません。私たちは関わっています。
しかし、彼らは私たちを間違った会話に巻き込んでいます。私たちはこのような低いレベルではありません。私の好きな質問のひとつがあります。なぜ私がハイテク空間で購入したすべてのハードウェアは、盗聴器として装備されているのでしょうか？私のレンズを覆う物理的なシャッターはどこにあるの？
1970年代にはこんなことがありました。レンズキャップ付きのカメラがあったが、セキュリティモデルを作るのにいくらかかるのでしょうか？ 5ドル余分に払うのでしょうか？なぜウインカーはソフトウェアで制御されているのですか？なぜ、カメラの電源を入れると、バイパスできないものを入れて、ランプが点灯していることがわからないのでしょうか？なぜ私のすべての機器を盗聴器として設定したのですか？この話はしていませんが、これは全くのデタラメです。
Lex Fridman 1:08:51
私は、このような議論がプライバシーについて起こっていることを願っています。これは、あなたが彼らに与えるよりも難しいことなのです。プライバシーだけではありません。
Eric Weinstein 1:08:58
そう、社会的統制です。私たちは社会的統制について話しています。なぜ私は自分のレバーをコントロールできないのでしょうか？ただ、とてもかわいいUIがあって、そこでスイッチやダイヤルを操作したり、少なくともアルゴリズムがどうなっているかを見ることができます。
ここには意図的な選択がなされていると思うのですが、それはエマージェンスです。そして、意図があり、2次元であり、ベクトルはどちらの軸にも崩れません。しかし、意図が完全に欠如していると示唆する人は、子供だという考えです。
Lex Fridman 1:09:34
あなたが言った他の多くのことと同様に、それは本当に美しく表現されていて、私を納得させてくれます。
Eric Weinstein 1:09:39
これは少し幸運なことです。私はあなたと一緒に座って、あなたは私の足に取り付かれていると言いました。私は自分の足が何であるかさえ知りません。何を見ているんですか？
Lex Fridman 1:09:48
私はTwitterであなたのフィードを夢中で見ていました。それはとても楽しいものでした。
Eric Weinstein 1:09:57
ところで、そのフィードは、エリックは一度、灰色のエリック私たちのワインスタインでTwitterで、それは決してYeahです。なぜですか？
Lex Fridman 1:10:06
なぜ私はそれが楽しいと思ったのでしょうか？ または私は何を見ていた？
Eric Weinstein 1:10:09
何を探しているのでしょうか？なぜこれをやっているのでしょうか？このポッドキャストは何のためにあるのでしょうか？面白い人たちが集まっていますよね。私はただのポッドキャストのゲストのようなものです。
Lex Fridman 1:10:20
ネクタイもしていないようですね。つまり、真面目なインタビューでもないんですよね。意味を求め、幸せを求め、ドーパミンを分泌します。短期的なものと長期的なものですか？そして、どのように
Eric Weinstein 1:10:34
あなたは私への道を見つけていますか？それは何ですか？私は正直なところ、あなたに到達するために何をしているのかわかりません。
Lex Fridman 1:10:41
代表的なアイデアは、私にとっては常識的なもので、多くの人が話しているわけではありません。これは、犬のようなもので、知的なダークウェブのようなものですね。サム・ハリス、ジョーダン、ピーターソン、そしてあなたのような人たちが、「ほら、服を着ていない象がいるだろう」と言っているようなものです。
私は、「そうだね、そうだね、そういう会話をもっとしよう」と言いました。それがあなたを見つける方法なのです。
Eric Weinstein 1:11:10
私は今の会話を変えようと必死になっています 私は2020年に選挙があることをとても心配しています ドナルド・トランプのような誤解されたメッセージをあと4年も続けることはできないと思います 。私は私たちの組織の破壊を望んでいません 。彼らは皆、自分自身を破壊することに必死になっているように見えます。
だから私は、理論物理学を守ろうとし、ニューヨーク・タイムズを守ろうとし、私たちのさまざまなプロセスを守ろうとしています。そして、自分の発言がすべて誤解されるのではないか、その過程で自分の人生が台無しになってしまうのではないかと怯えることなく、声を上げようとしているごく一部の人たちに、この問題が降りかかっているというのは、私には妄想のようにしか思えません。
つまり、今は絶対にバナナのような時代だと思うのですが、この重荷をごく少数の肩に負わせるべきではないと思うのです。
Lex Fridman 1:12:02
資本主義の面でお聞きしたいのですが、テクノロジーが資本主義を殺しているとか、意図しない効果があるとおっしゃいましたが、意図しないわけではありませんが、経済学者が予測したり、資本主義が生み出すと言ったりするものではありません。
大統領候補のアンドリュー・ヤンがユニバーサル・ベーシック・インカムUBIを提唱しています。あなたはどうお考えですか？テクノロジーの弊害をどうやって撃退するか？
Eric Weinstein 1:12:42
あなたはソフトウェアの専門家ですよね？そうですね。人間は労働者である」というのは古い考えですね。そうですね、人間が労働者を持っているというのは違う対象ですね。
そうですね。オブジェクト指向プログラミングは、パラダイムの一つです。人間には労働者がいて、人間には魂があります。ある期間、人間が持っているワーカーは、人間が持っている魂を養う立場にあった、という話です。
しかし、社会における価値の主張は2つに分かれています。1つは労働者として、もう1つは魂としてです。そして、魂は栄養を必要とし、尊厳とニーズを必要とし、つまり目的を必要としています。自分の生活を支える手段が反復性の高いものでない限り、心配する必要があるのはまだ先だと思います。
しかし、もしあなたがやっていることが非常に反復的であり、それがひどく生成的でないならば、あなたはfor forループやwhileループの照準に入っていたことになります。コンピュータが得意とするのは、反復的な動作なのです。反復といっても、肉を意味する場合もありますし、起こったことのないことを意味する場合もありますが、一般的なチュートリアルの可能性を通じて、ループの特性を持っている限り、問題になります。
私たちは社会主義への大規模な後押しを目の当たりにしています。なぜなら、資本家は、労働者が主張できないかもしれないという事実に対処するのが遅いからです。私たちの社会の比較的優れていない中央値のメンバーは、それでも再生産の必要性や尊厳の必要性を持っていて、資本主義が中央値の個人や、下位10位までの人たちを見捨てたら、そうなるでしょう。資本主義は革命を起こそうとしているのです。
私が懸念するのは、資本家たちがこのことを理解するのに十分な資本主義者ではないということです。労働の限界生産物が低すぎて、魂としての尊厳を養うことができなかったために、人々が市場で自分自身を守ることができないかもしれないということがわからないために、私たちの社会に権威主義的な支配を求めようとしているのです。ですから、私の大きな関心事は、私たちの自由な社会がそれをしなければならないということです。
私たちは自己組織化されていますが、リーマン・ブラザーズが破綻したとき、私はマンハッタンにある自分のオフィスを見下ろしながら、こう思ったことを覚えています。「この人たちに出勤するように促す金融システムがないのに、誰がこの人たちに出勤しろと言うんでしょうか？私が不満なのは、まず第一に、社会主義者ではなく、資本主義者に対してです。あなた方は革命を引き起こそうとしています。古い考えを繰り返しているからです。ああ、ある程度はうまくいくでしょう。
しかし、私たちは明らかに、貢献する必要性と消費する必要性を結びつけるものは何もないという方向に向かっています。そして、それは資本主義によって提供されたものではないかもしれません。なぜなら、それは一時的な現象だったかもしれないからです。人類学的資本主義と新しいギミック経済に関する私の記事をご覧ください。
人々は目覚めるのが遅れていると思いますし、私たちは資本主義を自分自身から救うためにもっと良い仕事をしているはずです。なぜなら、権威主義的な支配のもとで行われることを望んでいないからです。家族を持つための生殖期に社会で成功していない人は、個人的なレベルで失敗していると主張すればするほど、私たちはそのように思います。つまり、私たちが言っていることは何と嫌なことなのか、何と恐ろしいメッセージなのか、私たちは一体誰になってしまったのか、私たちはシカゴ・モデルを鵜呑みにしてしまったのか、その過程で破壊している人間性を見抜けないのか、ということです。
私は共産主義の考えが嫌いです。本当にそう思います。私の家族は何十年も前に共産主義に憧れていました。それは間違った悪い考えです。でも私たちは、そうした魂が育まれ、養われ、尊重されるようにするにはどうしたらいいかを考えなければならないでしょう。そして、資本主義はその答えを持っているはずです。私は資本主義に賭けていますが、はっきり言って、私のチームにはかなり失望しています。
Lex Fridman 1:16:49
あなたはまだ資本主義のチームにいるのですか？ただ、ここでのテーマはラディカル・ラディカル・キャピタルです。でしょう？そうですね。ああ、資本主義か。
Eric Weinstein 1:16:57
私は、ハイパーキャピタリズムはハイパーソシアリズムと結合しなければならないと思います。最も生産性の高い人々が驚異を生み出すことができるようにする必要があります。そして、彼らを余計な良い条件で縛るのはやめなければなりません。
いいものは死んでいるんです。良いものには未来がありますが、素敵なものには未来がありません、なぜなら素敵なものは収容所で終わるからです。
Lex Fridman 1:17:19
まったく、いい線いってます。さて、最後の質問です。あなたは今日、シンプルで非常に洞察力のある方程式をツイートしました。sとhは、あなたが名声を得るまでの道のりに依存していると想像してみてください、おそらく
Eric Weinstein 1:17:38
少しはあるかもしれませんが、それほど単純ではありません。280文字もあれば自分のことを説明できるのに、人々はいつも文字通りに受け取ってしまうのです。
Lex Fridman 1:17:47
ximian……それは数学的ではありません。いや、それは法律ではありません。
Eric Weinstein 1:17:51
なぜでしょう？想像という言葉を入れたのは、私がまだ数学者のように正確さを求めているからです。
Lex Fridman 1:17:56
これが本当だったらと想像してみてください。しかし、それらの変数を含んだ法則があることを想像するには、美しい方法でした。そして、あなたは最近、かなり有名になりました。
では、あなた自身は、これまでに集めた独特の名声を使って、どのようにその方程式を最適化しているのでしょうか？
Eric Weinstein 1:18:13
私はもっと優しくなりたいと思っています。自分にも他人にも優しくなりたいし、心や思いやりを持てるようになりたいと思っています。また、私は分析に対してかなりスペクトル的なアプローチをとっています。
私は非常にリテラルです。いつでも手綱を握ることができますよ。いや、できるよ。できます。自閉症を尊重してほしい人は怒るでしょうね。しかし、私がコーディングをしているのを見たり、数学をしているのを見たりすると、私は、言語無呼吸症候群で話しているのです。
Unknown Speaker 1:18:49
私は、デボラがやってくれましたよ。
Eric Weinstein 1:18:52
私たちは、労働者としての私たちと、魂としての私たちとの間の緊張関係の中で、自分自身を統合しようとしなければなりません。私たちの多くは、どちらか一方を最適化し、もう一方を犠牲にしています。
私はソーシャルメディアと格闘し、私たちの家族を脅かす人々と格闘し、人々がどれだけ苦しんでいるかと格闘していますが、そこに押し出したいメッセージが1つあります。あなたには責任があります。みんな、私を含めたすべての人が、もがき、もがき、大いにもがきます。そうは言っても、もしあなたが苦労していて、努力していて、どうやって自分を向上させようかと考えていて、どこで失敗したのか、家族や友人、職場の人たちを失望させたのか、そんなことを考えているのなら、自分を休ませてあげてください。自分を休ませてあげてください。もし、うまくいかなかったとしても、私は失敗や成功と一生付き合っていくつもりです。私の人生の中で、この2つが何らかの形で存在しなかった期間はありませんでした。
私が言いたいのは、多くの場合、人々はこれを華やかなものと考えているということです。ステージ上で2人の男が会話をしているのを人々が聞くことになるのですから、まったくもってクレイジーなことですが、私はどうすれば人々が最大限の価値を得られるかを常に考えています。このポッドキャストをやっているのもそのためです。自分を休ませてあげてください。あなたは私たちに、あなたの苦労を借りているのです。家族や同僚、恋人、家族の成功を借りているわけではありません。
あなたがそこにいて、自分を拾い上げている限り、この、組織を維持するだけの力がない経済という新しい状況が、その組織のトップに上り詰めた人々を非常に残忍で残酷なものにしてしまったことを認識してください。
今は誰もが嘘をついていて、本当のことを言う人はいません。人間性を保つようにしてください。失敗しても、物事が思い通りにならなくても、苦労していても、何が間違っているのかを理解しようとしていても、それはできることです。必ずしもすべてが自分のせいではありません。私たちは世界的な状況の中にいます。
私は、正直で、親切で、善良で、成功している人たちに会ったことがありません。私が会った人の中で、この女性がすべての項目をチェックしている人はいませんでした。だから、これは十分に発信されていない重要なメッセージだと思うのです。どちらとも言えません。
人々は自分の失敗の責任を社会に求めますが、それは合理的ではありません。苦労しなければならないし、努力しなければなりません。あるいは、自分の失敗の責任は100%自分にあると言いたがりますが、これは全くのナンセンスです。
Lex Fridman 1:21:31
エリック、今日は本当にありがとうございました。
お招きいただきありがとうございました。