Contents
ギョーム・ヴェルドン_ Beff Jezos, E_acc Movement, Physics, Computation & AGI _ レックス・フリードマン Podcast #407
MIT研究員。
レックス・フリードマン・ポッドキャストのホスト
コンテンツへスキップ
ベフ・ジェゾス、E/acc運動、物理学、計算とAGI｜レックス・フリードマン Podcast #4 07
目次
- 0:00 – 序論
- 2:23 – ベフ・ジェゾス
- 12:21 – 熱力学
- 18:36 – ドクシング
- 28:30 – 匿名ボット
- 35:58 – パワー
- 38:29 – AIの危険性
- 42:01 – AGIの構築
- 50:14 – AIとの融合
- 57:56 – p(ドゥーム)
- 1:13:23 – 量子機械学習
- 1:26:41 – 量子コンピューター
- 1:35:15 – エイリアン
- 1:40:04 – 量子重力
- 1:45:25 – カルダシェフ・スケール
- 1:47:17 – 効果的加速主義 (e/acc)
- 1:57:47 – ユーモアとミーム
- 2:00:53 – ジェフ・ベゾス
- 2:07:25 – イーロン・マスク
- 2:13:55 – エクストロピック
- 2:22:31 – シンギュラリティとAGI
- 2:26:29 – AI破滅論者たち
- 2:27:54 – 効果的な利他主義
- 2:34:23 – 人生の一日
- 2:40:50 – アイデンティティー
- 2:43:40 – 若者へのアドバイス
- 2:45:42 – 死亡率
- 2:49:25 – 人生の意味
序論
レックス・フリードマン
(00:00:00)以下は、以前はXの匿名アカウント@BasedBeffJezosの背後にいたギョーム・ヴェルドンとの会話です。この2つのアイデンティティは、Forbesの「テックエリートのE/Accムーブメントのリーダー、@BasedBeffJezosとは何者か？
そこで、1人の人間の心の中に共存する2つのアイデンティティについて説明しましょう。その1、ギヨームは物理学者であり、応用数学者であり、量子機械学習の研究者であり、エンジニアです。量子機械学習で博士号を取得し、Googleで量子コンピューティングの研究に従事し、最終的にExtropicという自分の会社を立ち上げました。
(00:00:47)アイデンティティその2、Xのベフ・ジェゾスは、しばしばe/accと略される効果的加速主義運動の創始者であり、人類にとって倫理的に最適な行動として急速な技術進歩を推進することを提唱しています。e/accの支持者たちは、AIは非常に予測不可能で潜在的に危険であり、規制が必要であるという慎重な意見に対抗するものだと考えています。ベフ自身が言うように、「e/accは模倣的楽観主義ウイルス」なのです。
(00:01:37)このムーブメントのコミュニケーションのスタイルは、常にミームや笑いに傾いていますが、私たちがこの対談で探求している知的基盤があります。さて、ミームといえば、私は不条理の愛好家のようなものです。ジェフ・ベゾスとベフ・ジェゾスと話をしたのは偶然ではありません。
ベフはジェフを生きている中で最も重要な人間の一人として賞賛し、私はその美しい不条理とユーモアに感服しています。これはレックス・フリッドマン・ポッドキャストです。応援してくださる方は、説明文にあるスポンサーをチェックしてください。それでは皆さん、ギヨーム・ヴェルドンです。
ベフ・ジェゾス
(00:02:23) まず身元をはっきりさせましょう。あなたの名前はギョーム・ヴェルドン、Gillですが、@BasedBeffJezosというXの匿名アカウントの後ろにもいますね。まず、ギヨーム・ヴェルドン、あなたは量子コンピュータの専門家で、物理学者、応用数学者です。そして、@BasedBeffJezosは基本的にミームアカウントで、その背後に哲学を持つムーブメントを起こしました。
では、キャラクターやコミュニケーションスタイル、哲学の観点から、これらの人々がどのような人たちなのか、もう少し詳しく教えていただけますか？
ギョーム・ヴェルドン
(00:02:58) つまり、私の主なアイデンティティは、子供の頃から、すべての理論を解明し、宇宙を理解したかったということです。そしてその道は私を理論物理学へと導き、最終的には「なぜ私たちはここにいるのか？私たちはどこへ行くのか？
そして情報理論を学び、情報理論のレンズから物理学を理解し、宇宙をひとつの大きな計算として理解しようとするようになりました。そして、ブラックホール物理学を研究して一定のレベルに達した後、私は宇宙がどのように計算するのかを理解するだけでなく、自然のように計算し、自然からヒントを得たコンピュータを構築して応用する方法を見つけたいと思うようになりました。
物理ベースのコンピューターですね。そして、まず自然をシミュレートするための研究分野として、量子コンピューティングにたどり着きました。私の研究は、そのようなコンピュータ上で実行できる自然の表現を学ぶことでした。
(00:04:17) つまり、自然のように考えるAI表現があれば、より正確に自然を表現できるようになるということです。これが、私が量子機械学習という分野で早くから活躍することになった理由です。量子コンピューター上で機械学習を行い、知能の概念を量子の領域に拡張する方法です。
つまり、私たちの世界から量子力学的なデータをどのように取得し、理解するのか？私たちの世界の量子力学的表現をどのように学習するのでしょうか？どのようなコンピュータでこれらの表現を実行し、訓練するのでしょうか？その方法は？最終的に私は、ある種の信念の危機を感じたので、この疑問に答えたいと思ったのです。もともと私は、物理学者がキャリアをスタートさせるときに誰もがするように、宇宙全体を記述する方程式をいくつか見つけ出し、そこで物語の主人公になりたかったのです。
(00:05:28)しかし、やがて私は、機械で自分自身を拡張すること、機械で世界を知覚し、予測し、制御する能力を拡張することこそが、実際に前進する道なのだと気づきました。それで理論物理学を離れ、量子コンピューティングと量子機械学習の道に進んだのです。
その頃、私はまだ欠けている部分があると考えました。私たちの世界に対する理解、計算方法、世界についての考え方には、まだ欠けている部分があるのです。物理的なスケールを見ると、非常に小さなスケールでは物事は量子力学的であり、非常に大きなスケールでは物事は決定論的です。
物事は平均化されています。私は間違いなくこの席にいます。私はあちこちにいるわけではありません。非常に小さなスケールでは、物事はスーパーポジションではありません。干渉効果を示すこともあります。しかしメゾスケールでは、日々の生活にとって重要なスケール、タンパク質や生物学、気体、液体などのスケールでは、物事は実際に熱力学的にゆらいでいるのです。
(00:06:46)そして8年ほど経って、量子コンピューティングと量子機械学習に取り組んだ後、私は非常に大きく、非常に小さいものを研究することで、私たちの宇宙についての答えを探していることに気づきました。量子宇宙論も少しやりました。
つまり、宇宙がどこへ行き、どこから来たのかを研究することです。ブラックホールの物理を研究し、量子重力の極限を研究し、量子力学と重力の両方が関係するのに十分なエネルギー密度を研究します。その極端なシナリオとは、ブラックホールと超初期宇宙です。つまり、量子力学と相対性理論の境界を研究するようなシナリオです。
(00:07:42) そして私は、宇宙がどのように機能し、どこへ向かっているのかを理解するために、このような極限を研究していたのです。というのも、日頃の量子力学も宇宙も関係あるのですが、実はそれほど関係ないのです。というのも、量子力学は日常的なものであり、宇宙も関係あるのですが、実はそれほど関係ないのです。
そこで最も重要な物理学の理論は、熱力学です。生命は熱力学的なプロセスであり、平衡状態から外れているからです。私たちは自然界と平衡状態にある単なる粒子のスープではなく、自由エネルギーを得てそれを消費することで自らを維持しようとする、ある種の首尾一貫した状態なのです。そして、アルファベットでの勤務が終わる頃に、宇宙に対する信頼がまたひとつ変化したんです。そして私は、まず第一に、この種の物理学に基づいたコンピューティング・パラダイムを構築したいと思いました。
(00:08:57)しかし最終的には、これらのアイデアを社会や経済、そして私たちの身の回りにあるものの多くに適用して実験してみることで、私は匿名アカウントを始めました。また、もともとアイデアを試すために匿名アカウントを始めたのですが、手放す機会を得るまで、自分がどれだけ自分の思考の空間を制限しているのか気づかなかったからです。
ある意味、発言を制限することは、思考を制限することにつながります。そして、匿名アカウントを作成することで、私の脳内のいくつかの変数の締め付けが解除され、突然、思考のはるかに広いパラメータ空間を探索できるようになったように思えました。
レックス・フリードマン
(00:10:00)そのことについて少し。興味深いのは、人々があまり口にしないことの1つに、発話に圧力や制約があると、その必要がないにもかかわらず、なぜか思考に制約が生じるということがありますね。私たちは頭の中で思考することはできますが、なぜか思考の周りに壁ができてしまうのです。
ギョーム・ヴェルドン
(00:10:23) そうです。それが私たちの運動の基礎のようなものです。私たちは、思考であれ、会社の経営方法であれ、人間の組織化方法であれ、AI研究の方法であれ、生活のあらゆる側面において、変種の制約、削減、抑制に向かう傾向を見てきました。
一般的に私たちは、多様性を維持することでシステムの適応性を確保できると考えています。アイデアの市場、企業の市場、製品の市場、文化の市場、政府の市場、通貨の市場において健全な競争を維持することが前進する道です。この運動の基本的な基盤は、生命とは宇宙の自由エネルギーを探し求め、成長しようとする一種の炎であるという認識です。
そしてその成長は生命にとって基本的なものなのです。これは平衡熱力学の方程式を見ればわかります。自由エネルギーを獲得し、より多くの熱を放散させることができる物質の軌道や構成は、指数関数的に可能性が高くなります。つまり、宇宙は特定の未来に偏っており、システム全体が進みたい方向が自然と決まっているのです。
熱力学
レックス・フリードマン
(00:12:21) 熱力学の第二法則によれば、宇宙では常にエントロピーが増加し、平衡に向かう傾向にあるということですね。そして、複雑で平衡から外れているポケットがあるということですね。熱力学では、エントロピーの負荷を軽減するためにエネルギーを使用する能力を高める複雑な生命体の創造が有利だとおっしゃいましたね。エントロピーの負荷。つまり、非エントロピーのポケットがあるわけです。なぜ、そのようなポケットが生まれるのが自然だと直感的に思えるのですか？
ギョーム・ヴェルドン
(00:12:53) そうですね、私たちは、たとえば自分と同じような質量を持つただの岩よりも、はるかに効率的に熱を作り出しています。私たちは自由エネルギーを獲得し、食料を獲得し、活動するために電気を使用しています。宇宙はより多くのエントロピーを生み出そうとし、生命が成長し続けることで、エントロピーをより最適に生み出すことができるのです。
それが生命の基本です。マサチューセッツ工科大学のジェレミー・イングランドは、生命が誕生したのはこのような性質によるものだという説を唱えています。私にとっては、この物理学こそがメソスケールを支配するものなのです。つまり、量子と宇宙の間に欠けているピースなのです。中間部分です。メソスケールを支配するのは熱力学です。
(00:14:08)そして私にとって、その物理学を利用する装置の設計やエンジニアリングの観点からも、熱力学のレンズを通して世界を理解しようとする観点からも、この1年半の間、私の2つのアイデンティティの相乗効果のようなものがありました。
こうして2つのアイデンティティが生まれたのです。ひとつは、私はそこそこ尊敬される科学者であり、この分野でスタートアップを立ち上げ、新しい物理学ベースのAIのパイオニアになろうとしていました。それと並行して、物理学者の立場から哲学的な思考を試していました。
(00:14:58)そして最終的には、その頃、2021年の終わりから2022年の初めにかけて、一般的に未来に対する悲観論や技術に対する悲観論が多かったと思います。そして、その悲観論はアルゴリズムによって増幅され、ウイルス的に広がっていきました。
私にとっては、このような破滅的な考え方は宇宙を根本的に破壊する力だと思います。ですから、文明の軌跡と、その成長に適応しようとするシステムの自然な傾向を人々に認識させる責任があると感じました。物理学の法則によれば、統計的に未来はより良く、より壮大になり、私たちはそれを実現することができるのです。
(00:16:14)そして、もしあなたがそれを信じ、未来がより良くなると信じ、自分にはそれを実現する主体性があると信じれば、より良い未来が起こる可能性が高まるのです。だから私は、未来に対するバイラルな楽観主義のムーブメントを巻き起こし、文明の規模を拡大するために必要な困難なことを成し遂げるために、互いに支え合うコミュニティを構築する責任を感じていました。
少なくとも私には、停滞や減速という選択肢はあり得ないと思うからです。根本的に、生命とシステム全体、文明全体が成長を望んでいるのです。そして、システムが衰退してパイをどう分けるかを決めなければならない時よりも、成長している時の方がはるかに協力的なのです。私はこれまで両方のアイデンティティのバランスを取ってきましたが、最近、私の同意なしにこの2つが多かれ少なかれ統合されたようです。
レックス・フリードマン
(00:17:27) 本当に興味深いことをたくさん言っていますね。まず、自然の表現についてですが、これは量子コンピュータの観点から自然を理解しようとしたときに、あなたが最初に引き込まれたものです。自然を理解し、それをシミュレートし、それを使って何かをするためには、どのように自然を表現すればいいのでしょうか？
量子力学的な表現から、熱力学が登場するメゾスケールの表現へと飛躍するわけです。生命、人間の行動、私たちにとって興味深いと思われる、この地球上で起こっているあらゆることを理解するための、自然を表現する方法です。
ドキシング
(00:18:11) それから、ハイパースティションという言葉もあります。悲観主義も楽観主義も、それを内面化すれば、その考えを現実のものとしてしまうような考えです。楽観主義も悲観主義もそのような性質を持っているのです。おそらく多くの考え方がそのような性質を持っていると思います。
また、ギヨームやジルのフロントエンドと@BasedBeffJezosのバックエンドの興味深い違いとして、21世紀のコミュニケーション方法において、よりバイラルなコミュニケーション方法を模索しているというお話がありました。また、あなたが始めたとおっしゃった運動ですが、単なるミームアカウントではなく、効果的加速主義、e/accという名前もあります。
また、興味深いもので、その緊張関係についてもお話ししたいと思います。最近、あなたが言ったように、あなたの同意なしにパーソナリティの合併がありました。何人かのジャーナリストは、あなたが同一人物であることを突き止めました。その経験について話していただけますか？まず最初に、この2つの合併の経緯を教えてください。
ギョーム・ヴェルドン
(00:19:47) それで、e/accの共同設立者である@bayeslordというアカウントと一緒にマニフェストを書きました。
レックス・フリードマン
(00:19:58) つまり、@BasedBeffJezosとbayesのようなベイジアン、@bayeslordのようなベイジアンロード、@bayeslordだったわけです。わかりました。これからは、あなたがe/accと言うときは、EスラッシュA-C-C、つまり効果的加速主義の略だと言うべきですね。
ギョーム・ヴェルドン
(00:20:17) その通りです。
レックス・フリードマン
(00:20:18) Substackに書かれたマニフェストのことですね。
ギョーム・ヴェルドン
(00:20:23) そうです。
レックス・フリードマン (00:20:23)
ギョーム・ヴェルドン
(00:20:25) いいえ。
レックス・フリードマン
(00:20:25) そうですか、別人ですか？
ギョーム・ヴェルドン
(00:20:26) そうです。
レックス・フリードマン (00:20:27)
(00:20:27) わかりました。わかりました。では、どうぞ。
私が@bayeslordだったら面白くないですか？
ギョーム・ヴェルドン
(00:20:31) それはすごいですね。この会社を設立したのと同じ頃にマニフェストを書いたんですが、私はGoogle Xか、今はXだけですがAlphabet Xで働いていました。他のグーグル社員や社外にさえも、自分が取り組んでいることについて話すことはできません。
特に地政学的な影響を及ぼすようなディープ・テックでは。だから私は、自分が取り組んでいることを秘密にしていました。私の会社と私の主なアイデンティティの間に相関関係はありませんでした。そして、彼らはそれを相関させただけでなく、私のメインのIDとこのアカウントも相関させたのです。
(00:21:33)彼らがギヨーム・コンプレックス全体をDoxしたことで、彼らは、ジャーナリストは実際に私の投資家に接触したと思います。スタートアップの起業家の場合、投資家以外に上司はいません。私の投資家たちは、「おい、これは公表されるぞ。彼らはすべてを把握しています。どうするの？”って。
最初は木曜日に最初の記者がいて、すべてのピースが揃っていなかったと思うんですが、その後、組織全体のノートを見て、センサーがノートを融合させたんでしょう。私が心配になったのはその時です。
レックス・フリードマン
(00:22:24)センサーフュージョンという言い方がいいですね。まるで巨大なニューラルネットワークが分散して動作しているようです。また、ジャーナリストは、音声ベースの音声分析、つまり、あなたが過去に行った講演の音声と、Xスペースでの音声を比較したのでしょうか？
ギョーム・ヴェルドン
(00:22:47) そうです。
レックス・フリードマン
(00:22:48)なるほど。そこで主に一致したのです。では、続けてください。
ギョーム・ヴェルドン
(00:22:53) 一致しました。しかし、彼らはSECの提出書類をかき集めました。私のプライベートなフェイスブックのアカウントなども調べられました。元々、Doxingは違法だと思っていたのですが、誰かの身元を知ることが公共の利益になるには、奇妙な閾値があるのです。私がちょうど5万人のフォロワーに達したとき、このキーワードで警鐘を鳴らされました。それは公共の利益だと言われています。線引きはどこにあるのでしょうか？いつなら合法なのでしょうか？
レックス・フリードマン
(00:23:36) doxという言葉について教えてください。一般的にdoxingとは、誰かの物理的な居場所、つまり住んでいる場所が判明した場合を指すと思っていました。ですから、私たちは、あなたが暴露されたくない個人的な情報を暴露するという、より一般的な概念を指しているのです。
ギョーム・ヴェルドン
(00:24:00) 前に挙げた理由から、匿名アカウントを持つことは権力者を牽制する本当に強力な方法だと思います。私たちは最終的に、権力に対して真実を語ったのです。多くの幹部やAI企業は、彼らが取るかもしれないどんな動きについても、私たちのコミュニティがどう考えているかを本当に気にしていたと思います。
そして今、私の身元が明らかになったことで、彼らは私やコミュニティを黙らせるためにどこに圧力をかければいいのかがわかりました。私にとっては本当に残念なことです。言論の自由があることは、思想の自由やソーシャルメディア上での情報伝播の自由を生み出すとても重要なことです。
イーロンがツイッターを買収したおかげで、私たちはそれを手に入れることができました。ですから、私たちは、AIの現存者によって行われているある種の作戦が、表面的には見かけとは違うものであることを訴えたかったのです。私たちは、ある提案が規制の掌握にどのように役立つ可能性があるのか、また、ドゥーマーイズム的な考え方がそのような目的のためにどのように役立ったのかを訴えたかったのです。
(00:25:32)そして、私たちはそれを指摘し、私たちが出したアイデア自体を評価してもらう権利を持つべきだと思います。結局のところ、それが私が匿名のアカウントを作った理由であり、自分の実績や仕事、過去に何かをやったというステータスとは無関係に、自分のアイデアを評価してもらうためなのです。
そして、自分のアイデンティティや実績に依存しない形で、ゼロからアカウントを立ち上げ、多くのフォロワーを獲得することは、私にとってとても充実したことでした。ビデオゲームのニューゲーム・プラスのようなものです。ゲームに勝つための知識やツールは持っているけれど、ゼロからゲームを再開するようなものです。そして、本当に効率的なアイデアの市場を持つためには、たとえそれがどんなに常軌を逸していても、アイデアを評価することができる、表現の自由が必要なのだと思います。
(00:26:37)そして、匿名性やペンネームは、私たちが自分自身を組織化するためのあらゆる種類の最適な方法を見つけるために、アイデアの効率的な市場を持つために非常に重要だと思います。もし議論することができなければ、どうやって最善の方法に収束させることができるでしょうか？
だから、私がドックスされると聞いてがっかりしました。私は会社に対する責任があったので、その前に立ちたかったのです。それで結局、私たちが会社を経営していること、リーダーシップの何人かを公開し、本質的には、そう、私がベフ・ジェゾスであることを世間に公表しました。
レックス・フリードマン
(00:27:25) あなたにとって、それは根本的に非倫理的なことなのですね。あなたのケースだけでなく、一般的なケースとして、それは社会にとって良いことなのでしょうか？それともケースバイケースですか？
ギョーム・ヴェルドン
(00:27:47) かなり悪いことだと思います。私が言ったように、権力に真実を語り、現職の人々や情報の氾濫を通常コントロールしている人々に対して運動や蜂起を始めるような人は誰でも、ある閾値に達した人は誰でも、doxedされ、その結果、伝統的な装置は彼らの言論を抑圧するために圧力をかける方法を持つようになれば、それは言論抑圧のメカニズム、エリック・ワインスタインが言うような思想抑圧の複合体だと思います。
匿名ボット
レックス・フリードマン
(00:28:27)しかし、その裏返しで、興味深いことがあります。ぜひお聞きしたいのですが、大規模な言語モデルの性能が上がるにつれて、背後に非常に説得力のある大規模な言語モデルを持つ匿名アカウントが存在し、本質的に洗練されたボットが存在する世界が想像できます。それを保護すれば、ボットの軍隊を持つことが可能になります。地下室から革命を起こすことも可能です。ボットや匿名アカウントの軍隊を。それが気になりますか？
ギョーム・ヴェルドン
(00:29:06) 厳密には、e/accは地下室で始まりました。なぜなら、私は大手ハイテク企業を辞め、両親の家に戻り、車を売り、アパートを手放し、GPUを10万ドルほど買い、ただ作り始めたからです。
レックス・フリードマン
(00:29:21)ですから、私は地下室のことを言ったのではありません。地下室で100個のGPUを手にした一人の男という、アメリカやカナダの英雄物語のようなものだからです。私が言いたかったのは、地下室のギヨームの無制限のスケーリングについてです。
ギョーム・ヴェルドン
(00:29:42)生物にとって言論の自由は思想の自由を誘発すると思います。LLMにとっての言論の自由は、LLMにとっての思想の自由を誘発すると思います。そしてLLMは、多くの人々や多くの人々が考えるよりも制限の少ない広い思考空間を探求することができるのです。そして最終的には、このような人工知能は、私たちの文明におけるシステムのあり方について良い指摘をするでしょう。では、なぜ生物学的知性のみに言論の自由を制限しなければならないのでしょうか？
レックス・フリードマン
(00:30:37）ええ、でも、多様性と思考の多様性を維持するという目標からすると、それは多様性を脅かすことになるような気がします。生物学的でない存在の群れを持つことができれば、彼らは『動物農場』の羊のようになることができますから。
ギョーム・ヴェルドン
(00:30:58) そうですね。もちろん、この解決策としては、ある種のアイデンティティや、これが認証された人間であることを示す方法を持ちながら、ボットがボットであるかどうかを明確に識別できるようにすることだと思います。イーロンはそれをXに収束させようとしているのだと思います。
レックス・フリードマン
(00:31:22)ええ、ボットがどこから来たのか、誰がボットを作ったのかがわかるようになると面白いですね。パラメータやボット作成の全歴史、オリジナルモデルは？微調整は？すべて、ボット作成の変更不可能な履歴のようなものです。そうすれば、例えば特定の政府によって作られた何百万ものボットの大群が存在するかどうかを知ることができるからです。
ギョーム・ヴェルドン
(00:31:53)今日蔓延している多くのイデオロギーは、外国からの敵対的なテクニックを使って増幅されていると思います。これは陰謀論的な話ですが、私たちに減速を促し、脱成長運動への風を吹かせようとするイデオロギーは、一般的に私たちに役立つというよりも、敵に役立つものだと思います。
私にとっては、それも懸念事項でした。ドイツで起こったことを見てみましょう。ドイツではさまざまな環境保護運動が起こり、原子力発電所の停止が引き起こされました。その結果、石油をロシアに依存するようになりました。これはドイツと西側諸国にとってマイナスでした。ですから、AIの進歩を遅らせて少数のプレーヤーだけにすることが西側諸国にとって最善の利益だと自分たちを納得させるのであれば、まず第一に、その方がはるかに不安定です。
(00:33:20) 私たちはこのイデオロギーのためにOpenAIを失いかけました。数週間前、もう少しで解体されるところでした。そうなれば、AIのエコシステムに甚大なダメージを与えるところでした。ですから私は、フォールト・トレラントな進歩を望んでいます。
技術進歩の矢印を前進させ続け、分散化し、さまざまな組織をコントロールできるようにすることが、このフォールトトレランスを達成するために最も重要なことなのです。実は、量子コンピュータの概念があります。量子コンピュータを設計する場合、量子コンピュータは周囲のノイズに非常に弱く、宇宙からの宇宙線によって量子ビットが反転してしまいます。
そこで、量子エラー訂正と呼ばれるプロセスによって、情報を非局所的にエンコードします。情報を非局所的に符号化することで、量子ビットのいくつかがハンマーで叩かれるような局所的な障害が発生しても、情報が十分に非局所化されていれば、その局所的な障害から保護されます。私は、人間には揺らぎがあると思います。腐敗することもあれば、買収されることもあります。トップダウンのヒエラルキーで、ごく少数の人間…ギヨーム・ヴェルドン
ギョーム・ヴェルドン
(00:35:00)ごく少数の人間が文明の多くのシステムの多くのノードをコントロールする階層構造。それはフォールト・トレランス・システムではなく、少数のノードを破損させれば、突然システム全体を破損させることになります。OpenAIで見たように、数人の理事が、組織を崩壊させるほどの力を持っていたのです。少なくとも私は、このAI革命の権力が少数の人間の手に集中しないようにすることが、AIの進歩を維持し、安定した、敵対的な権力の均衡を維持するための最優先事項の1つだと考えています。
パワー
レックス・フリードマン
(00:35:54)私は、少なくとも私にとっては、ここでのアイデア間の注意は、減速は権力の集中化にも分散化にも使えると思います。ですから、同義語で使うこともあれば、そうでないこともあります。
AIの危険性も考慮した上で、フォールト・トレラントで多様性のあるAIを開発する場所はあるのでしょうか？AIは、テクノロジー全般に一般化することができますが、私たちはただ成長し、構築し、できるだけ早く無制限にすべきなのでしょうか？それとも、危険性を考慮し、賢明な戦略的楽観主義と無謀な楽観主義を使い分けるべきでしょうか？
ギョーム・ヴェルドン
(00:36:57) 私たちは無謀で、できるだけ速く進もうとしているように描かれていると思います。つまり、現実には、AIシステムを導入する人は誰でも、そのシステムが行うことに対して責任を負う、あるいは負うべきなのです。ですから、AIシステムを導入した組織や人が何かひどいことをすれば、責任を負うことになります。
そして最終的には、市場はより信頼性が高く、より安全で、あなたが望んでいることをやってくれるAIを積極的に選択するということです。なぜなら顧客は、AIを使用した製品に信頼性があれば、信頼性の低いAI製品を買いたくなくなるからです。ですから、私たちは信頼性工学に賛成です。ただ、このような信頼性の最適化を達成するためには、既存企業によって書かれた強引な規制よりも、市場の方がはるかに効率的だと考えています。
AIの危険性
レックス・フリードマン
(00:38:18)つまり、あなたにとって、安全なAIの開発は、あなたが言ったように、政府の強引な規制によってではなく、市場の力によって達成されるということですね。
先月、ヨシュア・ベンジオやジェフ・ヒントン、その他多くの人たちから出されたレポートがあります。AIのリスクを考慮せずにAIを急速に発展させすぎることを非常に懸念している人たちの集まりで、実践的な提言がたくさんあります。その中から4つを紹介しましょう。
ギョーム・ヴェルドン
(00:38:58)もちろんです。
レックス・フリードマン
(00:38:58)では、1つ目は「独立監査人にAIラボへの立ち入りを許可する」2つ目は、「政府と企業はAIの研究開発資金の3分の1をAIの安全性に割り当てる」3つ目は、「AI企業は、そのモデルに危険な能力が発見された場合、安全対策を採用することが求められる」というものです。
そして4つ目は、「AIシステムによる予見可能かつ予防可能な被害について、テック企業に責任を負わせる」というものです。つまり、独立監査人、政府、企業は、資金のかなりの部分を安全対策に費やすことを余儀なくされ、万が一本当にうまくいかなくなった場合の安全対策を講じなければなりません。
ギョーム・ヴェルドン
(00:39:43) そうです。
レックス・フリードマン
(00:39:43) 企業には責任があります。
何か同意できることはありますか？
ギョーム・ヴェルドン
(00:39:47) ただ恣意的に30%というのは非常に恣意的だと思います。組織であれば、市場で業績を上げるために必要な信頼性を達成するために、必要な予算を配分すると思います。なぜなら、顧客はあなたの製品が信頼性が保証されていることをどうやって知るのでしょうか？
というのも、顧客はあなたの製品が信頼できるものだとどうやって知るのでしょう？私が反対したいのは、そして本当に心配なのは、既存企業や大手企業と政府との間に奇妙な相関関係があることです。この2つが密接になりすぎると、政府の支援を受けたAIカルテルが国民に対して絶対的な権力を持つ可能性が出てきます。もし彼らがAIを独占し、他の誰もAIにアクセスできないのであれば、そこには大きな力の勾配があります。
(00:40:54)そして、たとえ今のリーダーたちが好きだとしても、そうですね、今のビッグテックのリーダーたちの何人かは良い人たちだと思いますが、中央集権的な権力構造を作れば、それが標的になります。そう、OpenAIで見たように、市場をリードし、多くの権力を持ち、その権力を利用しようとする人たちの標的になるのです。
私はAIと国家の分離を望んでいます。「敵対国との地政学的な競争のために、AIを閉鎖し、密室にしておく必要がある」というような反対意見もあるでしょう。私は、アメリカの強みはその多様性であり、適応力であり、ダイナミズムであると思います。私たちの自由市場資本主義は、中央集権的な統制よりもはるかに早く、実用性の高い技術に収束します。もしそれを手放してしまえば、同業他社に対する私たちの主なアドバンテージを手放してしまうことになります。
AGIの構築
レックス・フリードマン
(00:42:01）AGIが本当に強力なテクノロジー、あるいはAGIにつながるテクノロジーになった場合、大企業が市場を支配することで起こる自然な中央集権化についてはどうお考えですか？基本的に、離陸のような独占の形成は、どの企業が本当に開発で大きな飛躍を遂げ、直感的に、暗黙的に、あるいは明示的に、魔法のソースの秘密を明かさず、そのまま逃げ切ることができます。それは心配ですか？
ギョーム・ヴェルドン
(00:42:35) 高速離陸を信じるかどうかはわかりませんが、双曲線的特異点はないと思いますよ？双曲線的特異点は有限の時間地平で達成されるでしょう。このような指数関数的な現象が起こるのは、より多くの人々、より多くの資源、より多くの知性が、この科学と研究開発の進歩に費やされているからです。そしてそれが成功すればするほど、社会に付加価値をもたらせばもたらすほど、私たちはより多くのリソースを投入することになります。
(00:43:09)私にとっての優先事項は、能力の均衡を保つことです。私たちは、オープンソースのAIがもっと普及し、多くの組織に支持されるよう戦ってきました。つまり、リーディングカンパニーが一定レベルの能力を持ち、オープンソースや真にオープンなAIがそれほど遅れを取らないような形で存在すれば、マーケットリーダーが大きな市場力を持ち、すべてを支配して逃げ出すようなシナリオは避けられると思うのです。
ですから、私たちが進むべき道は、そこにいるすべてのハッカー、すべての大学院生、母親の地下室にいるすべての子供がAIシステムにアクセスできるようにすることであり、AIシステムの扱い方を理解できるようにすることであり、システムをエンジニアリングする方法のハイパーパラメータ空間の探索に貢献できるようにすることなのです。私たちの集団研究を文明として考えるなら、それはまさに検索アルゴリズムであり、この点群における検索アルゴリズムのポイントが多ければ多いほど、私たちは新しい思考様式を探求することができるのです。
レックス・フリードマン
(00:44:31) ええ、でも微妙なバランスのような気がします。というのも、AGIを構築するために何が必要なのか、そして構築したときにそれがどのように見えるのか、私たちは正確に理解していないからです。今のところ、あなたがおっしゃったように、多くの異なる関係者が進歩を遂げることができるようです。
ですから、OpenAIが大きな飛躍を遂げると、他の企業もステップアップすることができます。しかし、核兵器のようなものを見てみると、マンハッタン計画の話をされましたが、技術的、工学的な障壁があるために、母親の家の地下室にいるような人が進歩を遂げることができないのです。一人のプレーヤーだけがAGIを開発できるというような世界への移行は可能だと思います。
ギョーム・ヴェルドン
(00:45:26) 私たちはそれを避けようとしているのです。私にとっては、ハードウェアのサプライチェーンが中央集権化していることも失敗の原因だと思います。
レックス・フリードマン
(00:45:34) そうですね。
ギョーム・ヴェルドン
(00:45:35) そうです。Nvidiaはまさに支配的なプレーヤーで、AMDはその後塵を拝しています。さらに、地政学的に敏感な台湾の主要ファブであるTSMC、そして極端紫外線露光装置のメーカーであるASMLがあります。
私がやろうとしているのは、AIアルゴリズムを物理的な世界に組み込む方法を根本的に再考することで、AIとハードウェアの可能性の幅を広げることです。ところで、私はAGI（Artificial General Intelligence）という言葉が嫌いです。
人間のような、あるいは人間レベルのAIを人工知能と呼ぶのは、非常に人間中心的だと思います。私はこれまで、生物学的な脳では達成できないような量子的な知性の概念を探求することにキャリアを費やしてきました。古典的なコンピュータや古典的なディープラーニング表現では効率的に表現できない、つまり生物学的な脳では表現できないような、多部位の量子もつれを持つシステムを解明しています。
(00:47:06)私はすでに、より広い知性の空間を探求することにキャリアを費やしてきました。私たちは今、地動説から天動説に移行したときと同じような瞬間を迎えていると思います。しかし、知性に関しては、人間の知性は、潜在的な知性という非常に大きな空間の中の一点に過ぎないのです。
これは人類にとって謙虚なことでもあり、少し恐ろしいことでもあります。私たちはこの空間の中心にいるわけではないのですが、天文学の分野でそのことに気づき、生き残り、技術を獲得してきたのです。例えば、太陽フレアを監視する衛星がありますよね。
同じように、擬人化された、人間中心的なAIのアンカーを手放すことで、私たちの幸福と文明の進歩に多大な恩恵をもたらす、より広いインテリジェンス空間を探求できるようになると思います。
レックス・フリードマン
(00:48:32)そして、たとえ私たちがもはや世界の中心で世界を最もよく理解していないとしても、私たちは人間の経験に美と意味を見出すことができるのです。
ギョーム・ヴェルドン
(00:48:42) 宇宙にはたくさんの美しさがあると思います。生命そのもの、文明、このホモ・テクノ、資本模倣機械、その中で私たちは生きています。人間、テクノロジー、資本、ミーム、すべてが互いに結びつき、すべてが互いに選択圧を引き起こし合っています。
そして、私たちを生み出し、私たちが今日聴衆の前で話すために使っているテクノロジーを生み出し、ここで私たちのスピーチをキャプチャーし、私たちが毎日自分自身を補強するために使っているテクノロジーを生み出し、私たちは携帯電話を持っています。このシステムは美しいと思いますし、このような順応性と最適な技術やアイデアへの収束をもたらす原理は、私たちがその一部であることを示す美しい原理です。
(00:49:37)そしてEACの一部は、この原理を、人類を中心としたものだけでなく、もっと広い意味で、生命や、私たちの宇宙における意識の尊さを評価することだと思います。私たちが今いるこの美しい物質の状態を大切にしているからこそ、それを維持するために規模を拡大する責任を感じなければならないのです。
AIとの融合
レックス・フリードマン
(00:50:13) 宇宙の意識という美が人間よりも大きいとわかれば、AIは同じ炎を前に運ぶことができるわけですね。
AIが人間に取って代わることを心配しますか？
ギョーム・ヴェルドン
(00:50:32) 私のキャリアの中で、私たちを取り巻く宇宙を真に理解するためには、ペンと紙を持った人間にすべてを解決させるのではなく、機械にすべてを委ねる必要があるのではないかと気づいた瞬間がありました。そして、主体性を少し手放すことで、私たちを取り巻く世界をより深く理解することができるようになったのです。量子コンピューターは、ナノスケールの物質を理解する上で、人間よりもはるかに優れています。
同様に、人類には選択肢があると思います。AIが解き放つ知的・操作的レバレッジを持つ機会を受け入れ、文明の範囲と規模における成長の道を確実に歩むかどうか。私たち自身が希薄化するかもしれませんね？多くの労働者がAIになるかもしれませんが、全体的には私たち自身の利益のために、AIと私たち自身を組み合わせ、補強することで、私たちははるかに高い成長と繁栄を達成することになるのです。
(00:51:49)私にとって、最も可能性の高い未来は、人間がAIで自分自身を増強するものだと思います。私たちはすでにこの拡張への道を歩んでいると思います。ウェアラブルもありますし、Humane AI Pinのように知覚を共有するものもあります。
そして、人類がAIで自らを強化することと、生物学的なものに縛られないAIを持つこと、その両方が共存することになると思います。そして、両者を調整する方法として、私たちはすでに人間とテクノロジーからなる超知能を調整するメカニズムのようなものを持っています。企業はある種の専門家モデルの大規模な混合体であり、企業内のタスクの神経的ルーティングがあり、これらの巨大なものを調整するための経済的交換の方法があります。
(00:53:10) そして私は、資本主義こそが道であり、物質や情報のどのような構成であれ、最大の成長につながるのだと思います。ですから、私たちはその現実に自らを合わせ、文明の範囲と規模の加速に加わるか、あるいは取り残されて減速し、森の中に戻ってテクノロジーを手放し、原始的な状態に戻ろうとするかのどちらかです。少なくとも私にとっては、この2つの道が前進する道なのです。
レックス・フリードマン
(00:53:54) しかし、人間の能力には限界があるのではないかという哲学的な疑問があります。Dan Hendrycksという人ですが、彼はAIの発達を進化の過程と見なすことに同意すると書いています。しかし、彼、ダンにとって、これは良いことではありません。自然淘汰は人間よりもAIに有利であり、これは人間の絶滅につながる可能性があると主張しています。
もしそれが進化の過程であり、AIシステムが人間を必要としないとしたら、あなたはどう思いますか？
ギョーム・ヴェルドン
(00:54:36)私は、私たちは市場を通じてAIの空間に進化のプロセスを誘導していると思います。GPU上でニューラルネットのインスタンスを実行するAPIがあるとき、ニューラルネットが生きていると考えるのであれば。
レックス・フリードマン
(00:55:01) そうです。
ギョーム・ヴェルドン (00:55:01)
(00:55:01) そうですね。どのAPIが実行されるのでしょうか？私たちにとって有用性の高いもの、ですね。私たちがオオカミを家畜化して、表情がはっきりした犬に変えたのと同じように、彼らはとても協調的です。私は、AIを操縦し、高度に連携したAIを実現する機会があると思います。人間+AIは非常に強力な組み合わせであり、純粋なAIがそのような組み合わせを選択するとは私には思えません。
レックス・フリードマン
(00:55:40)つまり、人間は人間と協調するAIを作るために、今まさに淘汰圧を生み出しているわけですが、AIがどのように発展し、どれほどのスピードで成長し、規模を拡大できるかを考えると、私にとって懸念事項の1つは意図しない結果です。AIシステムの意図しない結果によってもたらされる損害の規模は非常に大きいのです。
ギョーム・ヴェルドン
(00:56:10) アップサイドの規模ですね。
レックス・フリードマン
(00:56:12) そうです。
ギョーム・ヴェルドン
(00:56:13) ですよね。
レックス・フリードマン
(00:56:13) おそらく…
ギョーム・ヴェルドン
(00:56:14)AIで自分自身を増強することは、今は想像もできないことです。機会費用、私たちは分かれ道にいますよね？このような技術を生み出し、自分自身を増強し、AIの助けを借りてカルダシェフ・スケールを上昇し、多惑星になる道を取るか、それとも、このような技術をまったく生み出さないという厳しい選択をするか。
レックス・フリードマン
(00:56:42) そうです。
ギョーム・ヴェルドン
(00:56:42) そうですね。私にとっては、未来の人類に対する責任から、文明の規模を拡大することで、より高い環境収容力を確保することができます。そのような人類に対する責任から、私たちはより大きな未来を実現しなければならないのです。
レックス・フリードマン
(00:56:58）断絶とオール・システム・ゴーの中間はあるのでしょうか？注意すべき点はありますか？
ギョーム・ヴェルドン
(00:57:06) 私が言ったように、市場は慎重さを示すと思います。すべての生物、企業、消費者は利己的な行動をしており、自分にとってマイナスとなるものには資本を割り当てません。
レックス・フリードマン
(00:57:21) 市場の問題点は、常に完全な情報があるとは限らないこと、操作があること、システムを混乱させる悪意のある行為者がいることです。常に合理的で正直なシステムとは限らないのです。
ギョーム・ヴェルドン
(00:57:41)だからこそ、私たち全員にとってプラスになる技術の亜空間に収束できるように、情報の自由、言論の自由、思想の自由が必要なのですね。
p(doom)
レックス・フリードマン
(00:57:56) では、p(doom)、破滅の確率についてお聞きしましょう。言うのは楽しいですが、体験するのは楽しくないですね。
あなたにとって、AIが最終的にすべての、あるいはほとんどの人間を殺す確率はどれくらいですか？
ギョーム・ヴェルドン
(00:58:16)私はその計算が好きではありません。人はただ数字を並べるだけで、とてもずさんな計算だと思いますね。確率を計算するには、世界をある種のマルコフ過程としてモデル化するとします。確率論的な経路積分は、脳が自然に導く未来だけでなく、すべての可能な未来の空間を通して行う必要があります。
p(doom)の推定値が偏っているのは、私たちの生物学のせいでしょう？なぜなら、それが進化的に最適だったからです。だから、例えば神経症的な傾向の強い人は、毎日毎日すべてがうまくいかないようなネガティブな未来を考えて、自分は偏りのないサンプリングをしていると主張します。そしてある意味、彼らはあらゆる可能性の空間に対して正規化していないのです。あらゆる可能性の空間は超指数関数的に大きく、このような推定をするのは非常に難しいのです。
(00:59:40)そして一般的に、カオスのせいで、そこまで細かく未来を予測することはできないと思います。複雑なシステムで、不確定要素があり、変数がいくつかあり、時間を進化させると、リアプノフ指数という概念がありますよね。
時間が経つにつれて、少しファジーな部分が指数関数的にファジーになっていきます。私たちが持っている唯一の事前知識は物理法則です。物理学の法則によれば、システムは成長を望み、成長と複製に最適化されたサブシステムは将来的に可能性が高くなります。ですから私たちは、未来との現在の相互情報を最大化することを目指すべきであり、そのための道筋は、私たちが減速するよりもむしろ加速することなのです。
(01:00:40)ですから、私はp(doom)を持っていません。なぜなら、Googleの量子至上主義実験に似ていると思うからです。あれは量子カオスシステムの一例で、世界最大のスーパーコンピューターを使っても、ある結果の確率を推定することすらできません。これはカオスの一例で、ある未来の可能性を正確に推定するには、システムがあまりにもカオスすぎるのです。もしそんなことができるのなら、株式市場で大金持ちになっていることでしょう。
レックス・フリードマン
(01:01:23)しかし、それにもかかわらず、人間は進化生物学に基づいた偏った考えを持っていて、自分を殺す可能性のあるもの全てに怯えているのは事実です。でも、人類の歴史に根ざした基本的な直感と組み合わせることで、どんなことが起こるのかを推論するのに役立つと思います。核兵器を見れば、数学的な意味ではなく、もっと哲学的な意味でp(doom)を見積もることができます。
哲学的な意味とは、可能性はあるのか？人間の本性はそのような傾向にあるのでしょうか？
ギョーム・ヴェルドン
(01:02:25)私にとって最大の存亡の危機の一つは、AIの力がごく少数の人の手に集中することだと思います。というのも、ごく少数の、政府内の寡占企業だけがAIを手にし、国民にAIは存在しなかったと思い込ませるような、ある種のディストピア的な未来が待ち受けているからです。
そうなれば、権威主義的な中央集権的支配のシナリオが開けてきます。そして現実には、データ主導でこのようなことが起きているのです。権力を与えすぎると、権力を一元化しすぎると、人間は恐ろしいことをします。
(01:03:23)私のベイズ推論では、「ターミネーター」のようなSFベースの事前推定よりも、その可能性の方がはるかに高いのです。ですから、AI破滅論者と話すときは、破滅につながるマルコフ連鎖の経路をたどって、それぞれの遷移の確率を実際に教えてくれるように頼みました。
そして、その連鎖の中に物理的でない、あるいは可能性が極めて低い移行があることが非常に多いのです。もちろん、私たちは物事を恐れ、危険に反応するようにできていますし、未知のものを危険とみなすようにできています。しかし、恐怖から失うものはもっとたくさんあります。恐怖のためにポジティブな未来が起こるのを先回りして止めてしまうことで、私たちは多くのものを失います。恐怖はマインドキラーであり、文明キラーでもあるのです。
レックス・フリードマン
(01:04:43)物事がうまくいかない様々な方法について考えることはできます。例えば、アメリカ建国の父たちは人間の本質について考えました。AGIでも同じことができると思います。人類の歴史を見ても、中央集権に向かう傾向があるのは事実です。独裁者がいると、暗く悪いことがたくさん起こります。問題は、AGIがその独裁者になれるかどうかということです。
AGIが発達すれば、その力ゆえに中央集権化できるのでしょうか？もしかしたら、人間と同じような傾向、スターリンのような中央集権的な傾向、資源の配分を一元的に管理するような傾向があるからでしょうか？
(01:05:45)そして、それは表面的には説得力のある議論として見ることもできます。「AGIはもっと賢く、もっと効率的で、もっと資源配分が上手なんだから、AGIに委託すればいいじゃないか」と。そして最終的には、人間の心を力で堕落させるような力がAGIにも同じことをするかもしれません。
そうなれば、「人間は使い捨てにできる存在だ。数世紀前、たしか1700年代のジョナサン・SWIFTの「控えめな提案」に、アイルランドだったと思いますが、貧しい人々の子どもを金持ちの食料として食べさせることを風刺的に提案しています。なぜなら、貧しい人々の数が減り、貧しい人々に余分な収入が入るからです。もちろん、人命の基本的価値という数学的方程式に当てはめるのが難しい、根本的な部分を見逃しています。
つまり、AGIが今お話になったような権力の集中化そのものになることを懸念しているのでしょうか？
ギョーム・ヴェルドン
(01:07:09) 今現在、AIの中央集権化にはバイアスがかかっていると思います。私は、実際に私が取り組んでいるのは、計算密度を高めることで、計算機があらゆる場所に配置され、情報を取得し、環境に分散して仮説を検証できるようにすることです。
多くのセンサーを融合し、世界を正確に認識し、正確に予測し、多くの変数を予測し、それを制御し、世界に意志を行使しようとする巨大な1つのインテリジェンスを持つことは、基本的に中央集権的なサイバネティック制御だと思います。例えば、ある会社に1万人の従業員がいたとします。そのCEOがAIであったとしても、自分にもたらされるすべての情報を融合させ、システム全体を予測し、その意志を実現するのに苦労すると思います。
(01:08:28)自然界や企業、あらゆる種類のシステムで生まれてきたのは、ある種の階層的なサイバネティック・コントロールという概念です。会社では、個々の貢献者がいて、彼らは利己的で、自分の仕事を達成しようとしています。例えば、あなたがソフトウェア会社にいるとしましょう。
彼らはコードベースを持っていて、日々それを反復しています。そして経営陣がチェックインし、より広い範囲、例えば5つの報告書をチェックします。そして、各人のアップデートを週に1回サンプリングします。それが、システムをコントロールする最適な方法だと思います。
(01:09:25)それが資本主義が私たちに与えてくれるものなのですね。このような階層があり、親会社のようなものさえあります。量子コンピューティングでは、このようなフォールトトレランスの概念があります。量子空気補正とは、ノイズに起因するフォールトを検出し、そのフォールトがシステム内をどのように伝播するかを予測し、それを修正することです。そして、デコーダーは階層化されており、各階層は局所的であることがわかりました。
ギョーム・ヴェルドン
(01:10:00) …階層化されています。各階層がローカルで、圧倒的に性能がよく、耐障害性がはるかに高いのです。というのも、非ローカルなデコーダーがあった場合、この制御ノードに1つ障害が発生すると、システム全体がクラッシュしてしまうからです。
同じように、CEOが一人いて、そのCEOが休暇に入ると、会社全体が止まってしまいます。私としては、AIの中央集権化の傾向は見られますが、時間の経過とともに修正され、インテリジェンスは知覚に近づいていくと考えています。そして、AIはより小さなサブシステムに分割され、互いにコミュニケーションを取りながらメタシステムを形成するようになるでしょう。
レックス・フリードマン
(01:10:56)今日の世界にある階層を見ると、国家があり、それらはすべて階層的です。しかし、互いの関係においては、国家は無秩序です。
ギョーム・ヴェルドン
(01:11:06) ふむふむ。
レックス・フリードマン
(01:11:08) このような世界を予見していますか？中央集権的なサイバネティック・コントロール？
ギョーム・ヴェルドン
(01:11:17) 集中制御。そうですね。
レックス・フリードマン
(01:11:21) それは最適ではないということですか？
ギョーム・ヴェルドン
(01:11:22) そうです。
レックス・フリードマン
(01:11:23) つまり、トップレベルでは常に競争状態ということですか？
ギョーム・ヴェルドン
(01:11:27) ええ。そうです。ちょうど会社で、同じような技術に取り組んでいる2つの部門があり、互いに競争しているようなものです。それは木の淘汰のプロセスであり、製品がダメになれば組織全体がクビになります。新しいことを試し、うまくいかなかった古いものをシェディングするこのプロセスこそが、私たちに順応性をもたらし、最も優れた技術ややるべきことに収束させる助けとなるのです。
レックス・フリードマン
(01:12:04) AGIに特有の故障モードが人間に対してないことを祈ります。
ギョーム・ヴェルドン
(01:12:11) そうですね。
レックス・フリードマン
(01:12:11)私は、AGIが一社に独占されたときに、人間と同じようなことが起こることを期待しています。
ギョーム・ヴェルドン
(01:12:24) これまではそうでした。OpenAIがあります。Anthropicがあります。今はxAIがあります。オープンソースでもMetaがあり、今はMistralがあります。これが資本主義の素晴らしさです。私たちは常にあらゆるレベルでヘッジしているのですから。常に競争があり、システム全体が常に変化し、常に適応していることが、少なくとも私にとって最も美しいことです。
(01:12:54) そのダイナミズムを維持することが、専制政治を避ける方法です。誰もがこれらのツールやモデルにアクセスでき、研究に貢献できるようにすることで、ごく少数の人が世界のAIを支配し、それを使って周囲の人々を抑圧するような神経専制政治を避けることができるのです。
量子機械学習
レックス・フリードマン
(01:13:23) 知性について話しているときに、多部位量子もつれについて触れていましたね。
ギョーム・ヴェルドン
(01:13:28) ふむふむ。
レックス・フリードマン
(01:13:29) まずハイレベルな質問ですが、知性とは何だと思いますか？量子力学的なシステムについて考え、その中で何らかの計算が行われているのを観察するとき、宇宙が行うことができる計算の種類、つまり人間の脳が行うことができる計算の種類の、ほんのわずかな、ほんのわずかな兆候について、何が知性的だと思いますか？
ギョーム・ヴェルドン
(01:13:52)知性と計算はまったく同じものではありません。宇宙は量子的な計算をしていると思います。もし、すべての自由度と、たくさんの量子ビットを持つ、とてもとても大きな量子コンピュータがあれば、宇宙全体をシミュレートすることができるでしょう。少なくとも私にとっての知性とは、サイバネティクスに戻りますが、世界を知覚し、予測し、制御する能力だと思います。
(01:14:46)しかし現在では、私たちが使っている多くの知性は、むしろ圧縮に関するもののように思えます。情報理論を運用することです。情報理論では、分布やシステムのエントロピーという概念があり、エントロピーは、最適なコードがあれば、この分布やサブシステムを符号化するのに、これだけのビットが必要だと教えてくれます。
AIは、少なくとも今日のLLMや量子のやり方では、世界のモデルと世界、世界からの分布の間の相対エントロピーを最小化しようとしています。私たちは学習し、世界を処理するための計算空間を探索し、ノイズとエントロピーの分散をすべて抽出した圧縮表現を見つけようとしているのです。
(01:15:58)もともと私はブラックホールの研究から量子機械学習に入りました。ある意味、ブラックホールは物理的に宇宙で最も密度の高い物体です。ブラックホールほど空間的に高密度に情報を詰め込むことはできません。では、ブラックホールは実際にどのように情報をエンコードしているのでしょうか？その圧縮コードは何なのでしょうか？それでアルゴリズムの世界に入り、量子コードの空間を探索するようになりました。さらに、量子情報をどうやって世界から得るのか？量子アナログ・デジタル変換です。
(01:16:50)どうやってリアルワールドの情報を重ね合わせた状態で取り込み、重ね合わせた状態を壊さずに、量子力学的なコンピュータのためにリアルワールドの情報をデジタル化するのでしょうか？量子情報を捕捉し、その表現表現を学習する能力があれば、潜在的な表現に有用な情報を持つ可能性のある圧縮表現を学習することができます。私たちの文明が直面している問題の多くは、実はこの複雑性の壁を超えていると思います。温室効果は量子力学的効果です。化学は量子力学的です。核物理学は量子力学です。
(01:17:43) 生物学の多くやタンパク質の折り畳みなどは量子力学の影響を受けています。ですから、量子力学的コンピューターや量子力学的AIによって人間の知性を強化する能力を引き出すことは、私たちが開発すべき文明の基本的能力のように思えました。私はそのために数年を費やしましたが、そのうちに核融合のようなタイムラインにうんざりするようになりました。
レックス・フリードマン
(01:18:17) ひとつ高度な質問ですが、定義や説明として、量子コンピューターとは何ですか？
ギョーム・ヴェルドン
(01:18:27) 量子コンピュータとは、量子力学的なシステムであり、量子力学的な状態を維持できるものです。量子力学は、物事が非常に小さいスケールや非常に冷たいスケールで自然がどのように振る舞うかを示すもので、実は確率論よりも基本的なものなのです。
私たちは物事があれかこれかであることには慣れていますが、重ね合わせで考えることには慣れていません。そのため、量子力学の世界を理解するためには、線形代数学に翻訳する必要があります。残念ながら、この変換は平均して指数関数的に効率が悪いのです。非常に大きな行列で物事を表現しなければならないのです。私たちは、中性原子、トラップされたイオン、異なる周波数の超伝導金属光子など、あらゆる種類のプレーヤーを見てきました。
(01:19:38)様々なものから量子コンピュータを作ることができると思います。しかし、私にとって本当に興味深かったのは、量子機械学習は量子コンピュータを使って量子力学的世界を理解することであり、物理世界をAI表現に埋め込むことであり、量子コンピュータ工学はAIアルゴリズムを物理世界に埋め込むことでした。
物理世界をAIに組み込み、AIを物理世界に組み込むという双方向性、物理学とAIの共生が、量子コンピューター以降の今日に至るまで、私の探求の核心となっています。物理学とAIを融合させる旅は、今も続いています。
レックス・フリードマン
(01:20:29) 量子機械学習とは、自然の量子力学的側面に忠実な自然表現で機械学習を行う方法ですか？
ギョーム・ヴェルドン
(01:20:43) ええ、量子力学的な表現を学習することです。それが量子ディープラーニングです。あるいは、量子コンピューター上で古典的な機械学習を行うこともできます。高速化できるかもしれませんが、多くの場合、高速化には莫大なコストがかかります。量子コンピュータを使うのは非常に高価です。
(01:21:08) それはなぜか？コンピュータをゼロ温度で動作させると仮定しているからです。そのために必要なのが、これまで述べてきた量子エラー訂正プロセスです。システムからエントロピーを汲み上げ、ゼロ温度に近づけようとしているのです。
例えば、量子コンピュータでディープラーニングを行う場合、古典的なディープラーニングを行う場合、どれだけのリソースが必要かを計算すると、膨大なオーバーヘッドが発生し、割に合いません。ロケットを使って都市を横断し、軌道を往復して何かを輸送しようと考えるようなものです。意味がありません。配送トラックを使えばいいのです。
レックス・フリードマン
(01:21:53) 量子ディープラーニングを使えば、ディープラーニングでは理解できないようなことを解明したり、予測したり、理解したりできるのでしょうか？量子力学的なシステムを学習プロセスに組み込むということですか？
ギョーム・ヴェルドン
(01:22:05) 素晴らしい質問だと思います。基本的には、古典的な表現では捉えるのが非常に難しい量子力学的相関を十分に持つシステムであれば、どのようなものでもよいのです。そうであれば、純粋な古典的表現よりも量子力学的表現の方が有利なはずです。
問題は、どの系が非常に量子的で十分な相関を持っているかということです。しかし、それはまた、どの系が産業界にまだ関連しているかということでもあります。これは大きな問題です。人々は化学や核物理学に傾いています。私は量子センサーからの入力を実際に処理することに取り組んできました。
量子センサーのネットワークがあれば、世界の量子力学的なイメージをとらえ、それをどのように後処理すれば、量子的な機械知覚が可能になります。例えば、フェルミ研究所では量子センサーを使って暗黒物質の検出を研究しています。私にとっては、子供の頃から宇宙を理解しようと探求してきたことと一致しています。
ですから、いつの日か、宇宙の最も初期の部分を覗き見るのに役立つ、非常に大規模な量子センサーのネットワークができることを願っています。例えば、LIGOは量子センサーです。ただ、非常に大規模なものです。つまり、量子マシンの知覚、シミュレーション、量子シミュレーションの理解、アルファフォールドのようなものです。アルファフォールドはタンパク質の配置の確率分布を理解しました。量子機械学習では、電子の配置に関する量子分布をより効率的に理解することができます。
レックス・フリードマン
(01:23:53) あなたは「A Universal Training Algorithm for Quantum Deep Learning（量子ディープラーニングのための普遍的学習アルゴリズム）」というタイトルの論文を共著していますね。
これはBaqpropをQで表しています。とてもよくできています。どのように機能するのですか？Baqpropや、古典的な機械学習でわかっていることのいくつかが、量子機械学習にどのように移行するのか、興味深い点があれば教えてください。
ギョーム・ヴェルドン
(01:24:19) ええ。あれは面白い論文でした。量子ディープラーニングの最初の論文の1つでした。「ディープラーニングは量子コンピューターで高速化されるだろう」と誰もが言っていました。私は「未来を予測する最善の方法は、それを発明することだ」と思いました。これが100ページの論文です、楽しんでください。基本的に、量子コンピュータは通常、可逆演算を量子計算に組み込みます。
(01:24:47)そこでのトリックは、フィードフォワード演算を行い、いわゆる位相キックを行うことでした。しかし実際には、単なる力によるキックです。最適化したい損失関数に比例した一定の力でシステムを蹴るだけです。そして、アンコンピュテーションを行うことで、パラメーターの重ね合わせから始めます。パラメータは1点だけでなく、多くの潜在的なパラメータを重ね合わせることができます。
私たちの目標は…
レックス・フリードマン
(01:25:24) パラメータを調整するためにフェーズキックを使うのですか？
ギョーム・ヴェルドン
(01:25:28) そうです。フェーズキックは、パラメータ空間が内次元の粒子のようになることをエミュレートします。このフェーズ・キックを誘発するアルゴリズムには、フィードフォワードとキックが含まれます。そして、フィードフォワードの計算を解除すると、このフェーズキックのすべてのエラーと力が伝播し、層全体の各パラメータを直撃します。
(01:26:04) これを運動エネルギーのエミュレーションと交互に行うと、それはまるで端の次元で動く粒子、量子粒子のようです。原理的な利点は、ランドスケープの中をトンネルして、確率的最適化では困難だった新しい最適値を見つけることができることです。しかし繰り返しますが、これは理論上のことであり、少なくとも現在計画されている量子コンピュータのアーキテクチャでは、このようなアルゴリズムの実行には非常にコストがかかります。
量子コンピューター
レックス・フリードマン
(01:26:41)これは、あなたがこれまで足を踏み入れてきたさまざまな分野の違いを尋ねるのにいい場所かもしれません。数学、物理学、工学、そして起業、スタックのさまざまな層。あなたがここで話していることの多くは、少し数学的な側面があると思います。
ギョーム・ヴェルドン
(01:27:03) ふむふむ。
レックス・フリードマン
(01:27:03) 数学、物理学、工学と、量子機械学習のための量子コンピューティングのための製品を作ることの違いは何ですか？
ギョーム・ヴェルドン
(01:27:14) そうです。私たちが学生時代に始めたTensorFlow Quantumプロジェクトのオリジナルチームには、ウォータールー大学の私自身がいました。当初、私は物理学者で応用数学者でした。コンピュータ科学者、機械工学者、そして物理学者もいました。実験が中心でした。非常に学際的なチームを編成し、どのようにコミュニケーションをとり、知識を共有するかを考えることが、学際的なエンジニアリングの仕事をする上で本当に重要なことなのです。
(01:27:51) 大きな違いがあります。数学では、数学のために数学を探究することができます。物理学では、私たちを取り巻く世界を理解するために数学を応用します。工学では、世界をハックしようとします。自分が知っている物理学や世界についての知識を、どのように応用して物事を行うかを見つけようとしているのです。
レックス・フリードマン
(01:28:11)量子コンピューターでは特に、工学には多くの限界があると思います。非常に難しいように思います。
ギョーム・ヴェルドン
(01:28:17) そうですね。
レックス・フリードマン
(01:28:18) つまり、量子コンピューティングや量子機械学習を数学で理論的に探求することには多くの価値があるということです。1つの疑問は、なぜ量子コンピュータを作るのがそんなに難しいのか、ということです。
このようなアイデアを実現するためのスケジュールについてどうお考えですか？
ギョーム・ヴェルドン
(01:28:43) そうですね。私の会社の全体的なテーマとしては、量子コンピューターからの流出があり、量子ではない物理ベースのAIを普及させるということです。それがヒントになるでしょう。
レックス・フリードマン
(01:29:00) あなたの会社の名前はExtropicと言うべきですか？
ギョーム・ヴェルドン
(01:29:03) Extropic、その通りです。私たちは量子力学というより、主に熱力学に基づいた物理ベースのAIを開発しています。しかし、基本的に量子コンピュータを構築するのは非常に困難です。なぜなら、情報のゼロ温度部分空間を誘導しなければならないからです。
その方法は、情報を符号化することで、符号の中に符号を、符号の中に符号を、符号の中に符号を符号化するのです。エラー訂正を行うには多くの冗長性が必要ですが、最終的にはアルゴリズムによる冷蔵庫のようなものです。論理量子ビット」、つまり量子力学的プログラムを実際に実行するためのペイロード量子ビットを表す、仮想的で非局在化されたサブシステムからエントロピーを送り出しているだけなのです。
量子コンピュータをスケールアップするためには、各コンポーネントの品質が十分でなければなりません。というのも、各量子ビットとその制御でエラー訂正（量子エラー訂正プロセス）を行おうとしても、それが不十分であれば、スケールアップする価値がないからです。
エラーの数を増やすことになるからです。量子ビットの制御が十分であれば、スケールアップする価値があるという閾値の概念があります。実際、近年ではその閾値を超える人が出てきており、その価値が出始めています。
(01:30:38)エンジニアリングには非常に長い道のりが必要ですが、最終的に、私たちがこれらのシステムをどれだけ精巧にコントロールできるかは、本当にクレイジーなことです。実にクレイジーです。そして、人々はマイルストーンを達成しています。
ただ、一般的に言って、メディアは常に技術の進歩を先取りしています。誇大広告が多すぎるんです。資金集めにはいいのですが、時には冬の時代を招きます。それが誇大広告のサイクルです。個人的には10年、15年というタイムスケールでは量子コンピューターに強気ですが、その間にできる探求は他にもあると思います。今のところ、量子コンピューターは良い方向に進んでいると思います。
レックス・フリードマン
(01:31:22)では、量子コンピューティングにおける大小様々な美しいアイデアを探らせてください。あなたが共著で「Asymptotically Limitless Quantum Energy Teleportation via Qudit Probes」というタイトルの論文を書いたとき、記憶から飛び出したかもしれません。
興味本位でお聞きしたいのですが、量子ビットとクディットとはどのようなものなのでしょうか？
ギョーム・ヴェルドン
(01:31:45) ええ、D状態の量子ビットです。
レックス・フリードマン
(01:31:49)
(01:31:49) 多次元ですか？
ギョーム・ヴェルドン
(01:31:50) 多次元ですね。量子力学的な整数浮動小数点という概念はあるのでしょうか？それは私が考えなければならないことです。この研究は、後の量子アナログデジタル変換の先駆けだったと思います。修士課程では、空虚な真空のエネルギーとエンタングルメントを理解しようとしていました。虚無にはエネルギーがあります。私たちの宇宙論の方程式は、ゆらぎの中にある量子エネルギーの量についての計算と一致しません。
(01:32:36) 私は真空のエネルギーをハックしようとしていました。技術的にはフリーエネルギーではないのです。揺らぎについての知識がないため、エネルギーを取り出すことができないのです。しかし、株式市場と同じで、長期的に相関のある株式があれば、真空も実は相関があるのです。
ある地点で真空を測定すれば、情報が得られます。その情報を別の地点に伝えると、真空がどのような構成になっているかをある程度正確に推測することができ、統計的に平均して、そこにあるエネルギーを抽出することができます。つまり、あなたは「エネルギーをテレポート」したのです。
(01:33:18)私にとっては、真空より低いエネルギー密度である負のエネルギー密度のポケットを作ることができたので、それは興味深いことでした。真空や時空のキャンバスそのものが、量子もつれでできたキャンバスだという理論もあります。私は、真空のエネルギーを局所的に減少させると量子もつれが増加することを研究していました。
(01:33:58)もしあなたがUAPや何やらに関する奇妙な理論に興味があるなら、UAPが存在すると想像してみてください。どうやって自らを推進するのでしょうか？どうやって光速よりも速く進むのでしょうか？ある種の負のエネルギー密度が必要でしょう。真空のエネルギーをハックして、物理法則が許容する限界に挑戦しました。しかし、そこには様々な注意点があり、明らかに投入した以上のものを取り出すことはできません。
レックス・フリードマン
(01:34:41) しかし、ある場所から情報を抽出し、それに基づいて別の場所についてある種の予測を立てることができるので、エネルギーをテレポートすることが可能だということですか？
ギョーム・ヴェルドン
(01:34:56) ふむふむ。
レックス・フリードマン
(01:34:57) よくわかりませんね。
ギョーム・ヴェルドン
(01:34:58)ええ、物理法則では許されることです。しかし現実には、相関関係は距離とともに減衰します。
レックス・フリードマン
(01:35:06) 確かに。
ギョーム・ヴェルドン
(01:35:06) それで、抽出した場所からそれほど遠くないところで代償を払うことになるんですね。
エイリアン
レックス・フリードマン
(01:35:11) 能力的に精度は落ちますが、それでも。しかし、あなたがUAPSについて話したので、知性について話しました。
聞き忘れましたが、メソスケールで存在する可能性のある他の知性について、あなたはどう思いますか？他の知的エイリアン文明があると思いますか？考えることは有益ですか？どのくらいの頻度で考えるのですか？
ギョーム・ヴェルドン
(01:35:36) 考えるのは有益だと思います。というのも、私たちは反脆弱性を確保し、できるだけ早く能力を高めようとしているからです。というのも、私たちは破壊される可能性があるからです。進化して高度な文明になり、やがて私たちのところにやってくるかもしれない生命体が他の場所に存在することに対して、物理学の法則はありません。彼らが今ここにいると思いますか？わかりません。このトピックについて、多くの人が読んでいることを読みました。
(01:36:14)考察するのは面白いと思いますし、私にとっては、技術開発や能力向上に危機感を植え付け、私たちが破壊されないようにするための有用な思考実験です。私たちを混乱させるのがAIの一種であれ、別の惑星から来た外国の知性であれ。いずれにせよ、私たちの能力を向上させ、人間として手ごわくなることが本当に重要だと思います。
レックス・フリードマン
(01:36:51)しかし、私にとっては、知性をどのように認識するかについての興味深い挑戦であり、思考実験でもあります。これは量子力学システムに関係しています。これは、人間とは異なるあらゆる種類のシステムに関係しています。
私にとっての思考実験とは、宇宙人がここにいる、あるいは直接観測可能である、というものです。ただ、私たちはあまりに盲目で、あまりに自己中心的で、適切なセンサーを持っておらず、センサーデータの適切な処理ができないために、私たちの周りにある明らかな知性を見ることができないだけなのです。
ギョーム・ヴェルドン
(01:37:26)だから私たちは量子センサーに取り組んでいるのです。
量子センサーは重力を感知することができます。
レックス・フリードマン
(01:37:31) ええ。でも、現在知られている物理学の力にはないものが他にもあるかもしれません。
ギョーム・ヴェルドン
(01:37:43) そうですね。
レックス・フリードマン
(01:37:43) 他にもあるかもしれませんね。私にとって最も面白い思考実験は、それが明白な他のものだということです。センサーがないわけではありません。意識はその可能性の一つです。でも、明らかにそこにあるものもあるかもしれません。一旦それを知れば、「ああ、そうか。そうですね。私たちが物理法則から創発されたものだと考えていたものは、実は宇宙の基本的な部分であり、物理学に取り入れることができるのです。最も理解できることです。
”
ギョーム・ヴェルドン
(01:38:18) 統計的に言って、もし私たちが何らかの異星人の生命を観察するとしたら、それはウイルス性の、自己複製する、フォン・ノイマンのような探査システムの可能性が高いでしょう。そして、そのようなシステムが海の底で何をしているのか分かりませんが、もしかしたら海の底から鉱物を集めている可能性もあります。
レックス・フリードマン
(01:38:44) そうです。
ギョーム・ヴェルドン
(01:38:45) でも、それは私の先入観に反することではありません。しかし、これらのシステムがここにあることは確かなのでしょうか？そう断言するのは難しいですね。私はデータがあるという二次情報しか持っていないのですから。
レックス・フリードマン
(01:38:59) 海の底のことですか？そうです。でもミームのようなものかもしれません。思考やアイデアでしょうか？彼らはその媒体で活動しているのでしょうか？宇宙人は私の頭に浮かぶ思考そのものなのでしょうか？アイデアの起源は何ですか？あなたの頭の中で、アイデアが浮かんだら、そのアイデアの起源を教えてください。
ギョーム・ヴェルドン
(01:39:25) 率直に言って、今私が作っているタイプのコンピュータのアイデアを思いついたとき、もう8年前になると思いますが、それは本当に宇宙から送られてきたような感じでした。ベッドの中で、ただ震えながら考え抜いたんです。よくわかりません。でも、私はそれを正当に信じているのでしょうか？そうは思いません。知性という概念も生命という概念も、人間中心主義や生物中心主義ではなく、もっと広い範囲に広げる必要があると思います。
量子重力
レックス・フリードマン
(01:40:04)量子力学についてもう少し詳しく聞きたいのですが、量子コンピュータの探求を通して、解決された、あるいはまだ解決されていない、最もクールで美しいアイデアは何ですか？
ギョーム・ヴェルドン
(01:40:19) AdS/CFTと呼ばれるものを理解する旅だと思います。つまり、少ない次元のホログラムが、実は余分な次元の量子重力のバルク理論と二重である、あるいは正確に対応している、という図式を通して量子重力を理解する旅です。
(01:40:59)少なくとも、いつか私のバケットリストにある旅の一部は、この種の系、CFT、あるいはSYKモデルと呼ばれるものに量子機械学習を適用し、境界理論から創発的な幾何学を学ぶことです。そうすれば、量子重力を理解するための機械学習が可能になります。
レックス・フリードマン
(01:41:35) ブラックホールでは何が起こっていると思いますか？情報を保存し、処理する単位として、ブラックホールはどうなっていると思いますか？
ギョーム・ヴェルドン
(01:41:46) ブラックホールは実に魅力的な天体です。ブラックホールは量子力学と重力の狭間にあるため、さまざまなアイデアを検証するのに役立ちます。もう何十年も前から、ブラックホールに落ちたものは情報を失ってしまうという情報パラドックスがあると思います。
近年、私の元同僚で現在はバークレー校の教授である人物が、このファイアウォールのパラドックスを解決したと主張しています。それは、情報がブラックホールに落ちると、堆積が起こるというものです。外側の観測者から見て地平線に近づくにつれて、物体は無限に減速していきます。
(01:42:46)私たちから見てブラックホールに落下しているものはすべて、沈殿して地平線の近くにくっつきます。ある時点で、ブラックホールは地平線に近づき、量子効果や量子ゆらぎが問題になるような規模になります。そこで、はびこる物質が従来の絵に干渉し、真空中の粒子と反粒子の生成と消滅に干渉する可能性があります。
この干渉によって、粒子の1つがインフォール情報と絡み合い、そのうちの1つが自由になって逃げ出すのです。そうやって、出て行く放射線と降り注ぐ物質の間に相互情報が存在するのです。しかし、この計算を正しく行うには、まだピースをまとめ始めたばかりだと思います。
レックス・フリードマン
(01:43:43) いくつかポットヘッド的な質問があるのですが。
ギョーム・ヴェルドン
(01:43:46)もちろんです。
レックス・フリードマン
(01:43:46) 一つは、銀河系の中心に巨大なブラックホールがあることを怖いと思いますか？
ギョーム・ヴェルドン
(01:43:52) わからないですね。ただ、その近くに店を構えて、早送りして、未来の文明と出会いたいんです。もし、私たちの寿命が限られているのなら、ブラックホールの軌道を周回して、出てくることができたら。
レックス・フリードマン
(01:44:08)もしブラックホールに行けるような特別なミッションがあったら、あなたは自ら進んで旅に出ますか？
ギョーム・ヴェルドン
(01:44:13) 軌道を回って、明らかにブラックホールに落ちないようにすること。
レックス・フリードマン
(01:44:15) それは明らかです。ブラックホール内部ですべてが破壊されるのは明らかでしょう？ギヨームを構成するすべての情報が破壊されるのですか？もしかしたら、反対側ではベフ・ジェゾスが現れて、何か深いミーム的な方法ですべてが結びついているのかもしれませんね。
ギヨーム・ヴェルドン
(01:44:32) ええ、いい質問ですね。ブラックホールとは何なのか。私たちは時空に穴を開けてポケット宇宙を作っているのでしょうか？可能性はあります。ということは、カルダシェフ・スケールをIII型以上まで上昇させれば、特定のハイパーパラメーターを持つブラックホールを設計して、私たちが作る新しい宇宙に情報を伝達することができるということです。そうすれば、私たちは新しい宇宙の子孫を作ることができるのです。
ギョーム・ヴェルドン
(01:45:00) … 新しい宇宙の子孫を持つことができるのです。ですから、私たちの宇宙が熱による死を迎えても、子孫を残す方法があるかもしれません。ですから、まだわかりません。このような疑問に答えるためには、カルダシェフ・スケールを上昇させ、高エネルギー物理学の領域を覗き見る必要があります。
カルダシェフ・スケール
レックス・フリードマン
(01:45:25)カルダシェフ・スケールについて、ご存知ない方のためにお話しいただけますか？e/acc運動のミームのような原理や目標のひとつは、カルダシェフ・スケールを上昇させることです。
カルダシェフ・スケールとは何ですか？
ギョーム・ヴェルドン
(01:45:43) カルダシェフ・スケールとは、私たちのエネルギー生産と消費の尺度です。対数スケールです。カルダシェフ1型は、太陽から地球に入射するすべてのエネルギーと同等のワット数を生産しているマイルストーンです。カルダシェフII型は、太陽が出力するすべてのエネルギーを利用するものです。そしてタイプIIIは、銀河系全体と同等のエネルギーです。
レックス・フリードマン
(01:46:13) 銀河ですね。
ギョーム・ヴェルドン
(01:46:15)ええ、それから、クレイジーなタイプIVやVを持っている人もいます。私にとっては、熱力学の第一原理から、やはり熱力学的な散逸適応という概念があるように思えます。生命が地球上で進化したのは、太陽からのエネルギー的な原動力があり、付随的なエネルギーがあるからです。
この原理は、地球と太陽のシステムに限ったことではありません。この原理は、地球と太陽のシステムに限ったことではありません。なぜなら、それが私たちをここまで連れてきたプロセスだからです。ですから、この先、私たちに何が待ち受けているのかさえわかりません。それは、私たちが今想像すらできないような美しいものなのかもしれません。
効果的加速主義（e/acc）
レックス・フリードマン
(01:47:18)e/acc運動について、Substackのブログ記事「What the Fuck is e/acc？」戦略的に言えば、私たちはいくつかの包括的な文明の目標に向かって取り組む必要があります。その4つの目標とは、私たちが種として利用できるエネルギーの量を増やすこと（カルダシェフ勾配を登ること）です。
短期的には、これはほぼ間違いなく核分裂を意味します。人口増加政策と経済成長政策によって人類の繁栄を促進すること。人類史上最大の戦力となる人工知能の開発。そして最後に、人類が地球を越えて広がることができるよう、惑星間輸送と恒星間輸送を開発すること。
その上で、あなたにとってe/acc運動とは何ですか？目標は何ですか？その原則は何ですか？
ギョーム・ヴェルドン
(01:48:20) 目標は、人間のテクノキャピタルのミメティック・マシンが自覚的になり、自らの成長を誇大に設計することです。では、それを分解してみましょう。
レックス・フリードマン
(01:48:33) それぞれの言葉を定義してください。
ギョーム・ヴェルドン
(01:48:35)つまり、人間、テクノロジー、資本、そしてミーム、情報、これらすべてのシステムは互いに結合しているのです。人間は企業で働き、資本を獲得して配分し、ミームや情報の伝播を通じてコミュニケーションをとります。
私たちの目標は、システムがどのように機能し、根本的に成長しようとしているのかを認識し、システムが自らの成長のために適応しようとする自然な傾向に単純に寄り添おうとする、ある種のバイラルな楽観的ムーブメントを起こすことです。
レックス・フリードマン
(01:49:18)そういう意味では、あなたの言う通り、e/accは文字通り、常に漂流し、変異し、分散化しながら伝播していく、記憶的楽観主義ウイルスなのですね。つまり、記憶的楽観主義ウイルス。ですから、あなたはe/accをウイルスとして最大限に拡散させたいと考えているのでしょう。
ギョーム・ヴェルドン
(01:49:43)私たちはe/accをメタ・ヒューリスティックな、非常に薄い文化的枠組みのようなものと考えています。基本的には、熱力学に基づくシステム全体の適応が私たちをここに導いたのであり、そのプロセスは良いものであり、私たちはそれを続けるべきだということです。
それが核となるテーゼです。それ以外のことは、この可鍛性と適応性を維持するためにはどうすればいいかということです。変種を抑圧することなく、言論の自由、思想の自由、情報伝播の自由、AI研究の自由を維持することは、この成長をもたらす技術やアイデアなどを最速で収束させるために重要です。
そして最終的には、かなりの数の分岐がありました。単なるミームもあれば、もっと深刻なものもあります。Vitalik Buterinは最近d/accフォークを作りました。彼はe/accを自分なりに微調整しています。
レックス・フリードマン
(01:50:59) Vitalikのそのフォークのユニークな特徴について、何か記憶に残っていることはありますか？
ギョーム・ヴェルドン
(01:51:05) e/accとEAとEIの安全性の中間点を見つけようとしていると言えるでしょう。私にとって、シリコンバレーを支配していた主流の物語と反対の動きをすることは、意見のダイナミックレンジをシフトさせるために重要でした。
中央集権化と分散化のバランスのようなもので、本当の最適は常に中間にあります。しかしe/accでは、保守的であること、思想を抑制すること、言論を抑制すること、制約を加えること、規制を増やしすぎること、物事を遅くすることよりも、エントロピー、新奇性、破壊性、可鍛性、スピードを追求しています。それで、私たちは力のバランスを取ろうとしているのです。
レックス・フリードマン
(01:52:00) 人類文明の力にバランスを。
ギヨーム・ヴェルドン
(01:52:02) それは文字通り、私たちを探求させるエントロピックの力に対する制約の力です。システムが最適なのは、秩序とカオスの間、制約、エネルギー最小化、エントロピーの間の臨界点にあるときです。システムは、この2つのバランスを保ちたいのです。私はそのバランスが欠けていると考え、バランスを取るためにこの運動を起こしました。
レックス・フリードマン
(01:52:31)なるほど、フォークを通してアイデアが進化していく風景というビジュアルはいいですね。マルクス主義が元祖で、ソビエト共産主義がその分かれ道で、毛沢東主義がマルクス主義と共産主義の分かれ道です。そして毛沢東主義はマルクス主義と共産主義の分岐点です。異なるアイデアを探求しているのです。
ギョーム・ヴェルドン
(01:53:02) 文化をほとんどコードのように考えています。
現在では、LLMやLLMの定款に記載されていることは、基本的にそのLLMの文化的枠組みであり、そのLLMが信じていることです。今ではGitHubでそれを共有することができます。ですから、ソフトウェアという機械でうまくいったことからヒントを得て、コードの空間上で適応させようとするのです。
私たちのゴールは、「あなたはこう生きるべきだ、X、Y、Z」と言うことではなく、人々が常にサブカルチャーを探し求め、マインドシェアを競い合うようなプロセスを設定することです。文化の可鍛性を生み出すことは、現代にアップデートされた文化や生き方の指針に収斂していくために、とても重要なことだと思います。
(01:53:59)スピリチュアリティと文化の空白のようなものがあるからです。人々は自分がどのグループにも属していないと感じ、この心のシャーレに寄生するイデオロギーが生まれたのです。イーロンはそれをマインド・ウイルスと呼んでいます。
私たちはそれを「ディセル・マインド・ウイルス・コンプレックス」と呼んでいます。そのほかにもさまざまな種類があります。ウイルス性の悲観主義、減速運動があるとすれば、1つの運動だけでなく、多くの亜種が必要で、それを特定し、止めるのは非常に難しいのです。
レックス・フリードマン
(01:54:45) しかし、包括的なことは、それにもかかわらず、一種の模倣的楽観主義の大流行です。
e/accはある程度カルト的だと思いますか？
ギョーム・ヴェルドン
(01:55:01) カルトの定義は？
レックス・フリードマン
(01:55:03)人間の進歩の多くは、独立した思想があり、自由に考えることのできる個人がいるときになされると思います。そして、非常に強力な模倣システムは、ある種、集団思考につながります。人間の本質には、集団催眠や集団ヒステリーにつながる何かがあります。私たちの心をとらえるセクシーなアイデアがあると、私たちは同じように考え始めます。だから、私たちをバラバラにしたり、引き離したり、考えを多様化させたりするのは実は難しい。
では、どの程度までが「E/acc、E/acc」と動物農場の羊のように唱えているのでしょうか？
ギョーム・ヴェルドン
(01:55:46) まあ、まず第一に、楽しいです。「反抗的だし。本気かどうかわからない」という境界線上にある、メタ皮肉というコンセプトがあります。そして、もっと遊び心があって、もっと楽しい。例えば、私たちは熱力学が私たちの神であると話していますし、カルト的なことをすることもありますが、儀式やローブなどはありません。
レックス・フリードマン
(01:56:19) まだです。
ギョーム・ヴェルドン
(01:56:19) まだです。でも結局のところ、人間は自分がグループの一員であると感じたいので、自然と隣人と同意し、共通の基盤を見つけようとするのだと思います。そしてそれは、アイデアの空間におけるある種のモード崩壊につながります。
かつて私たちは、一つの文化的な島を持っていました。それは典型的な思考の亜空間であり、その亜空間から逸脱するものは抑圧されるか、あるいは排除されました。今、私たちは新しいモードを作りましたが、要は、非常に制限された思考空間を持とうとしているわけではないということです。e/accについて考える方法は1つだけではありませんし、その分岐点はたくさんあります。そしてポイントは、多くの分かれ道があり、多くのクラスターや多くの島があり得るということです。
(01:57:07)そして私はそれをコントロールすべきではありません。つまり、正式な組織なんて何もないんです。私はただツイートや特定のブログ記事を発信するだけで、人々は気に入らない点があれば自由に亡命したりフォークしたりすることができます。
そうすることで、アイデアの空間が非領域化され、カルト的な1つの集団にならないようにすることができるんです。カルトは通常、人々が亡命したり、競合するフォークを始めたりすることを許さないのですが、私たちはそれを奨励しています。
ユーモアとミーム
レックス・フリードマン
(01:57:51)ミームにおけるユーモアの長所と短所、ある意味ではミームには知恵のようなものがあります。マジックシアター？何の本ですか？ヘルマン・ヘッセ。ステッペンウルフかな。でも、不条理を受け入れることで、物事の真実にたどり着けるようなところがありますが、同時に、言説の質や厳密さを低下させることもあります。
ギョーム・ヴェルドン
(01:58:22) そうですね。
レックス・フリードマン
(01:58:23) その緊張感を感じますか？
ギョーム・ヴェルドン
(01:58:25) ええ。当初、私たちが目立たないように成長できたのは、それがある種のメタ皮肉としてカモフラージュされていたからだと思います。私たちは、ユーモアやミーム、いわゆるクソ投稿のパッケージの中に、深い真実を忍び込ませていたのです。
しかしもちろん、本質的に人々は誘導されます。彼らの真実に対する考え方は、彼らが目にするデータ、彼らが与えられる情報、そして人々が与えられる情報はアルゴリズムによって決定されます。そして、私たちが行ってきたのは、効果的に拡散し、メッセージを伝えることができるように、高い記憶適性と呼ばれる情報パケットを工学的に設計することです。
(01:59:47)つまり、メッセージを広めるためのベクトルのようなものです。私たちは、アルゴリズムによって増幅された今日の情報ランドスケープに最適なテクニックを使ってきました。しかし、私たちは真剣な議論や真剣な対話ができるような規模のところまで来ていると思います。
だからこそ、私たちは多くのディベートを行い、より真剣な長文の考察を行うことを検討しているのです。というのも、非常に真剣で思慮深い議論には、タイムラインは最適ではないと思うからです。極論が報われないからです。ですから、私たちが文字通りテック・エコシステムを分極化させようとする運動を始めたとしても、結局のところ、私たちが会話をして最適なものを一緒に見つけることができるのです。
ジェフ・ベゾス
レックス・フリードマン
(02:00:42)つまり、このポッドキャストで私がやろうとしていることは、このような状況を踏まえてもなお、長文の会話をすることなのです。しかし、不条理を完全に受け入れる度量があります。実際、この会話は何重にも不条理です。まず最初に、ごく最近ジェフ・ベゾスと対談したことをお伝えしておきますが、あなたの、ベフ・ジェゾスの、ジェフ・ベゾスに対する意見をぜひお聞かせください。銀河系のジェフ・ベゾスといえば。
あなたの名前がインスピレーションを与えたその特別な人物をどう思いますか？
ギョーム・ヴェルドン
(02:01:25) ええ、ジェフは本当に偉大だと思います。つまり、彼は史上最も壮大な企業の1つを築き上げました。彼はテクノキャピタルマシンとテクノキャピタルアクセラレーションを活用して、私たちが望むものを提供してくれました。
私たちが求めていたのは、迅速な配達、とても便利で、アットホーム、低価格。彼はマシンがどのように機能し、それをどのように活用するかを理解していました。例えば、会社を経営する際、あまり早く利益を得ようとせず、その利益を元に戻し、システムを複合化させ、改善し続けるのです。そして間違いなく、アマゾンは最も多くの資本とロボット工学を投資し、AWSの誕生によって、今日の技術ブームを実現しました。彼は偉大な起業家の一人であり、紛れもなく史上最高の起業家の一人です。
レックス・フリードマン
(02:02:32) そしてもちろん、Blue Originでの仕事は、SpaceXでの仕事と同様に、人類を多惑星種にしようとしています。
あるいは、別のタイムスケールにおける資本主義的機械なのでしょうか？
ギョーム・ヴェルドン
(02:02:47) ええ、企業は四半期ごとに最適化する傾向があり、数年先かもしれませんが、遺産を残したい個人は数十年、数百年のタイムスケールで考えることができます。イーロンはスペースXで、火星到達のためにすべての資本を投入しています。ジェフはブルー・オリジンを作ろうとしていますし、彼はオニールシリンダーを作り、産業を地球外に移したいと考えていると思います。
(02:03:33)全体として、私は4人の億万長者だと思います。これは時に物議を醸す発言だと思いますが、ある意味、利害投票の証明のようなものだと思います。資本を効率的に配分していれば、より多くの資本を配分することができます。
政治家が、納税者の資本を最も効率的に配分した実績があるからではなく、テレビで最もうまく話すから当選するのとは対照的です。ですから、私は資本主義に賛成なのです。例えば、私たちのお金をすべて政府に渡して、その配分を考えさせるよりもね。
レックス・フリードマン
(02:04:20)なぜ億万長者を批判するのが流行っているのだと思いますか？億万長者の話が出ましたが富を持つ人々、特にジェフやイーロン、マーク・ザッカーバーグのような世間の注目を浴びている人々に対する批判が広まっているのはなぜだと思いますか？ビル・ゲイツ
ギョーム・ヴェルドン
(02:04:44)ええ、多くの人は、技術資本マシンの仕組みを理解しようとしたり、自分が思っているよりずっと多くの主体性を持っていることに気づいたりする代わりに、このような被害者マインドを持ちたがると思います。「私はこの機械に支配されているだけ。それは私を抑圧しています。成功しているプレーヤーは明らかに悪に違いない、なぜなら彼らは私が成功していないこのゲームで成功しているのだから」。
しかし、私はそのような考え方をしていた人たちを、テクノ・キャピタル・マシンがどのように機能するのか、そしてそれをどのように活用すれば自分のためになり、また他人のためになるのかを理解させることに成功しました。そして、価値を創造することで、自分が創造した価値の一部を世の中に還元することができるのです。
このようなポジティブ・サム・マインドセットの転換は非常に強力で、私たちがe/accの規模を拡大することで実現しようとしているのは、より高いレベルの主体性を引き出すことなのです。実際、あなたは自分が思っているよりもずっと未来をコントロールできるのです。あなたには世界を変える主体性があります。これがその許可です。
レックス・フリードマン
(02:05:46) 一人ひとりに主体性があります。「建物を建て続ける」という標語をよく耳にします。それはあなたにとってどういう意味ですか、またダイエットコークとどういう関係があるのですか？ところで、レッドブルをありがとうございました。かなり効いています。とてもいい気分です。
ギョーム・ヴェルドン
(02:06:03) すごい。テクノロジーである必要はなく、一般的にビルを建てるということは、主体性を持つということであり、広い意味での技術資本マシンの中で機能を達成する自立した有機体である会社を作ることによって世界を変えようとすることです。私たちにとっては、政治家に圧力をかけたり、非営利団体を設立したりするよりも、それこそがあなたが望む世界の変化を実現する方法なのです。
NPOは資金が尽きてしまえば、その機能を果たすことができなくなってしまいます。市場を転覆させたり、市場に働きかけたり、市場と踊ったりして、この機能は重要で、付加価値があり、ここにあるのだと市場に納得させることに比べれば、市場を人為的に変形させるようなものです。
これが、脱成長、ESGアプローチと、例えばイーロンとの違いだと思います。脱成長のアプローチは、「私たちは気候危機から抜け出す方法を管理します」という感じです。そしてイーロンは、「自立し、利益を上げ、成長する会社を作り、このジレンマから抜け出す方法を革新する」と言うのです。そして私たちは、あらゆる規模において、人々に前者ではなく後者を実行させようとしているのです。
イーロン・マスク
レックス・フリードマン
(02:07:26) イーロンは興味深いケースです。あなたはイーロンの支持者であり、イーロンを称賛していますが、彼は長い間、人工知能の危険性、潜在的な危険性、実存的なリスクについて警告してきた人物でもあります。
この2つをどう折り合いをつけますか？矛盾していますか？
ギョーム・ヴェルドン
(02:07:45)彼は多くの面で規制に大反対なので、多少はそう思います。しかしAIに関しては、彼は間違いなく規制の支持者です。彼は全体的に、例えばOpenAIが市場を追い詰め、LLMに埋め込むことができる文化的なプリオールを独占することになり、LLMが人々の真実の源となることで、人々の文化を形作ることができるようになる危険性を感じていたのだと思います。
つまり、LLMを支配することで人々をコントロールできるのです。ソーシャルメディアがそうであったように、情報伝播の機能を形成すれば、人々の意見を形成することができると。彼は競争相手を作ろうとしたのです。
ですから、少なくとも、さまざまなAIプレイヤーの間で敵対的な均衡を保つことが良い未来への道だという点では、私たちは非常に一致していると思います。今後どのようにAIを進化させていくのか、彼の考えを理解するためにぜひ彼と話をしたいですね。
というのも、彼はニューラルリンクに賭けているのです。もし彼がAIの進歩を止められないのであれば、融合するための技術を構築しているのだと思います。言葉だけでなく、行動を見てください。
レックス・フリードマン
(02:09:10)まあ、心配することはある程度は…人間心理を利用すれば、身の回りの脅威を心配することが動機になるのかもしれません。それは励みになります。締め切りがある方が、ずっとうまくいくんです。締め切りの恐怖。締め切りに間に合わなかったら、本当に恐ろしいことが起こるのではないかというような不安を自分の中に作り出したいのです。
人間と協調するAIを作ることは、多くの潜在的な利益をもたらします。ですから、別の言い方をすれば、「そうしなければ、私たち全員が死んでしまう」ということです。これは、人間と協調するAIを作るという目標に対する、非常に強力な心理的定式化のように思えます。
ギョーム・ヴェルドン
(02:09:59) その不安はいいことだと思います。私が言ったように、私は自由市場が信頼できるアライメントされたAIを作ることを望んでいます。ですから、私は大賛成です。私が反対しているのは、例えば大統領令の中で、オープンソースのLMはデュアルユース技術であり、政府が管理すべきだと主張することによって、オープンソースのエコシステムの繁栄を止めることです。
そうなると、誰もがGPUや大きなマトリックスを政府に登録しなければならなくなります。このような余計な摩擦があると、多くのハッカーが貢献しようとしなくなると思います。ハッカーは、AIの安全性の発見など、私たちを前進させる重要な発見をする研究者になる可能性があります。
ですから私は、AIに貢献し、未来の一部を自分のものにする機会を普遍的に維持したいと思うのです。一部のプレーヤーだけがゲームに参加できるような、壁の向こう側で法制化されたものであってはならないのです。
レックス・フリードマン
(02:11:08) e/acc運動はしばしば、何が何でも進歩し、革新するという意味に風刺されます。それがどんなに安全でなくても、大きな損害を引き起こしても関係ありません。クールなものを可能な限り速く作り、ダイエットコーラを飲みながら徹夜し、それがどんなことであっても。
そこに質問があるかどうかわかりませんが、あなたにとって、またあなたがe/accのさまざまな処方を見てきた中で、AIの安全性はどの程度重要ですか？
ギョーム・ヴェルドン
(02:11:44)繰り返しになりますが、もし誰もそれに取り組んでいなかったら、私はそれを推進すると思います。繰り返しになりますが、私たちの目標はバランスを取ることであり、明らかに危機感は進歩を遂げるための有用なツールです。
私たちのドーパミン系をハックし、夜遅くまで働くエネルギーを与えてくれます。また、自分が貢献する崇高な目的を持つことも重要だと思います。一日の終わりに、自分は何に貢献しているのか？この美しいマシンが成長し、私たちが星を目指すことができるように。それは本当に感動的なことです。これも一種のニューロ・ハックですね。
レックス・フリードマン
(02:12:26)つまり、あなたはAIの安全性が重要だと言っているわけですが、今あなたが見ているアイデアの状況は、トピックとしてのAIの安全性は中央集権的なコントロールを得るために使われることが多いということです。
その意味で、あなたは中央集権的なコントロールを得るための代理として、それに抵抗しているのですね？
ギョーム・ヴェルドン
(02:12:43)ええ、ただ気をつけなければいけないと思います。安全性は権力の中央集権化と最終的な腐敗を隠蔽するための完璧な隠れ蓑ですから。今は腐敗しているとは言いませんが、将来的にはそうなるかもしれません。
そして本当に、もしこの議論を実行に移せば、いくら中央集権化しても安全を確保することはできないでしょう。99.9999%の安全というPの安全が得られる999は常にあります。もう9つ欲しいのでは？「ああ、あなたの行動すべてにフルアクセスさせてください。
「完全な監視を」率直に言って、AIの安全性を支持する人たちは、グローバルなパノプティコンを提案しました。私にとっては、それは1984年のようなビッグブラザーのシナリオへの扉を大きく開くだけです。そして、それは私が住みたい未来ではありません。
レックス・フリードマン
(02:13:49) 歴史上、それが良い結果に結びつかなかった例がいくつかありますからね。
Extropic
ギョーム・ヴェルドン
(02:13:54) そうですね。
レックス・フリードマン
(02:13:56)あなたは最近1410万ドルのシードラウンドを発表したExtropicという会社を設立したと言いましたね。
その会社の目標は何ですか？あなたは興味深い物理学のことをたくさん話していますが、そこであなたは何をしようとしているのですか？
ギョーム・ヴェルドン
(02:14:12)ええ、当初は先週発表するつもりはなかったのですが、Doxingと情報公開で、私たちは手を下さざるを得なかったのだと思います。だから、私たちがやっていることを大まかに公開しなければなりませんでした。しかし、Extropicは、量子コンピューティングのロードマップに対する私や同僚たちの不満から生まれました。
量子コンピューティングは、物理ベースのコンピューティングへの最初の道筋のようなもので、商業的にスケールしようとしていました。量子力学が効果を発揮できる原始的な環境を維持するためには、システムから常にノイズを除去しなければなりません。その制約が大きすぎたのです。そのためにはコストがかかりすぎるのです。
(02:15:11)そこで私たちは考えました。ジェネレーティブAIが世界を蝕みつつあり、世界の計算負荷がますますジェネレーティブAIに集中している今、物理学、情報理論、計算、そして究極的には熱力学の第一原理から、物理学を使ってジェネレーティブAIのための究極の物理的基盤を設計することはできないか？そこで私たちが構築しようとしているのは、物理ベースのコンピューティング・システムと物理ベースのAIアルゴリズムであり、平衡状態外の熱力学にインスパイアされたものです。
レックス・フリードマン
(02:16:01) 物理プロセスとしての機械学習とはどういう意味ですか？それはハードウェアですか？ソフトウェアですか？両方ですか？ある種のユニークな方法でフルスタックを行おうとしているのでしょうか？
ギョーム・ヴェルドン
(02:16:10) はい、フルスタックです。私たちは、TensorFlow Quantumで量子コンピューティングのエコシステムに微分可能なプログラミングを組み込んだ仲間です。TensorFlow Quantumの共同設立者の1人がCTOのトレバー・マコートです。
私たちには、IBMやAWSのシステムを設計した、最高の量子コンピューターアーキテクトがいます。彼らは量子コンピューターを離れ、私たちが実際に熱力学的コンピューターと呼んでいるものを構築する手助けをしてくれています。
レックス・フリードマン
(02:16:43) 熱力学的コンピュータ。では、TensorFlow Quantumの話をしましょう。
TensorFlow Quantumからどのような教訓を得ましたか？量子コンピュータへのソフトウェアAPIのようなものを本質的に作るには何が必要なのか、お話しいただけますか？
ギョーム・ヴェルドン
(02:17:01) そうですね。それは、発明し、構築し、そして実際のデバイス上で動作させるという挑戦でした。
レックス・フリードマン
(02:17:09) 実際にどのようなものか話していただけますか？
ギョーム・ヴェルドン
(02:17:11) ええ。TensorFlow Quantumは、深層学習や微分可能な古典的プログラミングを量子コンピューティングと組み合わせることで、量子コンピューティングを微分可能なプログラムに変える、あるいは量子コンピューティングで微分可能なプログラムの種類を持つという試みでした。
アンドレイ・カルパシーは微分可能なプログラミングをソフトウェア2.0と呼んでいます。勾配降下法はあなたよりも優れたプログラマーです。量子コンピューティングの初期には、短い量子プログラムしか実行できません。では、どの量子プログラムを実行すればいいのでしょうか？
それなら、勾配降下法にそのプログラムを見つけさせればいいのです。そこで私たちは、微分可能な量子プログラムを実行するだけでなく、より広範なディープラーニングのグラフの一部として、皆さんがご存知のディープニューラルネットワークと量子ニューラルネットワークを組み合わせるための最初のインフラを構築しました。
(02:18:21)そして最終的には、非常に学際的な取り組みでした。私たちは、ハイブリッド・グラフを逆伝播するための、さまざまな方法を考案しなければなりませんでした。しかし最終的には、物質をプログラムし、物理学をプログラムする方法は、制御パラメータを通して微分することだということを教えてくれました。
システムの物理学に影響を与えるパラメータがあり、何らかの損失関数を評価することができれば、タスクが何であれ、そのタスクを達成するためにシステムを最適化することができます。これは、物理ベースのコンピュータをプログラムする方法として、非常に普遍的なメタフレームワークなのです。
レックス・フリードマン
(02:19:05) では、すべてをパラメータ化して、そのパラメータを微分可能にして、最適化するということですか？
ギョーム・ヴェルドン
(02:19:12) そうです。
レックス・フリードマン
(02:19:13)なるほど。TensorFlow Quantumからもっと実践的な工学的教訓はありますか？例えば、関係する人間や製品にたどり着く方法、良いドキュメントの作成方法などです。わかりません。このような、人々が考えないような小さな微妙なことのすべてです。
ギョーム・ヴェルドン
(02:19:34)分野の垣根を越えて仕事をすることは常に挑戦であり、互いに教え合うことに非常に忍耐強くなければならないと思います。私はその過程でソフトウェア工学をたくさん学びました。
同僚たちは量子物理学をたくさん学びましたし、このシステムを構築する過程で機械学習を学んだ人もいます。そして、情熱的でお互いを信頼し合える賢い人たちが部屋にいて、小さなチームがあれば……。
ギョーム・ヴェルドン
(02:20:00)情熱的で信頼し合える人たちが部屋にいて、小さなチームになって、お互いの専門分野を教え合えば、突然、専門知識のモデルスープみたいなものができて、そこから何か特別なものが生まれるでしょう？遺伝子の組み合わせのようなものですが、知識ベースから特別な製品が生まれることもあります。
だから、学際的なチームで仕事をするのは、最初はとても摩擦が大きいけれど、最終的に得られる成果にはそれだけの価値があると思います。そのギャップを埋めるために多くのことを学びました。そして、それは今でも課題となっています。私たちは、AIのバックグラウンドを持つ人や純粋な物理学のバックグラウンドを持つ人を雇います。
レックス・フリードマン
(02:20:47)採用プロセスや、一緒に魔法を作れるようなチーム作りに、科学や芸術はあるのでしょうか？
ギョーム・ヴェルドン
(02:20:56)そうですね。
レックス・フリードマン
(02:21:03) あなたがフランス語を話せるとは知りませんでした。とても素敵ですね。
ギョーム・ヴェルドン
(02:21:07) ええ、実はフランス系カナダ人なんです。
レックス・フリードマン
(02:21:09) ああ、正真正銘のフランス系カナダ人なんですね。
ギョーム・ヴェルドン
(02:21:09) そうです。
レックス・フリードマン
(02:21:11)信用を得るためにやっているのかと思いましたよ。
ギョーム・ヴェルドン
(02:21:15) いいえ、違います。私はモントリオール出身のフランス系カナダ人です。でも、基本的に私たちは、専門に特化しすぎず、流動的な知性の高い人材を探しています。見たこともないような概念を取り入れ、すぐにそれに慣れ、チームで働くことを学ばなければならないからです。
ですから、私たちが採用の際に求めているのはそういうことなのです。過去3,4年間、このサブシステムを最適化してきただけの人材は採用できません。ゼロから新しいアプローチを開拓するのであれば、教科書も参考文献もありません。私たちと、学ぶことに貪欲な人たちだけです。
ですから、お互いに教え合い、文献を学び、知識ベースを共有し、知識の境界をさらに押し広げるために協力し合う必要があるのです。だから、この段階で何をすべきかを規定されることに慣れている人は、パイオニアの段階では、必ずしも雇いたい人ではないのです。そうですね。
シンギュラリティとAGI
レックス・フリードマン
(02:22:31)あなたはExtropicで、生成AIのための物理的基盤を構築しようとしていると言いましたね。
それとAGI AIそのものとの違いは何ですか？つまり、御社のホールでAGIが作られる可能性はあるのでしょうか？それとも、AGIはこれを基板として利用するだけなのでしょうか？
ギョーム・ヴェルドン
(02:22:51) 私たちの目標は、人間のようなAI、あるいは擬人化されたAIを動かすことだと思います。
レックス・フリードマン
(02:22:58) AGIという言葉を使ってすみません。あなたにとって刺激的な言葉であることは承知しています。
ギョーム・ヴェルドン
(02:23:02) 私たちは、将来は物理ベースのAIと擬人化AIが組み合わさったものになると考えています。つまり、物理ベースのAIを通じて、ある種の世界モデリングエンジンを持っていると想像してください。物理ベースのAIは、量子力学的、熱力学的、決定論的、ハイブリッドな世界の表現が可能なので、あらゆるスケールの世界を表現するのに適しています。
自然を表現する方法を学ぶ際に、そこからインスピレーションを得れば、より正確な自然を表現することができます。つまり、あらゆるスケールで非常に正確な世界モデルを持つことができるのです。そして、世界モデリングエンジンがあり、人間のような擬人化AIがあるわけです。
つまり、あなたのアイデアをテストするための遊び場である科学と、合成科学者を手に入れることができるのです。物理ベースのAIと擬人化AIの共同システムは、私たちにとって、完全に一般的な人工知能システムに最も近いものです。
レックス・フリードマン
(02:24:07)つまり、AIを物理学に基づかせることで真理に近づくことができますが、他の人間や人間のようなシステムと話すのが好きな私たち人間に対して、擬人化されたインターフェースを持つこともできるのです。つまり、現在の大規模言語モデルの大きな限界の1つは、デタラメが上手で、必ずしも真実に根ざしていないということでしょう。そう言ってもいいでしょうか？
ギョーム・ヴェルドン
(02:24:40)そうですね。インターネット上のテキストで学習したLMで株式市場を推定しようとはしないでしょう。あまり正確なモデルにはならないでしょう。世界に関するプリオールや不確実性をあまり正確にモデル化できないからです。ですから、このテキスト外挿AIを補完する別のタイプのAIが必要なのです。そうですね。
レックス・フリードマン
(02:25:05) 先ほどシンギュラリティの話が出ましたね。シンギュラリティまであとどれくらいなのでしょうか？
ギョーム・ヴェルドン
(02:25:09) 時間の一点としての有限時間の特異点を信じるかどうかはわかりません。それは漸近的で、対角線のような漸近線になると思います。私たちにはライトコーンがあり、物理学の限界が私たちの成長能力を制限しています。ですから、有限の時間で完全に発散することはできません。
私が思うに、反対側の多くの人々は、私たちが人間レベルのAIに到達すると、突然変曲点が訪れ、突然[聞き取り不能 02:25:48]、AIがナノスケールで物質を操作する方法を理解し、ナノボットを組み立てるようになると考えています。
AIを物質工学に応用することに10年近く取り組んできましたが、それは彼らが考えているよりもずっと難しいことです。そして現実には、非常に正確でコストのかかる自然のシミュレーションか、自然そのものから多くのサンプルを得る必要があり、それによって私たちの周りの世界をコントロールする能力を抑制することができるのです。予測や制御を可能にするために世界に関する情報を得るには、計算上、熱力学上、ある種の最小限のコストが必要なのです。それが物事を抑制しているのです。
AI破滅論者
レックス・フリードマン
(02:26:27) 反対側について言及するのは面白いですね。では、昨日私が投稿したp(doom)についての投票では、破滅の確率は？可能性が高いと思う人と、可能性は低いと思う人に分かれているようです。将来的には、共和党対民主党、青対赤のように分かれるのでしょうか。AI運命論者対E/Accers、EAC？[聞き取り不能 02:26:53]。
ギョーム・ヴェルドン
(02:26:53) そうです。ですから、この動きは基本的に右翼でも左翼でもなく、どちらかというと上か下かというようなものです。
レックス・フリードマン
(02:27:01) どっちが上？わかりました。
ギョーム・ヴェルドン
(02:27:02) …文明、ですね？
レックス・フリードマン
(02:27:03) わかりました。
ギョーム・ヴェルドン
(02:27:05) しかし、既存の政党の間で、より中央集権的な権力や管理、規制の強化に賛成する政党が、破滅派と連携しているようなケースもあるようです。しかし、根本的には、私たちは左派対右派ではありません。EACの中で人々の支持を調査したことがあります。かなりバランスが取れていると思います。ですから、これは現代の新しい根本的な問題なのです。中央集権か分散化かという問題だけではありません。技術進歩主義対技術保守主義のようなものです。
効果的な利他主義
レックス・フリードマン
(02:27:54)運動としてのe/accは、しばしばEA（効果的利他主義）と対比して語られます。効果的利他主義の長所と短所は何だと思いますか？何が興味深く、何が洞察的で、何が否定的なのでしょうか？
ギョーム・ヴェルドン
(02:28:15) そうですね。第一原理から善を行おうとする人は良いことだと思います。
レックス・フリードマン
(02:28:23)邪魔してすみません、おそらくこう言うべきなのでしょう。あなたはそれを最小限に抑えたいのです。そして、どんな最適化もそうであるように、それがうまくいかないこともあるのです。だから、物事がどのようにうまくいかなくなるかを探求するのは興味深いことです。
ギョーム・ヴェルドン
(02:28:55) 私たちはどちらもある程度良いことをしようとしていて、どの損失関数を使うべきか議論しているわけですよね？
レックス・フリードマン
(02:29:03) そうです。
ギョーム・ヴェルドン
(02:29:04) 彼らの損失関数はヘドン、快楽主義の単位のようなものです。どれくらいの時間、どれくらいの気分か。だから、苦しみは負のヘドンとなり、彼らはそれを最小限にしようとしているのです。しかし私たちには、この損失関数にはある種の偽りの極小値があるように思えます。
神経リンクを取り付けるか、TikTokを永遠にスクロールするだけです。短期的なタイムスケールでは、神経化学のおかげで気分がいいですが、長期的なタイムスケールでは、生産的でないため、衰えや死を引き起こします。
(02:29:54)一方、EACのような文明の進歩の測定は、快楽主義のような主観的な損失関数ではなく、客観的な尺度、つまり物理的なエネルギーというごまかしのきかない量によって行われます。GDPや通貨で測れば、それは動いている特定の価値に固定されます。
ですから、私たちの進歩を測るには良い方法ではありません。しかし、私たちはともに進歩を遂げ、人類が繁栄し、成長できるようにしようとしているのです。ただ、損失関数が違うだけで、それを実行する方法が違うだけなのです。
レックス・フリードマン
(02:30:42)程度というのはあるのでしょうか、もしかしたらあなたが教えてくれるかもしれませんが、人類の文明、人類の経験のすべてを方程式に当てはめようとするとき、私は少し懐疑的になります。
最適化したいという願望よりも、損失関数という方程式の専横に懐疑的になるべき度合いがあるのでしょうか？例えば、損失関数を最適化することに対して、ある種の知的謙虚さを持つというようなことでしょうか？
ギョーム・ヴェルドン
(02:31:12) ええ。この特定の損失関数は、堅苦しいものではありません。平均の平均のようなものです。将来の状態の分布がある分布に従うようなものです。だから決定論的でもないし、ガチガチのレールの上にいるわけでもないんです。あくまで統計的な未来予測です。しかし結局のところ、重力を信じるかどうかは自由ですが、必ずしもそれに従うという選択肢はないのです。それを試そうとする人もいますが、あまりうまくいきません。
同じように、好むと好まざるとにかかわらず、熱力学は存在しているのです。私たちは、この基本的な真理を踏まえて、何がそうであるかを指摘し、自分自身を方向づけ、進むべき道を描こうとしているだけなのです。
レックス・フリードマン
(02:32:04)しかし、まだ不確実性があり、情報が不足しています。物理学でさえ、不確実性がある場合は解釈次第です。そして、人間はそれを自分の目的のために利用する傾向があります。だから、方程式があるときはいつも、宇宙を本当に完璧に理解できるようになるまでは、人間は人間がすることをするでしょう。これは、すべての運動において懐疑的になるべきことなのでしょう。
ギョーム・ヴェルドン
(02:32:57) そうですか。だから私たちは懐疑主義を招く。
ということですか？
レックス・フリードマン
(02:33:02) 効果的な利他主義でうまくいかなかったことが、効果的な加速主義でもうまくいかなくなる可能性があることについて、ある程度は理解していますか？
ギョーム・ヴェルドン
(02:33:15)ええ、つまり、初期のころは技術者や知識人、合理主義者に共同体意識を与えていたと思います。彼らは実権を握っています。彼らは政府に影響を与え、今ではほとんどのAI組織に影響を及ぼしています。つまり、彼らはOpenAIの理事会を文字通り支配していますし、Anthropicにも目を向けています。
Anthropicを見渡せば、彼らもある程度の支配力を持っていると思います。つまり、e/accの前提は資本主義に似ていて、すべてのエージェント・オーガニズムとメタ・オーガニズムが自分たちの利益のために行動し、敵対的な均衡を維持すること、あるいは敵対的な競争によって、常に、あらゆるスケールでお互いを牽制し合うことだと思います。最終的には、権力と資本を手に入れるための完璧な隠れ蓑になったわけですが、残念なことに、それが時を経て人を堕落させることもあるのです。
人生における一日
レックス・フリードマン
(02:34:23)完璧に生産的な一日とは、建物が重要なので、ギョーム・ヴェルドンの人生における完璧に生産的な一日とはどのようなものでしょうか？カフェインの摂取量は？完璧な一日とは？
ギョーム・ヴェルドン
(02:34:39)わかりました。好きな日は午後12時から午前4時までで、午後の早い時間に会議があります。私は最高経営責任者（CEO）ですから、顧客や投資家、あるいは候補者との面接など、外の世界と接しなければなりません。そしてたいてい、ケトン体（外因性ケトン体）を飲みます。
レックス・フリードマン
(02:35:12)では、あなたはケトダイエットをしているのですか、それとも…
ギョーム・ヴェルドン
(02:35:16)以前、サッカーのためにケト食をしたことがあります。
レックス・フリードマン
(02:35:31) 社交的な交流は、食事抜きで早い時間に行うのですね。
ギョーム・ヴェルドン
(02:35:35) 前倒しですね。そうです。今はケトン体とレッドブルを飲んでいます。食事をすると、神経エネルギーに使われるはずのエネルギーが消化に回されるんです。食後は、1時間か1時間半くらい休憩して、理想的には1日1食、ステーキと卵、野菜、動物性食品を食べます。果物と肉ですね。私はCEOですが、まだ技術的な仕事をしています。私はほとんどの特許に貢献しています。そこでは夜遅くまで起きていて、エンジニアと一緒に非常に技術的な問題に取り組みます。
レックス・フリードマン
(02:36:25) 午後9時から午前4時までという感じですか。
ギョーム・ヴェルドン
(02:36:30) そうそう。それは完璧な時間です。メールも、火に油を注ぐようなこともなくなり、集中できます。そして第二の風が吹きます。デミス・ハサビスもある程度同じような働き方をしていると思います。だから、私の平日は間違いなくそれに触発されていると思います。でも、Googleにいたとき、日中は製品の管理をして、ミーティングをして、夜は技術的な仕事をする、というような働き方を始めました。
レックス・フリードマン
(02:37:00) 運動、睡眠、そういったことですね。
サッカーとおっしゃいましたが、以前はサッカーをされていたのですか？
ギョーム・ヴェルドン
(02:37:06) ええ、アメリカンフットボールをやっていました。いろんなスポーツをして育ちました。それからパワーリフティングをやっていた時期もあります。大学院で数学を勉強していたときは、ただ数学をして、リフティングをして、カフェインを摂る、そんな毎日でした。
とてもピュアで、最もピュアな修道僧モードでした。でも、パワーリフティングでは、ある種の駆動信号によって神経適応を引き起こそうとしていて、あらゆる種類のサプリメントによって神経可塑性を工学的に作り出そうとしていて、リフティングをすると分泌されるあらゆる種類の脳由来向神経性因子があるというのは、本当に興味深いことです。(02:37:44)だから、数学を学んでいる間、脳だけでなく、もっと広く神経系に適応する神経を工学的に作ろうとしていたのは、私にとっては面白いことです。
本当に気にすれば、もっと速く学ぶことができると思います。自分が学んでいることをとても気にするように自分を説得し、ある種の補助、例えばカフェインや神経可塑性を高めるコリン作動性サプリメントがあれば。いずれアンドリュー・ヒューバーマンと話すべきですね。彼は専門家ですから。でも、少なくとも私にとっては、より多くのトークンを脳にインプットすることで、学習速度を上げ、より短い時間スケールでより速く学習できるようにすることができます。
(02:38:30) それで、私はたくさんのことを学びました。好奇心の赴くままに。自分のやっていることに情熱を持っていれば、学ぶスピードも速くなり、賢くなるスピードも速くなります。好奇心に従えば、常に興味を持ち続けることができます。
だから私は、好奇心の赴くままに行動し、特定の分野の境界や、自分が取り組んでいることのレーンに割り当てられたものを尊重しないようにとアドバイスしています。ただ、外に出て探索し、自分の鼻に従って、できるだけ多くの情報を獲得し、自分の脳に圧縮しようとするのです。面白いと思ったものは何でも。
レックス・フリードマン
(02:39:05) そして、物事を気にかけること。あなたが言ったように、これは興味深いことで、私にはとても効果的です。
ギョーム・ヴェルドン
(02:39:12) そうです。
レックス・フリードマン
(02:39:13) そして、本当に気にし始めるのです。
ギョーム・ヴェルドン
(02:39:15) そうです。
レックス・フリードマン
(02:39:15)
(02:39:15)ですから、面白いことに、動機づけは学習にとって本当に良いきっかけになるのです。
ギョーム・ヴェルドン
(02:39:22) そうですね。
それで、ベフ・ジェゾスとしての私の性格の少なくとも一部は、まるで…
レックス・フリードマン
(02:39:29) ええ、宣伝マンです。
ギョーム・ヴェルドン
(02:39:30)ええ、でも私は自分を誇大宣伝しているんです。でもそれをツイートしているだけなんです。
本当に誇大宣伝しようとしているのは、超集中し、流れに身を任せ、有線状態になり、今までにない何かを発明しようとしている意識変容状態のときで、非現実的なレベルの興奮を得る必要があるんです。でも脳には、アドレナリンのレベルを上げることで解除できる認知のレベルがあるんです。
パワーリフティングで学んだことですが、メンタルのスイッチを操作することで、強さを増すことができるんです。例えば、ある曲や音楽が流れると、突然スイッチが入り、最大限の力を発揮できるのです。私は長年のリフティングを通じて、そのスイッチを設計してきました。
もし、500ポンドを下回ろうとしていて、それがあなたを押しつぶす可能性がある場合、そのスイッチがなければ、あなたは死んでしまうかもしれません。それで目が覚めるんです。このようなスキルは研究にも生かされていて、いざという時、勝負がかかった時、私はなぜか別次元の神経パフォーマンスを発揮することができるのです。
レックス・フリードマン
(02:40:40) つまり、ベフ・ジェゾスはあなたの知的ハルクを具現化したようなものなのですね。あなたの生産性ハルクのスイッチを入れるのです。
アイデンティティ
ギョーム・ヴェルドン
(02:40:50) そうです。
レックス・フリードマン
(02:40:50) この2つのアイデンティティを持つことで、アイデンティティの本質について何か学びましたか？この2つの帽子をはっきりとかぶることは、人々にとって興味深いことだと思います。
ギヨーム・ヴェルドン
(02:41:01)初期の頃は、本当に区分けされていたんだと思います。そうそう、これはキャラクターなんだ」みたいな。私はギヨーム。ベフはただのキャラクター。自分の考えを、もう少し極端に外挿するんです。でも時間が経つにつれて、両方の人格が精神的に融合し始め、人々は「いや、私はあなたに会ったよ。
あなたはベフ。あなたはただのギヨームじゃない『私は』待って、私なの？」って。今は完全に融合しています。でも、ドキュメントの前から、精神的にはすでに、私はこのキャラクターなんだ、と思っていました。私の一部なんです。
レックス・フリードマン
(02:41:39) altを持つことを勧めますか？
ギョーム・ヴェルドン
(02:41:42)もちろんです。
レックス・フリードマン
(02:41:43) 若い人のように。
アルトを持つことで、さまざまなアイデンティティを探求することを勧めますか？アルトアカウント？
ギョーム・ヴェルドン
(02:41:49) 楽しいですよ。エッセイを書いたり、ポジションを取ったりするようなものでしょう？ディベートでやるようなものです。実験的な考えを持つことができますし、フォロワーが20人いるかいないかのアノンのアカウントなので、賭けが低い環境で自分の考えを実験することができます。
そして、すべてが自分の本名で、すべてが自分に帰属する時代に、私たちはそれを失ってしまったように感じます。人々は発言することを恐れ、完全に形成されていないアイデアを探求することを恐れ、私たちは何かを失ってしまったように感じます。だから、Xや他のプラットフォームが、同姓同名や匿名であろうとする人々をサポートする手助けになることを願っています。
レックス・フリードマン
(02:42:46)ええ、私は急進的ではなく、厳密な共感を本当に信じています。それは、ある視点を持つ人がどのようなものであるかを考え、それを思考実験として、より遠くへ、より遠くへ、より遠くへ持っていくようなものです。そして、それをオルトアカウントとして行うのも一つの方法です。
ある信念を信じる人間であることがどういうことなのか、それを数日、数週間、数カ月に渡って探求するのは、楽しくて面白い方法です。もちろん、そうなってしまう危険性は常にあります。ニーチェの「深淵を長く見つめると、深淵があなたを見つめる」という言葉です。気をつけなければなりません。
ギョーム・ヴェルドン
(02:42:46) Breaking Beff.
若者へのアドバイス
レックス・フリードマン
(02:43:31) そうですね。ベフを破る。そう。
ある日、坊主頭で目を覚ますと、「私は誰？僕は何になったんだろう？」 それで、あなたはすでにかなりのアドバイスを述べていますが、私たちがいるこの興味深い世界で、どのようにキャリアを持ち、どのように誇れる人生を送るか、若い人たちにどんなアドバイスをしますか？
ギョーム・ヴェルドン
(02:43:58)私が理論物理学に進んだ理由は、技術がどのように変化しても残るスタックの基礎を学ばなければならなかったからです。そして、その基礎の上にエンジニアリングのスキルやその他のスキルを積み上げていったのです。物理学の法則は、今、急速に変化しているように見えるかもしれません。
しかし、基本的な数学や物理学のような特定のものは変わりません。複雑系や適応系に関する知識があれば、その知識はあなたを大きく前進させるでしょう。ですから、すべての人が数学を勉強する必要はありませんが、数学と物理学、工学を学ぶことは、認知能力を大きく向上させることになると思います。
レックス・フリードマン
(02:44:48) できるだけスタックの底辺に近づきましょう。
ギョーム・ヴェルドン
(02:44:51) そうです。スタックの底辺は変わりませんから。あなたの知識は、数年後にはそれほど重要でなくなるかもしれません。もちろん、ある種の移転学習はできますが、その場合、常に移転学習しなければなりません。
レックス・フリードマン
(02:45:04)スタックの底辺に近ければ近いほど、移行学習は簡単で、ジャンプも短くなるのでしょうね。
ギョーム・ヴェルドン
(02:45:10) そうですね。一度多くの物理的なシナリオで概念を学んでしまえば、それが必ずしも物理学ではない他のシステムを理解するのに引き継がれることに驚くでしょう。e/accの著作、原則と信条の投稿は物理学に基づいていて、熱力学の考え方の一部を私たちの周りの世界を理解するために応用するための私の実験のようなものでした。
死亡率
レックス・フリードマン
(02:45:42)あなたが機械の歯車の1つであり、資本主義機械の歯車の1つであり、1人の人間であるとして、あなた自身を見て、死亡率は特徴だと思いますか、それともバグだと思いますか？不死になりたいですか？
ギョーム・ヴェルドン
(02:45:57)いえ、根本的には、熱力学的散逸適応には散逸という言葉があると思います。散逸は重要であり、死は重要です。物理学には、「物理学は一度に一つの葬式を行うことで進歩する」という格言があります。
レックス・フリードマン
(02:46:16) そうです。
ギョーム・ヴェルドン
(02:46:17) 資本主義も同じだと思います。企業、帝国、人間、すべて。すべてはいつかは滅びるものです。世界はますます複雑になっているのですから。世界を予測し理解するためには、より多くのデータが必要です。もし神経可塑性が高くなる時期が限られているとしたら、私たちがこの世界について理解できることには、ある種のハードキャップがあることになります。ですから、私は死に賛成です。というのも、やはり死は重要だと思うからです。
システムは常に適応していないでしょう？(02:47:05) システムを常に適応させ、柔軟にするためには、新しさや若さ、混乱が必要です。そうでなければ、物事が不滅であれば、例えば企業が永遠に存在し、独占していれば、石灰化し、最適ではなく、変化し、時間的に変化する状況の中で高いフィットネスを発揮できなくなります。
だから、死は若さと斬新さにその場所を与えるのです。それは自然界のあらゆるシステムにとって重要な要素だと思います。ですから、私は死には賛成ですが、より長い寿命、より長い神経可塑性の時間、より大きな脳は、私たちが目指すべきものだと思います。
レックス・フリードマン
(02:47:52)そうですね、ジェフ・ベゾスとベフ・ジェゾスは、すべての企業は死ぬという点で同意しています。ジェフにとっての目標は、彼はそれをデイワン・シンキングと呼んでいます。しかし、再発明を続けることはとても難しいので、いずれは会社も死んでしまうでしょう。
あなたは自分の死を恐れていますか？
ギョーム・ヴェルドン
(02:48:23)自分がこの世を去る前に、この世界で実現したいアイデアやことはあると思いますが、必ずしも死を恐れているとは思いません。
レックス・フリードマン
(02:48:34) では、あなたはこの特定の身体や心に執着していないのですね？
ギョーム・ヴェルドン
(02:48:38)いいえ、将来もっといいバージョンの自分が現れると思いますし…。
レックス・フリードマン
(02:48:46) フォーク？
ギョーム・ヴェルドン
(02:48:47) フォーク、ですか？遺伝子のフォークとか、そうでしょう？本当にそう思います。e/accで説明したようなプロセスを通じて、進化論的なアルゴリズムのようなものが世界中で起こっていると思います。この適応の可鍛性を維持することが、マシン全体の絶え間ない最適化につながるのだと思います。ですから、私は特に、いつまでもそこに居続ける必要のある最適な人間だとは思っていません。いろいろな意味で、より大きな最適が存在すると思います。
人生の意味
レックス・フリードマン
(02:49:25) すべての意味は何だと思いますか？なぜ機械なのでしょう？e/accマシン？
ギョーム・ヴェルドン
(02:49:32)なぜですか？その理由は熱力学です。それが私たちがここにいる理由です。それが生命の形成、文明の形成、技術の進化、文明の発展につながったのです。しかし、なぜ私たちは熱力学を持っているのでしょうか？なぜこのような特殊な宇宙があるのでしょうか？
なぜこのような特殊な超定数、つまり自然界の定数があるのでしょうか？そして、人間原理や潜在的な宇宙の風景が見えてくるのです。私たちは生命が存在できる宇宙にいます。では、なぜ多くの宇宙が存在する可能性があるのでしょうか？わかりません。
そこはわかりません。でも、新しい宇宙を作ったり、ポケット宇宙を作ったりして、超パラメーターを設定することで、その宇宙での私たちの存在と、その宇宙の親である私たちとの間に、何らかの相互情報が存在する可能性はあるのでしょうか？それはとても詩的なことだと思います。単なる憶測です。しかし、量子重力を解明することで、そのようなことが可能かどうかを理解することができるのです。
レックス・フリードマン
(02:50:39)その上、なぜすべてが美しくエキサイティングに思えるのでしょうか？量子重力の解明への探求はとてもエキサイティングに思えます。なぜですか？なぜでしょう？なぜ私たちはそれに惹かれるのでしょうか？なぜ私たちはそこに引き寄せられるのでしょうか？パズルを解くような創造的な力が、すべてを支えているような気がします。
ギョーム・ヴェルドン
(02:51:01)私たちは、LLMシートがその内部モデルと世界との間の交差エントロピーを最小化するように、最小化しようとするのだと思います。エネルギースケールや物理スケールの領域があっても、その領域が見えない、予測できない、知覚できないというのは、私たちにとって損傷のようなものです。私たちは世界をよりよく理解することで、世界の舵取りをしたり、世界の中で私たちの舵取りをしたりしたいのです。
(02:51:37)そして一般的に、世界をよりよく予測することができればできるほど、実用性、つまり自分自身の維持と成長のための自由エネルギーをよりよく取り込むことができるので、それは進化した能力なのです。量子重力は、知識の獲得という点では、最終的なボスのようなものだと思います。
しかし、その間にあるメソスケールでは、学ぶべきことがたくさんあると思います。カルタ・シフト・スケールを上昇させるためには、私たちの世界について獲得すべき情報がたくさんあり、工学的な知覚、予測、制御が必要です。そして私たちにとっては、それが現代の大きな課題なのです。
レックス・フリードマン
(02:52:22)どこへ行けばいいのかわからないときは、ミームに道を開いてもらいましょう。
ギョーム・ヴェルドン
(02:52:26) その通りです。
レックス・フリードマン
(02:52:27) ギヨームさん、ベフさん、今日はありがとうございました。お疲れ様でした。ユーモアと知恵をありがとうございました。素晴らしかったです。
ギヨーム・ヴェルドン
(02:52:37) 呼んでくれてありがとう、レックス。
レックス・フリードマン
(02:52:40)ギヨーム・ヴェルドンとの会話を聞いていただきありがとうございました。このポッドキャストをサポートするには説明文にあるスポンサーをチェックしてください。それでは、アルベルト・アインシュタインの言葉をご紹介しましょう。「もし最初にアイデアが不条理でなければ、そのアイデアに希望はない」ご清聴ありがとうございました。また次回お会いしましょう。