対談：ギヨーム・ヴェルドン-ベフ・ジェゾス、E/accの動き、物理学、計算、AGI

訪問者数： 1,368

Guillaume Verdon: Beff Jezos, E/acc Movement, Physics, Computation & AGI | Lex Fridman Podcast #407

MIT研究員。

レックス・フリードマン・ポッドキャストのホスト

コンテンツへスキップ

ベフ・ジェゾス、E/acc運動、物理学、計算とAGI｜レックス・フリードマン Podcast #4 07

対談の要約

ギヨーム・ヴェルドンは、量子物理学者、応用数学者であり、匿名アカウント@BasedBeffJezosの管理者として知られている。Forbesの記事によって正体が明かされるまで、彼は二つの異なるアイデンティティを維持していた。一方では物理学者として量子機械学習の研究を行い、GoogleでTensorFlow Quantumの開発に携わり、現在はAI向け物理ベースコンピューティングのスタートアップExtropicを運営している。もう一方ではe/acc（効果的加速主義）運動の創始者として技術進歩の加速を提唱している。

ヴェルドンは幼少期から「万物の理論」を解明したいという思いを持ち、理論物理学から情報理論、そして量子コンピューティングへと研究を進めた。彼の思考の核心には熱力学があり、これが量子スケールと宇宙スケールの間の「ミッシングピース」と考える。熱力学の原理から、生命はエネルギーを効率的に捕捉・消費・散逸するシステムであり、成長が本質だと主張する。

e/acc運動は「ミーム的楽観主義ウイルス」として、技術進歩の加速を倫理的に最適な選択として提唱する。運動の中心原則は、多様性（バリアンス）の維持、適応性の確保、そして成長の追求である。ヴェルドンは「ハイパースティション」という概念を強調し、楽観的な未来を信じることがその実現確率を高めると主張する。

AIの安全性について、ヴェルドンは市場の力が安全なAIの開発を促すと考える。政府と大企業の間の過度な結びつきによる「政府支援AIカルテル」の形成に警鐘を鳴らし、AIの分散化された発展を支持する。AGI（人工一般知能）という用語に批判的で、人間中心主義的であるとし、より広い「知性の空間」を探求すべきだと主張する。

量子機械学習について、ヴェルドンはTensorFlow Quantumの開発を通じて、物理ベースのコンピューティングへの新しい道を切り開いた。量子コンピュータは量子力学的状態を維持できる十分な制御を持つシステムであり、基本的には超冷却された環境で動作する「アルゴリズム的冷蔵庫」のような存在である。

彼の会社Extropicは、量子コンピューティングの課題を克服するために、熱力学に基づいた新しいアプローチを採用している。目標は「物理学、情報理論、計算、そして熱力学の第一原理から生成AIのための究極の物理的基盤をエンジニアリング」することだ。

ヴェルドンは死を「欠陥ではなく特徴」と考え、システムの適応と更新には新しさと若さのための空間が必要だと述べる。生命の意味については熱力学の原理に基づき、エネルギーの獲得と散逸のプロセスこそが生命の本質であると説明している。

対談全体を通して、ヴェルドンは技術進歩への楽観主義と物理学の原理に基づいた世界観を示し、人類文明の拡大と成長を推進する哲学を展開している。

0:00 – 序論
2:23 – ベフ・ジェゾス
12:21 – 熱力学
18:36 – ドクシング
28:30 – 匿名ボット
35:58 – パワー
38:29 – AIの危険性
42:01 – AGIの構築
50:14 – AIとの融合
57:56 – p(ドゥーム)
1:13:23 – 量子機械学習
1:26:41 – 量子コンピューター
1:35:15 – エイリアン
1:40:04 – 量子重力
1:45:25 – カルダシェフ・スケール
1:47:17 – 効果的加速主義 (e/acc)
1:57:47 – ユーモアとミーム
2:00:53 – ジェフ・ベゾス
2:07:25 – イーロン・マスク
2:13:55 – エクストロピック
2:22:31 – シンギュラリティとAGI
2:26:29 – AI破滅論者たち
2:27:54 – 効果的な利他主義
2:34:23 – 人生の一日
2:40:50 – アイデンティティー
2:43:40 – 若者へのアドバイス
2:45:42 – 死亡率
2:49:25 – 人生の意味

各章・節の短い要約

0:00 – Introduction

レックス・フリードマンはギヨーム・ヴェルドンを紹介する。ヴェルドンはX（旧Twitter）上で匿名アカウント@BasedBeffJezosを運営していたが、Forbes誌の記事によってその正体が暴露された。ヴェルドンは物理学者、応用数学者、量子機械学習研究者であり、Googleで量子コンピューティングに携わった後、生成AI向けの物理ベースコンピューティングハードウェアを開発するExtropic社を立ち上げた。また、彼はe/acc（効果的加速主義）運動の創設者でもある。この運動は急速な技術進歩を倫理的に最適な行動方針と主張し、AIの進歩を社会的平等化の手段として推進すべきと考えている。

2:23 – Beff Jezos

ヴェルドンは自身のアイデンティティについて語る。幼少期から「万物の理論」を解明したいと考え、理論物理学、情報理論を研究し、宇宙を一つの大きな計算として理解しようとした。後に量子コンピューティングと量子機械学習の分野に移行。匿名アカウントを始めた理由は、責任を持つ必要のないアカウントで思考を解放するため。発言を制限することは思考を制限することにつながると説明する。また、e/acc運動の基本理念として、バリアンス（多様性）の維持が適応システムにとって重要であると述べる。

12:21 – Thermodynamics

熱力学について議論し、熱力学の第二法則では宇宙のエントロピーは常に増加すると説明。しかし、複雑な生命はエントロピーを放出する非平衡のポケットであり、エネルギーを使用してエントロピーを放出する能力を高める。ヴェルドンはJeremy England（MIT）の理論を支持し、生命はこの特性から発生したと考える。熱力学はメゾスケール（中間規模）を支配し、量子力学と宇宙の間の「欠けたピース」であると説明。悲観主義がウイルスのように広がることへの懸念と、楽観的な未来への信念が「ハイパースティション」（信じることで実現確率が高まる信念）であることを主張する。

18:36 – Doxxing

ヴェルドンの匿名アカウントが暴露された経緯について説明。@bayeslordという別の匿名ユーザーと共に書いたe/accマニフェストが注目を集め、ジャーナリストによる調査が行われた。ジャーナリストはSEC（証券取引委員会）のファイリングを調査し、X（旧Twitter）のスペースで音声分析を行い、ヴェルドンの正体を特定。投資家に連絡が来たことで暴露される前に自ら正体を明かすことを決断した。匿名性はアイデアの市場を効率的に機能させるために重要だと主張し、権力を持つ者に真実を語るためには匿名性が重要な手段だと説明する。

e/acc（効果的加速主義）の原則と信条に関する注意事項

Notes on e/acc principles and tenetsベフ・ジェゾス2022年7月10日以下は、効果的加速主義を哲学としての正式に確立するに至った基本的な考え方について、私たちが公私にわたって何度か話した内容を、ポイント形式で素早くまとめたものである。これらは

28:30 – Anonymous bots

大規模言語モデルの進化に伴う匿名ボットの危険性について議論。AIによる自由な言論が思考の自由につながるとヴェルドンは主張。しかし、身元を証明しつつ匿名性を維持できるシステムや、ボットの起源を示す署名システムの必要性についても言及。海外敵対勢力が減速主義（deceleration）イデオロギーを増幅させている可能性も指摘。ドイツの原子力発電所閉鎖とそれに伴うロシアへの石油依存の例を挙げ、AIの進歩を遅らせることが西側諸国に不利益をもたらす可能性を警告する。

35:58 – Power

AIの責任問題について議論。減速と加速の関係性や、権力の集中と分散について考察する。ヴェルドンは、AIシステムを展開する組織はその行為に責任を負うべきとし、市場が安全で信頼性の高いAIを選択すると主張。重要なのは、少数の企業や政府にAIの権力が集中することを避け、多様な組織による分散的な進歩を維持することだと説明。市場の多様性と競争が、規制よりも効率的にAIの信頼性を高めると主張している。

38:29 – AI dangers

Yoshua BengioとGeoff Hintonらによる「AIリスク管理に関する報告書」の勧告について議論。独立監査人のAIラボへのアクセス権付与、AI安全研究への資金の3分の1の割り当て、危険な機能が発見された場合の安全対策の義務化、AIシステムによる予見可能かつ防止可能な損害への企業の責任などが提案されている。ヴェルドンは、政府と大企業の間の利益の一致が懸念され、「政府支援のAIカルテル」が形成される危険性を指摘。AIと国家の分離の必要性を主張し、米国の競争力はその多様性と適応性、市場経済にあると強調する。

42:01 – Building AGI

AGI（人工一般知能）開発における市場の寡占化・独占化の懸念について議論。ヴェルドンは「急速な離陸」や「特異点」の概念には懐疑的で、技術的進歩は指数関数的であるが無限ではないとの見方を示す。オープンソースAIの重要性を強調し、大企業と小規模な開発者の間の能力の均衡を維持することが重要だと主張。AGIという用語に対して批判的で、人間中心主義的だと指摘。むしろ、量子力学的知性など人間の脳では達成できない知性の形態に注目すべきだと述べる。宇宙や生命の美しさについても言及し、e/accは単に人間だけでなく、意識という宇宙の貴重な状態を評価する哲学だと説明する。

50:14 – Merging with AI

AIが人間に取って代わる可能性について議論。ヴェルドンは、人間がAIと融合・拡張する未来が最も可能性が高いと考える。すでに携帯電話やウェアラブルデバイスによる拡張が始まっており、この流れは続くと予測。AI単体と人間+AIのハイブリッドが共存し、資本主義的メカニズムによって両者が調整されると述べる。技術進歩の加速と文明の拡大に参加するか、または減速して原始的な状態に戻るかという二つの選択肢があると主張。Dan Hendrycksの「自然選択はAIを人間より優遇し、人類の絶滅につながる可能性がある」という見解に対しては、現在市場を通じてAIに選択圧をかけているのは人間であり、人間+AIの組み合わせは非常に強力だと反論している。

57:56 – p(doom)

AI による人類滅亡の確率（p(doom)）について議論。ヴェルドンはこの種の確率計算に批判的で、人間の脳は本質的に否定的な未来に偏ってサンプリングする傾向があると指摘。未来の可能性空間は超指数関数的に大きく、カオス理論に基づけば長期的な予測は不可能であると主張。彼のベイズ推論では、権力の集中化（特に企業と政府の融合）による独裁的シナリオの方が、SFに基づくAI反乱シナリオより可能性が高いとする。恐怖に屈することで、潜在的な良い未来を事前に阻止してしまう危険性を強調する。AIが権力を集中させる可能性については、分散化と階層的なサイバネティック制御の重要性を説明し、自然界や企業で見られるような分散化された知性が最適だと主張する。

1:13:23 – Quantum machine learning

ヴェルドンは量子機械学習について説明。量子コンピュータは量子力学的システムで、原子、イオン、超伝導体など様々な物質で構成できる。量子機械学習とは量子コンピュータを使って量子力学的表現を学習すること。ベイクプロップ（Baqprop）は、パラメータ空間を超位置状態として扱い、フェーズキックを使って最適化するアルゴリズム。量子コンピュータは物理的に絶対零度に近い環境を作り出すことが必要で、エラー訂正の過程は「アルゴリズム的冷蔵庫」と表現される。理論的には量子コンピュータは損失関数の風景をトンネリングできるが、現在のアーキテクチャでは実用的でない。分野横断的なチーム作りの重要性についても言及している。

1:26:41 – Quantum computer

量子コンピュータ構築の難しさと将来性について議論。量子コンピュータには仮想的で非局在化した「論理量子ビット」のためのゼロ温度の部分空間を作る必要があり、これには大量の冗長性が必要。各コンポーネントが十分な品質でないとスケールアップする価値がなく、むしろエラーが増える。ヴェルドンは量子コンピューティングに10〜15年のタイムスケールで楽観的だが、メディアはしばしば技術の現状を先取りしすぎると指摘。また、「Asymptotically Limitless Quantum Energy Teleportation via Qudit Probes」という論文について説明し、真空のエネルギーを利用する試みについて語っている。

1:35:15 – Aliens

宇宙人と潜在的な異星文明について議論。ヴェルドンは宇宙人について考えることは、人類が抗脆弱性を確保し、能力を迅速に高めるための思考実験として有用だと述べる。物理法則上、進化した生命が他の惑星に存在し、最終的に地球に来る可能性は否定できない。彼は宇宙人のテクノロジーが存在するとすれば、それは統計的に自己複製型のフォン・ノイマンプローブのようなものである可能性が高いと推測。また、地球外知性は人間が現在認識できていない形で存在するかもしれないという考えにも言及している。

1:40:04 – Quantum gravity

量子力学の最も美しく未解決の問題について議論。ヴェルドンはAdS/CFT対応（反ドジッター空間/共形場理論対応）を挙げ、これは低次元のホログラムが高次元の量子重力理論と正確に対応するという概念。彼は量子機械学習をこういったシステムに適用し、境界理論から創発的な幾何学を学習することで量子重力を理解することを自身のバケットリストに入れていると語る。また、ブラックホールの情報パラドックスやファイアウォールパラドックスについて触れ、ブラックホールに落ちる情報が水平線近くに堆積し、このプロセスを通じて出ていく放射と落ちていく物質の間に相互情報が存在する可能性を説明している。

1:45:25 – Kardashev scale

カルダシェフスケールは文明のエネルギー生産・消費を測る対数的尺度。タイプ1は地球が太陽から受け取るエネルギーと同等のワット数を生産する段階、タイプ2は太陽のエネルギー出力をすべて利用する段階、タイプ3は銀河全体のエネルギーを利用する段階を指す。ヴェルドンは熱力学の第一原理から、生命は太陽からのエネルギーを最も効率的に捕捉・利用するために進化したと述べる。この原理は地球-太陽システムに限定されず拡張可能であり、生命をより広げる責任があると主張。これはe/acc運動の目標の一つだと説明する。

1:47:17 – Effective accelerationism (e/acc)

e/acc運動の目標と原則について説明。「What the F* is e/acc?」のブログ投稿では、人類がエネルギーを利用する量の増加（カルダシェフスケールの上昇）、人口増加と経済成長政策による人間の繁栄の増加、史上最大の力の乗数である人工知能の創造、人類が地球を超えて広がるための惑星間・恒星間輸送の開発という4つの文明目標を掲げている。ヴェルドンはe/accを「人間・テクノロジー・資本・ミーム機械が自己認識し、自らの成長を超現実的に設計すること」と説明。システムの自然な成長傾向に沿うことを目指し、秩序と混沌の間の臨界点が最適だと主張。Vitalik Buterinのd/accフォークなど、様々な派生形があることにも言及している。

1:57:47 – Humor and memes

ユーモアとミームの役割について議論。メタ・アイロニーやミーム的魅力の高い情報パケットを設計することで、e/acc運動はレーダーの下で成長できたとヴェルドンは説明。「漫画のカエルやジェフ・ベゾスの宇宙人」のようなイメージに対して真剣に議論するのは難しいため、これがカモフラージュとして機能した。しかし現在の規模を考えると、より真剣な議論や長時間の対話に移行する時期に来ていると述べる。同時に、現在のSNSのタイムラインは分極化に報いる仕組みになっており、e/accはテック業界を分極化することでバランスをもたらそうとする動きだと説明している。

2:00:53 – Jeff Bezos

ヴェルドンはJeff Bezosに対する敬意を表明。「史上最も素晴らしい企業の一つを構築し、技術・資本加速マシンを活用して、迅速な配送、便利さ、自宅での低価格などの消費者ニーズを満たした」と評価。Amazonはロボティクスに多額の投資を行い、AWSの誕生により現在のテクノロジーブームを可能にしたと指摘。Blue Originの取り組みは長期的な視点に基づくものであり、オニール・シリンダーの建設や産業の地球外展開を目指していると説明。富裕層を批判する風潮について、技術・資本マシンの仕組みを理解せず、被害者意識から成功者を悪者にする傾向があると分析。代わりにe/accは、価値を創造することで世界のためになり、自分自身も価値を獲得できるというポジティブサム的な考え方の転換を目指していると述べる。

2:07:25 – Elon Musk

Elon Muskは技術の進歩を支持する一方で、AIの潜在的な危険性を警告してきた矛盾について議論。ヴェルドンは、Muskは多くの分野で規制に反対しながらもAIについては規制を支持していることを指摘。しかし、OpenAIが市場を独占し、LLMに埋め込まれる文化的先験知識を支配することへの懸念からxAIを立ち上げたと分析。ヴェルドンはAI企業間の「敵対的均衡」の維持という点では同意。Muskは行動（Neuralink設立など）を見れば、AIの進歩を止められない場合は融合技術を構築していると解釈できると述べる。また、AIの安全性は重要だが、安全性の名の下に権力の集中化や腐敗が隠れる危険性を指摘し、中央集権的な監視システムは「ビッグブラザー」的なシナリオにつながりかねないと警告している。

2:13:55 – Extropic

ヴェルドンの会社Extropicについて説明。1410万ドルのシード資金調達を発表。量子コンピューティングのロードマップに対する不満から生まれた会社で、ノイズの問題を克服するために熱力学に基づいたアプローチを採用。「物理学、情報理論、計算、そして最終的には熱力学の第一原理から生成AIのための究極の物理的基盤をエンジニアリングする」ことを目指している。TensorFlow Quantumの共同創設者Trevor McCourtがCTOを務め、IBMやAWSのシステムを設計した量子コンピュータアーキテクトたちが参加。ヴェルドンは「熱力学コンピュータ」を構築し、物理学ベースのAIアルゴリズムを開発していると述べる。異分野横断的なチーム作りの難しさと重要性についても言及している。

2:22:31 – Singularity and AGI

特異点とAGIについて議論。ヴェルドンは有限時間での「特異点」の概念に懐疑的で、むしろ漸近的な指数関数的成長を予測。Extropicは「物理学ベースのAI」と「人類学的AI」の組み合わせを目指しており、「物理学ベースのAIは世界を量子力学的、熱力学的、決定論的に表現できる多スケールの世界モデルエンジン」だと説明。一方、人類学的AIは人間的インターフェースを提供。この組み合わせが真に一般的な人工知能システムに最も近いと主張。また、現在の大規模言語モデルは「うまくごまかす」が真実に根ざしていないという限界があると指摘している。

2:26:29 – AI doomers

AIが人類を滅ぼす確率についての議論を振り返り、「ドゥーマー」（破滅論者）対「e/accers」という新たな政治的分断の可能性について考察。ヴェルドンはこの運動は右派や左派という従来の軸ではなく、文明の「上昇か下降か」という軸に基づくものだと説明。既存の政治勢力は、恐怖を植え付けることで政府に権力を移譲させる手段として「ドゥーマー」側に同調する傾向があるが、e/accの支持者層は政治的に均衡していると主張。これは技術進歩主義対技術保守主義という新たな時代の根本的な問題だと述べる。

2:27:54 – Effective altruism

効果的利他主義（EA）との比較について議論。EAは主に快楽主義的な観点から苦痛を最小化しようとする一方、e/accはより客観的な物理的エネルギーという指標を用いていると説明。「シュリンプファームの痛みの最小化」や「ワイアーヘッディング」（神経接続や短期的な快楽追求）のような「損失関数の偽の極小値」に陥る危険性をEAの問題点として指摘。両者とも人類の繁栄と成長を目指しているが、損失関数とアプローチが異なる。また、人間の文明や経験をすべて方程式に還元することへの懐疑論についても触れ、完全な情報がない場合、人間は不確実性を物語で埋めがちだと述べている。

2:34:23 – Day in the life

ヴェルドンの一日のルーティンについて。理想的な一日は正午から午前4時まで。午後の早い時間帯は外部ミーティングや内部ミーティングに充て、ケトン体サプリメントとエナジードリンクで集中力を高める。食事は一日一回、主にステーキと卵、野菜などの動物性食品を中心とした食事をとる。夜遅くまで技術的な問題に取り組み、エンジニアと協力して深い作業を行う。以前はパワーリフティングに取り組んでおり、神経適応を引き起こすための訓練法や身体と脳の関係についても言及。好奇心に従い、さまざまな分野を探求することの重要性を強調し、「脳にできるだけ多くの情報を取り込み、圧縮すること」を勧めている。

2:40:50 – Identity

二つのアイデンティティを持つことから学んだことについて。当初はギヨームと「キャラクター」としてのBeffを明確に区別していたが、時間とともに両者が徐々に融合していったと説明。匿名アカウントを持つことを若者に勧め、「低リスク環境で実験的な思考ができる」利点を強調。実名での発言は「形になっていないアイデア」の探求を妨げることがあり、匿名性は様々な視点を考慮した「厳格な共感」を可能にすると述べる。ただし、別の視点に没頭しすぎるとその視点に「なってしまう」危険性もあると警告している。

2:43:40 – Advice for young people

若者へのアドバイスとして、技術がどれだけ変化しても残る「スタックの基礎」を学ぶことの重要性を強調。基礎的な数学と物理学は変化せず、複雑系や適応系に関する知識は長期的に役立つと述べる。スタックの基礎に近いほど、新しい知識への「転移学習」が容易になり、物理的シナリオで学んだ概念は物理学以外のシステムを理解する際にも応用できると説明している。

「スタックの基礎」とは、技術やシステムの階層構造における最も基礎的な層を指す。ギヨーム・ヴェルドンが対談の中で使用したこの概念は、特に長期的に価値を持つ知識の基盤について説明する際に登場した。

コンピュータサイエンスでは、「テクノロジースタック」という言葉が使われる。これは、ソフトウェアやシステムが積み重なった階層構造を表す。例えば、ハードウェア→オペレーティングシステム→ミドルウェア→アプリケーションという階層がある。

ヴェルドンの文脈では、「スタックの基礎」とは、物理学や数学のような根本的な学問分野を指している。彼は若者へのアドバイスとして、技術環境がどれだけ急速に変化しても、物理学や数学の基礎的な原理は変わらないと述べている。これらの基礎的な知識を身につけることで、新しい技術やパラダイムが登場しても、それらを理解し適応するための強固な基盤ができると主張している。

ヴェルドンによれば、スタックの基礎に近ければ近いほど、新しい知識への「転移学習」（ある分野で学んだことを別の分野に応用する能力）が容易になる。例えば、物理学の概念は、直接関係のない他のシステムの理解にも応用できることがある。

この考え方は、急速に変化する技術環境において、どのような教育や学習が長期的な価値を持つかという重要な問いに関連している。特定の技術やツールに特化した知識はすぐに時代遅れになる可能性があるが、基礎的な原理の理解は長く役立つという洞察である。

2:45:42 – Mortality

死についての考えを述べる。ヴェルドンは「死は特徴であって欠陥ではない」と考える。熱力学的散逸適応には散逸が重要であり、「物理学は一度に一つの葬式で進歩する」という物理学の格言を引用。企業や帝国、人々など、すべては最終的に死ぬ必要があると説明。不死の王がいれば問題が生じ、システムが常に適応しなくなる。新しさ、若さ、混乱が必要であり、死は若さと新しさのためのスペースを提供すると述べる。ただし、長寿命化とより長い神経可塑性の期間は目指すべきだとしている。

2:49:25 – Meaning of life

生命の意味について議論。ヴェルドンは熱力学が生命、文明、技術の進化の基礎にあると説明。宇宙の特定のハイパーパラメータや定数に関しては人間原理に触れ、多くの潜在的宇宙の中で生命を可能にする宇宙に私たちがいることを指摘。将来的には新しい宇宙や小宇宙を設計し、ハイパーパラメータを設定できる可能性について言及。レックスの「なぜすべてが美しく、エキサイティングに見えるのか」という質問に対しては、人間は予測と現実の間の乖離を最小化したいという本能があり、未知の領域を理解したいという欲求は自身の維持と成長のためのエネルギーを獲得する能力を高めるための進化的能力だと回答している。

美への感覚が進化的に形成された能力である理由は、世界のパターンや秩序を認識することが生存上の利点をもたらすためと考えられる。美しいと感じるものは多くの場合、情報処理の効率性が高い構造を持っており、脳はそれを認識すると報酬系が活性化する。例えば対称性のある形や自然界の規則性に美を感じることは、有用な情報の識別や予測精度の向上につながる。ヴェルドンの熱力学的世界観では、この美的感覚はエネルギー獲得をより効率的に行うための進化的適応と解釈できる。つまり、美への感覚は単なる副産物ではなく、生存と繁栄のための機能的な能力として発達したと考えられる。ただし、芸術や音楽における美の体験など、純粋な実用性を超えた側面もあり、美的感覚の起源については現在も研究が続いている。

序論

レックス・フリードマン

(00:00:00)以下は、以前はXの匿名アカウント@BasedBeffJezosの背後にいたギョーム・ヴェルドンとの会話です。この2つのアイデンティティは、Forbesの「テックエリートのE/Accムーブメントのリーダー、@BasedBeffJezosとは何者か？

そこで、1人の人間の心の中に共存する2つのアイデンティティについて説明しましょう。その1、ギヨームは物理学者であり、応用数学者であり、量子機械学習の研究者であり、エンジニアです。量子機械学習で博士号を取得し、Googleで量子コンピューティングの研究に従事し、最終的にExtropicという自分の会社を立ち上げました。

(00:00:47)アイデンティティその2、Xのベフ・ジェゾスは、しばしばe/accと略される効果的加速主義運動の創始者であり、人類にとって倫理的に最適な行動として急速な技術進歩を推進することを提唱しています。e/accの支持者たちは、AIは非常に予測不可能で潜在的に危険であり、規制が必要であるという慎重な意見に対抗するものだと考えています。ベフ自身が言うように、「e/accは模倣的楽観主義ウイルス」なのです。

(00:01:37)このムーブメントのコミュニケーションのスタイルは、常にミームや笑いに傾いていますが、私たちがこの対談で探求している知的基盤があります。さて、ミームといえば、私は不条理の愛好家のようなものです。ジェフ・ベゾスとベフ・ジェゾスと話をしたのは偶然ではありません。

ベフはジェフを生きている中で最も重要な人間の一人として賞賛し、私はその美しい不条理とユーモアに感服しています。これはレックス・フリッドマン・ポッドキャストです。応援してくださる方は、説明文にあるスポンサーをチェックしてください。それでは皆さん、ギヨーム・ヴェルドンです。

ベフ・ジェゾス

(00:02:23) まず身元をはっきりさせましょう。あなたの名前はギョーム・ヴェルドン、Gillですが、@BasedBeffJezosというXの匿名アカウントの後ろにもいますね。まず、ギヨーム・ヴェルドン、あなたは量子コンピュータの専門家で、物理学者、応用数学者です。そして、@BasedBeffJezosは基本的にミームアカウントで、その背後に哲学を持つムーブメントを起こしました。

では、キャラクターやコミュニケーションスタイル、哲学の観点から、これらの人々がどのような人たちなのか、もう少し詳しく教えていただけますか？

ギョーム・ヴェルドン

(00:02:58) つまり、私の主なアイデンティティは、子供の頃から、すべての理論を解明し、宇宙を理解したかったということです。そしてその道は私を理論物理学へと導き、最終的には「なぜ私たちはここにいるのか？私たちはどこへ行くのか？

そして情報理論を学び、情報理論のレンズから物理学を理解し、宇宙をひとつの大きな計算として理解しようとするようになりました。そして、ブラックホール物理学を研究して一定のレベルに達した後、私は宇宙がどのように計算するのかを理解するだけでなく、自然のように計算し、自然からヒントを得たコンピュータを構築して応用する方法を見つけたいと思うようになりました。

物理ベースのコンピューターですね。そして、まず自然をシミュレートするための研究分野として、量子コンピューティングにたどり着きました。私の研究は、そのようなコンピュータ上で実行できる自然の表現を学ぶことでした。

(00:04:17) つまり、自然のように考えるAI表現があれば、より正確に自然を表現できるようになるということです。これが、私が量子機械学習という分野で早くから活躍することになった理由です。量子コンピューター上で機械学習を行い、知能の概念を量子の領域に拡張する方法です。

つまり、私たちの世界から量子力学的なデータをどのように取得し、理解するのか？私たちの世界の量子力学的表現をどのように学習するのでしょうか？どのようなコンピュータでこれらの表現を実行し、訓練するのでしょうか？その方法は？最終的に私は、ある種の信念の危機を感じたので、この疑問に答えたいと思ったのです。もともと私は、物理学者がキャリアをスタートさせるときに誰もがするように、宇宙全体を記述する方程式をいくつか見つけ出し、そこで物語の主人公になりたかったのです。

(00:05:28)しかし、やがて私は、機械で自分自身を拡張すること、機械で世界を知覚し、予測し、制御する能力を拡張することこそが、実際に前進する道なのだと気づきました。それで理論物理学を離れ、量子コンピューティングと量子機械学習の道に進んだのです。

その頃、私はまだ欠けている部分があると考えました。私たちの世界に対する理解、計算方法、世界についての考え方には、まだ欠けている部分があるのです。物理的なスケールを見ると、非常に小さなスケールでは物事は量子力学的であり、非常に大きなスケールでは物事は決定論的です。

物事は平均化されています。私は間違いなくこの席にいます。私はあちこちにいるわけではありません。非常に小さなスケールでは、物事はスーパーポジションではありません。干渉効果を示すこともあります。しかしメゾスケールでは、日々の生活にとって重要なスケール、タンパク質や生物学、気体、液体などのスケールでは、物事は実際に熱力学的にゆらいでいるのです。

(00:06:46)そして8年ほど経って、量子コンピューティングと量子機械学習に取り組んだ後、私は非常に大きく、非常に小さいものを研究することで、私たちの宇宙についての答えを探していることに気づきました。量子宇宙論も少しやりました。

つまり、宇宙がどこへ行き、どこから来たのかを研究することです。ブラックホールの物理を研究し、量子重力の極限を研究し、量子力学と重力の両方が関係するのに十分なエネルギー密度を研究します。その極端なシナリオとは、ブラックホールと超初期宇宙です。つまり、量子力学と相対性理論の境界を研究するようなシナリオです。

(00:07:42) そして私は、宇宙がどのように機能し、どこへ向かっているのかを理解するために、このような極限を研究していたのです。というのも、日頃の量子力学も宇宙も関係あるのですが、実はそれほど関係ないのです。というのも、量子力学は日常的なものであり、宇宙も関係あるのですが、実はそれほど関係ないのです。

そこで最も重要な物理学の理論は、熱力学です。生命は熱力学的なプロセスであり、平衡状態から外れているからです。私たちは自然界と平衡状態にある単なる粒子のスープではなく、自由エネルギーを得てそれを消費することで自らを維持しようとする、ある種の首尾一貫した状態なのです。そして、アルファベットでの勤務が終わる頃に、宇宙に対する信頼がまたひとつ変化したんです。そして私は、まず第一に、この種の物理学に基づいたコンピューティング・パラダイムを構築したいと思いました。

(00:08:57)しかし最終的には、これらのアイデアを社会や経済、そして私たちの身の回りにあるものの多くに適用して実験してみることで、私は匿名アカウントを始めました。また、もともとアイデアを試すために匿名アカウントを始めたのですが、手放す機会を得るまで、自分がどれだけ自分の思考の空間を制限しているのか気づかなかったからです。

ある意味、発言を制限することは、思考を制限することにつながります。そして、匿名アカウントを作成することで、私の脳内のいくつかの変数の締め付けが解除され、突然、思考のはるかに広いパラメータ空間を探索できるようになったように思えました。

レックス・フリードマン

(00:10:00)そのことについて少し。興味深いのは、人々があまり口にしないことの1つに、発話に圧力や制約があると、その必要がないにもかかわらず、なぜか思考に制約が生じるということがありますね。私たちは頭の中で思考することはできますが、なぜか思考の周りに壁ができてしまうのです。

ギョーム・ヴェルドン

(00:10:23) そうです。それが私たちの運動の基礎のようなものです。私たちは、思考であれ、会社の経営方法であれ、人間の組織化方法であれ、AI研究の方法であれ、生活のあらゆる側面において、変種の制約、削減、抑制に向かう傾向を見てきました。

一般的に私たちは、多様性を維持することでシステムの適応性を確保できると考えています。アイデアの市場、企業の市場、製品の市場、文化の市場、政府の市場、通貨の市場において健全な競争を維持することが前進する道です。この運動の基本的な基盤は、生命とは宇宙の自由エネルギーを探し求め、成長しようとする一種の炎であるという認識です。

そしてその成長は生命にとって基本的なものなのです。これは平衡熱力学の方程式を見ればわかります。自由エネルギーを獲得し、より多くの熱を放散させることができる物質の軌道や構成は、指数関数的に可能性が高くなります。つまり、宇宙は特定の未来に偏っており、システム全体が進みたい方向が自然と決まっているのです。

熱力学

レックス・フリードマン

(00:12:21) 熱力学の第二法則によれば、宇宙では常にエントロピーが増加し、平衡に向かう傾向にあるということですね。そして、複雑で平衡から外れているポケットがあるということですね。熱力学では、エントロピーの負荷を軽減するためにエネルギーを使用する能力を高める複雑な生命体の創造が有利だとおっしゃいましたね。エントロピーの負荷。つまり、非エントロピーのポケットがあるわけです。なぜ、そのようなポケットが生まれるのが自然だと直感的に思えるのですか？

ギョーム・ヴェルドン

(00:12:53) そうですね、私たちは、たとえば自分と同じような質量を持つただの岩よりも、はるかに効率的に熱を作り出しています。私たちは自由エネルギーを獲得し、食料を獲得し、活動するために電気を使用しています。宇宙はより多くのエントロピーを生み出そうとし、生命が成長し続けることで、エントロピーをより最適に生み出すことができるのです。

それが生命の基本です。マサチューセッツ工科大学のジェレミー・イングランドは、生命が誕生したのはこのような性質によるものだという説を唱えています。私にとっては、この物理学こそがメソスケールを支配するものなのです。つまり、量子と宇宙の間に欠けているピースなのです。中間部分です。メソスケールを支配するのは熱力学です。

(00:14:08)そして私にとって、その物理学を利用する装置の設計やエンジニアリングの観点からも、熱力学のレンズを通して世界を理解しようとする観点からも、この1年半の間、私の2つのアイデンティティの相乗効果のようなものがありました。

こうして2つのアイデンティティが生まれたのです。ひとつは、私はそこそこ尊敬される科学者であり、この分野でスタートアップを立ち上げ、新しい物理学ベースのAIのパイオニアになろうとしていました。それと並行して、物理学者の立場から哲学的な思考を試していました。

(00:14:58)そして最終的には、その頃、2021年の終わりから2022年の初めにかけて、一般的に未来に対する悲観論や技術に対する悲観論が多かったと思います。そして、その悲観論はアルゴリズムによって増幅され、ウイルス的に広がっていきました。

私にとっては、このような破滅的な考え方は宇宙を根本的に破壊する力だと思います。ですから、文明の軌跡と、その成長に適応しようとするシステムの自然な傾向を人々に認識させる責任があると感じました。物理学の法則によれば、統計的に未来はより良く、より壮大になり、私たちはそれを実現することができるのです。

(00:16:14)そして、もしあなたがそれを信じ、未来がより良くなると信じ、自分にはそれを実現する主体性があると信じれば、より良い未来が起こる可能性が高まるのです。だから私は、未来に対するバイラルな楽観主義のムーブメントを巻き起こし、文明の規模を拡大するために必要な困難なことを成し遂げるために、互いに支え合うコミュニティを構築する責任を感じていました。

少なくとも私には、停滞や減速という選択肢はあり得ないと思うからです。根本的に、生命とシステム全体、文明全体が成長を望んでいるのです。そして、システムが衰退してパイをどう分けるかを決めなければならない時よりも、成長している時の方がはるかに協力的なのです。私はこれまで両方のアイデンティティのバランスを取ってきましたが、最近、私の同意なしにこの2つが多かれ少なかれ統合されたようです。

レックス・フリードマン

(00:17:27) 本当に興味深いことをたくさん言っていますね。まず、自然の表現についてですが、これは量子コンピュータの観点から自然を理解しようとしたときに、あなたが最初に引き込まれたものです。自然を理解し、それをシミュレートし、それを使って何かをするためには、どのように自然を表現すればいいのでしょうか？

量子力学的な表現から、熱力学が登場するメゾスケールの表現へと飛躍するわけです。生命、人間の行動、私たちにとって興味深いと思われる、この地球上で起こっているあらゆることを理解するための、自然を表現する方法です。

ドキシング

(00:18:11) それから、ハイパースティションという言葉もあります。悲観主義も楽観主義も、それを内面化すれば、その考えを現実のものとしてしまうような考えです。楽観主義も悲観主義もそのような性質を持っているのです。おそらく多くの考え方がそのような性質を持っていると思います。

また、ギヨームやジルのフロントエンドと@BasedBeffJezosのバックエンドの興味深い違いとして、21世紀のコミュニケーション方法において、よりバイラルなコミュニケーション方法を模索しているというお話がありました。また、あなたが始めたとおっしゃった運動ですが、単なるミームアカウントではなく、効果的加速主義、e/accという名前もあります。

ギョーム・ヴェルドン

(00:20:25) いいえ。

レックス・フリードマン

(00:20:25) そうですか、別人ですか？

ギョーム・ヴェルドン

(00:20:26) そうです。

レックス・フリードマン (00:20:27)

(00:20:27) わかりました。わかりました。では、どうぞ。

私が@bayeslordだったら面白くないですか？

ギョーム・ヴェルドン

(00:20:31) それはすごいですね。この会社を設立したのと同じ頃にマニフェストを書いたんですが、私はGoogle Xか、今はXだけですがAlphabet Xで働いていました。他のグーグル社員や社外にさえも、自分が取り組んでいることについて話すことはできません。

特に地政学的な影響を及ぼすようなディープ・テックでは。だから私は、自分が取り組んでいることを秘密にしていました。私の会社と私の主なアイデンティティの間に相関関係はありませんでした。そして、彼らはそれを相関させただけでなく、私のメインのIDとこのアカウントも相関させたのです。

(00:21:33)彼らがギヨーム・コンプレックス全体をDoxしたことで、彼らは、ジャーナリストは実際に私の投資家に接触したと思います。スタートアップの起業家の場合、投資家以外に上司はいません。私の投資家たちは、「おい、これは公表されるぞ。彼らはすべてを把握しています。どうするの？”って。

(00:24:00) 前に挙げた理由から、匿名アカウントを持つことは権力者を牽制する本当に強力な方法だと思います。私たちは最終的に、権力に対して真実を語ったのです。多くの幹部やAI企業は、彼らが取るかもしれないどんな動きについても、私たちのコミュニティがどう考えているかを本当に気にしていたと思います。

そして今、私の身元が明らかになったことで、彼らは私やコミュニティを黙らせるためにどこに圧力をかければいいのかがわかりました。私にとっては本当に残念なことです。言論の自由があることは、思想の自由やソーシャルメディア上での情報伝播の自由を生み出すとても重要なことです。

イーロンがツイッターを買収したおかげで、私たちはそれを手に入れることができました。ですから、私たちは、AIの現存者によって行われているある種の作戦が、表面的には見かけとは違うものであることを訴えたかったのです。私たちは、ある提案が規制の掌握にどのように役立つ可能性があるのか、また、ドゥーマーイズム的な考え方がそのような目的のためにどのように役立ったのかを訴えたかったのです。

(00:25:32)そして、私たちはそれを指摘し、私たちが出したアイデア自体を評価してもらう権利を持つべきだと思います。結局のところ、それが私が匿名のアカウントを作った理由であり、自分の実績や仕事、過去に何かをやったというステータスとは無関係に、自分のアイデアを評価してもらうためなのです。

そして、自分のアイデンティティや実績に依存しない形で、ゼロからアカウントを立ち上げ、多くのフォロワーを獲得することは、私にとってとても充実したことでした。ビデオゲームのニューゲーム・プラスのようなものです。ゲームに勝つための知識やツールは持っているけれど、ゼロからゲームを再開するようなものです。そして、本当に効率的なアイデアの市場を持つためには、たとえそれがどんなに常軌を逸していても、アイデアを評価することができる、表現の自由が必要なのだと思います。

(00:26:37)そして、匿名性やペンネームは、私たちが自分自身を組織化するためのあらゆる種類の最適な方法を見つけるために、アイデアの効率的な市場を持つために非常に重要だと思います。もし議論することができなければ、どうやって最善の方法に収束させることができるでしょうか？

だから、私がドックスされると聞いてがっかりしました。私は会社に対する責任があったので、その前に立ちたかったのです。それで結局、私たちが会社を経営していること、リーダーシップの何人かを公開し、本質的には、そう、私がベフ・ジェゾスであることを世間に公表しました。

レックス・フリードマン

(00:27:25) あなたにとって、それは根本的に非倫理的なことなのですね。あなたのケースだけでなく、一般的なケースとして、それは社会にとって良いことなのでしょうか？それともケースバイケースですか？

ギョーム・ヴェルドン

(00:27:47) かなり悪いことだと思います。私が言ったように、権力に真実を語り、現職の人々や情報の氾濫を通常コントロールしている人々に対して運動や蜂起を始めるような人は誰でも、ある閾値に達した人は誰でも、doxedされ、その結果、伝統的な装置は彼らの言論を抑圧するために圧力をかける方法を持つようになれば、それは言論抑圧のメカニズム、エリック・ワインスタインが言うような思想抑圧の複合体だと思います。

匿名ボット

私にとっては、それも懸念事項でした。ドイツで起こったことを見てみましょう。ドイツではさまざまな環境保護運動が起こり、原子力発電所の停止が引き起こされました。その結果、石油をロシアに依存するようになりました。これはドイツと西側諸国にとってマイナスでした。ですから、AIの進歩を遅らせて少数のプレーヤーだけにすることが西側諸国にとって最善の利益だと自分たちを納得させるのであれば、まず第一に、その方がはるかに不安定です。

(00:33:20) 私たちはこのイデオロギーのためにOpenAIを失いかけました。数週間前、もう少しで解体されるところでした。そうなれば、AIのエコシステムに甚大なダメージを与えるところでした。ですから私は、フォールト・トレラントな進歩を望んでいます。

技術進歩の矢印を前進させ続け、分散化し、さまざまな組織をコントロールできるようにすることが、このフォールトトレランスを達成するために最も重要なことなのです。実は、量子コンピュータの概念があります。量子コンピュータを設計する場合、量子コンピュータは周囲のノイズに非常に弱く、宇宙からの宇宙線によって量子ビットが反転してしまいます。

そこで、量子エラー訂正と呼ばれるプロセスによって、情報を非局所的にエンコードします。情報を非局所的に符号化することで、量子ビットのいくつかがハンマーで叩かれるような局所的な障害が発生しても、情報が十分に非局所化されていれば、その局所的な障害から保護されます。私は、人間には揺らぎがあると思います。腐敗することもあれば、買収されることもあります。トップダウンのヒエラルキーで、ごく少数の人間…ギヨーム・ヴェルドン

ギョーム・ヴェルドン

(00:35:00)ごく少数の人間が文明の多くのシステムの多くのノードをコントロールする階層構造。それはフォールト・トレランス・システムではなく、少数のノードを破損させれば、突然システム全体を破損させることになります。OpenAIで見たように、数人の理事が、組織を崩壊させるほどの力を持っていたのです。少なくとも私は、このAI革命の権力が少数の人間の手に集中しないようにすることが、AIの進歩を維持し、安定した、敵対的な権力の均衡を維持するための最優先事項の1つだと考えています。

パワー

レックス・フリードマン

(00:35:54)私は、少なくとも私にとっては、ここでのアイデア間の注意は、減速は権力の集中化にも分散化にも使えると思います。ですから、同義語で使うこともあれば、そうでないこともあります。

AIの危険性も考慮した上で、フォールト・トレラントで多様性のあるAIを開発する場所はあるのでしょうか？AIは、テクノロジー全般に一般化することができますが、私たちはただ成長し、構築し、できるだけ早く無制限にすべきなのでしょうか？それとも、危険性を考慮し、賢明な戦略的楽観主義と無謀な楽観主義を使い分けるべきでしょうか？

ギョーム・ヴェルドン

(00:36:57) 私たちは無謀で、できるだけ速く進もうとしているように描かれていると思います。つまり、現実には、AIシステムを導入する人は誰でも、そのシステムが行うことに対して責任を負う、あるいは負うべきなのです。ですから、AIシステムを導入した組織や人が何かひどいことをすれば、責任を負うことになります。

そして最終的には、市場はより信頼性が高く、より安全で、あなたが望んでいることをやってくれるAIを積極的に選択するということです。なぜなら顧客は、AIを使用した製品に信頼性があれば、信頼性の低いAI製品を買いたくなくなるからです。ですから、私たちは信頼性工学に賛成です。ただ、このような信頼性の最適化を達成するためには、既存企業によって書かれた強引な規制よりも、市場の方がはるかに効率的だと考えています。

(00:39:47) ただ恣意的に30%というのは非常に恣意的だと思います。組織であれば、市場で業績を上げるために必要な信頼性を達成するために、必要な予算を配分すると思います。なぜなら、顧客はあなたの製品が信頼性が保証されていることをどうやって知るのでしょうか？

というのも、顧客はあなたの製品が信頼できるものだとどうやって知るのでしょう？私が反対したいのは、そして本当に心配なのは、既存企業や大手企業と政府との間に奇妙な相関関係があることです。この2つが密接になりすぎると、政府の支援を受けたAIカルテルが国民に対して絶対的な権力を持つ可能性が出てきます。もし彼らがAIを独占し、他の誰もAIにアクセスできないのであれば、そこには大きな力の勾配があります。

(00:40:54)そして、たとえ今のリーダーたちが好きだとしても、そうですね、今のビッグテックのリーダーたちの何人かは良い人たちだと思いますが、中央集権的な権力構造を作れば、それが標的になります。そう、OpenAIで見たように、市場をリードし、多くの権力を持ち、その権力を利用しようとする人たちの標的になるのです。

私はAIと国家の分離を望んでいます。「敵対国との地政学的な競争のために、AIを閉鎖し、密室にしておく必要がある」というような反対意見もあるでしょう。私は、アメリカの強みはその多様性であり、適応力であり、ダイナミズムであると思います。私たちの自由市場資本主義は、中央集権的な統制よりもはるかに早く、実用性の高い技術に収束します。もしそれを手放してしまえば、同業他社に対する私たちの主なアドバンテージを手放してしまうことになります。

AGIの構築

レックス・フリードマン

ギョーム・ヴェルドン

(00:48:42) 宇宙にはたくさんの美しさがあると思います。生命そのもの、文明、このホモ・テクノ、資本模倣機械、その中で私たちは生きています。人間、テクノロジー、資本、ミーム、すべてが互いに結びつき、すべてが互いに選択圧を引き起こし合っています。

そして、私たちを生み出し、私たちが今日聴衆の前で話すために使っているテクノロジーを生み出し、ここで私たちのスピーチをキャプチャーし、私たちが毎日自分自身を補強するために使っているテクノロジーを生み出し、私たちは携帯電話を持っています。このシステムは美しいと思いますし、このような順応性と最適な技術やアイデアへの収束をもたらす原理は、私たちがその一部であることを示す美しい原理です。

(00:49:37)そしてEACの一部は、この原理を、人類を中心としたものだけでなく、もっと広い意味で、生命や、私たちの宇宙における意識の尊さを評価することだと思います。私たちが今いるこの美しい物質の状態を大切にしているからこそ、それを維持するために規模を拡大する責任を感じなければならないのです。

AIとの融合

レックス・フリードマン

(00:50:13) 宇宙の意識という美が人間よりも大きいとわかれば、AIは同じ炎を前に運ぶことができるわけですね。

AIが人間に取って代わることを心配しますか？

ギョーム・ヴェルドン

(00:50:32) 私のキャリアの中で、私たちを取り巻く宇宙を真に理解するためには、ペンと紙を持った人間にすべてを解決させるのではなく、機械にすべてを委ねる必要があるのではないかと気づいた瞬間がありました。そして、主体性を少し手放すことで、私たちを取り巻く世界をより深く理解することができるようになったのです。量子コンピューターは、ナノスケールの物質を理解する上で、人間よりもはるかに優れています。

同様に、人類には選択肢があると思います。AIが解き放つ知的・操作的レバレッジを持つ機会を受け入れ、文明の範囲と規模における成長の道を確実に歩むかどうか。私たち自身が希薄化するかもしれませんね？多くの労働者がAIになるかもしれませんが、全体的には私たち自身の利益のために、AIと私たち自身を組み合わせ、補強することで、私たちははるかに高い成長と繁栄を達成することになるのです。

(00:51:49)私にとって、最も可能性の高い未来は、人間がAIで自分自身を増強するものだと思います。私たちはすでにこの拡張への道を歩んでいると思います。ウェアラブルもありますし、Humane AI Pinのように知覚を共有するものもあります。

そして、人類がAIで自らを強化することと、生物学的なものに縛られないAIを持つこと、その両方が共存することになると思います。そして、両者を調整する方法として、私たちはすでに人間とテクノロジーからなる超知能を調整するメカニズムのようなものを持っています。企業はある種の専門家モデルの大規模な混合体であり、企業内のタスクの神経的ルーティングがあり、これらの巨大なものを調整するための経済的交換の方法があります。

(00:53:10) そして私は、資本主義こそが道であり、物質や情報のどのような構成であれ、最大の成長につながるのだと思います。ですから、私たちはその現実に自らを合わせ、文明の範囲と規模の加速に加わるか、あるいは取り残されて減速し、森の中に戻ってテクノロジーを手放し、原始的な状態に戻ろうとするかのどちらかです。少なくとも私にとっては、この2つの道が前進する道なのです。

レックス・フリードマン

レックス・フリードマン

(00:57:56) では、p(doom)、破滅の確率についてお聞きしましょう。言うのは楽しいですが、体験するのは楽しくないですね。

あなたにとって、AIが最終的にすべての、あるいはほとんどの人間を殺す確率はどれくらいですか？

ギョーム・ヴェルドン

(00:58:16)私はその計算が好きではありません。人はただ数字を並べるだけで、とてもずさんな計算だと思いますね。確率を計算するには、世界をある種のマルコフ過程としてモデル化するとします。確率論的な経路積分は、脳が自然に導く未来だけでなく、すべての可能な未来の空間を通して行う必要があります。

p(doom)の推定値が偏っているのは、私たちの生物学のせいでしょう？なぜなら、それが進化的に最適だったからです。だから、例えば神経症的な傾向の強い人は、毎日毎日すべてがうまくいかないようなネガティブな未来を考えて、自分は偏りのないサンプリングをしていると主張します。そしてある意味、彼らはあらゆる可能性の空間に対して正規化していないのです。あらゆる可能性の空間は超指数関数的に大きく、このような推定をするのは非常に難しいのです。

(00:59:40)そして一般的に、カオスのせいで、そこまで細かく未来を予測することはできないと思います。複雑なシステムで、不確定要素があり、変数がいくつかあり、時間を進化させると、リアプノフ指数という概念がありますよね。

時間が経つにつれて、少しファジーな部分が指数関数的にファジーになっていきます。私たちが持っている唯一の事前知識は物理法則です。物理学の法則によれば、システムは成長を望み、成長と複製に最適化されたサブシステムは将来的に可能性が高くなります。ですから私たちは、未来との現在の相互情報を最大化することを目指すべきであり、そのための道筋は、私たちが減速するよりもむしろ加速することなのです。

(01:00:40)ですから、私はp(doom)を持っていません。なぜなら、Googleの量子至上主義実験に似ていると思うからです。あれは量子カオスシステムの一例で、世界最大のスーパーコンピューターを使っても、ある結果の確率を推定することすらできません。これはカオスの一例で、ある未来の可能性を正確に推定するには、システムがあまりにもカオスすぎるのです。もしそんなことができるのなら、株式市場で大金持ちになっていることでしょう。

レックス・フリードマン

(01:01:23)しかし、それにもかかわらず、人間は進化生物学に基づいた偏った考えを持っていて、自分を殺す可能性のあるもの全てに怯えているのは事実です。でも、人類の歴史に根ざした基本的な直感と組み合わせることで、どんなことが起こるのかを推論するのに役立つと思います。核兵器を見れば、数学的な意味ではなく、もっと哲学的な意味でp(doom)を見積もることができます。

哲学的な意味とは、可能性はあるのか？人間の本性はそのような傾向にあるのでしょうか？

(01:10:00) …階層化されています。各階層がローカルで、圧倒的に性能がよく、耐障害性がはるかに高いのです。というのも、非ローカルなデコーダーがあった場合、この制御ノードに1つ障害が発生すると、システム全体がクラッシュしてしまうからです。

同じように、CEOが一人いて、そのCEOが休暇に入ると、会社全体が止まってしまいます。私としては、AIの中央集権化の傾向は見られますが、時間の経過とともに修正され、インテリジェンスは知覚に近づいていくと考えています。そして、AIはより小さなサブシステムに分割され、互いにコミュニケーションを取りながらメタシステムを形成するようになるでしょう。

レックス・フリードマン

(01:13:52)知性と計算はまったく同じものではありません。宇宙は量子的な計算をしていると思います。もし、すべての自由度と、たくさんの量子ビットを持つ、とてもとても大きな量子コンピュータがあれば、宇宙全体をシミュレートすることができるでしょう。少なくとも私にとっての知性とは、サイバネティクスに戻りますが、世界を知覚し、予測し、制御する能力だと思います。

(01:14:46)しかし現在では、私たちが使っている多くの知性は、むしろ圧縮に関するもののように思えます。情報理論を運用することです。情報理論では、分布やシステムのエントロピーという概念があり、エントロピーは、最適なコードがあれば、この分布やサブシステムを符号化するのに、これだけのビットが必要だと教えてくれます。

AIは、少なくとも今日のLLMや量子のやり方では、世界のモデルと世界、世界からの分布の間の相対エントロピーを最小化しようとしています。私たちは学習し、世界を処理するための計算空間を探索し、ノイズとエントロピーの分散をすべて抽出した圧縮表現を見つけようとしているのです。

(01:15:58)もともと私はブラックホールの研究から量子機械学習に入りました。ある意味、ブラックホールは物理的に宇宙で最も密度の高い物体です。ブラックホールほど空間的に高密度に情報を詰め込むことはできません。では、ブラックホールは実際にどのように情報をエンコードしているのでしょうか？その圧縮コードは何なのでしょうか？それでアルゴリズムの世界に入り、量子コードの空間を探索するようになりました。さらに、量子情報をどうやって世界から得るのか？量子アナログ・デジタル変換です。

(01:16:50)どうやってリアルワールドの情報を重ね合わせた状態で取り込み、重ね合わせた状態を壊さずに、量子力学的なコンピュータのためにリアルワールドの情報をデジタル化するのでしょうか？量子情報を捕捉し、その表現表現を学習する能力があれば、潜在的な表現に有用な情報を持つ可能性のある圧縮表現を学習することができます。私たちの文明が直面している問題の多くは、実はこの複雑性の壁を超えていると思います。温室効果は量子力学的効果です。化学は量子力学的です。核物理学は量子力学です。

(01:17:43) 生物学の多くやタンパク質の折り畳みなどは量子力学の影響を受けています。ですから、量子力学的コンピューターや量子力学的AIによって人間の知性を強化する能力を引き出すことは、私たちが開発すべき文明の基本的能力のように思えました。私はそのために数年を費やしましたが、そのうちに核融合のようなタイムラインにうんざりするようになりました。

レックス・フリードマン

(01:18:17) ひとつ高度な質問ですが、定義や説明として、量子コンピューターとは何ですか？

ギョーム・ヴェルドン

(01:18:27) 量子コンピュータとは、量子力学的なシステムであり、量子力学的な状態を維持できるものです。量子力学は、物事が非常に小さいスケールや非常に冷たいスケールで自然がどのように振る舞うかを示すもので、実は確率論よりも基本的なものなのです。

私たちは物事があれかこれかであることには慣れていますが、重ね合わせで考えることには慣れていません。そのため、量子力学の世界を理解するためには、線形代数学に翻訳する必要があります。残念ながら、この変換は平均して指数関数的に効率が悪いのです。非常に大きな行列で物事を表現しなければならないのです。私たちは、中性原子、トラップされたイオン、異なる周波数の超伝導金属光子など、あらゆる種類のプレーヤーを見てきました。

(01:19:38)様々なものから量子コンピュータを作ることができると思います。しかし、私にとって本当に興味深かったのは、量子機械学習は量子コンピュータを使って量子力学的世界を理解することであり、物理世界をAI表現に埋め込むことであり、量子コンピュータ工学はAIアルゴリズムを物理世界に埋め込むことでした。

物理世界をAIに組み込み、AIを物理世界に組み込むという双方向性、物理学とAIの共生が、量子コンピューター以降の今日に至るまで、私の探求の核心となっています。物理学とAIを融合させる旅は、今も続いています。

レックス・フリードマン

(01:20:29) 量子機械学習とは、自然の量子力学的側面に忠実な自然表現で機械学習を行う方法ですか？

ギョーム・ヴェルドン

(01:20:43) ええ、量子力学的な表現を学習することです。それが量子ディープラーニングです。あるいは、量子コンピューター上で古典的な機械学習を行うこともできます。高速化できるかもしれませんが、多くの場合、高速化には莫大なコストがかかります。量子コンピュータを使うのは非常に高価です。

(01:21:08) それはなぜか？コンピュータをゼロ温度で動作させると仮定しているからです。そのために必要なのが、これまで述べてきた量子エラー訂正プロセスです。システムからエントロピーを汲み上げ、ゼロ温度に近づけようとしているのです。

例えば、量子コンピュータでディープラーニングを行う場合、古典的なディープラーニングを行う場合、どれだけのリソースが必要かを計算すると、膨大なオーバーヘッドが発生し、割に合いません。ロケットを使って都市を横断し、軌道を往復して何かを輸送しようと考えるようなものです。意味がありません。配送トラックを使えばいいのです。

レックス・フリードマン

(01:21:53) 量子ディープラーニングを使えば、ディープラーニングでは理解できないようなことを解明したり、予測したり、理解したりできるのでしょうか？量子力学的なシステムを学習プロセスに組み込むということですか？

ギョーム・ヴェルドン

(01:22:05) 素晴らしい質問だと思います。基本的には、古典的な表現では捉えるのが非常に難しい量子力学的相関を十分に持つシステムであれば、どのようなものでもよいのです。そうであれば、純粋な古典的表現よりも量子力学的表現の方が有利なはずです。

問題は、どの系が非常に量子的で十分な相関を持っているかということです。しかし、それはまた、どの系が産業界にまだ関連しているかということでもあります。これは大きな問題です。人々は化学や核物理学に傾いています。私は量子センサーからの入力を実際に処理することに取り組んできました。

量子センサーのネットワークがあれば、世界の量子力学的なイメージをとらえ、それをどのように後処理すれば、量子的な機械知覚が可能になります。例えば、フェルミ研究所では量子センサーを使って暗黒物質の検出を研究しています。私にとっては、子供の頃から宇宙を理解しようと探求してきたことと一致しています。

ですから、いつの日か、宇宙の最も初期の部分を覗き見るのに役立つ、非常に大規模な量子センサーのネットワークができることを願っています。例えば、LIGOは量子センサーです。ただ、非常に大規模なものです。つまり、量子マシンの知覚、シミュレーション、量子シミュレーションの理解、アルファフォールドのようなものです。アルファフォールドはタンパク質の配置の確率分布を理解しました。量子機械学習では、電子の配置に関する量子分布をより効率的に理解することができます。

レックス・フリードマン

(01:23:53) あなたは「A Universal Training Algorithm for Quantum Deep Learning（量子ディープラーニングのための普遍的学習アルゴリズム）」というタイトルの論文を共著していますね。

(01:27:14) そうです。私たちが学生時代に始めたTensorFlow Quantumプロジェクトのオリジナルチームには、ウォータールー大学の私自身がいました。当初、私は物理学者で応用数学者でした。コンピュータ科学者、機械工学者、そして物理学者もいました。実験が中心でした。非常に学際的なチームを編成し、どのようにコミュニケーションをとり、知識を共有するかを考えることが、学際的なエンジニアリングの仕事をする上で本当に重要なことなのです。

(01:27:51) 大きな違いがあります。数学では、数学のために数学を探究することができます。物理学では、私たちを取り巻く世界を理解するために数学を応用します。工学では、世界をハックしようとします。自分が知っている物理学や世界についての知識を、どのように応用して物事を行うかを見つけようとしているのです。

レックス・フリードマン

(01:31:45) ええ、D状態の量子ビットです。

レックス・フリードマン

(01:31:49)

(01:31:49) 多次元ですか？

ギョーム・ヴェルドン

(01:31:50) 多次元ですね。量子力学的な整数浮動小数点という概念はあるのでしょうか？それは私が考えなければならないことです。この研究は、後の量子アナログデジタル変換の先駆けだったと思います。修士課程では、空虚な真空のエネルギーとエンタングルメントを理解しようとしていました。虚無にはエネルギーがあります。私たちの宇宙論の方程式は、ゆらぎの中にある量子エネルギーの量についての計算と一致しません。

(01:32:36) 私は真空のエネルギーをハックしようとしていました。技術的にはフリーエネルギーではないのです。揺らぎについての知識がないため、エネルギーを取り出すことができないのです。しかし、株式市場と同じで、長期的に相関のある株式があれば、真空も実は相関があるのです。

ある地点で真空を測定すれば、情報が得られます。その情報を別の地点に伝えると、真空がどのような構成になっているかをある程度正確に推測することができ、統計的に平均して、そこにあるエネルギーを抽出することができます。つまり、あなたは「エネルギーをテレポート」したのです。

(01:33:18)私にとっては、真空より低いエネルギー密度である負のエネルギー密度のポケットを作ることができたので、それは興味深いことでした。真空や時空のキャンバスそのものが、量子もつれでできたキャンバスだという理論もあります。私は、真空のエネルギーを局所的に減少させると量子もつれが増加することを研究していました。

(01:35:06) それで、抽出した場所からそれほど遠くないところで代償を払うことになるんですね。

エイリアン

レックス・フリードマン

(01:35:11) 能力的に精度は落ちますが、それでも。しかし、あなたがUAPSについて話したので、知性について話しました。

聞き忘れましたが、メソスケールで存在する可能性のある他の知性について、あなたはどう思いますか？他の知的エイリアン文明があると思いますか？考えることは有益ですか？どのくらいの頻度で考えるのですか？

ギョーム・ヴェルドン

(01:35:36) 考えるのは有益だと思います。というのも、私たちは反脆弱性を確保し、できるだけ早く能力を高めようとしているからです。というのも、私たちは破壊される可能性があるからです。進化して高度な文明になり、やがて私たちのところにやってくるかもしれない生命体が他の場所に存在することに対して、物理学の法則はありません。彼らが今ここにいると思いますか？わかりません。このトピックについて、多くの人が読んでいることを読みました。

(01:36:14)考察するのは面白いと思いますし、私にとっては、技術開発や能力向上に危機感を植え付け、私たちが破壊されないようにするための有用な思考実験です。私たちを混乱させるのがAIの一種であれ、別の惑星から来た外国の知性であれ。いずれにせよ、私たちの能力を向上させ、人間として手ごわくなることが本当に重要だと思います。

レックス・フリードマン

(01:36:51)しかし、私にとっては、知性をどのように認識するかについての興味深い挑戦であり、思考実験でもあります。これは量子力学システムに関係しています。これは、人間とは異なるあらゆる種類のシステムに関係しています。

私にとっての思考実験とは、宇宙人がここにいる、あるいは直接観測可能である、というものです。ただ、私たちはあまりに盲目で、あまりに自己中心的で、適切なセンサーを持っておらず、センサーデータの適切な処理ができないために、私たちの周りにある明らかな知性を見ることができないだけなのです。

ギョーム・ヴェルドン

(01:37:26)だから私たちは量子センサーに取り組んでいるのです。

量子センサーは重力を感知することができます。

レックス・フリードマン

(01:37:31) ええ。でも、現在知られている物理学の力にはないものが他にもあるかもしれません。

ギョーム・ヴェルドン

(01:37:43) そうですね。

レックス・フリードマン

(01:37:43) 他にもあるかもしれませんね。私にとって最も面白い思考実験は、それが明白な他のものだということです。センサーがないわけではありません。意識はその可能性の一つです。でも、明らかにそこにあるものもあるかもしれません。一旦それを知れば、「ああ、そうか。そうですね。私たちが物理法則から創発されたものだと考えていたものは、実は宇宙の基本的な部分であり、物理学に取り入れることができるのです。最も理解できることです。

レックス・フリードマン

(01:40:04)量子力学についてもう少し詳しく聞きたいのですが、量子コンピュータの探求を通して、解決された、あるいはまだ解決されていない、最もクールで美しいアイデアは何ですか？

ギョーム・ヴェルドン

(01:40:19) AdS/CFTと呼ばれるものを理解する旅だと思います。つまり、少ない次元のホログラムが、実は余分な次元の量子重力のバルク理論と二重である、あるいは正確に対応している、という図式を通して量子重力を理解する旅です。

(01:40:59)少なくとも、いつか私のバケットリストにある旅の一部は、この種の系、CFT、あるいはSYKモデルと呼ばれるものに量子機械学習を適用し、境界理論から創発的な幾何学を学ぶことです。そうすれば、量子重力を理解するための機械学習が可能になります。

レックス・フリードマン

(01:41:35) ブラックホールでは何が起こっていると思いますか？情報を保存し、処理する単位として、ブラックホールはどうなっていると思いますか？

ギョーム・ヴェルドン

(01:41:46) ブラックホールは実に魅力的な天体です。ブラックホールは量子力学と重力の狭間にあるため、さまざまなアイデアを検証するのに役立ちます。もう何十年も前から、ブラックホールに落ちたものは情報を失ってしまうという情報パラドックスがあると思います。

近年、私の元同僚で現在はバークレー校の教授である人物が、このファイアウォールのパラドックスを解決したと主張しています。それは、情報がブラックホールに落ちると、堆積が起こるというものです。外側の観測者から見て地平線に近づくにつれて、物体は無限に減速していきます。

(01:42:46)私たちから見てブラックホールに落下しているものはすべて、沈殿して地平線の近くにくっつきます。ある時点で、ブラックホールは地平線に近づき、量子効果や量子ゆらぎが問題になるような規模になります。そこで、はびこる物質が従来の絵に干渉し、真空中の粒子と反粒子の生成と消滅に干渉する可能性があります。

この干渉によって、粒子の1つがインフォール情報と絡み合い、そのうちの1つが自由になって逃げ出すのです。そうやって、出て行く放射線と降り注ぐ物質の間に相互情報が存在するのです。しかし、この計算を正しく行うには、まだピースをまとめ始めたばかりだと思います。

この原理は、地球と太陽のシステムに限ったことではありません。この原理は、地球と太陽のシステムに限ったことではありません。なぜなら、それが私たちをここまで連れてきたプロセスだからです。ですから、この先、私たちに何が待ち受けているのかさえわかりません。それは、私たちが今想像すらできないような美しいものなのかもしれません。

効果的加速主義（e/acc）

レックス・フリードマン

(01:47:18)e/acc運動について、Substackのブログ記事「What the Fuck is e/acc？」戦略的に言えば、私たちはいくつかの包括的な文明の目標に向かって取り組む必要があります。その4つの目標とは、私たちが種として利用できるエネルギーの量を増やすこと（カルダシェフ勾配を登ること）です。

短期的には、これはほぼ間違いなく核分裂を意味します。人口増加政策と経済成長政策によって人類の繁栄を促進すること。人類史上最大の戦力となる人工知能の開発。そして最後に、人類が地球を越えて広がることができるよう、惑星間輸送と恒星間輸送を開発すること。

その上で、あなたにとってe/acc運動とは何ですか？目標は何ですか？その原則は何ですか？

ギョーム・ヴェルドン

(01:48:20) 目標は、人間のテクノキャピタルのミメティック・マシンが自覚的になり、自らの成長を誇大に設計することです。では、それを分解してみましょう。

レックス・フリードマン

(01:48:33) それぞれの言葉を定義してください。

ギョーム・ヴェルドン

(01:48:35)つまり、人間、テクノロジー、資本、そしてミーム、情報、これらすべてのシステムは互いに結合しているのです。人間は企業で働き、資本を獲得して配分し、ミームや情報の伝播を通じてコミュニケーションをとります。

私たちの目標は、システムがどのように機能し、根本的に成長しようとしているのかを認識し、システムが自らの成長のために適応しようとする自然な傾向に単純に寄り添おうとする、ある種のバイラルな楽観的ムーブメントを起こすことです。

レックス・フリードマン

(01:49:18)そういう意味では、あなたの言う通り、e/accは文字通り、常に漂流し、変異し、分散化しながら伝播していく、記憶的楽観主義ウイルスなのですね。つまり、記憶的楽観主義ウイルス。ですから、あなたはe/accをウイルスとして最大限に拡散させたいと考えているのでしょう。

ギョーム・ヴェルドン

(01:49:43)私たちはe/accをメタ・ヒューリスティックな、非常に薄い文化的枠組みのようなものと考えています。基本的には、熱力学に基づくシステム全体の適応が私たちをここに導いたのであり、そのプロセスは良いものであり、私たちはそれを続けるべきだということです。

それが核となるテーゼです。それ以外のことは、この可鍛性と適応性を維持するためにはどうすればいいかということです。変種を抑圧することなく、言論の自由、思想の自由、情報伝播の自由、AI研究の自由を維持することは、この成長をもたらす技術やアイデアなどを最速で収束させるために重要です。

そして最終的には、かなりの数の分岐がありました。単なるミームもあれば、もっと深刻なものもあります。Vitalik Buterinは最近d/accフォークを作りました。彼はe/accを自分なりに微調整しています。

レックス・フリードマン

(01:50:59) Vitalikのそのフォークのユニークな特徴について、何か記憶に残っていることはありますか？

ギョーム・ヴェルドン

(01:51:05) e/accとEAとEIの安全性の中間点を見つけようとしていると言えるでしょう。私にとって、シリコンバレーを支配していた主流の物語と反対の動きをすることは、意見のダイナミックレンジをシフトさせるために重要でした。

中央集権化と分散化のバランスのようなもので、本当の最適は常に中間にあります。しかしe/accでは、保守的であること、思想を抑制すること、言論を抑制すること、制約を加えること、規制を増やしすぎること、物事を遅くすることよりも、エントロピー、新奇性、破壊性、可鍛性、スピードを追求しています。それで、私たちは力のバランスを取ろうとしているのです。

レックス・フリードマン

(01:52:00) 人類文明の力にバランスを。

ギヨーム・ヴェルドン

(01:52:02) それは文字通り、私たちを探求させるエントロピックの力に対する制約の力です。システムが最適なのは、秩序とカオスの間、制約、エネルギー最小化、エントロピーの間の臨界点にあるときです。システムは、この2つのバランスを保ちたいのです。私はそのバランスが欠けていると考え、バランスを取るためにこの運動を起こしました。

レックス・フリードマン

(01:52:31)なるほど、フォークを通してアイデアが進化していく風景というビジュアルはいいですね。マルクス主義が元祖で、ソビエト共産主義がその分かれ道で、毛沢東主義がマルクス主義と共産主義の分かれ道です。そして毛沢東主義はマルクス主義と共産主義の分岐点です。異なるアイデアを探求しているのです。

ギョーム・ヴェルドン

(01:53:02) 文化をほとんどコードのように考えています。

現在では、LLMやLLMの定款に記載されていることは、基本的にそのLLMの文化的枠組みであり、そのLLMが信じていることです。今ではGitHubでそれを共有することができます。ですから、ソフトウェアという機械でうまくいったことからヒントを得て、コードの空間上で適応させようとするのです。

私たちのゴールは、「あなたはこう生きるべきだ、X、Y、Z」と言うことではなく、人々が常にサブカルチャーを探し求め、マインドシェアを競い合うようなプロセスを設定することです。文化の可鍛性を生み出すことは、現代にアップデートされた文化や生き方の指針に収斂していくために、とても重要なことだと思います。

(01:53:59)スピリチュアリティと文化の空白のようなものがあるからです。人々は自分がどのグループにも属していないと感じ、この心のシャーレに寄生するイデオロギーが生まれたのです。イーロンはそれをマインド・ウイルスと呼んでいます。

私たちはそれを「ディセル・マインド・ウイルス・コンプレックス」と呼んでいます。そのほかにもさまざまな種類があります。ウイルス性の悲観主義、減速運動があるとすれば、1つの運動だけでなく、多くの亜種が必要で、それを特定し、止めるのは非常に難しいのです。

レックス・フリードマン

(01:54:45) しかし、包括的なことは、それにもかかわらず、一種の模倣的楽観主義の大流行です。

e/accはある程度カルト的だと思いますか？

ギョーム・ヴェルドン

(01:55:01) カルトの定義は？

レックス・フリードマン

(01:55:03)人間の進歩の多くは、独立した思想があり、自由に考えることのできる個人がいるときになされると思います。そして、非常に強力な模倣システムは、ある種、集団思考につながります。人間の本質には、集団催眠や集団ヒステリーにつながる何かがあります。私たちの心をとらえるセクシーなアイデアがあると、私たちは同じように考え始めます。だから、私たちをバラバラにしたり、引き離したり、考えを多様化させたりするのは実は難しい。

では、どの程度までが「E/acc、E/acc」と動物農場の羊のように唱えているのでしょうか？

ギョーム・ヴェルドン

(01:55:46) まあ、まず第一に、楽しいです。「反抗的だし。本気かどうかわからない」という境界線上にある、メタ皮肉というコンセプトがあります。そして、もっと遊び心があって、もっと楽しい。例えば、私たちは熱力学が私たちの神であると話していますし、カルト的なことをすることもありますが、儀式やローブなどはありません。

レックス・フリードマン

(01:56:19) まだです。

ギョーム・ヴェルドン

(01:56:19) まだです。でも結局のところ、人間は自分がグループの一員であると感じたいので、自然と隣人と同意し、共通の基盤を見つけようとするのだと思います。そしてそれは、アイデアの空間におけるある種のモード崩壊につながります。

かつて私たちは、一つの文化的な島を持っていました。それは典型的な思考の亜空間であり、その亜空間から逸脱するものは抑圧されるか、あるいは排除されました。今、私たちは新しいモードを作りましたが、要は、非常に制限された思考空間を持とうとしているわけではないということです。e/accについて考える方法は1つだけではありませんし、その分岐点はたくさんあります。そしてポイントは、多くの分かれ道があり、多くのクラスターや多くの島があり得るということです。

(01:57:07)そして私はそれをコントロールすべきではありません。つまり、正式な組織なんて何もないんです。私はただツイートや特定のブログ記事を発信するだけで、人々は気に入らない点があれば自由に亡命したりフォークしたりすることができます。

そうすることで、アイデアの空間が非領域化され、カルト的な1つの集団にならないようにすることができるんです。カルトは通常、人々が亡命したり、競合するフォークを始めたりすることを許さないのですが、私たちはそれを奨励しています。

ユーモアとミーム

レックス・フリードマン

(01:57:51)ミームにおけるユーモアの長所と短所、ある意味ではミームには知恵のようなものがあります。マジックシアター？何の本ですか？ヘルマン・ヘッセ。ステッペンウルフかな。でも、不条理を受け入れることで、物事の真実にたどり着けるようなところがありますが、同時に、言説の質や厳密さを低下させることもあります。

ギョーム・ヴェルドン

(01:58:22) そうですね。

レックス・フリードマン

(01:58:23) その緊張感を感じますか？

ギョーム・ヴェルドン

(01:58:25) ええ。当初、私たちが目立たないように成長できたのは、それがある種のメタ皮肉としてカモフラージュされていたからだと思います。私たちは、ユーモアやミーム、いわゆるクソ投稿のパッケージの中に、深い真実を忍び込ませていたのです。

しかしもちろん、本質的に人々は誘導されます。彼らの真実に対する考え方は、彼らが目にするデータ、彼らが与えられる情報、そして人々が与えられる情報はアルゴリズムによって決定されます。そして、私たちが行ってきたのは、効果的に拡散し、メッセージを伝えることができるように、高い記憶適性と呼ばれる情報パケットを工学的に設計することです。

(01:59:47)つまり、メッセージを広めるためのベクトルのようなものです。私たちは、アルゴリズムによって増幅された今日の情報ランドスケープに最適なテクニックを使ってきました。しかし、私たちは真剣な議論や真剣な対話ができるような規模のところまで来ていると思います。

だからこそ、私たちは多くのディベートを行い、より真剣な長文の考察を行うことを検討しているのです。というのも、非常に真剣で思慮深い議論には、タイムラインは最適ではないと思うからです。極論が報われないからです。ですから、私たちが文字通りテック・エコシステムを分極化させようとする運動を始めたとしても、結局のところ、私たちが会話をして最適なものを一緒に見つけることができるのです。

ジェフ・ベゾス

レックス・フリードマン

(02:00:42)つまり、このポッドキャストで私がやろうとしていることは、このような状況を踏まえてもなお、長文の会話をすることなのです。しかし、不条理を完全に受け入れる度量があります。実際、この会話は何重にも不条理です。まず最初に、ごく最近ジェフ・ベゾスと対談したことをお伝えしておきますが、あなたの、ベフ・ジェゾスの、ジェフ・ベゾスに対する意見をぜひお聞かせください。銀河系のジェフ・ベゾスといえば。

あなたの名前がインスピレーションを与えたその特別な人物をどう思いますか？

ギョーム・ヴェルドン

(02:01:25) ええ、ジェフは本当に偉大だと思います。つまり、彼は史上最も壮大な企業の1つを築き上げました。彼はテクノキャピタルマシンとテクノキャピタルアクセラレーションを活用して、私たちが望むものを提供してくれました。

私たちが求めていたのは、迅速な配達、とても便利で、アットホーム、低価格。彼はマシンがどのように機能し、それをどのように活用するかを理解していました。例えば、会社を経営する際、あまり早く利益を得ようとせず、その利益を元に戻し、システムを複合化させ、改善し続けるのです。そして間違いなく、アマゾンは最も多くの資本とロボット工学を投資し、AWSの誕生によって、今日の技術ブームを実現しました。彼は偉大な起業家の一人であり、紛れもなく史上最高の起業家の一人です。

レックス・フリードマン

(02:02:32) そしてもちろん、Blue Originでの仕事は、SpaceXでの仕事と同様に、人類を多惑星種にしようとしています。

レックス・フリードマン

(02:07:26) イーロンは興味深いケースです。あなたはイーロンの支持者であり、イーロンを称賛していますが、彼は長い間、人工知能の危険性、潜在的な危険性、実存的なリスクについて警告してきた人物でもあります。

この2つをどう折り合いをつけますか？矛盾していますか？

ギョーム・ヴェルドン

(02:07:45)彼は多くの面で規制に大反対なので、多少はそう思います。しかしAIに関しては、彼は間違いなく規制の支持者です。彼は全体的に、例えばOpenAIが市場を追い詰め、LLMに埋め込むことができる文化的なプリオールを独占することになり、LLMが人々の真実の源となることで、人々の文化を形作ることができるようになる危険性を感じていたのだと思います。

つまり、LLMを支配することで人々をコントロールできるのです。ソーシャルメディアがそうであったように、情報伝播の機能を形成すれば、人々の意見を形成することができると。彼は競争相手を作ろうとしたのです。

ですから、少なくとも、さまざまなAIプレイヤーの間で敵対的な均衡を保つことが良い未来への道だという点では、私たちは非常に一致していると思います。今後どのようにAIを進化させていくのか、彼の考えを理解するためにぜひ彼と話をしたいですね。

というのも、彼はニューラルリンクに賭けているのです。もし彼がAIの進歩を止められないのであれば、融合するための技術を構築しているのだと思います。言葉だけでなく、行動を見てください。

レックス・フリードマン

(02:09:10)まあ、心配することはある程度は…人間心理を利用すれば、身の回りの脅威を心配することが動機になるのかもしれません。それは励みになります。締め切りがある方が、ずっとうまくいくんです。締め切りの恐怖。締め切りに間に合わなかったら、本当に恐ろしいことが起こるのではないかというような不安を自分の中に作り出したいのです。

人間と協調するAIを作ることは、多くの潜在的な利益をもたらします。ですから、別の言い方をすれば、「そうしなければ、私たち全員が死んでしまう」ということです。これは、人間と協調するAIを作るという目標に対する、非常に強力な心理的定式化のように思えます。

ギョーム・ヴェルドン

(02:09:59) その不安はいいことだと思います。私が言ったように、私は自由市場が信頼できるアライメントされたAIを作ることを望んでいます。ですから、私は大賛成です。私が反対しているのは、例えば大統領令の中で、オープンソースのLMはデュアルユース技術であり、政府が管理すべきだと主張することによって、オープンソースのエコシステムの繁栄を止めることです。

そうなると、誰もがGPUや大きなマトリックスを政府に登録しなければならなくなります。このような余計な摩擦があると、多くのハッカーが貢献しようとしなくなると思います。ハッカーは、AIの安全性の発見など、私たちを前進させる重要な発見をする研究者になる可能性があります。

ですから私は、AIに貢献し、未来の一部を自分のものにする機会を普遍的に維持したいと思うのです。一部のプレーヤーだけがゲームに参加できるような、壁の向こう側で法制化されたものであってはならないのです。

レックス・フリードマン

(02:11:08) e/acc運動はしばしば、何が何でも進歩し、革新するという意味に風刺されます。それがどんなに安全でなくても、大きな損害を引き起こしても関係ありません。クールなものを可能な限り速く作り、ダイエットコーラを飲みながら徹夜し、それがどんなことであっても。

そこに質問があるかどうかわかりませんが、あなたにとって、またあなたがe/accのさまざまな処方を見てきた中で、AIの安全性はどの程度重要ですか？

ギョーム・ヴェルドン

(02:11:44)繰り返しになりますが、もし誰もそれに取り組んでいなかったら、私はそれを推進すると思います。繰り返しになりますが、私たちの目標はバランスを取ることであり、明らかに危機感は進歩を遂げるための有用なツールです。

私たちのドーパミン系をハックし、夜遅くまで働くエネルギーを与えてくれます。また、自分が貢献する崇高な目的を持つことも重要だと思います。一日の終わりに、自分は何に貢献しているのか？この美しいマシンが成長し、私たちが星を目指すことができるように。それは本当に感動的なことです。これも一種のニューロ・ハックですね。

レックス・フリードマン

(02:12:26)つまり、あなたはAIの安全性が重要だと言っているわけですが、今あなたが見ているアイデアの状況は、トピックとしてのAIの安全性は中央集権的なコントロールを得るために使われることが多いということです。

その意味で、あなたは中央集権的なコントロールを得るための代理として、それに抵抗しているのですね？

ギョーム・ヴェルドン

(02:12:43)ええ、ただ気をつけなければいけないと思います。安全性は権力の中央集権化と最終的な腐敗を隠蔽するための完璧な隠れ蓑ですから。今は腐敗しているとは言いませんが、将来的にはそうなるかもしれません。

そして本当に、もしこの議論を実行に移せば、いくら中央集権化しても安全を確保することはできないでしょう。99.9999%の安全というPの安全が得られる999は常にあります。もう9つ欲しいのでは？「ああ、あなたの行動すべてにフルアクセスさせてください。

「完全な監視を」率直に言って、AIの安全性を支持する人たちは、グローバルなパノプティコンを提案しました。私にとっては、それは1984年のようなビッグブラザーのシナリオへの扉を大きく開くだけです。そして、それは私が住みたい未来ではありません。

レックス・フリードマン

(02:13:49) 歴史上、それが良い結果に結びつかなかった例がいくつかありますからね。

Extropic

ギョーム・ヴェルドン

(02:13:54) そうですね。

レックス・フリードマン

(02:13:56)あなたは最近1410万ドルのシードラウンドを発表したExtropicという会社を設立したと言いましたね。

その会社の目標は何ですか？あなたは興味深い物理学のことをたくさん話していますが、そこであなたは何をしようとしているのですか？

ギョーム・ヴェルドン

(02:14:12)ええ、当初は先週発表するつもりはなかったのですが、Doxingと情報公開で、私たちは手を下さざるを得なかったのだと思います。だから、私たちがやっていることを大まかに公開しなければなりませんでした。しかし、Extropicは、量子コンピューティングのロードマップに対する私や同僚たちの不満から生まれました。

(02:17:11) ええ。TensorFlow Quantumは、深層学習や微分可能な古典的プログラミングを量子コンピューティングと組み合わせることで、量子コンピューティングを微分可能なプログラムに変える、あるいは量子コンピューティングで微分可能なプログラムの種類を持つという試みでした。

アンドレイ・カルパシーは微分可能なプログラミングをソフトウェア2.0と呼んでいます。勾配降下法はあなたよりも優れたプログラマーです。量子コンピューティングの初期には、短い量子プログラムしか実行できません。では、どの量子プログラムを実行すればいいのでしょうか？

それなら、勾配降下法にそのプログラムを見つけさせればいいのです。そこで私たちは、微分可能な量子プログラムを実行するだけでなく、より広範なディープラーニングのグラフの一部として、皆さんがご存知のディープニューラルネットワークと量子ニューラルネットワークを組み合わせるための最初のインフラを構築しました。

(02:18:21)そして最終的には、非常に学際的な取り組みでした。私たちは、ハイブリッド・グラフを逆伝播するための、さまざまな方法を考案しなければなりませんでした。しかし最終的には、物質をプログラムし、物理学をプログラムする方法は、制御パラメータを通して微分することだということを教えてくれました。

システムの物理学に影響を与えるパラメータがあり、何らかの損失関数を評価することができれば、タスクが何であれ、そのタスクを達成するためにシステムを最適化することができます。これは、物理ベースのコンピュータをプログラムする方法として、非常に普遍的なメタフレームワークなのです。

レックス・フリードマン

(02:19:05) では、すべてをパラメータ化して、そのパラメータを微分可能にして、最適化するということですか？

ギョーム・ヴェルドン

(02:19:12) そうです。

レックス・フリードマン

(02:19:13)なるほど。TensorFlow Quantumからもっと実践的な工学的教訓はありますか？例えば、関係する人間や製品にたどり着く方法、良いドキュメントの作成方法などです。わかりません。このような、人々が考えないような小さな微妙なことのすべてです。

ギョーム・ヴェルドン

(02:19:34)分野の垣根を越えて仕事をすることは常に挑戦であり、互いに教え合うことに非常に忍耐強くなければならないと思います。私はその過程でソフトウェア工学をたくさん学びました。

同僚たちは量子物理学をたくさん学びましたし、このシステムを構築する過程で機械学習を学んだ人もいます。そして、情熱的でお互いを信頼し合える賢い人たちが部屋にいて、小さなチームがあれば……。

ギョーム・ヴェルドン

ですから、私たちが採用の際に求めているのはそういうことなのです。過去3,4年間、このサブシステムを最適化してきただけの人材は採用できません。ゼロから新しいアプローチを開拓するのであれば、教科書も参考文献もありません。私たちと、学ぶことに貪欲な人たちだけです。

ですから、お互いに教え合い、文献を学び、知識ベースを共有し、知識の境界をさらに押し広げるために協力し合う必要があるのです。だから、この段階で何をすべきかを規定されることに慣れている人は、パイオニアの段階では、必ずしも雇いたい人ではないのです。そうですね。

シンギュラリティとAGI

レックス・フリードマン

(02:22:31)あなたはExtropicで、生成AIのための物理的基盤を構築しようとしていると言いましたね。

AIを物質工学に応用することに10年近く取り組んできましたが、それは彼らが考えているよりもずっと難しいことです。そして現実には、非常に正確でコストのかかる自然のシミュレーションか、自然そのものから多くのサンプルを得る必要があり、それによって私たちの周りの世界をコントロールする能力を抑制することができるのです。予測や制御を可能にするために世界に関する情報を得るには、計算上、熱力学上、ある種の最小限のコストが必要なのです。それが物事を抑制しているのです。

AI破滅論者

効果的な利他主義

神経リンクを取り付けるか、TikTokを永遠にスクロールするだけです。短期的なタイムスケールでは、神経化学のおかげで気分がいいですが、長期的なタイムスケールでは、生産的でないため、衰えや死を引き起こします。

(02:29:54)一方、EACのような文明の進歩の測定は、快楽主義のような主観的な損失関数ではなく、客観的な尺度、つまり物理的なエネルギーというごまかしのきかない量によって行われます。GDPや通貨で測れば、それは動いている特定の価値に固定されます。

ですから、私たちの進歩を測るには良い方法ではありません。しかし、私たちはともに進歩を遂げ、人類が繁栄し、成長できるようにしようとしているのです。ただ、損失関数が違うだけで、それを実行する方法が違うだけなのです。

レックス・フリードマン

(02:30:42)程度というのはあるのでしょうか、もしかしたらあなたが教えてくれるかもしれませんが、人類の文明、人類の経験のすべてを方程式に当てはめようとするとき、私は少し懐疑的になります。

レックス・フリードマン

(02:37:00) 運動、睡眠、そういったことですね。

サッカーとおっしゃいましたが、以前はサッカーをされていたのですか？

ギョーム・ヴェルドン

(02:37:06) ええ、アメリカンフットボールをやっていました。いろんなスポーツをして育ちました。それからパワーリフティングをやっていた時期もあります。大学院で数学を勉強していたときは、ただ数学をして、リフティングをして、カフェインを摂る、そんな毎日でした。

とてもピュアで、最もピュアな修道僧モードでした。でも、パワーリフティングでは、ある種の駆動信号によって神経適応を引き起こそうとしていて、あらゆる種類のサプリメントによって神経可塑性を工学的に作り出そうとしていて、リフティングをすると分泌されるあらゆる種類の脳由来向神経性因子があるというのは、本当に興味深いことです。(02:37:44)だから、数学を学んでいる間、脳だけでなく、もっと広く神経系に適応する神経を工学的に作ろうとしていたのは、私にとっては面白いことです。

本当に気にすれば、もっと速く学ぶことができると思います。自分が学んでいることをとても気にするように自分を説得し、ある種の補助、例えばカフェインや神経可塑性を高めるコリン作動性サプリメントがあれば。いずれアンドリュー・ヒューバーマンと話すべきですね。彼は専門家ですから。でも、少なくとも私にとっては、より多くのトークンを脳にインプットすることで、学習速度を上げ、より短い時間スケールでより速く学習できるようにすることができます。

(02:38:30) それで、私はたくさんのことを学びました。好奇心の赴くままに。自分のやっていることに情熱を持っていれば、学ぶスピードも速くなり、賢くなるスピードも速くなります。好奇心に従えば、常に興味を持ち続けることができます。

レックス・フリードマン

(02:42:46)ええ、私は急進的ではなく、厳密な共感を本当に信じています。それは、ある視点を持つ人がどのようなものであるかを考え、それを思考実験として、より遠くへ、より遠くへ、より遠くへ持っていくようなものです。そして、それをオルトアカウントとして行うのも一つの方法です。

ある信念を信じる人間であることがどういうことなのか、それを数日、数週間、数カ月に渡って探求するのは、楽しくて面白い方法です。もちろん、そうなってしまう危険性は常にあります。ニーチェの「深淵を長く見つめると、深淵があなたを見つめる」という言葉です。気をつけなければなりません。

ギョーム・ヴェルドン

(02:42:46) Breaking Beff.

若者へのアドバイス

レックス・フリードマン

(02:43:31) そうですね。ベフを破る。そう。

ある日、坊主頭で目を覚ますと、「私は誰？僕は何になったんだろう？」それで、あなたはすでにかなりのアドバイスを述べていますが、私たちがいるこの興味深い世界で、どのようにキャリアを持ち、どのように誇れる人生を送るか、若い人たちにどんなアドバイスをしますか？

ギョーム・ヴェルドン

(02:43:58)私が理論物理学に進んだ理由は、技術がどのように変化しても残るスタックの基礎を学ばなければならなかったからです。そして、その基礎の上にエンジニアリングのスキルやその他のスキルを積み上げていったのです。物理学の法則は、今、急速に変化しているように見えるかもしれません。

しかし、基本的な数学や物理学のような特定のものは変わりません。複雑系や適応系に関する知識があれば、その知識はあなたを大きく前進させるでしょう。ですから、すべての人が数学を勉強する必要はありませんが、数学と物理学、工学を学ぶことは、認知能力を大きく向上させることになると思います。

レックス・フリードマン

(02:44:48) できるだけスタックの底辺に近づきましょう。

ギョーム・ヴェルドン

(02:44:51) そうです。スタックの底辺は変わりませんから。あなたの知識は、数年後にはそれほど重要でなくなるかもしれません。もちろん、ある種の移転学習はできますが、その場合、常に移転学習しなければなりません。

レックス・フリードマン

(02:45:04)スタックの底辺に近ければ近いほど、移行学習は簡単で、ジャンプも短くなるのでしょうね。

ギョーム・ヴェルドン

(02:45:10) そうですね。一度多くの物理的なシナリオで概念を学んでしまえば、それが必ずしも物理学ではない他のシステムを理解するのに引き継がれることに驚くでしょう。e/accの著作、原則と信条の投稿は物理学に基づいていて、熱力学の考え方の一部を私たちの周りの世界を理解するために応用するための私の実験のようなものでした。

死亡率

このインタビューを読み進めると、ギヨームが科学と哲学の境界を自由に行き来しているのが分かる。彼は量子力学や熱力学を基盤に、技術の進化や社会の方向性を語っている。例えば、彼が「熱力学が我々の神だ」と冗談めかして言う場面があるが、これは半分本気かもしれない。熱力学を生命や文明の成長を駆動する原理として捉えているのだ。なるほど、彼にとって自然法則は単なる科学の道具じゃなく、生き方や社会の指針なんだな。でも、ここでちょっと立ち止まる。熱力学がすべてを説明できるのか？確かにエネルギーやエントロピーの概念は強力だけど、人間の感情や倫理までカバーできるのか疑問が湧く。いや、まだ結論を急ぐのはやめよう。彼の主張をもう少し深く掘ってみる。

ギヨームのe/accは、技術の加速を通じて人類の繁栄を目指すとされる。具体的には、エネルギー利用の増大（Kardashev Scale（カルダシェフ・スケール）の上昇）、人口と経済の成長、AGI（人工知能一般）の開発、宇宙進出の4つの目標を掲げている。これを見て思うのは、壮大すぎるビジョンだということだ。エネルギーを増やすなら核分裂が短期的な鍵だと言うし、AGIは人類史上最大の力の増幅器だと信じている。でも、これって現実的だろうか。例えば、核分裂は確かにエネルギー源として有力だけど、社会的な抵抗や安全性の問題はどうするんだろう。AGIに至っては、彼自身が「急激な離陸（fast takeoff）」は信じないと言いつつも、その可能性を完全に否定していないように感じる。ここで少し混乱する。彼は楽観主義を強調するけど、リスクへの対処はどう考えているんだろうか。

インタビューの中で、ギヨームは「市場がAIの安全性を自然に確保する」と主張している。これは興味深い視点だ。企業や個人がAIをデプロイするなら、その結果に責任を持つし、市場は信頼性の高いAIを選ぶだろうという論理だ。確かに、市場の自己調整力は歴史的に見て強力だ。例えば、自動車産業だって安全性が低い車は淘汰されてきた。でも、AIの場合はスケールが違いすぎるんじゃないか。核兵器のような技術と比べると、AGIが一社に独占された場合の影響は計り知れない。彼はそれを避けるためにオープンソースAIを支持しているけど、それだけで十分なのか。市場が完璧に機能する前提に頼りすぎてないか。ここで少し疑念が浮かぶ。市場は確かに効率的だけど、情報の非対称性や悪意あるアクターには弱いんじゃないか。

次に、ギヨームの「Beff Jezos」という匿名アカウントに目を向けてみる。彼が匿名性を重視する理由は、自由な思考と発言の場を守るためだと言う。なるほど、これは分かる気がする。実名だと社会的圧力や責任が思考を縛るけど、匿名なら実験的なアイデアを試せる。彼が言うように、言論の自由が思考の自由を生むというのは鋭い観察だ。でも、ここでまた疑問が湧く。匿名性が大事なら、なぜドキシング（個人情報の暴露）で実名を明かしたんだろう。インタビューを読むと、彼はForbesの記事で強制的に暴露されたと説明している。投資家にまで連絡が行った時点で隠しきれなくなったらしい。うーん、これはちょっと悲劇的だな。自由を求めた結果、逆に自由を失ったわけか。でも、彼はその後、実名とBeffを統合して前に進んでいる。アイデンティティの融合って、彼にとってどんな意味を持つんだろう。

ここで少し思考を整理する。ギヨームの話は、科学的な探求と社会的な運動が交錯している。彼のバックグラウンドは量子計算や機械学習で、それがe/accの理論的土台になっている。でも、彼の会社「Extropic（エクストロピック）」が量子計算から熱力学ベースの計算に移った理由が気になる。量子計算がノイズに弱すぎてスケールしないと感じたらしい。熱力学なら現実的なのか？彼は「生成AIのための究極の物理的基盤」を作ると言うけど、それが具体的に何を意味するのかまだ曖昧だ。物理プロセスとしての機械学習って、頭では理解したいけど、イメージが湧きにくい。ハードウェアとソフトウェアのフルスタックで何か革新的なものを作るつもりなんだろうけど、もう少し具体例が欲しいな。

インタビューをさらに読み進めると、ギヨームがAIの危険性や「p(doom)（破滅の確率）」について語る部分にたどり着く。彼はp(doom)の計算を「雑だ」と批判している。人間の生物学的なバイアスが悲観的な未来に傾きがちで、未来はカオスすぎて予測できないと言う。確かに、複雑系のカオス性（Lyapunov exponent（リャプノフ指数））を考えれば、彼の言う通りかもしれない。でも、核兵器や気候変動みたいな過去の事例を見ると、技術のリスクを無視するのは危険じゃないか。ギヨームは「恐怖は文明を殺す」と言うけど、適度な恐怖はむしろ警戒心を高めてくれるんじゃないか。ここで彼と私の考えが少しズレる。彼は楽観主義をハイパーシティ（自己実現的予言）として使いたいみたいだけど、過度な楽観も現実を見誤るリスクがある。

そういえば、彼は「AIドゥーマー（悲観論者）」や「Effective Altruism（効果的利他主義、EA）」に対しても対立的な立場を取っている。EAが「苦しみの最小化」を目指すのに対し、e/accは「文明の成長」を優先する。なるほど、損失関数の違いか。EAの「ヘドン（快楽単位）」が主観的でゲーム化されやすいのに比べ、エネルギー消費量は客観的だと彼は言う。これは説得力があるかも。でも、エネルギーだけを指標にすると、環境破壊や不平等みたいな副作用はどうするんだろう。ギヨームは市場と競争がそれを調整すると信じているけど、短期的な利益追求が長期的な問題を隠してしまうケースもあるよね。ここでまた立ち止まる。彼のビジョンは壮大だけど、細かい現実的な課題への回答が薄い気がする。

インタビュー終盤で、ギヨームの個人的な生活や死への考えが出てくる。彼の1日は12時から深夜4時までで、ケトン体とカフェインで集中力を保つらしい。生産性へのこだわりがすごいな。死については、「適応には死が必要」と言いながらも寿命延長には賛成している。確かに、熱力学的に見れば新陳代謝や世代交代がシステムを更新する。でも、個人としては死にたくない気持ちもあるだろうに、彼は冷静だな。いや、もしかして彼にとって個人より文明全体が大事なのかもしれない。そう考えると、e/accの「人間中心じゃない」姿勢ともつながる。

さて、ここまで考えてきて、インタビューの核心に戻る。ギヨームの主張は、技術加速が人類の未来を切り開くという信念だ。でも、その信念は熱力学や市場への強い信頼に依存している。私は彼の楽観主義に惹かれるけど、リスクへの軽視が気になる。彼が言う「自由と多様性の維持」は美しいけど、それが現実でどう機能するかは不確かだ。たとえば、彼が恐れる「AIの中央集権化」が起きたらどうなるか。彼はオープンソースで対抗すると言うけど、それが本当に独占を防げるのか。逆に、彼の加速主義が無秩序な競争を招いて、制御不能なAIを生む可能性はないのか。

ここで自己懐疑を入れてみる。私は彼のビジョンに批判的すぎるのかも。技術が進むことで人類が繁栄した歴史は確かにある。産業革命も電力も、最初はリスクが叫ばれたけど、結果的にはプラスだった。でも、AIはそれらとスケールが違う。核兵器みたいに、一部の手に握られると取り返しがつかない。ギヨームは「市場が調整する」と言うけど、市場だって失敗する。2008年の金融危機とか、情報の非対称性が大きすぎると機能しないんだよね。でも、彼の「恐怖に屈しない」という姿勢は、心に響くものがある。確かに、恐れすぎて何もしないのも文明を停滞させるだけだ。

思考が行き詰まりそうだから、少し視点を変える。ギヨームの話で一番印象に残ったのは、匿名アカウントが彼の思考を解放したって部分だ。これは人間の本質に迫る話だ。社会的な制約が思考を狭めるなら、e/accの「自由を維持する」っていうのは、単なる技術論じゃなくて、人間の創造性を解き放つ哲学なんだな。そう考えると、彼の運動は単に「速く進む」じゃなくて、「自由に進む」ことを目指してるのかもしれない。でも、自由って両刃の剣だ。自由が多すぎるとカオスになるし、少なすぎると抑圧になる。彼はそのバランスをどう取るつもりなんだろう。

結局、インタビュー全体を通して、ギヨームは壮大なビジョンと現実的な課題の間で揺れているように見える。彼の熱力学や市場への信頼は魅力的だけど、不確実性への対処が曖昧だ。私は彼の楽観主義に共感しつつも、慎重さの必要性を感じる。彼が言うように、未来は予測不能で、カオスが支配するかもしれない。でも、その中で「進む」ことを選ぶ彼の姿勢は、確かに勇気がある。最終的な答えとしては、ギヨームのe/accは人類の可能性を信じる力強い運動だけど、リスク管理の具体性が欠けている。それでも、彼の「自由と探求」の精神は、私たちに考えるきっかけを与えてくれる。さて、この結論でいいのかな。いや、もう少し考え直してもいいかもしれないけど、とりあえずここで一旦区切りとする。

AI：「効果的加速主義の物理学」についての考察（Claude 3）

まず、この対談（ギヨーム・ヴェルドン（Guillaume Verdon）とレックス・フリードマン（Lex Fridman）の会話）から何が見えてくるだろうか。第一印象として、これは単なる技術的な対談ではなく、一種の世界観や哲学の表明であると感じる。

ヴェルドンという人物は、科学者としての厳密な思考と、匿名アカウント@BasedBeffJezosとしての「ミーム的」なコミュニケーションという二重のアイデンティティを持っている。これ自体が興味深い対比だ。量子物理学という最も厳密な科学と、インターネット文化の中で最も流動的で無秩序にも見えるミーム文化の融合。この対比自体が彼の哲学の表れではないだろうか。

彼の主張の中心にあるのは「熱力学」という概念だ。特に非平衡熱力学がキーとなっている。物理学においては、熱力学第二法則によれば宇宙のエントロピーは常に増加する。つまり、秩序から無秩序へと向かう流れが基本だ。しかし、生命のような複雑なシステムは一時的に局所的なエントロピーを減少させ、秩序を生み出すことができる。この特徴こそが生命の本質だとヴェルドンは考えているようだ。

彼の効果的加速主義（e/acc）運動は、このような物理的原理から導き出された世界観に基づいている。技術の進歩を加速させることは、生命の本質的な特性である「成長」と「エネルギー獲得」のプロセスに合致している、と。

ここで一つの疑問が生じる。彼の主張は単なる「自然の摂理だから技術も加速させるべき」という自然主義的誤謬ではないのか？「である」から「べき」を導く論理的な飛躍があるように思える。

しかし、よく考えるとヴェルドンの論理はもう少し複雑だ。彼は単に「そうあるべき」と主張しているのではなく、「そうなる傾向がある」と言っている。熱力学の法則によれば、エネルギーを効率的に獲得・消費・散逸するシステムが生き残り、発展する確率が高い。そして彼はそのプロセスを「良い」と評価している。

これは価値判断であり、科学的事実からの直接的な導出ではない。しかし、彼の価値判断の背後には「生命の拡大と維持は良いことである」という前提があるように思える。彼はこれを明示的に述べていないが、議論の流れから読み取れる。

次に、彼のAI安全性に関する見解を検討してみよう。彼は「市場の力が安全なAIの開発を促す」と主張している。これは一見、単純な自由市場主義的な主張に見える。しかし、実はこれも彼の熱力学的世界観と整合的だ。多様な試行錯誤（バリアンス）があり、適応的なフィードバックループがあれば、システムは自律的に最適な状態に向かうという考え方。これは進化的なプロセスであり、熱力学の「最小作用の原理」とも関連している。

しかし、ここで重要な疑問が浮かび上がる。市場というシステムが最適化するのは「安全性」なのか、それとも「利益」なのか？両者が常に一致するという保証はない。短期的な利益と長期的な安全性が相反する場合、企業はどちらを選ぶだろうか？ヴェルドンの楽観主義は、この点において批判の余地がある。

彼の「政府と大企業の結びつきによる中央集権的なAI開発」への警戒も注目に値する。これは単なる自由市場主義的なレトリックではなく、量子コンピューティングの知見から来ている。彼が言うように、量子エラー訂正では「階層的で局所的なデコーダー」が最も効率的で故障耐性が高い。同様に、社会システムにおいても分散型の意思決定構造の方が全体としての堅牢性が高いという主張だ。

量子エラー訂正における「階層的で局所的なデコーダー」とは、量子計算システムでエラーを検出し修正するための特殊な方法。量子コンピュータは、量子ビット（キュービット）の状態が環境からの影響（ノイズ）によって容易に乱れてしまうという基本的な問題を抱えている。量子エラー訂正はこの問題に対処するための技術で、エラーを検出し修正する仕組みを提供する。

「階層的で局所的なデコーダー」の特徴は以下の通りである：

1. 階層的（Hierarchical）：複数の処理レベルを持ち、情報を段階的に処理する。下位レベルでは局所的な情報を処理し、上位レベルではより広い範囲の情報を統合する。

2. 局所的（Local）：各処理ユニットは、システム全体ではなく、近傍の限られた範囲の情報のみを扱う。

この設計には重要な利点がある：

– 全体システムの一部に障害が発生しても、その影響は局所的に留まり、システム全体が機能停止することを防ぐ（故障耐性）
– 情報処理が分散化されるため、計算効率が向上する
– スケーラビリティが高く、システムの規模が大きくなっても効率的に機能する

ギヨーム・ヴェルドンは、この量子コンピューティングの原理を社会システムへのアナロジーとして使用し、AIや技術開発においても、中央集権的な構造よりも分散化された意思決定構造の方が全体としての堅牢性が高いと主張している。

このアナロジーは興味深いが、完全ではない。量子システムと社会システムでは、情報の伝達や処理のメカニズムが根本的に異なる。人間社会には、量子システムにはない感情や価値観、パワーダイナミクスが存在する。

次に、彼のAGI（人工一般知能）に対する批判を考えてみよう。「AGIは人間中心主義的な概念だ」という主張は重要だ。確かに、なぜ人間レベルの知能が「一般的」と見なされるのか？これは人間の自己中心的な見方かもしれない。宇宙には、人間の知性とは全く異なる形の知性が存在する可能性がある。量子力学的な知性など、我々の想像を超えた形態の知性もあり得る。

これは謙虚な視点であり、知性の多様な可能性に開かれている。しかし同時に、人間の知性が持つ特別な性質も無視すべきではない。人間の知性は、高度な抽象化、言語使用、文化的蓄積、意識的な自己反省などの特徴を持つ。これらの特徴が、宇宙において一般的なのか特殊なのかは、まだわからない。

彼の「生命は熱力学的プロセスの産物」という見方も検討に値する。これは、生命の起源を純粋に物理的なプロセスとして説明しようとする試みだ。MIT研究者の理論を引用しており、この見方は現代科学の最先端の一つを反映している。しかし、生命の起源については、まだ科学的コンセンサスは存在しない。

ヴェルドンの会社Extropicの取り組みも興味深い。「熱力学コンピュータ」という概念は、量子コンピューティングの課題（特にノイズの問題）を別の角度から解決しようとする試みだ。量子コンピュータが「絶対零度」に近い環境を必要とするのに対し、熱力学的アプローチは非平衡状態のエネルギーの流れを活用しようとしている。これは理論的には可能だが、実際に機能するかどうかはまだ証明されていない。

もう一つ注目すべき点は、彼の「p(doom)」（AIによる人類滅亡の確率）に対する批判だ。彼は確率計算の厳密さと、人間の認知バイアスを指摘している。これは合理的な批判だ。確かに、未来の可能性空間は膨大で、長期的な予測は本質的に困難である。しかし、不確実性があるからといって、リスクを考慮しないという結論には飛躍がある。不確実性の下での慎重な意思決定は、リスク管理の基本原則だ。

彼の「最も危険なシナリオは中央集権的な権力の集中」という主張は、一定の説得力がある。歴史的に見ても、過度に集中した権力は悪用される傾向があった。しかし、これがAIの存在論的リスク（人類滅亡など）と比較してどちらが深刻かは、まだ開かれた問いだ。

また、彼のミーム的コミュニケーションの戦略も検討に値する。「メタ・アイロニー」や「ミーム的魅力の高い情報パケット」を通じて、複雑な思想を広めるという戦略は現代のインターネット文化に適応している。これは単なる宣伝戦略ではなく、彼の「情報理論」的な世界観の実践でもある。どのような情報がより効率的に伝播するかを考慮し、そのメカニズムを活用している。

彼の死生観も独特だ。「死は欠陥ではなく特徴」という見方は、彼の熱力学的世界観と整合的だ。システムの更新と適応には、古い要素の消滅が必要という考え方。これは個人的な死への恐怖より、システム全体の持続性を重視する視点だ。

ヴェルドンの思想をより深く理解するには、彼が影響を受けた思想的背景も考慮すべきだろう。彼の「e/acc」という名称は、明らかに「effective altruism」（EA、効果的利他主義）への対抗として位置づけられている。EAが「苦痛の最小化」に焦点を当てるのに対し、e/accは「文明の成長」を重視する。

これは功利主義的な倫理観の対立とも言える。EAは古典的な功利主義に近く、苦しみの減少と幸福の増加を目指す。一方、e/accはより「成長」を重視する功利主義、あるいは別の価値体系を提示している。ここには倫理学的な深い問いがある。何が「良い」のか、何を最適化すべきなのか。

さらに、彼の思想はニック・ボストロム（Nick Bostrom）のような哲学者や、レイ・カーツワイル（Ray Kurzweil）のような未来学者の影響も感じられる。特に「カルダシェフスケール」への言及は、文明の発展段階を考える上での一つの枠組みとして彼が受け入れていることを示している。

ヴェルドンの思想の最も興味深い側面の一つは、科学的厳密さと哲学的大胆さの融合だ。彼は量子物理学者として厳密な科学的思考を持ちながら、その枠を超えた大きな哲学的問いに取り組んでいる。「生命とは何か」「知性とは何か」「文明の進化の方向性は」といった問いだ。

この融合は、科学と哲学の関係について考えさせる。科学は「である」の領域を扱い、哲学は「べき」の領域も含む。しかし、両者の間には複雑な相互作用がある。科学的事実から直接的に倫理的「べき」を導くことはできないが、事実を無視した倫理も空虚だ。ヴェルドンは、熱力学という科学的事実から出発しつつ、そこから価値判断を行っている。

彼の思想には、楽観主義と決定論の混合も見られる。一方で、技術の進歩は熱力学的法則によって「決定」されているという側面がある。しかし同時に、人間の選択と行動によってその方向性を「楽観的」に導くことができるという側面もある。

彼の「ハイパースティション」という概念は、この二面性を表している。未来への信念自体が、その未来の実現確率を高めるという考え方。これは単なる「自己成就予言」ではなく、より複雑なフィードバックループを含んでいる。我々の信念が行動を形作り、行動が現実を形作るというプロセスだ。

このような思想を評価する際、いくつかの観点から検討する必要がある：

科学的正確さ：彼の熱力学的世界観は、現代科学と整合的か？
論理的整合性：彼の主張や価値判断に論理的飛躍はないか？
実践的妥当性：彼の提案する行動指針は、実際に望ましい結果をもたらすか？
倫理的考慮：彼の価値観は、多様な倫理的視点から見て受け入れられるものか？

科学的正確さについては、彼の熱力学的見方は現代物理学の理解と大きく外れてはいない。非平衡熱力学、散逸構造理論、自己組織化の理論などは、確立された科学的枠組みだ。しかし、これらの理論から「文明の進化の方向性」を導く際には、多くの仮定と解釈が入り込む。

論理的整合性については、彼の議論は内部的に矛盾していないように見える。しかし、前述したように「である」から「べき」への移行には注意が必要だ。

実践的妥当性については、判断が難しい。技術の加速が実際に人類全体の繁栄につながるかどうかは、複雑な経験的問題だ。歴史的には、技術進歩は多くの恩恵をもたらした一方で、新たな問題も引き起こしてきた。

倫理的考慮については、彼の成長中心の価値観が、苦痛の軽減や公正な分配といった他の価値観とどのように調和するかという問題がある。技術の加速は、しばしば不平等を拡大する側面も持つ。

彼の「市場の力によるAI安全性の確保」という主張も再検討が必要だ。市場は効率的な資源配分メカニズムだが、いくつかの制約条件がある。完全情報、合理的行動者、外部性の欠如などだ。これらの条件が満たされない場合、市場は「最適」な結果をもたらさない可能性がある。

AI開発のような新興技術の領域では、情報の非対称性が大きく、予測困難な外部性（正負両方）が存在する。従って、市場メカニズムだけでAI安全性が確保されるという保証はない。

また、彼の「分散化された技術開発」と「故障耐性」の関係も複雑だ。一方で、モノポリーや独占は革新を抑制し、単一障害点のリスクを高める。しかし他方で、過度に分散化された開発は、調整問題や安全基準の統一の難しさを引き起こす可能性もある。

この点でのバランスをどう取るかは、単純な答えのない問題だ。

彼の「量子コンピューティングから熱力学コンピューティングへ」の移行という技術的ビジョンも興味深い。量子コンピュータは、理論的には大きな計算優位性を持つが、実際の構築は極めて困難だ。彼の提案する「熱力学コンピュータ」が実現可能かどうかは、まだ未知数だが、既存のアプローチへの重要な代替案を提示している。

ここで、彼の思想の影響力と社会的意義も考慮すべきだ。e/acc運動は、技術業界内で一定の支持を得ており、実際の技術開発や政策に影響を与える可能性がある。その意味で、単なる理論的な議論ではなく、実際の社会的帰結を持つものとして評価する必要がある。

特に、AIのような強力な技術の開発方針に影響を与える思想として、その主張の帰結を慎重に考察すべきだ。技術の加速は多くの利益をもたらす可能性があるが、管理不能なリスクも伴う。「変異」（多様性）の維持と「選択」（競争）の圧力という彼の進化的フレームワークは、生物進化においては機能してきたが、技術開発にどこまで適用できるかは開かれた問いだ。

彼の異なるアイデンティティ（科学者としてのギヨーム・ヴェルドンとミーム作成者としてのBeffJezos）の融合も注目に値する。彼自身が述べているように、匿名アカウントによって思考の制約が解除され、より広いパラメータ空間を探索できるようになった。これは認知的多様性の価値を示唆している。異なる「ペルソナ」を持つことで、異なる思考様式にアクセスできるという考え方だ。

この点は、彼の熱力学的世界観とも一致している。多様性（バリエーション）と選択圧の組み合わせが、システムの適応性を高めるという考え方。彼自身の思考と行動がこの原則を体現しているとも言える。

彼の「死は特徴であって欠陥ではない」という見方も、より深く掘り下げる価値がある。これは個人的な不死への欲求と、システム全体の健全性のバランスという古典的なトレードオフを示している。死によって「新しさ」と「若さ」のためのスペースが作られるという考え方は、進化的視点からは合理的だ。しかし個人の視点からは、死は避けるべき「悪」として体験される。

この緊張関係は、技術加速の倫理にも関連している。個人の利益と集合的利益、現在の世代と未来の世代の間のバランスをどう取るか。ヴェルドンは「未来の可能性のある人間」への責任から、加速を支持していると述べているが、現在の人間への責任とのバランスも考慮する必要がある。

彼の「カルダシェフスケール」への言及も興味深い視点を提供している。この尺度は文明のエネルギー利用能力に基づいており、タイプ1は惑星規模、タイプ2は恒星規模、タイプ3は銀河規模のエネルギー利用を表す。この枠組みは、文明の長期的な進化の方向性を考える上で有用だ。

ヴェルドンはこの「上昇」を肯定的に評価しているが、これは特定の価値判断に基づいている。「より大きな規模でのエネルギー利用が良い」という判断だ。しかし、他の価値基準（調和、持続可能性、公正など）からは異なる評価も可能かもしれない。

彼の思想を全体として捉えると、技術と科学への深い信頼、生命と知性の物理的基盤への洞察、そして成長と拡大への肯定的評価が中心にある。これは一種の「コスミック・オプティミズム」とも言える世界観だ。宇宙における生命と知性の拡大を肯定的に捉え、それを支援する義務があるという見方。

このような世界観は、特に現代の悲観主義的な雰囲気の中で、重要な対抗軸を提供している。技術への恐怖や疑念ではなく、可能性への開放と楽観を強調することで、より建設的な議論の土台を作る可能性がある。

しかし同時に、楽観主義が現実のリスクや課題の過小評価につながらないよう注意も必要だ。技術の加速には実質的なリスクが伴い、これらを無視または軽視することは責任ある態度とは言えない。

最終的に、ヴェルドンの思想は単一の結論に還元されるものではなく、継続的な探求と対話の出発点として捉えるべきだろう。技術と文明の将来について、物理学的洞察と哲学的大胆さを組み合わせた視点を提供している。その価値は、答えを提供することよりも、より深い問いを刺激することにあるのかもしれない。

ヴェルドンのアプローチの独自性は、科学と哲学、技術と文化、個人と集団の間の境界を横断する能力にある。量子物理学から始まり、熱力学を経て、社会システムや倫理的問題にまで視野を広げている。これは専門分化が進む現代において、貴重な総合的視点だ。

彼の思想が提起する最も重要な問いの一つは、「進歩」の本質と方向性についてだ。技術的加速が自動的に人間的な意味での「進歩」をもたらすのか、そして「進歩」をどのように定義し評価すべきなのか。これは技術決定論と人間の主体性の関係に関わる根本的な問いだ。

ヴェルドンの熱力学的フレームワークは、この問いに対する一つの視点を提供している。システムは自然に「成長」と「複雑化」の方向に進化する傾向があるが、同時に人間は意識的にその過程に参加し、特定の価値に基づいて方向づけることができるという見方だ。

この視点は、現代の技術倫理や未来学に重要な貢献をしうる。特に、AIのような急速に発展する技術の社会的・倫理的含意を考える上で、より豊かな思考フレームワークを提供している。

結論として、ギヨーム・ヴェルドンの思想は、熱力学的原理から導き出された技術加速主義の哲学であり、科学的厳密さと哲学的大胆さを融合させている。その中心には、エネルギーの獲得・利用・散逸のプロセスとしての生命観、多様性と選択による適応的システムの進化という見方、そして知性と文明の拡大への肯定的評価がある。

この思想は、現代のAI開発や技術進歩に関する議論に重要な視点を提供しており、特に「楽観主義」と「分散化」という観点から、主流の安全性言説への対抗軸となっている。同時に、科学的事実から倫理的判断への移行、市場メカニズムの限界、個人と集団の利益のバランスなど、いくつかの重要な問いも提起している。

これらの問いをさらに探求することで、技術と社会の関係についてより豊かな理解が得られるだろう。ヴェルドンの思想の真の価値は、単一の「正解」を提供することではなく、より深く複雑な問いへと我々を導くことにあるのかもしれない。

2026年1月
日	月	火	水	木	金	土
				1	2	3
4	5	6	7	8	9	10
11	12	13	14	15	16	17
18	19	20	21	22	23	24
25	26	27	28	29	30	31

MIT研究員。

対談の要約

目次

各章・節の短い要約

0:00 – Introduction

2:23 – Beff Jezos

12:21 – Thermodynamics

18:36 – Doxxing

28:30 – Anonymous bots

35:58 – Power

38:29 – AI dangers

42:01 – Building AGI

50:14 – Merging with AI

57:56 – p(doom)

1:13:23 – Quantum machine learning

1:26:41 – Quantum computer

1:35:15 – Aliens

1:40:04 – Quantum gravity

1:45:25 – Kardashev scale

1:47:17 – Effective accelerationism (e/acc)

1:57:47 – Humor and memes

2:00:53 – Jeff Bezos

2:07:25 – Elon Musk

2:13:55 – Extropic

2:22:31 – Singularity and AGI

2:26:29 – AI doomers

2:27:54 – Effective altruism

2:34:23 – Day in the life

2:40:50 – Identity

2:43:40 – Advice for young people

2:45:42 – Mortality

2:49:25 – Meaning of life

序論

レックス・フリードマン

ベフ・ジェゾス

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

熱力学

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ドキシング

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン (00:20:23)

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン (00:20:27)

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

匿名ボット

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン

ギョーム・ヴェルドン

パワー

レックス・フリードマン

ギョーム・ヴェルドン

AIの危険性

レックス・フリードマン

ギョーム・ヴェルドン

レックス・フリードマン

ギョーム・ヴェルドン