Dwarkesh Patel 0:00
さて、今日はDavid Bushと話をします。この対談は、私が何年も前から熱望していたものです。ですから、私にとってはとてもエキサイティングなことなのです。まず、AIについてお聞かせください。AISが人間以上に根本的な知能を持たないと予想される理由を簡単に説明していただけますか？
David Deutsch 0:19
AGIということですね？そうです。根本的に知的というのは、人間と同じような認知ができる、ということでしょうか？原理的には？そうです。つまり、科学や芸術をしたり、原則的に恋もしますし、善悪の判断もできます。ですから、その理由は2つあります。
一つは計算、ハードウェア、計算のハードウェアに関するもので、もう一つはソフトウェアに関するものです。ハードウェアを例にとると、私たちの脳はチューリング完全なハードウェアのビットであり、したがって、任意の計算可能な関数に対して任意の計算可能なプログラムを実行する機能を示すことができることが分かっています。
さて、「あらゆる」と言っても、実際には「あらゆる」ではないのですが、あなたと私がここに座って、会話をしていて、「どんな会話でもできる」とも言えるわけです。ですから、できる会話の数は限られてもいるわけです。また、会話の中には計算速度に依存するものもあります。
例えば、巡回セールスマン問題を解くとしたら、宇宙の年齢では解けないような巡回セールスマン問題がたくさんあるわけです。つまり、スピードとメモリ容量以外に、実行できるプログラムに制限がないのです。つまり、私たちに対するハードウェアの制限は、すべてスピードとメモリ容量に集約されるのです。
そしてこの2つは、宇宙に存在する他のどのような存在にも匹敵するレベルまで拡張することが可能です。なぜなら、もし誰かが脳よりも速く思考できるコンピューターを作ったら、そのコンピューターやテクノロジーを使って、私たちの思考を脳と同じ速さにすることができるんです。
これがハードウェアです。説明に関して言えば、私たちは他の存在と同じような説明に到達することができるのでしょうか？
通常、これはAGIという観点ではなく、地球外知的生命体という観点で言われることですが、AGIは、私たちがアリにとってそうであるように、彼らが私たちにとってそうであるとしたらどうでしょう？しかし、これもハードウェアの問題であり、ハードウェアを増やせば簡単に解決できることです。
ですから、それを回避しましょう。つまり、人間が本質的に理解できない概念があるのか、ということです。マーティン・リースはそう考えているようです。私たちは量子力学を理解できますが、猿は理解できません。地球外生命体は、私たちが理解できない量子力学を超える何かを理解できるかもしれません。それは、私たちのハードウェア、つまりメモリやスピードだけでなく、特殊なハードウェアに関係してくるからです。
そしてこれも同じ議論になりますね。この特殊なハードウェアは、コンピュータ以外の何物でもないということです。そうです。もし愛に必要なハードウェアがあったとして、誰かがそのハードウェアを持たずに生まれたとしたら、そのハードウェアは、愛や数学的洞察力などをつかさどる脳の一部分に過ぎないんですよ。
脳の他の部分とつながっているのと同じように、脳の他の部分ともつながっています。つまり、ニューロンによって電気信号が送られ、化学物質によって濃度が変化します。したがって、どの信号を送り、どの化学物質を調整するかを計算する人工装置が同じ仕事をすれば、見分けがつかなくなります。
したがって、愛を感じることができなかった人が、その1つで増強された人は、その後に愛を感じることができる、つまり増強されたのです。つまり、この2つがそうなのです。そして、この2つが唯一の関連するものだと思います。ですから、AGIも人間も定義された意味での範囲は同じだと思うのです。
Dwarkesh Patel 6:13
なるほど、興味深いですね。なるほど、ソフトウェアの問題は、すぐに難しい問題よりも面白いと思います。しかし、人間の脳のメモリやスピードが恣意的に簡単に拡張できるという考えには異議を唱えたいと思います。しかし、それについては後で触れることにしましょう。私たちはまず、この質問から始めるつもりです。
頭のいい人間でも説明できることを、すべての人間が説明できるのでしょうか？もし私が村の馬鹿を連れて行って 量子コンピューターの理論を作るように頼んだら 望めばこんな事ができると予想できるでしょうか？
参考までに、アメリカ人の約21〜24%が 健康リテラシー調査において レベル1に該当します。つまり、運転免許証の有効期限を確認したり 銀行預金通帳を合計したりといった 基本的な仕事さえ出来ないのです。
では、その人間たちは、量子コンピュータを説明したり、ジョイント・ショー・アルゴリズムを作ったりすることができるのでしょうか？もし、その能力がないのなら？それは万能の説明者の理論が崩れるということになりませんか？
David Deutsch 7:18
そうですね、あなたが話しているようなタスクは、猿にはできないタスクです。しかし、猿ができるような作業すらできないほど脳に障害を持つ人間もいるのです。運転免許証などを読み取るプログラムをインストールするには、ハードウェアだけでなくソフトウェアも拡張する必要があります。
ですから、もし私たちが知らない人がいたら、私たちは脳について十分な知識がないのかもしれませんね。しかし、もし、人口の24%の人がそうだとしたら、それは間違いなくハードウェアではありません。そのような人たちにとっては、間違いなくソフトウェアだと言えるでしょう。
もしハードウェアであれば、不完全なハードウェアを修理すれば済む話です。ソフトウェアであれば、単に彼らがやりたいとか、教えてもらいたいとか、そういう問題ではなく、例えば、既存のソフトウェアが、やりたい、ではなく、どんな言葉を使えばいいのか、コンセプト的にその準備ができているのか、という問題なのです。
ブレット・ホールはよく、「中国語を話したい」と言っています。なぜなら、そのプログラムを手に入れるほどの欲求がないからです。しかし、彼のハードウェアには中国語を学ぶことを妨げるものは何もありません。また、ソフトウェアにも問題はありません。
ただし、そのプロセスを経たくないというのは、何と言えばいいのでしょう。つまり、彼は学びたいと思っているんです。学びたいとは思っていますが、そのプログラムが組み込まれる過程を経るのは嫌なのです。しかし、もし状況が変われば、そうしたいと思うかもしれません。
例えば、私の親戚の多くは、数世代前に異国の地に移住することを余儀なくされ、そこで、決して話すとは思わなかったですし、話したくもなかった言語を学ばなければならなかったのです。しかし、彼らはすぐにその言語を話すようになりました。
それは、彼らが変えたいと思ったからなのでしょうか。大局的に見れば、彼らは何を変えたかったのでしょうか、と言えるかもしれません。私の祖先が言語を学びたかったように、運転免許証の盲人が運転免許証を読むための教育を受けたかったとしたら、そうです、彼らは、それ以下のレベルの機能不全があることを学ぶことができました。
そして、それがハードウェアの限界だと思います。その境界線上では、それほど大きな差はありません。これは、「猿に人間の知性をプログラムすることは可能か」という質問と同じです。その答えは「イエス」だと思います。しかし、猿をプログラミングするには、ハードウェア、つまり、欠陥の修復という意味での手術は必要ありませんが、神経細胞レベルでの複雑な変化が必要になります。
人間の頭脳から猿の頭脳にプログラムを転送することは可能でしょう。猿は人間よりはるかに少ないメモリスペースしか持っていませんし、人間が持っている特定の特殊モジュールも持っていませんが、そのどちらも、私たちが馬鹿みたいに使っているものではありませんから。
つまり、今、私があなたと話しているとき、私の脳の中には、まったく言及していない知識がたくさんあります。例えば、私がピアノを弾けるとか、車を運転できるとかいう事実は、この会話では使われていません。つまり、私たちが大きな記憶容量を持っているという事実は、このプロジェクトには影響しませんし、このプロジェクトは非常に不道徳だと思います。
Dwarkesh Patel 12:26
ハードウェアの違いによって、人間の知能が異なるとしたらどうでしょう。もし、それが機能的な読み書き能力すらない人たちまでのことだとしたら？そうでしょう？つまり、これらはまた、人が待っているのです。
David Deutsch 12:37
待って、待って。私は、それが唯一の低レベルの意志で、脳の欠陥のレベルでまたはメモリまたは速度か何かの私達の割り当ての全体を使い果たすのレベルでハードウェアである可能性があると述べました。ということは、部分によってはハードウェアになる可能性があります。
Dwarkesh Patel 12:57
方法ソフトウェア類似？ は、あなたのための遺伝的影響と同義ハードウェア、またはそれはソフトウェアがに遺伝することができます。
David Deutsch13:07
ソフトウェアは、しかし、遺伝することができます、それはそれが不変であることを意味するものではありません。この意味は、はじめにということです。
Dwarkesh Patel 13:16
OKです。ソフトウェアではないと思う理由は、この人たちもたまたま同じ人たちだからです。仮にソフトウェアだとすると、彼らが選んだこと、あるいは何かが変わる可能性があるとします。なぜこの人たちは、給料は安いけれども認知的な要求が低い仕事を選んだり、学力テストやIQテストで悪い結果を選んだりするのでしょうか、私には不思議でなりません。なぜこのようなことを選ぶのでしょうか。認知能力の低い人がそうするのは、単に認知能力が低いからということで、より簡略化された説明のように思われます。
David Deutsch 13:50
例えば、学校に行かないという選択肢を与えられて、授業を受けないという選択をする人はなぜいるのでしょうか。まあ、それを選択する理由はたくさんあります。良い理由もあれば悪い理由もあります。なぜなら、人が行う選択（私はソフトウェア的な選択だと思いますが）を、定義上、ハードウェアによって強制されたものだと言っているだけだからです。ブレット・ホールが流暢な中国語を話すことを要求する文化があったとしても、同じようにはしたくないというだけのことです。
ブレット・ホールがさまざまな仕事をするために、流暢な北京語を話すことを要求する文化があったとします。もし彼が中国語を知らなければ、低レベルの仕事に追いやられるでしょう。そうすると、彼は、引用、認知的に要求の高いタスクではなく、低レベルのタスクを選択することになるのです。しかし、その認知的負荷の高いタスクを作るのは、あくまでも文化なのです。そのタスクを行うことの難しさにハードウェア的な解釈を与えているのです。
Dwarkesh Patel 15:12
そうなんですね。つまり、ノートパソコンに座ってできるような仕事は、建設現場でできる仕事とは異なる認知を必要とし、おそらくより多くの認知を必要とするというのは、それほど恣意的なこととは思えないのですが、もし認知でないのなら、あるいは知性のようなものがないのなら、識字テストや仕事内容で測られるようなものでないなら、機能的な識字能力を持たない人々の間にこれほど高い相関があることをどう説明するのでしょう？
また、機能的なリテラシーを持たない人と、例えばプログラマーのような仕事をしている人の間には、反相関があるのではないでしょうか？Appleで働く人たちは、この識字率調査で全員がレベル1以上であることを保証します。なぜ、たまたま同じような選択をしたのでしょうか？なぜそのような相関関係があるのでしょうか？
David Deutsch 15:56
そうですね、相関関係はどこにでもありますし、文化というのは、人が持っている特定の能力を利用するために、その能力を利用するように作られています。例えば、1万人の従業員を雇用する会社を設立する場合、その会社の仕事のやり方を、例えば、ドアの上の看板やドアの上のサイン、ダイヤルの数字を、その文化の中で、高い教育を受けている人が読めるものにするのが一番です。
原理的には、ドアのラベルをそれぞれ別の言語にすることもできます。人間の言葉は何千もありますが、仮に5000の言語があって、社内に5000のドアがあるとすると、同じ意味を持たせて、全部別の言語にすることができるのです。なぜかというと、それらはすべて同じ言語であり、しかも、ただの古い言語ではなく、多くの教育を受けた人々が流暢に知っている言語だからです。
そのため、それを誤解して、ああ、何かある、と言ってしまうことがあります。みんなが同じ言葉を話すのには、何かハードウェア的な理由があるのでしょうか。いいえ、そんなことはありません。それは文化的な理由なのです。
Dwarkesh Patel 17:24
なるほど、では、もし文化がどこか違っていたら、もしかしたら、アイデアを伝える他の方法があったのかもしれませんね？現在、機能的なリテラシーがないとされている人たちが、正しい選択、あるいは正しい選択でなくても、Quantic readingを理解することにつながるような選択をすれば、例えば量子コンピュータについて学べる立場になる可能性があるとお考えですか？
David Deutsch 17:48
どうでしょうか？ですから、質問をはぐらかすつもりはありません。答えは「イエス」です。しかし、あなたの言い方は、またしても、むしろ疑問を投げかけています。このような状態になるのは言語だけでなく、すべての知識です。ですから、学ぶだけでいいんです。
英語ができない人がいたとして、量子コンピュータの分野では、以前は英語が標準語だったのがドイツ語になりました。今は英語です。英語が分からない人は、量子コンピュータを学ぶのに不利です。しかし、言語の不足だけでなく、物理学や数学、論理学などの文化が同等で、言語だけが異なる文化圏の出身者なら、言語だけを学べば、他の人と同じように簡単に学ぶことができます。
しかし、いろいろなことが違っていて、例えば論理で考えず、プライドや男らしさ、恐れなど、例えば先史時代や啓蒙時代の人々の生活を支配するような概念で考えているなら、量子コンピューターを理解するためには、文明の言葉だけでなく、もっと多くのことを学ばなければならないでしょう。
その文明の言語だけでなく、その他の機能、つまり、すべてではありませんが、さまざまな機能を学ばなければなりません。その上で、運転免許証を読めない人も同様に、異なる文化圏にいることになります。IQ、つまり、文明の中で知的文化を高いレベルで見つける能力を高めるには、彼らも学ばなければならないでしょう？彼らはできないでしょう。
Dwarkesh Patel 20:08
もしそのような違いがあるのなら、出生時に離れ離れになった一卵性双生児が、異なる家族のもとに養子に出された場合、IQが異なる傾向にあることをどう説明するのでしょう。実際、その相関は8ポイントで、これは、異なる日にテストを受けた場合、その日の体調によって、相関が異なるということです。
異なる文化を持つ家庭に養子に出された人たちは、異なる国にいることが多いのですが、ハードウェア理論で説明すると、IQテストのスコアが似ているのは、識字率や仕事の成果などに相関があるためです。一方、ソフトウェアでは、異なる家庭に養子に出される理由をどう説明するのでしょうか、私にはわかりません。なるほど。
David Deutsch 20:53
ハードウェア理論では、ハードウェアがそうであるかもしれないという意味で説明しています。ですから、それ以上の説明がないのです。また、ソフトウェア理論もそうです。すみません、消えました。
Dwarkesh Patel 21:11
つまり、あれです。IQと相関する脳のレベルの違いみたいなものが実際にあるわけですよね？実際の頭蓋骨の大きさは、IQとポイント3の相関があるわけです。この他にもいくつかありますが、人間の知能や知能の遺伝的変異株の全バリエーションを説明できるわけではありません。しかし、私たちは相関するいくつかの実際のハードウェアの違いを特定することができました。
David Deutsch 21:30
仮に、これらの実験の結果が違っていたとすると、その国でのことです。同じ家庭で育ち、髪の毛の量や、その他の外見の違いだけで、IQに何の違いもなく、両親が誰であるかだけが違いを生むという結果が出たとします。さて、これは驚くべきことだと思いませんか？そうでしょうか？両親が誰であるかということ以外に、IQと相関するものがないというのは、驚くべきことではないでしょうか？そうです。
さて、どの程度の相関があると考えるべきでしょうか？相関関係はどこにでもあります。インターネット上では、ジョーク、ミーム、何とでも呼べるものです。しかし、彼らは、ある年に何本の冒険映画が作られたかということと、一人当たりのGNPがどれくらいであるかということを相関させて、重大な点を指摘しているのです。
これは悪い例ですが、明らかな関係があります。しかし、私が言いたいのは、特定の俳優の映画製作本数と鳥インフルエンザの発生数との関係です。相関関係は因果関係ではない、というだけではありません。相関関係はどこにでもあるということです。
2つの物事の間に相関があることは、決して珍しいことではありません。いろいろなことを聞けば聞くほど、相関関係が出てきます。例えば、双子の研究でIQを測定する場合、ある特定の事柄をコントロールします。一卵性双生児は、一緒に育てられるか、別々に育てられるか、どちらかでなければならないとおっしゃいましたね。
離れていますか。そうです。しかし、コントロールできないものは無限にあるんです。IQの本当の決定要因は、例えば、3歳半から4歳半の間にどれだけ良い扱いを受けたか、ということかもしれません。その「良い」というのは、まだ解明されていないけれども、そういう意味です。
そうすると、私たちが知らないこと、誰もこの実験でコントロールしようとしないことが、IQと相関していることが予想されます。しかし、残念なことに、それは一卵性双生児かどうかとも相関があるのです。
つまり、一卵性双生児のイーノスが類似性を引き起こしているのではありません。別のものなんですね。これは外見か何かの側面です。そして、もし、このものが何であるかを知っていて、視野に入れて、外科的に人を変えたとしたら、一卵性双生児を作るのと同じ効果を得ることができるはずです。
Dwarkesh Patel 25:33
そうですね。しかし、あなたが言うように、科学では、あるいはどんな現象を説明するにしても、可能な説明は無限にありますよね、最善のものを選ばなくてはなりません。ですから、養父母や別の養父母には一目瞭然の未知の特性があり、それを差別や異なる扱いの根拠とすることができるのでしょう。しかし、それは
David Deutsch 25:51
つまり、彼らはそれが何であるかを知らないのだと思うのです。
Dwarkesh Patel 25:55
しかし、それなら、年齢で子供を差別的に扱うために、それを差別主義者として使っているのでしょうか。
David Deutsch 25:59
例えば、3歳で、意識的にそれを識別するのではなく、それは、この子は本当に頭がいいという考えを得るようなものでしょう。ただ、親が意識していないこともあり得るということを示したいのです。親に、自分の子どもに対して違う態度をとる原因となった子どもの特徴を挙げてもらうと、10個くらい挙がるかもしれません。しかし、それ以外にも、親が気づいていない1000もの特徴があり、それがまた親の行動に影響を与えているのです。
Dwarkesh Patel 26:29
そこで私たちは、まず、研究者が特定できていないこの特性が何であるかを説明する必要があります。しかし、それは非常に明白なので、親は無意識のうちにさえ、それを確実に利用することができます
David Deutsch 26:41
というのも、親は子どもに関する膨大な情報を持っていて、それを頭の中で処理しているからです。そのほとんどは、それが何であるかを知らないのです。
Dwarkesh Patel 26:59
なるほど。わかりました。では、この話題はひとまず置いておきましょう。それから、私たちを動物の話に持っていきましょう。創造性が存在しないものだとしたら、増分、その、つまり容量、素晴らしい説明です。簡単な例ですが、YouTubeで「Cat Opening a Door」を検索してみてください。
例えば、猫が、この金属製のものにトルクをかければドアが開くという理論を展開するのがわかりますね。いや、そんなことはない。そして、カウンターの上に登って、ドアの取っ手の上に飛び乗るんです。他の猫がそうするのを見たことがありません。
他の人間がカウンターの上に乗って、そのようにドアを開けようとするのを見たことがないのです。しかし、その形態から、これが私がドアにアクセスできる方法だと推測するのです。そして、それが理論であり、実験では、ドアが開くかどうかということです。これは典型的な例です。これは、推測と反論の古典的なサイクルのように思えます。
これは、現金が少なくとも何らかの拘束された形や創造性を持っていないことと両立するのでしょうか？
David Deutsch 27:57
完全に互換性があると思います。動物とは驚くべきもので、動物の本能的な知識は、動物が見たこともないような環境でも簡単に繁栄できるように設計されているんですね。実際、細かいことまで考えなければ、動物たちは今まで見たことのない環境にいるのです。
金魚と金魚鉢はそうかもしれませんが、オオカミが森の中を走るとき、見たこともない木々のパターンを目にします。そして、それぞれの木を避けるために、EVOCの戦略を立てなければなりません。それだけでなく、実際に走っているウサギを捕らえるための戦略も、これまでにない方法で考えなければなりません。
つまり、オオカミの遺伝子の中にある膨大な知識によって、このことが理解できるのです。どんな知識なんですか？まず左に曲がって、次に右に曲がって、ジャンプして。…..といった指示のような知識ではありません。外からインプットを受けて、そのインプットに関連した行動を生成するようなインストラクションなんです。
創造性は必要ありませんが、人間ロボット工学がまだ到達していない高度なプログラムを必要とします。ところで、異性のオオカミを見かけたら、ウサギを捨てて代わりにセックスをしようと思うかもしれません。また、ロボットが適切な種のロボットを見つけて、そのロボットとセックスするプログラムは、やはり現在のロボット工学の域を出ていないと思いますが、実現はするでしょう。なぜなら、同じプログラムが、次のオオカミに同じことをさせるからです。
同じ状況でも、かつて見たことのないような状況であるということです。そして、それはまだ機能することができ、そのプログラムの信じられないほど洗練されたことの証です。しかし、それは創造性とは何の関係もありません。例えば、キャンプファイヤーを囲んで、オオカミに食べられそうになったという怖い話をお互いにするようなものです。
動物たちは狼が逃げるようなことはできますが、人間が話している話よりももっと複雑な話をすることができます。しかし、彼らは物語を語ることができません。彼らは物語を語らないのです。物語を語ることは、ある種の典型的な創造的活動であり、説明を形成することと同じ種類の活動なのです。
ですから、猫がハンドルに飛び乗ることができても、まったく不思議ではないと思うんです。ある意味で、枝が邪魔にならないように枝に飛び乗らせるのと同じ、驚くほど高度なプログラムが、見たこともない新しい環境でも機能することは容易に想像がつきます。しかし、それ以外にもできないことがたくさんあります。
Dwarkesh Patel 31:56
ああ、確かにその通りです。私が言いたかったのは、それは創造性の境界型を持っているということです。もし、制限された創造性の形態が存在するのであれば、人間もその1つである可能性があります。しかし、それは私が想像するのに苦労している先祖の状況は、猫ができませんでした、金属棒にジャンプすると、木の演奏が開いて、あなたが知っています、反対側にアクセスできるようになるという遺伝的知識を得ることがなかったでしょう、と言うことです。
David Deutsch 32:21
まあ、私はちょうど例を挙げたと思いました。つまり、もし私たちが知らないのであれば、少なくとも私は、家猫の祖先がどんな環境で暮らしていたのか知りません。しかし、例えば、下草が生い茂るような環境であれば、下草に対処するためには、非常に高度なプログラムが必要で、そうでなければ、どこかで立ち往生して餓死してしまうでしょう。
たとえば、犬が茂みにはまったとしたら、抜け出すためのプログラムは何も持っていないと思います。一時的に状況を悪化させるようなことをして、脱出するという発想がないのです。犬にはそれができないと思うんです。ただ、それが特別に複雑なことだからというわけではありません。ただ、そのプログラミングにそれがないだけなのです。しかし、動物のプログラミングは、そのようなことがたくさん起こるような環境で生きていれば、簡単にそれを持つことができるのです。
Dwarkesh Patel 33:29
あなたのAI理論は、狭い目的機能を持つAIと互換性があるのでしょうか？例えば、私がディープラーニングのプログラムを書いて、金融史の上で取引し、株式市場で1兆ドルを稼ぐように頼んだとします。こんなことは不可能だと思いますか？それとも、もし不可能だと思うのであれば、私は可能だと思います。これはAGIではありませんが、非常に強力なAIのように思えます。
David Deutsch 33:59
そうですね、強力になりたいのであれば、武器か何かを発明したほうがいいかもしれませんね。しかし、より優れたネズミ捕りは、非暴力的であるため、さらに優れており、ペーパークリップを発明することができます。この文脈でよく使われる例を挙げると、あなたのイベントでは、ペーパークリップが発明されていなかったら、ペーパークリップを発明して一儲けすることができます。これはアイデアですが、ペーパークリップが世に出るわけではないので、AIとは言えません。そもそも、ペーパークリップの価値は、あなたのアイデアによるものなのです。
同様に、あなたが間抜けな裁定取引マシンを発明したとします。このマシンは、他の誰もやろうとしていないような複雑な取引を探し出し、あなたを大儲けさせるでしょう。しかし、あなたを大儲けさせたのは、裁定取引機械ではありません。誰も気づかない裁定取引の機会をどう探すか、というあなたのアイデアなのです。
そうでしょう？何が価値あるものだったのでしょうか。それが経済で金を稼ぐ普通の方法です。アイデアを持っていて、それを実行するんです。そうでしょう？それがAIであったかはさておき、ペーパークリップであったかもしれないのです。
Dwarkesh Patel 35:24
しかし重要なのは、現在使われているモデルは、90年代のチェスエンジンのようなエキスパートシステムではない、ということです。アルファ・ゼロ・アルファ・ゴーのようなもので、これはほとんど空白のニューラル・ネットのようなものです。
もし、金融の歴史を恣意的に投げかけたとしたら、AIは一般的な知能ではないにせよ、正しい取引が何であるかを実際に把握したと言ってもいいのではないでしょうか？
David Deutsch 35:53
チェスでは可能でしょうが、経済では無理でしょう。というのも、経済の価値は創造性によって生み出されているからです。ですから、儲かるんです、大儲けできるんです。その方法は、もしあなたが、その方法について良いアイデアを持っているならば、ですが。
しかし、経済における価値のほとんどは、知識の創造によって生み出されます。誰かが「スマートフォンがあればいい」というアイデアを持ちましたが、ほとんどの人は「それはうまくいかないだろう」と思っています。そのアイデアは、AGI以外には予測できません。AGIはそのアイデアを持つことができても、AIにはできないのです。
Dwarkesh Patel 36:50
ですから、他にも話したいことがあります。そこで、バーチャルリアリティについてお話ししましょう。ファブリック・オブ・リアリティでは、バーチャルリアリティのジェネレーターが私たちの神経系に直接接続され、そのようにして私たちに感覚データを与える可能性について論じていますね。
ご存知のように、多くの瞑想者、つまりサム・ハリスなどは、思考も感覚も意識への侵入であり、ある種の類似性があり、侵入を歓迎することができると話しています。しかし、どちらも意識に入ってくるものなのです。では、仮想現実生成装置は、感覚データだけでなく、思考も心の中に入れることができるとお考えでしょうか？
David Deutsch 37:26
ああ、そうです。でもそれは、私がこのモデルは間違っていると思うからに他なりません。ダニエル・デネットが言うように、基本的にデカルト劇場の舞台からすべての登場人物を取り除いたものです。サム・ハリスが思い描くような、内容のない純粋な意識です。
しかし、そこで起きているのは、あなたがこの劇場を意識しているということだけだと思います。あなたはこの劇場が特定の性質を持つものだと思い描いています。ちなみに、それは持たないのですが、それは問題ではありません。私たちは、実現しないことをたくさん想像することができます。
実際、私たちがいつもやっていることは、ある意味でそういうことなのです。ですから、この空のステージについての自分の考えを、何も考えていないと解釈することもできますし、自分が想像しているステージの実際のハードウェアを、意識的で、純粋な意識の内容に意識を加えたものだと解釈することもできますが、そうではありません。しかし、そうではありません。それは、舞台や空間といった内容で、あなたがどう想像しようと勝手ですが。
Dwarkesh Patel 38:45
さて、次にチューリング原理についてお話ししましょう。これはあなたの造語で、他にはチューリング・ドイッチュ原理と呼ばれています。ところで、この原理は、普遍的なコンピュータはあらゆる物理プロセスをシミュレートできると述べていますが、この原理を使えば、例えば、宇宙そのものよりも小さいコンパクトで効率的なコンピュータで宇宙全体をシミュレートできることを意味するのでしょうか？それとも、ある大きさの物理プロセスに限定されるのでしょうか？
David Deutsch 39:14
繰り返しになりますが、宇宙全体をシミュレートすることはできません。これは、計算上はできるけれども、メモリや時間が足りないというタスクの一例です。ですから、メモリと時間を増やせば増やすほど、全宇宙をシミュレートできるようになります。
しかし、全宇宙や単一宇宙に近いものをシミュレートすることはできないでしょう。なぜなら、もし自分自身をもシミュレートしたいのであれば、それには論理的な理由があるからです。しかし、全宇宙をシミュレートしたいとしても、それ自体は別として、宇宙の大きさからして不可能です。
何人かが言ったように、情報を極めて高密度に符号化する方法を発見したとしても、量子重力によって、まったく驚くべき密度の情報が得られるかもしれませんが、それでも宇宙をシミュレートすることはできません。というのも、量子重力は物理法則の普遍性から、宇宙の他の部分にも適用されるため、宇宙の他の部分もそれほど複雑になるのです。しかし、時間とメモリに制限されていることと、計算能力に制限されていることを切り離して考えることが重要だと思います。普遍的なコンピュータという概念がなければ、計算は意味をなさないのですから。
Dwarkesh Patel 41:19
すべての興味深い問題は解決可能です、というあなたの理論を反証するものは何でしょうか？というのも、ご存知のように、ある問題や、「なぜ無ではなく有があるのでしょうか？あるいは、単なる物理的な相互作用でどうやって意識を説明できるのでしょうか？彼らは、これらの問題が原理的に解決不可能である理由を説明しましたね？私はそれが正しいと確信しているわけではありません。しかし、原理的に間違っていると信じる強い理由はあるのでしょうか？
David Deutsch 41:46
いいえ、これは哲学的な理論で、実験によって間違っていると証明することはできません。しかし、なぜそうではないのでしょうか、つまり、個々の事例が悪い説明であることについては、十分な論拠があると思います。
例えば、ある人が「人間の脳をシミュレートするのは不可能だ」と言ったとします。実際にやってみるか、あるいは設計して、それがうまくいくことを証明しない限り、誰もそれが可能であることを証明することはできないのです。つまり、この制限を証明することはできないのです。しかし、問題は、それが基本的な制限であるという考え方があることです。例えば、あなたが最近、ほんの1分前に人型ロボットと入れ替わって、そのロボットがこれから数分間、あらかじめ用意されたものだけを保存して、あなたはもはや人ではない、という理論に適用できるのです。
Dwarkesh Patel 43:10
あなたがそれを理解したとは、信じられません。
David Deutsch 43:13
ええ、まあ、それはあなたが最初に言うことでしょう。実験によって、実際にやってみないと、実際に話してみないと、反論のしようがないんです。ですから、他のことでも同じなんです。不可能だとする理論に意味を持たせるためには、なぜ不可能なのかの説明が必要なのです。
例えば、数学の命題はほとんどすべて決定不可能であることが分かっています。これは、誰かが「もしかしたら、すべてを決めることができないかもしれない」と言ったからではありません。なぜなら、すべてを決められると考えるのは思い上がりだからです。
それは議論ではなく、そうであることを証明するための実際の機能的な議論が必要で、機能的な議論とは、議論のステップが意味を持ち、他のものと関連するものです。そうすると、これは実際にはどういうことなのか、と考えることができます。
物理法則を理解することはできない、ということでしょうか。そうではありません。もし物理法則に決定不可能な関数が含まれていたら、私たちは単にf of xと書き、f of xは決定不可能な関数であると考えるでしょう。f of xを評価することができないので、予測をする能力が制限されてしまいますが、いずれにせよ予測をする能力は完全に制限されていますし、関数f fの特性、つまり物理世界の特性を理解する能力には影響しないでしょう。
Dwarkesh Patel 44:57
では、アメリカのように権力を分散し、チェックアンドバランスを行うような政府のシステムは、ポッパーの基準とは相容れないのでしょうか？前政権は、壁を作れば良い結果が得られるという理論を持っていました。そして、その理論が成功したかどうかを検証し、その人を評価することができたはずなんですね。
しかし、私たちの政府のシステムは権限が分散しているため、ご存知の通り、議会はその理論のテストに反対し、そのためテストされることはありませんでした。では、もし私たちのアメリカ政府が貧困基準を満たしたいと思ったら、例えば大統領にもっと権力を持たせる必要があるのでしょうか？
David Deutsch 45:30
そんな単純な話ではありません。ですから、これがアメリカの政府システムの大きな欠陥であることには同意します。どの国も、パパの基準を完璧に満たすような政府制度は持っていません。基準というのは常に改善できるもので、私はイギリスのものが実は世界で一番優れていると思います。しかし、一回だけ変えても解決にはなりません。憲法というのは非常に複雑なもので、その多くは明文化されていません。
建国の父、アメリカの建国の父たちは、自分たちが途方もない問題を抱えていることに気づいていました。彼らが自分たちで考えていたことは、イギリス憲法を実現することでした。実際、彼らは自分たちがイギリス憲法の擁護者であり、イギリス国王が憲法に違反していると考えていました。そして、イギリス王がそれを破ったので、彼らはそれを維持しようとしたのです。問題は、これを実現するために、独立するために、王を追い出さなければならなかったことです。
そして、代わりの王を立てるかどうか、どちらにしても問題があったのです。しかし、その方法は、本来、代替となる国王よりもずっと悪い制度になってしまったと思います。国王を排除するためには、国家元首の制度を変えなければなりませんから、民主的な制度にしなければなりませんでした。
つまり、大統領には、国王が決して持っていなかった、あるいは持っていなかった立法上の正統性があるのです。中世の時代には国王もそれを使っていましたが、啓蒙主義の時代には、国王にはもはや立法上の正統性は完全になくなっていました。
そこで、王が権力を握るのを、伝統以外のもので防ぐシステムを導入する必要がありました。そこで、チェックアンドバランスを導入しました。チェックアンドバランスは、非常に洗練されています。驚くべき知的成果です。このようにうまく機能することは、奇跡のようなものです。しかし、固有の欠陥があり、その一つがこれです。
アメリカの制度では、誰も責任を取ることはありません。イギリスの制度では、責任は絶対に集中されます。責任と義務を集中させるために、すべてが犠牲となります。そこにすべてが集中しているのです。これ以上のシステムはないでしょう。しかし、ご存知のように、英国のシステムにも欠陥があります。
最近、Brexitの国民投票が行われ、議会が同意できない法律の実施を渋り、それが裁判所に持ち込まれるという一連の出来事がありました。そして、裁判所、議会、政府、首相が互いに非難し合うという事態になりました。そして、小さな憲法上の危機が発生し、選挙を行い、政府が過半数を占めることによってのみ解決することができました。イギリスでは通常そうなっています。しかし、最近、不運にも多数派政権が成立しなかったことが何度かありました。
Dwarkesh Patel 49:59
OK、これは間違っているかもしれませんが、拡大した宇宙では、私たちの光円錐に存在する物質の総量は有限である必要がありますね？限界があるんです。つまり、この物質が実行できる計算の量、供給できるエネルギーの量、そしておそらく私たちが維持できる経済的価値の量にも限りがあるのです。そうでしょう？ですから、原子1個あたりのGDPが恣意的に大きくなるのはおかしいかもしれません。では、無限の始まりという概念に何らかの制限を課しているのでしょうか？
David Deutsch 50:33
つまり、あなたが今話したことは、宇宙論なのです。これこれ、宇宙はそういうものである可能性があります。しかし、私たちは宇宙論についてほとんど知らないのです。大きな、例えば、宇宙論の理論は10年程度のタイムスケールで変化しているように。ですから、宇宙論の究極の漸近的な形がどうなるかを推測することは、それほど意味のあることではありません。
同時に、非常に小さいものの漸近的な形についても、あまり良い考えがありません。例えば、私たちが考えている物理的プロセスは、10秒からマイナス42秒のような量子重力のレベルでは何らかの形で破綻するはずだということは分かっていますが、それ以下ではどうなるのかは全く分かりません。
しかし、それについては何の反論もありません。ただ、その先がどうなるかがわからないだけなのです。さて、その先で何が起こるかというと、もしかしたら有限かもしれません。
同様に、待ち時間、大規模で起こることが有限の制限を課すかもしれません。その場合、計算は、この宇宙の宇宙論的初期条件によって課された有限の制限に縛られるのですが、これは、ハードウェア固有の制限によって課されるのとはやはり違います。
例えば、遠い未来に手に入るGNPが有限だとしたら、それを数学に使うか、音楽に使うか、政治システムに使うか、あるいは、まだ発明されていないもっと価値のある何千ものもののうちのどれに使うかは、やはり私たち次第なのです。ですから、10を10に、10を10に、10ビットに、どのアイデアを感じるかは、私たち次第です。
しかし、私の世界観は、そのような限界があるかどうかには影響されません。なぜなら、さっきも言ったように、それを何で埋めるかは、やはり私たち次第だからです。そして、もし私たちが将来のある時点で切り落とされたとしても、すべては彼らにとって価値あるものになるのです。
Dwarkesh Patel 53:10
なるほど。私が理解したところでは、あなたは常に私の目の前にいるわけですが、知識を得れば得るほど、知識がない状態になっているように思われます。ですから、知識は指数関数的に増えていくようなものであるはずなのです。しかし、この50年間を見ると、資源の生産性、経済成長、生産性の伸びは鈍化、あるいは低下しているようです。
これは、木の上の果実の量には限りがあり、私たちは低いところにある果実を摘んでしまい、今では果実が少なくなり、摘むのが難しくなっているという話と一致するように思います。そして、最終的には果樹園が空っぽになるのです。では、この50年間に何が起こっているのでしょうか、別の説明はありますか？
David Deutsch 53:47
そうですね、とても簡単なことだと思います。学問の世界には社会学的な要因があり、それが文化を停滞させているのでしょうか？そうではなく、完全に、どこでもというわけではありません。しかし、そのようなことが起こっている傾向があります。その結果、多くの分野で、多くの方法で、生産性が低下してしまいましたが、すべての分野で、すべての方法でというわけではありません。
例えば、理論物理学では、1920年代から認証が始まったとよく言いますが、それがなかったら、まだ完全に消滅していなかったと思います。量子コンピュータは1930年代に発明され、1960年代には作られていたはずです。つまり、それは偶然の事実に過ぎないのです。しかし、それは保証がないことを示すものです。
私たちの視野が無限であるという事実は、私たちが明日から衰退しないということを保証するものではありません。現在、私たちは衰退しているとは思えません。私たちが目にするこれらの衰退は、特定の過ちによって引き起こされた偏狭な影響であり、それは元に戻すことができると思います。
Dwarkesh Patel 55:30
ベイズ主義と大衆的なアリウス主義についてお聞きしたいのですが。ベイズが好まれる理由の1つは、理論の相対的な地位が変化していないときに、認識力の地位の変化や変更を記述する方法があるように思われるからです。では、例を挙げてみましょう。
現在、量子力学を説明するには、多世界の説明が最適です。そうでしょう？でも、将来、私たちが、そう、わかったとします。しかし、将来、量子コンピュータでAGIを作り、あなたの言うような巧妙な干渉実験を設計して、多くの世界の重ね合わせ状態を報告できるようになったとします。さて、多世界が最良の、あるいは唯一の説明であることに変わりはないのですが、実験の結果、何らかの形でその認識論的地位が変化し、ベイズ的な用語で言えば、この理論の信憑性が高まったと言えると思います。
David Deutsch 56:29
そこで何が起こったかというと、現時点では、すぐに打ち消すことのできない説明が1つしかないのです。もし、そのような思考実験をしていたら、まだ考えもつかないような別の説明のアイデアをも打ち砕くための弾薬を提供することになるかもしれませんね。
というのも、私たちは量子論が誤りであることを知っているからです。また、次の理論が多くの世界を持つかどうかもわかりません。私はそうなると思いますが、でも、そのようなことは証明できないのです。
しかし、私は、信憑性を高めるという考え方を、実験によって実験が矢筒いっぱいの議論を提供するとか 議論のレパートリーを提供するとか 既知の議論、既知の悪い議論を超えて 他のタイプの議論に手を伸ばすとか。
なぜなら、私がそう言う理由は、量子論に対する誤解のいくつかは、科学の方法論に対する誤解に由来しています。私は、正しい科学の方法論について論文を書きましたが、ここではそのようなことはありません。しかし、多くの物理学者や哲学者はこれに同意しないでしょう。彼らは、経験主義に基づいた科学の方法論を提唱しています。
もちろん、私は経験主義は間違いだと思いますし、言葉で打ち砕くことができます。ですから、そうすべきではないのですが、みんながそう思っているわけではありません。さて、私の思考実験のような実験が実際に行われれば、人々は経験主義という誤った考えに基づいた議論を使うことができなくなります。
なぜなら、彼らの理論は、そもそも必要ないはずの経験主義の基準でも反論されてしまうからです。でもね、ですから、その実験がうまくいけば、議論のレパートリーがより強力になる、という表現になると思うんです。
Dwarkesh Patel 59:24
次の質問ですが、実存的な危機に対処するためにはオープンエンドな科学的進歩が最適だという原則を、あなたはどこまで受け止めていますか。それが、危険な病原体を阻止するための知識や方法につながる可能性はあります。
しかし、少なくともベイズの用語で言えば、もっとありそうなことで、そうしなければ自然発生しなかったであろう人工的な病原体の蔓延につながる可能性があるとも言えるでしょう。では、あなたの信念は何なのでしょうか。「割り当て」を開けば、私たちは「よし、研究をやめよう」と言うことができます。
David Deutsch 1:00:05
いいえ、研究を止めようとは言えません。研究室をより安全にするための研究を行いましょうと言うのが妥当でしょう。ゲインファンクションの研究の前に、本当に同じことの一部なんです。実際に試薬を使った実験をする前に、試薬が通るプラスチックホースをより不浸透性にする研究をしよう、と言っているようなものです。
つまり、全ては同じ実験の一部なのです。しかし、どの知識を最初に発見する必要があるかは、スケジューリングの問題であり、これはあらゆる研究、あらゆる学習にとって些細なことではないのです。
Dwarkesh Patel 1:01:02
しかし、素晴らしいことに、これらの研究所が一定の基準で安全であることを確認する方法を見つけ出すまで、現在の研究を停止すると言うことは可能でしょうか。そして、その間は、他の種類の研究に専念することになります。ですから、パンクをすることは再開できます。でもそれまでは、たいしたことはない。
David Deutsch 1:01:23
はい、原則的には、それが妥当でしょう。私は実際の状況を十分に知らないので、数を持つことはできません。このような研究所がどのように機能しているのでしょうか、私は知らないのです。注意事項がどのようなものであるかは知りません。
例えば、研究所の漏洩について人々が話しているのを聞くと、私は、研究所の漏洩は、そこで働いている人の一人が正面玄関から外に出てしまうことがほとんどだろうと思います。つまり、研究室から外部に漏れるのではなく、試験管から人に漏れ、その人が玄関から外に出て行ってしまうのです。私は、このような予防措置がどのようなもので、どの程度までリスクが最小化されるのでしょうか、最新の技術について十分な知識を持っているわけではありません。
これらの研究所の文化が十分でないということもありえます。その場合は、次の実験に参加するか、研究所の文化を向上させることになるでしょう。しかし、すべての研究室を止めて、ある基準を満たさなければならないというのは、非常に疑問です。なぜなら、この井戸端会議は必要ないだろうし、その基準も適切ではないのではないかと思うからです。どの基準を使うかは、実際に行われている研究によって異なります。
Dwarkesh Patel 1:02:52
私のポッドキャストに電話があったとき、私は彼に、なぜ彼は人間は怠け者で、あと700年しか生きられないと思っているのかと尋ねました。創造的で楽観的な社会は、全体主義的な静的社会が破壊的な技術を革新するよりも早く、安全な技術を革新していくでしょう。しかし、破壊のコストは建造のコストよりもはるかに低いのです。
この傾向はここしばらく続いていて、新しいものが6万ドルもしたらどうなるか？あるいは、ミスがあったらどうなるのでしょうか？冷戦時代に何度も経験したようなことですか？あなたはそれにどう対応しますか？
David Deutsch 1:03:38
まず第一に、文明の歴史全体を通して、私たちはより安全になってきていると思います。世界人口の3分の1や半分を一掃するような疫病もありましたし、99%や100%の人口を一掃することもできたでしょう。私たちは7万年前にある種のボトルネックを経験しました。
遺伝学から分かるように、私たちのいとこや種はすべて一掃されたので、私たちの安全はホモ属よりずっと低くなっています。しかし、今は、ワインに高い税金をかけることになるだけです。つまり、私たちは驚くほど安全になったということです。
私は、人間が自滅することはあり得ないとは決して言いません。それは、人間の心の普遍性に反するからです。私たちは間違った選択をすることがあります。自滅するような間違った選択をたくさんすることがあります。一方、原爆事故のようなものは、文明を破壊する可能性はゼロではなく、膨大な量の苦しみを引き起こすだけだったでしょう。
しかし、文明を終わらせる技術があるとは思えません。たとえ終わらせたくとも、意図的に世界中に地獄を放てば、膨大な量の苦しみを引き起こすだけでしょう。しかし、生存者がいて、二度とそのようなことはしないと決意するはずです。ですから、私たちは偶然にそれを行うことはおろか、それさえもできないと思います。
しかし、悪者については？まあ、外的脅威と内的脅威の両方に関して、私たちは大きく間違ったことをしていると思います。しかし、存亡の危機に瀕しているほど間違ったことをしているとは思いません。今後700年、あるいはそれ以上の間に、どのような進歩があるか分からないので、予言はしたくありません。
しかし、もし私たちが問題を解決しているのなら、問題を解決しない理由はないと思います。これは別のたとえ話をすると、ニック・ボストロムの白いボールの入った壺、そこに黒い玉が1つあって、白い玉を取り出していき、いつか黒い玉にぶつかるということを忘れてはいけないと思います。そして、それであなたはおしまいです。
そんな風にはならないと思います。白い玉を取り出して持つごとに、瓶の中の黒い玉の数が減っていくのですから。ですから、繰り返しますが、これが自然の法則だとは言いません。私たちが次に取り出すボールが黒い玉になる可能性もありますが、それはどこまでも可能性です。それが起こるという議論はすべて誤りだと思います。
Dwarkesh Patel 1:07:17
このような場合、私は、「楽しい」という基準について話したいと思います。あなたの「楽しい」という定義は、他の人が「エウダイモニア」や「幸福感」「満足感」といった他のポジティブな感情を定義する方法とは異なる、立派な別の感情です。
David Deutsch 1:07:31
私はそれは感情ではないと思います。そして、これらのものはすべて、あまりうまく定義されていません。少なくともクオリアに関する満足のいく理論ができるまで、そしておそらく創造性がどのように機能するかなどに関するより満足のいく理論ができるまで、あまりうまく定義できないのです。
私は、より正確に、しかしまだあまり正確には説明できないのですが、「楽しい」という言葉を選んだのは、知識の創造、つまり、明示的、無意識的、意識的な明示的の異なる種類の知識が、すべて互いに調和している状態である、と説明したからだと思います。
楽しいという言葉の日常的な使い方がそれと異なるのは、楽しいことが軽薄だと考えられていること、あるいは、楽しさを求めることが軽薄さを求めることと考えられていることくらいでしょうか。しかし、それは言葉の使い方が違うというより、これが良いことか悪いことかという蔑称論が違うだけだと思います。
しかし、それにもかかわらず、私はそれを正確に定義することができません。重要なのは、このような楽しさという特性を持っているものがあって、それを強制的に制定することはできないということです。ですから、ある考え方では、ノーペイン・ノーゲインということで、機械的に、その物が苦痛を与えているかどうか、その苦痛を与えれば利益が得られるという理論に従って行っているかどうかを調べることができます。
ですから、それは全部機械的にできるわけで、だから批判の対象になるわけです。これは、ある種の知識を他のものよりも恣意的に優遇しているのであって、合理的であることよりも、内容を横に置いておくことなのです。
Dwarkesh Patel 1:09:59
effect これは、普遍的な説明者に制限を加えているのでしょうか？そして、もし彼らが、あるものがなぜ楽しくなりうるか、あるいは楽しくなるべきかということについて、ある種の理論を作り出すことができれば、なぜ何でも楽しくなりうるのでしょう。
例えば、運動を例にとると、ノーペイン・ノーゲインは、初めて行くときは楽しくないですよね。しかし、一度やり始めると、そのメカニズムを理解し、なぜCADが楽しいのでしょうか、楽しくなければならないのでしょうか、理論が身につくのですね。
David Deutsch 1:10:22
ええ、そうですね、とてもいい例です。なぜなら、楽しさとは痛みがないこととは定義できないことがわかるからです。ですから、あなたは楽しいと思うことができるのです。なぜかというと、肉体的な痛みを経験しながら、その肉体的な痛みはスパークリング、苦しみではなく、喜びなのです。
しかし、近藤麻理恵が言うように、喜びを呼び起こすのではなく、肉体的な痛みというものがあるのです。というのも、もしあなたが独断的に、あるいは無批判に、痛みを伴う善の理論を人生に導入しているとしたら、それは、もしかしたらこれは楽しくないかもしれません、という批判を排除していることになるからです。
あるいは、これはまだ楽しいことではないのかもしれません。あるいは、もっと楽しくしなければならないかもしれません。もしそれができないなら、それは止める理由になります。もしそういったことがすべて除外されるなら、定義上、そのものは善であり、あなたの痛み、苦しみは問題ではないので、その場合、横の苦しみだけでなく、停滞への扉が開かれ、より良い理論にたどり着くことができなくなります。
Dwarkesh Patel 1:11:53
そして、なぜ、他の感情ではなく、楽しさが中心になっているのでしょうか。例えば、アリストテレスは、広く定義された幸福感のようなものが、私たちの努力の目標であるべきだと考えたわけです。Wi Fiの楽しみは、そのようなものの代わりに？
David Deutsch 1:12:11
まあ、それは十分に漠然とそれを定義しています。あなたが言ったことは、楽しいことである可能性が非常に高いです。重要なのは、根本的なことは、あなたが知っている限り、1レベル下に行くことで、本当にそれを理解するには、7レベルくらい下に行く必要がありますが、それはまだできません。
しかし、重要なのは、私たちの脳の中には何種類かの知識があるということです。運動書に書いてあるような、「この回数をこなすべし」という知識は、「この回数をこなすべきだ」というものです。そして、あなたは、あなたは、これを力強くやり遂げるべきです。
そして、あなたがそれを感じるかどうかは重要ではありません。それは明示的な理論です。そして、それはいくつかの知識を含んでいますが、同時にエラーも含んでいます。私たちの知識はすべてそうであるようなものです。
例えば、私がいつも愛用している文法の知識は、ある文章がなぜ受け入れられ、なぜ受け入れられないのかがわかるようになっています。しかし、すべての場合において、なぜそうでないのでしょうか、なぜそうなのかを明示的に述べることはできないのです。
そして、明示的な知識と明示的な知識があるように、意識的な知識と無意識的な知識があるのです。それらはすべて、脳のプログラミングの断片、彼らのアイデア、彼らは、この中で知識の断片です。
もしあなたが知識を因果力を持つ情報と定義するならば、それらはすべて因果力を持つ情報です。それらはすべて真実を含んでおり、また誤りを含んでいます。そしてそれは常に間違いです。何かを盾にして、そのうちの一つを批判や代替から守ることです。それをしないことを、私は「楽しい基準」と呼んでいます。あなたはそれを悪い名前だと言うかもしれませんが、私が見つけることのできる最高の名前なのです。
Dwarkesh Patel 1:14:13
では、なぜ進化によってAGIを作ると、必ず苦しみが伴うのでしょうか？なぜなら、私が思うに、あなたの理論では、苦しみを感じるためには一般的な知性である必要がありますが、進化してシミュレーションされた存在が一般的な知性になった時点で、私たちはシミュレーションを止めればいいだけだからです。では、その苦しみはどこから来るのでしょうか？
David Deutsch 1:14:34
私が考えている進化によるシミュレーションは、いくつか種類があるかもしれませんが、私が考えているのは、歴史上最大の犯罪になると言っています。人でない前人類からの実際の進化をシミュレーションするような仕事なんです。このシミュレーションでは、NPCと呼ばれる非人間集団が存在します。
地球の表面をシミュレートした人工的な宇宙で、彼らが歩き回っていて、そのうちの何人かは人間になるかもしれないし、ならないかもしれないのです。さて、そこに至る過程で何が起こっているかというと、私が想像できる唯一の方法は、人間性の進化が生まれるということです。
つまり、ミームを創造的に発信している人たちがいるのですが、その人たちは資源を使い果たしてしまったのです。しかし、資源がないわけではありません。ミームのストックを増やすことができるようになる前です。つまり、どの世代にもミームのストックがあり、それは次の世代に受け継がれていきました。
そして、ミームがある一定の複雑さを超えると、受け手の創造力によって受け継がれなければならなくなるのです。つまり、本物の創造性が発揮されながら、すぐにリソースが枯渇してしまう、しかし、平均帯域幅が広がらないほどではない、という時期があったのかもしれません。
次の世代では、平均帯域幅はさらに広がりました。そして、ある世代が過ぎると、このハードウェア、あるいはファームウェアを、トランプがやみくもにミームを発信する以外のことに使う機会があったでしょうし、むしろ、創造的にミームを発信することを期待しますが、しかし、それはやみくもなミームでした。
ですから、その時代には、生きていることが非常に不愉快だったでしょう、もう申し訳ないくらいに非常に不愉快だったでしょう。私たちがミームと同じように考えるだけのリソースを持っていたとき、しかし、あなたが、そうだと言う瞬間はなかったと思います。
というのも、ミームをやみくもに伝達していたとき、人々はすでに苦しんでいたと思うからです。なぜなら、彼らは一般的な、本物の創造性を使っていたからです。彼らはただ、それを良い効果として使うことができなかっただけなのです。
Dwarkesh Patel 1:17:56
なるほど。エクスペリエンス・マシン（経験機械）の中にいることは、楽しさの基準と両立するのでしょうか。つまり、あなたは自分がエクスペリエンス・マシンの中にいることを意識しておらず、すべて仮想現実です。しかし、現実の世界よりも楽しくなるようなことはしていますよね？エクスペリエンス・マシンに入りたくなるでしょうか？相思相愛になるでしょうか？楽しさの基準？違う質問なんでしょうね。
David Deutsch 1:18:20
そうそう、エクスペリエンスマシンって
Dwarkesh Patel 1:18:23
ああ、すみません。ちょっとね。
David Deutsch 1:18:26
つまり、現実の世界よりも物事がうまくいくような仮想現実の世界とか、そういうことですか？
Dwarkesh Patel 1:18:35
ロバート・ノージックによる思考実験です。この世界に入ると、自分が仮想現実の中にいることを忘れてしまうというものです。つまり、この世界は、完璧であるか完璧でないかを問わず、あらゆる可能性において完璧になるのです。しかし、可能な限り、より良いものになるはずです。もっと良くなる可能性もあります。しかし、ここでの人間関係は本物だと思うでしょうし、ここで発見している知識は斬新だと思うでしょうし。
David Deutsch 1:19:04
自分がこの世界から来たという記憶を消してしまうような世界には、どんな世界であっても入りたくないですね。それに関連して、この仮想世界での物理法則は本当のものではありえないという事実があります。なぜなら、本当の法則はまだ知られていないからです。
つまり、私は物理法則を学ぼうとしている世界にいることになりますが、それは実際の法則ではありません。その法則は、私を操るために誰かが何らかの目的で設計したもので、もしかしたら、解くのに50年かかるようなパズルのように設計されているかもしれません。
しかし、それは定義上、有限のパズルである必要があります。そして、それは現実の世界ではないでしょう。一方、現実の世界では、物事がうまくいかず、私はそれを知らないのですが、やがて大きく狂っていきます。私のコンピューターの電源が切れてしまうのです。そうなったら、私はどこにいるのでしょう？
Dwarkesh Patel 1:20:06
最後に、私がいつもインタビューした人に聞きたいのは、「若い人たちに何かアドバイスはありますか？20代の人たちに、何かアドバイスしたいことはありますか？」
David Deutsch 1:20:19
まあ、私は一生懸命にアドバイスをしないようにしています。なぜなら、アドバイスをするために誰かと一緒にいるのは良い関係とは言えないからで、私は物事に対して意見を持つことができます。
たとえば、長期的な目標に照らして短期的な目標を設定するのは危険だという意見を持っているかもしれません。それには、認識論的に正しい理由があります。つまり、短期的な目標が長期的な目標に従属するならば、長期的な目標が間違っていたり、何らかの欠陥があったとしても、死ぬまでそれに気づくことはないだろうということです。
つまり、今なら、あるいは半年後や1年後に誤り訂正できることを、50年後のタイムスケールでしか誤り訂正できないことに従属させてしまうからです。それでは手遅れになります。ですから、私は、「目標を設定しなさい」という形のアドバイスには疑問を感じています。そして、「目標を立てろ」というアドバイスには、さらに疑念を抱きます。
Dwarkesh Patel 1:21:43
なぜなのでしょうか。アドバイスが危険であることと、アドバイスの贈り主が危険であることの間には、どのような関係があるのでしょうか？
David Deutsch 1:21:52
ああ、そうですね、それは権威の一つだからです。もう一度言いますが、私はこの例の、引用した先ほどのアドバイスを権威のないものにしようとしたのです。私は、他のある種の議論がなぜ悪いのかという議論をしただけなのです。
しかし、健康な心と健康な体、あるいは12時前にコーヒーを飲むなとか、そういう形のアドバイスならどうでしょう？それは、議論ではありません。
もし私が議論を持っているなら、私は議論をすることができますが、その人に何をすべきかを教えてはいません。誰かがその論法で何をするかは誰にも分からないし、より良い論法に変えるかもしれないし、それは実際に異なる行動を意味します。
私は、自分ができる限りの議論を行い、世界に貢献することができます。他の論より優れているとは主張しません。私はただそれを出すだけです。なぜなら、私はこの論法が有効だと思うからです。他の人がそう思わないことも期待します。
つまり、このポッドキャストで、私がAIやそのようなものについての議論を出し、あなたがそれを批判する、もし私がその議論を「だから、あなたもそうするべきだ」と言っている立場なら、そうすると、それは権威の関係であり、私はそれが不道徳だと思います。
Dwarkesh Patel 1:23:38
さて、David、ポッドキャストに来てくれて本当にありがとうございます、そして本当にありがとうございました。
David Deutsch 1:23:44
私を招待してくれてありがとうございました。