Mindscape 111 ニック・ボストロム、人類学的選択とシミュレーションの中での生活について

Mindscape 111 Nick Bostrom on Anthropic Selection and Living in a Simulation

Sean Carroll 0:00

皆さん、こんにちは。MindScapeポッドキャストへようこそ。私はホストの Sean Carrollです。今日のゲストは、私がMindScapeの素晴らしいゲストとして最初から考えていた人です。私がポッドキャストを始めてすぐに、それを解決して実現させるのに時間がかかりました。でも、今日のポッドキャストのゲストにNick Bostrom を迎えることができて、とてもうれしいです。ニックは哲学者として比較的有名ですが、シミュレーション論の推進者の一人です。シミュレーション論とは、私たち人間や観測可能な宇宙に存在する他の人々が、実ははるかに高度な文明によって設計・維持されたコンピュータ上で実行されているプログラムの一部として、シミュレートされた意識であるという可能性が高いという考え方です。しかし、ニックはそこから始めたわけではありません。ニックは、最初にシミュレーションの議論を始めたのではなく、哲学での思考から得たものです。宇宙学者はもちろん、人間原理とは、人間が住める宇宙の一部に住まなければならないという事実を踏まえて、宇宙のパラメータにどのような選択効果を与えるべきかを考えることだと知っています。しかし、人間原理は宇宙学者だけのものではありません。その有名なバージョンというか、有名な応用例として、リチャード・ゴッドのジョン・レスラーをはじめとする「終末論」があります。考え方としては、私たちの技術文明はそれほど古いものではありませんよね。何をもって技術文明とするかにもよりますが、500年から 1000年くらいでしょうか。しかし、要は、技術的にピークに達した我々の文明が何百万年も続くことを期待しているとしましょう。そして、あなたはこう言います。「あのね、人口は増える一方だよ。だから、技術文明の始まりの時期に自分たちが生きているということは、実際には極めてあり得ないことなのです。ですから、レスリーやゴッドなどが主張しているように、私たちの文明の寿命はそれほど長くはありません。何百万年ではなく、何千年という単位で測られるのです。これは少しおこがましいのではないでしょうか？肘掛け椅子から降りずに、どうやって私たちの文明の将来の寿命を決めることができるのでしょうか？ある意味では？これが、Nick Bostrom やその他の人々が思考プロセスに付け加えた哲学的な問題です。そして、典型的な観察者とはどのようなものかを考えることになります。このポッドキャストでは、典型的な観察者は生物的なものではなく、シミュレートされたエージェントではないかと考えています。これは本当に楽しいポッドキャストで、とても重要な内容だと思います。ニックは現在、オックスフォード大学のFuture of Life Instituteに所属していますが、彼もまた、人工知能が超知的になって世界に悪さをするのではないかと心配していることで有名です。そのことについても少しお話しましょう。しかし、今日の会話のほとんどは、これらの問題をどのように考えるべきかという哲学的な基盤についてです。この会話は、私たち全員にとって非常に有益なものになると思います。それでは、始めましょう。Nick Bostrom 、ようこそMindScape podcastへ。

Nick Bostrom 3:16

私を招待してくれてありがとう。

Sean Carroll 3:18

あなたが人類の未来にとても興味を持っていることは知っていますし、文字通り人類未来研究所と呼ばれる場所の所長でもあります。しかし、人類の未来という問題には様々なアプローチの仕方があります。具体的に「この技術的な変化はある種の影響を与えるだろう」と言うこともできます。あなたが研究所でそうしていることは知っています。しかし、もっと厳密に哲学的な角度からアプローチすることもできます。あなたは哲学のバックグラウンドをお持ちですが、一般的な推論の原則と、非常に少ないデータを使って、人類の将来の発展の可能性について壮大な宣言をすることができる、という角度があります。私が考えているのは、終末論のようなもので、これはあなたが言い出したものではありませんが、あなたが多くのことを語ってきたことは知っています。終末論になじみのない聴衆のために、少し説明していただけますか？

Nick Bostrom 4:11

そうですね。文脈的には、人間学的、観察の選択効果に関する推論という広いカテゴリーに属しますが、それはさまざまな分野で出てきます。つまり、量子物理学や宇宙論の基礎では、このような方法論的なクラスタが重要になります。しかし、終末論は、このような推論スタイルの特殊な応用例の一つです。議論の余地のあるもので、結局のところ、私はその健全性にかなり疑問を持っています。しかし、その価値があるかどうかは別として、次のようなものだと思います。そこで、簡単でシンプルな例えを考えてみましょう。まず、2つの骨壷があって、その中にはボールが入っています。そして、片方のシダには、123番から 10番までの10個の、ボールが入っていることを知っています。そして、もう一つの壷には、1から 100万までの番号がついた100万個のボールが入っています。さて、誰かがコインを弾いて、これらの収益の中から無作為に1つを選び、それをあなたの前に置きます。そして、あなたの目の前にあるこの壷に10個の玉が入っている確率は何%かと尋ねます。すると、50%と答えますよね？簡単ですよね。さて、この壷の中を読んで、ボールを取り出して見ると7番だったとします。つまり、地球上に100万個のボールがある場合よりも、10個のボールしかない場合の方が、7番のボールを手に入れる可能性が高いということになります。そこで、ベイズの定理を使って、この証拠を条件にすると、圧倒的に「10個のボールを獲得する」という仮説に確率を与える事後評価が得られます。ボール獲得仮説に圧倒的な確率を与える事後評価が得られます。つまり、すべてが議論の余地のないものなのです。瞬間的な確率論に過ぎません。さて、終末論とは、人類がいつまで生きられるか、未来に何人の人間がいるかという異なる仮説に対して、同様の推論を適用すべきだという考え方です。つまり、骨壷に関する2つの異なる仮説の代わりに、これまでに生まれた人の総数に関する2つの異なる仮説を考えてみましょう。簡単に説明すると、仮説は2つだけで、全部で2,000億人か、全部で200兆人のどちらかだとします。さて、この地球の50%という事前確率に対応して、今度は、人類が絶滅する原因となりうるさまざまな事柄について、経験的な事前確率を使うことになります。例えば、核戦争や隕石などのリスクについての見解があり、それらの通常の考慮事項に基づいて、人類が次の100年以内に絶滅する可能性が10%あると仮定しますと、その時には約2,000億人が存在していたかもしれず、90%の確率ではなく、長い間生き延びる可能性があります。骨壺に手を入れて7番を全部取り出すという考えに対応して、終末論の場合は、これまでに生まれたすべての人間の中での自分の出生順位を考えることになっています。そして、それは大体1,000億という数字で、あなたの前に何人の人間がいたかということです。つまり、骨壷の場合と同じように、このような低い数字を取り出すことで、骨壷の中には数個のボールしか入っていないという可能性を高めることができるのです。それと同じように、今回、あなたが早生まれであるという発見をしたことで、人類の総数が200兆ではなく2000億になる可能性が高まると考えられます。もしあなたが、私たちがひどい1,000億という数字を持っているとしたら、アーションズの2,000億は大した驚きではありません。一方で、自分が生まれてきたすべてのドキュメントの中で、最初の1パーセントに相当するごくごく初期のごくわずかな数であると思うと、ちょっとした驚きや特別感を覚えるでしょう。これが終末論の構造です。その中で重要なのは、自分はこれまでに存在したすべての人間の中から無作為に抽出されたサンプルであるかのように辞職すべきだという考えだと思います。その通りです。もしそれを受け入れれば、あとはとても簡単なことです。しかし、それは

Sean Carroll 9:08

しかし、一見しただけでは、非常に正直な話のように思えます。テーブルの上にカードを置く前に、私はこの種の推論についていくつかの意見を持っていますが、それはかなり穏やかなものです。私は何度も何度も、考えを変えています。だから、この先の展開には興味があります。しかし、明らかに懐疑論者の視点からは、「いったいどうやって、自分の肘掛け椅子から離れずに、人類の遠い将来の速度について結論を出すことができるのか」ということになるでしょう。そうですね。つまり、これはあなたが無邪気に見える仮定を忍び込ませて、多くの力仕事をさせているように見えるのです。

Nick Bostrom 9:41

確かに、そうですね。終末論が最初に提示されたとき、これは普遍的な反応だったと思います。物理学者のブランドン・カーターが発端となり、90年代に哲学者のジョン・レスリーによって書き換えられ、患者の枠組みに適切に収められましたが、ほとんどの人は「何か間違っているはずだ」と思いました。戦争や新技術など、将来のさまざまなリスクに関する脆弱性の霧を切り抜けて、一見すると非常にわずかな証拠から非常に印象的な結論を導き出すことができるわけがない。しかし、この議論の何が問題なのかを説明しようとすると、意見の相違がなくなりました。あるいは、多くの人が、何が問題なのか私は正確に知っていると自信を持っていましたが、みんな違う説明をしているようでした。このような批判や反論の多くは、同じような批判を他のケースにも適用しようとすると、簡単に欠陥があることがわかりますが、それでは不合理な結果になってしまいます。ですから、終末論が間違っているかどうかを判断するのは、実は非常に難しいことなのです。なぜ間違っているかを言うのは些細なことですよね？

Sean Carroll 11:08

そうですね、もしかしたらもう少し説明できるかもしれませんね。このステップでは、「私は全人類の歴史の中で典型的な無作為に選ばれた観察者であるかのように推論すべきである」というものですが、これは明らかに、何かを忍び込ませていないかどうか、何が起こっているのかを問いただすべきところだと思います。

Nick Bostrom 11:29

そうですね。では、いったいなぜなのかと思うかもしれません。つまり、時間旅行をするコウノトリがいて、ランダムに人間を拾って、自分が生まれた年に落としてくれる、というようなことはないでしょう。では、なぜそのようなことを信じるのでしょうか？それは、多くの完全に合理的な科学を成立させるためには、そのような方法論的原則が必要であると思われるからです。つまり、あなたの宇宙論の分野では、最近、私が「大きな世界」と呼んでいる仮説が広く受け入れられています。この仮説によると、世界はとても大きく、局所的に変化しているので、すべての可能な観測はどこかの観測者によって行われると期待されます。ただ、そうでなくても、他の理由がなくても、局所的な熱揺らぎのようなものがあれば、ボルツマン脳ができ、あらゆる種類の局所的な状況があり、偶然にも異なるものになるでしょう。もし、無限の、あるいは、さまざまな問題を括るために、無限とは巨大ではあるが有限の、大きな宇宙のことだとすると、宇宙論やさまざまな臨界定数の値についてのさまざまな理論は存在しないでしょう。これらの理論はすべて、あなたが予測したことは実際に予測され、実際に観測されると予測しているのですか？

Sean Carroll 13:01

簡単に言うと、これは宇宙論の未解決問題だと思います。つまり、宇宙には無限の可能性があるのです。宇宙には無限の可能性があり、あらゆる種類の観測者が無限に存在しています。また、宇宙が有限であるという可能性もあります。それほど多くの観測者がいるわけではありませんが、今はまだわからないのです。だから、それは正しいのです。

Nick Bostrom 13:22

望遠鏡を覗いたり、大きな加速器を作ったりすることで、これらの疑問に何らかの影響を与える可能性のある有益な証拠を得ることができると考えることが重要なのです。典型性の仮定のようなものを導入せずに、私はセルサンプリングの仮定と呼んでいますが、あたかも自分が基準となるクラスから無作為に抽出されたかのように考えるべきだという考えですが、テストできないような観測予測がどのように生み出されるのかを理解するのは非常に困難です。しかし、もしそのようなものがあれば、変態の大多数は、たまたま非常に珍しい局所的な変動を見た、奇妙で稀な希薄なフリークの観察者ではなく、ほとんどが典型的な観察者である可能性が高いと言うことができるでしょう。このような大きな世界の理論を、常識的と思われる方法で観測に結びつけることができることがわかります。別の方法として、もっと簡単な思考実験を考えて、このセルフサンプリングの仮定を論証することもできます。外側には、90個の部屋を青く、10個の部屋を赤く塗っておきます。そして、あなたはこの世界に作られた自分自身に気付き、この設定全体について説明を受け、自分がいる部屋が何色かを推測しなければなりません。ある時点で部屋を出て、本当の答えを知ることができます。この場合、自分の部屋が赤であることの信憑性を、すべての観測者のうち赤の部屋にいる人の割合に等しく設定する必要があると考えられます。これは、全員がこの方法で賭ければ、期待獲得額が最大になるということです。また、限定的なケースとして、例えば90%の部屋が赤ではなく、99%ではどうかと考えることもできます。また、限界に近づくと、すべての部屋が追加された場合、論理的に自分の部屋が赤であることを推測できるようになります。そして、その確率は、すべての部屋が赤である場合に似た状況になるにつれて、徐々に確率1に近づいていくはずだと考えられます。このように、サンプリングの仮定を必要とする科学的な応用と、それが正しい推論方法であることが直感的に納得できる実験の両方があります。

Sean Carroll 16:26

2つ目の「部屋を読む」という思考実験には賛成ですね。心配なのは、それがリアルワールドの良い例えではないということです。1つ目については、よくわかりませんでした。つまり、宇宙論的なシナリオでは、たくさんの観測者がいることは想像できますが、その中で私が典型的な存在であると仮定したり、私がランダムにサンプリングされた特性があると仮定したりするには、少し余分な飛躍があるように思います。この種の推論には経験的な証拠があると主張しているのでしょうか、それとも単にそれが唯一の論理的なことだと主張しているのでしょうか。

Nick Bostrom 17:05

私が言いたいのは、私たちが持っているさまざまな理論をテストしようとする通常の実践である結果を得るためには、この方法論的原則を満たしているように見えるということです。理にかなっています。では、もっと具体的な話をしてみましょう。宇宙の進化のこの段階での宇宙背景の温度は、2.7ケルビンだったかな？

Sean Carroll 17:30

ええ、2.74です。

Nick Bostrom 17:32

そうですね。それが私たちの考えです。そして、人々がそれを測定したり、様々な観測データがあることから、その証拠があると考えています。しかし、別の理論を考えてみましょう。それによると、宇宙背景は実際には3.1ケルビンであるというのです。私たちは、「なるほど、これは可能性のある理論だが、それに対する強い理由がある」と考えます。どちらの仮説が正しいにせよ、どちらかの値を観測する観測者が存在することになります。この2つの主張を合わせると、2.7ケルビンの値を測る観測者と3.1ケルビンの値を測る観測者が存在することになります。一般に、平均値は2.7であるという仮説と、平均値は3.1であるという仮説の両方が存在します。一般的に平均値は2.7であるという仮説も、平均値は3.5であるという仮説も、どちらかの観測をする観測者が存在することを予測します。そこで問題は、もし彼らが両方の観測が行われたと言うならば、私たちが2.7という観測を行っている間、それはこれらの異なる仮説の両方と完全に一致しているように見えるという事実から、何を結論づけることができるのかということです。しかし、直感的には明らかに2.7の仮説に有利であると考えられます。ああ、そうですか。そこで私が言いたいのは、平均的な観察者、典型的な観察者、無作為な観察者が読むであろうものを我々の観察結果が最も可能性が高いと考えるべきだという方法論的原則を加えれば、確率的な推論が可能になるということです。そうすれば、確率的な推論が可能になり、「ああ、これは可能だ」と結論づけることができます。温度は本当に3.1です。そして私たちは、非常に珍しいものを見た非常に稀な観察者に過ぎないが、圧倒的な確率であり得る。平均温度は2.7です。実際に私たちが観測しているように、実際の温度が2.7であれば、ほとんどすべての観測者がそう見ることになるからです。

Sean Carroll 19:56

この波動鋳造と、伝統的な宇宙論の原因である波動鋳造との間には、ほんの少しだけ日の目を見ることができると思います。正直に言うと、宇宙論者としてはっきりさせておきたいのですが、難しいことはわかっていますが、宇宙論者は哲学的にあまり洗練されていません。そして、彼らはこのようなことを難しく考えず、ただ正しい答えを得て、自分の人生を歩んでいるのです。しかし、宇宙が非常に大きく、たくさんの観測者がいて、私たちはそのアンサンブルの中の典型的な観測者であるとすると、ほとんどの物理学者は、観測者の数に関係なく、私たちが宇宙の中の典型的な場所にいると想像しよう、と言うでしょう。たとえ宇宙が私たちの地平線で観測できる範囲よりもそれほど大きくないとしてもです。その違いは重要だと思いますか？それとも、基本的には、この2つの正当化では、計算は同じになるのでしょうか？

Nick Bostrom 20:44

原理的には重要な違いがあると思いますが、様々な用途で多かれ少なかれ同じ結果になるかもしれません。観測者が十分に一様に分布していると考えるのであれば、その通りです。しかし、別のアプリケーションでは、観測者がどこにいるかという異なる仮説を評価しようとしている場合、例えば、銀河系を考えた場合、知的生命体の進化を促す惑星がどこにあるかなど、そうですね、空間的時間的領域ではなく、実際に観測者を数えることに焦点を当てることが重要になってくるかもしれません。例えば、知的生命体を生み出すのに適した惑星が密集している、ある小さな時空間の領域にいることに気づく可能性が高くなるかもしれません。わかりました。

Sean Carroll 21:57

哲学者はすべての可能性を列挙したがるものですが、私は、ある時点で、それが正しいか正しくないかを実際に議論したいと思っています。私たちは典型的な観測者ではない」と言うだけではなく、「2つのシナリオが人類の歴史の中で2,000億人または2,000兆人であった場合、どちらかのシナリオにはより多くの観測者がいるのだから、私はその宇宙にいる可能性が高いと考えるべきだ」という反論もあります。そしてそれは、私が初期段階にいるという事実を相殺してしまうのです。したがって、私がその大きな宇宙の初期にいる可能性は低いにもかかわらず、その宇宙の方が可能性が高く、したがって、私がどちらの宇宙に住んでいるかについては何も言えません。

Nick Bostrom 22:53

ええ、それは最大の議論に対する最も重要な可能な反応の一つです。先ほど説明した最初のアイデア、つまり、自分自身を、ある参照クラスに存在するすべての観測者からのランダムなサンプルと考えるべきだというアイデアを、私は「自己サンプリングの仮定」と呼んでいます。そして、今おっしゃったことは、私が自己表示の仮定と呼んでいるものです。これは大まかに言うと、自分が存在していることに気づき、この世界に生まれてきたという事実そのものが、この世界にはおそらく多くの観測者が存在しているという証拠になるという考え方です。ある意味では、あなたが生まれてくるためのスロットがもっとなかったかのようです。そうですね。そうすると、もしこの自己暗示の仮定を受け入れると、終末論が言う確率の変化を相殺して、より少ない数の観測者を支持することになります。つまり、「ああ、私は存在している」という事実を最初に登録し、自己表示の仮定によって、おそらく多くの人が存在しているだろうという証拠を増やしてから、「ああ、私は本当に早い」と気づくようなものです。そしてそれは、将来的に観察者が少なくなる可能性を高めます。しかし、この2つの変化は正確には相殺されるのです。つまり、終末論の議論を一挙に排除することができるという素晴らしい機能を持っているのです。そして、これが実際には、この表示の仮定に対する最も強力な論拠となるかもしれません。しかし、これには直感に反するような意味合いがあります。私はこれを「僭越な哲学者の思考実験」と呼んでいます。

Sean Carroll 24:48

ところで、私はこのフレーズが大好きで、多くの講演や執筆で使っています。それが何なのか説明してください。

Nick Bostrom 24:59

宇宙が有限であるか無限であるかは、現時点では未解決の問題のように思われます。椅子に座ったままでは答えられないことのように思えます。実際に宇宙論モデルを構築し、膨張速度を測定して、インフレーション宇宙論イズムを評価する必要があります。しかし、自己暗示の仮定を受け入れるならば、2つの仮説のうち、片方の仮説は何桁も多い観測者がいると仮定し、その仮説が真実であると結論づける圧倒的に強力な証拠があるように見えます。つまり、宇宙は有限であるという1つの誇大広告を考えるわけです。しかし、ある仮説によれば1兆人の観測者がいて、到着した仮説には1兆人の観測者がいるということになります。そして、物理学者が、「これは面白い、超超対称性の考察から、この2つの可能性のうちどちらかが真実であることがわかる」と言ったとします。あとは、この実験を行えば、どちらが正しいのかが明確にわかるでしょう。そして必要なのは、この非常にシンプルな機械を作るために2万ドルが必要なだけだと思います。いやいや、2万ドルを無駄にする価値はありません。私はただ、答えが何であるかを教えることができます。もちろん、それは1兆兆個の観測者仮説であり、それは真実であり、自己表示の仮定から直接出てくることによって、他のものよりも1兆倍可能性が高いのです。つまり、自分の出生順位を振り返るだけで、人類が非常に長い間存続するという仮説を除外できるという考えと同じくらい狂っているとしか思えないというのが反論です。つまり、ここでは代わりに、宇宙に存在する人数が少し少ないが、それでも膨大な数の人間がいるという仮説を除外しているのです。あなたが存在しているという事実を考えただけでも、ちょっとやりすぎのような気がします。

Sean Carroll 27:24

そうですね。どちらにしても、非常に明確にしておく必要があると思います。このテーブルにある2つのオプションは、理論に事前確率を与え、それがどれだけエレガントで合理的に見えるかを示すものです。そして、それぞれの理論の中で、典型的な観察者を想定します。もう1つは、典型的な観測者を想定しつつ、事前確率に多くの観測者が含まれる理論を後押しする、というものです。あなたは、どちらの方法でも、私たちが肘掛け椅子に座っていても得られるはずのものを超えて、世界に対して影響力を持つことができると主張しています。では、あなたのお勧めは何ですか？つまり、これらの質問についてどのように考えるべきなのでしょうか？

Nick Bostrom 28:13

私はどちらかというと、どちらも受け入れたくないと思っています。これに関する初期の文献でよく見られたのは、人々がこの問題から始めようと議論し始めたとき、彼らはたいていこれらの選択肢のうちの1つを選ぶか、むしろ通常はそれを再発明するのですが、他の人々がいることに気づかず、私はただ反対側の議論を無視するか、それに気づかないでいました。そして、私はとても満足していました。つまり、自己暗示のような仮説を立てて、「終末論に反論した」と言うかもしれませんが、それ自体が他の反直感的な意味を持っているという事実には触れようとせず、反省もしないのです。つまり、私たちが何をすべきかは不明なのです。しかし、何か第3の選択肢がないかどうかを探る価値はあると思います。つまり、自己表示の仮定は、「自分をすべての可能な観察者からのランダムなサンプルと思え」と言っているのに対し、思考サンプリングの仮定は、「自分を実際に存在するすべての観察者からのランダムなサンプルと思え」と言っているようなものですね。そうですね。しかし、もしかしたら、「自分は、ひどいものすべての集合とは同一ではないかもしれない参照クラス内の、すべての実際の観察者からの無作為なサンプルであると考える」と言うべきかもしれません。例えば、もしかしたら、自分は、人類が存続していればはるか未来に存在するであろうものも含めて、すべての観察者から無作為にサンプルされていると考える必要はないかもしれませんが、もしかしたら、ある程度狭い観察者のクラスから無作為にサンプルされているかもしれません。例えば、私たちとは全く異なる未来の人類は、もしかしたらポスト・ヒューマンになるかもしれないと考えたとします。つまり、彼らは、人類が21世紀を生き延びたことを、とりわけ、知ることになるでしょう。ですから、彼らはあまりにも異なるので、今の私たちは、彼らを含むある集合からのランダムなサンプルと考えるべきではないのかもしれません。多分、彼らは私たちとあまりにも違いすぎるので、私たちは自分たちを岩やWindowsを含むすべての物理的物体からのランダムなサンプルと考えることになるでしょう。そうすれば、破滅論を封じることができます。つまり、未来の進歩を排除することはできませんが、私たちの参照クラスから外れるような形で私たちとは異なると言う限りは、そのような未来を排除することはできないのです。そのような道を歩んでみるのもいいでしょう。私は90年代に博士論文を書き、話題の理論を構築しましたが、その中で、参照クラスを相対化できるかどうかを検討しました。そうすれば、自己表示の仮定を受け入れれば、終末論のような直感に反した意味合いも、プレゼンターや哲学者のような意味合いも避けることができるかもしれません。

Sean Carroll 31:32

さて、私自身が考えてみたいのは、まだ完全には解明できていないのですが、もしかしたら私たちは、自分自身を私よりもはるかに大きなクラスの典型的な観察者だと考えるのは間違いだということです。言い換えれば、自分が典型的ではないことはすでに多くのことを知っています。例えば、ほとんどの人は理論物理学者ではありませんし、私が典型的な観察者ではないことを示す明らかな方法はたくさんあります。そして、私のような観測者が出現する可能性に基づいて宇宙論的シナリオを判断すべきかもしれませんが、それ以上のことは一切考えず、したがって、エイリアンの生命体やポストヒューマンが何体存在するかに基づいて結論を出すべきではありません。

Nick Bostrom 32:16

これは狭すぎると思います。宇宙背景の例に戻ると、それが2.7ケルビンなのか3.1ケルビンなのかということになります。どちらの仮説でも、十分に大きな世界では、ある観測者が測定を行ったときに2.7を見ていることがあると考えられます。そうですね。そして、3.1と答える人もいるでしょう。しかし、もしあなたが基準クラスに、あなたと全く同じ精神状態で同じ証拠を持った観測者だけを含めるならば、2.7と見た観測者だけが含まれることになります。あなたがそう言っているのですから、そうですね。そうですね。その場合、2.7説と3.1説の両方で、その参照クラスの観測者の100%が2.7と言っているということになりますね。

Sean Carroll 33:18

しかし、私が言いたいのは、理論を判断する際には、その理論が予測する観測者が、私のようにすでにそのように見ていると予測する可能性があるかどうかに基づいて判断することができるということです。例えば、私はすでに知っていることを忘れたくありません。私はCMBを2.7度で見ている観測者ですが、私のような人がいるべきかどうかで理論を判断することができます。しかし、その人たちが典型的だとは言えません。

Nick Bostrom 33:49

そうですね。しかし、この場合は、どちらの理論も、それは2.7度の衝撃を見ている人が問題を抱えていると予測しているわけです。ああ。

Sean Carroll 33:59

申し訳ありません。はい、書きました。つまり、比較しているのですね？もしかしたら、私が誤解していたのかもしれません。宇宙がどこでも2.7である小さな宇宙と、CMBが通常3.1である大きな宇宙のようなものがあります。でも、場所によっては2.7だったりします。これが私たちが比較していることなのでしょうか？

Nick Bostrom 34:16

あるいは、大きな大学と比較した場合、1つの大学の平均温度は2.7です。一方の大学の平均気温は2.7度、もう一方の大学の平均気温は3.1度です。しかし、どちらの大学も規模が大きいので、異なる温度のポケットが存在することになります。そうですね。大きな世界の理論では、2.7に見える観測者もいれば、3.1に見える観測者もいると予測されています。しかし、平均的な観測者や大多数の観測者が何を見るかについては、意見が分かれています。

Sean Carroll 34:43

その通りですね。私が噛みつきたいのは、両方の宇宙が十分に大きく、平均値が異なっていても、私と同じような観測者が両方の宇宙に存在する可能性が高いというケースです。私はどちらかを判断することはできません。それが私の言いたかったことです。ただし、その結論は、私ができる最も不謹慎なことのように思えます。

Nick Bostrom 35:04

ええ、ただし、私は思います。宇宙はおそらくそのようなものだと思うのです。そして、これらすべての意味は、そうだと思います。人間が占めることのできる様々な有限サイズの脳や脳の状態がインスタンス化されています。そして私は、天文学を行うことで、宇宙のレイアウトに関する有益な情報を得ることができたと、今でも信じています。

Sean Carroll 35:30

ええ、いや、それは本当だと思いますよ。というのも、哲学の世界では、人類の未来やボルツマン脳などについて議論されています。しかし、「Down to Earth」の宇宙論者の中には、例えば、宇宙定数の値や、私たちが観測している他のパラメータ、つまり、生命の原子や化学を可能にする微細構造定数の微調整などを説明するために、人間的推論に訴える人もいます。このような人智学的な推論を用いている現役の科学者は正しい道を歩んでいると彼は考えているのでしょうか？

Nick Bostrom 36:09

そうですね、つまり、アプリケーションごとに見ていく必要があります。しかし、一般的な考え方としては、最初は宇宙の見かけの微調整に戸惑うかもしれません。知的生命体の存在を可能にするような値を持つパラメータや定数がいくつも存在していることは明らかですが、それ以外にも、非常に異なった状況が存在していた可能性もあります。観測者は存在せず、高度に希釈された水素ガスやその他の縮退状態になっていたかもしれないのですから、最初に「へえ、ちょっと変だな」と感心するのは当然だと思います。そうですね。そして、人類学的な推論を適用すると、このアンサンブル理論は、私たちが観測すべきものは、明らかに非常に微調整された宇宙であることを予測していると言えます。それにもかかわらず、すべての観測者は、微調整された宇宙の中にいることに気づくでしょう。そして、それが説明になるのです。私たちが見ているような微調整の説明になります。このような推論は、基本的には

Sean Carroll 37:41

のようになります。例えば、スティーブン・ワインバーグが80年代に宇宙定数についてやろうとしたことは、「宇宙定数の値には滑らかな分布があり、その値が銀河の数に影響すると想像しよう」というものでした。そして、彼は多かれ少なかれ正しい値を予測しましたが、あなたはどうですか？あなたはby the right valueに乗っていますか？つまり、経験的に発見された値と10年後の値ですから、それは一種の有効な推論だと思いますか？

Nick Bostrom 38:19

何が存在し、どのような銀河があり、どのような惑星があり、どのような観測者がいるのかという理論から、ある種の客観的な世界のモデルからある種の観測的な予測へと進むために必要な方法論の一部があると思います。そう、あなたが見る可能性のあるものについてです。そこで、このギャップを埋めようとする小さな方法論として、人間原理が登場するのです。ある意味では、指標となる情報をいかに推論するかという方法論です。つまり、存在するものについての客観的な構造とは対照的に、自分がどこにいるのか、今は何時なのか、自分は誰なのか、といったことに関係する情報です。このような方法論は、そこにある客観的な構造に関するさまざまな仮説と組み合わせて使用することで、テスト可能なさまざまな予測を導き出すことができます。

Sean Carroll 39:33

すみません。いいえ、続けてください。つまり、宇宙定数や宇宙的なことはさておき、このような推論はできるのでしょうか？フェルミ・パラドックスのように、他の場所に知的文明が存在することを推論するために、あなたの見解では、このような推論を使うことができますか？

Nick Bostrom 39:54

フェルミのパラドックスは、あまりパラドックス的ではないと思います。知的生命体の兆候は見られない。それは事実です。でも、それがパラドックスであるためには、私には意味がわかりません。xについての議論と、xではないことについての議論があって、どちらも説得力があるように見える必要があります。そうすると、どう解決していいかわからない葛藤が残ります。しかし、しかし、一方の論拠があるように思えて、私たちはエイリアンを見たことがありませんが、その論拠が何であるかはわかりません。そのことについて私たちが驚くべきだということです。つまり、私たちは確かにたくさんの惑星があることを知っているのです。そうですね。でも、だからといって、宇宙人が結果的に現れる可能性が高かったかというと、そうではありません。つまり、惑星があって、生命が存在するまでには、知的生命体はもちろんのこと、たくさんのステップがあるからです。知る限りでは、それらのステップは非常にあり得ないものかもしれませんし、あり得ないステップが1つあるかもしれません。だから、最も単純なレプリケーターでも良いのかもしれません。もしかしたら、天文学的な偶然が必要かもしれません。100個のアミノ酸が、正確に正しい方法でぶつかり合って、生化学におけるArduinoの自己複製を可能にする何かを作り出したのかもしれませんが、それが確率の高いステップに触れる可能性は完全にあります。では、人間が存在するからといって、ありえないことを仮定するのは非常に不本意だと言うかもしれませんが、私は、人間の存在がありえないことになったのは、その話と矛盾するように思えると言おうとしました。しかし、そこに人間原理が入ってくるわけです。惑星が一つしかない場合はうまくいきましたよね。その角に人間が存在していれば、進化の歴史に極めてあり得ない段階があったという考えに対する証拠になります。しかし、何十億もの惑星があって、最終的に知的生命体が観測された惑星だけが存在するのであれば、たとえ1つの惑星から知的生命体が誕生するまでに極めてあり得ないステップがあったとしても、知的生命体が観測された惑星に私たちがいることはそれほど驚くことではないかもしれません。十分な数の惑星があれば、それは素敵な宝くじのようなものです。1,000万枚の宝くじを買ったとして、すべてのチケットが100万分の1の確率でしか当たらないとしても、宝くじに当たるのは当然ですよね。

Sean Carroll 42:27

そうですね。惑星はたくさんあるのに、生命が誕生する確率はどれくらい低いのだろうか？そして、その答えは「本当に小さいかもしれない」ということになります。ええ、本当に小さいかもしれませんね。

Nick Bostrom 42:45

ドレイク方程式は、最も過大評価されているものの一つに違いありません。なぜなら、彼の両親は、ある程度厳密な科学的把握をしているからです。しかし、そこには不確かなだけでなく、100%の確率かもしれないし、10のマイナス1000乗かもしれないようなパラメータ値があるのです。手がかりがないのです。しかし、あなたは

Sean Carroll 43:13

ええ、それには完全に100%同意します。しかし、あなたは終末論のような推論に共感しているように見えますし、自己表示の仮定や、多くの観測者を持つ理論に与える後押しに続く、僭越な哲学者にも共感しているように見えます。では、終末論のような議論と、高度な技術を持っていると思われる異星人が他にいないという経験的観察の組み合わせで、「我々はおそらく絶望的だ」と結論づけることはできるでしょうか。おそらく数世代のうちに自滅するでしょう。

Nick Bostrom 43:47

つまり、複雑なんです。無神論者はいると思いますが、遠い存在だと思っています。つまり、もし宇宙が無限であれば、確かにそこには宇宙人がいるでしょうね。そうですね。でも、私たちの光の届く範囲にはいないかもしれません。終末論は直感に反して驚くべきものですが、それを受け入れるように自分を説得することはできるでしょう。終末論と同じ構造を持ちながら、直感に反する部分を一段階上にした思考実験があります。私が「アダムとイブの思考実験」と呼んでいるものを考えてみましょう。世界が創造され、最初にアダムとイブの2人がいたとします。その後、さらに人が増えるかどうか……つまり、後から全人類が誕生するかどうか。アダムとエバの選択次第ではありますが。そして、彼らが肉欲に誘惑されるかもしれないとしましょう。

Sean Carroll 45:07

彼らはそうではありませんでした。私たちは、彼らがそうであったことを本から知っているので、そうですね。

Nick Bostrom 45:10

しかし、もし私たちが全人類を作ってしまったら、それはとても悪いことだと彼らが考えていたとしましょう。そんなことをしてはいけないということです。もし、イブが私たちの10人の子供を産んだら、それが必然的な結果になることを知っているかもしれないからです。しかし、私たちには確信がありません。つまり、明らかに二人は心の中で抱き合って、妊娠しないかもしれない、ということです。しかし私は、仮に10ポンドのうちの1ポンドだとして、人間の生殖システムに関する通常の事実に基づいて、その結果として彼女が子供を産むだろうと考えるかもしれません。つまり、10%のリスクを冒してまでこのような災害を起こす価値はないと判断し、実行しないのです。しかし、今度は、蛇が這い上がってきて、ささやくとしましょう。さて、肉欲に負けて抱きついた場合、あなたは妊娠するかしないかのどちらかですが、実際にどのような可能性があるか考えてみましょう。もしあなたが妊娠した場合、あなたは何十億何百億という人間の中で最初の人間となり、すべての観測者の分布の中で非常に珍しい位置にいることになります。そして、自己サンプリングの仮定により、何十億人もの人間がいる場合にあなたが最初になる確率は、まあ、数十億分の1でしょう。極めてあり得ない話ですね。ですから、私たちが最初の3人の中に入っていたという条件がつけば、基本的にその仮説は無視していいのです。逆に言えば、もし妊娠しなければ、あなたは完全に正常であり、現在の3人のうち2人がおそらく1人であるということになります。これを更新していくと、この法律では、直感的に10%程度の確率で結果が出ると考えられるようなことは起こらないと極めて確信できるようになりますが、それは逆効果のようにも思えますが、さらに踏み込んで考えてみましょう。アダムはちょっと怠け者で、狩りに行きたくありません。そして彼は、傷ついた鹿がたまたま足を引きずって洞窟を通りかかった et al 10分後には多くの労力を省くことができてとても便利だと思っています。そうすれば、もし傷ついた鹿が現れなければ、彼らは子孫を残し、その子孫が何十億人もの人々を生み出すだろうという確固たる意思を形成することができるように思えるのです。そして、突然、傷ついた鹿が現れることを完全に確信できる強力な証拠を手にすることになるのです。そして、それが彼の信じる合理的なことであるとは、ちょっと考えられないということです。このように、セルフサンプリングの仮定を受け入れることで、さらに直感に反する結果が生まれるのではないかと思います。

Sean Carroll 48:14

したがって、それを受け入れるべきではないのです。

Nick Bostrom 48:18

そうですね、確かに受け入れられないかもしれませんね。その場合、代替案は何かを考えなければなりません。受け入れないとしたら、どうしますか？自己表示の仮定を受け入れるのか？哲学者の観点から言えば、その代わりに、先ほど私が言及したような参照クラスを相対化するという道を選ぶことになるでしょう。一般的に、この分野にはまだ不明瞭な点や明確な点があるように思います。方法論的な問題というのは、非常に奥が深いと思います。これらの答えのどれかが正しいということはないかもしれませんが、どの答えにも正当に自信を持てるほど、まだ十分に理解できていないのではないでしょうか。

Sean Carroll 49:11

なるほど、それなら納得です。つまり、終末論に限って言えば、それは私たちが考えるべきことであり、心配すべきことであり、終末論を避けるための研究機関を設立すべきかもしれませんが、単独では良いアイデアとは言えないということですね。そうですね。でも、それが正しい結論だと言い切れるほど、私たちはそれを理解していないと思うのですね。そうですね。そうですか。とてもいいですね。しかし、しかし、この典型性の自己サンプリングのアイデアを拡張することができると言わずにはいられないでしょう。あなたは有名な話として、全観測者の中に、より高度な知性によってシミュレートされ、コンピュータの中で一生を過ごしている観測者の中では、我々は典型的であるかもしれないと言いました。つまり、シミュレーションの議論につながるわけです。そうなんですか？そうです。では、仮に、ありえない人たちがいるとしたらどうなるか、教えてください。でも、会場にはシミュレーション論を知らない人もいるのでは？

Nick Bostrom 50:17

シミュレーション・アーギュメントとは、3つの可能性のうちの1つを示そうとするもので、そのうちの1つは、現在の技術開発段階にあるほぼすべての文明が、技術的に成熟する前に絶滅するという、非常に強い収束があるというものです。これが1つの可能性で、実際に起こりうることです。2つ目の可能性は、技術的に成熟したすべての文明の間で非常に強い収束が起こり、意識のある人間を使ったコンピュータ・シミュレーション、つまり祖先のシミュレーションを作ることに興味を失ってしまうというもので、3つ目の可能性は、私たちはほぼ間違いなくコンピュータ・シミュレーションの中で生きているというものです。3つ目の可能性は、私たちはほぼ間違いなくコンピュータシミュレーションの中で生きているということです。この議論には、簡単な確率論などが含まれます。しかし、基本的な考え方は、直感的につかむことができるので、3つ目の可能性は得られないということになります。つまり、たとえ1000分の1であっても、少なくとも現在の段階の文明のいくつかは、最終的に技術的な成熟に達するということです。そして、第2の可能性も当てはまらないとすると、少なくとも、技術的に成熟した文明のうち、ある程度の合理的な割合の人々が、祖先のシミュレーションを作成するために、些細ではない割合の資源を使うことに興味を持っているとすると、元の歴史の中で生きていたであろう人々よりも、シミュレーションの中で生きている私たちのような人々の方が、はるかに多いことを示すことができます。彼らの計算能力の1%のほんのわずかを1分間だけ使ったとしても、人類の歴史の中で何千何万ものラウンドを作ることができるのです。最初の2つの可能性を否定すると、私たちの経験を持つ人の大部分はシミュレーションされたものだと結論づけざるを得ません。そして、その条件として、私たちはおそらくシミュレートされたものの一つであると考えることができると主張します。人類学的なものは、私たちのような経験をしている人のほとんどがシミュレートされたものであるという結論から、したがって私たちはおそらくシミュレートされたものであるという結論に至るまでの、この3番目の最後のステップでのみ登場します。

Sean Carroll 53:01

そうですね。そうすると、あなたはこの議論を支持することになりますね。そうですね。そうです。そのため、私は少しだけ反論させてください。私はこの件に関してとてもオープンマインドです。私は不可知論者で、本当にわかりません。合理的な意識を効果的にシミュレートするには、どれくらいの計算能力が必要なのか、もう少し詳しく教えてください。それが何を必要とするのかをもっと理解できれば。脳の効率性などを理解すれば人間の意識を真にシミュレートするためには、脳の桁数とほぼ同じ数の原子が必要だと言えるでしょう。しかし、あなたは明らかにもっと少ない数で済むと考えているようですね。

Nick Bostrom 53:53

ええ、もっと少ないですね。そのためにはまず、このような祖先のシミュレーションを成功させるための成功基準を明確にする必要があります。人間の脳の中には、バタフライエフェクトを買うと、最終的に人間の行動に大きな影響を与えるような、あらゆる種類のランダムな確率的事象があるかもしれないということです。しかし、それはむしろ、自分がシミュレーションされたものなのか、それともシミュレーションされていないものなのか、内側からはわからないほど近いものなのではないでしょうか。そのためには、人間の精神的な現象を計算機レベルで捉えれば十分だと思います。ニューロンやサインアップなどがあり、サインアップの特性を適度な大きさのベクトルで表すことができるかもしれません。しかしそれは、すべての原子がどこにいるのかを常に把握していなければならないということになり、膨大な量になると思います。例えば、人間の脳の処理能力の推定値や、感覚的な知覚の推定値があれば、例えば、スクリーンの解像度がどれくらい高ければピクセルを検出できないか、というようなことが考えられます。

これが実現可能であることを示すもう1つの論拠は、「創造する」ということです。ある意味では、シミュレーターの脳を作るだけでなく、彼らが体験するためのある種の環境も作らなければなりません。それは難しいことだと思うかもしれません。しかし、私たちの小さな3ポンドの有機脳でさえ、毎晩、夢を見ている人にはかなり現実的に見えることもあるバーチャルリアリティのシミュレーションを作成していることを考えてみてください。もし彼らが、訓練なしでそれをできるなら、おそらく惑星サイズのナノコンピュータを持つポストヒューマン文明でも、壊すことなくそれを行うことができるのではないでしょうか？

Sean Carroll 56:53

ええ、いえ、私は環境に賛成です。少ない感覚入力でも、環境を現実的なものだと思わせることはできると思いますが、それは脳とコネクトームの問題です。つまり、人間には850億のニューロンがあり、それらは複雑につながっています。ですから、人間の意識をシミュレートすることがいかに簡単かということを、人々が少し安易に想像しすぎているのではないかと、私は少し警戒しています。つまり、この話はしたくなかったのですが、もう1つの論点があります。もし、コンピュータ上で人間の意識をシミュレートすることが不可能だとしたら、この議論が失敗する可能性があるということです。

Nick Bostrom 57:36

そうですね、つまり、シミュレーション論は、私が「基板独立論」と呼んでいるものを前提としています。そうです。多くの人がこれを受け入れています。つまり、心の哲学でも、コンピュータ科学者や物理学者の間でも、意識的な現象が起こるために必要なのは、炭素原子のような特定の物質が使われていることではなく、実行しなければならない計算の特定の構造があることだという意見が多数派だと思います。そうですね。つまり、私がシミュレーション論を発表した論文は、まさにその前提に立っているということですね。確かに、そうですね。そして、それに対する論拠を探せばいいのです。文献の他の場所で。

Sean Carroll 58:27

そうですね。意識を提出することは、原理的には可能なはずなのに、思ったよりも難しいのではないかと、私はまだ心配しています。しかし、もうひとつ心配なのは、もし私が自己サンプリングの仮定のあるバージョンを真剣に受け止めたとしても、それがどのようなバージョンなのか不明なので、あるバージョンと言っているだけで、本質的に不明なわけではないのです。しかし、低解像度のシミュレーションを行う方が簡単で、次に高解像度のシミュレーションを行う方が簡単であることから、ほとんどの観測者は可能な限り低解像度のシミュレーション、つまり現実の最も不便なバージョンの中で生活していることに気づくだろうという、あなたの予測はありませんか？

Nick Bostrom 59:06

さて、この方程式には二つの側面があります。つまり、シミュレーションにはコストがかかるということです。他の条件が同じであれば、特定のシミュレーションを実行するためのコストが低ければ低いほど、より多くのシミュレーションが間違っていることが予想されます。しかし一方では、そのようなメリットもあります。シミュレーションを作成する人には、作成する理由があるかもしれません。その理由の中には、おそらく最も一般的な理由として、最低限の解像度以上のものを必要とするものがあるかもしれません。そうすると、現在の私たちの生活を観察しているほとんどの人は、最低レベル以上の解像度のシミュレーションをしていることになります。

Sean Carroll 59:50

そうですね、よくわかりませんが。つまり、このようなシミュレーションを始めるときには、かなりの低解像度で始めることになると思いますが、実際にこれを行うことの実用性を考えると、私にとっては少し曖昧になります。しかし、あなたは、私たちが今、シミュレーションの中にいるのではないかと考えているとまで言い切りましたね。

Nick Bostrom 1:00:12

私はその質問には答えない傾向があります。しばらく何も言わないでいると、対象者が言いたかったこと以上のことを言ってくれることがあるんですよ。私はそれに騙されません。まあ、いいでしょう。I

Sean Carroll 1:00:33

つまり、それは、それは、しかし、それは大丈夫です。でも、それは構いません。しかし、永遠にパントすることはできないという考えを、記録に残しておきましょう。このような議論の背景には、正しいバージョンと間違ったバージョンがあるはずだという考えがありますよね。私は、ある種のパント、つまり暫定的に「まあ、まだわからない」と言うことにとても満足しています。しかし、おそらくは知ることができるでしょう。つまり、どのようにしてこの問題を解決するべきなのか？どのようにしてそれを解明すべきでしょうか？

Nick Bostrom 1:01:06

この3つの仮説の間に断絶があると、この3つの選択肢の間でどのように信頼性を配分すべきかという問題が生じます。つまり、1つ以上の仮説が真実である可能性があるということですか？そうです。つまり、最初の一歩としては、それで救われるということです。一般的に、これらの問題にはかなりの不確実性がありますから、おそらくそれぞれの選択肢には些細なことではない確率があるはずです。しかし、それ以上になると、つまり、それぞれが正確に3分の1の確率を持つべきだということではなく、どちらかが大部分を占めるべきだと思うかもしれません。そうなると、元々のシミュレーションの議論が沈黙しているため、追加の証拠を持ってくるか、議論が推測であるかという、カードの問題がますます明確になります。どっちなんだろう？ああ、確かにそうしたいと思います。しかし、そうすると、本来のシミュレーションの議論から一歩進んでしまいます。

Sean Carroll 1:02:13

こういう言い方をしてみましょうか。私たちがシミュレーションの中に生きているという仮説に基づいて、あなたが立てる予測はありますか？もしそれが本当なら、現実について期待すべきことがあるでしょうか？

Nick Bostrom 1:02:27

シミュレーション仮説に基づいてデジタル化できるかどうか？私たちはシミュレーションの中にいるということですが、それは何か観察上の結果をもたらすでしょうか？また、そこから導かれる予測は？そうです。しかし、それらは確率的な性質を持っていると思います。そもそも、そうでなければ極めて確率の低い観測結果があると思うのですが、少なくとも、シミュレーションの中にいるのであれば、考えられるようになるということは、何か些細なことが必要になるということです。もしあなたがシミュレーションの中にいるとしたら、ある時点であなたの目の前にウィンドウが現れて、「あなたのシミュレーションをクリックして、詳細はこちらをご覧ください」と表示されることを想像してみてください。これは、シミュレーション仮説の極めて強い証拠となりますね。そうですね。例えば、死後の世界のようなものは、もし私たちがシミュレーションではなく自然主義的な世界にいるのであれば、それはもっと無理があるように思えるかもしれません。シミュレーションでは、それは完全に自然なことのように思えます。シミュレーションがどのように設定されているか、シミュレーターが何を考えているかによって、そうなるかもしれませんし、そうならないかもしれませんが、異なるシミュレーションや環境で心を繰り返し動かすことを妨げるものは何もありません。もう一つの暗示は、シミュレーション論そのものを介したものです。つまり、シミュレーション論が正しく、これらの3つの可能性のうち少なくとも1つが真実であるとすれば、シミュレーション仮説が第3の仮説が真実であるという証拠が得られれば、その結果、彼らが書いた他の2つの仮説の確率が下がるかもしれないということです。少なくとも1つの仮説が真であるという条件はすでに満たしています。つまり、「どちらかの仮説」はまだ真実かもしれませんが、それを信じる理由は少なくなります。ですから、それらの確率は上がるかもしれません。そうすると、神経科学やハードウェア設計、ナノテクノロジーなど、よくわからない分野への洞察が深まれば、シミュレーションの構築が不可能であることを示唆するような情報は出てこないだろうと予測することもできます。シミュレーションを実行しているコンピュータが存在する宇宙と、シミュレーションが存在する宇宙が異なる物理学を持っていると想像できるので、それは論理的必然性を持ちません。とはいえ、他の点では同じようにその方向性を示唆するものがあると思います。他にも、もっと空想的な可能性がたくさんありますが、私たちが地下レベルの物理的現実に生きているのであれば、それらを調和させるのは難しいと思います。シミュレーションでは、シミュレーターが吟遊詩人のように介入して、宇宙を単純な微分方程式に従って進化する粒子の盲目的な方程式と考えていた場合には意味をなさない方法で形成することができます。しかし、宇宙がシステムと相互作用していると考えれば、知的で目的意識を持った、デザイナーのような役割の人がいて、その人が宇宙と相互作用していると考えれば、その可能性は低くなるでしょう。現象としては、彼らが世界に導入するかもしれない、そうでなければ奇妙なものになるかもしれませんね。そうですね。

Sean Carroll 1:06:16

彼らに話しかけることはできますか？どうにかして彼らの注意を引くことはできませんか？一般的に、宇宙の大規模構造のシミュレーションを行う場合、メッシュ内のすべての粒子が何をしているかに注意を払う必要はありませんよね。同じように、観測可能な宇宙にある何十億もの惑星の一つ一つにまで気を配ることはないでしょう。そこで、少し手を挙げて、「おい、シミュレーターたちよ、我々は自意識に到達した。挨拶してみませんか？

Nick Bostrom 1:06:46

つまり、私たちが何をしているかを追跡するためのコストは、そもそもシミュレーションを実行するためのコストに比べればわずかなものだと思います。ですから、幅広いシナリオにおいて、人間の文明から生まれる最も重要なことを簡単にモニターして見ることができると思います。あるいは、すべての思考を記録するかもしれませんが、その情報が、人間がやっていることに関連するのか、それとも私のために読むのかは、この権利の目的によると思います。

Sean Carroll 1:07:23

まあ、考えてみるのはいいことだと思います。つまり、信じるかどうかは別にして、選択肢の一つとして残しておくべきだと思います。そして、それが私たちの世界での行動に影響を与えるかどうかはわかりません。しかし、宇宙論を考える人にとっては、テーブルの上に置いておくべきもののひとつであることは間違いないでしょう。最後に、人工知能の話をしたいと思います。確かに、もし原理的に人間や人間に似た知能をかなり説得力のある形でシミュレートできると認めるなら、似ていても違うものがあってもいいのではないかと想像しています。それで、「超知能」という刺激的なタイトルの本を書いたのですね。ポッドキャストではすでにスチュアート・ラッセルやマックス・テグマークのような人たちと話をしていますが、本当に超知的なAIの見通しについて、街行く人は何を心に留めておくべきなのでしょうか？

Nick Bostrom 1:08:31

残念ながら完全に排除することはできませんが、他の手段で私たちが以前に自滅してしまわない限り、それはやってくると思います。しかし、この本が出版されて以来、AIの進歩は非常に目覚ましいものがあります。そして、考えはまとまってきているようです。ですから、この本が本当にやろうとしていることは、現在の状況やAIでの遊び、タイムラインの予測などを説明することではありません。冒頭に1,2章ありますが、実際に行われている作業は、人間レベルの一般的な知能に匹敵するものを機械が獲得した場合に生じるダイナミクスに焦点を当てています。そして、おそらくその後まもなく、すべての認知領域において根本的に優れたパフォーマンスを発揮する超知能的なものが出現するだろうと主張しています。機械が超知能を持つことの意味を考えてみると、その超知能が発明をするのに非常に優れているという点で、人間が作る必要のある発明は本当に最後になるでしょう。そして、未来を拡大することができます。もし人類が2万年かけてこの問題に取り組んだとしたら、SFのような技術をすべて生み出すことができるかもしれません。例えば、火星にコロニーを作るという完璧に現実的な仮想現実を手に入れることができるかもしれませんし、老化の治療法やその他のあらゆる種類のものを手に入れることができるかもしれません。しかし、このような科学技術が、超知的なタイムスケールで開発されているとしたら、これらのことはすぐに実現するかもしれません。そうでなければ遠い未来のように思えることが、超知能を手に入れた後、ごく短期間で起こる可能性があるのです。全体として、これは人類の歴史の中で最も重要な移行かもしれません。このようなことが、例えば、私たちが生きている間に起こるかもしれないという合理的な可能性が少しでもあると思うなら、それをよりよく理解すること、特に、機械知能時代への移行において、物事がうまくいく可能性を高めるためにできることがあるかどうかを確認することは、非常に高い優先順位になるはずです。私や研究所の他の研究者が行っている研究の多くはAIに焦点を当てています。AIの整合性に関する技術的な問題に取り組んでいます。恣意的に賢いシステムに人間の目標や価値を理解させ、何らかの有益な役割を果たさせるためのアルゴリズムを設計する方法です。また、ガバナンスのレベルでは、整合性の問題を解決した場合、世界はどのような利益を得ることができるかを考えています。この強力な技術が、お互いに戦争をしたり、お互いを守ったりするためではなく、何らかの有益な目的のために使われる機会を増やすことです。また、高度なデジタル地雷の可能性を考え始めたときに生じる倫理的な問題もたくさんあります。

Sean Carroll 1:12:04

ジョン・ダナハーとのポッドキャストでは、自動化とそれが将来の雇用にとって何を意味するかについて興味深い会話をしました。彼の主張は、ロボットが基本的に私たちの仕事のすべてを引き継ぐだろうというものでした。

Nick Bostrom 1:12:32

ええ、ええ、つまり、機能的に定義されたすべての仕事について、そのようなことが起こるということです。つまり、オリンピック選手の仕事について考えてみると、ボールを使って誰よりも速く走ることができ、それによって報酬を得ることができます。たとえ、より速く走れる二足歩行の機械のようなものができたとしても、彼が仕事を失うことには直結しません。ある意味で、タスクは人間が特定のことをするという点で本質的に定義されているので、人間は特定のことを人間がすることに対して基本的な好みを持っているだけかもしれません。例えば、ある製品が機械ではなく手作業で作られていたり、先住民や優遇されたグループによって作られていたりすると、追加料金を払う人がいるのと同じです。しかし、そのようなタイプの仕事はさておき、他の仕事よりも。人間と同じレベルの人工知能ができれば、多くの仕事を自動化することができると思います。ロボット工学においても、AIの部分が重要なポイントになると思います。そうですね。操作できるだけの知能があれば、かなり不格好なロボットの体でも何とかなるでしょう。

Sean Carroll 1:14:20

そうですね、そうですね。ここでは、明らかにたくさんのことを話すことができました。しかし、最後の質問をさせてください。かなり自由回答です。あなたは、自分が何をしていたのか、どんな方向に進みたいのかを選ぶことができますが、あなたは人類の未来研究所の所長です。しかし、あなたは人類未来研究所の所長ですから、実際に人類の未来について何を予測しているのかを聞かなければなりません。私が言いたいのは、50年後はどうなっていると思いますか、ということですが、あなたが一番話しやすいタイムスケールを選んでもらいます。

Nick Bostrom 1:14:48

そうですね。私たちはしばしば、タイムスケールの質問を他の質問から分離しようとします。未来について考えていることのいくつかは、それがいつ起こるかについて特定の仮定をしなくても、探究することができます。例えば、ある技術的能力があって、それが物理的に可能であるように見え、最終的にそこに到達するための軌道があるとすることができます。どのくらい時間がかかるかはわかりません。しかし、もしそのような能力を手に入れたら、それによってできるようになることがたくさんある、と言えるかもしれません。そうですね。数十年といった中間的なタイムスケールで考えた場合、世界がどうなるかを予測するのは非常に難しいと思います。来年には起こらないと思います。今後100年以内に起こるとは思います。でも、20年後と言われると、それまでにAI革命が起きているかどうか、とても不安になります。つまり、世界がどのようになるかについて、私は認識論的な重ね合わせをしていることになりますが、だからといって意見がないわけではなく、シナリオが大きく2つのクラスに分かれているだけなのです。

Sean Carroll 1:16:24

まあ、それは妥当だと思いますよ。つまり、タイムスケールの話は置いておいて。つまり、何があるのか？未来に何が起こるかを考えるとき、人々に感謝してもらいたいと思う概念的な変化とは何でしょうか？

Nick Bostrom 1:16:37

そうですね。最も重要なのは、メタレベルのものかもしれません。つまり、未来について真剣に考えることが可能なテーマであり、私たちは良くも悪くも、伝統的に、未来とはより自由なものだと思っています。ファンタジーや空想の世界のようなもので、希望や恐れを表現したり、道徳的な話をしたりするための投影スクリーンのようなものですが、実際には正しく理解しようとしています。しかし、実際にはそれを正しく理解しようとはしていませんでした。しかし、ここ数十年の間に、一連のコンセプトが開発され始めました。このコンセプトによって、私たちはより深く、より鋭い方法で未来について考えることができるようになったと思います。すべてのピースが揃っているわけではありませんが、いくつかの重要なピースがあり、そのうちのいくつかを実際に取り上げました。私たちの会話の中で。シミュレーションの議論は、これらのピースの一つの手掛かりだと思います。何が起こるかを正確に教えてくれるわけではありません。つまり、もし受け入れられれば、破滅論もあります。それが正しいかどうかはわかりませんが、もしうまくいけば、確かにそれは重要な手掛かりになるでしょう。私たちは機械の知能について話しました。それが実現すると考えれば、それは枢要なポイントになるでしょう。そして、マナティーズの未来を、超知能以前と以後に大別することができます。超知能以前に起こることは、主に機械知能時代への移行に影響を与えるという点で重要かもしれません。確かに私はここで単純化しすぎていますが、もしこのようなことを漠然とでも受け入れれば、未来を考える作業は根本的に単純化されるでしょう。なぜなら、ほとんどすべてのことが、今考えるべき本当に重要で関連性のあることではなく、この意味で本当に重要となりうる、より小さな一連の発展、つまり「実存的リスク」の概念があるからです。これも私たちを助けてくれるものの1つだと思います。この概念は、人間の状態とその将来の構造的要素を見るためのレンズのようなものです。地球外生命体が存在するかどうかなどの疑問も、同様に関連してくるでしょう。これまでにいくつか取り上げてきました。他にもたくさんの概念やアイデア、議論がありますが、これらを総合すると、これらの制約をすべて満たすような一貫した未来や、これらの基準をすべて満たすような私たちが何をすべきかを示す戦略的な絵を一つでも思い浮かべるのは難しいことだと思います。難しいのは、何でも作れるスペースがあるわけではなく、その中から選択する方法を見つけることです。70年代、80年代のフューチャリズムと比べると、これは大きな変化だと思います。