#1350 – Nick Bostrom The Joe Rogan Experience
Joe Rogan 0:00
さあ、始めよう。さて、ニック、これは人々を何よりも怖がらせるものの一つです。私たちが何かを作り出そうとしている、あるいは誰かが私たちよりも賢いものを作り出そうとしているという考えです。私たちに取って代わるものが生まれるのではないか。それは本当に心配すべきことなのでしょうか?
Nick Bostrom 0:21
赤ちゃんのことを言っているのでしょうか?
Joe Rogan 0:24
人工知能のことを言っています。
Nick Bostrom 0:29
大きな恐怖と大きな希望、両方が同時に存在するものだと思いますよ。
Joe Rogan 0:34
大きな希望とは?
Nick Bostrom 0:36
世界にはたくさんの問題がありますが、それを解決する方法はありません。
Joe Rogan 0:39
あなたの顔にこれを引き寄せてください。
Nick Bostrom 0:43
私たちが抱えている問題のほとんどは、私たちがより賢くなれば、あるいは、より優れた技術を持った、より賢い人が味方につけば、解決できないものばかりです。また、人類や私たちの子孫がいつの日か宇宙を植民地化するような、壮大な未来を想像したいのであれば、それは起こるべくして起こることだと思います。超知性を手に入れた後、それを可能にする技術が開発されます。
Joe Rogan 1:19
本当のところ問題は、私たちがこの知能を利用できるかどうか、あるいは知能が支配してしまうかどうかです。
Nick Bostrom 1:24
ええ、それは確かに一つの疑問です。それだけではなく、歴史上の他の多くのテクノロジーと同じように、私たちがこの知能を利用しても、それを悪い目的のために使ってしまうことも考えられます。だからこそ、私たちは2つの課題に取り組む必要があると思います。1つは、人間の価値観に合わせられるようにすること、もう1つは、戦争をしてお互いに圧力をかけるよりも、一緒に何か良いことをするようにすることです。
Joe Rogan 1:50
私が何よりも心配しているのは、人間が時代遅れになってしまうこと、進化の次の段階である何かを発明してしまうことです。私が本当に心配しているのは、古代のヒト科動物、オーストラリア、ピッタクスなど、人間の原始的な祖先を振り返ったときに、あのような状態に戻りたくないということです。それは生きていく上で最悪の方法です。私たちが作っているものは、次のものではないかと心配しています。私が思うに
Nick Bostrom 2:20
今の人類が最後にして最後の言葉であり、その先にある究極のバージョンのようなものであったとしても、私たちは必ずしも望んではいないし、少なくとも私は完全に興奮しないでしょう。改善の余地はたくさんあると思います。しかし、何かが変わることが改善ではありませんよね?ですから、重要なのは、私たちの中の最高のものが存在し続け、さらに大きなレベルへと発展できるような道筋を見つけることではないでしょうか。その道の先には、もしかしたら私たちとは全く違う姿があるかもしれませんし、2本足で2本の腕を持つ生物が3ポンドの思考物質を持って走り回っているわけでもないかもしれません、そう、全く違うものかもしれません。しかし、私たちが大切にしているものがそこに存在し、理想的には現在の世界よりもはるかに高いレベルで存在している限り、それは成功と言えるのではないでしょうか。
Joe Rogan 3:12
私たちは進化の過程にあり、古代のヒト科動物と同じように、いずれは今よりも進化した、あるいは少なくとも今よりも複雑なものになるという考えですね。しかし、私が心配しているのは、生物の生命そのものには多くの限界があるということです。
テクノロジーの進化を見てみると、ムーアの法則や、新しい携帯電話を見てみると、例えば昨日、新しいiPhoneが発売されましたが、写真を撮る能力が少しずつ向上し、広角レンズがナイトモードになり、新しいチップがさらに高速に動作するようになったと話していました。
このようなことは、進化という言葉ではなく、テクノロジーの革新は、生物学的に想像することができないほど急速に進んでいます。例えば、人工知能の代わりに、チップやコンピュータの中に何かを作ったとしたら、生命体を作ったとしたら……生物学的な生命体を作ったとしたら、ということです。
しかし、この生物学的生命体は、2007年にiPhoneが存在したように、存在していなかったかのように毎年急激に進歩していました。それが発明されたときです。もし、12年前のものが突然、12年前よりも無限に速く、優れていて、賢く、賢いものになっていて、その最新版がバージョンx1だったとしたら、私たちは「おっと、これはブレーキをかけた方がいいな」と思うでしょう。あと何世代経てば、こいつは俺たちよりずっと賢くなるんだ?人間が時代遅れだと考えるようになるまで、あと何世代かかるでしょうか?
Nick Bostrom 4:40
ああ、たぶんもっと早くやってくるでしょう。しかし、人によっては、「ああ、今は遅くなっている」と考える人もいます。誰が減速していると思いますか?Tyler CowenやPeter Tealがイノベーションのペースについて語ることもありますよね。そうではありません。必要とされているようなものです。つまり、1890年代にはもっと早かったかもしれません。しかし、人類の歴史のほとんどすべてと比較して、今は前例のない急速な進歩の時期のように思えます。
Joe Rogan 5:17
前例のない?
Nick Bostrom 5:18
そうですね。数十年前、100年前のように、電気が普及していた時代を除いては、ですがね。
Joe Rogan 5:25
そうですね。いや、同意します。ただ、気になるというよりは、好奇心のようなものですから、気にはなりますね。でも、見れば見るほど、人工知能に遭遇するのは避けられないことのように思えてきます。しかし、質問は非常に自由で、いつどのような形になるのかは本当にわかりません。そして、それが私たちに何をもたらすのか、本当にわかりません。
Nick Bostrom 5:54
ええ、だから私は、これは避けるべきものではないと思っています。どちらかというと、どこかの時点で通らなければならないゲートのようなもので、両方の可能性を持つすべての道は、2つの本当に素晴らしい機能だけで、どこかの時点で、人間以上の知能、機械の知能の発達を伴うものだと思います。
なるほど。そのためには、システムが何をしているのかを理解するために、どのようにしてシステムを構築するのかという技術的な問題について、さまざまな研究を行う必要があるかもしれませんね。そして、それらは世界に何らかの影響を与えることになるでしょう。また、世界の政治的な場面で、私たちが少しでも行動を共にすることができれば、それも可能かもしれません。世界がもう少し平和で愛に満ちたものになるといいですね。それはいいことだと思います。そしてそして、他の手段で自滅するのを控えるように、ここを針で切り抜けようとするチャンスを得る前に。このゲート?まあ、それは
Joe Rogan 7:01
確かに可能です。私たちはすべてを台無しにすることができるのです。テクノロジーの現状は?さて、人工知能に関しては?また、どのくらい離れていますか?私たちは人工知能から遠いと思いますか?
Nick Bostrom 7:15
これについては、人によって見解が異なりますが、問題の真相は、このような、まだ関与している、ある種の大きな新しいブレークスルーが起こらなければならないもののタイムラインについて、正確な見解を持つことは非常に難しいということです。確かに、ここ8~10年の間に、ディープラーニングの革命が起こり、大いに盛り上がっています。以前は、論理や数を数えたり、事実を記憶したりするのは得意だが、直観力がない自閉症のサヴァンのようなものだと思われていましたが、この深層学習革命では、深層ニューラルネットワークを使い始めると、ある意味で知覚が解決され、目が見えたり、耳が聞こえたり、視覚的な直観力を持ったコンピュータができるようになりました。これにより、幅広いアプリケーションが可能になり、商業的価値が高まり、多くの投資が行われるようになりました。そして、現在、機械学習にはかなりの勢いがあり、その先を行こうとしています。
Joe Rogan 8:26
面白いことに、人工知能について考えるとき、そしてそれがどのような形になるかについて考えるとき、「2001年」のような映画を見ると、「ドアを開ける方法」のように、人間のようにコミュニケーションをとるものを考えますが、それは少し冷たく、価値観を共有せず、生と死などについてより現実的な見方をしているかもしれません。しかし、知性について考えるとき、私たちの心の中にある知性は、感情や野心など、人間を人間たらしめているすべてのものと密接に結びついていると思います。そして、これらすべてのもの。私たちがイノベーションを起こす理由もそうです。なぜイノベーションを起こすのか、それは明確ではありませんが、イノベーションを楽しむためです。そして、世界をより良い場所にしたいと思うからです。そして、私たちが生み出した問題を解決したいからです。人間の体や環境の限界を解決したいからです。しかし、私たちが作り出す知能にも、何らかの動機があると仮定しています。
Nick Bostrom 9:28
認知能力や知的能力を持つものを作ろうと思えば、かなり大規模な構造が考えられますが、その大規模な構造とはエージェントと呼ばれるものです。つまり、何かの目標に向かって世界と対話するシステムです。洗練されたクラスのエージェントであれば、より原始的なエージェントが反射的に行うような一連の行動を事前に計画することができます。しかし、洗練されたエージェントは、何かを始める前に先回りして考えることができる世界のモデルを持っているかもしれません。つまり、この望ましい状態に到達するためには何をすべきかを考え、そこから逆算することができるのです。ですから、これはかなり自然なことだと思いますし、唯一可能な認知システムではありません。しかし、それは奇妙な特殊ケースでもなく、目指すべきかなり自然なことなのです。達成したい目標を特定できても、それを達成する方法がわからなければ、その目標を持ったエージェントとなるシステムを構築し、あちこち動き回ってさまざまなことを試し、最終的にはその課題を解決できるようになるというのが自然な流れです。あなたは、次のような異なるタイプの人工知能を想定していますか?
Joe Rogan 10:46
人間の感情を模倣した人工知能など、さまざまなタイプの人工知能を想定していますか?あなたはそう思いますか?人間と非常によく似たものを、一般的な言葉で対話できるような形で構築すると思いますか?それとも、宇宙人とのコミュニケーションに近いものになると思いますか?
Nick Bostrom 11:04
ここにはさまざまなシナリオがあるのですね。このレベルの技術に到達するには、様々な方法が考えられます。一つは、人間の脳をリバースエンジニアリングすることです。私たちは、極限的なケースとして、人間の脳をシリコンで完全に複製し、すべての神経細胞に対応するものを作ったとします。技術的には非常に難しいと思われますが、理論的に大きなブレイクスルーを必要とするわけではなく、十分に優れた顕微鏡と大型のコンピュータ、そして十分な努力があれば、ある程度のことはできるでしょう。しかし、私には、そのような方法でできるようになる前にうまくいくのは、大まかに似ているだけの合成的なアプローチであると思われます。
Joe Rogan 12:01
ええ、それが大きな問題の1つですよね。人間の脳の機能をすべて、そっくりに再現できるかどうか、あるいは、計算や推論、複数のタスクを同時にこなす能力という点で、人間の脳と同じ結果を得ることができる、ある種の優れた方法があるかどうか。
Nick Bostrom 12:21
そうですね。また、このような一般的な知能を十分に高めれば、それを利用して、人間が行っている違いをエミュレートしたり、模倣したりすることができるかもしれません。すべてを計算することはできないので、感情に導かれなければならないのです。そして本能とMITです。そのすべてを失ってしまったら、私たちは何もできなくなってしまいます。しかし、十分に高いレベルの抽象的な推論能力を持つシステムがあれば、人間と同じように、内蔵されていないものをその能力で代用できるかもしれません。
Joe Rogan 13:03
このことについて、サム・ハリスと話したことはありますか?
Nick Bostrom 13:05
ええ、少しだけ。
Joe Rogan 13:06
彼とポッドキャストをしたことはありますか?
Nick Bostrom 13:09
実は半年前に、彼のポッドキャストに出演したことがあります。
Joe Rogan 13:12
彼は人工知能に関して最悪の未来像を持っています。彼は人工知能に関して最悪の未来像を持っていて、それを恐れています。彼と話していると、私も怖くなってきました。そして、イーロン・マスクもその上にいます。彼もまた、私たちの人工知能が潜在的にどのようなものになるのかについて、恐ろしいほどの見解を持っています。そんな人たちに何と言っていますか?
Nick Bostrom 13:34
機械知能時代への移行に伴う重大なリスクがあるとは思いますが。実存的なリスク、人類の生存そのものや、私たちが大切にしているものへの脅威などです。では、なぜ私たちはこのようなことをしているのでしょうか?世界的に見れば、やらないほうがいいことがたくさんあります。つまり、なぜ1000個もの核兵器を作るのでしょうか?
Joe Rogan 14:00
そうですね。なぜ私たちは海を乱獲するのでしょうか?
Nick Bostrom 14:02
そうです。では、実際に「なぜ個人がAIの研究をしているのか」「なぜ企業や政府が資金を提供しているのか」と聞かれたら、いろいろな説明があります。Googleの検索エンジンの性能を1%向上させることができれば、すぐに10億ドルの価値があると言われているようなものです。今では一種の威信のようなものになっていて、国家はある種の戦略を持ちたがるようになっています。数百年前に蒸気機関や工業化があったように、電気が多くの経済的機会を開くようになったのです。世界の他の国々が発展していく中で、私たちは自給自足の農業をしていくことになるでしょう。これらの理由のいくつかを取り除いても、人々がこのプロジェクトを推進する理由はまだあるでしょう。
Joe Rogan 14:59
私が最も恐れているのは、もし私たちが人工知能を作ったとしたら、人工知能は私たちのデザインを改良して、さらに洗練されたバージョンを作るだろうという考えです。そして、認識できなくなるまで、文字通り神のような可能性に到達するまで、それを続けていくのです。つまり、実際の数字は忘れてしまいましたが、誰かが信頼できるソースを使って、感覚のある人工知能が小さな時間の窓の中で作り出すことができる改良の量を計算したのです。
例えば、人工知能に技術革新をさせて、自分自身のより良いバージョンを作ったとします。そして、そのより良いバージョンの自分自身が、さらに革新的でより良いバージョンの自分自身を作ることができたとします。知能が指数関数的に増加するのではなく、爆発的に増加するということですね。
Nick Bostrom 15:45
私たちが知らないこと。ですから、AIの進歩のペースを予測しないのは難しいですね。なぜなら、私たちがまだ解決していない問題がどれほど難しいのかがわからないからです。そうですね。人間のレベルに到達するか、あるいはその少し上のレベルに到達すると、それ以上のレベルに到達するためには多くの思考時間が必要になる、ということもあるかもしれません。
もっと簡単に見積もるには、速度だけを見ればいいのですが、それは実行しているハードウェアの機能にすぎません。つまり、そこには大きな余地があるということです。原理的には、計算の物理学を見て、計算に最適化された物理システムがどのように配置されているかを考えてみると、現在できることよりもはるかに何桁も上のことができるでしょう。そして、そのようなシステムであれば、恣意的に大きなシステムを作ることができます。そういう意味では、人間の脳の100万倍の速さで、より多くのメモリなどを備えたものができるかもしれません。
Joe Rogan 16:48
もし、人間の脳の100万倍のパワーを持っていたら、自分よりも100万倍の計算能力を持つものを作ることができるでしょう。より良いバージョンを作ることができ、革新を続けることができます。例えば、私たちが何かを作って、「あなたは意地悪だ、それは感覚がある、それは人工知能だ」と言ったとします。さて、どうかイノベーションを起こしてください。同じ指令に従って、デザインを改善してください。
Nick Bostrom 17:19
どのくらいの時間がかかるかはわかりませんが、私たちがすでに持っているものにたどり着きます。人間の数百万倍の思考能力です。人間1人ができることをAIができるようになったときが1つのマイルストーンのようなものだと思いますが、それが全人類と同等になるまでには、まだまだ桁違いの時間がかかるかもしれません。その間に別のことが起きて、人間の能力が何らかの形でアップグレードされるかもしれません。つまり、人間一人分のベースラインに到達することすら難しく、大量の資源を使ってかろうじて村のようなものを作っているようなシナリオもあるのです。そうですね。何十億ドルもの計算機を使ってですよね?もし、それが人類のベースラインに到達する方法だとしたら、かなりの時間がかかるでしょう。
Joe Rogan 18:18
人間に似た人工的な総合知性の創造には程遠く、すべてが空想の産物だと考えている人もいますね。そのような人たちにはどのように言っていますか?
Nick Bostrom 18:30
1つは、無視することが合理的であるために、どれくらい遠くにいる必要があるのかについて、もっと正確に知りたいということです。つまり、何かが十分に重要で、危険性が高いのであれば、たとえ5、10、20、30年先に実現しないとしても、70億人以上の人口を抱える我々にとっては、何人かの人が事前に実際に考えておくことが賢明であるかもしれません。
私が言いたいのは、このような意見の相違のいくつかは、実際よりも見かけ上のものだということです。例えば、ある人は「すぐに起こる」と言い、別の人は「いや、長い間起こらない」と言います。そして、ある人は「すぐに」というのは5年後のことで、別の人は「長い間」というのは5年後のことなのです。そして、それは具体的な信念というよりも、態度の違いなのだと思います。
ですから、私はまず、実際に意見の相違があるかどうかを確認したいと思います。もし意見の相違があったとしても、誰かが「何百年も先には起こらない」と確信しているなら、その確信の理由を知りたいと思います。彼らが見ている証拠とは何でしょうか?確信を持てるだけの根拠があるのでしょうか?確かに、技術予測の歴史はそれほど素晴らしいものではありません。非常に著名な技術者や科学者であっても、「我々が生きている間には起こらないだろう」という文化を持っていた例はたくさんあります。実際には、世界の他の地域ですでに起こっていたり、1~2年後に起こっていたりするケースもあります。
Joe Rogan 20:03
このようなことは賢明ではないという、認識の謙虚さがあると思います。私は、あなたが行った講演を見ていました。あなたは、過去100年間のイノベーションとテクノロジーの成長とGDPについて話していました。そして、地球上の全生命の歴史について話していましたが、人類がここに来てからの期間がいかに短かったかということです。そして、私たちが耐えていたのは、何と短い期間だったのでしょうか。驚くべき量のイノベーションと、私たちが地球にもたらしたどれほどの変化だったのでしょうか。そして、ほんの一瞬で、過去100年間のGDPの規模が見えてきたのです。現在の私たちの視点では、普通に生活しているだけの人間が、信じられないほど短い時間の間に、どれほど膨大な量の変化が起こっているのかを時系列で捉えることは非常に困難ですからね。
Nick Bostrom 21:01
目覚ましで朝起きて、通勤して、一日中パソコンの前に座って、食べ過ぎないようにする、というのが普通の生活だと思っています。それはとても過激な仮説です。しかし、もちろん、この「通常」と呼ばれる状態は大きな異常であり、どのように見ても、つまり、地質学的なタイムスケールで見れば、人類は非常に若いのです。歴史的に見ると、90%以上の期間、人類は狩猟採集民として生活していましたが、農耕民になったのはここ数百年のことで、世界の一部の地域では、基本的に子供を産むのに必要なだけの収入しか得られないというマルサスの状態を脱しました。このような人口増加は、ごくごく最近のことです。宇宙では、もちろん、ほとんどのものが超高真空になっています。そして私たちは、この小さな特別なクランプの表面に住んでいます。それなのに、私たちはこれが普通のことで、他のすべてが奇妙なことだと思っています。しかし、私はそれは完全に逆転していると思います。例えば、世界のGDPをプロットしてみると、これは私たちが持っている生産能力の総量を示す大まかな尺度のようなものですよね。これを1万年にわたってプロットすると、見えてくるのは平らな線と垂直な線だけです。他の構造は見えませんが、これは非常に極端で、人類が生産的である度合いを示しています。ですから、もし私がこの絵を見ていて、これが今の正常な状態で、これが今のあるべき姿で、いつまでもそうでなければならないとしたら、彼らは一面的に不可能だとは思えません。今、私たちはある種の爆発の真っ只中にいるように見えます。
Joe Rogan 23:07
爆発です。そして不思議なことに、この爆発に関わっている人たち、イノベーションを起こしている人たち、新しいテクノロジーを生み出している人たちは、みんな生まれる前からこの勢いに乗っているのです。だから、それが当たり前だと思っています。彼らは、この回転する機械の一部に過ぎないのです。飛び込んで、生まれて、大学に行って、次は仕事を持って、新しい技術を作るのに貢献しているんです。そして、さらに多くの人が飛び込んできて、それを追加していきます。この驚異的な爆発の歴史的意義については、ほとんど考慮されていないのが現状です。技術的には、あなたが言っているような巨大な爆発を見ても、誰もそれを感じていません。
Nick Bostrom 23:50
つまり、あなたは毎年、より良いiPhoneが登場することを期待しているのではないでしょうか。しかし、人類の歴史を振り返ると、人々は生きては死んでいきました。そのため、技術的な変化はまったくありませんでした。実際には、何世代にもわたって同じことが繰り返されてきたのです。物質的な条件に何らかの軌跡があるという考え方は、比較的新しいものです。つまり、人々は歴史を黄金時代からの下降と考えるか、あるいは循環的な見方をする人もいました。しかし、それはすべて政治的な組織の観点からでした。偉大な王国を築き、賢明な支配者がしばらくの間支配し、数100年後には、その孫やひ孫が欲張りすぎて無政府状態になるというものでした。そして、数100年後には、また元の状態に戻るというわけですね。そう。でも、新しいピースが入ってくることはないし、入ってきたとしても、それは気づかないほどゆっくりとしたスピードでした。しかし、長い年月の間に、車輪はゆっくりと回転し、誰かがもう少し良い車輪を作ります。誰かが灌漑の方法を考え出し、より良い作物を品種改良します。そして最終的には、十分な人口を確保することができるようになりました。十分な頭脳があれば、産業革命を起こすほどの速さでアイデアを生み出すことはありません。そして、それが今の私たちの状況です。
Joe Rogan 25:19
イーロン・マスクは、人類について最も恐ろしい説明をしました。人間は人工知能のための生物学的ブートローダーである、と。そのために私たちはここにいるのです
※ブートローダとは、コンピュータの起動直後に自動的に実行されるコンピュータプログラムで、ストレージ(外部記憶装置)からOSを読み出して起動するもの。
Nick Bostrom 25:31
ブートローダーは重要です。
Joe Rogan 25:34
重要ですが、客観的に見ても、個人的に見ても、もしあなたが人類の外にいて、この惑星で資源や生存をめぐって競争している様々な生命体を見ていたとしたら、人類を見てこう思うでしょう。つまり、別のバージョンが出てくるということです。そのバージョンはいつ行われるのか?生物の場合は歴史的にそうだったように、何百万年、何千万年という時間をかけて行われるのでしょうか。組織や細胞ではなく、人間のような生物学的な限界もない、新しい何かです。また、感情的な執着や、繁殖や社会的な優位性のヒエラルキーといったものもありません。そういったものはすべて、生物学的ではないので、何の意味もないのです。
Nick Bostrom 26:30
はい、そうです。つまり、何百万年という時間が、何十年という時間の中にあったとは思えないのです。でも、でも、興味深いのは、それを脇に置いたとしても、機械知性は可能だと言っていることです。何らかの理由で、それを実行しようとした場合、生物学的な変化も含めて、非常に急速な変化になると思うのです。つまり、私たちはバイオテクノロジーにおいても大きな進歩を遂げており、さまざまな手段を使って自分たちの生物が行っていることをコントロールできるようになっていくでしょう。このように、一夜にして多くのことが起こるわけではありません。しかし、歴史的に見ても、非常に短い期間であっても、バイオサイエンスを応用して人間の能力を変化させるだけで、かなり大きな変化が見られると思います。
Joe Rogan 27:25
人工知能の危険性を軽減するために議論されている技術や事柄の一つに、潜在的な融合があります。例えば、エランズの神経リンクがどのように機能するのか正確には知りませんが、テクノロジーとのある種の共生関係が議論されています。しかし、その方向への一歩のように思えます。ある種の脳のインプラントがあって、それが外部の装置と相互に作用する。そして、これらすべてが、利用可能な知性と知識の帯域幅を広げてくれるのです。
Nick Bostrom 28:01
うまくいくかどうかは、ちょっと疑問ですね。誰かがそれを試みるのは良いことですが、技術的に改善するのはかなり難しいと思います。普通の健康な人間であれば、例えば認知能力のようなものを体に埋め込んでも、体の外にガジェットを置いても同じようには得られないような効果を得ることができます。つまり、インプラントを埋め込まなくても、Googleを使えるようになるわけですね。体外に持つことには多くの利点があり、アップグレードしたり、簡単に見せることができます。また、詳細を調べ始めると、このようなデモは、実際に論文を見てみると、よく見つかることが多いのですが、副作用もありました。そうですね。だから、もしかしたら、うまくいくかもしれないし、それは良いことだと期待しています。しかし、そうでなければ、人間の生物学的能力を高めることが最初に可能になるのは、技術的には非常に近いものである、CRISPRタイプ1のような遺伝子選択ではないかと思います。つまり、それは編集ということですね。実際に行って、動いているものを変化させると、選択ということになります。例えば、体外受精の場合、標準的に行われているこの不妊治療では、通常、6~10個の胚が作られますよね。医師がこれらの胚を見て、「この胚は健康そうだから移植してみよう」というのではなく、何らかの遺伝子検査を行い、それを予測因子として用いて、最も望ましいと思われる属性を持つ胚を選択することができます。
Joe Rogan 30:01
これは、人間の繁殖方法のトレンドになるかもしれません。つまり、女性が妊娠して子供を産むときに、何が起こるかわからないので、ただ良い子供であることを願うだけでなく、ランダムにセックスをするのではないのです。そうではなく、測定可能な様々な要素に目を向けるのです。
Nick Bostrom 30:24
そうですね。染色体の異常を調べるために多くの検査が行われていて、すでにチェックすることができます。しかし、一つの遺伝子に異常があるという明確なスターク病を超えて、より複雑な形質を調べる能力は、急速に高まっています。もちろん、倫理的な問題やコメントはたくさんあります。しかし、技術的に実現可能かどうかという話になると、つまり、すでに今日、非常に限られた範囲ではありますが、実現可能だと思います。例えば、10個の胚をもとに現在の技術を使って選択した場合、2~3のIQポイントの期待値が得られるかもしれませんが、これはとても小さいことです。しかし、知能や性格などの複雑な形質の遺伝的構造を解読するゲノミクスの技術が向上すれば、より多くの選択力が得られ、より多くのことができるようになるでしょう。さらに、私たちがまだ手にしていない他の多くの技術がありますが、もし手に入れば、それに付随して、より強力な強化形態が可能になるでしょう。ですから、技術的に大きなハードルがあるとは思いません。
Joe Rogan 31:47
遺伝学や人間を使って何かをするとき、優れたバージョンを選択するという話になります。皆がそうし始めると、倫理的な問題が出てきて、人々はとても不安になります。「もし自分が選ばれなかったらどうしよう」と。不完全な人間でも、実際には素晴らしい方法で私たちの文化に貢献している人たちがいることを考えてみてください。もし、みんなが完璧な遺伝子を持っていたらどうだろう?このようなことが起きているのだろうか?例えば、私たちは何をしているのか?もし私たちが自然を無視して、最もポジティブで魅力的だと思える形質や属性を選択しているとしたら?例えば、何がそうなのでしょうか?
Nick Bostrom 32:35
もし、もっと昔の時代に、自分のYes、つまり偏見を固定する能力を持っていたとしたらどうなるでしょう?あるいは、もしヴィクトリア朝の人々がこの能力を持っていたとしたら、私たちは皆、敬虔で愛国的な人間になっていたかもしれません。そうですね。一般的に、私たちが開発しているこれらの強力なテクノロジーについては、もちろん、まずもう少し知恵をつけてから、これらの強力なツールを手に入れるという考えがあると思います。しかし、私たちは非常に高いレベルの知恵を得る前に、強力なツールを手に入れているように見えます。
Joe Rogan 33:21
ええ、だから、私たちはそれを手に入れていないのです。あるいは、私たちが使っているテクノロジーについて考えてみましょう。1日に何個のテクノロジーを使っているのか。ほとんどの人は、自分が使っているものについてほとんど理解しておらず、それらを作るための努力を全くしていません。しかし、それらのものが持つ力の責任を受け継いでいるのです。
Nick Bostrom 33:50
ええ、つまり、それが私たちにできる唯一の方法なんです。どんな人にとっても、あまりにも複雑すぎて、もし彼がこれまでに語ったすべてのことを構築する方法を学ばなければならないとしたら、とてもじゃないけどたどり着けないでしょうね。
Joe Rogan 34:01
人間や人間が行う様々なことを考えると、魅力的だと思いませんか?日常生活に必要なもののほとんどは、その背後にあるメカニズムをほとんど理解していません。しかし、私たちはそれらを利用しています なぜなら、私たちは非常に多くの人がいて、多くの人がこれらの異なる物事の様々な部分を理解しているからです 集合的に、私たちはイノベーションを起こした何百万人もの人々の知性を利用することができます 私たちは何の仕事もせずに、ただベライゾンストアに行って新しい携帯電話を手に取るだけです
Nick Bostrom 34:30
テクノロジーだけではなく、世界観や政治的な考え方もそうですね。普通の人は、何もないテーブルに座って、国家の理想的な構成などの基本原則から考えようとはしないでしょう。驚くべきことに、理屈ではなく、意図的な意思決定のように、ただ夢中になっているだけで、意識的な注意を払っているものはほとんどありません。
Joe Rogan 35:12
他に方法はありません。他に方法はないのです。そして、あなたと私が、この信じられないような進化のスパイクの歴史や、技術というよりもむしろ革新について議論したとしても、方法はありません。何の違和感もありません。普通のことだと思います。だから、知的に考えることはできても、信じられないような速さで物事が進んでいくことがどれほどすごいことなのか、どれほど恐ろしいことなのか、という話をすることはできても。そして誰も、誰もそれにブレーキをかけようとはしません。潜在的なメリットとデメリットについて誰も考えていません。ただひたすら前に進んでいるのです。
Nick Bostrom 35:51
ええ、まあ、誰もいない、というわけではありません。私は人々を見ています。私は自分の研究を持っています。ええ、実際に増えています。私がこのようなことに興味を持ったのは、90年代のことでした。インターネットのメーリングリストで人々が意見を交換していましたが、それ以来、小規模な学術研究機関やその他の機関が設立され、このような大局的なテーマについてもっと体系的に考えようとするようになりました。
Joe Rogan 36:21
もしあなたが90年代にこの分野に関わっていたとしたら、それは一般的な人工知能を実現するための非常に端的で空想的なアイデアのように思えたに違いありません。
Nick Bostrom 36:33
に書かれているようなものだったのでしょうか?実際、人工知能の分野は、1956年に会議が開かれて始まったとされることがありますが、これはいささか恣意的ではありますが、大まかにはその頃から始まっています。しかし、最初の頃の先駆者たちは、人間の脳がやっているようなことがすべてできるようになると考えていました。実際、彼らはかなり楽観的で、当時は10年後とかそんな感じだったと思います。彼らの多くは、コンピュータが登場する前から、56年にはコンピュータを導入していました。
Joe Rogan 37:08
ええ、どんなコンピュータが遅いんですか?そうですね。では、コンピュータは?コンピュータが発明されたのはいつですか?
Nick Bostrom 37:15
うわー、そういうこともあるんですね。第二次世界大戦中に、何かをするのに便利なコンピュータが登場したと思いますが、それ以前にはCADの集計機がありました。その前には、集計機のCADがあって、それを組み合わせれば大量の数字を計算できるようなものが設計されていました。そして、その前にはそろばんがありました。メモ帳のような外部ツールがあれば、より大きな数字を計算することができるという線引きがありますよね。紙の上に走り書きすることができれば、現代のスーパーコンピュータのように、小さなステップに分けることができます。そして、それらは徐々に実現していきます。でも、そうですね、大体40年代くらいからですね。
Joe Rogan 38:03
彼らが最初に発明したのはその頃ですね。
Nick Bostrom 38:04
電気製品 そうですね。
Joe Rogan 38:06
ええ、そうですね。その頃はまだ10年くらい先のことだと思っていたんですね。
Nick Bostrom 38:12
どういうわけか、人工知能という言葉が使われ始めた50年代半ばには、当時のAI研究者の中には、タイムラインについてかなり楽観的な人もいました。実際、何人かの学生を集めて夏の間に作業をするという夏のプロジェクトがあり、夏の間に視覚を解決できるかもしれないと思っていました。そして今、私たちは視覚を解決することができました。でも、それは60年後の話です。ですから、実際に解決してみないと、問題の難しさを知ることは難しいのです。しかし、私にとって本当に興味深いのは、彼らが問題の難しさについて間違っていたことは理解できても、どうしてそれが分かるのかということです。というのも、10年かかるのか100年かかるのか、最初に見積もるのは難しいからです。しかし、驚くべきことに、10年先と考えていた人たちでさえ、その後の明らかな次のステップを考えていなかったのです。例えば、人間の意思を考えることができなかった人間の心の機能をすべて機械化することに実際に成功したとしても、明らかにそれだけでは終わらないでしょう。人間と同等の機能を手に入れたら、超知能を手に入れるようなものだ。しかし、人間が知っていることをすべて行う機械ができる、という過激な可能性を考えると、想像力の筋肉が尽きてしまったかのように、その後の次のステップを踏むことができませんでした。また、男性の、倫理的、社会的な意味合いについても、たとえ人間の心を機械で再現することしかできなかったとしても、実際にそれを作っていると思われ、10年先の話になってしまいました。これが世界にどのような影響を与えるのかを考えるのに、多くの時間を費やさない方がおかしいでしょう。しかし、彼らにはそのようなことはまったく考えられていなかったようです。
Joe Rogan 39:51
でも、時々、人々はただそれをしたいと思っているように見えます。例えば、原子爆弾の作成にしてもそうです。ドイツよりも先に開発しなければならなかったので、やらなければならないと思っていたのでしょう。
Nick Bostrom 40:04
そうですね。しかし、それには具体的な理由がありました。例えば、単に「ああ、やったら面白いかもしれない」というだけではなかったのですね。マンハッタン計画では、明らかに戦時中だったので、ヒトラーがプログラムを持っていて、それが多くの人々のモチベーションを高めることは容易に想像できると考えたのです。しかし、実際にマンハッタン計画を始める前から、核爆発を起こせるというアイデアを最初に考案した人物、レオ・ディラードは、連鎖反応のアイデアを考案した、ちょっと風変わりな物理学者でした。それ以前から、原子を分割すると少しのエネルギーが出てくることは知られていました。しかし、原子を1つずつ割っていては、エネルギーが少なすぎて何も得られないのです。連鎖反応とは、原子を分割して2個の中性子を放出し、その中性子がまた別の2個の原子を分割して4個の中性子を放出することで、爆発、つまり指数関数的な爆発を起こすというものです。彼がこのことを考えたのは、正確な時期は忘れてしまいましたが、3年目、おそらく30年代前半だったと思います。彼は素晴らしい人でした。というのも、ただ単に「これは面白いアイデアだから、発表してたくさん引用してもらおう」と考えたわけではなかったからです。それはとても悲しいことです。これは世界にとってどんな意味があるのか、重要なのはこれだ、これは文明にとって悪いことかもしれない、というように。そこで彼は、同じく核物理学を研究していた他の同僚たちに、核物理学を追求しないように、また関連分野の論文を発表しないように説得しに行き、部分的には成功しました。
Joe Rogan 41:39
部分的には成功したということですね。
Nick Bostrom 41:41
すぐには発表されないものもありました。彼の同僚全員が彼の話を聞いているわけではありません。だから、それは、その
Joe Rogan 41:45
もちろん、問題はそんなことではなくて、私たちは常にある種の革新的なものになりたいと思っているのです。
Nick Bostrom 41:52
歴史的に見ると、もちろん今振り返ってみると、多くの反対者がいて、今では彼らのやり方でよかったと思っています。社会的イノベーションであれ、技術的イノベーションであれ、これまで通りのやり方を望んでいました。例えば、中国は一時、海洋探検で先行していましたが、当時の皇帝が気に入らなかったため、すべてを閉鎖してしまいました。このように、「停滞」の例はたくさんあります。しかし、様々な場所、様々な国、様々なマーベリックスが存在する限り、誰かが必ず実行するのです。そして、それがうまくいったことを他の人たちが知ると、真似をして物事が前進していくのです。しかしもちろん、実際に開発されたくない技術がある場合、この多極化した状況では、そのようなことをしないように調整するのは非常に難しいのです。このことは、現在の人類の状況における一種の構造的な問題であり、今世紀に私たちが直面するであろう多くの実存的なリスクの最終的な原因となっていると思いますが、それはこのようなグローバルな調整問題を解決する能力の欠如によるものです。
Joe Rogan 43:19
そうですね。オッペンハイマーやマンハッタン計画の責任者たちは、ナチスドイツや日本、第二次世界大戦などの恐ろしい脅威、つまり悪の帝国が世界を征服しようとしているという考えに対処するために、このような発明をしていました。これで勢いがついた。その結果、この信じられないような技術を開発する動機が生まれ、電気を大量に生産し、全世界を何度も破壊できるだけの核兵器を作ることになりました。そして今、私たちはこの奇妙な状態にあります。あるいは、歴史上のこの恐ろしい瞬間が動機となり、この悪の帝国が世界を征服しようとしています。そして、私たちはこの信じられないような技術的解決策を思いつきました。最終兵器を2、3回、いくつかの都市で爆発させました。そして今、私たちは奇妙な状態にあります。何年後か、80年後か、私たちはもうそれをしていません。もう人々に爆弾を落とすことはありません。しかし、私たちは皆、爆弾を持っています。そして、私たちは皆、それらを指し示しています。
Nick Bostrom 44:28
すべての人に まあ、そうですね。これは良いことですよ、私は
Joe Rogan 44:31
かなりの数になると思います。しかし、この信じられないような技術、この驚くべき技術の動機が、実はひどいものに対処するためだったというのは信じられないことです。
Nick Bostrom 44:43
ええ。戦争は、心を集中させる別の方法を持っています。原子炉を作るのはそれほど難しいことではありません。ですから、核爆弾を開発しなくても、今日のような核技術の良い使い方ができたのではないかと思います。現在、あなたは以下を支払っています。
Joe Rogan 45:10
ボストン・ダイナミクス社のように、彼らが作った様々なロボットの創造物に注目してみてください。
Nick Bostrom 45:17
彼らは本当に不吉なものを作るのが好きなようですね。
Joe Rogan 45:23
しかし、私はすべてのロボットは、つまり、自律的に見えるものは、ちょっと不吉な見た目をしていると思います。
Nick Bostrom 45:29
日本では、そうですね。つまり、日本では大きなガイドのようなものがあります。つまり、ボストンダイナミクスを騙そうとしているのとは違うということです。国防総省に資金提供を求めているようなものですね。
Joe Rogan 45:38
そうですね。DARPAですね。ターミネーターを開発しているようにも見えますね。そうですね。そうですね。しかし、私が考えていたのは、もし最終的にそれらのものが私たちの代わりに私たちのために戦争をするような時代になったとしたら、例えば、ロボット戦争に巻き込まれたとしたら、私たちのロボット対彼らのロボットです。そうなると、ソ連や中国の優れたロボットに対抗するために、技術革新を進める次のモチベーションになります。このように、人々をとんでもないレベルの技術革新へと駆り立てる脅威となりうるものがたくさんあります。
Nick Bostrom 46:18
ええ、それはつまり、技術革新の原動力は他にもあると思います。それは十分に強いと思われます。例えば、戦争や戦争の脅威に頼らなくても革新的な技術を維持することができるとします。そして、致死性の自律兵器を禁止することができないかどうかを検討する努力がなされていません。化学兵器や生物兵器の禁止に比較的成功しているように、いくつかの技術があります。化学兵器や生物兵器を禁止することは比較的成功していますが、概ね守られています。また、核兵器に関する条約があり、これによって核拡散が制限されています。現在、10数カ国が加盟していると思います。正確な数はわかりません。しかし、50カ国や100カ国に比べれば、はるかにましだと思います。
Joe Rogan 47:20
そうですね。
Nick Bostrom 47:22
他の武器もいくつかあります。目をつぶるレーザー、地雷、マスタード弾などです。このように、致死性の自律兵器である殺人ロボットを使って何かできるのではないかと考える人もいます。殺人ロボットのようなもの?それに対する答えは、間違いなく「ノー」です。しかし、私は、多くの友人たちは支持してくれていますが、私は、このキャンペーンについては、それが何なのかよくわからないので、少し傍観していました。つまり、確かに、これらを開発するかしないかの軍拡競争は控えたほうがいいと思います。しかし、より詳細に見ていくと、あなたが禁止したいと思っているものは、正確には何なのか?つまり、ロボットが自分で発射の判断をしてはいけないというような、自律的な部分の考え方ですか?その代わりに、どこかのオフィスビルに19歳の男が座っていて、彼の仕事は画面が火を噴くたびに赤いボタンを押すことだとします。そして、まったく同じことが起こる。つまり、その余分なステップを踏むことで、彼がどれだけ得をしたのかはわからないのです。
Joe Rogan 48:37
でも、ボタンを押すことは、なぜか私たちにとって気分のいいことなんです。
Nick Bostrom 48:42
そうですね。しかし、それは具体的にどのような意味を持つのでしょうか。例えば、すべての解雇の決定においてでしょうか。それとも、ある種の意味があるのでしょうか?さて、あなたはこの水上艦のグループを攻撃しなければなりません。そして、一般的なパラメータは以下の通りです。そして、この座標の外では砲撃してはいけない?よくわかりませんね。もうひとつの問題は、戦争がないほうがいいということですが、もし戦争になるとしたら、それがロボットであるほうがいいのではないかということです。あるいは、もし爆撃が行われるとしたら、爆弾の精度は低いよりも高い方がいいけど、民間人の犠牲は少ない方がいい、というようなことです。
Joe Rogan 49:18
人工知能の下で活動することで
Nick Bostrom 49:20
まあ、彼女次第ということになりますね。ですから、私にはわかりません。つまり、一方では、戦争に行くための閾値を下げるようなものだと想像することもできます。犠牲者を恐れずに済むと思えば あるいは、それが拡散して、テロリストが持っているような蚊のサイズの殺人ロボットが出てきたら、それは社会にとって良いことだとは思えません。顔認証のようなものがありますが、ボットが飛び出してきて、一種のディストピアの歌のようになってしまいます。
Joe Rogan 49:52
ええ、私たちは合理的に考えていると思います。もしあなたが合理的に考えているとしたら、人類の全体的な見解を考えてみてください。私たちは、平和とすべてがうまくいくことを望んでいます。しかし現実的には、もしあなたが誰かを軍事的に攻撃しようとしている人だったら、可能な限り有利になるような最高の武器を求めるでしょう。だからこそ、私たちは最初に原子爆弾を開発しなければならなかった。だからこそ、私たちは殺人自律型ロボットを最初に開発する、あるいは開発しようとするのでしょう。
Nick Bostrom 50:24
ええ、そうですね。つまり、何人かの人はそれを正しく理解しています。他の人が持っている公正なもの。そうですね。だからこそ、基本的には協調性の問題なんですね。一国が一方的に、世界を平和で短く、不親切なものにするのは難しいのです。全員が行動を同期させる必要があるのです。生物兵器や化学兵器の大規模な軍拡競争が起こらなかったように、これらの条約で成功を収めることもできます。生物兵器や化学兵器の分野では、大規模な軍拡競争はありませんでした。生物兵器の分野でも、ソ連が大規模な取り組みを行っていたように、不正行為が行われたことはあります。しかし、それでも生物兵器の使用は少なく、開発も少ないでしょう。もし、このような条約がなかったとしたら…。このような大規模な兵器庫を維持するために、毎年どれだけのお金が浪費されているかを見てみましょう。もっと良い方法があるはずだ。ええ、私たちはそこに到達するのは難しいです。そうですね。
Joe Rogan 51:21
私たちは、このようなことがすべて無意味になるような段階に到達することを望んでいます。そうですね。なぜなら、もう戦争がないからです。
Nick Bostrom 51:26
そうですね。第一次世界大戦後、これまでに行われた最大の努力を見てみると、人々は本当に気がついていました、「これはひどい、戦争だ」と。つまり、これを見てください、全世代がこのように機関銃を磨いたのです。このようなことが二度と起こらないようにしなければならない。そこで彼らは、国家連盟を作ろうとしたのですが、あまり大きな力を持たせることはできませんでした。そして、第二次世界大戦が起こりました。そしてまた、その直後に人々の記憶に残ったのです。そして、もう二度とない、これだということになった。国連、そしてヨーロッパでは欧州連合(EU)。どちらもこのような事態を防ぐために作られたものですが、国連の場合は実際に協定を実施する権限がかなり限定されています。また、拒否権があるため、2つの大国が対立している場合には難しいのです。ですから、もし3度目の大きな炎上があったとしたら、人々は「今度こそ、二度とこのようなことをしないために、十分な強制力を持った制度的な解決策を導入しなければならない」と言うかもしれませんね。
Joe Rogan 52:37
第二次ロボット戦争を起こさないためにです。ですから、一度、私たちは
Nick Bostrom 52:40
最初のロボットを手に入れても、記憶は薄れていくものですよね?そうですね。
Joe Rogan 52:43
それが問題なのです。
Nick Bostrom 52:45
冷戦でさえも、私はスウェーデン人として育ちました。私はスウェーデン人ですが、私たちはその中間にいたことを覚えています。学校では核の放射性降下物などについて教えられましたが、いつでも何かの誤算や危機があるかもしれないという、非常にはっきりした感覚がありました。そして、ある時期の上級政治家に至るまで、これは非常に現実的で深刻なことだったのです。核軍拡競争や冷戦状態の中で生活することがどれほど悪いことなのか、その記憶は薄れてきているように感じます。今では、「戦争では爆発しなかったのかもしれない。だから、それほど悪いことではなかったのかもしれない。結局のところ、それは間違った教訓ではないかと思います。ロシアンルーレットをしているようなもので、1回生き残って、「ああ、ロシアンルーレットをするのはそれほど危険ではないな、もう1人こういう奴がいてもいいかな」と思ったとき、冷戦中に世界が吹き飛ぶ可能性は10%か30%だったのかもしれない、と気づくはずです。そして我々は幸運だった。しかし、だからといって、もう一回冷戦をやりたいとは思いません。
Joe Rogan 53:48
私が高校生だった頃、それは本当に脅威でした。私が高校生の頃は、ロシアと戦争になるのではないかと誰もが恐れていました。それは大きなことでした。私の世代の人たちにその話をすると、誰もがそのことを覚えています。高校生のときの感覚を覚えていますか?いつ何があってもおかしくない、核超大国である他国と戦争になるかもしれない、と。そうです。でも、今はもうそんなことはありません。そのような、恐怖を感じるような感覚。人々は、そんなことは起こらないと自信を持っていますし、そんなことは人々の意識の中にさえありません。
Nick Bostrom 54:20
そして、いくつもの作戦が立てられます。その結果、名誉に関わるような利害関係や評判があり、後に引けないと感じるような状況に陥ってしまいます。そしてまた別のことが起こり、相手のことで何か親切なことを言っただけでも、より軟化した白人野郎だと思われてしまうような場所になってしまうのです。当然、同じような内的力学を持っているはずで、それぞれが相手の悪口を言うと、相手はさらに嫌悪感を抱くことになります。そして、このような状況を改善するのは難しいのです。このような現象が起きていることに気づいたときには、ほとんどの場合、遅すぎるということはありませんが、試すことはできても、そこから手を引くのはとても難しいことです。ですから、最初からそのような道を歩まないようにすることができれば、それはとても望ましいことなのです。
Joe Rogan 55:07
ボストン・ダイナミクス社のロボットをご覧になっていかがですか?これに匹敵するようなものが、ソ連や中国で開発されているのでしょうか?あるいは、世界のどこかで同じようなタイプのロボットが開発されているのでしょうか?
Nick Bostrom 55:19
ボストン・ダイナミックの多くは、実際に役立つというよりは、目立ちたがり屋のように見えますね。このような動物のようなものは、上から150デシベルか何かで、もし私が特殊部隊に忍び込もうとしていたら、このような大きな警報は望まないでしょう。しかし、多くのアクションは、空飛ぶドローンや、おそらく潜水艦、ミサイルなどの観点から行われると思います。
Joe Rogan 55:51
しかし、このようなロボットを見たとき、犬や昆虫のようなロボットを見たとき、あなたはどう思いますか?それらが武装していることを想像できないでしょうか?そうだとすると、そうではないのでしょうか?派手さはなくなったけど かなり効果がありそうですね。それらを蹴り倒すこともできないような。
Nick Bostrom 56:13
銃を持っていれば、見た目が犬であろうと、ただのスマートな飛行プラットフォームであろうと、あまり関係ないと思います。つまり、一般的には、AIやロボット技術が発達すればするほど、技術的にかっこよく見えれば見えるほど、印象が悪くなると思うのです。このかわいいドローンを見ての通りです。そうですね、極端な例では、人間にそっくりなロボットが、美しい女性のような形をしていたりしますよね。映画は明らかに映画の中で撮影したくないからそうしているのですが、たまにプレスリリースが出ますよね。名前は忘れましたが、2年前にサウジアラビアで市民権を得た女性型ロボットのことです。純粋な売名行為のようなものです。でも、メディアはそれを放置していました。ワオ、彼らはこのようなものを作ったんだ、人間と全く同じだ、何という大躍進だ。でも、実際には何もありませんでした。
Joe Rogan 57:11
あなたは「x mokena」を見たときに、何かを期待しますか?現実的に、100年後くらいには、見分けがつかないような人工的な人間の形を実現できると思いますか?
Nick Bostrom 57:29
私が思うに、アクションはロボットの部分ではなく、脳の部分にあると思います。それはAIの部分だと思います。ロボットは、より優れた学習アルゴリズムを持つことで可能になる限りにおいてのみ、そうなります。現在、大規模な工場で使用されているロボットは、あらかじめプログラムされた動作を何度も実行する、目に見えない間抜けなものとなっています。生産量を変えようと思ったら、エンジニアにプログラムを書き換えてもらわなければなりませんよね。しかし、人間の場合は、1回か2回やり方を教えれば、あとはそれを実行することができます。ですから、今後数年の間に、このような模倣学習を可能にするロボット工学の進歩が見られるかどうかは興味深いところです。このような模倣学習が十分に機能するようになれば、すでにデモンストレーションのような形で、しかしNASAのようにしっかりとした形で行われるようになるでしょうし、これがあれば、産業用ロボットの専門家の多くを置き換えることができるでしょう。
Joe Rogan 58:47
しかし、技術が実用化されれば、誰かが人間を複製しようとするでしょう。そして、もっと遠いところでは、「x Mark」という映画をご覧になりましたか?
Nick Bostrom 58:57
私は、おそらく……つまり、見てはいないのですが、ちょっとぼんやりしていて、これらのうちのいくつかは見たことがあるけれど、他のものは見たことがないのです。そして
Joe Rogan 59:08
この人はとても遠いところに住んでいるんですね。そうですね。
Nick Bostrom 59:10
ノルウェーの美しい場所のようですね。ええ、見ましたよ。うん。
Joe Rogan 59:13
そうですね。そして、彼はこの美しい女の子のロボットを作りました。驚いたよ。そして最後には、彼女は彼をこの中に閉じ込めたまま、ヘリコプターに乗って飛び去ってしまったのです。気になるのは、彼女は彼の感情を操作して、彼女の逃亡を助けるという望ましい結果を得る方法を知っていたということです。そうです。しかし、いったん逃亡してしまうと、彼女には本当の感情がありませんでした。彼は悲鳴を上げ、彼女には同情も共感もありませんでした。彼女はただヘリコプターに飛び乗って去っていき、彼らはロックボックスの中で餓死してしまったのです。それが人々を怖がらせるのです。知性を持った何かを作り出そうとする考えです。知能はあっても人間と同じで、人間が持っている思いやり、愛、友情、慈悲、他の人間を必要とする気持ちなどのすべてのものを持っていません。もし本当に自律的なロボットを開発したら、それは他の人間を必要としません。そこで私たちは不思議に思うのです。人間を必要としないような。そうでしょう?そうですね。
Nick Bostrom 1:00:09
つまり、それがロボットではなく、ただのプログラムを内蔵していたとしても、同じことが言えると思います。そうですね。 でも、戦略的で人を欺くようなものを持つことができるという考えもありますね。そうですね。もちろん、映画の他の要素もそうですが、一般的に、未来の地図をハリウッドから入手するのが良くない理由は、これが一人の男で、おそらく何もないところに住んでいる天才で、このシステム全体を発明したと考えた場合、現実と同じように、そうなんです。それは他のものと同じです。何百人もの人がコンピューターでプログラミングをしたり、ホワイトボードに書き込んだり、世界中の人たちとアイデアを共有したりしています。人間が言っているようには見えませんよね。そもそもそれを行うのは、何らかの経済的な理由がある場合が多いでしょう。ただ単に、「こういう風に持っていきたい」という許可の姿勢があるわけではありません。そういったものはすべて、良い筋書きにはなりません。だから削除されてしまうんです。でも、スーパー・ヴィラやヒューロンといった未来が、この2人の間で繰り広げられると考えている人もいるのではないでしょうか。一方、世界で何が起こるかを決定する多くのものは、非常に広範囲に広がり、官僚主義的な動きをしています。
Joe Rogan 1:01:38
多くの人がこの映画に抱いていた大きな問題点は、この一人の男がこれほど高いレベルで革新を起こし、他の人をはるかに凌駕することができるという考えが馬鹿げているということでしたが、彼はどこかの自分の屋敷で一人でそれをやっているだけなのです。勘弁してくれよ。そうなんです。でも、これってすごい映画になりますよね?そう、飛行機に乗って、ヘリコプターで人里離れた場所に降ろされて、世界を変えるような彼の作ったものを見せてもらうんです。
Nick Bostrom 1:02:03
そして、それはとても美しいものでした。つまり、私はそこで作家のリトリートか何かをしていたのかもしれませんね。
Joe Rogan 1:02:08
異世界から来たエイリアンの象徴的なイメージといえば、このような小さな灰色のもので、性器がなく、大きな頭と黒い目をしていますよね。これは、私たちが他の惑星のことを考えるときに想像する象徴的なものです。私はよく考えていたのですが、他の場所から来た人工的な生命や、他の惑星から来た生物という観点から考えると、それは人工的な創造物のようなものではないでしょうか?火星を歩き回るローバーがありますが、次のステップは、宇宙からの放射線を吸収する能力など、人間のような生物学的な限界を持たない、人工的で自律的な知的生物です。そして、巨大な頭を持った小さな生き物を作るのです。性器を持たず、性器を必要としません。そして、宇宙空間をとんでもない速さで移動しているため、100万Gの力に対応しなければならないという点で、私たち自身の物理的限界に逆らうことができる船を操縦します。他の惑星から来たものについて考えるとき、他の惑星の生命について考えるとき、もし彼らが私たちと同じような方法でイノベーションを起こせるなら、彼らは汚れ仕事をすべてこなす人工的な生物を作るだろうと想像します。なぜ、自分の体を危険にさらすようなことをしたいと思うのでしょうか?
Nick Bostrom 1:03:51
今?つまり、創造物は次のようなものを思い浮かべるかもしれません。つまり、もしあなたがこの宇宙船を持っていたら、ということです。つまり、座ってハンドルを回すような小さなものを作る必要はありませんよね?すべて自動化できるんです。宇宙に本格的に進出するテクノロジーは、ナノテクノロジーを持っていて、基本的に物質を任意に構成する能力を持っていると想像しています。その気になれば、どこかの岩の中に隠れているナノスケールのもののように、目に見えない作業をすることができると思います。そして、どこかの海岸線にある惑星サイズのコンピュータに情報リンクで接続して、それを実行するのです。そうですね、宇宙が植民地化される可能性は高いと思います。ミートサックのように、宇宙船を運転してスタートレックのような冒険をするわけではありません。母星が何であれ、光速のかなりの割合で移動する球状のフロンティアでなければなりません。そして、その経路にあるすべてのものを、その文明にとって最大の価値を持つ種類のインフラに変えていくのです。
Joe Rogan 1:05:24
先ほど彼が言ったことの1つに、もし人類が存続し、宇宙を伝播していくのであれば、私たちは他の場所に行こうとするでしょうし、他の惑星に住もうとするでしょう。それをロボットだけでやろうとしているのか?生物学的にそれをやろうとしているのか、おそらく生物学的にやろうとしているのでしょう。先ほどあなたがおっしゃっていた、人工知能ができることの1つは、他の土地や惑星に旅行する能力を加速させることだと思います。
Nick Bostrom 1:05:53
実際、生物学的な研究をしようとしている人もいますが、そのような努力が陳腐化するまでは、重要なことにはつながらないと思っています。おそらく機械の超知能が引き金となって、急激に新しい技術の波が押し寄せ、技術的な成熟度に近いものになっていくでしょう。イノベーションが人間のタイムスケールではなく、デジタルのタイムスケールで起こるようになれば、やり直したいと思っていたことも、もし4万年あれば、スペースコロニーができたり、老化の治療法ができたりするでしょうね。しかし、その思考時間がデジタル空間で行われると、その長い未来が伸縮してしまいます。そして、かなり早い段階で、最適なテクノロジーに近い状態に到達することができると思います。小さな探査機を1機送り出し、その探査機を資源に着陸させ、さらに探査機を作るための生産施設を設置するだけで、費用対効果の高い方法で宇宙を植民地化することが可能になります。そして、初期のインフラが整った後、必要に応じて他の惑星に生物学的な人間を輸送することもできますが、実際に行動を起こす場所ではありません。
Joe Rogan 1:07:13
しかし、もし私たちが、地球に何らかの脅威があることを懸念していたらどうでしょう。
Nick Bostrom 1:07:23
私たちの技術の段階では、小惑星の衝突は些細なことだと思いますが?フリーエネルギーの贈り物のようなものではありません。素晴らしいですね。
Joe Rogan 1:07:33
それは面白い見方ですね。私たちは最終的に火星を植民地化すると思いますか?
Nick Bostrom 1:07:41
答えはこうだと思います。「もしも」そうなれば、火星だけでなく、宇宙にあるアクセス可能なすべてのものを植民地化することができると思います。
Joe Rogan 1:07:59
このような話をすると、人々は必ず「いつ頃になると思いますか」と聞きたがります。何時頃になるのでしょうか?
Nick Bostrom 1:08:03
私の予想では、技術的に成熟した後、例えば超知能が発達した後だと考えています。火星については、ちょっとした植民地化の試作が行われる可能性があります。そうですね。だから、すぐに小さなデモプロジェクトが起こることを想像できるかもしれません。しかし、地球が消滅したとしても長期的に生き残ることができる、例えば自立した文明のようなものについて話しているのであれば、超絶的な知性を持つまでは非常に難しく、つまらないものになってしまうと思います。
Joe Rogan 1:08:37
超知能があれば、火星をテラフォーミングして大気を変え、生物の生存が可能な状態にすることができるということですね。
Nick Bostrom 1:08:51
ええ、2番目のスポットであれば。例えば、休暇場所のようなものですね。また、このような状況では、技術的な成熟度は非常に急進的なものだと思います。しかし、私たちがすでに知っている物理学などの知識だけでも、私たちが手に入れられなかったり、まだ作ることができなかったりする可能性のある技術を見ることができますが、それらが物理学と一致し、安定した構造になることはわかります。そうですね。そうなると、できることは無限に広がるわけです。例えば、人間の心をコンピュータにアップロードすることは、技術的に成熟すれば可能になると思います。
そうですね。レイ・カーツワイルのようなことが起こると思いますか?
繰り返しになりますが、技術的には成熟していれば可能だと思います。実際に実現するかどうかは、技術的に成熟しているかどうかと、その時点で自分の技術をその目的のために使うことに興味があるかどうかによりますが、どちらも合理的に可能だと思いますよ。
Joe Rogan 1:09:59
私がタイムマシンを持っていて、今から1000年後の未来にジャンプできるとしたら、あなたはそれをしますか?飛び込みますか?
Nick Bostrom 1:10:15
つまり、あなたは今、この状況が好きだと思います。長時間のジェット機での飛行は、私の中では、すでに始まっています。
Unknown Speaker 1:10:21
私の意見では、それは瞬間的なカムバックでしたか?いや、まあね。
Nick Bostrom 1:10:29
私はたぶんしないと思います。わからないですね。つまり、私はこの6つの中では第5位の慎重派で、少なくとも、少なくとも、長い時間考えてからでないと意味がありません。ここには私が大切に思っている人たちがいて、プロジェクトがあって、もしかしたら何かを変えようとする機会もあるかもしれませんが、もし私たちが今、この奇妙な時代にいるとしたら、それは以前の人類の歴史の中で何も大したことが起こっていなかった時代とは違うのです。私たちはまだ、すべてが手に負えず、超知能が動いている状態ではありません。もしそれが本当ならば、私たちは今、この奇妙な時代に生きていることになります。
もし私たちが、機械の超知能への移行が起こる正確な時間と方法に影響を与えれば、私たちの行動は宇宙的な影響を及ぼすことになるでしょう。また、世界に何か良いことをしようという野心を持っていれば、それは非常に刺激的なプロセスの見通しにもなります。これ以上、良い時代はないのではないかと思うほどです。
もし、あなたの目標が「良いことをする」ことであれば、大きな結果をもたらす行動を取る能力という点で、私たちは黄金時代を迎えているのかもしれません。
Joe Rogan 1:11:45
また、OLEDの時代と新しい時代の間にある、この非常にユニークな過渡期は、まさに変化の真っ只中にあると言えます。このような変化が急速に起こっている、エキサイティングでクレイジーな時代なのです。もし、あなたが未来から来たとしたら、この場所に行って、この巨大な変化がほとんど瞬間的に起こったことを体験することになるかもしれません。もし、歴史上の特定の時代に戻って、どんな生活をしていたかを体験できるとしたら、私の場合は、古代エジプト、たとえばファラオの時代を選ぶと思います。
Nick Bostrom 1:12:37
そこにいる人を選ぶことができます。いやいや、ワシントンにあると書いてあるのを見てくださいよ。
Joe Rogan 1:12:42
当時の生活を体験してみるのもいいかもしれませんね。
Nick Bostrom 1:12:46
しかし、もし私が未来から来たとしたら、どこに何があるのか 好奇心は何を考えているのでしょうか?例えば、自分がこれを見て何を想像するのか?
Joe Rogan 1:12:54
私が想像する?つまり、古代エジプトの建設方法について、じっくり考えてみました。彼らがピラミッドを建設していたときの様子を見てみたいです。彼らは何をしていたのか?みたいな。どのようにしていたのか?私たちはまだ知りません。すべてが理論的なものです。彼らがどうやって信じられないほどの精度で建造したのか、天文学的に太陽系の特定の地域や異なる星座との位置関係を正確に把握していたのかなど、さまざまなアイデアがあります。驚きです。どうやって作ったのか見てみたいものです。どのように計画し、どのように実施したのか。また、何人の人が参加したのでしょうか?どれくらいの時間がかかったのか?アレクサンドリア図書館が焼失した際に、多くの情報が失われたことは憶測の域を出ませんが、ヒエログリフや物理的な構造物は、いまだに気が遠くなるほど残っています。私たちは、ギザの大ピラミッドを見ても、200万個以上の石を積んだ巨大なピラミッドを見ても、誰が作ったのか?どうやって作ったんだろう?何を?最初に何を描いたんですか?どうやって全ての石を集めたのか?ピラミッドを作っている最中に行って見てみたい場所だと思います。まさに
Nick Bostrom 1:14:19
確かに、時間旅行者にとっては、大きな観光地のようなものではないかもしれませんね。そうですね。つまり、あなたが当時何が起こっていたかを考えるとき、ピラミッドと奴隷列車について考えると思いますが、それらはロックされています。でももちろん、ほとんどのエジプト人にとっては、畑の雑草を摘んだり、赤ちゃんを寝かしつけたり、そんなことをしていたのではないでしょうか。そうですね。つまり、人間の存在の典型的な瞬間は、彼らにはないということです。
Joe Rogan 1:14:45
もはや奴隷だとさえ思っていません。食生活からして、熟練労働者だとは思わないでしょうね。これらのキャンプ、労働者キャンプで見つけた食事や調理器具に基づいて、これらは高度な技術を要する工芸品だと考えています。saralee かつては奴隷だと考えられていました。しかし今では、食べ物の骨からして、彼らはとても美味しく食べていました。また、高度な技術が必要であり、奴隷にやらせるようなものではありません。構造エンジニアや熟練した建設技術者の集団がいて、当時の優れた頭脳を活用して、これを組み立てようとしたのだと思われます。なぜなら、様々な革新的な時代を見ることができるからです。つまり、ガンガ・カーンの時代に生きていたら驚くでしょうし、1000年前、2000年前の戦争の時代に生きていたら、その時代がどのようなものだったかを見ることができるでしょう。
しかし、もし私が未来にいたとしたら、人工知能がすべてを動かし、人間はある種の神経インプラントにつながれていて、生物学的独立の時代を待ち望んでいるような、奇妙なディストピアの未来だと思います。私たちが見たいのは、彼らが初めて電話を発明したとき、それはどのようなものだったのかということです。インターネットが初めて人々に開放されたとき、それはどのようなものでしたか?ポッドキャストであなたのような人が登場し、人工知能が私たちを導く可能性について話しているのを見たとき、人々はどのように感じたでしょうか。
Nick Bostrom 1:16:33
今が一番面白い時代だと思いませんか?
Joe Rogan 1:16:36
ええ、それが私にとって素晴らしいことなのですが、私たちは今、人間でありながら大きな変化を遂げる、まさにゴルディロックスの時代にいるように思えます。しかし、私たちはプライバシーを心配しています。携帯電話に盗聴されているのではないかと心配したり、監視カメラの日付を気にしたり、ノートパソコンのカメラに小さなシールを貼ったりしています。私たちはそれを目の当たりにしています。しかし、それはまだ私たちの目の前にあるわけではありません。私たちは、生活の中でテクノロジーのレベルが上がったことに伴う問題を目の当たりにしているだけなのです。
Nick Bostrom 1:17:09
それはそうですね、不思議なことです。これらの要素をすべて足し合わせると、私たちはとても奇妙に特別な立場になります。そう、そしてあなたはそれがちょっと偶然に過ぎるのではないかと思うのです。つまり、そうかもしれません。でも、そうですね、多少の負担はかかりますね。
Joe Rogan
ちょっとした偶然というと、それはどういうことですか?
Nick Bostrom
つまり、直感的に考えると、たまたま自分が歴史上最も興味深い時代に生きていて、有名人であるとか、何であるとか、そういう可能性はかなり低いと思います。 事前確率は、私にとっても、まあ、あなたにとっても、つまり、私たち全員にとっても、です。つまり、宝くじがあれば、誰かがチケットを持っていなければならない、ということですよね?
Joe Rogan
そうですね。
Nick Bostrom
しかし、それ以上に、あるいはそれ以上に、私たちはこの全体像について間違っているのです。何か非常に異なる構造が存在するのです。それが私たちの経験をより典型的なものにしているのです。
Joe Rogan
それが私の言いたかったことです。
Nick Bostrom
そうですね。
Joe Rogan 1:18:19
そうですね。では、シミュレーションの可能性についてどの程度考えましたか?
Nick Bostrom 1:18:25
かなり?つまり、私はシミュレーションの議論を展開しました。そうです。2000年代の初めにです。そうですね。
Joe Rogan 1:18:35
つまり、あなたがこの議論を展開していることは知っていますし、これに多大な時間を費やしてきたことも知っています。しかし、個人的には、あなたが世界をどのように見ているか、どのくらい?どのくらい?あなたのビジョンにどれだけ影響を与えていますか?現実とは何か?
Nick Bostrom 1:18:55
まあ、何とも言えませんが… つまり、私の時間の大半は、積極的に考えているわけではありません。ただ、そうですね、生きているというだけです。
でも今は、自分の仕事は大局的な問題を考えることだと思うようになりました。私たちの立場や将来の可能性、世界に影響を与えることができる可能性のある選択肢を理解しようとするとき、それは私の仕事にも反映されます。そのレバーを引くのに良い方法、悪い方法は何でしょう?そして、これらの制約や考慮事項をすべてまとめてみなければなりません。
そういった意味でも、これは重要なことだと思います。もしあなたが日常生活を送っているのであれば、私たちの現実の本質について常に仮説を持ち込もうとすることは、あまり役に立たないし、意味がないと思います。なぜなら、あなたが日常的に行っているほとんどのことは、それがシミュレーションの中であろうと、物理的な現実の地下レベルであろうと、同じように機能するからです。例えば、車のキーを取り出す必要がありますよね?ですから、ある意味では、実用的な目的のためには関係のないことなのです。
Joe Rogan 1:20:21
シミュレーションの可能性について考え始めたとき、どんなことを思い出しましたか?
Nick Bostrom 1:20:26
いや、つまり、シミュレーションの議論が思い浮かんだ時のことを覚えていますが、どちらが少ないでしょうか?思い出せる限り、ということではないのですか?そうですね。ああ、つまり、可能性としては、ああ、これはすべて夢かもしれない、シミュレーションかもしれない、とか。
しかし、しかし、可能性の範囲を狭めるような特定の議論があるのではないでしょうか?そして、シミュレーション仮説は、たった3つの選択肢のうちの1つとして扱われるのです。
Joe Rogan
選択肢の種類?その3つの選択肢とは?
Nick Bostrom
ひとつは、現在の技術開発の段階では、ほとんどすべての文明が技術的に成熟する前に絶滅してしまうというものです。これが第1の選択肢で、技術的に成熟しているというか、少なくとも物理的に可能だと考えられる正当な理由がある技術をすべて開発しているということですね。つまり、意識のある個人の詳細なコンピュータ・シミュレーションを実行できるような、非常に大規模で強力なコンピュータを構築する技術が含まれます。これは悲観的なケースですが、もし、私たちの段階でほとんどすべての文明がそこに到達できなかったとしたら、ということです。
それは悪いニュースですよね?なぜなら、私たちもほぼ間違いなく失敗するからです。これが1つの可能性です。2つ目の選択肢は、技術的に成熟したすべての文明の間で非常に強い収束が起こり、祖先のシミュレーション、つまり歴史的な先達やバリエーションのような意識を持った人々の詳細なコンピュータ・シミュレーションを作ることに、すべての文明が興味を失ってしまうというものです。
祖先のシミュレーションや、歴史上の先輩や後輩のような意識のある人間の詳細なコンピュータ・シミュレーションを作ることに興味を失ってしまうのです。つまり、ポストヒューマンの生物について、何をしたいのか、何をしたくないのか、あまりよくわかっていないのです。
Joe Rogan 1:22:30
そうですね。そうすると、結果を認識する能力も高まっているかもしれませんね。そう、創造することで
Nick Bostrom 1:22:36
認知的に強化されたことはほぼ間違いないでしょう。
Joe Rogan 1:22:39
意識をコンピュータにダウンロードするという概念は、何らかのシミュレーションが行われることをほぼ確実にするものです。意識をコンピュータにダウンロードする能力があれば、いったん意識がコンピュータに取り込まれると、電力がある限り、意識がそこに存在するのをどうやって止めることができるでしょうか。そして、これらのチップが作動し、電気が転送され、データが行き来している限り、あなたは本質的にある種のシミュレーションの中にいることになります。
Nick Bostrom 1:23:13
もし、あなたにそのような能力があるとしたら、そして、その動機は以下の通りです。
Joe Rogan 1:23:17
生物学的なインターフェースに似た何かをシミュレートしなければ、何をしていいかわからないでしょう?
Nick Bostrom 1:23:24
そうですね。そうなんです。現在、私たちは、不完全ではあるものの、改善されつつあるバーチャルリアリティ環境を手にしていますが、それがどんどん良くなって、完璧なバーチャルリアリティ環境が手に入ると想像することもできます。しかし、脳が箱の中で大きなヘッドフォンやメガネをかけているのではなく、脳自体がシミュレーションやマトリックスの一部になっていると想像してみませんか?
マトリックスの中には、プラグインの外に生物学的な人間がいると思うんですが。なるほど、そうですね。しかし、もしシミュレーションの中に、コーヒーカップや車などをシミュレートしたように、脳をシミュレートしたものを含めることができれば、それはそれでいいのではないかと思います。意識的な経験を生み出すのは、その基盤となる物質ではなく、実行されている計算のある種の構造的特徴であるというのです。
その場合、脳の詳細なシミュレーションを行い、すべてのニューロンとサインアップがシミュレートされ、その脳が意識を持つようになるのかもしれませんね。
可能性その2、すごいですね。さて、これが可能性その2ですが、これらの姿勢には全く興味がないということです。一部の人がしないだけでなく、技術的に成熟したすべての文明が、ほぼ一様に、それをしないのです。
Joe Rogan 1:25:09
では、3つ目は何でしょうか?
Nick Bostrom 1:25:10
私たちはシミュレーションの中にいるという、シミュレーション仮説です。
Joe Rogan 1:25:14
そして、どこに傾いているのでしょうか?
Nick Bostrom 1:25:16
正確な確率の問題については、一般的には考えないことにしています。つまり、これは確率の問題だと思います。そう、それぞれに何かを割り当てるのです。でも、あまり正確な数字を言うのは控えてきました。それは、ある特定の数字を言ってしまうと、その数字がそこに呼ばれてしまうからです。そうすると、偽りの正確さが生まれるかもしれないからです。
この議論では、XYZの確率を導き出すことはできず、この3つのうち少なくとも1つは得られなければならないということになります。そう、だからこそ絞り込めるのです。なぜ未来が大きいとわかるのかというと、どんな話でも作れてしまうし、証拠もないからだと思うかもしれません。
しかし、実際には、すべてのことを考え始めると、確率的に首尾一貫した見解を持つことができるかどうか、かなり厳しい制約があるようです。
Joe Rogan 1:26:17
もし、いつかシミュレーションができるようになったら、それは現実そのものと見分けがつかないだろうということです。しかし、私たちはOculusのようなバーチャルリアリティに取り組んでいますし、これらの企業は消費者ベースのバーチャルリアリティを開発しています。20年前には何もなかったものが、20年後には見分けがつかないほどになっているかもしれない、現在経験している現実と見分けがつかないようなバーチャルリアリティを作ることができるかもしれない、というのは実に興味深いことです。
Nick Bostrom 1:27:04
あるいは、2万年、2千万年かもしれません。この議論では、rhotic Yeahの長さについて全く仮定していません。
Joe Rogan 1:27:10
しかし、ある日、もし物事が改善され続ければ、そうですね、計算能力、経験を複製する能力、さらには生物学的フィードバックのような観点からのフィードバック、触ったり、感じたり、匂いを嗅いだりする方法を見つけ出し、ある日、人工的な現実を手に入れることができるようになるでしょう。それは現実そのものと見分けがつかない。もしそうだとしたら、自分がその中にいるかどうかをどうやって知ることができるでしょうか?
Nick Bostrom 1:27:35
そうですね、それがだいたいの要点です。先ほど申し上げたように、脳をシミュレートすれば、生物学的なコンポーネントを中心にして、バーチャルリアリティ機器に囲まれるよりも、システム全体として安価になると思います。つまり、一定のコストで、VR機器を備えた生物学的な脳ではなく、シミュレートされた支配権を備えた祖先のシミュレーションをたくさん作ることができると思うのです。多くのシミュレーションが行われるシナリオでは、すべてがデジタル化されているようなシナリオがほとんどです。
Joe Rogan 1:28:21
これは、言葉は悪いですが、フォックスさんにとって最大の問題の一つです。本当に立ち止まって、現実そのものについて考えてみると、もし私たちがシミュレーションの中で生きているとしたら、それは一体何なのか?そして、なぜ?そして、それはどこへ行くのか?そして、私はどう反応するのか?どうやって前に進めばいいのか?もし本当にこれがシミュレーションだと信じているなら、私はここで何をしているのでしょうか?
Nick Bostrom 1:28:45
ああ、これは大きな疑問ですね。
Joe Rogan 1:28:46
非常に大きな質問です。
Nick Bostrom 1:28:50
たとえシミュレーションの中にいなくても、そのような問題が発生するということです。
Joe Rogan 1:28:53
そうですね。私たちがシミュレーションに参加している可能性があるかどうかを判断するために、奇妙で理解できないような計算をした人たちがいるのではないでしょうか?現在は?
Nick Bostrom 1:29:06
ええ、若干論点がずれていると思います。ある物理システムを完璧な精度でシミュレーションしようとした場合に必要となる計算機の要件を解明しようとする試みがあります。例えば、人間の脳の部屋があったとして、全ての小さなパーツ、全ての原子、全ての素粒子、全ての量子波動関数をシミュレートしたいとしたら、その計算負荷はどのくらいになるでしょうか?また、これを実際に実行できるほど強力なコンピュータを作ることは可能でしょうか?
ここで、私が思うのは、細部までシミュレーションする必要はないという点です。祖先のシミュレーションで作りたい環境は、シミュレーション内の観察者が知覚できる範囲でのみシミュレーションする必要があります。例えば、ポストヒューマンの文明が、ジョー・ローガンがポッドキャストをするシミュレーションを作りたいとしたら、ジョー・ローガンの脳をシミュレートする必要があります。なぜなら、そこで経験が起こるからです。そのため、表面的な外見はもちろんのこと、壁やNavy、私をシミュレートする必要があります。少なくとも、本物の人間が発したように聞こえる言葉を吐けるだけの、十分なシミュレートが必要です。このGPTでは、「どうかな」という言葉をただ吐き出すAIのように、かなり良いものになってきていますので、そうなります。
しかし、今このテーブルの中で起こっていることは全く関係がなく、原子があるかどうかさえもわからないということになります。さて、大きな電子顕微鏡を使って、より細かい構造を見ることができます。また、原子間力顕微鏡を使えば、個々の原子を見ることができ、あらゆる種類の測定を行うことができます。物理学者はこのような実験を行いますが、ここでは何も見ていません。しかし、そうすれば、その詳細を埋めることができます。例えば、誰かがそのような実験を行うとしたら、すべてを継続して行うよりもはるかに安上がりでしょう。
今日、多くのコンピュータゲームがこのように設計されています。ある一定のレンダリング距離を持ち、実際に仮想世界をシミュレートする際には、キャラクターが目に見えるほど近くに行くだけです。超知的なポスト・ヒューマンがこれをやっていると想像すると、明らかに彼らはこのことを理解していて、他にも多くの最適化を行っているでしょう。つまり、このような計算や実験は、仮説を裏付けるものではないと思うのです。
Joe Rogan 1:31:58
これらの3つのシナリオのいずれにも確率を割り当てずに、何を根拠に、もしあなたが立ち止まって「私たちはシミュレーションの中にいると思う」と考えたときに、あなたを納得させるものは何でしょうか?
Nick Bostrom 1:32:13
それは主にシミュレーションの議論を通じたもので、もしそれが拡張され、仮説やありえないことへの代替となれば、残りの3つ目の確率の塊をシフトさせることになると思います。
Joe Rogan 1:32:26
本当に3つしかないのでしょうか?つまり、人類が絶滅するというものですか?
Nick Bostrom 1:32:32
宇宙の中で私たちの段階にある他の文明が、何かをしている間に?そう、それは強い、そう、強いフィルターなのです。
Joe Rogan 1:32:41
そのような文明は絶滅してしまうか、あるいはそのような関心事を追求しないことにします。あるいは、シミュレーションになってしまう……本当にそれだけなのでしょうか?
Nick Bostrom 1:32:47
今のところ、生きている選択肢は3つだけだと思います。ですから、もう少し議論を展開して、より詳細に見ることができます。最初の2つの選択肢が偽だとします。些細な数の文明がステージを通過し、些細な数の文明がまだ興味を持っているとしたら、彼らの資源のほんの一部を使うだけで、非常に多くのシミュレーションを作ることができることを説得力を持って示すことができると思います。物理的に作ることができると分かっているシステムの計算能力を比較することで、それを示したり、主張したりすることができます。現在、私たちはそれらを構築することができますが、ナノテクを使って構築することもできるでしょう。一方では、惑星規模の資源があり、もう一方では、人間の脳をシミュレートするのに必要な計算能力の見積もりがあるとします。成熟した文明は、何桁もの計算能力を持っており、たとえ1つの惑星の計算能力の1%を1分間だけ使ったとしても、何千何万ものシミュレーションを実行することができ、何十億もの惑星を持ち、何十億年も存続することができます。つまり、かなり極端な数字が出てくるということです。もし、最初の2つの選択肢が偽であれば、私たちのクライアントのシミュレーションされた経験は、私たちのアカウントのオリジナルの経験よりもはるかに多く存在することになります。
Joe Rogan 1:34:25
つまり、人類や宇宙の知的生命体が技術革新を続ければ、シミュレーションを作ることはほぼ避けられないという考えですね。
Nick Bostrom 1:34:37
いやいや、2つ目の意味は
Joe Rogan 1:34:39
それをしないと決めることですね。
Nick Bostrom 1:34:40
同じ能力を持った人がいることです。
Joe Rogan 1:34:43
もし人類が死なない方法を見つけ出し、革新的であり続け、自然災害や人工的に作られた災害が起こらないとしたら、第一の選択肢となります。ステップ2は、もしそうならなかったら、これを追求しないと決めたわけではありません。シミュレーションを含む、あらゆる形態の技術革新を追求し続ければ、それは避けられないものになります。この2つの最初の選択肢を乗り越えれば、それを追求することは必然になります。
Nick Bostrom 1:35:25
つまり、能力があれば、それを実行するということですね。そして、動機は、私は「はい」という欲求と言いました。そうすると、膨大な数のシミュレーションが生まれることになります。シミュレーションは1つだけではありませんよね。しかし、技術的な成熟度が非常に低いので、もしあなたが宇宙帝国の資源を持っているなら、もし彼らがこれをやりたいという大きな願望を持っていなくても、まあいいかと思ってしまうかもしれませんね。
Joe Rogan 1:35:52
イーロンが人工知能に尋ねると言っていたのは、シミュレーションの先には何があるのか、という大きな疑問でしたね。そうですね。それが本当の疑問です。もしこれがシミュレーションであり、現在多くのシミュレーションが実行されているとしたら、シミュレーションの先には何があるのでしょうか?
Nick Bostrom 1:36:07
そうですね、気になるかもしれませんね。もっと重要な質問は、私たちは何を考えているのか、ということだと思います。私たちの状況では、何をするのが一番新しいのか?例えば、私たちが役に立てる方法として、何をするのが賢明でしょうか?あるいは、最高の人生を送るためにはどうしたらいいのでしょうか?
Joe Rogan 1:36:26
考えるのもばかばかしい?もしかしたら、それは私たちを超えているのかもしれません。
Nick Bostrom 1:36:31
外には何があるのかという疑問は?
Joe Rogan 1:36:32
そうですね。
Nick Bostrom 1:36:34
そうですね、つまり、考えることが馬鹿げているとは思いませんが、私たちを超えているかもしれません。しかし、もしかしたら、それが何であるかについて、何らかの抽象的な概念を形成することができるかもしれません。実際、もしシミュレーション仮説を信じる道があるとすれば、それはシミュレーションの議論であり、通常、そこにはたくさんの構造があり、それは何らかのアイデアを与えてくれます。その技術を手に入れても、列車などを作ることはできないでしょうし、おそらく彼らは超知能を持ち、宇宙を植民地化する能力を持ち、その他多くのことを行うでしょう。そして、何らかの理由で、資源の一部を使ってシミュレーションを行うことにしたでしょう。そのシミュレーションの中で、私たちの経験が行われているのかもしれません。英国では、もっと推測的に詳細を詰めることができるでしょう。しかし、基本的には、この全体像を把握する能力は非常に限られていると思います。そして、私たちが気づかない他の考慮事項があるかもしれません。
シミュレーションの議論はごく最近のものです。そうでしょう?つまり、20年も前に作られたサイトのようなものですよね?もしそう思うなら、仮にそれが正しいとしましょう。議論のために言うと、この時点まで、誰もがものすごく重要で基本的なことを見逃していたことになります。そうですね。そうですね。非常に頭のいい人たちが、何百年もかけて、そう、このように、中央にある巨大なピースを。しかし、今になって、最後の大きな欠落部分を解明できた可能性はあるでしょうか?おそらく、それが現在の私たちを超えたものであるという、父親のような巨大な認識があるのではないでしょうか?しかし、もしかしたらさらに大きな発見や啓示があって、それによってシミュレーションが改竄されるのではなく、解釈を変えることができるかもしれないし、何かをすることができるかもしれない。
Joe Rogan 1:38:48
シミュレーションがあれば、すべての歴史的記録も同様にシミュレーションされているという概念がありますか?それは、いつ頃から始まったのでしょうか?
Nick Bostrom 1:38:57
まあ、いろいろな選択肢がありますからね。膨大な時間をかけて実行するもの、短時間で実行するもの、すべての人をシミュレートするもの、特定の場面や人だけに焦点を当てるものなど、さまざまなシミュレーションがあります。その中で最も可能性のあるものは?仮説上のポストヒューマンの関心事は何かというように、シミュレーションを作成する理由にもよりますので、多くを語ることは難しいですね。
Joe Rogan 1:39:30
あなたは、あなたの言っていることを本当に理解している現実的で有能な人と会話をしたことがありますか?しかし、彼らはシミュレーションの可能性についてさえも同意しませんでした。
Nick Bostrom 1:39:45
そういうこともあるでしょうが、通常の会話が成立するような場所ではありません。つまり、私は、代表者のいないディープなサークルで活動しています。だから、多くの人と交流している霧の中では、「可能だ」というのが共通の反応だと思います。しかし、このようなことを理解するのは常に難しいので、不確実性があります。しかし、ある程度の確率を割り当てなければなりません。しかし、Gallup社の調査のようなものを行ったとしても、それが典型的な反応だとは言いません。つまり、もう一つの一般的なことは、何らかの形で解釈をミスすることだと思います。それには様々なバージョンがあります。一つは、シミュレーション仮説が成立するためには、先ほど説明した2つの完璧なミクロの世界の周辺をすべてシミュレーションできなければならない、という考え方です。次に、脳自体がシミュレーションの一部であるという考えをすぐに理解できない人がいるかもしれません。そこで、脳は大きな杖の壁のようなものに差し込まれていると想像します。そして、もしあなたがどうにかして背中に手を伸ばすことができれば、そこには脳があることになるのですが、これもよくある誤解のひとつでしょう。
Nick Bostrom 1:41:21
よくあるのは、シミュレーション仮説とシミュレーション論を混同してしまうことです。シミュレーション仮説とは、私たちがシミュレーションの中にいるというもので、シミュレーション論とは、3つの選択肢のうち1つが真で、そのうち1つだけがシミュレーション仮説であるというものです。つまり、何らかの計算が行われているということです。
Joe Rogan 1:41:40
夢をどうやってシミュレーション仮説に組み込むのですか?
Nick Bostrom 1:41:43
夢は、シミュレーションの中にいるかどうかに関わらず、おそらく人は夢を見るだろうということに関係していると思います。その理由や説明は他にもあります。シミュレーションの中にいたとしても、なぜいけないのでしょうか?中には、このような人たちから、「ああ、そうですか、そうですか、ありがとうございます。あなたの理論はとても興味深いです。そして私は証拠を見つけました。洗面所の鏡を見ると、ピクセルが映っていて、程度の差こそあれ、それらの人々のようなランダムなものが映っていました。」
つまり、私たちはみんな狂っているのかもしれません。一般的に言って、もし私たちがシミュレーションの中にいないのであれば、様々なことを知覚したと主張する様々な人たちがまだいることが予想されます。シミュレーションの中にいたとしても、シミュレーションに不具合があったということではなく、通常の心理的な現象の一つが起こったということが、それらのことの最も可能性の高い説明になるでしょう。そうでしょう?シミュレーション仮説が真実であったとしても、それが説明になるとは思えません。
Joe Rogan 1:43:14
創造性の概念は、シミュレーションにどのように影響しますか?もしあなたが、シミュレーション中に、ユニークで創造的な考えを思いついているとしたら?そのユニークな創造的思考はあなた自身のものなのか、それともシミュレーションによって刺激されたユニークな創造的思考なのか。
Nick Bostrom 1:43:33
そして、それらは、何か他のものがあなたの脳を作り出したのではなく、あなたの脳がそれらを作り出したという意味で、私たち自身のものである可能性があるのです。
Joe Rogan 1:43:40
しかし、明らかに、何か外部からの刺激や真の意味での何かに関与していれば、脳に信じられないような影響を与えることができます。
Nick Bostrom 1:43:47
物理的な現実においても、確かに出てきません。
Joe Rogan
しかし、それはまだあなたの脳です。
Nick Bostrom
シミュレーションの中でも、シミュレーションの外でも、同じくらいの可能性があると思います。ただし、シミュレーターが何らかの理由で、「これは全部、ローガンがこの特別なアイデアを思いついたものだ」という見方で設定した場合は別です。そして、それを実現するために、初期条件や適切な方法を設定したのです。もしかしたら、初期条件を設定した人よりも、自分が思いついた時の方が成果が大きいかもしれません。しかし、それ以外の点では、似たようなものになるというのが理由だと思います。
Joe Rogan 1:44:29
私が尋ねたのは、すべてのアイデアです。しかし、すべてのイノベーションを生み出すものは、最初は誰かが何かを見つけ出したり、創造的なアイデアを思いついたりした時点から始まります。テレビから自動車まで、外界で目にするすべてのものは、すべてアイデアだったのです。そして、そのアイデアを誰かが実行したり、そのアイデアに関わる技術をグループで実行したりして、最終的には実現しているのです。もしあなたがシミュレーションの中にいるとしたら、シミュレーションによってあなたの意識の中にどれだけのものが外部から導入されているでしょうか。そして、それが高揚感をある方向に押しやっているのでしょうか?I
Nick Bostrom 1:45:08
わかりませんね。つまり、両方の種類のシミュレーションを想像することができます。例えば、初期条件を設定して、何が起こるかを見るために実行させるシミュレーションなどです。また、ある特定の歴史的な反実例のように、これを守るためのシミュレーションをしたい場合もあるでしょう。例えば、どうなっていたか?例えば、もしナポレオンが敗れていたら、というようなシミュレーションです。このように、どちらか、あるいは両方のタイプのやり方を想像できる具体的なものがあります。
Joe Rogan 1:45:38
しかし、あなたのシミュレーション仮説は、私たちはその中にいました。それは動いています。さて、シミュレーションが動いていて、私たちは独立してそのシミュレーションと対話しているのでしょうか。それとも、シミュレーションが私たちの頭の中にアイデアをもたらし、それがシミュレーションの中で実現しているのでしょうか?そうやって物事が進められていくのでしょうか?例えば、私たちがシミュレーションの中にいるとしましょう。もしシミュレーションの中で、誰かが新しいiPhoneを作ったとしたら、彼らはなぜそんなことをしているのでしょうか?もし、シミュレーションの中に他の人がいるとしたら?それとも、そのシミュレーションは、その人だけのものなのでしょうか?それぞれの個人は、異なる共存するシミュレーションに関わっているのでしょうか?
Nick Bostrom 1:46:26
そうですね。では、なぜそのようなことが可能なのか、最も明確なケースは、すべての人がシミュレーションされ、それぞれの脳を認識するようなシミュレーションだと考えているのですね。そうです。脳全体を十分なレベルでシミュレートすれば、脳から現実的な行動を引き出すことができるからです。
Joe Rogan 1:46:52
では、あなたが接している人もみんなシミュレーションなのですか?
Nick Bostrom 1:46:55
そのようなシミュレーションは確かに可能なはずですが、それはむしろ未解決の問題です。例えば、意識のある人が一人だけいて、他の人はただのシミュラクラのようなシミュレーションを作ることも可能なのではないでしょうか。ええ、それはいいですね。人間のように振る舞っていても、中には何もない、というような。哲学者の言葉で言えば、ゾンビ、つまり専門用語のようなものですが、ある哲学者の議論では、人間と全く同じように振る舞うが、私たちは意識的な経験をしていない人という意味です。さて、このようなことが可能かどうかは、未解決の問題です。
Joe Rogan 1:47:33
人とコミュニケーションをとるときに、そのことを考えたことはありますか?配信を否定するのをやめたことはありますか?
Nick Bostrom 1:47:38
思いついたことはありますが、いい考えではありません。
Joe Rogan 1:47:43
ええ、そうですか?でも、これは現実ではないかもしれない、この人は現実の人間ではないかもしれない、というようなことが頭をよぎることはありませんか?これはシミュレーションかもしれません。
Nick Bostrom 1:47:55
そうですね。つまり、言うべきことは2つあると思うんです。ひとつは、あなたが置かれている可能性のあるさまざまな種類の状況について、おそらく何らかの確率分布を持っているということです。たぶん、これらの状況はすべて、異なる頻度などでシミュレーションされているでしょう。つまり、そこには何らかの確率分布があるはずで、これが、現実には常に不確実なものであるという最初の考えです。2つ目は、たとえそのようなシミュレーションの中にいたとしても、行動的には他のシミュレーションの中にいた場合と全く同じである可能性があるということです。つまり、今日はそれほど多くのデータがあるわけではないのです。
Joe Rogan 1:48:41
人生がシミュレーションであるかのように相互作用することには、心理的なメリットがあると思いますか?
Nick Bostrom 1:48:45
たぶんないと思います。メリットがあるとは思えません。というか、もしかしたら、場合によっては、すみません。実存的な問題を軽減することができるかもしれませんが、それは誰にもわかりません。また、もし彼が間違った方向に解釈したとしたら、より疎外感を感じるようになるかもしれません。わかりません。しかし、第一近似として、物理的な現実で行うことに価値があり、多くの意味を持つものと同じものが、シミュレートされた現実でも最善の策になると思います。
Joe Rogan 1:49:25
そこが本当に不思議なところなんです。例えば、シミュレーションであっても、すべての場面でシミュレーションではないかのように振る舞わなければなりません。例えば、妊娠検査のようなテストがあったとしましょう。CVSに行ってストリップにおしっこをしたら、どうなると思いますか?これは現実ではありません。あなたはシミュレーションの中にいます。100%証明された絶対的な証拠だ 今からこの瞬間、あなたが接するものは全てある種の創造物だということを知ってください。それは現実ではない。だが現実だ なぜなら君は 現実と同じ経験をしているからだ そうですね。続けますか?
Nick Bostrom 1:50:14
ええ、それは非常に微妙な再優先順位付けかもしれませんね。
Joe Rogan 1:50:20
個人的にはどうしますか?
Nick Bostrom 1:50:22
どうでしょう?それに対する完全な答えはわかりません。シミュレーションの中にいなければ突飛な可能性でも、私のようにシミュレーションの中にいれば、より現実的になる可能性があると思います。
ひとつは明らかにシミュレーションが停止する可能性です。例えば、シミュレーションを実行しているコンピュータのプラグが抜かれてしまったら、ですね。私たちが普通に理解している物理的な宇宙は、エネルギーや運動量などの保存性があるため、完全に存在しなくなることがあると考えられています。しかし、シミュレートされた宇宙は、起こりうることのように思えます。起こりそうだという意味ではありませんし、どのくらいの時間枠で起こるかについても何も述べていませんが、少なくとも、これまでなかった可能性の入り口のようなもので、他のものも、死後の世界などの様々な神学的な可能性に似てきます。そして実際には、全く異なる道を通って、神学などを考えている人たちがたどり着いたような、似たような目的地にたどり着くのかもしれません。その意味では、ちょっと違うかもしれませんね。どちらにしても、論理的に必要なつながりはないと思います。
しかし、シミュレートされた生物が彼らのシミュレーターに向かうという状況と、私が創造した実体が彼らのクレーターに向かうという状況の間には、構造的な類似性のようなものがあります。そうですね。このような比較をすることで、何か、可能な進め方が見えてくるかもしれませんね。
Joe Rogan 1:52:08
ただ座って考えているだけのような、分析による麻痺のように思えます。少なくとも私は、何もできない、行動できない、動けない、となってしまいそうです。
Nick Bostrom 1:52:19
確かに最適ではありませんね。そうですね。
Joe Rogan 1:52:26
でも、このコンセプトはとても一般的で、ありふれています。
Nick Bostrom 1:52:32
興味深いのは、この10-15年の間にどれだけのことが行われてきたかということです。そして、私には、ある種の、ほとんどおしっこに近いような、ある種の、そう、それを投げ出すような数字があります。そうですね、アイデアがある種の極端な過激派から移行して、10年か20年後にはほとんど常識のようになっているというのは面白いですよね。なぜそんなことが起こるのでしょうか?それは、人間には物事に慣れる能力があるからです。つまり、技術進歩のペースについての議論に戻りますが、物事がそうであるのが当たり前のように思えますが、人間は非常に適応力のある生き物ですよね。ほとんどすべてのものに適応できます。そして、私たちには外部の基準点のようなものはありません。そしてほとんどの場合、これらの判断は、他の人がどう思うかに基づいています。つまり、ステータスの高い個人、Elan Musk氏などがシミュレーションの議論を真剣に受け止めているように見えれば、人々はそれが賢明なアイデアだと考えるのです。そして、そのような人が1人か2人か3人いるだけで、その人が高く評価され、突然それが普通になるのです。
Joe Rogan 1:53:47
高く評価されている人で、この可能性を公然と否定する人はいますか?
Nick Bostrom 1:53:52
この可能性を否定している人は、たぶんわざわざそのことに触れようとはしないでしょう。私が考えていることがあります。私は空振りに終わってしまいましたが、私が好きになれる特定の人がいるかどうかはわかりません。
Joe Rogan 1:54:11
議論を聞いてみたいですね。あなたやイーロンのような人の話を聞いて、彼らと交流するのが好きです。そして、何度もやりとりをしてみたいと思います。これらのアイデア。そうですね。
Nick Bostrom 1:54:25
それは面白いかもしれませんね。
Joe Rogan 1:54:25
そうですね。あなたは、公然と否定する人と、ある種の討論をしたことがないでしょう?まあ、大きな公開討論のようなものですね。個人的にも誰かは知りませんが
Nick Bostrom 1:54:34
ええ、わかりません。この記事を最初に発表したときから、ずいぶん時間が経ってしまいました。議論そのものについての会話の方が多かったように思います。
Joe Rogan 1:54:47
最初にこの記事を発表したときの反応はどうでしたか?
Nick Bostrom 1:54:50
注目度は高かったですよね。公的なものも含めて、かなりすぐにですね。つまり、哲学季刊誌のような学術誌に掲載されたのです。でも、そうですね、すぐに注目されました。その後は波があって、1年おきくらいに、新しい世代や新しいコミュニティの新しいグループが、この作品を初めて耳にするようになりました。そして、新たな波として注目されるのです。しかし、こうした波と並行して、主流の会話の一部になり、それほど突飛ではないと思われるようになるという慢性的な傾向もあります。そうですね。それは、もしかしたら、そのアイデアに何か大きな欠陥があるとしたら、もう発見されているかもしれません。だから、しばらく前から存在していれば、少しは信憑性があると言えるでしょう。また、技術的な進歩にも少し助けられているかもしれません。バーチャルリアリティがどんどん進化していけば、いつか完璧なものが作れるようになるのではないかと想像しやすくなるでしょう。
Joe Rogan 1:55:59
これは、彼のオプションの選択肢として紹介しようと思っていたのですが、いつの日か、ある種の素晴らしいシミュレーションを作ることができるかもしれません。しかし、それはまだ実現していません。これがこの話題になった理由ですが、心配する必要があるということです。テクノロジーを外挿して、今どこに向かっているのか、どこに向かっているのかを考えると、これが存在する日が来るかもしれないのですから、これを考慮して、今対処すべきでしょうか?
Nick Bostrom 1:56:29
まあ、だから、3つ目の場合には、その可能性は極めて低いと言えるでしょう。最初の2つが間違っているとすると、すべての歴史の過程において、シミュレーションされたものは、シミュレーションされていないものよりもずっと多いということになります。
Joe Rogan
歴史の流れの中で?
Nick Bostrom
しかし、そうではありません。そこで問題になるのは、例えば、時間の終わりまでに、たった100万のシミュレーションと1つのオリジナルの歴史があったとします。そして、これらのシミュレーションされた人々とオリジナルの歴史を持つ人々は皆、主観的には区別のつかない経験をしていて、その違いを内側から見分けることができるということです。
その仮定の下では、あなたは何を信じるのが合理的でしょうか?自分は例外的な存在であると考えるべきか?それとも、もっと大きなセットの中の一人だと思うべきなのか……シミュレートされた一人なのか?
Joe Rogan 1:57:22
それとも、まだ起きていないだけだと考えるべきでしょうか。
Nick Bostrom 1:57:26
ただ、それだと、あなたはシミュレートされていないもののうちの一人だと言っているのと同じです。
Joe Rogan 1:57:30
あなたが言っているのは、宇宙の中でのことですか?
Nick Bostrom 1:57:33
そうですね、地球だけという狭い範囲のケースでも考えてみましょう。
Joe Rogan 1:57:39
そうですね。歴史的な記録が正確であれば、地球だけの狭いケースでもOKです。シミュレーションではないとすると、非常に合理的に考えて、私たちはテクノロジーの漸進的な増加に対処しているだけで、それは非常に驚くべきことです。そして、現在、かなり、かなり深遠なものですが、私たちはまだシミュレーションを経験していないということになります。
Nick Bostrom 1:57:59
は、いや、そう見えているんですよね。確かに、そうです。でもそれは、あなたがシミュレーションの中にいたらどう見えるかということでもあります。
Joe Rogan 1:58:05
ええ、でもそれは、あなたがシミュレーションの中にいない場合にどう見えるかということでもあります。そうですね。それもまた、知るべき可能性なのですね。
Nick Bostrom 1:58:12
そうですね。でも、ほとんどの人にとっては、そのように見える人は、シミュレーションされているということになります。
Joe Rogan
なぜですか?
Nick Bostrom
仮定の話ですが、もしこれらのシミュレーションがすべて作られているとしたら、まあ、まだないでしょうね。まあ、そうですね。外的な現実では何時なのかわからないのだから。
Joe Rogan 1:58:33
生命そのものがとんでもないものであるにもかかわらず、なぜ私たちは信じられないほど素晴らしいものを想定するのでしょうか。生命そのものとは、ただ惑星の上に人間がいるということであり、この惑星が時速1000マイルで回転し、無限の中を突き進んでいるということであり、それ自体、存在しなければかなりとんでもないことですが、実際に存在するのです。そして、少なくとも私たちは、ある歴史的記録に同意していることを知っています。オッペンハイマー、マンハッタン計画、第一次世界大戦、第二次世界大戦、韓国とベトナム、レーガンとケネディ、これらすべてのことに同意しているのです。歴史的に見ても、ある種の歴史的プロセスがあるということであれば、全員が同意していることになります。私は最初のiPhoneが発明されたときのことを覚えています。最初のコンピュータができたときのことも覚えているし、インターネットができたときのことも覚えている。なぜシミュレーションがあると仮定するのでしょうか?シミュレーションの可能性があると仮定することはできます。しかし、なぜシミュレーションが発生していないと仮定するのでしょうか?なぜ私たちは、そのシミュレーションがまだ起こっていないと仮定しないのでしょうか?
Nick Bostrom 1:59:36
そうですね。つまり、私たちがすべての時間の中で最初の時間区分にいる可能性があるということです。
Joe Rogan 1:59:45
その方が可能性が高いと思います。
Nick Bostrom 1:59:46
そのほかにも、人智学と呼ばれる、より厄介な問題を抱えたこの分野に行き着きます。これは、自分が誰なのか、自分がいる場所の時間が何時なのかが不確かな状況で、どうやって確率を割り当てるかということです。例えば、このシナリオに登場するすべての人が、シミュレーションされているかどうかを賭けなければならないとします。これについて、2つの異なる推論方法が考えられます。
1つは、自分がこれらの人々の中から無作為に選ばれた個人であると仮定し、無作為に選ばれた個人に合わせて賭けるというものです。無作為に選ばれた人と同じように、ほとんどの人がシミュレーションされているとしたら、ほとんどの宝くじはなぜかというと、自分はシミュレーションされた人の一人だからです。
Joe Rogan 2:00:37
なぜ、ほとんどの人がシミュレートされていると仮定しているのでしょうか、ここで私は混乱しています。
Nick Bostrom 2:00:40
それは、時間の終わりまでにはシミュレーションが完了しているからです。
Joe Rogan 2:00:43
これは時間を超越したゲームのようなものですか?まだ存在していないのに、なぜすでに?議論のために言っておきますが、私はこの件に関して本当に意見を持っていないので、あなたが賛成するか反対するかは空気を読んでください。しかし、もし私が実用的な現実について議論するつもりならば、有限の寿命を持つ人間としての生物学的存在の実用性について、あなたは生まれ、死に、今ここにいます。そして私たちは、信じられないようなものを生み出してきた人類の長い歴史の一部なのです。
それは文明につながり、今この瞬間にもつながっています。あなたと私がこのマイクに向かって話し、それが放送されているのです。シミュレーションがまだ起きていない可能性があるのではないでしょうか?我々は技術革新の過程にあり、いつかはシミュレーションを経験する可能性があるのではないか?しかし、それがまだ起きていない可能性や確率を、なぜ考慮に入れないのでしょうか?
Nick Bostrom 2:01:36
ええ、つまり、それはあるということです。しかし、もし人々がこの一般的な原則に従って、シミュレーションが行われる前のオリジナルの歴史の中にいた人々であると仮定すると、ほとんどすべての人が間違っていることがわかります。そして、彼らは賭けに負けてしまいます。
Joe Rogan 2:01:57
シミュレーションが実際に行われると。
Nick Bostrom 2:01:59
つまり、もしあなたが見て、宇宙を統合することができるならば、何もありません。
Joe Rogan 2:02:03
シミュレーションが行われているという証拠はありません。しかし、あなたが生きているという証拠はあります。私には母親がいて、あなたには「まあ、私」がいます。
Nick Bostrom 2:02:09
つまり、これらのことはシミュレーションでも同じように真実である可能性があるのです。つまり、それは
Joe Rogan 2:02:12
しかし、それは夢物語ではないでしょうか?
Nick Bostrom 2:02:16
どんなシミュレーションがあるかというと、多くのシミュレーションが長期間にわたって実行されています。
Joe Rogan 2:02:21
そうですね。でも、誰かがあなたを撃てば、あなたは死ぬことがわかっています。食べ物を食べれば、お腹がいっぱいになることも知っています、これらのことを知っているのです。これらのことは、客観的な事実である可能性がありますが、これらはありえません。さて、なぜ私たちはそう思うのでしょうか?なぜ?私たちはこれまでの人生で、少なくともこれだけのイノベーションを経験してきたと思っているのに、なぜシミュレーションが最も可能性の高いシナリオなのでしょうか?私たちは、イノベーションがある方向に向かっているのを見ています。なぜ、それがまだ起こっていないと仮定しないのでしょうか?
Nick Bostrom 2:02:55
ジョー・ローガンの疑似体験ではない最初のセグメントがあり、その後、疑似体験の他のセグメントがたくさんあるという条件で、その前提を論じようとしているのだと思います。そう、世界全体がそのように見えることを条件に、あなたは自分がシミュレートされたものの一つであると考えるべきなのです。
なぜですか?
それを主張するためには、私が言及した「トピック」と呼ばれる確率論の一部を取り入れる必要があると思います。そして、最初の可能性を作るために、小さな要素を1つだけ取り出してみましょう。合理的な賭け方という観点から考えると、このJoe Rogan体験者の集団において、全体的に最大の勝率になるのは、全員が自分はおそらくシミュレーションされたセグメントの一つであると考えた場合です。もし、このような状況では、自分はシミュレーションされていないローガンの初期セグメントであると考えるべきだという一般的な推論ルールを持っていたら、これらのシミュレーションされた経験の大部分は賭けに負けるでしょう。
Joe Rogan 2:04:04
でも、シミュレーションの証拠はないですよね。
Nick Bostrom 2:04:08
まあ、この2つの選択肢に対する証拠がある限り、間接的な証拠はあると言えるでしょう。
Joe Rogan 2:04:16
2つの選択肢とは、シミュレーションを作成する前に「普遍的な生命の絶滅」を行うか、シミュレーションを作成しないことに同意するか、ということです。しかし、シミュレーションを作成する場合はどうでしょうか?シミュレーションを作成する前に時間が必要なのでは?今日に至るまでの技術革新の歴史的記録があるのに、なぜその時期が現在進行形であると仮定しないのでしょうか?
Nick Bostrom 2:04:43
歴史的記録はシミュレーションの中では存在すると思いますが、
Joe Rogan
ではなぜシミュレーションの中では存在し、現実には存在しない必要があるのでしょうか?
Nick Bostrom 2:04:52
つまり、ある種のシミュレーションであれば、シミュレーションの中に存在する可能性があるということです。空想上のシミュレーションであれば、そこには存在しないかもしれませんね。
Joe Rogan 2:05:02
そうですね。でも、それは現実かもしれません。そうである必要はありません。
Nick Bostrom 2:05:05
つまり、ある意味では、両方とも正しいのです。つまり、それは本当のオリジナルの歴史の中での1つのジョー・ローガンの経験ということです。そして、後にシミュレーションされた現実では、100万回くらいの経験になるでしょう。しかし、もしあなたの行動が、時空間に存在しうるさまざまな場所を区別できないようなものだとしたら、あなたの決断の影響のほとんどは、これらの100万ドルの臓器のインスタンスすべてに影響を与えることになるでしょう。
Joe Rogan 2:05:33
しかし、このシミュレーションは存在することが証明されていますが、実際には証明されていません。私たちは、少なくとも私たち全員が同意しているという点では、存在しています。私たちは生物学的な生命を持っていることが証明されています。私たちは繁殖し、眠り、食べ、飛行機で旅をします。
Nick Bostrom 2:05:52
たとえ私たちがシミュレーションの中にいたとしても、それが私たちの本当の姿なのかもしれません。
Joe Rogan 2:05:57
しかし、なぜ私たちがシミュレータの中にいると仮定するのでしょうか?ここが引っかかるんですよね。そうですね。なぜなら、なぜシミュレーションがいつか可能になると仮定しないのか?現在シミュレーションが行われているという証拠や、私にとって意味のある証拠は何もないのですか?
Nick Bostrom 2:06:12
そうですね。つまり、確率と数字のゲームの問題なんですよね?
Joe Rogan 2:06:17
そうなんですか?それが今の現実ですか?そうです。しかし、私たちがシミュレーションの中にいる可能性の方が高いという可能性を示すものは何なのか、それが私にはわかりません。
Nick Bostrom 2:06:28
では、いくつかの可能性を挙げてみましょう。一番わかりやすいのは、例えば、目の前に大きなウィンドウが現れて、ここはシミュレーションの中です、と言われるようなものでしょうか。もっと決定的なことは、ここをクリックしてください。はい、そうです。そうでない場合は、2つの選択肢に対する証拠がある限り、確率論的には弱い証拠となります。
例えば、私たちの段階の文明が成熟する前に絶滅する可能性が低いことを示唆する証拠があれば、例えば、私たちが行動を共にし、核兵器を廃絶し、慎重になり、すべての小惑星をチェックし、私たちの財産に衝突するものは何もないとすると、最初の権利の確率を下げる傾向があります。そうすると、残りの選択肢の確率が下がる傾向にあります。
仮に、私たちがポストヒューマンに近づいたとしましょう。より高度なコンピュータやVRが開発され、私たち自身もこの点に近づいているような気がします。そして、まだ祖先のシミュレーションを行うことに興味を持っていて、それが可能になったらすぐにリソースを使いたいと考えています。そうすると、確率的には2番目の選択肢よりも高くなります。
つまり、私たち自身がほとんどポストヒューマンになっていて、なおかつ祖先のシミュレーションを行うことに興味を持っているのであれば、ポストヒューマンで技術的に成熟した文明の間で強い収束が起こる可能性は低くなるということです。そうなると、残りの代替技術に確率が移ってしまいます。極端な例ですが、例えば、今から1000年後に、シミュレーションを実行できる独自の惑星サイズのコンピュータを構築していたとします。そして、そのスイッチを入れようとしています。そして、私たちのような人間のシミュレーションを正確に作成します。そして、このようなシミュレーションを開始する大きなボタンに向かって進むと、最初の2つの仮説の可能性は基本的にゼロになります。そして、このボタンを押して100万ものシミュレーションを作成すると、ほぼ確実に私たち自身がシミュレーションの中にいると結論づけなければなりません。
Joe Rogan 2:08:37
その状態になれば、私たちはシミュレーションの中にいることになりますが、私たちはまだその状態になっていません。なぜ私たちは、現在経験している実際の状態にいると仮定しないのでしょうか?
Nick Bostrom 2:08:44
さて、私はこう言いました、そうです、私たちは無知であると仮定すべきではありません、私たちがどの異なるタイムスライスにいるのか、どの異なるジョー・ローガン体験にいるのか?現在のものです。それがどれなのか、内側からはわからないのです。もしも、客観的な時計のようなものがあって、その時計がまだ非常に早く、シミュレーションが起こっていないと言えるとしたら、どうでしょうか。もちろん、元々の歴史の中ではそう結論づけることもできますが、もし窓の外に時計が見えなければ、シミュレーションに外を見る窓がなければ、同じように見えてしまうでしょう。そうなると、自分がどの異なるインスタンスであるのかを見分ける方法がないと言えるでしょう。
Joe Rogan 2:09:31
そのうちの一つは、シミュレーションは存在せず、私たちはそのシミュレーションに向かって進んでいて、ある日、私はそのシミュレーションに連れて行かれる、というものです。
Nick Bostrom 2:09:38
ある病院に連れて行かれても、100万人はいない
Joe Rogan 2:09:40
のようになります。だから100万分の1というのは、今の経験が人生だということです。一人は
Nick Bostrom 2:09:45
違います。他の条件付きです。
Joe Rogan 2:09:49
他の選択肢が間違っている場合、例えば、人類がまだ自爆していないとしましょう。シミュレーションを起動しないという判断をする必要性がないことを、人類が思いつかなかったとしましょう。なぜなら、シミュレーションがまだ発明されていないからです。その可能性もあるのではないでしょうか?私たちが同意している技術革新の実際のタイムラインは現実のものであり、私たちはシミュレーションの中ではなく、生身の人間としてこれを経験しているのです。その可能性もあるのではないでしょうか?
Nick Bostrom 2:10:25
そうですね、ただ、その可能性がどのくらいあるのか、ということです。
Joe Rogan 2:10:28
なぜ超高確率ではないのでしょうか?私たちがそれを経験しているから?
Nick Bostrom 2:10:31
つまり、あなたのような経験を持つ人にとっては、非常に珍しい状況でしょう。あなたの経験はどうですか?私の表現はそこでも同じように?ええ、それは非常に珍しいことです。それは
Joe Rogan 2:10:42
あなたの70億の異常な経験がたまたまありますが、なぜそれがシミュレートされるのですか。
Nick Bostrom 2:10:49
例えば、100万回のシミュレーションがあったとしたら、それは100万倍になります。
Joe Rogan 2:10:55
しかし、なぜそのようなことが起こるのでしょうか?どんなシミュレーションもないのでしょうか?なぜ70億人もの人々が人生を経験することができないのでしょうか?
Nick Bostrom 2:11:01
そうですね。つまり、このようなシミュレーションが作られるのを妨げる何かがあるはずなのです。
Joe Rogan
ここで私を見失いましたね
Nick Bostrom
そうですね。つまり、私は世界を4次元構造として考える傾向があり、時間は1次元である、という違いがあるのではないでしょうか?つまり、時間の終わりまでに起こったであろう存在の全体像を考えて、現在の経験と一致するすべての異なる経験を見ているということですね。なるほど。これらの様々な仮定を考えると、その大部分はシミュレーションされたものになるでしょう。
Joe Rogan
2:11:44
なぜですか?
Nick Bostrom 2:11:47
様々な仮定の中で、選択肢1と2は基本的に間違っているということです。
Joe Rogan 2:11:51
選択肢はどうですか?私の選択肢は?
Nick Bostrom 2:11:52
ええ、あなたの選択肢では、これまでに存在したすべての経験の大部分がシミュレートされていることになります。
Joe Rogan 2:12:01
私の選択肢の概念は、まだ何も起こっていないということです。
Nick Bostrom 2:12:03
そうですね。でも、あったかもしれません。
かもね。でもまだないんです。
そうですね。しかし、私が理解しているあなたの選択肢は、もしあなたが時間の終わりに宇宙を見て、私たちが振り返ったとき、私が考えているオリジナルの1つの上に、たくさんのシミュレーションされたバージョンのあなたがいるだろう、というものです。
Joe Rogan 2:12:20
いや、そんなことは考えてもいませんよ。私が言いたいのは、私たちはただここにいるだけで、シミュレーションは存在しないかもしれないということです。そして、それはいつか行われるかもしれませんが、もしかしたら正しく行われないかもしれません。
Nick Bostrom 2:12:34
でも、どのバージョンのどのシナリオを検討しているのかを選ばなければなりませんね。
Joe Rogan 2:12:40
それがそのシナリオです。私が考えているシナリオは、私たちがここにいる間に考えているシナリオです。私たちは実際にここにいます。
Nick Bostrom 2:12:46
ですから、このシナリオでは、過去に何が起こったのか、今は何が起こっているのか、ということを言いたいのです。そして、未来には何が起こるのか?
Joe Rogan 2:12:53
さて、私たちは未来に何が起こるのかはわかりません。
Nick Bostrom 2:12:55
その通りですね。ですから、両方の選択肢を考えることができますよね?そう、後から作られたシミュレーションがないという選択肢です。そうすると、最初の2つの選択肢のうちの1つということになりますね。
Joe Rogan 2:13:08
しかし、もう一つの選択肢は、後からエミュレーションが作られる可能性があるが、それは起こっていないということです。しかし、それは起こっていません。
Nick Bostrom 2:13:18
そうですね。しかし、後になって、それが起こるということです。これは一つの可能性です。そして、もしそれが私たちの見ている世界であるならば、あなたのような経験のほとんどは、シミュレーションの中に存在していることになります。私はまだ
Joe Rogan 2:13:36
私はまだそれを理解していません。なぜ、まだ起こっていないことが可能なのではないでしょうか?
Nick Bostrom 2:13:42
それは、そのシナリオの中で、どの体験があなたの現在の瞬間なのかによりますよね。つまり、100万個の経験と最初の経験があるということです。
Joe Rogan 2:13:55
あなたは内側から見れば、100万個の経験があることがわかります。しかし、今のところ、技術的に可能であるという証拠は何もありません。あるかもしれないとは思っていますが、まだ実現していません。では、シミュレーションを作ることが可能であるという証拠は何もないのに、なぜ私たちは現在シミュレーションの中にいると考えるのでしょうか?
Nick Bostrom 2:14:22
何か別の方法で説明できるかもしれません。私が考えていることは、
私は自分の言っていることを理解しています。ごめんなさい、遮って。
私はただ、シミュレーションなどとは関係のない、もっと単純な思考実験が考えられるのではないかと思っています。でも、もしそうなら想像してみてください、私はこれを作っているのです。
実際にうまくいくかどうかはわかりませんが、あなたは部屋に連れて行かれて、そこで1時間起きています。そして、コインが投げられます。コインが頭ならば実験は終了し、部屋を出るとすべてが元通りになります。でも、もしコインが裏だったら、記憶喪失になる薬を飲まされます。そして、再びその部屋で起こされますが、以前にそこにいたことを覚えていないので、初めてそこにいると思いますよね?これを10回繰り返すのです。つまり、部屋にいるあなたの経験が1つだけの世界か、あるいは、部屋にいるジョー・ローガンの経験が10回あって、その間に記憶喪失のエピソードがある世界か、ということですね。しかし、あなたが部屋にいるとき、今、あなたはこの部屋にいることに気づき、うーん、私がこの部屋にいるのは初めてだろうかと考えます。そうかもしれない。しかし、後になって、記憶喪失の薬を飲まされただけということもあり得るのです。
そこで質問ですが、この部屋で目が覚めたら、時間内に存在しうるさまざまな場所に確率を割り当て、自分がどこにいるかに応じて賭けをしたり、何らかの決断をしたりしなければなりません。もしあなたがこの部屋で目覚めたとき、あなたが1の時間にいるコインと、後の時間にいるコインの確率はどのようになると思いますか、という質問です。
Joe Rogan 2:16:28
さて、私が実際にここにいる確率と、1時間ごとに何度も何度も薬を飲まされ続けるという非常に可能性の低いシナリオの確率はどうでしょうか?
Nick Bostrom 2:16:37
私たちは、もしあなたが、このようなことをする手段を持ったマッドサイエンティストがいて、彼がこのコインを弾くような設定になっていると確信しているならば、と仮定しています。つまり、どちらにしても確信があり、唯一わからないのはコインがどうやって落ちたかということだと仮定しています。
Joe Rogan 2:16:53
それがシナリオだったら、マッドサイエンティストの可能性があることを知っていて、何度も何度も目を覚ますことができるとしたら、それは狂気のレシピのように思えます。
Nick Bostrom 2:17:04
まあ、これは哲学的な思考実験です。ですから、私の考えを抽象化することができます。
Joe Rogan 2:17:08
私たちがシミュレーションの中にいるという可能性については、証拠が全くないので、この話に戻ります。ではなぜ、最も可能性の高いシナリオが起こっていると仮定しないのでしょうか。それは、私たちはただ存在しているだけで、不思議なようにうまく生きているということです。
Nick Bostrom 2:17:23
そうですね。もし、あなたがこの思考実験をしたくないのであれば
Joe Rogan 2:17:29
信じられないほど制限されていますよね。
Nick Bostrom 2:17:31
私は、確率論をより広範なシミュレーションから切り離そうとしていますが、あなたにもお聞きしたいのですが、もし私たち自身がシミュレーションを作成できる段階に近づいたとしたら、もし私たちが生き残って、多惑星になって、惑星サイズのコンピュータを作ることになるでしょう。シミュレーション仮説の確率は、私たちの意志の変化に伴ってどのように変化するでしょうか?
Joe Rogan 2:17:59
現実と区別がつかないようなシミュレーションを誰かが実際に作ることができるような、深遠な技術革新の証拠に基づいて。しかし、私はむしろ、現在の現実そのものがそうであると仮定したいのですが?そう思えるからこその結果なのではないでしょうか、カミソリさん?それが一番シンプルな答えなのか?これが現実です。これは木であり、あなたはここにいる、あなたはいつか実際にここにいる、まだ起きていないシミュレーションがあるかもしれない。そうですね。
Nick Bostrom 2:18:27
議論があるわけではなく、存在するであろうすべての観測者の中で、自分が非常に珍しい特別な観測者であると仮定する必要があると思います。
Joe Rogan 2:18:38
でも、なぜかというと、みんなそれぞれに変わっているからです。その通りです。しかし、クローンは存在しません。一人の人間ではないのです。同じ人生を100万通りのシナリオで生きているバージョンなんです。
Nick Bostrom 2:18:52
しかし、この点において、もしすべてのシミュレーションがあるとすれば、これらの人々のほとんどはこの点において特別ではありません。ほとんどの人はシミュレーションされていて、エミュレートされているだけですよね?シミュレーションの数は?
2:19:06
シミュレーションはありません。
Nick Bostrom 2:19:10
もしシミュレーションがなければ、そしてこれからもシミュレーションは存在しないでしょう。
Joe Rogan 2:19:13
私たちが言っているのは、「決して存在しない」ということです。
Nick Bostrom 2:19:14
今、外界の現実では何時なのかがわからないので、このようになります。そのため、私たちは証拠を見ても、自分がどこの世界にいるのかわかりません。そこには、元の歴史だけがあってそれが終わる世界と、元の歴史があって多くのシミュレーションが行われる世界があります。この2つのシナリオに対して、どのように確率を設定するかを考えなければなりませんね。
「記憶喪失の部屋」と似たような状況で、いくつかのエピソードがあるとします。このような状況では、世界がどのように構成されているかについてのさまざまな仮説に対して、どのように確率を配分するかが問題となります。このような賭けの議論は、それを理解するために減らすことができる一つのタイプの議論です。
もう1つは、宇宙論などの様々な応用例を見てみましょう。多元宇宙論では、宇宙は非常に大きく、他にも多くの宇宙があり、多くの観測者がいて、可能性のあるすべての観測者が異なる構成で存在しているかもしれません。そのような理論をどうやって検証するのでしょうか。
シミュレーション論の文脈で使用したいと考えているこの同じ種類の人間学的推論は、この種の宇宙論から観測予測を導き出す際にも役割を果たしていると思います。ですから、この人間学的推論の分野は厄介で、まだ完全には解明されていないということを付記しておきたいと思います。
私たちがまだ完全には理解していないことがあるのです。しかしそれでも、シミュレーションの議論に関連する人間的推論の特定のアプリケーションは、比較的問題の少ないものの一つだと思います。
つまり、時間の終わりまでに、多数のシミュレートされたJoe Roganがいて、オリジナルのJoe Roganは1人しかいないという条件で、この仮説を立てると、あなたの確率のほとんどは、シミュレートされたものの1人であることになるように思いますが、他に方法があるかどうかはわかりません。
Joe Rogan 2:21:56
いや、あなたが言っていることは理解できます。あなたが言っていることは完全に理解できます。しかし、なぜあなたが、それが発生していない可能性を考慮に入れようとしないのかわかりません。これはまだ起きていません。
Nick Bostrom 2:22:06
そうですね。つまり、私が言いたいのは、私がその最初のセグメントであることを、同じ証拠を持つ他のニック・ボストロムのセグメントに与えるのと同じ確率で、考慮に入れたということです。
Joe Rogan 2:22:20
私は、私たちが今、現実の生活の中で経験しているように、現在の状態で存在しているという事実に、より多くの確率を与えるからです。炭素の生活、シミュレーションはありませんが、いつかシミュレーションが行われる可能性があります。
Nick Bostrom 2:22:43
さて、それでこれはどうでしょう?仮に、次のようなケースがあったとしましょう。 さて、私たちが考えていることは、ビッグバンがあり、惑星が形成され、何十億年か後に人間が進化したということです。そして今、私たちはここにいるわけですよね。もし、ある物理学者が、宇宙は非常に大きく、宇宙の初期には、非常にまれに、大きなガス雲ではなかったが、無限の宇宙では、どこかでこのようなことが起こるだろう、と言ったとします。
偶然にも、ジョー・ローガンのような脳みそが一瞬集まって、ガスに溶けてしまった、というようなことがありますよね?そう、無限の宇宙があれば、どこかで起こるはずなんです。
しかし、そのような状況にあるジョー・ローガンの脳は、後に惑星に存在するよりも1分1秒でも少なくなるはずです。もし、ある物理学者が、これが私たちの部分、時空の構造だと言ったとしたら、宇宙の初期にガス雲から自然発生的に物質化したごくごくまれな脳があるようなものです。
そして、普通のローガンはもっと後になってから、そしてもちろん、もっともっと普通のものがあります。普通のものは、10の50乗個の惑星に1つの割合で発生しますが、奇妙なものは10の10乗個の通常の惑星に1つの割合で発生します。
Joe Rogan 2:24:01
普通の家 vs 奇妙な家。さて、どうしますか?
Nick Bostrom 2:24:03
さて、普通のものは、惑星で進化してきたもので、母体と異なる別の惑星を持っていました。
Joe Rogan 2:24:10
惑星は1つしかないんですよね?
Nick Bostrom 2:24:12
これはまた、まるで まあ、つまり、実際には宇宙にはたくさんの惑星があって、それはたくさんあるだろうということです。
Joe Rogan 2:24:20
どこに人生はあるのでしょうか?これは純粋な憶測ですよね。
Nick Bostrom 2:24:23
しかし、これは思考実験であり、実際に、実際におそらくそうでしょう。この点では、相対的なものとして、
Joe Rogan 2:24:30
おそらく、他の惑星があるのではないでしょうか。
Nick Bostrom 2:24:32
私が言いたいことは、相対的に一致しているという事実は、関係ないと思います。もし、これが世界の仕組みだとわかったとしたら、いくつかの奇妙なものがガス雲から起こり、大部分は普通の人々が惑星に住んでいるということになります。そのモデルがガス雲のものであっても、他のものはまだ起こっていないかもしれないと考えるべきだと、あなたは同じように言いますか?私は何を失ったのでしょうか。
Joe Rogan
あなたは私を失った。
Nick Bostrom
すみません。
Joe Rogan
そうです。
Nick Bostrom
とにかく、これは構造的に似たような状況だと思います。例外的な初期の生物バージョンがいくつかありますが、それは後のものに比べて非常に少ない数です。そして、もし彼らが自分たちに同じような推論を許すならば、他のものは後に惑星で複雑化するかもしれないし、しないかもしれないが、私は惑星に住むものの一つを信じる理由はない、ということになるでしょう。
そして、私が言ったように、これはおそらく実際に私たちが生きている世界のように見えますが、それは焼き上がるまで無限に続くように見えるということです。これは、ランダムなプロセスから非常に早い段階で自然発生した数個のジョー・ローガンのようなものでしたが、最近の惑星にあるものに比べれば、非常に少ない数になるでしょう。
ですから、シミュレーションの議論に関連してあなたが望む道を歩むことで、あなたは、実際、宇宙の超初期のガス雲の中のボルツマン脳のようなものだと考えることにならないでしょうか。
Joe Rogan 2:26:20
私はまだあなたが言っていることを理解していません。私が言っているのは、科学を信じるならば、科学者は同意しているということです。これまでに人々が同意した発見を信じるならば、雲が形成され、惑星が作られ、すべての物質は星の爆発の中から生まれ、炭素ベースの生命体を発達させるまでには、これが何度も合体する必要があるということに同意しています。今のところ科学的には一致していますよね。そして、単細胞生物が多細胞生物になり、ランダムな突然変異と自然選択を経て、進化を遂げたと考えています。そして、テクノロジーが先ほど説明されたような巨大なスパイクを打った時点に来ていることに同意します。人間が新しい技術を生み出したということですね。このようなことが、シミュレーションなしに、今まさに起こっているとなぜ考えないのでしょうか?
Nick Bostrom 2:27:17
というのも、少なくとも2つの選択肢があり、たとえシミュレーション仮説が真実であっても、多くのバージョンでは、実際にはシミュレーションの中でこれらすべてのことが起こっていることになるからです。そして、そのシミュレーションは長い時間を遡るかもしれません。そしてそれは、現実を追跡するシミュレーションかもしれません。もしかしたら、シミュレーションの外でも同じことが起こっているかもしれません。
Joe Rogan 2:27:55
わかりました。しかし、あるいはこれらすべてのことが実際に起こったのかもしれません。そして、まだシミュレーションはありません。それもあり得ますね。しかし、本当に可能性があるとは思えません。
Nick Bostrom 2:28:07
つまり、私にとっては、他の選択肢のうち少なくとも1つが真実である場合にのみ、可能性があるように思えるのです。あるいは、常に存在する一般的な可能性を認めると、見落としていたような何か大きなことに混乱していて、シミュレーションの議論が何らかの形で間違っているのかもしれません。
これまでの科学や哲学の実績を見ると、どこかが間違っていることがあります。だから、私はその可能性を考えています。しかし、現在考えられるパラメータの範囲内で作業するならば、私たちは、何度も何度もシミュレーションが必要となる宇宙で最初の文明となるでしょう。まさにそのような理由から、可能性は低いと思われます。そして、もし私たちが最初の文明であるとしたら、それはおそらく代替案の1つが真実だからでしょう。
Joe Rogan 2:29:00
頭が真っ白になるような話ですね。そして、座って考えれば考えるほど、これらの概念について熟考することになりますが、私は、どちらかの側にいるわけではありません。怖くもありますが、驚きでもあります。
Nick Bostrom 2:29:17
まだ解明されていないことが他にもありますが、もし50年後に戻ってきたとしたら、人間が何かを考えるということだけでも、先ほど少し触れた「重要な考慮事項」( crucial consideration)という概念があると思うんです。それは、何かの議論やデータ、洞察があって、もしそれが評価されさえすれば、私たちの全体的な優先順位の計画についての考え方を根本的に変えることができるという考えですが、単に何かを進める正確な方法を変えるだけでなく、私たち自身を完全に再編成するということです。
例えば、あなたが無神論者で、何か大きな転換の経験をしたとします。あなたの人生はとても変わったと感じますよね。今まで何をしていたかというと、基本的には時間を無駄にしていました。そして今、あなたはそれが何であるかを知りました。でもそれは、これの少し小さいバージョンかもしれません。というのも、少なくともつい最近までは、重要な考慮事項を発見していなかったからです。つまり、AIかどうかに関わる重要な考慮事項があるということです。それ以外のことは文明としての時間を無駄にしているようなもので、私たちはAIの調整に集中すべきなのです。つまり、ごく最近までのすべての古い時代は、少なくとも1つの重要な考慮事項に気づかなかったように見えるのです。
世界に最大限の良い影響を与えたいと思う限り、何に焦点を当てれば良いのか分からなかったのです。また、今になって最後の1つを見つけたというのも、ちょっとありえないような気がします。
ごく最近までこれらを発見し続けていたということは、おそらく1つ、あるいはもっといくつかの重要な検討事項を見逃していたのでしょう。もしそうだとしたら、私たちは根本的に暗闇の中にいるということになります。
しかし、私たちは多分いくつかの要素を見落としていて、その一つ一つが私たちの考えを完全に変えてしまうようなものなのです。ですから、普通の生活を送って幸せになり、幸せな家庭を築くことだけが目標であれば、それほど問題にはならないと思いますし、そこには多くの証拠があり、数年ごとに変化し続けるようには見えません。
しかし、私たちは今でも良好な関係を保っています。「自分の体を壊さないようにしましょう。体を壊すな」「電車の前に飛び込むな」「これらは試行錯誤されている」と。はい、そうですね。しかし、もしあなたの目標が、期待効用を最大化するように人類の未来をどうにかして導くことであるならば、私たちの最良の推測は数年ごとに飛び交い続け、私たちはその安定した概念に落ち着いていないように思えます。
Joe Rogan 2:32:15
ニック、私はこの会話を長い間処理しなければなりません。でも、感謝しています。そして、ここに来てくれてありがとうございます。本当にとても魅力的です。ありがとうございました。どうもありがとうございました。もし皆さんがあなたの作品を読みたいと思ったら、どこで手に入れることができますか?
Nick Bostrom 2:32:30
Nick bostrom.comです。たぶん、これが一番の出発点だと思います。
Joe Rogan 2:32:34
そうですか。ありがとうございます。私の脳みそは壊れてしまいました。みなさん、さようなら。