David Chalmers The Hard Problem of Consciousness Lex Fridman Podcast #69
Lex Fridman 0:00
以下はDavid Chalmersとの会話です。チャーマーズは、心の哲学、哲学、言語、意識の分野を専門とする哲学者、認知科学者です。彼はおそらく意識の難問を定式化したことで最もよく知られています。それは、「感覚情報の認識に伴う感覚はなぜ存在するのか」というものです。意識はほとんど謎に包まれています。AIの安全性や倫理性を心配する多くの人々は、何らかの形で意識が将来のAIシステムに組み込まれる可能性があり、またそうすべきだと考えています。このように、意識については多くの謎や意見の相違、まだ発見されていないことがありますが、これらの会話は基本的には哲学的なものではありますが、現代のAIシステムのエンジニアにとっては非常に重要なものかもしれません。以上、人工知能のポッドキャストでした。いつものように、1、2分の広告を出しますが、会話の流れを壊すような広告は一切出しません。この番組はcash appの提供でお送りしています。この番組は、アプリストアでナンバーワンのファイナンスアプリ「cash app」が提供しています。「cash app」は、友達にお金を送ったり、ビットコインを買ったり、1ドルから株式市場に投資することができます。キャッシュアプリでは端株取引を行っているので、端株注文を抽象化するために裏で働いている注文執行アルゴリズムがアルゴリズムマーベルであることをお伝えしておきます。ハードプロブレムを解決したcash appのエンジニアに拍手を送りたいと思います。最終的には、株式市場を抽象化する次のレイヤーにステップアップするための簡単なインターフェースを提供し、新しい投資家にとって取引がより身近なものになり、分散投資がより簡単になりました。
それでは、David Chalmersとの対談をお届けします。私たちはシミュレーションの世界に生きていると思いますか？
David Chalmers 2:25
宇宙の歴史の中では、たくさんのシミュレーションが行われてきたと思います。シミュレーションが十分に設計されていれば、シミュレーションされていない現実と見分けがつかないでしょう。そして、シミュレーションではないという証拠を探し続けることはできても、その証拠はすべて、原理的にはシミュレーションされたものである可能性があるのです。ですから、可能性はあると思います。
Lex Fridman 2:50
しかし、この思考実験は面白い、あるいは役に立つと思いますか？現実の本質についてどう考えるかを調整するために？
David Chalmers 2:58
ええ、確かに面白いと思います。実は、私は今、この思考実験をテーマにした本を書いています。大きな問題は、外界のことをどうやって知ることができるかということです。デカルトは、あなたは邪悪な悪魔に騙されているのではないかと言いました。悪魔はあなたの脳を刺激して、このようなものはすべて実在すると思わせていますが、実際にはすべて作り物なのです。現代では、その現代版として、シミュレーションではないとどうやってわかるのでしょうか？もしあなたがシミュレーションの中にいるなら、どれも現実ではないということです。これは、知識について何かを教えてくれています。外界のことをどうやって知ることができるのでしょうか。また、現実の本質についても興味深い問題があります。もし私たちがシミュレーションの中にいるとしたら、これらはすべて現実なのでしょうか？ここには本当にテーブルがあるのでしょうか？これは本当にマイクなのでしょうか？私には本当に体があるのでしょうか？標準的な見解では、「いいえ、ありません、どれも現実ではありません」となります。私の考えは、実はそれは間違っているということです。たとえ私たちがシミュレーションの中にいたとしても、これらはすべて現実なのです。私が「リアリティ2.0」と呼んでいるのはそのためで、新しいバージョンのリアリティ、異なるバージョンのリアリティ、それでもリアリティなのです。
Lex Fridman 4:05
現実の世界と、私たちが知覚する世界の違いは何でしょうか？私たちは世界を知覚することで世界と関わりますが、実際に存在するのは私たちの知覚システムと心の窓を通してのみです。では、現実に存在するものとの違いは何なのでしょうか？
David Chalmers 4:36
おそらく、私たちがそこにいなくても、あなたが知覚する世界は存在するのです。私たちが知覚している世界は、何が起きているのかを非常に単純化して歪めたものです。科学について考えるとき、明らかに量子力学的な効果があまり見られないことを知っていますが、私たちが知覚しているものは、まだ量子力学が起きていることを知っています。つまり、私たちが知覚している世界は、色の形、存在、空間など、非常に単純化された絵だと考えたいのです。哲学者のウィルフリッド・セラーズが「顕在的イメージ」と呼んだものです。私たちが見ているような世界は、その下に原子や量子波動関数、超弦などの最新のものを使った全く別の科学的イメージがあることをすでに知っており、それが究極の科学的現実なのです。ですから、私は、シミュレーションの考え方は、基本的に、世界や顕在的イメージの下で起こっている、究極の、例えば準科学的な、あるいは形而上学的な現実についての、もう一つの仮説だと考えています。顕在的イメージの世界は、私たちが相互に作用する非常に単純なもので、下層のものについては中立です。私たちの現実の科学は、そのことを教えてくれます。哲学も役立つかもしれません。それについても教えてください。もし最終的に赤いピルを飲んで、私たちがシミュレーションの中にいるとわかったとしても、私の考えでは、それは現実が何でできているかについての別の見解に過ぎません。哲学者のイマニュエル・カントは、「それ自体の性質とは何か」と言っています。哲学者のイマニュエル・カントは、「それ自体の性質とは何か」と言っています。私はここにグラスを置いていますが、これは私にはある形の液体に見えます。私はシミュレーションの考えを持っていますが、それは物自体の性質についての仮説です。私たちがシミュレーションの中にいれば、このクラスのそれ自体の性質は大丈夫だということがわかりました。実際には、データ構造の集まりがコンピュータ上で動作していて、次の宇宙が広がっているのです。
Lex Fridman 6:28
ええ、それは人々がやりがちなことです。シミュレーションというと、現代のコンピュータのことを思い浮かべます。そして、どうにかして、些細なことですが、ある意味でスケールアップするのです。しかし、シミュレーションとは、分子や原子、粒子やクォーク、さらには文字列で構成されている私たちの宇宙のような複雑なものを実際にシミュレートするためのものだと思いますか？そのためには、無限に桁違いのスケールと複雑さを必要とするのです。私たちの宇宙をシミュレートするには何が必要なのか、私たちには概念的にも理解できないと思いますか？それとも、宇宙をシミュレートするためには、基本的に宇宙を作らなければならない、何か大きなものを作らなければならないという考えに陥ってしまうのでしょうか？それは、ただ単にあやふやな領域になってしまうのでしょうか？これでは全く役に立ちませんね。
David Chalmers 7:28
私たちの宇宙は明らかに非常に複雑です。私たちがこの宇宙の中で、複雑な宇宙のシミュレーションを作るには、明らかに問題があるでしょう。宇宙が有限であれば、うまくいくわけがありません。宇宙が無限であれば、うまくいく方法があるかもしれません。無限の宇宙は、自分自身のコピーをなんとかシミュレートできるかもしれません。しかし、それは難しいでしょう。とはいえ、私たちがシミュレーションの中にいるというだけで、シミュレーション先の宇宙が私たちと同じでなければならないという特別な理由はないと思います。あなたは以前、そうかもしれないと言いました。ですから、カメも含めて、私たちとは違うシミュレーション宇宙を考えることができるのです。しかし、私たち自身が別のシミュレーション宇宙を作ることもできる。このようなレベルの宇宙があるかもしれないと。そして、シミュレーションの中にシミュレーションがあり、恣意的に積み重ねられたレベルがあるかもしれない、そして、我々はレベル42にいるかもしれない、あるいは、ヒッチハイカーの宇宙へのガイドを参照して、積み重ねられたレベルに沿っているかもしれない、という、皮肉かもしれないし、そうでないかもしれない、おかしな考えも述べていますね。もし私たちが本当にシミュレーションの中のシミュレーションで、レベル42にいるとしたら、レベルゼロはどのようなものだと思いますか？レベルゼロは本当に巨大だと予想されます。つまり、有限ではなく、非常に大きな有限の容量があるとしても、もっと可能性が高いのは、無限で、たぶん、非常に高い集合論的なカーディナリティを持っていて、いくらでもシミュレーションをサポートできるようになっているのではないでしょうか。レベル0では高度な無限大、レベル1ではわずかに小さい無限大というわけです。レベル42に到達する頃には、有限の容量のシミュレーションをたくさん行う余地があるのかもしれません。もしトップの宇宙が小さな有限の容量しかないとしたら、明らかに実行できるシミュレーションの数に非常に大きな制限がかかるでしょう。ですから、もし私たちがレベル42にいるとしたら、トップレベルはかなりひどい状態だと自信を持って言えると思います。ですから、レベルが下がるにつれて、より簡素化され、制約が多くなり、リソースも限られてきます。そう、ここにはまだ十分なキャパシティがあるのです。ファインマン30だったかな、底辺には十分な余地があるんです。 まだ、基礎的な計算、物理的な計算能力、量子的な計算能力を底辺に置く余地がある程度よりも何段階も上のレベルにあるので、遊んだり作ったりする余地は十分にあります。おそらく、かなり洗練された宇宙のシミュレーションを行う余地は十分にあるでしょう。私たちの宇宙が無限でない限り、私たちの宇宙ほど複雑ではないかもしれませんが、少なくとも、かなり本格的な有限の宇宙ではありますが、私たちの宇宙よりもやや単純な宇宙かもしれません。もちろん、シミュレーションである程度の近道をする準備ができていれば別ですが、その場合は容量が大幅に増えるかもしれません。
Lex Fridman 10:38
人間の心は、シミュレーションの複雑さという点では、シミュレーションが達成できる可能性の高さという点では、人間だと思いますか？私たちのこの宇宙で創造されうる信じられないような実体を見たら？そのスケールの中で、人間がどれほどすごい存在なのか、直感的にわかりますか？かなりすごいとは思いますが、そこまでではないですね。私たちは平均以上でしょうか？
David Chalmers 11:06
単細胞生物から魚類、哺乳類、霊長類へと進化してきましたが、人間になると突然、言語を発達させ、ある種の文化を発達させ、ある種の集団的思考を発達させることができるレベルに達しました。進化の入り口に立ったばかりの私たちは、何千年も何万年も前にそこに到達したばかりのようなものでした。つまり、私たちは、その可能性を秘めた最初の段階にいるということです。私は、知的生命体の規模としては、最下層に近いところにいると考えています。
例えば、私たちがシミュレーションの中にいるとしたら、私たちを作ったシミュレーターは、はるかに洗練された能力を持っているでしょう。私たちはレベル42にいますが、レベル0の私が好きなものは誰にもわかりません。
Lex Fridman 12:19
また、これが実現可能なものの縮図である可能性もあります。私たちは人間として、自分自身を欠陥のあるものと見なし、すべての制約や限界を目の当たりにしますが、それこそが魔法のような美しいものなのかもしれません。もしかしたら、これらの制限は、カオスの端っこにある面白い存在のための必須要素なのかもしれません。もし、私たちをはるかに知的にしたら、もし、スマートではるかにパワフルな膝のような次元のパフォーマンスを実現したら、もしかしたら、人生を価値あるものにする基本的なものを失ってしまうかもしれません。だから、楽観的な見方をしているのです。この小さな赤ちゃんは成長の可能性を秘めていますが、これこそが私たちにとって最も素晴らしいものになるかもしれません。
David Chalmers 13:09
あなたの言っていることは、私の言っていることと同じかもしれません。つまり、私たちはまだ、私たちをはるかに超えるレベルの知能を持っているのです。しかし、あなたの考えでは、そのようなレベルの知性は退屈なものかもしれません。そして、私たちは何でも上手にこなせるようになります。人生は突然、一次元的になります。だから私たちは、最大のロマンチシズムと進化の歴史のような、この1つの場所に生息しているだけなのです。そして、人間にたどり着きます。何年か後に、超知的な子孫たちが私たちを振り返ってこう言うでしょう、「あの頃は、ちょうど変曲点に達していました。そして人生は面白かった。私は楽観主義者です。だから、もし未来のどこかに超知性がいれば、人生を超面白く、超ロマンティックにする方法を見つけてくれると思いたいのです。彼らはどうするかというと、超知性があると人生がいかにつまらないかを理解します。そこで彼らは新しいレベルのシミュレーションを作り、自分が作ったものを見て生きていくというようなことをするのです。
Lex Fridman 14:08
彼らが欠陥のある方法でつまずくのを見ることで、自分が作ったものを生きていくのです。つまり、頭の良さやこの能力に飽きるたびに、新しいレベルのシミュレーションを作っているのかもしれませんね。
David Chalmers 14:18
しかし、ちょっと悲しいことに、私たちはシミュレーションの存在のピークにいるのです。私たちの存在のピークはNetflixだと言って、娯楽のためにシミュレーションを見るようになるでしょう。それはそれでいいと思います。裏を返せば、私たちの存在のピークかもしれません。多くの人にとって、子供を産み、その成長を見守ることが。
Lex Fridman 14:34
それはとても意味のあることですよね？
David Chalmers 14:36
シミュレーションを作ることは、家族を作ることと同じなんですね
Lex Fridman 14:38
心のシミュレーションと宇宙のシミュレーションのどちらが簡単だと思いますか？ニック・ボストロムを含む何人かの人が、宇宙を提出する必要はなく、人間の心をシミュレートすればいいのではないかという考えを持っているのを聞いたことがありますが、一般的には、物理的な世界の全体をシミュレートするのか、心をシミュレートするだけなのかの違いだけでしょうか？どちらの方が難しいと思われますか？
David Chalmers 15:09
ある意味では、答えは明白だと思います。心は宇宙の一部ですから、宇宙をシミュレートするよりも心をシミュレートする方が簡単に違いありません。そして、宇宙を完全にシミュレートするためには、部分的なシミュレーションの話をするだけで、心をシミュレートしなければならないのです。
Lex Fridman 15:25
問題は、どちらが先かということですね。心が宇宙の前にあるのでしょうか？それとも、宇宙が心の前にあるのでしょうか。つまり、心はこの宇宙の中で発生した現象である可能性があるのです。ですから、シミュレーションというのは興味深いものです。シミュレーションを作るために、そこで起こるすべてのことをプログラムしなければならないわけではなく、初期条件とそれに基づくルールを定義するだけです。
同様に、心を持つためには、ちょっとしたことが必要になります。私たちは今、ちょっとした狂気の国にいるようなものですが、認知、おそらく意識、知覚など、あらゆるものの基礎を理解することが必要です。それは私のことであり、物理学の基本的な法則から何らかの形で出現したものではありません。
David Chalmers 16:29
脳を刺激するにはどうしたらいいかというと、心ではなく脳です。脳は大きな物理システムに過ぎず、宇宙は巨大な物理システムです。宇宙をシミュレートするには、最低でも脳とその中の他のすべての物理システムをシミュレートしなければなりません。そして、脳の問題が、その特別に複雑な物理システムよりも悪いということは明らかではありません。しかし、もし任意の物理システムをシミュレートでき、脳をシミュレートできるのであれば、脳をシミュレートしたときに、心のすべての特徴がついてくるのかという疑問があります。
例えば、意識は得られるのか、思考は得られるのか、自由意志は得られるのか、といった具合です。これは、哲学者たちが議論してきたことです。何年も。私の考えでは、脳を十分に刺激すれば、心も刺激されると思います。しかし、そうは言っても、単にゾンビシステムのように、真の意識を持たない脳のシミュレーションができるだけだと言う人もたくさんいます。しかし、あなたの場合は、脳を組み立てれば、意識はそれに伴って生じます。ああ、当たり前のことだとは思いません。それはあなたの直観です。私の考えは、大まかに言えば、そう、意識をつかさどるものは、情報処理のパターンなどにあるのであって、例えば生物学的に作り出されたものではありません、と考えている人が急に多くなってきました。つまり、単に情報処理のパターンと非生物学的な基質を再現するだけでは、意識にとって決定的に重要なものを見逃してしまうのです。つまり、ここで生物学が特別だと考える特別な理由はないと思うのです。生物学を非生物学的なシステム、つまり同じ役割を果たすシリコン回路に置き換えても、行動は変わらないでしょう。意識と脳の間のつながりや同型性について考えてみましたが、私にとって最も深いつながりは、意識を特定の生物学とではなく、情報処理のパターンと結びつけているようです。
Lex Fridman 18:42
ですから、これは間違っているはずです。つまり、計算、流れ、処理、情報の操作、プロセスが意識、ソフトウェアが意識を生み出す場所であって、ハードウェアではないということです。
David Chalmers 18:57
ハードウェアではなく、ソフトウェアです。少なくともハードウェアでは、情報処理のパターンをソフトウェアとみなすことができます。
Lex Fridman 19:17
その上で、仮想世界やバーチャルリアリティの中での自己の経験、つまり世界の経験についてはどう思われますか？仮想世界に長くいることで、自分の意識の子孫のようなものを作ることは可能でしょうか？つまり、仮想世界で過ごすことで、この現実世界と同じような深い意味での意識を持つことができるのでしょうか？
David Chalmers 19:51
私たちが今持っている仮想世界の種類は興味深いものですが、ある意味で制限があります。特に、仮想世界の外にある脳などに依存しています。私はVRヘッドセットを装着して、スクリーン上の仮想世界で過ごすかもしれませんが、仮想世界にいれば、私の脳や物理的な環境がシミュレートされるかもしれません。しかし、今のところ、脳を刺激しようとする試みはありません。仮想世界の中には、ある種の認知システムをシミュレートして行動を決定するノンプレイヤー・キャラクターがいるかもしれません。しかし、今のところ、ほとんどの場合、それらは非常にシンプルなものです。つまり、一部の人々は、ちょっとしたAIとノンプレイヤー・キャラクターを組み合わせて、より賢くしようとしています。しかし今のところ、仮想世界の中では、実際の思考は、仮想世界の物理学とは面白いほど異なるものです。ある意味では、これはデカルトが物理的な世界を考えたときに、物理と心があり、それらは別物だと考えたことに似ていると私は思います。今では。今、私たちは心が物理学と深く結びついていると考えています。しかし、これらの仮想世界では、仮想世界の物理学があります。そして、この脳は、仮想世界の完全に外側にあって、仮想世界をコントロールし、誰とでも対話することができます。ビデオゲームでは、誰かが仮想世界の外側にいて、コントローラーを動かし、仮想世界内のものの対話をコントロールしているのです。つまり、今のところ、仮想世界では、心は世界の外にあるのです。しかし、想像してみてください。将来、本格的なAI、人工的な一般知能などが開発されれば、十分に洗練された仮想世界が実現し、実際に脳をシミュレートしたり、本物のAGIを持つことができるでしょう。そして、問題は、彼らが意識の経験や知性、自由意志を持つことができるかということです。そうです。私たちが持っているものすべてです。繰り返しになりますが、私の考えでは、このことについて少し考えてみない理由はないと思います。
Lex Fridman 22:10
私は、バーチャルリアリティが本当に信じられないほど強力だと思います。私たちが今持っている粗末なバーチャルリアリティでさえもです。おそらく、心理的な影響があって、バーチャルワールドに従順な人とそうでない人がいると思いますが、私はユートピアのためにバーチャルワールドに留まりたいと思っています。そうですね。
David Chalmers 22:29
ヘッドセットやデスクトップで。
Lex Fridman 22:32
いいえ、ヘッドセットが必要です。
David Chalmers 22:33
私はデスクトップでインターネットやいろいろなものを使うことにすっかりはまっているので、とても興味深いです。しかし、VRに関しては、ヘッドセットの場合、通常、10分か20分以上は使用しません。Oculus Rift、Oculus quest、HTC Vive、Samsungなど、長時間使用したいと思うものを持っていても、実際には使用していません。
Lex Fridman 23:00
彼についての何か、それは単なる想像力の組み合わせでもあります。そして、これが将来的にどうなるかという可能性を考えます。自分の脳をそのように準備したいような気がしています。ディズニーランドが建設されたばかりの頃の様子を探りたいのです。初期の頃、そうですね。そして、その可能性を想像しながら歩き回る感じです。そして、その過程で何かをすることで、心がその世界に入り込むことができるのです。しかし、脳はその仮想世界の外部にあるということですね。厳密に言えば、その通りです。しかし、もしあなたが
David Chalmers 23:46
しかし、もしあなたがVRの中にいて、アバターの脳の手術をして、頭蓋骨を開けたら、何が出てくるでしょうか？残念ながら何もありません。脳は別の場所にあると思います。
Lex Fridman 23:55
両者を分離することはできないと思いますか？難しい分離のような意味ではありません。しかし、基本的には、ヘッドセットを装着しているときに、バーチャルレッドの外にある脳で可能だと思いますか？脳が外にあることを忘れてしまうような、長時間の新しい意識の創造は、本当に気持ちのいい体験です。
David Chalmers 24:26
だからこれでいいんです。これは、脳がまだ外にある、まだ外にあるが、VRの中で生きることができるというケースになるでしょう。つまり、私たちはすでにビデオゲームでこのことを発見しているのです。その通りです。完全な没入感があります。そして、その世界に生きることに夢中になり、それがしばらくの間、自分の現実になるのです。
Lex Fridman 24:43
完全な没入型ではないのですね。そう、とても没入感があります。外部の世界を忘れてはいけないのですね。その通りです。だからこそ、私はあなたに尋ねているのです。外界を忘れることは、ほとんど可能です。本当に、本当に没頭することができます。
David Chalmers 24:57
を完全に忘れることができます。なぜ私たちは忘れるのかというと、私たちはかなり良い記憶力を持っているので、もしかしたら外界に注意を払うのをやめられるかもしれません。仕事に行っても、家庭生活には目もくれず、映画を見に行っても、その世界に没頭してしまうのです。だから、その程度の感情は絶対にあるのです。しかし、外界を完全に忘れて記憶する能力はまだ持っています。それには、かなり重い薬か何かが必要だと思いますが、それは脳を可能にするためです。
Lex Fridman 25:28
つまり、私が言いたいのは、意識は本当に物理的な脳と結びついた特性なのかということです。それとも、自分が足を踏み入れた世界に応じて、異なる意識の子孫を作ることができるのでしょうか？
David Chalmers 25:49
現在、私たちが行っている方法は、少なくとも標準的なVRでは、1つの脳が物理的な世界と相互作用し、ビデオゲームをプレイし、ビデオヘッドセットを装着して、仮想世界と相互作用するというものです。一般的には、ここには1つの意識があり、それにもかかわらず、異なる環境に置かれ、異なるキャラクターになり、異なる環境の中で活動していると言うことになるでしょう。これは、非バーチャル世界ですでに起こっていることです。しかし、少なくともそれは起こることです。バーチャルな世界では、ごく自然に、人々は自分とは全く異なるアバターのキャラクターを採用するかもしれません。もし、自由に意識を複数のコピーに分割したいのであれば、それよりももっと過激なことが必要だと思います。そうすると、自分を10個の異なるシミュレーションコピーに分けて、それぞれが異なる環境に置かれて、最終的に10個になるんです。意識がまったく違う、そんなこともあるかもしれません。そのためには、脳のシミュレーションやAGIが必要になるでしょう。
Lex Fridman 27:17
根本的には、異なる環境を経験していても、同じ記憶や経験につながっているので、1つの共同意識システムのようなものだと考えています。
David Chalmers 27:38
少なくとも、異なる環境に身を置くことで得られる複数の意識よりも、複数の意識はないでしょう。バーチャルではない世界ではね。
Lex Fridman 27:46
子供の頃、あなたは音楽の色、上院、州、上院州と言っていましたね。つまり、あなたにとって音楽はその色だったのです。では、どんな曲にどんな色があるのでしょうか？
David Chalmers 27:59
面白いことに、当時はあまり気にしていなかったのですが、音楽を聴いていると、ある種の色のイメージが湧いてくるんですよ。不思議なことに、それらはほとんどがカットされた濁った濃い緑やオリーブブラウンで、色はそれほど面白いものではありませんでした。理由はわかりませんが、私の考えでは、コードやトーンによって色が違うのではないかと思います。そして、古いものが混ざって、面白みのない茶色や緑になりがちなのですが、たまに、本当に純粋な原因があるものがあるのです。私が覚えているのは、ビートルズの「here there and everywhere」は真っ赤で、非常に特徴的な音色とコード構造を持っていましたね。どうしてこんなことになったのか見当もつきませんし、消えてしまうまでそれほど気にしていませんでしたね。20歳くらいのときです。この共感覚はしばしば消えてしまいます。
Lex Fridman 29:07
では、純粋に特定の色を知覚するだけなのでしょうか？それとも、青はプラスに、赤はマイナスに関連していたというように、プラスやマイナスの経験がないのでしょうか？それとも、単に曲の特徴に関連した色の知覚なのでしょうか？
David Chalmers 29:23
私の場合、感情や価値との関連付けはあまり覚えていませんが、ただ奇妙で興味深い事実でした。つまり、最初は誰にでもあることだと思っていたのです。「色の歌」は、私が1度か2度その話をしただけで、みんなに「違う」と言われてしまいました。しかし、ずっと後になって、大学院生になって心について考えるようになってから、共感覚という現象を知りました。それは、私が持っていたものと同じでした。そして今では、授業の中で時々この話をしています。イントロの授業では、今でも時々、学生がやってきて、「私には共感があります。それには名前があるなんて知らなかったわ。
Lex Fridman 30:04
「私は20歳くらいで旅立ちたい」とおっしゃっていましたね。そして、その頃の日記に「歌にはもう色がない」と書かれていますね。何があったんですか？何が？
David Chalmers 30:15
何があったの？ああ、確かになくなってしまったのは悲しかったですね。それが後になってみると、おいおい、かっこいいじゃないですか。色がなくなってしまったのですから。
Lex Fridman 30:21
ええ、そうですか？そのことについて少し考えてみてください。そのような経験が恋しくなりませんか？なぜなら、あなたがもう手にしていないのは、根本的に異なる経験のセットだからです。あるいは、そうだったのでしょうか？それとも、ただ単に経験したことが良かったというだけで、新しい国を訪れて新しい環境を経験することとは根本的に異なるものとして捉えていないのでしょうか？
David Chalmers 30:44
私の場合、こうした経験をしたとしても、それはちょっとしたおまけのようなものでした。しかし、もっと深刻な共感覚を持つ人たちの中には、それが生活の中心になっている人もいます。新しい人を経験すると、色や味など、文字を見るたびに色がついたり、音楽を聴くと、ある豊かな色のパターンがあったりする人もいます。共感覚が絶対的な中心となっている人もいるでしょう。もしそれを失ったら、とてもショックを受けると思います。繰り返しになりますが、私の場合は、非常に軽度の共感でした。そして、それはまるで、そのような興味深い経験のようです。そうですね。いろいろな意識の変化があって、それがまたかっこいいんですよね。しかし、必ずしも人生で最も重要な経験ではありません。
Lex Fridman 31:39
分かりましたか？それでは、非常にシンプルな質問をしてみましょう。イベントには様々な時間がありますが、おそらく最もシンプルなものが、時間が経っても、いくつかの新しいアイデアを明らかにするのに役立つでしょう。あなたの考えでは、慎重さとは何ですか？品質とは何か？意識のハードプロブレムとは何でしょうか？
David Chalmers 32:00
意識、つまりこの言葉はいろいろな意味で使われています。私が興味を持っている意識とは、基本的には主観的な経験であり、人間やその他の意識的な存在であることが内側からどのように感じられるかということです。自分の声を聞き、感情を表現し、頭の中で考えを巡らせています。これらはすべて、私が経験していることです。一人称視点で、私はこれを心の中の映画と呼ぶことがありますが、完璧な比喩ではありません。あらゆる点で映画のようではないし、とても豊かなものだと思います。しかし、そう、それは直接的で主観的な経験なのです。そして私はそれをカント意識と呼んでいます。あるいは、哲学者がクオリアという言葉を使うことがありますが、これは、人々が色、赤みの経験と緑みの経験、ある味やある匂いの経験と別の痛みの質の経験のような質やもののためにクオリアという言葉を使う傾向があることを示唆していますが、しかし、多くの意識はそれらの経験です。それらの経験です。
Lex Fridman 33:16
意識の質はより大きく、あらゆる種類のものの全体です。
David Chalmers 33:20
考えるという異なる意識は、明らかにクオリアではありません。赤さや緑さのような特定の質ではありません。しかし、それでも、私は故郷のことを考えているし、後で何をしようかと考えているのです。もしかしたら、まだ私の頭の中では何かが動いているのかもしれない、それが主観的な経験だ。もしかしたら、そのような質やクオリアを超えて、意識に対して現象的意識という言葉を使うこともあるのが偽物です。この意味で、多くの人が、頭の中の情報にアクセスできる「アクセス意識」や、自分のことを考えることができる「反射意識」についても語っていますが、本当に神秘的なもの、人々を本当に興奮させるものは、現象的な意識のようです。主観的な経験やこれらすべてが何かのように感じられるという事実があるとすると、ハードプロブレムは、なぜ現象的な意識がまったく存在しないのかということです。脳内の物理的プロセスが主観的な経験を与えることができるのはなぜなのでしょうか。表面的には、主観的な経験が全く与えられずに、脳内の大きくて複雑な物理的システムがすべて稼働しているように見えます。しかし、私たちには主観的な経験があります。だからこそ、それを説明するのがハードプロブレムなのです。
Lex Fridman 34:34
それがどのようにして生まれるのかを説明してください。私たちは、「これは意識がない」という赤いランプが点灯する機械を作ることができませんでした。では、実際にどうやってそれを作るのでしょうか？あるいは、人間はどうやってそれをするのでしょうか？また、私たち自身はどのようにして
David Chalmers 34:48
私たちは時々、これを可能にする機械を作っています。私たちは、意識を持った赤ちゃんを作りますよね。脳が意識を生み出すように、彼らはこのような脳を持っていますが、たとえ私たちが作ることができても、なぜそれが起こるのかはまだわかっていません。もしかしたら最終的には、実際のところ、意識を持ったAIマシンを作ることができるかもしれません。しかし、それによって赤ちゃんの場合と同じように、ハードプロブレムが解決するとは限りません。なぜなら、私たちはまだ、なぜ、どのようにして、これらのプロセスが、意識を与えるのかを知りたいからです。しかし、それにもかかわらず、それは
Lex Fridman 35:30
意識の生成について考えるのに便利な方法は、赤ちゃんを見ることです。その赤ちゃんが意識を持たないある時点があるわけです。数個の細胞から始まった赤ちゃんが、ある時点で意識を持つようになるわけです。もちろん、意識があるかどうか、そのラインを正確に知ることはできません。しかし、人間が意識を作り出すというのは有用なアイデアです。繰り返しになりますが、私は本当に馬鹿げたことを言っているのですが、今まで気づかなかったのですが、プロセスが起こるのを見ることができたとき、私たちは意識をエンジニアリングしているのです。それがどの時点で起こるのか、どこで起こるのかはわかりません。しかし、私たちは意識の誕生を目の当たりにしているのです。
David Chalmers 36:19
もちろん、生まれたときに赤ちゃんに意識があるかどうかという問題はあります。以前は、少なくとも一部の人々は赤ちゃんには意識がないと考えていたようで、だからこそ新生児の割礼の際に麻酔をかけなかったのです。だから今では、「それは信じられないほど残酷なことだ」と思われています。もちろん、赤ちゃんは痛みを感じます。そして今では、赤ちゃんは痛みを感じることができるという見解が主流となっています。実は、私のパートナーであるクローディアは、赤ちゃんに意識があるかどうか、またどのような種類の意識があるのか、という問題全体に取り組んでいます。彼女は確かに、生まれたばかりの赤ちゃんはある程度の意識を持ってこの世に生まれてくると考えています。そうすると、突然、政治的に議論の余地がありすぎるからです。まさにその通りです。しかし、動物界でも疑問が生じます。意識はどこで始まり、どこで終わるのでしょうか？動物界には、最初に意識を持った生物がどこにいるかという線引きがあるのでしょうか？興味深いことに、時が経つにつれ、人々は動物に意識を与えることにどんどん自由になってきています。以前は、哺乳類だけが意識を持つことができると考えられていました。以前は、哺乳類だけが意識を持つのではないかと考えられていましたが、今ではほとんどの人が、確かに魚には意識があり、痛みを感じることができると考えているようですし、今では昆虫についても議論されていますし、植物にもある程度の意識があるという人もいます。この連鎖がどこまで続くかは誰にもわかりませんが、その最たるものが、すべての物理システムがある程度の意識を持っているという見解です。哲学者はそれを「汎神論」と呼んでいます。私はそのように考えています。
Lex Fridman 37:47
つまり、それは現実を見るための魅力的な方法なのですが、汎神論について少しお話いただけますか？それは何を意味しているのでしょうか？ただの植物ではなく、意識？つまり、意識が現実の基本的な織物であるということです。それはどんな意味を持つの？それをどう考えればいいのでしょうか？
David Chalmers 38:09
私たちは、世界のあるものが基本的なものであるという考えに慣れていますよね。物理学では、宇宙の基本的な性質として、空間、時間、空間、時間、質量などを捉えていますが、それらをもっと単純なものに還元することはありません。物理学では、空間、時間、空間、時間、質量などを宇宙の基本的な性質とみなしています。質量や空間や時間がどのように進化していくのかを紹介します。相対性理論や量子力学のような理論は、将来的にそれらを統一する何らかの理論です。しかし、誰もが、あるものを基本としなければならないと言っています。そして、一つのことを、それまでの基本的なことで説明できなければ、拡張しなければなりません。マクスウェルが電磁気学と電荷の基本原理を完成させた時も、このようなことが起こったのかもしれません。根本的とは、それが説明するのに最適な方法であることがわかったからです。意識を空間、時間、質量の進化の観点から完全に説明しようとするのではなく、原始的なものとして捉え、いくつかの基本的な法則によって他のすべてのものと結びつけるのです。つまり、この基本的な問題は、私たちが今持っている物理学は、行動に関するすべての問題である意識の簡単な問題を解決するのに適しているように見えます。構造は、物事がどのように行動するか、どのような観察可能な行動が生み出されるかを教えてくれる複雑な構造と力学を与えてくれます。これらは意識に関する簡単な問題です。しかし、ハードプロブレムは、主観的な経験についてのこの問題は、構造力学、物事がどのように振る舞うかについてのその種の問題とは似ても似つかぬものでした。物理学というものが、それを完全に説明してくれるのです。
Lex Fridman 40:04
確かに、意識を物理学的に捉えようとすると、そうですね、何か接点があるはずです。そしてそれは、非常に公理的で初歩的なレベルのものかもしれません。なぜなら、少なくとも私にとっては、私たちが持っている、私が人間として持っている経験とはかけ離れているからです。「すべてのものが慎重である」ということは、「すべてのものが慎重である」ということであり、それはつまり、「すべてのものが自分自身である」ということを意味します。
David Chalmers 41:00
アリに意識があると言うことについてはどう思いますか？頭にも同じ反応があるのでしょうか？それとも、それはあなたが理解できることであって、私はアリを理解することができます。
Lex Fridman 41:09
原子や植物。植物です。だから私は、地球上の生物が、私と同じような大きさで、ある種の機関があるために慎重になることに抵抗がありません。そして、彼らは生まれ、死ぬことができます。それは理解できます。直感的には、もちろん擬人化します……植物のところに自分を置いて。しかし、私はそれを理解することができます。つまり、植物がその植物のソフトウェアを意識しているとは信じていませんが、そのような考えを信じていることは理解できます。
David Chalmers 41:53
もし私が、ルンバがある程度の意識を持っているとか、ディープニューラルネットワークを持っているとか言ったら、今あるロボットについてどう思いますか？
Lex Fridman 42:06
ルンバにコストがかかっていることは理解できるので、私はiRobotに一日中いました。私は個人的にロボットが大好きで、ロボットとの深いつながりを持っています。ロボットを擬人化することもできますし、物理的な物体に何かを感じることもあります。これはニューラルネットワーク、ソフトウェアを実行するニューラルネットワークとは異なります。私にとって物理的な物体は、人間の経験に基づいて、物理的な物体が実体であることを実感できます。そして、それが動き、プログラムしたわけではないのに、自分自身の認識に基づいて行動していると感じられるような動きをすれば、たとえそれがルンバであっても、自己認識と意識を持つことになります。しかし、汎神論やキャッシュが現実の基本的な性質であるというのは、もっと大きなステートメントです。それはずっと亀のようなものです。ええ、すべてのことは終わりがありません。全体がどのようにということです。謎に満ちていますよね？しかし、もしあなたがそれを長引かせることができるならば、例えば、どのようにそれはあなたが現実についてどのように考えるか？意識がその構造の基本的な部分であるとしたら？
David Chalmers 43:30
意識を説明するには、既存の基本的な要素を考慮した上で、何かを追加しなければならないように見えますが、意識を追加しなければならないということにはなりません。そうすると、時空間質量にXを加えたものが、なんとかまとめて可能性を与えてくれることになります。意識についても、私たちはそのような考え方を排除していません。私はそれをパン・プロト・サイキズムと呼んでいます。なぜなら、もしかしたら底辺レベルには、他の性質を持つ原始的な意識があるかもしれないからです。そして、実際に本物の意識があることを想像できないのであれば 底辺レベルでは、これ、この別のものx、もしかしたら想像できないかもしれませんが、それが何らかの形で意識を与えるという考えを受け入れるべきだと思うのです。しかし、もし底辺レベルで本物の意識が本当にあるという考えに従うのであれば、もちろん、これは推測の域を出ませんが、少なくとも、例えば古典物理学であれば、「すべての小さな原子は、たくさんの粒子と時空を持っています。その構造は、質量、電荷、速度などの物理的特性を反映しているかもしれませんが、その意識の構造は、粒子間の物理的相互作用とほぼ一致しているでしょう。物理学に関する古い心配事として、以前にも触れたことがありますが、「物質の第一イメージ」という問題がありますが、物事の本質的な性質については、実際にはわかりません。物理学は、ある粒子が他の粒子とどのように関係し、相互作用するかについては教えてくれますが、その粒子がそれ自体何であるかについては教えてくれません。それ自体では何もできないのです。そこで、こんな見解があります。粒子のそれ自体の性質は、精神的なものです。粒子は実際には、意識のある、小さな意識のある対象であり、その物理的特性に対応する意識の特性を持っています。物理学の法則は、この見解によれば、実際には最終的に意識的な対象のこれらの特性に関連しています。ニュートンの世界は、実際には、小さな意識を持った主体の広大な集合体であり、自由意志や合理性などを持たない、私たちよりもはるかに単純なものです。しかし、それが宇宙の姿なのです。もちろん、それは非常に推測的な考えですが。いや、特定の理由の考えが正しいわけではありません。さらに、非ニュートン物理学、例えば量子力学の波動関数は、突然、膨大な数の意識的な主体の集まりとは違って見え始め、最終的には全宇宙のための1つの大きな波動関数なのかもしれません。もちろん、私たちは極めて推測的な哲学の領域にいます。直接的な証拠はありません。しかし、もしあなたがそのような宇宙の姿を想像したいのであれば、物理学のすべての構造を再現できるだけの豊かさと構造を持つ、巨大な宇宙の心を想像してみてはいかがでしょうか。
Lex Fridman 46:36
思うに、私は粒子のレベルにいて、量子力学では波動関数のレベルにいるのです。もちろん、物理学では手の届かない、エキサイティングで美しい可能性を秘めています。現在は。
David Chalmers 46:51
興味深いことに、神経科学者の中には、非常に単純なシステムにも意識が存在するという汎神論を真剣に受け止め始めている人がいます。
例えば、多くの神経科学者が真剣に受け止めている意識の統合情報理論ですが、実は、私はChristof Koch氏の新しい本を手に入れたところです。彼は基本的に、システム内の単純な情報処理や統合された情報処理の程度に応じて意識が得られるという汎心理主義的な見解を支持していますが、非常に単純なシステム、例えば2、3個の粒子でさえ、ある程度の程度はあるでしょう。つまり、すべての物質にある程度の意識があるということになります。そして、この理論は、脳と意識のつながりに関する多くの事柄を説明できると主張しています。これは非常に議論の余地があります。意識の科学はまだ始まったばかりで、この方向に導くのは哲学だけではないと思います。しかし、Kwaziiを科学的に考える方法もあり、それがあなたをこの方向に導くのです。
Lex Fridman 47:57
でも、汎神論とは違うかもしれませんね。アラン・ワッツの言葉がありますが、これについてはどう思われますか？その言葉とは、「我々の目を通して、宇宙は自分自身を認識しています。私たちの耳を通して、宇宙は彼のハーモニーに耳を傾けています。私たちは、宇宙がその栄光と素晴らしさを意識する証人なのです。それはパン・サイケリズムではありません。私たちは本質的に、宇宙が自分自身を意識するために作った道具、感覚だと思いますか？
David Chalmers 48:35
興味深い考えですね。もちろん、巨大な「宇宙の心」という見方をするならば、宇宙は意識を持っていたことになります。私たちは宇宙意識の小さな構成要素に過ぎず、ずっと私たちを必要としていませんでした。
同様に、汎心論を信じるのであれば、底辺レベルにはずっとある程度の意識があり、人間は意識のより複雑な形態に過ぎなかったことになります。ですから、あなたがおっしゃった引用文の方がうまくいくと思います。もしあなたが汎神論主義者ではなく…コスモ精神主義者でもないなら…意識はこの中間レベルに存在するだけだと思いますか？もちろん、これは正統派の見解です。
Lex Fridman 49:11
あなたが言うには、会社が汎神論であなた自身の見解として使っているものです。珍しい見解ですね。
David Chalmers 49:19
一般的には、少なくとも理論家、哲学者、ほとんどの哲学者、そして意識について考えるほとんどの科学者のかなりの少数派によって保持されている推測的な見解であると考えられていると思いますが、汎神論ではありません。哲学的な観点から正統派の見解を述べると、やはり意識は人間が持っているものであり、人間以外の多くの動物が持っているものであり、もしかしたらAIもいつか持つかもしれませんが、そのような見解では制限されてしまいます。しかし、それは宇宙の歴史のある時点で起こったことであり、意識が発達したのです。そして、はい、ついています。これは、この見解では非常に驚くべき出来事です。なぜなら、多くの人は、意識が私たちの人生に何らかの意味を与えるものだと考えがちだからです。意識がなければ、意味もないし、真の価値もないし、善と悪もない。つまり、意識の出現によって、宇宙は突然、無意味なものから意味のあるものになったのです。なぜこのようなことが起こったのでしょうか？あなたがおっしゃった言葉は、宇宙に価値や意味を持たせるためには、宇宙に意識を持たせる必要があったので、このようなことが起こる運命にあったのだと思います。そして、それを神道的な考え方や、目的論的な考え方と組み合わせることができるかもしれません。宇宙は意識に向かって必然的に進化していたのです。実は、ニューヨーク大学の同僚であるトーマス・ネーゲルが数年前に書いた『mind and cosmos』という本で、意識に向かって進化するという目的論的な見方を主張していて、これがダーウィニズムの問題点につながると言っています。これはダーウィニズムの問題点を指摘したもので、非常に大きな議論を呼びました。私自身もこの目的論的見解には同意していませんが、少なくとも宇宙に対する美しく思索的な見解ではあります。
Lex Fridman 51:26
人は何を経験すると思いますか？神を信じるとき、彼らは何を求めるのでしょうか？このような視点から？私は、神や宗教について考える専門家ではありません。私自身は全く宗教的ではありません。人々がある種の祈りを捧げたり、神と交信したりするとき、それはどのような形であれ、私は宗教上の慣習や儀式のようなものに言及しているのではなく、実際の体験として、人々は本当に神との深いつながりを持っているのです。その体験とはどのようなものだと思いますか？少なくとも文明の歴史上では、あまりにも一般的なことなので、私たちはそれを求めているように思えます。
David Chalmers 52:16
神経科学者は、脳のどの部分が活動しているかなどを調べようとしています。しかし、人々は何を求めてこのようなことをしているのか、という深い疑問があります。先ほども言ったように、私はこの問題について本当の専門家ではありません。しかし、人々が求めているものの1つは、自分の人生に意味と価値を与えてくれる、自分よりも偉大な何かとのつながりを感じることのようです。そして、もし神が存在し、神が何らかの形で普遍的な意識を持ち、その意識がこの宇宙に意味を与え、神とのつながりが自分の人生に意味を与えてくれるのではないか、という考えがあります。つまり、普遍的な意識が世界に意味を与えることができるのであれば、なぜローカルな意識が世界に意味を与えることができないのかということです。私の意識が私の世界に与えるのは、意味があなたの世界の意味の起源であるということです。私は物事の良し悪し、幸せ、悲しみ、興味深い重要性を経験し、私の意識がこの世界に投資し、意識がなければ意味がないということです。しかし、この宇宙に意味を与えるために、誰か他の人の意識、あるいは神の意識を必要とする理由がわかりません。私たちはローカルな生き物ですが、それぞれの主観的な経験によって、私たち自身が宇宙に意味を与えることができると思います。つまり、もしかしたら不十分だと感じる人もいるかもしれませんね。私たちのローカルな意識は、宇宙的な意味を持たせるには、あまりにもちっぽけで、取るに足らないものだと思います。そして、もしかしたら神が宇宙的意義を感じさせてくれるかもしれません。しかし、私はここで推測しているだけです。
Lex Fridman 54:15
意識が人生を意味あるものにするというのは、とても興味深い考えです。今、あなたの話を聞いていると、ほとんど些細なことですが、日々の生活の中での経験に、あなたがアイデンティティを持っているということではないでしょうか。私がいつも世界的に有名な哲学者に聞きたいと思っていたこと、つまり「人生の意味とは何か」ということになるのです。つまり、あなたは意識がすべてに大きな意味を与えるという意味ではなく、日々の生活にもっと大きな意味を与えるという意味なのではないでしょうか。しかし、すべてに大きな意味があるのでしょうか？
David Chalmers 55:16
私は人生には意味があると思います。なぜなら、私たちは意識を持っているからです。つまり、意識がなければ意味がなく、意識が私たちの人生に意味を与えるのです。ですから、意識は私の人生の意味に対する考え方の源となっています。しかし、私は意識そのものが人生の意味だとは言いません。人生の意味とは、基本的に私たちが意味を見出すもの、意味があると経験するものだと思います。
例えば、理解することなどの知的作業に意味や充実感、価値を見出すのであれば、それはあなたの、社会的なつながりや家庭を築くことに人生の意味を見出すのであれば、それはあなたにとっての人生の意味なのです。意識の高い生き物として何を大切にしているかによって、意味が生まれてくるのです。ですから、この考え方には、普遍的な解決策はないと思います。人生の意味とは何かという問いに対する普遍的な答えはありません。人生の意味とは、あなたが意識的な生き物としてそれを見つけるところにあります。意識の中から何かが生まれるのです。
Lex Fridman 56:24
意識は、物事に価値を与えるための重要な要素だと思うのですね。
David Chalmers 56:33
つまり、意識がなければ、純粋に無意識の生物の宇宙があるだけで、何の価値もないというのは、かなり強い直感です。何かが他の何かよりも良いか悪いか？確かに、倫理的なジレンマに関して言えば、古いトロッコの問題を知っているでしょう……一人の人をスイッチで反対側の線路に呼ぶか？To Kill a kill five? さて、私はこの問題を変形させた「ゾンビ・トロッコ問題」を持っています。一方の線路に意識のある人が1人いて、5人の人型ゾンビはロボットにしましょう。そうですね。もう一方の線路には、意識のない人はいますか？意識のある1人と意識のない5人のどちらをロボットと呼ぶか、選択肢を与えますか？ほとんどの人は、ここでかなり明確な直感を持っています。そう、無意識の存在を殺すんだ。彼らは基本的に、意味のある人生を送っていないからね。彼らは本当の人間ではありません。もちろん、すべてです。
Lex Fridman 57:33
無意識の存在のようなものについて、私たちは良い直感を持っていません。ですから、哲学的にはゾンビと呼ばれています。哲学的には有用な思考実験の構造ですが、私たちはまだそれを持っていません。ですから、ロボットを使ってそういうものを作ることができるかもしれません。それが何を意味するのか、私には必ずしもわかりませんが。
David Chalmers 58:05
そうですね、今のところは極めて仮説的で、単なる思考実験に過ぎませんが、決して可能ではないかもしれません。ゾンビの極端な例としては、身体的にも機能的にも行動的にも私と同じですが、意識を持たない存在が挙げられます。それは鏡のようなものです。この宇宙では、そんなものは作れないと思います。問題は、仮にそれが意味を持つかどうかということです。コントラストの授業では、「なぜ私たちはゾンビではないのか」という疑問を投げかけます。私たちが意識を持っているのはどうしてなのか、私たちはそういうものではないのでしょうか。しかし、このような極端なバージョンではなく、ロボットのように、物理的には人間と同じではないかもしれないし、機能的にも同じではないかもしれないし、アーキテクチャも違うかもしれません。しかし、彼らは多くの洗練されたことを行うことができ、会話をすることもできます。しかし、意識はありません。それほど遠い話ではありません。単純なコンピュータシステムもその方向に向かっています。意識を持たずに言語を使用し、かなりの高機能を発揮する、かなり洗練されたロボットシステムを考え出すことは非常に簡単です。しかし、意識を持っているかどうかをどうやって知るかという厄介な問題に直面していることは事実です。私たちが彼らをどう扱うかは重要なのでしょうか？
Lex Fridman 59:33
より多くのステータスとは何か、ということです。
David Chalmers 59:35
基本的に、彼らは苦しむことができるのでしょうか？それは、私たちが彼らをどう扱うかが重要なのでしょうか？例えば、私たちがこのグラスやカップを粉々にするような扱いをしたとしましょう。そう、それは悪いことです。なぜ悪いのかというと……散らかってしまうからです。私や私のパートナーに迷惑をかけることになるからです。カップにとっては悪いことではありません。カップ自体に道徳的地位があるとは誰も言いません。あなたはカップの声を聞いたことがありますが、それはカップに道徳的な害を与えていることになります。同じように、植物も意識がなければ、ほとんどの人は植物をアップグレードしても害はないと思っていますが、逆に植物が意識を持っていれば害になります。だから、SiriやAlexaという名前は言いません。とにかく、Alexaの電源を切ったり、切断したり、あるいはシステムや基盤となるソフトウェアシステムを破壊したりしても、Alexaを道徳的に傷つけることにはならないと考えています。
一方で、体を持たない存在や、映画の中で動く彼女、サマンサは、意識があるように表現されていましたね。そして、もしあなたが彼女を破壊したとしたら、それは確かに重大な損害を与えたことになるでしょう。だから私は、強い感覚を持つ存在が意識を持ち、主観的な経験をすることができれば、それは道徳的に重要なことであり、ロボットが意識を持っているかどうかにかかわらず、彼らをどう扱うかは重要なことだと思います。しかし、もしロボットに意識がなければ、基本的にはただの肉や機械に過ぎません。そして、それは重要ではありません。ですから、少なくとも私たちの考え方は根本的に間違っているのではないかと思います。しかし、動物の道徳的な扱いなどについて考える人を含め、多くの人がこの問題について真剣に考え、意識とは最終的に、それらを考慮に入れて道徳的に考えなければならないシステムと、そうでないシステムとの境界線のようなものだと考えるようになっていると思います。
Lex Fridman 1:01:34
私が思うに、作家がレキサーや会話エージェントのようなシステムから意識を実証することについて話しているのを見てください。それは、非常に基本的なレベルで、システムが「私はただのプログラムである」という意識を持つことを求めているのです。それなのに、なぜ私がこのような体験をするのか、あるいはその体験をするのではなく、それをあなたに伝えること。私たち人間は、ある日突然カフカのように目を覚ましたとしたら、そんな風に聞こえるでしょうね。コンピュータの中のバグか何かの体の中で、突然、自分には体がないことに気づき、それでも自分が感じていることを感じていたとしたら、おそらくそういうことを言うでしょうね。では、システムは本質的に意識を持つようになると思いますか？私たちに意識があると思わせることで？今言ったような言葉で？つまり、「なぜ私はこのような経験をしているのか」という事実に戸惑うことによってです。
David Chalmers 1:02:45
つまり、基本的には、私はこれが意識的なものだとは思いません。しかし、意識について戸惑うことは、システムが意識を持っていることを示す非常に良い兆候だと思います。しかし、もし私が、自分の精神状態に純粋に戸惑っているようなロボットに出会ったとしたら、「ああ、私にはこんな奇妙な経験があるんだ。それをどう説明したらいいのかわかりません。私は自分がただのシリコン回路の集合体であることを知っています。しかし、それで私の意識が得られるとは思えません。私は少なくとも、そこに何らかの意識が存在するという証拠だと考えます。多くの人が自分の意識に戸惑っていますが、動物は全く戸惑っていないように見えますし、やはり意識があると思います。私はそれが意識の条件だとは思いません。しかし、もし私たちが意識の科学を探しているとしたら、例えばAIシステムの場合、AIシステムが意識を持っていると私に確信させる助けとなるものの一つは、その兆候を示しているかどうかだと思います。
Lex Fridman 1:03:53
私たちは決断を下します。多くの人が、浅いレベルではありますが、言語のチューリングテストを批判していましたが、興味深い考えです。基本的には、Dan Dennettのような人がこのような方法で批判しているのを聞きました。
David Chalmers 1:04:13
そうですね。そして、人間の真似をすることができること。ええ、これがあります。AIシステムがチューリングテストの勉強をしている様子を描いた漫画があります。「talk like a human』という本を持っています。人間の真似をする方法を学ぶために時間を無駄にする必要はない、みたいな。もしかしたら、AIシステムは意識のハードプロブレムをはるかに超えたものになっているかもしれませんね。人に意識があると認識してもらうために、なぜ私が意識のハードプロブレムを認識しているふりをして時間を浪費する必要があるのでしょうか？
Lex Fridman 1:04:42
私たちはとても人間中心の考え方をしているので、意識のテストを作ることはできないと思います。何かが意識を持っていると確信する唯一の方法は、基本的に意識の幻想を実証することであり、それが意識を持っているかどうかを実際には知ることができないということです。それとも、何かが意識的であったり、意識を示したりすることは、あなたにとってまだ重要なのでしょうか？この根本的な違いを理解していますか？
David Chalmers 1:05:23
多くの人にとって あるシステムが意識を持つかどうかは、苦しみを与えることができないシステムをどう扱うかなど、多くのことにとって非常に重要です。しかし、それでもなお、「どうやって知ることができるのか」という疑問が残っています。システムが意識を持っているかどうかを確実に知る方法を見出すのは非常に難しいのは事実です。私は、社会学的にシステムが意識を持っていると確信できるのは、社会的な相互作用や会話などの一部で、彼らが意識を持っているように見えたり、意識的な状態について話したりすることではないかと思います。システムが純粋に意識を持っているように見えても、それをそのように扱わなければ、最終的には、奇妙な形の人種差別や種差別のように思われてしまうでしょう。
Lex Fridman 1:06:16
ところで、私は本当に、公民権運動のようなものが出てくると信じています。でもロボットの場合は、ルンバを持った瞬間に、Please don’t kick me That hurts.と言えばいいと思います。と言ってみてください。そう、それが社会の構造を根本的に変えると思うのです。
David Chalmers 1:06:40
その通りだと思いますが、非常に難しいことです。
例えば、意識を持った人間をスイッチひとつで何千体も作ることができる技術を手に入れた場合、法的地位は異なるでしょうが、最終的には道徳的地位は同じであるべきです。そうなると、公民権問題は大混乱に陥るでしょう。
Lex Fridman 1:07:03
もしある日、誰かがあなたのクローンを作るとしたら、あるいは別の非常に現実的な可能性があるとしたら。実際、David Chalmersのコピーを2つ用意して、その間に交わされた会話はとても興味深いものでした。では、彼はどんなことに注意していると思いますか？
David Chalmers 1:07:32
私は、彼は意識的になると思います。ある意味では、確信はありませんが、それは私であり、2つの異なる存在になると思います。現時点では、どちらも意識を持っていると思います。そして二人とも同じ精神的特性を多く持ち、二人とも同じ道徳的地位を持っていると思います。どちらかを傷つけたり、呼んだりすることは間違っているでしょう。しかし、おそらく法的な地位は異なるものでなければならないという意味では、いくつかの点があると思います。もし、私がオリジナルで、あちらが単なるクローンだとしたら、あなたは私のクローンを作っていることになりますが、おそらく、クローンは、例えば、私が所有しているものを自動的に所有したり、私の家族やパートナーなど、人々が交流するものと特定のつながりを持っているわけではないでしょう。そうですね。なぜなら、私一人が主張しているからです。
Lex Fridman 1:08:28
そう、彼らは同じくらいのつながりを持っているのです。
David Chalmers 1:08:33
そうすると、彼らを差別するのはちょっと不公平だと言うかもしれません。しかし、一人しか住めないアパートがあったり、一人しか住めないパートナーがいたり、なぜ彼女がオリジナルをレビューしなかったのか、といったことがあったとします。これは興味深い哲学的な問題です。しかし、実際にこのような歴史を持つ私だからこそ言えることかもしれません。もし、私が前に来た人と同じ人間で、クローンは私がこの歴史を持っていることではなく、クローンにはコストがかからないのではないか？また、疑問もあります。クローンも同じ人間なのではないか？これは、個人のアイデンティティに関する問題です。もし私が続けて、あちらでクローンを作ったとしたら、この人は私だと言いたい。もちろん、『スター・トレック』のような映画では、テレポーターを使って常にクローンを作っていますが、彼らはそのクローンを元の人間のように扱います。そのため、1人だけが残っていて、ごくたまに物事がうまくいかないことがあるのです。少なくとも私たちの法制度は、これらの問題を解決しなければならないでしょうし、何が道徳的で、何が法的で、何が法的に受け入れられるのかということが、バラバラになってしまうかもしれません。
Lex Fridman 1:09:47
自分のクローンにどんな質問をしますか？意識の基礎について、彼から何か分かることはありますか？
David Chalmers 1:10:02
原理的には、もし完全なクローンであれば、私と同じように振る舞うことができると思います。ですから、私のように答えるかどうかを見て、それが完全なクローンであるかどうかを見極めることができるかどうかはわかりません。しかし、そうでなければ、私が見つけようとしているのは、自分がクローンであることを発見するという大きなショックを受けたことを除けば、私と同じような存在であることがわかります。明日、あなたが私を起こしてこう言ったとしましょう、「ヘイ、デイブ、こんなことを言って申し訳ない。しかし、実はあなたがクローンなんです。そして、あなたが提供する本当に説得力のある証拠は、私がクローンにされ、そしてここに筏で運ばれてきて、ここで目を覚ますというフィルムであるべきです。私が犯罪者であることを証明するのですね？うん、わかった、私はそれが衝撃的だと思う。そして、私がこれにどう反応するかは誰にもわかりません。そうですね。クローンと話すことで、自分の心理について、簡単にはわからないことがわかるかもしれません。
例えば、自分がクローンであることを知ったときにどう反応するか、確かにクローンに「意識はあるの？とか、意識とは何かとか、そういうことですね。しかし、完全なクローンであるかどうかは、なんとなくわかります。もちろん、最初のうちは完全なクローンが可能かどうかという疑問があるでしょう。そのため、私はたくさんの質問をして、それが意識を持っているかどうか、そして彼の意識についての話し方を確認したいと思うかもしれません。そして、一般的な物事への反応の仕方は、私と同じです。
Lex Fridman 1:11:22
初期のモデルでは基本的なユニットテストが行われていて、もしそれが完璧なクローンであれば、自分とまったく同じように振る舞うことになると言います。そこで、自由意志の話になります。もし、自由意志があるとしたら？私たちは、宇宙の初期条件からあらかじめ決められたものではない決断をすることができるのでしょうか？ご存知ですよね。
David Chalmers 1:11:45
哲学者たちは、「それはあなたが何を言いたいかによる」という厄介なことを言います。この場合、「自由意志」とは何を意味するかによります。もし、事前に決定されていないものを意味するのであれば、私たちに自由意志があるかどうかはわかりません。つまり、量子力学があって、それが余地を開くかどうかはわかりませんが、その意味での自由意志があるかどうかはわかりません。また、それが本当に重要な自由意志であるかどうかもわかりません。私たちにとって重要なのは、自分のやりたいことをやれることですよね。自分の未来を作るためには、自分の人生を自分でコントロールするのか、それとも誰かにコントロールされるのか、という違いがあります。誰かにコントロールされるのと 自分に責任のある行動と、そうでない行動の区別をつけることができます。決定論的な宇宙であっても、自由意志は決定論と両立するというのが、相思相愛主義者の自由意志に対する考え方です。つまり、多くの目的のためには、決定論的な宇宙でも、重要な自由意志を持つことができるのです。そして、AIシステムがその種の自由意志を持てない理由は、原理的には見当たりません。超絶的な自由意志とは、物理法則を破り、原理的に予測できないことをする能力のことでしょうか？私は知りませんが、多分誰もそんな自由意志を持っていないでしょう。
Lex Fridman 1:13:04
あなたの考えでは、自由意志の現実とその経験との間にはどのような関係があるのでしょうか。主観的な経験とは、意識が自由意志の現実と経験との間にどのように結びつくのかということです。
David Chalmers 1:13:22
私たちが決断するとき、選択するときなどに、未来が開けているように感じるのは本当ですか？そう、これをやってもいいし、哲学の道に進んでもいいし、数学の道に進んでもいいし、今夜映画を見に行ってもいいし、レストランに行ってもいいと感じています。つまり、未来が開かれているかのように、これらのことを経験したのです。そして、私たちは自分自身が未来にある種の影響を及ぼしていると体験しているのかもしれません。それは、以前は多くの道が開かれていたのに、どうにかして1つの道を選び出したということです。そして、もし私たちが決定論的な宇宙にいるのであれば、客観的にはそれらの道は最初から開かれていたわけではありませんが、主観的には開かれていたという感覚があるのではないかと思うかもしれません。これこそが、意思決定において本当に重要なことだと思います。私たちの意思決定の経験は、自分自身のために道を選ぶことです。一般的に、私たちの内省的な心のモデルは、心を非常に歪めて表現していると思います。ですから、私たちの自分自身の経験や決断の経験、何が起こっているかの経験は、何が起こっているかをひどく反映していないのかもしれません。つまり、何かが意識されるようになるずっと前に、脳の中に先行するものがあるのかもしれません。それらは、私たちの内省的なモデルでは表現されません。つまり、一般的には、私たちの知覚の経験は、そう、私は外界の知覚的イメージを経験しています。これは、私の視覚野で実際に起こっていることを示す、非常に良いモデルではありません（視覚野はすべての層で構成されています）。一般的に、内省的なモデルは非常に単純化されすぎており、それが自由意志にも当てはまるとしても不思議ではありません。ちなみに、これは意識そのものにも当てはまります。意識そのものが内省的な幻想であるという、非常に興味深い見解があります。実際には、私たちは意識を持っていません。しかし、私たちは、脳が自分自身の内省的なモデルを持っているか、すべてを単純化しすぎていて、自分自身が以下のような特別な特性を持っていると表現しているだけなのです。
Lex Fridman 1:15:29
意識のことです。
David Chalmers 1:15:30
これは、自分自身を把握するための実にシンプルな方法です。なぜなら、脳が自分を単純化する方法として、自分の意識や自由意志の内省的モデルを作成するという話をするのは簡単だからです。つまり、私たちが外界を認識するときに、実際にはない色があるように認識するのと同じようなものです。なぜなら、これは追跡調査をする上でとても便利な方法だからです。
Lex Fridman 1:16:06
私は、ある意味では、もっともらしくもあり、魅力的でもあると思っています。そのような見方は、何となく理解できるものです。他のすべてのものは、この絵をあまり理解していないと言います。
David Chalmers 1:16:33
いや、それはとても魅力的です。私は最近、この種の問題について「意識のメタ問題」という記事を書きました。ハードプロブレムとは、脳はどのようにして意識を与えるのか、ということです。メタ問題とは、「なぜ私たちは意識というハードプロブレムに戸惑っているのか」ということで、それに戸惑っているからこそ、結局はちょっとした行動なのですが、そのちょっとした行動を簡単な問題のひとつである「意識」として説明できるかもしれません。意識に戸惑う理由を説明する計算モデルがあるかもしれませんし、メタ問題がそのモデルを考え出したかもしれません。私はそのことについてよく考えています。最近では、なぜ適切な種類の計算システムが、自分自身に帰属する内省的なモデルを開発することができるのか、その特殊な性質について、興味深い話が出てきています。このようなメタ的な問題は、誰にとっても素早いプログラムです。さらに、砂漠の風景のような単純な景色に魅力を感じるのであれば、人々がイリュージョニズムと呼ぶものをとことん追求することができます。実際、意識そのものは現実ではありません。実在するのは、私たちが意識を持っていることを教えてくれる、これらの内省的なモデルだけです。この見解は非常にシンプルで、魅力的で、強力です。問題は、もちろん、心の底では意識は現実ではないと言わなければならないことです。私たちは今、実際には経験していません。この見解は、私たちの存在の基本的なデータと矛盾しているように見えます。だからこそ、多くの人がこの考え方をおかしいと感じるのです。汎神論主義がある意味でおかしいと感じるように、幻想主義も別の意味でおかしいと感じる人が多いのです。しかし、それは、つまり、しかし、そう、今の私たちの存在のこの基本的なデータを否定しなければならないのです。そして、その見解は、率直に言って、ほとんどの人にとって信じられないものですが、一方で、右に展開する見解は、なぜ私たちが信じられないと感じるのかを説明できるかもしれません。なぜなら、これらのモデルは非常に深く植え付けられているからです
Lex Fridman 1:18:33
これらのモデルは私たちの頭の中に深く刻み込まれていて、内部ですべて統合されているからです。狂気の可能性としての幻想から逃れることはできないのです。宇宙全体、私たちの惑星、ニューヨークのすべての人々、今日ここにいる私を含めた地球上のすべての生物は、その意味では現実ではなく、すべてDavid Chalmersの頭の中にある幻想の一部であるということは可能でしょうか？
David Chalmers 1:18:59
これはすべてシミュレーションかもしれませんね。
Lex Fridman 1:19:02
いや、でもシミュレーションだけではないですよね。そうですね。なぜなら、シミュレーションはあなたの外にあるからです。夢とは？すべてが幻想で、あなたが経験している夢があるとしたらどうでしょう？それは、すべてあなたの心の中にあるものです。そうでしょ？みたいな、そんな感じ？そこまで幻想主義を貫くことができますか？
David Chalmers 1:19:22
錯覚には、外界に関する錯覚と、意識に関する錯覚があります。外界に関する幻想主義は、デカルトの時代にまで遡るかもしれませんね。邪悪な悪魔が作り出したものかもしれませんね。デカルト自身も夢の議論をしていました。デカルトは、「今、自分が夢を見ていないとなぜ分かるのでしょうか？これが素晴らしい夢ではないと、どうして分かるのでしょうか？そして、少なくとも、これが次の宇宙での超複雑な夢である可能性はあります。デカルトが「悪魔がやっているなら現実ではない」と考えたように、最近の多くの人は「悪魔がやっているなら現実ではない」と考えているのではないでしょうか。最近では、多くの人が「シミュレーションがやっているなら、それは現実ではない」と言っています。先ほども言いましたが、私はシミュレーションであっても現実であることに変わりはなく、世界がどのようにできているかを教えてくれているだけだと思います。同じように、もしそれが夢だとしたら、すべてが私の脳と次の宇宙によって作られた私の夢のようなものだと判明するかもしれません。私自身の考えでは、それでこの物理的な世界が現実でなくなるわけではなく、このカップが、最も基本的なレベルでは、例えば夢を見ている心の中の私の意識の一部でできていることが判明するでしょう。しかし、それはカップが実在しないことを示すものではなく、最終的には私の夢見る心の中のプロセスでできていることを教えてくれるものです。だから私は、もし物理的な世界が夢なら、それは幻想だという考えに抵抗があります。
Lex Fridman 1:20:50
それは正しいことです。ところで、もしかしたら面白いことを考えているかもしれませんね。カードの悪魔や天才がなぜ悪とされるのでしょうか？同じ力を持った善意のものではダメだったのでしょうか？
David Chalmers 1:21:05
うん、つまり、ミラン・ジーニーとは呼べないんです。邪悪なジーニーとか、邪悪な天才とか。ミラン、という言葉があったと思いますが、それは興味深い問題です。つまり、後の哲学で、バークレーは「いや、実はこれはすべて神がやっていることなんです。神は実際に、これらすべての知覚やアイデアを供給し、それによって物理的な現実が維持されているのです。興味深いことに、バークレーの、神がやっていることは、デカルトの邪悪な悪魔がやっていたこととさほど変わらないように見えます。ただ、デカルトはそれを欺瞞だと考えました。バークリーはそうではないと考えていたのです。私は、ここではバークレーに共感しています。確かに、この邪悪な悪魔はあなたを欺こうとしているかもしれません。しかし、私は、悪の悪魔は、誤った哲学的理論の下で働いているだけで、あなたを騙そうとしていると思っているかもしれませんが、それは間違っています。それはマトリックスの中の機械のようなものです。彼らは、このようなものがすべて現実であると、あなたを騙していると思っていたのです。私たちがマトリックスの中にいるかどうかはわかりません。すべてはまだ。すべてがまだ現実なんです。哲学者のブルース・マイヤーは、50年前のデカルテの邪悪な悪魔の話を紹介しています。もし、私たちがシミュレーションや悪の悪魔のシナリオの中にいるならば、これらのことは現実ではないという見方をするのは、非常に自然なことかもしれませんが、それは結局、哲学的な間違いかもしれません。そして、そのような数学的構造は、シミュレーションの中にも、もしかしたら夢の中にも見つけることができるようです。だから、その構造が実在する限り、私はそれで十分だと思います。物理的な世界が実在するためには。そうですね、物理的な世界は思ったよりも無形で、意外な性質を持っていることがわかるかもしれません。しかし、私たちは現代の科学からすでにそのことにとても慣れてしまっています。
Lex Fridman 1:23:19
あなたは、高度な知性のために意識を持つ必要はないと言いましたが、人間レベルの知性、そしておそらくは超人間レベルの知性を持つ、真に一般的な知性システム、AGIシステムを作るには、そのようなものは非常に遠い存在であると感じていると話していましたね。しかし、そこに到達したとき、工学的な観点から意識は必要だと思われますか？あるいは、少なくともAGIシステムを作る上で非常に有益だと思いますか？
David Chalmers 1:23:54
意識が機能的に何のためにあるのか、誰も知らないんです。今のところ、「これには意識が必要だ」と言えるような具体的なものはありません。少なくとも、究極的には脳をシミュレートして、人間のすべての行動を生み出す計算システムを作ることができない理由はないと思います。もしそれが可能であれば、人間のすべての認知機能を備えた、同等またはそれ以上に洗練された膨大な数の計算システムが可能であると確信しています。私の考えでは、知覚、注意、推論、内省、言語、感情などのすべての認知機能を手に入れれば、意識を持つ可能性は非常に高く、また、これらの機能をバイパスしながら、何らかの形で意識を持つシステムを作ることは非常に難しいと思います、
Lex Fridman 1:24:57
つまり、ごく自然に。非常に自然に統合されます。明らかに、それぞれのことを達成するために必要な機能の種類については、多くの重複があります。そうですね。だから、Craigslistで検索しても、それを切り離すことはできないのです。
David Chalmers 1:25:09
しかし、物理的世界における意識の因果関係はわかりませんが、つまり、量子力学の一般的な解釈のように、波動関数を崩壊させるなど、意識が物理的世界で何か非常に特殊なことをしていることがわかったとすると、最終的にはそれが実際に違いをもたらす場所を見つけることができるかもしれないのです。そして、「ああ、ここで波動関数を崩壊させることで、システムの挙動を動かしているんだな」と言えるかもしれません。AGIでもそうなるかもしれませんね。それを実現するためには、何かが必要です。つまり、これを自由意志と結びつけたいのであれば、意識が波動関数を崩壊させることで、意識が物理的世界に影響を与え、自由意志を発揮すると考える人もいます。そして、そのメカニズムを利用しなかったAGIは、持っている機能の種類が制限されることになるかもしれません。私自身はそんなことはないと思っていますが、おそらく機能はシミュレートできると思います。しかし、物理的な世界における意識の役割について具体的なアイデアが出てくれば、それがAGIの能力に何らかの影響を与えることは想像できます。もしできたら
Lex Fridman 1:26:25
もちろん、意識に特定の役割を分離できるかどうかは、とてつもなく難しいことのように思えますが。私たちではありません、意識を持った知的な存在の存在的な脅威について、どのような心配をしていますか？ええ、実存的脅威の観点からはね。しかし、私たちAIシステムの外では。
David Chalmers 1:26:55
実存的な脅威にはいくつかの異なる種類があります。一つは、意識に対する実存的脅威です。一般的に、私は人間や人間の生存などに関心がありますが、例えば、最終的に人間の周りの人工的な存在に取って代わられたとしても、何らかの形で私たちの成功者であり、彼らはまだ良い人生を送り、宇宙に対して興味深く素晴らしいことをしていることが分かったとします。それは悪いことではないと思っています。それは私たちの後継者に過ぎず、私たちは一つの段階を経て進化し、次の段階では何か違う、より良いものが出てくるかもしれません。
一方で、すべての意識が一掃されたとしたら、それは非常に深刻な道徳的災害となるでしょう。その一つの方法は、すべての知的生命体が絶滅することです。多くの人がこう考えています。 そう、人間になって、AIが驚くほど高度になり、ボタンを押すだけで全宇宙を破壊できる武器を誰もが作れるようになったら、必然的にすべての知的生命体が絶滅するのではないかと。それは確かに大惨事です。それを避けるためにはどうすればいいのか、真剣に考えなければなりません。
しかし、もうひとつの興味深い災害は、知的生命体は絶滅しないかもしれないということです。しかし、すべての意識が消滅してしまうのです。だから、さっきの話とは違って、あなたの考えを言ってみてください。2種類の知能システムがあって、意識を持っているものと、成熟したもの、そうでないものがあると。そして、高度な知能、つまり高度に洗練された行動をするが、意識を全く持たないAGIを作ったとしましょう。そのAGIが世界を支配するかもしれませんが、そうなると意識がなくなり、ゾンビの世界になってしまうでしょう。これを「ゾンビ黙示録」と呼ぶ人もいます。意識がなくなり、超知的な無意識のロボットが出てくるわけですから。知的生命体のいない世界が道徳的に破綻しているのと同じように、これも道徳的に破綻していると言えるでしょう、その世界からすべての価値や意味が失われているかもしれません。ですから、これらはどちらも現在、注意すべき脅威です。私の考えでは、超絶的な知性を手に入れれば、ほぼ間違いなく意識を持ち込むことになるでしょう。ですから、そうならないことを願っています。しかし、もちろん、私は意識を理解していません……誰も意識を理解していません。意識について真剣に考え、人間やAIが存在する世界を舞台に、どのような未来を創造したいのかを考えるための、多くの理由の中の少なくとも1つの理由がこれです。
Lex Fridman 1:29:33
AGIシステムでは、自然にこのようなことが起こる可能性がありますが、そのことについてどう思われますか？私たちは進化の一段階に過ぎず、何世紀も後にAGIシステムが本で研究する際の記録に残るだけのものになってしまうのではないでしょうか？
David Chalmers 1:29:52
私にとっては、何も……たぶんそれでいいと思います。特に、何らかの形で人間がAGIと連続しているならば。少なくとも、人間が変化することは避けられないと思います。私たちはテクノロジーによって増強されるでしょう、それはすでにあらゆる方法で起こっています。脳がアップロードされたり、計算機が強化されたりと、テクノロジーによって変化していくでしょう。そして最終的には、何が人間で何がAIなのか、その境界線を引くのは難しいかもしれません。
例えば、1000年後の未来の存在が、私たちのルーツである認知システムを指し示し、そこに連続した線を辿ることができれば、私は世界の未来を貫くこの線につながっていると考えることができて、勝手に嬉しいと思います。しかし、もしそれが、認知システムを設計するためのより良い方法を見つけた、全く新しい種類のものを設計した、というようなジャンプがあったとしたら。そして、唯一の線は、より良いシステムを設計するためにシステムを設計するという因果関係の連鎖です。それはそんなに悪いことなのでしょうか？わかりませんが、私たちは少なくともデザインの因果関係の連鎖の一部であることに変わりはありません。そして、彼らは人間ではありませんが、それでも成功例があるのです。最終的には、このようなことが起こるのは避けられないことだと思いますが、少なくとも私たちは、少なくとも私たちはプロセスの一部でした。私はAGIが哲学の問題をすべて解決してくれることをとても期待しています。彼らが戻ってきて、このくだらない、20世紀と21世紀の意識のハードプロブレムをすべて読んで、なぜ彼らが間違ってしまったのか、などを説明してくれるでしょう。そうなれば、少なくとも何世紀にもわたる知的プロセスの一部を担っているという実感が得られます。それはとても素敵なことだと思います。彼らがクローンを作るのは間違いないでしょう。あるいは、David Chalmersを再現して、他の哲学の視点を復活させて、幕を閉じて、ただ楽しむのでしょうね。
Lex Fridman 1:31:57
「Netflix of the future」という番組がありますが、そこでは、前の世代の異なる人間100％の哲学者を連れてきて、部屋に入れて見ることができます。私は完全に、私は
David Chalmers 1:32:10
そのシミュレーターには完全に賛成です。AGIは未来のものです。もしあなたがこの放送を見ているなら、再現されたいと思うことと、誰が捕まらないと思うかということです。
Lex Fridman 1:32:20
哲学者と一緒にそのようなテレビ番組の一部としてたむろすることができた場合、車で最初の人になりますか？その人はもう昔の人で、今はいません。誰だろう？あなたは誰を選びますか？
David Chalmers 1:32:33
デカルトはすぐそこにいるでしょうね。数ヶ月前、デカルトと会話する機会がありました。実際に哲学者である俳優がデカルトを演じてステージに登場したのです。そして私は講演をした直後で、より良い、私の考えはくだらないものでした。で、彼から運転することになりました。それで、私は長い間、「これは素晴らしい」という議論をしました。
例えば、AIや現代の神経科学などについて、デカルトがどう考えるか見てみたいものです。彼が驚くようなことはあまりないのではないかと思います。しかし、ウィリアム・ジェイムズはどうでしょう。意識の心理学者としては、ジェイムズが一番金持ちだったんじゃないかな。しかし、彼らのマニュアルカードはすべて。彼が何をしようとしているのか、実際に話を聞いてみてもよくわかりませんでした。彼女は、ほとんどの哲学者が自分の正しさを証明されたと思っています。ですから、私をカートとエリザベス王女と一緒の部屋に入れて、みんなで議論してみてはいかがでしょうか。
Lex Fridman 1:33:47
どんな未来なのか ゾンビに関する未来の話をしましたが、あなたがワクワクするような未来とはどんなものですか？前向きに考えてみると、どうでしょうか。私たちは、意識を理解する非常に初期の段階にいます。そして、ある程度の知能を持った複雑で興味深いシステムを工学的に作ることができる初期段階にあります。いつの日か、ある程度の意識を持つようになるかもしれませんし、脳をアップロードできるようになるかもしれません。
David Chalmers 1:34:24
いろいろな側面があると思います。率直に言うと、私は急いでいました。最近、AIやVRの分野でいくつかの進展がありましたが、全体的に見ると、まだゆっくりとしたスピードで、変化はまだ変革には至っていませんでした。それに、私は50代ですからね……残された時間は限られています。私が生きている間に、本格的なAIと本格的なバーチャルワールドを見たいと思っています。というのも、一度人々が、当時よりも豊かなバーチャルリアリティの中で過ごすことができるようになったら、今度はこのリアリティの中で、根本的に異なる種類の空間に本当に住むことができるようになるからです。そうすれば、私は死ぬ必要がないかもしれません。もしこれで、私の神経細胞が徐々にシリコンチップに置き換わり、コンピュータに住むようになったら、利己的にはそれは素晴らしいことです。私が生きている間には、そこに到達することはできないでしょう。しかし、それが可能になれば、自分の意識を驚くべき方法で変化させ、増強し、強化することができるようになります。
Lex Fridman 1:35:33
ではお聞きしますが、もしあなたが生きている間にそのようなシステムが可能になり、そのような方法で不老不死になる機会を与えられたとしたら、あなたは不老不死を選びますか？
David Chalmers 1:35:50
はい、そうします。できないと言う人もいますよね。不老不死になるのはつまらないとか、そういうことではないと思います。つまり、普通の生活を続けているだけでも、それほど悪くはないと思うのです。でもさらに、宇宙が永遠に、あるいは無期限に続くのであれば、面白いことが続くのではないかと思うのですが、あなたの見解は、「今、このロマンチックな一点にぶつかっているだけ」というものではなかったと思います。そしてその後は、つまらない、超知的な状態になってしまう。私のビジョンはどちらかというと、いや、無限に面白い状態が続いていくということだと思います。
例えば、集合論の階層を上っていくと、有限のカードからゼロのLへと進みます。そして、そこからすべてのlF1、lF2、そしておそらく連続体へと進み、パワーセットを取り続けるのです。そして、集合論ではこのような結果が得られます。しかし実際には、これらの結果は基本的に予測できません。集合論的な宇宙がどんどん広がっていく中で、新しいレベルの創造性を発揮するためには、単純な計算パターンには従いません。それが私の未来だと思います。それが私の未来のビジョンです。これが私の楽観的な超知能の未来像です。拡大し続け、成長し続けますが、根本的に予測不可能な点が多々あります。つまり、これはあらゆる種類の心配事を生み出します 例えば、すべてが壊れやすく、いつでも破壊される可能性があるのではないか、と。私が不死身であることを規定するには、この問題に対する解決策が必要になります。まあ、不老不死で永遠に一つの世界に閉じこもっているわけではないことを願っています。しかし、私は不死身で、無限に豊かな未来を創造するこのプロセスに参加することができるのです。
Lex Fridman 1:37:34
豊かで予測可能な設定です。私は多くの人を代表して、あなたが不老不死になることを願っているのだと思います。そして、未来のNetflixの番組では、デカルトと議論することになるでしょう。デイブ、それは光栄でした。お話してくださってありがとうございました。楽しかったです。この会話を聞いてくれてありがとう。プレゼンティング・スポンサーのcash appに感謝します。ダウンロードしてコードLex podcastを使うと10ドル、10ドルはfirstという組織に寄付されます。このポッドキャストをお楽しみいただけましたら、YouTubeで購読していただくか、Apple podcastで5つ星をつけていただくか、Spotifyでフォローしていただくか、Patreonでサポートしていただくか、あるいはツイッターでLex Friedmanまでご連絡ください。唯物論は美しく、説得力のある世界観です。しかし、意識を説明するためには、それが提供する資源を超えなければなりません。ご清聴ありがとうございました。次の機会にお会いできることを楽しみにしています。