人工知能の哲学と理論 2021年
Philosophy and Theory of Artificial Intelligence 2021

 

Philosophy and Theory of Artificial Intelligence 2021

応用哲学・認識論・合理的倫理学の研究

ヴィンセント・C・ミュラー 編集部

人工知能の哲学と理論 2021年

序文

本巻の論文は、2021年9月27日から28日にかけてヨーテボリで開催した「人工知能の哲学と理論」（PT-AI）に関する第4回会議（http://www.pt-ai.org/ 参照）から生まれたものである。現地での運営はProfs. Ivica CrnkovicとGordana Dodig-Crnkovicが担当し、ヨーテボリのChalmers大学から支援を受けた。

この会議はもっと早い時期に計画されていたのだが、いくつかのことが邪魔をして、特にCOVIDの大流行があった。結局、何らかの形で2021年にPT-AIを開催することになったのだが、多くの人にとって、このカンファレンスは、重要な安全対策が施されたとはいえ、再び実際に参加できるようになった最初のカンファレンスとなった。また、オンラインとオンサイトのハイブリッドで運営された最初のPT-AIカンファレンスでもあった（それ以前のカンファレンスでは、基調講演をオンラインでライブリスニングすることはすでに可能だった）。その結果、60件の応募があり、そのうち25件が会議で発表されるという、いつもより少し小規模な会議となった。二重盲検審査に励み、非常に高い学術レベルを保証してくれたプログラム委員会の仲間たちに感謝する！招待講演者は、Virginia Dignum（スウェーデン、ウメオ）、Michael Levin（米国、タフツ）、David Papineau（英国、KCL）、Shannon Vallor（英国、エジンバラ）である。

この分野で活躍する多くの新しい顔ぶれや、他分野の実績ある哲学者たちが、現在明らかに主流になりつつあるAIの哲学に関心を示しているのを見るのは、非常に良いことだった。新しい人々や様々な方向からの影響は、明らかにこの分野を豊かにしており、私はこの状態が続くことを期待している。

2022年2月、私たちの共同主催者であったイヴィカが急逝した。このような豊かな人生が断たれ、多くの人が大きな空白を残したまま、まずは奥様とお子様が亡くなられたことは、非常に悲しいことである。同時に、イビツァと知り合い、学問的にも人間的にも学ぶ機会があったことに感謝している。

オランダ・アイントホーフェン 2022年4月

ヴィンセント・C・ミュラー

目次

• 自然情報演算に基づく理論的認知アーキテクチャ
• 人工知能システム、責任とアジェンシャルな自己認識
• モデル、アルゴリズム、そして透明性の主題
• 注意の自律性
• 帰納的バイアスによる分布外汎化へ向けて
• 人間の自律性とAIシステムの「自律性」の間にはトレードオフがあるのか？
• カリーナ・プランクル AIシステムの不透明性を表す分類法に向けて
• 自律型ロボットの自明でない意味特性を検証する。
• デジタル倫理における倫理的尊厳
• 人工知能における価値調整への能動的アプローチ： 関連性の問題
• マイケル・キャノン AIの影響力という問題
• 人工知能とコモンセンスの議論
• AIシステムの道徳的地位： ジェネティック・アカウントの評価
• （アンドラーシュ・コルナイ・ロボット・ライツ・イン・ジョイント・アクション）。
• 私たちはコンピュータのシミュレーションの中で生きている可能性があるのか？
• 人間-AI間の友情： 適切な感傷的判断基準の否定
• AIリスク懐疑論

私たちはコンピュータのシミュレーションの中に生きているのだろうか？

ラルフ・ステーペルフェルト

要旨

ボストロムのシミュレーション論は、人類は滅亡するか、ポストヒューマンの段階に達するかのどちらかであると主張する。後者の場合、その歴史の祖先シミュレーションを駆動するとすれば、私たちがそのようなシミュレーションの中で生きていることはほぼ確実である（Bostrom, Philosophical Quarterly 53:243-255, 2003a）。ボストロムの論文の推論は、そのステップでは論理的に見えるが、直観的にはありえないようにも見える。それは、Bostromがいくつかの背景的な仮定を、それらを明示することなく、また確率の計算に考慮することなく、前提としているからだ。本論文の目的は、このような背景的前提のうち最も重要なものを取り出して、議論の疑問点を浮き彫りにすることである。その結果、証明することはできないかもしれないが、私たちはシミュレーションされていない可能性が高いという結論に達するだろう。

キーワード

ニック・ボストロムシミュレーション論ドゥームズデイ論数理的アプリオリ論機械意識強いAI ポストヒューマン論 – 基板独立論 – 計算論 – 機能論 1

はじめに

ニック・ボストロムは、いわゆるシミュレーション論で、いくつかの一見地味な仮定を考えると、私たちがコンピュータ・シミュレーションの中で生きている可能性が高いと主張したことは有名である。ボストロムは、人類は滅亡するか、ポストヒューマンの段階に達するかのどちらかであると主張している。ポストヒューマン社会が到来し、その歴史のシミュレーションを駆動する場合、私たちはシミュレーションされていることはほぼ確実である（Bostrom, 2003a）。

私たちの現実の性質に関するこうした考察の背後にある核となる考え方は、新しいものではなく、古代ギリシャにまでさかのぼることができる。すでにプラトンの『洞窟の寓話』では、私たちが知覚する現実について、信念と知識の区別を突きつけている（プラトン『洞窟の寓話』）。世界の本当の姿を確かめることはできないという哲学的な洞察は、シミュレーションとしての世界についてのあらゆる思考の基礎となる。このような懐疑主義のもう一つの有名なバージョンは、ルネ・デカルトによって提示された思考実験である。ルネ・デカルトは、瞑想の中で、世界全体、生物全体、私たちの体や脳も含めて、悪意ある悪魔が作り出した幻想に過ぎないのではないか、という疑問を懐疑の手法で投げかける。デカルトは、証明されたはずの神と、世界と心の怪しい分裂の助けを借りてのみ、最終的に私たちの世界は実在すると結論づける（Decartes, 2009）。しかし、現代の自然科学の知見に照らすと、その説明の困難さは深刻であり、証明された神や物質二元論は、真摯に受け止めるべき哲学的立場としてはほとんど消えてしまった。

私たちは、哲学者の祖先と同じような古い疑問を、新たな装いで抱いているように思われる。デカルトの邪悪な悪魔の考えは、物質二元論を捨てて一種の唯物論的一元論を仮定すると、模擬世界仮説と同様の結果になる。心を脳の神経機械の処理による弱い創発現象と理解し、この脳が悪鬼によって正確に偽造されるか、コンピュータで十分に正確にシミュレートされるならば、心はリアルワールドと同様に出現するはずだ。デカルトの思考実験とシミュレーション仮説の重要な違いの一つは、次のような点である： デカルトの場合、心そのものは疑いようがないので、悪魔の欺瞞に加担することはできないが、シミュレーション仮説では、世界、身体、脳がシミュレーションされているだけでなく、物質二元論の考え方を欠くと、心や自己もシミュレーションされている。

このように、シミュレートされた人物を持つシミュレートされた世界という考え方は、長い哲学的考察の歴史にさかのぼることができる。さらに、ボストロムの議論は、後に示すように、今日まで広く議論されてきた唯物論や機能主義の心の理論に基づいているため、著名な哲学者や科学者が、私たちがシミュレートされている関連確率を肯定する形で論争に参加していることは、それほど驚くことではない（例えば、Moravec, 1993,1 Hanson, 2001, Chalmers, 2005, 2022, p.81 ff., Jenkins, 2006, White, 2016）．一方、シミュレーション論に対するいくつかの攻撃は、推論のラインと結論の問題を論じている（例えば、Agatonovic, 2021; Besnard, 2004; Birch, 2013; Brueckner, 2008; Waetherson, 2003）。本稿では、ボストロムの議論の特殊な側面を不健全であると攻撃することによって、その筋書きに反論しようとはしない。その代わりに、中心的な論点を導き出す特定の方法に焦点を当てる。この議論は、事実についてではなく、確率についてである。ボストロムは、私たちの現在の無知を考慮し、3つのシナリオにほぼ同じ発生確率（約0.33）を割り当てることが妥当であると考える： (1) ポスト・ヒューマンになる前のドゥームズデイ、(2) ポスト・ヒューマンにならない、(3) 祖先シミュレーションあり、(Bostrom, 2003a, p. 255)。Bostrom自身さえも、私たちがシミュレーションの中に生きているというテーゼに対して0.33程度の確率しか主張していないことは、議論の論争の中で時々忘れ去られてしまう。このことはよく議論されており、仮定を選択する際に、それが後の結論の確率に与える影響を考慮する必要性を強調している。しかし、この議論では、その前提がどのようなものだろうかを指摘し、それに対応する知識の欠如を考慮することができない。David Chalmersは、まさにこの点に着目している。彼は、ボストロムが仮定した、人間タイプの意識者を持つ現実的なシミュレーションを駆動するポストヒューマンの未来に加えて、考慮すべき他の仮定があると主張している。ボストロムの選択肢(1)と(2)は、どちらもシミュレーションを阻害するものだが、それだけではなく、シミュレーション仮説の可能性を低下させるものである。(と述べている（Chalmers, 2022, p.100）。しかし、彼は結論において、基板独立の仮定（私の10の仮定リストの2番）を追加し、独自の計算をしているだけだ。ボストロムのシナリオ(3)の確率を0,5とし、それに基質独立性の信憑性を0,5とする自分の推測を掛け合わせる。その結果、シミュレーション論文の確率は0,25となった（Chalmers, 2022, p.101）。アプローチはまさに正しいのだが、最後まで考え切れていない。

本稿では、確率の全体像を考慮するようにする。私たちがシミュレーションされていないという証拠を提供するわけではないが、ボストロムの議論における前提を明示しようとするものである。そこで、以下では、最も関連性の高い10個の仮定と、それらがシミュレーション論文の確率に与える影響について検討することにする。それによって、私たちがシミュレーションの中に生きているという（高い）蓋然性のある命題に異議を唱え、その反対を主張することにする。

2 揺らぐ大地

シミュレーション論の隠れた前提を詳しく説明するためには、中心的な発言を要約することが有効であろう。ボストロムは、人類の未来について3つの可能なシナリオを提示し、必ずそのうちの1つが実現すると仮定している。人類が絶滅せず、ボストロムが「祖先シミュレーション」と呼ぶ歴史のシミュレーションを行うのであれば、私たちはほぼ間違いなくそのようなシミュレーションの中で生きていると主張する（2003,243頁）。しかし、この結論は、ボストロムが自分のさらなる仮定を即座に、あるいは明示的に名指ししていないために、意外なものにしか見えない。したがって、これらの仮定は、議論の全体像を描き出し、中心的な結論が、非常に論争的な主張を当然のこととしているため、不安定な基盤に立っていることを明らかにするために、抽出されるであろう。特に注目すべきは、ボストロムの主要な論文が、将来の条件や発展についての確信が欠けると、それに応じて私たちがシミュレーションされる確率が低下することを正確に認めていることである。しかし、ボストロムは、人類の未来に関する相互に排他的な3つのテーゼを提示した後、この考えを真剣に受け止めることをやめ、自分の議論のそれ以降のすべての仮定を、あたかも確立された、あるいは真実として受け入れられたかのように受け止めている。これによってのみ、私たちがシミュレートされる確率はそれ以上低下せず、魔法のように約0,3のままである。

2.1なぜ心理的にリアルな祖先のシミュレーションを生成するのか？

最初の疑問のある仮定は、主な主張を分析することで詳しく説明することができる：

• (1)人類は「ポストヒューマン」段階に達する前に絶滅する可能性が非常に高い。
• (2)ポストヒューマン文明が、その進化の歴史（あるいはそのバリエーション）のシミュレーションを相当数実行する可能性は極めて低い。
• (3)私たちはほぼ確実にコンピュータシミュレーションの中に生きている。

という、少なくとも一つの命題が真である。(Bostrom,2003a,p.243)と述べている。

Bostromは、異なる可能性を正しく区別しているが、その中でシミュレーション論文につながるのは1つだけだ。彼は、「(1)、(2)、(3)にほぼ均等に信憑性を配分する」ことを提案している。(Bostrom, 2003a, p.255）。彼の議論は、シナリオ(3)において、私たちはほぼ確実にシミュレーションされていることを示すことを意図しているので、この推論は、私たちがシミュレーションの中で生きている確率を約0,33とすることにつながる。Bostromは、後年、この推論を確認し、明確な推測を明らかにしている。「個人的には、シミュレーション仮説の確率は50%以下であり、むしろ20%程度である」(Bostrom. 2008,2.)と述べている。このように、ボストロムはシミュレーション仮説の中核となる仮定を考慮し、それを確率論的な分析に付している：

(1) ポスト・ヒューマン文明は存在し、それは祖先シミュレーションを実行するだろう。

これは、想定がなされていることの模範的な考察である。ただ、3つのシナリオが同じように可能性があると考えられていることに納得できるかどうかが、ここで問われている。なぜ、ポスト・ヒューマン文明は、この時点でそれが可能であることを前提に、私たちの誰もが主観的に体験するような意識の流れを生み出すのに十分現実的な人類史の祖先シミュレーションを行わなければならないのか。祖先シミュレーションの可能性を主張するボストロムは、「祖先シミュレーションを実行する余裕があれば、実行したいと思う人間は確かに多い」（Bostrom, 2003a, p. 252, emphasis mine）と結論付けているように、このようなシミュレーションを実行する娯楽性を想定しているようだ。このような歴史のシミュレーションの中に入って、その一部となり、中の人物に対応することができるということであろう。しかし、この場合、今日のビデオゲームや仮想現実のエンターテイメントのように、娯楽としてしばらくシミュレーションの中をさまよった後、シミュレーションを終了するのが妥当であろうから、シミュレーションの持続時間はむしろ短いことになる。しかも、なぜ私たちが体験する世界と同じようにリアルで物理的にまとまったものになるのか、疑問が残る。おそらくは、楽しむためのものであり、ポストヒューマンシミュレーターは、創造物をおかしな不条理に変化させたり、自然法則や物質やエネルギーの物理的性質を弄ぶこともできる（Birch, 2013, p.106）のだろう。私たちが体験する世界には、こうしたゲーミフィケーションの兆候は見られない。これらの考察は、私たちがシミュレーションの中で生活していないことを証明するものではない。しかし、シミュレーションが娯楽や懐古趣味（Jenkins, 2006, p.24）のために生成されたのであれば、その可能性は低くなると考える。

ボストロムは、ポスト・ヒューマン文明が現実的なシミュレーションを実行する他の潜在的な理由に言及していないが、そのような理由があるのかもしれない。その一つは、未来を予測するためのモデルを開発する必要性であろう。現在、人類として対応する必要のあるさまざまな地球規模の脅威（核武装、テロ、気候変動など）が存在する。国家や国家連合などの個々のアクターは、さまざまな戦略をシミュレーションし、その結果生じる展開を観察するために、できるだけ優れたコンピューターモデルを生成することに、すでに関心を持っている。したがって、ポストヒューマンの未来においても、世界を存亡の危機から救うために、このような予測モデルのニーズが存在すると考えるのが妥当であろう。心理学的に現実的なシミュレーションは、選択された代替的な行動方針に応じて将来の展開を予測するのに役立つだろう（White, 2016; Chalmers, 2022, p. 90）。とはいえ、ポストヒューマン文明が未来を予測するためにシミュレーションを行うのであれば、21世紀初頭のような過去からではなく、むしろ現在からスタートさせることに異論があるかもしれない。シミュレーションを行う理由は、未来を予測することであり、過去の発展を再現することではない。したがって、ポストヒューマンが未来を予測する必要性から、シミュレーションを実行する理由は説明できるが、ポストヒューマン以前の段階の仮想世界を生成する理由は説明できない。同様に、AIシステムの試験場や社会・経済実験（Jenkins, 2006, p.25）など科学的な興味から行われるシミュレーションは、ポストヒューマン以前の過去ではなく、ポストヒューマン社会の現在の環境で行われると仮定する。歴史上の出来事に関するWhat-If-Scenariosの科学的研究において、シミュレーションを行うことで答えが得られる可能性を認めたとしても（過去の関係者の精神状態をいかにリアルに再現するかという謎はあるが）、それはシミュレーション全体のごく一部に過ぎないと思われる。ということは、私たちがそのようなシミュレーションの中に身を置いている可能性は低い。したがって、前項を考慮すると、3つのシナリオの間の確率が現実的に設定されているかどうかは、少なくとも疑問が残る。別の言い方をすればシナリオ(3)の確率は過大評価されているように思われる。

2.2 基板の独立性とコンピュータ機能主義

Bostromの議論におけるもう一つの仮定は、基質独立論である。意識、自己意識、あるいは現象的な状態は、生物学的な基盤から独立しており、コンピュータ上の適切なプログラムによって等しくインスタンス化できるというのが、その前提となっている： 「意識は、頭蓋内の炭素ベースの生物学的神経ネットワークで実現されることは、意識の本質的な特性ではない」。(Bostrom,2003a,p.244)と述べている。したがって、主張はこうである：

(2) 精神状態は基板に依存しない。

ボストロムは、これは「心の哲学における共通の仮定」(p. 244)であるというが、それは可能性のある、非常に議論の多い主張に過ぎない。

コンピュータのプロセッサが意識の「トリック」を行うこともできるというテーゼは、別の仮定を内包している：

(3) コンピュータ機能主義が真であること。

この立場は、機械状態機能主義や計算機主義とも呼ばれ、心的状態は一種の計算状態であるとする（Fodor, 1968; Putnam, 1960）。その結果、意識は生物学的な脳内のプロセスだけでなく、コンピュータ内でも生じ得るとする。この考え方は、人間の知性を人工知能に完全にマッピングできるという考え方である、ストロングAIの理論と密接に関連している（Russell & Norvig, 2016, pp.1026 ff. ）。ボストロムにとって、主観的な経験を生み出すには、人間の脳の計算過程を構造的に十分な精度で複製すれば十分であり（Bostrom, 2003a, p. 245）、それによってコンピュータ機能主義にコミットしている。基板独立のテーゼと組み合わせると、意識と現象体験は、実行中のコンピュータ・プログラムの処理から生じ得ることになる： 「情報処理は、脳がやってもコンピュータがやっても同じだ」（Sandberg & Bostrom, 2006, p. 215）。全宇宙がコンピュータ・シミュレーションである可能性があるというテーゼは、潜在的なオンティック・パンコミュテーショナリズムの一形態と見ることができる（Piccini & Anderson, 2018）。ボストロムが計算論へのコミットメントをどれほど真剣に受け止めているかは、別の考察によっても示される。彼は、精神現象を情報処理の弱い創発的な結果として解釈し、シミュレーションされた世界におけるエミュレートされた脳が意識を発生させるとしている。そして、さらに一歩進んで、このことは、模擬的な存在によってプログラムされたシミュレーションにも適用されると、結果的に明言している。ボストロムは、このマルチレベル・シミュレーションのテーゼを確認し、厳格な計算主義を公言している：

「確かに奇妙な形の計算主義だと言えるだろう。それは、脳が意識を持つことができ、脳のコンピュータシミュレーションが意識を持つことができると主張する一方で、脳のコンピュータシミュレーションのコンピュータシミュレーションが意識を持つことができないと主張するのだ！」 (Bostrom,2009b,p.3)」

本稿では、意識の基質独立性というテーゼと心の計算理論をめぐる論争を再現することは、本稿の範囲を超えるので控えることにする。哲学的な議論は何十年も続いており、これらの前提が非常に論争的であることを指摘するだけでここでの私の議論の目的には十分である（例えば、Block, 1997; Jackson, 1982; Nagel, 1974; Penrose, 1989; Popper & Eccles, 1977; Searle, 1980）。確率と不確実性に関して考慮すべき重要なことは、物質二元論、エピフェノメンタル、特性二元論といった考え方を超えて、私たちがコンピュータ上でシミュレーションされているという考えの基礎となる計算機能主義とは異なる哲学的な議論があるということである。ある種の唯物論が真であることが判明しても、意識の出現に関与する媒体依存的な機能特性が存在するかもしれないし（したがって、非計算機能主義が真である）、意識は、私たちがまだ理解していない下位または上位の物理的性質に依存しており、したがってあらゆる種類の計算技術に欠けているかもしれない（Piccinini. 2021,138頁f.)。

2.3 他の可能性を排除する

さらに、人類の未来に関するボストロムの核となる仮定が議論に流れ込んでくる。彼は3つの可能な未来のシナリオを語っている： (1)私たちは滅びるかもしれない、(2)私たちは祖先シミュレーションを行うか行わないかでポストヒューマンの段階に到達する、(3)私たちは祖先シミュレーションを行わない。しかし、これはすでに未来に起こりうる結果の選択である。

ボストロムは、「人類の未来」（Bostrom, 2009a）という別の論文で、人類社会の未来について、考えられる4つのシナリオを考えている。それは、(a)滅びるか、死に絶えるか、(b)ポストヒューマンの状態に達することなく循環的に崩壊するか、(c)ポストヒューマンの段階に達する前にさらなる技術的発展なしに高原にとどまるか、(d)この段階に達するかであった。

ボストロムは、(b)の循環論は、過去に関して否定し、未来に関してもあり得ないと考えている。また、プラトーの形成（c）についても、進歩を求める人間の性質上、あり得ないこととして否定している。

だからこそ、ボストロムは、人類が技術進歩を止めることは想定外であると主張する。このことは、次のような仮定を導く：

(4) 人類は滅亡するか、ポストヒューマンの段階に達するかである。

しかし、もしこの確率が、0 よりも高ければ、仮定(4)の確率は 1 よりも低くなり、祖先模倣によるポストヒューマン段階の該当する割合の可能性が低くなる。

2.4 デジタル意識体の可能性

ポストヒューマン社会の反映に内在するのは、ボストロムの「技術的完成予想図」である： 「科学技術開発の努力が事実上停止しないのであれば、何らかの可能性のある技術によって得られる重要で基本的な能力は、すべて得られることになる」 (というものである（Bostrom, 2014, p.282）。このように、技術進歩の最終的な状態は、今日すでに判明している： 未来のある時点で、私たちの文明が滅びないのであれば、すべてが発見され、利用されることになる。

(5) 技術的に原理的に可能なことは、実際に実現される。

シミュレーションの議論を成立させるためには、シミュレーションの中でマスデジタルや意識者を生成するために必要な技術形態が利用可能であればよいので、実際に可能なことがすべて実現される必要はないのである。しかし、この思い込みこそが、一方で、なぜデジタルな意識者が実現するのか、という議論を促進する。

技術的完成予想の底流にある技術的決定論は、さまざまな形で理解することができる。シミュレーション論に関する最初の論文で、ボストロムは、最終的に祖先のシミュレーションを駆動するのは、私たち人類に続くかもしれないポストヒューマン種であるという前提で論じている。シナリオ(3)でデジタル意識が原理的に可能であるとして実現するという演繹は、私たちの文明の未来に関わるものである（Bostrom, 2003a, p.248）．ボストロムは、成熟したポストヒューマン文明に発展する可能性のある人類種あるいは人類について語っている。シミュレーション論文に関するボストロムの最初の論文では、関連する存在は「シミュレーションの中に住む、人間型の経験を持つすべての観察者」（同上）と表現されている。その後の論文では、人間のデジタルな子孫だけでなく、「コンピュータ・シミュレーションの中で生きている、人間型の経験を持つ宇宙のすべての観察者」（Bostrom & Kulczycki, 2011, p. 54, emphasis mine）を考慮し、推測を軟化させている。その結果、Bostromは3つのシナリオの記述を変更する。最初の論文では、例えば、シナリオ(1)を次のように記述している： 人類は「ポスト・ヒューマン」の段階に達する前に絶滅する可能性が非常に高い」（Bostrom, 2003a, p.243）。その3年後、同じシナリオをこう表現している： 「私たちの開発レベルにあるほとんどすべての文明は、技術的に成熟する前に絶滅する」（Bostrom, 2006, p.8）。さらに3年後にも、ほぼ同じ表現がなされている： 「私たちの現在の開発水準にあるほとんどすべての文明は、技術的に成熟する前に絶滅する」（Bostrom, 2009b, p.258）。ボストロムが、当初は一つの（人類）文明の未来しか考えておらず、後の著作で宇宙の全ての人類型文明に範囲を広げたのか、あるいは、当初はすでに宇宙の全ての人類型文明を考えており、より正確になるように定式化を変えただけなのかは、明らかではない。初期の論文では、シミュレーション論の核心をより詳細に説明する中で、すでに「すべての人間レベルの技術文明」（p.248）と語っていることから、後者の可能性を示す表現もある。しかし、これは地球上の時間を通してのすべての文明に言及しているだけかもしれない。宇宙への言及は、最初の論文には見あたらない。いずれにせよ、ボストロムは、シミュレーション論の後の定式化の中で、宇宙について述べている。

人間のような経験を持つ存在を生み出す宇宙のすべての文明へと推測を広げることで、少なくとも1つが、心理的に現実的な意識シミュレーションの可能性が実際に到達するポストヒューマンの段階に至れば十分である。もし、十分な技術的成熟を遂げた一つの文明が生み出すデジタル意識体の数が、宇宙の生物学的観測者の総数よりはるかに多い場合でも、シミュレーションの議論は成立する。後述する天文学的な計算能力を想定しているため、ボストロムは、高度なポストヒューマン文明の子孫として、天文学的な量の潜在的デジタル生命を計算し、少なくとも10＾58人と見積もっている（Bostrom, 2014, p. 123）、その量は、全宇宙の生物的観測者の数をはるかに凌駕するほど高い2。ボストロムによれば、数兆の文明のうち1つだけが祖先のシミュレーションを実行できるほど技術的に成熟した段階に達したとしても、デジタルまたはシミュレーションされた生命が数兆兆個存在する以上、生物的であるよりもシミュレーションされている可能性の方が高いということになる。私たちが人類文明のシミュレーションの中にいることは、ボストロムの言う「観察選択効果」に過ぎず、シミュレーションされた心として、私たちは必要な技術的成熟の段階に達した一つの文明の子孫であるという人間学的推論の線上にあるはずだ（ボストロム 2003b）。さらに一歩進んで、技術的完成の推測をもう少し軟化させるために、多宇宙理論を仮定することもできるかもしれない（Bostrom, 2003b, p. 60）。問題は、地球外知的生命体の仮定やさらなる宇宙の存在は、経験的事実ではなく、推測上の仮定であるため、このような予想の軟化は、さらなる確率の低下を伴うということである。このように、見方によっては、技術的完成予想の受け入れは、確率を低下させるものであり、考慮すべき仮定であると言える。

ボストロムにとって、コンピュータ上の意識的なマインドが原理的に可能である以上、それが存在の段階に入ることは、推論の筋書き上、当然である：

(6) 原理的には、コンピュータ上の人工意識体の創造は可能であり、ポストヒューマンの未来において実現される。

2.5 可能性から可能性へ

もし、コンピュータでシミュレーションされた意識的な存在があり得るとすれば、私たちがそのような存在であり、シミュレーションの中に生きている可能性は否定できない。しかし、なぜそのような可能性が高いのかは、まだ説明されていない。

ボストロムは、将来、天文学的な計算能力を持つコンピュータが登場することを想定している。彼によれば、技術的に成熟した段階では、惑星全体を強力なコンピュータに変換することも可能である（Bostrom, 2003a, p. 245）。

(7) 天文学的な計算能力が存在するようになる。

技術的完成予想の議論に見られるように、ボストロムは、原理的には可能であろう技術的発明から、実際に実現されるという仮定に簡単にジャンプしてしまう。原理的には、惑星全体の質量を巨大なコンピュータに変えることができるという点では、彼の意見に同意できるかもしれない。しかし、それが実際に実現すると仮定することは、全く異なることであり、少なくとも現在の見解からは、最も特異なことであるように思われる。問題は、この種の突飛な技術的空想が実現する可能性がどの程度あるのか、また、たとえ既知の物理法則と矛盾せず、原理的には可能であっても、このような空想から何かを結論づけることはしない方が賢明なのではないか、ということである（Dennett、1981、p.230）。

シミュレーションの議論全体の中で、ポストヒューマンの計算資源の天文学的なパワーを礎として論じるとき、それのもう一つの特に奇妙な事情に言及しなければならない： 議論の初期から指摘されているように（Besnard, 2004, p. 3; Bostrom, 2008, 4.; Birch, 2013; Agatonovic, 2021）、この議論は区別不能の仮定に依存している：

(8) シミュレーションされた世界と現実の世界は区別がつかない。

この仮定が、仮想意識体の可能性に関するボストロムの推論や、未来のポストヒューマン文明の計算能力に関する計算を生み出している。しかし、シナリオ(3)でほぼ確実とされているように、私たちがシミュレーションされた場合、現実の上層にどのような宇宙があるのか知ることはできない。ポストヒューマン文明の天文学的なコンピュータ資源を導き出すための、計算効率や技術のある種の可能性、あるいは物理法則に関する経験的事実がなかったのである。これらの経験的事実はすべて、原理的に不可解な無知のヴェールに隠されていたのである。ボストロム自身、自分の議論の経験的根拠の重要性を強調している： 「シミュレーションの議論は、将来の技術的能力に関する明白でない経験的前提に決定的に依存している」 (Bostrom,2005,p.95)と述べている。このように、この議論は、物理法則や物質基盤の特性に関する経験的事実を当然視すると同時に、私たちの宇宙の実在性を疑うという、選択的懐疑を利用している（Birch, 2013, p.106）。

ボストロムは、私たちがシミュレーションされた場合、少なくともそのようなシミュレーションの可能性を基礎となる現実の中に導き出すことができると指摘し、この攻撃に反論しようとしている（Bostrom, 2008, 4.)。これは確かに正しいが、このような攻撃に対する反論にはなっていない。シミュレーションの議論は、シミュレーションされた世界の発生が、未知で想像を絶する超越者によって、原理的にも実際にも可能であるという仮定に基づいているのではなく、ポストヒューマン文明によって可能であるという仮定に基づいている。より深刻なのは、この文明が、先祖のシミュレーションに少なくとも部分的に使用される必要のある天文学的に大きなコンピュータ容量の助けを借りて、一つのシミュレーションだけでなく、膨大な数のシミュレーションを生成できることを意味している。この前提条件によってのみ、ボストロムは、保守的な仮定を置いたとしても、膨大な数のシミュレーションを想定することができる（2003a, p.248）。さらに、この膨大な数こそが、次の仮定を導き出すために必要なものである：

(9) 過去に存在したすべての人物のうち、シミュレーションされた人物の割合はほぼ100%である。

前述したように、ボストロムは、もし私たちができるのであれば、私たち全員が今経験しているような意識のある心を、シミュレートされた脳や体が出現させるような、細部まで精密なシミュレーションを行うだろうと仮定している。そして、そのために、これまで存在したほとんどすべての人がシミュレーションされたのである。

この最後のテーゼは、数学的な先験的な論証の助けを借りて、あなたがおそらくそのようなシミュレーションの中に住んでいるという結論に導くものである。この議論は、特にジョン・リチャード・ゴット(1993)によって、人間は宇宙における特権のない観測者であるとする「コペルニクス的原理」の応用として持ち出されたものである。その前提のもとで、何らかの確率計算をすることで、世界や未来に関する知識を抽出しようというものである。ゴットの論文では、人類が滅亡する時期に関するものなので、終末論と呼ばれている（Carter, 1983; Leslie, 1994も参照）。ある次元に関する自分の立場について何も情報がないときは、基準クラスからランダムにサンプリングされたようなものだと考えるべきだろう。破滅論の弁明者の一人であるボストロム(1999)は、これをシミュレーション論文に適用している。この場合、参照クラスとは、過去、現在、未来にわたって存在する、生物学的であれデジタルであれ、すべての人間型意識存在の集団である。私たちが参照クラスの典型的な無作為抽出であるという仮定は、典型性の仮定であり、ボストロムが「自己サンプリングの仮定」と呼ぶものである。ボストロムが論証に用いる推論の筋道は次のようなものである：

私たちは人間であり、意識を持っている。そして、今まで世界で1000億以上の人間の生活があったわけではない（Bostrom, 2003a, p. 247）。

もし、ポストヒューマンの未来があり、そのために、巨大なコンピュータ上で動く祖先シミュレーションの中に、何兆兆というデジタル人間型の意識生命が存在すると仮定するなら、自己サンプリングの仮定をとれば、私たちがその中の一人であることはほぼ確実であり、私たちが生物学的人間型の意識生命のごくわずかの部分であることは極めてあり得ない。

したがって、もう一つの決定的な仮定を挙げることができる：

(10) 先験的な議論が可能である：これまでに存在したすべての意識者のうち、模擬的な意識者の割合はほぼ100%になるため、この議論の結論は導かれる： 私たちがコンピュータのシミュレーションの中に生きていることは、ほぼ間違いない。

シミュレーション論の核心は、コペルニクス原理と確率計算を組み合わせて、この世界の性質について先験的に知識を得ようとすることである。私たち自身を、現存するすべての人間型意識・知的生命体の基本集団の平均的なサンプルとして考えるという前提が、中心的な結論を促している。内で受け入れなければならない他の多くの仮定と同様に、それは非常に議論の余地がある（例えば、Korb & Oliver, 1998; Northcott, 2016）。この種の仮定に対して、多くの反論がある。その中には、自己サンプリング前提のパラドックス、参照クラスの選択の問題、観察者相対性、経験的レビューの機会なしに先験的に求める知識、あるいは予測の還元不可能な主観性などがある。このような観点からすると、議論されたアプリオリな議論は、自己規定的な思索に適した予測妥当性のない数学的ガジェットのように見える（Mills, 2020, p.123）。ボストロム自身、終末論に反論するために遭遇した100以上の試みについて語っている（2002、p.109）が、その核心は、示したように、シミュレーション論の背後にもある。まだ生まれていない集団とそのシミュレートされた子孫が、私たちがシミュレートされるかどうかの可能性に影響を与えるというのは、直感的に間違っているとしかいいようがない。このような逆接性は、理論的な確率計算には適合しても、現実の具体的な事例に適用すると失敗するようだ（Eckhardt, 2013, pp.9 f. and pp.16 f.)。数学的アプリオリ論というガジェットがなければ、シミュレーション論は根拠を失うが、それがあれば怪しくなる。

3 結論

ボストロムのシミュレーション論の推論は首尾一貫しているかもしれないが、その推論を説明する実際の構成はあまり説得力がない。リストアップされたすべての仮定を受け入れた場合のみ、私たちはシミュレーションの中に住んでいる可能性が高いという結論に至るが、これはボストロムの主張の大きな限界である。

もし、以下の仮定がすべて真実であることが判明し、かつその可能性が高い場合に限り、私たちはほぼ確実にコンピュータ・シミュレーションの中に生きていることになる：

• (1) ポストヒューマン文明が人類史の祖先シミュレーションを駆動する。
• (2) 精神状態は基板に依存しない。炭素ベースの生物学的脳には、意識の生成に何らかの機能的役割を果たす特別な機能は存在しない。
• (3) コンピュータ機能主義は真実である。心の計算理論に対する哲学的留保は、偽であることを証明しなければならない。
• (4) 人類は滅亡するか、ポスト・ヒューマニティの段階に達するかのどちらかしかない。それ以外の選択肢は、不可能ではないが、除外することができる。
• (5) 技術的に原理的に可能なことは、宇宙（あるいは多元宇宙）のどこかの時点で実際に実現される。この特殊な技術的決定論は、少なくとも天文学的な量の仮想人間タイプの意識体については、真実であることが判明するはずだ。
• (6）意識を持つケイ素ベースの人工的な存在の創造は原理的に可能である。
• (7) 将来、惑星全体規模の天文学的なコンピュータ容量が存在する。
• (8) 現実の世界とシミュレーションの世界は区別がつかない。
• (9）膨大な数の仮想意識者がコンピュータの中でシミュレートされる。その結果、シミュレートされた意識者の数は、生物学的な人間の数をはるかに上回ることになる。
• (10) この文脈では、数学的な先験的な議論が許される。私たちは、確率計算をすることによって、私たちの世界の本当の性質に関する関連する知識を先験的に引き出すことができる。

これらの主張はすべて疑問視されうる。これらは、部分的には非常に議論の余地があり、かなりの程度、推測の域に達している。すべての仮定が真になる可能性は極めて低いと指摘するのは、哲学的に大胆なことではない。計算論や基板独立性のように、1つの仮定が真でないことが判明するだけで、議論の結論である「私たちはすべてコンピュータ・シミュレーションの中に生きている」という考えが崩れてしまうような仮定もある。確率計算で先験的に知識を求めることが、果たして世界の本質的な洞察につながるのか、惑星全体が巨大なコンピュータになる可能性はあるのか、などなど、見方によっては1より小さい確率の仮定を受け継いでいる。このような仮定は、いずれも最終的に結論を導きにくくするものである。

Bibeau-DelisleとBrassardは、多階層シミュレーションを仮定して、必要な計算能力、シミュレーションと現実の存在の比率、シミュレーションにおける予想人口などの側面を考慮し、哲学的ではなく物理計算の立場からドレイク方程式的にシミュレーション論文の確率を算出しようとしている(2020)。このアイデアの哲学的なタイプは、シミュレーションの議論を軌道に乗せるために行われる哲学的な前提の確率を計算することである。ボストロムは仮定(1)に対しておよそ0,33の確率で、チャルマーズは仮定(2)に対して0,5で計算している（2022、p.101）。しかし、「私たちはコンピュータ・シミュレーションの中に生きている可能性が高い」という結論がますますあり得なくなると、最終的にはそれ自体が打ち消されることになる3。別の言い方をすれば

私たちはシミュレーションの中に生きていて、世界はポストヒューマン文明の大きなコンピュータの中の仮想の場所にすぎないという可能性を完全に排除することはできないかもしれない。しかし、推測の域を出ない多くの仮定を考慮すると、その可能性は極めて低いと思われる。しかし、これは逆に、あなたと私が生身の人間である可能性が高いということであり、それは心地よい現実である4。