The Heavy Price of Longtermism
アレクサンダー・ザイチク/10月
イラスト：デビッド・リットマン
「予言をするのは難しい、特に未来については……」というのは、ヨギ・ベラの言葉であったり、デンマークの物理学者ニールス・ボーアの言葉であったりする。どちらが先にそれを言ったか、あるいはどちらが優れているかは別として、私はデンマーク人に譲ろう。ボーアは、電子の動きという最も小さな時間地平を定義するランダム性と不可知性を明らかにし、彼の遺産は進歩のパラドックスの模範である。連合国がナチスとの核軍拡競争に勝利するのを助けた後、ボーアはワシントンとモスクワの間の核軍拡競争を止めようとして失敗し、キューバ危機が終わった数週間後に心不全で亡くなった。
ボーアの世代の悲劇的な皮肉と厳しい亡霊がつきまとうが、ウィリアム・マカスキルの『未来に誓うもの』（What We Owe Owe the Future）は、彼の出身校であるオックスフォード大学を拠点とする、小規模で資金力があり、密かに影響力を持つ長期主義への貢献である。長期主義（ロングターミズム）とは、最も凝縮された形で、人類の長期的生存と、遠い子孫によるおとめ座超銀河団の植民地化の確率を少しでも高めることが、現在における最高の倫理的義務であるとするものである。知的・物質的資源の分配はゼロサムであるため、現在において犠牲を払う必要がある。このような犠牲は正当化される、と長期主義者は主張する。なぜなら、技術の進歩はやがて、文字通り天文学的な量の未来の「価値」を生み出すからであり、現在の肉人形である人類の苦難や苦しみは、ほとんど無意味に近いからだ。この圧倒的な可能性は、「未来に対する現在の専制政治」を放棄する倫理的命令を生み出すとマカスキルは書いている。
この理論上の未来を埋め尽くす潜在的な人々の数は、多くの長期主義者の文献に散見される因数分解された数字に頼らなければ数えることができない。マカスキルは、男女兼用のトイレのマークで埋め尽くされた3つのページを用意し、それぞれが100億人を表し、それらが私たちに課す道徳的責任の範囲を示唆している。「マカスキル曰く、「未来はとても大きなものになるかもしれない。「それはまた、非常に良いものになるかもしれないし、非常に悪いものになるかもしれない」マカスキルが主張する良い方の未来とは、大きな犠牲を払ってでも経済成長と技術進歩を維持・加速させ、人工知能の出現を促進することである。人工知能は指数関数的に成長を拡大し、ホモ・サピエンスとは祖先の関係しか持たない超知的生命体による宇宙征服を促進する。
未来への責務
ウィリアム・マカスキル著
荒唐無稽なテクノ・オプティミズムとユートピア主義を融合させた長期主義は、シリコンバレーのジェットパック・セットの間で選ばれるパーラー哲学として登場した。マカスキルの同僚であるスウェーデン生まれの哲学者ニック・ボストロムは 2000年代初頭に「人類存亡リスク」という概念を提唱し、注目を集めた。近年では、ピーター・ティール、イーロン・マスク、スカイプ創業者のジャーン・タリンらが彼のアイデアに関心を示している。2012年、タリンはケンブリッジ大学に「人類存亡リスク研究センター」を共同設立し、ボストロムが長期的研究課題に取り組んでいるオックスフォード大学の「人類の未来研究所」に大きな寄付をしている。
マカスキルの著作はシリコンバレーでも高く評価されており、イーロン・マスクは『What We Owe the Future』について、「私の哲学にぴったりだ」と、典型的な自画自賛で述べている。この本に寄せられた多くの著名人による賛辞の中で、世界で最も裕福な人物によるこの賛辞は、長期主義が忍び寄る影響力の本当の重要性を示唆するのに最も近い。というのも、SF的な香りを漂わせながらも、長期主義が注目されるのは、遠い太陽系外惑星や何世紀もの価値を優先させる説得力のあるケースではなく、億万長者の政治が私たちに押し付けようとしているからだ。
マカスキルがEA（Effective Altruism：効果的利他主義）運動の少年のような顔をしていると知っている読者は、彼が天文台サイズの望遠鏡を操り、時空を超えたロジックゲームのトレーニングをしていることに驚くかもしれない。2015年に出版された彼の著書『Doing Good Better（より良いことをする）』は、慈善活動を、最大かつ最も即効性があり、測定可能な利益をもたらすと考えられるプロジェクトに向けるための青写真を示した。効果的な利他主義者は、例えば、1ドルあたりの影響指標を考えると、アフリカの蚊帳に100ドル使う方が、他の何かに1000ドル使うよりも「良い」と主張するかもしれない。
EAがこの10年間で慈善事業と社会起業家としての巨大企業に成長するにつれ、寄付者は関連非営利団体を通じて数百億ドルを拠出するようになった。マカスキルはTED講演の常連であり、世界的に有名な「ソート・リーダー」となった。彼のプロフィールのおかげで、EAが承認した慈善団体とその最も裕福な後援者を高く評価する現状維持バイアスにEAが苦しんでいると主張する批評家に対して、彼はほとんど無言を貫くことができた。哲学者のアリス・クラリーは、EAを「EAが取り組んでいる悪を確実に生み出している制度を永続させる」ための哲学であると表現することで、批判の核心を捉えている。EAでは、現在の苦しみを軽減する行動が最善であり、その苦しみのシステム的な原因にこだわることは非効率的で時間の無駄であるとされているからだ。
EAが現在に固執しているにもかかわらず、EAは常に長期主義と哲学的DNAを共有してきた。ボストロムは、トビー・オードやマカスキルがEAで利用したのと同じ概念的ツールの多くを使って長期主義を発展させた。最も重要なのは、功利主義-ある行動の「正しさ」は、その結果が自分の価値観や優先順位に従って「良い」かどうかによってすべて決定される-と、「期待値」理論-期待されるペイオフが最も高い行動が最良であるとする理論である。2012年、マカスキルがボストロムのFuture of Humanity Instituteと同じオフィス内にあるCentre for Effective Altruismの会長に就任したとき、2人はまだ関心分野ではないにせよ、すでに哲学的な言葉を共有していた。
『未来に託すもの』は、人類と技術の進歩に対する脅威を評価する点で、他の長期的な視点に立った作品と密接に関連している。これらの脅威は、早急な対応と資源投入が必要な絶滅リスクの高い脅威（解き放たれたAI、生物学的超兵器）から、マカスキルが示唆するような、道半ばで大きなつまずきや衝突はあるが、文明や長期主義的プロジェクトに必ずしも破滅をもたらすとは限らない脅威（気候変動、核戦争）まで多岐にわたる。同業者同様、マカスキルは「技術的停滞」を恐ろしい見通しとしている。経済成長や技術進歩が長期にわたって減速すれば、成長を動力源とするデジタルによる銀河の守護の到来が遅れるか、あるいは不可能になる可能性があるため、長期主義者は停滞を絶滅と大差ない運命と考えている。人類が地球上に平和で生態学的にバランスの取れた楽園を築き、それが何億年も続いたとしても、長期主義者はそれを核戦争に匹敵する大惨事と判断するだろう。技術進歩に執着しない文明は、偉大なるデジタル・ヴァルハラの建設に失敗するからだ。(ボストロムは、同じような理由から、「異質な圧力」、つまり人口の知能の低下もまた、核戦争に匹敵する大惨事であると述べている）。
停滞を食い止めるための行動を特定し測定するために、マカスキルは3つの指標を提案している。重要性（行動が未来に与える影響の大きさ）、持続性（影響の持続期間）、偶発性（影響が行動に依存する度合い）である。このように、マカスキルは、歴史という溶けたガラスが「硬くなり、再溶解しなければそれ以上の変化は不可能になる」前に、それを形作ることができると主張する。これは「価値観の定着」によってなされる。「ひとたび価値体系が十分に強力になると、競合を抑圧することでその状態を維持することができる。「社会における優勢な文化は、それ自体を定着させる傾向がある。
しかし、『What We Owe Owe the Future（未来に託すもの）』には、どの価値観、あるいは誰の価値観を、どのように定着させることに注力すべきかについて、多くを語ってはいない。長期主義者は、「より抽象的で一般的な道徳的原則を推進することに焦点を当てるべきであり、特定の道徳的行動を推進する場合は、より一般的な世界観に結びつけるべきである」と彼は提案する。また、価値観は「善意的なものにもサディスティックなものにも、探求的なものにも硬直的なものにもなりうる」ことも忘れてはならない。マカスキル自身、黄金律の大ファンである。黄金律を広めることは、「不滅の未来に向けて確固たるプラスの効果をもたらす」だろう。
哲学的な装飾を取り除けば、これらは決まり文句である。何百年、何千年先の出来事に影響を与えるためのアドバイスとしては、不合理な決まり文句である。陳腐な決まり文句は、それに膨大なゼロの文字列をつけても陳腐な決まり文句ではなくならない。長期的な視点に立つ人たちは、最近の歴史のジグザグや激動に対する理解が著しく乏しい。例えばポル・ポトは、正しい価値観が適切に定着していないときに何が起こりうるかを端的に示している。「ナチズムとスターリニズムの台頭は、自由労働の問題を含め、道徳の後退がいかに起こりやすいかを示している」長期主義プロジェクトは、今後何世紀にもわたって、どのようにしてこのような退行を防ぎ、それに耐えることができるのだろうか？マカスキルは言わない。長期主義者の中には、未来に舵を切ろうとする際に内在する不確実性を表現するために、「道徳的無知」という言葉を作った人もいる。MacAskillの本は、この言葉をもっと使った方が良かっただろう。
長期主義を警戒すべき十分な理由がある。マカスキル自身もかつてはそれをよく理解していた。マカスキルは、当初は「長期主義に冷めた」と書いている。結局のところ、「世界には現実の人々が直面している現実の問題がある」しかし、数年も経たないうちに、彼は「現在の専制政治」という考えに傾倒するようになった。2014年、彼の「効果的な利他主義のためのセンター」は長期主義的な「グローバル・プライオリティーズ・プロジェクト」を立ち上げた。2018年には、同センター内に2つ目の長期主義インキュベーター「Forethought Foundation for Global Priorities Research」を設立すると発表した。2021年、効率的利他主義センターは、フェイスブックの共同設立者ダスティン・モスコヴィッツから資金提供を受けているEAと提携する団体、オープン・フィランソロピーから、「人類の長期的未来に関する研究」のために750万ドルの助成金を授与された。
長期主義的なインフラが形作られるにつれて、Effective Altruistsは、超リモートなデジタル化された未来に有利になるよう、より多くのことを書くようになり、今ここでの苦しみや善行についてはあまり書かなくなった。EAのドナーは、EAと長期主義をテーマにした新しいブログに最高5回、10万ドルの賞金を提供しており、長期主義への関心を高めているEAのバーティカル部門であるVoxの「Future Perfect」に資金を提供している。2020年には、マカスキルのEA共同設立者であるトビー・オードが長期主義論『The Precipice』を出版した。昨年夏、マカスキルはEAの同僚であるヒラリー・グリーブスと「The Case for Strong Longtermism」と題する論文を共同執筆した。『What We Owe the Future』は、その論文の一般向け拡大版である。
2021年論文のタイトルにある「強い長期主義」という修飾語は重要である。マカスキルは、遠い未来を守ることを、数ある道徳的優先事項の中の一つではなく、現代における「重要な」道徳的優先事項であると考える長期主義者の陣営に位置づけられたのである。マカスキルがこの区別を新著では付録に譲り、本編では長期主義を道徳的優先事項の「ひとつ」と呼んでいることも注目に値する。「強い」長期主義は、EAや多くの人が理解するような未来への思いやりよりも厳しいものだ。EAのフォーラムでマカスキルは、マーケティング上の理由から「強い長期主義」は軽視されるべきであり、その代わりに一種のゲートウェイドラッグとしてソフトクリームを提供すべきだと明言している。
マカスキルは『What We Owe the Future』の中盤で、人口倫理のあらゆる理論には「直感的でない、あるいは魅力的でない意味合い」があることを認めている。しかし彼は、本書の本文や脚注の至るところに登場する他の長期的思想家たちが自身の出版物やインタビューで述べているような詳細には踏み込まない。ボストロムは、理論上の未来に4兆人の人間が存在する可能性が1%であると仮定した場合、「10億分の1ポイントだけ存在リスクを減らす期待価値は、10億人の人間の命の1000億倍の価値がある」と結論づけた。ニック・ベックステッドは、2013年の影響力のある長期主義者の論文の中で、この事実が「通常の賢明な人道的基準」を再検討することを求めていることを論じている。ベックステッドによれば、未来の生命が生きている生命よりも指数関数的に大きな「価値」を持ち、豊かな国がその生命を誕生させるために必要な技術革新を推進するとすれば、「他の条件が同じであれば、豊かな国の生命を救うことは貧しい国の生命を救うことよりも実質的に重要であるというのは、今となってはもっともなことのように思える」ヒラリー・グリーブスも同様に、かつては倫理的に望ましいと思われたこと、例えば「豊かな西側世界から世界の貧困層への資源移転」から、長期主義者の論理は明らかに、時には不幸にも、遠ざかっていることを認めている。
経済学者のタイラー・カウエンは、功利主義は「遠い将来への深い懸念があれば、貧しい人々から豊かな人々への資源の移転を支持する」と述べている。オックスフォード大学の哲学者アンドレアス・モーゲンセンは、Global Priorities Instituteが発表した最近の論文で、功利主義は「現在不遇な人々を助ける義務は、長期的な未来の価値を向上させることを目標とした行動をとる義務に取って代わられることを暗示しているようだ」と書いている。
哲学者であり、サイエンスライターであり、かつては長期主義者であったエミール・トレスが、なぜ長期主義を「近視眼的で短期的な思考からの単純な転換をはるかに超えた、非常に危険なイデオロギー」であると評するのか、その理由がこのような言葉から浮かび上がってくる。遠い未来における「価値」の創造を優先することで、長期主義者は無関心よりもはるかに悪いことを合理化するための哲学的基盤を築いている、とトーレスは指摘する。トーレスは、長期主義者と終末論的宗教の間に類似点を見いだし、長期主義者は「私たちは、未来が限りなく善意に満ちたものになるか、それとも許しがたい道徳的破滅の空虚なものになるかを決定する、人類史上最も重要な瞬間に立っている」と信じていると指摘する。
マカスキルは、AI、バイオ兵器、核兵器、気候変動、技術の停滞がもたらす脅威について調査し、要約を書くために、何十人ものアシスタントや問題の専門家を頼りにした。そのすべてを管理するには、3人の「参謀」が必要だったと彼は書いている。驚くべきことに、これらの人々は誰ひとりとして、地球の規制システム、規制システムが破壊する限界、そして長期主義者のプロジェクトが前提とする無限の成長との相容れなさについて書かれた文献に出会っていないようだ。経済成長を加速させるためには、地球全体を有毒で最終的には人が住めないような採掘場、処理施設、廃棄物処理場へと変貌させなければならないが、そのことは認識されておらず、楽しまれてもいない。ボストロムと同様、マカスキルも、世界は数学のゲームではなく、実際の生物物理学的数学に縛られた場所であるという考えをまるで知らないかのように書いている。
マカスキルの妄想の範囲を物語る研究は数多くあるが、フィンランド政府が依頼した複数の調査もそのひとつだ。著者の地質学者シモン・ミショーは、脱炭素化したヨーロッパで成長を支えるには、家庭の太陽光発電、風力発電所の拡大、リチウム電池で動く自動車や機械の製造など、現在知られている埋蔵量をはるかに上回る量の鉱物が必要になることを発見した。ミショー氏は最近の研究で、この移行には9億4,000万トンのニッケルが必要であり、これは現在の採掘能力では生産に400年かかる量であると見積もっている。このニッケルの多くは数年ごとに交換する必要があり、同様に大量の銅、コバルト、超希少なリチウムも必要になる。リチウム電池以外の化学物質が発明されたとしても、需要の増加に対応するために、材料の投入には終わりのない採掘作業が必要になるとミショー氏は指摘する。
システムエンジニア、地質学者、地球物理学者、気候科学者たちは、エントロピーや閉鎖系におけるエネルギーの流れといった鉄の物理法則との衝突を綿密に検証してきた。15,000人の科学者が署名した2019年の公開書簡の言葉を借りれば、長期主義者が恐れる崩壊と絶滅のシナリオを回避するには、「GDPの成長と豊かさの追求から、生態系の維持と人間の幸福の向上へ」とシフトする必要がある。このようなシステムから文明を完全に切り離すようなプログラムは、3122年はともかく、2122年について真剣に考えるものではない。長期主義は、未来を確保するための冷静な計画というよりは、決してありえない永遠の現在を閉じ込めるための空想的な計画なのだ。
『What We Owe Owe the Future（未来に託すもの）』は、複雑な文明を支えることのできる生きた地球を維持するために必要な変化を起こすには、あと10年程度しか残されていないという科学的コンセンサスを否定している。マカスキルの「最悪のケース」の気候シナリオでさえ、300年分の化石燃料を燃やし、3兆トンの炭素を排出するというものだ。彼は、その結果生じる摂氏7度から9.5度の温暖化は最悪だと推測しているが、「それさえも文明の崩壊に直結するとは考えにくい」と考えている。結局のところ、「豊かな国々は適応することができ、温帯地域は比較的無傷で済むだろう」
一方、マカスキルは、このような温暖化は「熱帯地方の農業には不利」であり、暑さのために「屋外での労働がますます困難になる」と指摘する。15度の温暖化でさえ、「ほとんどの地域の作物にとって致命的な限界」を超えることはないだろう。そして、この気温（そして言及されていない世界的な干ばつ）が農作物を枯らすとしたらどうだろう？マカスキルは、大量の飢餓が暴力や戦争につながるとは考えず、「ほとんどの紛争研究者」は気候変動を「国家能力や経済成長など他の要因に比べれば小さな要因」と評価している。マカスキルが残存する化石燃料の使用を懸念しているのは、崩壊後の社会が旧来の廃墟から別の石炭燃焼文明を「再建」するために、化石燃料が残されていないのではないかという懸念からだ。
この無頓着さは、核戦争に関する本書のストレンジラブ的な部分にも及んでいる。核の冬が気温に与える影響に関する研究に基づき、マカスキルは、地球規模の熱核によるホロコーストは、南米やオーストラリアの沿岸部では「最悪だが、なんとかなる」と断言している。しかし、マカスキルは「太陽光に依存しない食糧生産」に目を向けることを提案している。
『What We Owe Owe the Future』の最終章までで、読者は、未来は無限に広がる期待値であり、どんな犠牲を払っても守らなければならないこと、核戦争や気候変動は良くないこと（しかし、おそらく「存亡の危機」ではない）であること、そして経済成長は、遠い星々を越えて私たちを連れて行くのに十分な速度を得るまで燃料を供給しなければならないこと、最終的には、肉体のある人類そのものとともに、私たちの宇宙的運命である特異点（シンギュラリティ）に融合することを学んだ。しかし、タイトルの約束はまだ果たされていない。私たちは未来に借りがある。しかし、私たちは未来に何を負っているのだろうか？私たちは何をするのか？
ここでマカスキル（EA指向のキャリア選択非営利団体の共同設立者）は、おなじみのガイダンス・カウンセラーのモードに移行する。「Effective Altruism（効果的利他主義）」のように、彼の長期的な視点は、健全なキャリア主義をたっぷりと含んでいる。彼は「本当にうまくいく可能性のある（アップサイドを求める）長期的な道に賭ける」と書いている。
あなたは、パンデミック（世界的大流行）によってもたらされる存亡の危機を軽減することに関心のある新進の長期研究者だろうか？マカスキルは、超党派の生物防衛委員会、ジョンズ・ホプキンス健康安全保障センター、そして「安価で迅速な万能診断薬や極めて信頼性の高い個人防護具を製造するための技術革新を推進する」組織との機会を求めることを提案する。エネルギーと気候に関心があるだろうか？クリーン・エア・タスク・フォース（Clean Air Task Force）、ファウンダーズ・プレッジ・クライメート・ファンド（Founders Pledge Climate Fund）、その他EA公認の非営利団体で、「遠大な政治変革の可能性を高める」団体に収入の10%を寄付する。
マカスキルは、長期主義者は投票に行き、家族や友人に「より良い価値観や、戦争、パンデミック、AIにまつわる問題など、重要なアイデアについて」話すことを勧めている。また、彼は子供を持つことも勧めており、「あなたの子孫は二酸化炭素を排出するだろうが、社会貢献や技術革新、政治変革の提唱など、良いこともたくさんするだろう」と述べている。ただ、あまり積極的でないことを願うばかりである。
マカスキルの本の数少ない楽しみのひとつは、著者の言う英雄たちがこの本に対してどう反応するかを想像することである。マカスキルは、初期の奴隷廃止論者を繰り返し賞賛している-彼らは重要性、永続性、偶発性のテストに合格したのだ。しかし、18世紀のマカスキルなら、ゲリラ演劇を控えめにし、代わりに大西洋横断奴隷経済に対する合理的な代替案を開発することに焦点を当てたシンクタンクでのインターンシップを探すよう彼に言った後、レイの義にかなった暴言を受ける側になっていただろう。
マカスキルが賞賛したイギリスの参政権運動家たちも同様に、遠い未来に焦点を当てたり、その未来に影響を与えようとする彼のハイティーなアプローチにはあまり我慢ならなかっただろう。エメリン・パンクハーストの女性社会政治同盟は、ロンドンの高級ショッピング街で、身なりの良い女性たちを派遣して店先や絵画を破壊させ、1913年に議会がフランチャイズ法を否決した際には、1年にわたる放火キャンペーンで応戦した。「私たちは政府の信用を失墜させなければならなかった……イギリスのスポーツを台無しにし、ビジネスを傷つけ、貴重な財産を破壊し」、「生活全体の秩序を乱さなければならなかった」と、後にパンクハーストは、グリーンピース、ACT-UP、絶滅の反乱など、彼女が遺した直接行動の雛形について書いている。マカスキルの論理では、先人たちを賞賛しているにもかかわらず、これらのグループを長期主義的なアジェンダに対する脅威と見なし、むしろ価値ある未来を確保するための味方と見なす必要がある。
私がマカスキルの本を読み終えた6月頃、エクアドルのアマゾンで先住民グループと活動している友人から連絡があった。彼は、エクアドル政府が新たに許可した石油・鉱山開発プロジェクトに反対する全国的な抗議行動を数週間にわたって組織し、疲れ切っていた。もしこのプロジェクトが許可されれば、熱帯雨林地域の水と食料の供給はさらに汚染され、地球の炭素循環と水循環を調整する地域システムのほころびが加速するだろう。全国各地で、先住民コミュニティとその同盟者たちが道路を封鎖し、軍隊や警察部隊の催涙ガスや手刀による打撃に立ち向かっていた。人の抗議者が殺された。
もっと静かな時なら、マカスキルの本について触れたかもしれないが、私の友人はすでにそのテーゼのリアルワールドでの現れとの戦いで血まみれになっていた。この戦いにおける彼の味方は、高速道路に玉石を転がす先住民グループだけでなく、ハイテク億万長者の夢の宇宙城や実体のない意識に含まれる仮定の「価値」を犠牲にして、生物圏の残骸を引き渡し、代替文明のビジョンや道筋を断ち切るという要求を拒否するすべての人に及んでいる。この拒絶は、未来の世代について考えるという自明の倫理的義務の失敗ではない。それは、より想像的で、より現実的で、未来は今であるという理解に根ざした、別のバージョンの義務なのである。
アレクサンダー・ザイチクはフリージャーナリストで、『Owning the Sun』の著者：『A People’s History of Monopoly Medicine from Aspirin to COVID-19』の著者。