平和と紛争研究における実存的リスク | シュプリンガー（2023）
Existential Risks in Peace and Conflict Studies

Existential Risks in Peace and Conflict Studies

平和と紛争研究の再考

シリーズ編集者

オリバー・P・リッチモンドマンチェスター大学（英国、マンチェスター

Annika Björkdahlルンド大学政治学部（スウェーデン・ルンド

Gëzim Visokaダブリン・シティ大学（アイルランド、ダブリン

このアジェンダ・セッティング研究モノグラフ・シリーズは、国際関係学における平和・紛争研究の革新的な新アジェンダを推進することを目的とした学際的フォーラムである。このシリーズがこれまでに主催してきた批評本の多くは、積極的、解放的、ハイブリッドな平和形態の探求に直接的、間接的に関連する新たな分析手段に貢献してきた。リベラルな平和、ハイブリッドな平和、日常的な平和への貢献、市民社会や社会運動の役割、国際的なアクターやネットワーク、さらには平和のさまざまな側面（平和構築、国家建設、若者の貢献、写真、多くのケーススタディなど）に対する建設的な批評が、これまでに探求されてきた。このシリーズは、平和とは何か、誰の平和か、誰のための平和か、平和はどこで起こるのか、といった重要な政治的問題を提起している。そうすることで、国際平和アーキテクチャーの発展、平和プロセス、国連の平和構築、平和維持と調停、国家建設、そして実践と理論における地域の平和形成について、新たな学際的視点を提供する。このシリーズでは、地域の平和機関の発展や、解放的な平和の形態とグローバルな正義とのつながりに対するそれらの意味を検証する。本シリーズの寄稿は、世界で最も困難な紛争の多くについて、理論的・実証的な洞察を提供するとともに、平和を阻む要因について、ますます重要な証拠を調査している。

ノア・B・テイラー

平和と紛争研究における人類存亡リスク

ノア・B・テイラーインスブルック大学（オーストリア、インスブルック

先人たち、そしてこれからのすべての人たちへ

謝辞

本書の旅は、故意にせよ無意識にせよ、多くの人々に助けられた。Nereaには、あなたのサポート、伴走、優しい耳、鋭い目に心から感謝の意を表したい。長年にわたる友情と、この本のためのサウンドボーディング・セッションに感謝したい。ヴォルフガングには、この10年半にわたる彼の指導、助言、インスピレーションに深く感謝している。あなたは私の考え方と人生に大きな影響を与えてくれた。ノベール、ホセフィーナ、そして私のピースファミリーを支えてくれた多くの仲間に感謝したい。エスティの愛とサポートに深く感謝したい。家族のカレン、ブルース、パティ、ジュディ、ダン、ローラ、ベン、バレットに愛を捧げる。また、本書の最初のアイデアを練るのを手伝ってくれ、初稿に対するフィードバックをくれた『80,000 Hours』のハビバとアーデンにも感謝したい。

目次

• 1 はじめに
• 2 基礎
• 3 PCSとERSの交差点で
• 4 大国間の対立
• 5 平和、パンデミック、紛争
• 6 気候変動の平和と紛争
• 7 新興技術、リスク、平和、紛争
• 8 全体主義リスクと平和
• 9 おわりに
• 索引

1. はじめに

ノア・B・テイラー1

(1)オーストリア、インスブルック、インスブルック大学

キーワード

現在 長期 生存 人類の運命 世界の終わり 平和と紛争研究 人類存亡リスク

ある人は世界は火によって終わると言い、

またある人は氷によって終わると言う。

私が経験した欲望から言うと、

私は火を支持する人々に同意する。

しかし、もし世界が二度滅びるとしたら、

私は憎しみについて十分に知っていると思う。

破壊のためには氷もまた 素晴らしく、 十分であると言えるだろう。

「Fire and Ice（火と氷）」Robert Frost 1920

私は物心ついたときから世界の終わりについて考えてきた。若い頃は、死への恐怖が黙示録への憧れを駆り立てた。私にとっては、自分自身や愛する人の死がもたらす悲劇は、他者なしに私たちは進んでいかなければならないということだった。世界の終わりというアイデアは、何もなく、誰もいなくなるため、恐怖からの自由を与えてくれた。やがて私は、世界がどのように終わるのかを研究し始めた。私の名前の由来であるノアは、典型的な先史時代の存亡の危機から命を救ったことで知られている。

ロバート・フロストの詩「炎と氷」は、私が学校で最初に暗記した詩だった。最初の火は、しばしば力、行動、そしてプロメテウスが盗んだ贈り物の象徴として使われるが、ここでは欲望による消費を通して運命と同一視されている。2つ目の要素である氷の形をした水と、凍りついた黙示録のイメージは、天文学者ハーロウ・シャプレーとの宇宙の究極の運命についての会話から着想を得たという逸話がある。ダンテの『インフェルノ』に影響を受けたフロストにとって、氷の破壊力は憎しみに等しい。泣く哲学者ヘラクレイトスは、魂を火と水の混合物と理解した。フロストにとって、世界の運命は、欲望に駆られた炎の黙示録と、憎しみから生じた凍てつく荒れ地の狭間にある。

本書の精神は、人類の究極的な終末、その運命を決定する私たちの役割、そしてそれが今この瞬間に何を意味するかに基づいている。

この詩を暗記してから何年も経ってから、私は平和・紛争研究（PCS）を学び、後に実践するようになった。PCSは、私たちの種としての傾向のひとつである、互いを破壊し合うという根源を理解し、それを克服しようとするのに役立つツールだと思ったからだ。PCSは、暴力の原因や影響を理解すること、紛争をどのように変容させることができるのか、そして可能性を開花させるような形で、人間がお互いに、そして世界とどのように関わることができるのかに関心を抱いている。フロストの詩に戻ると、PCSは憎しみを変革しようとする学問である。しかし、欲望についてはどうだろう？運命はどうだろう？炎はどこにあるのか？そこで登場したのが、人類存亡リスク研究（ERS）である。PCSの本質は、私たちが互いにどのように関わり合うかだが、ERSは私たちの中・長期的、超長期的な未来、つまり人類の可能性、私たちが成功しない可能性に関心を抱いている。

最近開発されたこの学問を深く掘り下げていくうちに、PCSとERSの間には、まだ解明されていない融合点があることが次第に明らかになってきた。PCSとERSは、ルーツ、目的、理念が似ている。両分野はある意味、過去における破壊への反動であり、未来への懸念でもある。しかし、両分野は互いに対話をしてこなかった。学問の世界ではよくあることだが、両分野は互いに意識することなく、サイロの中で発展してきたのである。本書で私は、平和・紛争研究とともに、私たちの存在に対するリスクについて考える方法を明らかにすることを目指している。この2つの分野を融合させることで、私たちの未来がいかにして平和で長いものになるかを理解する一助になればと願っている。

COVID-19のパンデミック、気候変動の悪化、ヨーロッパにおける新たな戦争、そして常に存在する核戦争の恐怖の中で、私は本書を執筆した。冒頭で、平和と人類の生存が相互に関連していると仮定することは、想像力の飛躍を感じさせない。さらに、起こりうる最悪の事態への備えができていないと仮定することは、もはや急進的なことではない。

本書は、平和と人類という種の長期的な存続というテーマを探求している。本書の出発点は、両分野が互いから利益を得ることができるということである。PCSはERSの未来志向から恩恵を受け、ERSはPCSの関係重視から恩恵を受けるだろう。この目的のために、このテキストは、人類の長期的な未来を描く方法、人類の生存を脅かす可能性のある脅威、そしてそれらのリスクに対処する方法を見つけるために発展してきたERSの分野から引用している。本書は、ERSの視点を活用し、平和研究の未来について新たな考え方を提供するための理論的枠組みを提示する。PCSの専門家は、未来に関する議論に参加する必要がある。PCSは、未来に影響を与える諸問題について、より良い意思決定を行うための補完的な視点を提供してくれる。

まず、両分野が発展した歴史的背景を中心に、両分野の歴史を簡単に紹介する。その後、両分野の現状を要約し、PCSとERSの交差点における重要な哲学的問いに取り組む。つ目の問いは、それぞれの分野における時間、優先順位、価値観の理解に焦点を当て、これら2つの分野の交わりを検証するものである。

議論の全体的な枠組みが確立されたところで、私はPCSにおける5つの研究テーマについて論証する。これらのテーマは、現在の関心事であると同時に、人類存亡リスクに対する実質的な理解と、将来を見据えるための枠組みを必要とするものである。これらのトピックはそれぞれ定義され、議論されている。PCSにおけるこれらの問題に対する現在の見解が概説され、それらがERSにおいてどのように理解されているか、また、どのようなアプローチをPCSに適応させ、統合することが有益であるかが述べられている。各セクションの最後には、この2つの分野が交差する地点で研究を発展させるために、どのような疑問が関連しうるかについて考察している。本書は、生存の脅威という文脈におけるPCSと長期的思考についての考察で締めくくられている。

本書は、未来についての議論に新たな考え方を加えるものである。長期的な未来を考えるとき、「今、ここ」でも私たちはどのように関わり合っているのか、という問いが必要だ。私はよく、最後の星が暗くなるとき、最後のブラックホールの端にいる人たちを想像し、その人たちは何を映すだろうかと考える。私は本書を、PCSの初期の創設者の一人であるエリス・ボールディングが「長い現在」と呼んだ、現在の瞬間と長期的な未来の間に位置づける。本書で私は、未来への脅威について考える方法と、すべての現在を矛盾なく平和に過ごす方法との間に、認識論的な橋を架ける。

フロストの「Fire and Ice」から5年後の1925年、T.S.エリオットは 「The Hollow Men」を書いた。この詩もまた、終末論的なトーンを持っている。語り手は自分自身を「空洞の男たち」の一人だと表現している。空洞の男たちとは、荒涼とした壊れた世界に生きる、生きているわけでも死んでいるわけでもない空虚な人々である。彼のイメージは、あの第一次世界大戦の恐怖と予言に呼応している： 「これが世界の終わり方だ。最初の核爆弾が投下される20年前に書かれたものだが、それでも彼は 「whimper」に賭けただろうか。

7. 新興技術、リスク、平和、紛争

ノア・B・テイラー1

(1)オーストリア、インスブルック、インスブルック大学

キーワード

エマージング・テクノロジー　人工知能　合成生物学　バイオテクノロジー　ナノテクノロジー　紛争の原動力　兵器化テクノロジー　平和構築

新興テクノロジーの定義

新興技術とは、その可能性がまだ十分に認識・理解されていない技術のことである。これらの技術の特徴は、根本的な新規性と、さまざまな技術の流れに一貫性を持ち続けること、急成長すること、さまざまな社会・経済・政治システムにわたって広範な影響を及ぼすこと、そしてその影響があいまいで不確実であることである（Rotolo et al.2015）。これらの技術は、研究開発に多額の費用を必要とすることが多く、学際的アプローチから恩恵を受ける。これらの技術は、新産業の創出や既存産業の変革に大きな変革をもたらす可能性を秘めている。さらに、これらの技術はしばしば大規模な社会的、文化的、政治的変化を引き起こす。印刷機、ワクチン、抗生物質、飛行機、インターネットは、歴史のある時点ではすべて新興技術であり、そのすべてが社会を変革してきた。

歴史を通じて、これらの技術の正味の利益は、間違いなくその害を上回ってきた。しかし、このような傾向があるからといって、新しい技術が予期せぬ社会的・倫理的影響をもたらさないとは限らない。前例がなく、高度に認知されている技術を理解する上で重要な点は、その技術が普及する前に、予期せぬ大惨事を防ぐためにどのような配慮が必要かということである（Bostrom and Ćirković 2011）。

現在、「エマージング」という言葉は、クラウド・コンピューティングからバーチャル・リアリティまで、さまざまなテクノロジーに適用されている（Halaweh 2013）。人工知能（AI）、合成生物学、ナノテクノロジー、地球工学を指して使われることも多い（Alford et al. 2012; Government Office for Science 2014）。これらの技術は「新興」であるため、その時期の問題が重要な論点となる。例えば、合成生物学やナノテクノロジーはすでに存在し、産業や医療に応用されている。完全な変革の可能性は将来にあると考えられている。人工知能や地球工学のような技術については、すでに基礎が存在しているが、その発展についての予測はより幅が広い。

考慮に入れるべき重要な要素は、新興のテクノロジーは、それらが組み合わされればさらに強力になる可能性を秘めているということである。例えば、ナノテクノロジーの進歩は、バイオテクノロジーの開発速度を高めるために利用することができる。AI開発へのアプローチの1つとして、人間の心をシミュレートする「脳のエミュレーション」の開発にバイオテクノロジーを利用し、そこから最初の人工知能（AGI）が生まれる可能性がある（Eth 2017、Hanson 2016、Baum et al.）

本セクションでは、新たなテクノロジー全般について論じ、以下のセクションで特定のテクノロジーについて論じるためのフレームを概説する。平和と紛争研究（PCS）の重要なテーマとして選ばれたテクノロジーは、人工知能、バイオテクノロジー、ナノテクノロジーである。これらが選ばれた理由は、いずれも目新しく、急速な発展を遂げ、その影響範囲が広く、潜在的な用途について不確実性を含んでおり、変革的な可能性と破壊的な可能性を併せ持つからだ。各新興技術について、技術の概要を簡単に説明する。各技術は、存立リスク研究（ERS）とPCSのレンズを通して検討され、リスクの種類、規模、範囲、さらには紛争や平和の推進力に寄与する可能性が評価される。

新興技術によるリスク

新興技術は、人類存亡リスクに関するいくつかの懸念をもたらす。特に、地球工学を気候変動に応用するなど、新興技術が持つ変革の可能性が、人類存亡リスクに対処する可能性として喧伝される場合、その懸念は正当化される。懸念されるのは、注意深い先見性なしに行われた場合、同じ技術がそれ自体で存立危機事態を引き起こしたり、すでに存在するリスクを助長したりする可能性があるということだ。現時点では、その影響を理解し、リスクを軽減し、人類の繁栄に貢献する可能性を活用するために、これらの問題をより明確にする必要がある。

論文「脆弱な世界仮説」の中で、ボストロム(2019)は新技術の開発をコンテナから玉を取り出すことに例えている。容器の大部分は「白いボール」で、全体的に有益な技術であり、多くの「灰色のボール」は有益なものと有害なものが混在している。これがこれまでの人類の経験である。恐れているのは、その容器のどこかに「ブラック・ボール」、つまりそれを生み出した人々の文明を破壊する技術があることだ。そのような技術が開発されるリスクは、技術の開発と規制を導く政策を慎重に検討することを求めている。ERSの文脈で考えると、もたらされるリスクのレベルを考えると、そのブラックボールを引き当てる可能性が信じられないほど低いとしても、人類は失敗や試行錯誤から学ぶことに頼ることはできないだろう。したがって、先見的思考は慎重であり、求められている（Government Office for Science 2014）。

平和、紛争、新興技術

PCSのレンズを通して新興技術を分析する際に重要な点は、その技術が紛争や平和の推進力となり得るかどうかである。新興技術を紛争の促進要因として分析する場合、その新技術が武器化される可能性を評価することが不可欠である。加えて、冷戦期における米ソ間の軍拡競争の経験を踏まえると、それぞれの技術について再びそのような競争が起こる可能性を考慮することは、それが紛争の激化にどのように寄与するかを理解する上で不可欠である。これらの技術がもたらす可能性のある影響が広範囲に及ぶことを考えると、分析すべき第三の要素は、それらがもたらす可能性のある社会的、政治的、経済的な破壊的影響であろう。新興テクノロジーがいかに平和の推進力となりうるかは、それぞれのテクノロジーが持つ変革の可能性を有益な方向へと導くことに直結する。

テクノロジーの兵器化

新しい強力な技術が生まれるたびに、それを武器に変える者が現れる可能性があることは、驚くにはあたらない。人類には、テクノロジーを兵器化してきた長い歴史がある。国家間の戦争とテクノロジーとの間の正のフィードバック・ループは、産業革命以降の歴史を形成する重要な要因として理解することができる。ウォーレン・チンは著書『テクノロジー、戦争、国家』（2019）の中で、この関係は戦争を理解する上で非常に重要であり、戦争の本質に関するカール・フォン・クラウゼヴィッツの有名な分析に対する主な批判の一つであったと論じている。

新興テクノロジーの兵器化に関しては、2つの重要な側面を考慮する必要がある。第一は、そのような兵器を配備する能力と動機を持つエージェントの種類である。もう1つは、兵器化された技術の破壊的可能性である。軽武装や重武装のレベルにまで規模を拡大できるのか、あるいは大量破壊兵器（WMD）、さらには全壊兵器（WTD）として使用される可能性があるのかである（Torres 2018）。

既存の技術が新たな方法で兵器化された最近の例としては、2010年のスタックスネット・ワームがある。このコンピューターウイルスはデジタル兵器であり、遠心分離機の誤作動を引き起こしてイランの核濃縮プログラムに多大な損害をもたらし、物理世界に破壊をもたらす能力を実証した（Kushner 2013; Zetter 2014; Kerr et al.） このような兵器が人工知能によってさらに強化されれば、さらに破壊力が増す可能性がある。

強力なテクノロジーが兵器化された場合、事故や誤解が悲惨な結果を招く可能性がある。ワシーリー・アルキヒポフの話は、いったん兵器化され、不完全な指揮統制体制に置かれた核の力が、人類を世界規模の核戦争に近づけたことを物語っている。1962年10月27日、キューバ・ミサイル危機の間、世界は核災害の危機的状況に近づいた。核兵器がキューバに移送され、アメリカとソ連の緊張は崖っぷちに立たされていた。キューバでの軍事作戦を支援するため、ソ連のB-59潜水艦4隻が派遣された。この4隻はそれぞれ、広島に投下されたのと同等の核魚雷を搭載していた。危機が交渉されている間、アメリカの軍艦がヴァレンティン・サヴィツキーが艦長を務めるB-59の1隻を発見し、潜水艦を浮上させるために「威嚇射撃」として弾薬を投下し始めた。

潜水艦の状況は悲惨だった。モスクワとの無線連絡が取れないまま、何日も海の奥深くに隠れていたのだ。空調システムが壊れ、艦内は45℃から60℃の熱気に包まれ、二酸化炭素が蓄積し、乗組員の多くが意識を失っていた。アメリカが信号爆雷を投下し始めた時、サヴィツキーは自分たちが攻撃されていると思い、核攻撃を命じた。「私たちがここで宙返りをしている間に、向こうではもう戦争が始まっているのかもしれない。私たちがここで宙返りをしている間に、向こうではもう戦争が始まっているのかもしれない！私たちは死ぬだろうが、海軍の名誉を汚さぬよう、全員を沈めてやる！”(Gonzalez 2002)と言った。(ゴンザレス2002）。通信がなければ、核戦争がすでに始まっているかどうかもわからない。

サヴィツキーは、艦内の3人の将校全員の承認を必要とした。彼は政治将校イヴァン・セモノヴィッチ・マスレニコフの承認を得た。人類にとって幸運だったのは、参謀長兼副司令官で船団全体の指揮官であるワシーリー・アルキヒポフが乗船していたことだ。アルキヒポフは発砲許可を与えず、サヴィツキーに浮上してモスクワと連絡を取るよう説得した。もしアルキパイフがその場にいなかったり、別の行動をとっていたらどうなっていたかは誰にもわからない。核魚雷はおそらく発射され、報復を引き起こし、さらにエスカレートして核戦争になっていたかもしれない（Ord 2020; McNamara 1992; Elisberg 2017; Blanton et al.）

フィル・トーレスは、「『自分たちさえできれば、誰が進んで世界を破壊するだろうか』という問い」[強調](129)と書いている。[というのも、これまではその質問の「できる」という部分が、その質問を投げかけられる「誰」を劇的に制限していたからだ。この状況は変わりつつある。希少で高価な材料、専門的な知識、工業レベルの加工施設を必要とする核兵器とは異なり、未来の大量破壊兵器は、少人数のグループ、あるいは一個人でも製造できるかもしれない。大規模な暴力の独占が、歴史上初めて国家から奪われる可能性は、テクノロジーと暴力のつながりについて批判的な考察を必要とする。

さらに、新興技術の兵器化は軍拡競争の可能性を生む。軍拡競争は、少なくとも2つの異なる方法で起こりうる。ひとつは、新しい兵器技術を最初に開発する国同士の競争である。もうひとつは、軍事以外の用途でその技術を開発しようとする競争である。どちらも危険な可能性である。世界が見てきたように、核軍拡競争は不条理ともいえる兵器の備蓄につながった。一部の学者は、新興技術は紛争をエスカレートさせる潜在的な要因であり、その可能性は技術が明確に兵器化された場合に高まると主張している（Miller and Fontaine 2017; Gartzke 2019; Horowitz 2019）。地政学的な恐怖の雰囲気の中で生産される新型兵器の数が増えれば、紛争をエスカレートさせる要因になる可能性が高い。軍拡競争は、一度始まると止めるのが難しい。冷戦期の核軍拡競争でさえ、予測はされていたが、それでも起こったのである（Bostrom 2009）。将来、新興技術が唯一の影響力を持つ独立変数、すなわち紛争激化を煽るに十分な外生的要因になることはないだろうが、その代わりに、他の要因と組み合わさったときに紛争激化の可能性を高める介在変数として認識されることになるだろう。より強力な推進力は、やはり長年の不満、政策、政治であろう。軍拡競争の懸念は正当なものではあるが、緩和された懸念である。特定のダイナミズムに寄与するのは技術ではなく、むしろその技術に関する政治的・戦略的選択が、その開発、規制、使用を形成するのである（Talmadge 2019）。

技術開発における競争は、あるレベルではイノベーションを刺激するかもしれないが、それはまた、便宜のために安全性への懸念が回避される「底辺への競争」につながる可能性もある（Armstrong et al.） 人工知能や合成生物学の市場でコロニーを獲得しようと競争する多くの国や企業は、安全性に関して近道をするかもしれず、その結果、技術の偶発的または意図的な誤用につながる可能性がある。このレベルでのさらなる競争は、注意と資源を必要とする。このような転用は、他の存亡に関わるリスクをより大きくする可能性がある。

紛争の原動力としての新興技術

PCSと新興技術との関連で懸念される重要な問題は、それらがもたらす可能性のある、より広範な経済的、社会的、政治的影響である。新興技術が紛争を助長する可能性のひとつに、産業界への影響がある。新興テクノロジーは、第4次産業革命（インダストリー4.0）と呼ばれるものを形成している。インダストリー4.0」という用語は、知的な先行研究はあったものの、クラウス・シュワブが著書『第4次産業革命』（2016）の中で提唱したものである。4.0」は産業革命の第4の反復を意味し、この呼称は常識から少し逸脱している。第1次、第2次、第3次の産業革命は、その発生後に呼称された（Toynbee 1884; Geddes 1915; Jevons 1931; Landes 1969）。この技術開発の時代は、自動化、データ・フィードバック、適応的で分散化された意思決定を特徴とする製造シフトによって起こった。これらは「サイバー・フィジカル」システムと呼ばれ、デジタルと物理の世界が、自動化された一定のデータ駆動型フィードバックループの中で相互作用するものである（Lee and Matsikoudis 2008）。インダストリー4.0は、生産、消費、労働市場の性質を変えるだろう。

既存のデジタル技術は不平等を助長することが示されている。不平等の原因は、スキルの低い仕事が、より高いスキルを必要とする仕事に取って代わられることであり、企業所得のうち、労働者ではなく企業に支払われる割合がますます大きくなっている（Brynjolfsson and McAfee 2011）。人工知能のような新たなテクノロジーは、ビッグデータ分析、クラウドコンピューティング、モノのインターネット、サイバーフィジカルシステムの生産性と効率を高めるだろう。インダストリー4.0（I 4.0）は、直接的・間接的に不平等に影響を与える可能性がある（UNCTAD 2019）。予測が正確であれば、平和研究にとって重要な関心事は、紛争の一因としての不平等の役割となるだろう（Bahgat et al. 2017; Russet 1964; Bartuesvičius 2014; Cederman et al. 2011; Østby 2011; Stewart 2000; Bircan et al. 2017）。

テクノロジーによる不平等が重大な破壊的効果をもたらすという予測が正確であることが証明されれば、社会・経済・政治生活に大規模な変化が生じる可能性が高い。例えば、新たなテクノロジーによって多数の人々が労働力を失う世界が生まれるとすれば、多数の人々が貧困に陥ることになり、あるいは社会は根本的に異なる方法で人々をケアする方法を想像しなければならなくなる。何十億もの人々が働く必要がなくなる世界と、働けなくなる世界には違いがある。

テクノロジーによる平和構築と紛争変革

新興テクノロジーは、平和構築と紛争変革に不可欠なツールとなるかもしれない。インダストリー4.0における新興テクノロジーの開発で期待されていることの1つは、その変革の可能性が経済と社会の再編成に利用されることである（Herweijer et al.） この再編が信頼を築き、成長を刺激し、イノベーションを促進することで不平等を縮小するならば、新興テクノロジーは間接的に平和に貢献するかもしれない（Benioff 2017）。さらに、人工知能やナノテクノロジーなどの新興テクノロジーは、一般的に経済的・生態学的に優れている資源をより効率的に利用する可能性が高く、紛争の原因となる他の要因を減らすのに役立つかもしれない。

新興技術、特に人工知能は、暴力的紛争を防止するための早期警報・早期行動（EWEA）システムで使用されている現行技術を強化するために使用される可能性がある。地理情報科学（GIS）を使って、暴力的紛争の発生を監視し、軍事紛争の影響を検証し、人口移動を監視するプロジェクトはすでに存在している。機械学習（ML）と自然言語処理（NLP）ツールは、紛争のモデル化、紛争予測、人権侵害の文書化のための、より強固な定量的ベンチマークを確立するために使われている。ヘイトスピーチやその他の紛争指標についてソーシャルメディアを分析するシステムも開発されている。武力紛争の場所とイベント・データ・プロジェクト（ACLED）には、現地の言語による紛争のメディア報道を監視するシステムがあり、現地の観察者によって検証されている（Panic 2022）。これらの既存技術の現在の用途における有効性が、新たな技術によって強化される可能性はある。暴力に効果的に対処できるかどうかは、早期警戒を早期行動に結びつけ、紛争のリスクを軽減するための効果的な行動をとるための政策的・政治的構造にかかっている。

新興テクノロジーは、その変革の可能性から、平和構築のための新たな道筋を提供する可能性もある。工学と平和構築の接点を考える方法として、「平和工学」が提唱されている（Vesilind 2005; Özerdem and Schirch 2021; Yarnall et al.） ÖzerdemとSchirchは、平和工学について次のように書いている。「平和工学をポスト・パンデミック世界の救世主と呼ぶのは時期尚早かもしれないが、より公正で平和な社会の実現に極めて重要な役割を果たすことは避けられない。また、特に平和・紛争研究にとって、平和工学は、世界中で長期化している平和と安全保障の課題に対しても、新たな課題に対しても、より学際的なアプローチと応用を可能にする新たな世界への扉を開くものである。(113)

PCSは、新技術の研究開発に関する学際的な議論に参加することが不可欠であろう。さらに平和と紛争に関する懸念は、人類がこれらの技術の開発をどのように導き、その破壊的な可能性を軽減するかを考える上で、中心的な役割を果たす必要がある。

新技術と平和・紛争研究の交差がもたらすジレンマ

人類は、長期的な生存を確保するための行動をとる上で、歴史上最も重要な時期に直面しているかもしれない。この考え方は、新興テクノロジーがもたらす可能性のある存亡の危機を考える際に特に当てはまる。これらのテクノロジーのガバナンス、規制、望ましい軌道に関して人類が下す、あるいは下さない決断は、その変革の可能性と最終的な結末を決定する上で極めて重要である（Beckstead et al.） 同じことが、これらの技術に適用される可能性があり、有益な目的にも破壊的な目的にも適用される可能性がある研究開発をどのように導くかについても言える。

PCSとERSの設立の重要な起点となったのは、最初の核爆弾の開発と使用であった。当時は「新興」と見なされたであろうこの技術は、確実に地球を変革し、破壊的な影響を及ぼした。ロバート・オッペンハイマーは最初の核爆弾の開発を指揮していた。原子爆弾は核分裂反応を引き起こすことで作動する。最初の原爆実験を前に、開発チーム内では、連鎖反応が地球の水中の水素に引火したり、空気中の窒素と反応して海を沸騰させたり、大気を燃え上がらせたりするのではないかと心配されていた。オッペンハイマーは、大気が発火する可能性を検討する、現在では機密扱いとされていない報告書を依頼した。この報告書の結論は次のようなものであった。「この論文の議論から、N+N反応が伝播することを期待するのは不合理であると結論づけられるかもしれない。無制限に伝播する可能性はさらに低い。しかし、議論の複雑さと満足のいく実験的基礎がないことから、この問題についてのさらなる研究が強く望まれている。」(Konopinski et al.）

このような懸念は、1945年7月16日、原爆が爆発したトリニティ実験の日まで続いた。このような結果があり得ないこと、人類は幸運に恵まれただけではないことが科学的に確認されたのは、それから数年後のことであった（ウィーバーとウッド 1979）。核研究の兵器化は、科学研究にとって斬新なジレンマであった。人類は歴史上初めて、兵器化可能な方法で前例のない量のエネルギーを生産できるようになったのだ（Ellisberg 2017）。この歴史上のエピソードは、多くの疑問をもたらした。世界最高の頭脳の多くが、破壊的、変革的、破壊的な技術を開発していたが、このような悲惨な反応が起きないという確率の見積もりはどの程度だったのだろうか？その確率はどの程度低かったのだろうか？誰が決定権を持つのだろうか？その決定者は選挙で選ばれるのだろうか？彼らは誰を代表するのだろうか？

大型ハドロン衝突型加速器（LHC）もまた、不確実なリスクをもたらす新技術の開発に関わる問題を示すテストケースのひとつである。2008年、欧州原子核研究機構（CERN）は、全長27kmの軌道でイオンを光速に近づける加速器の使用を開始した（CEERN n.d.）。LHCの目的は、質量の起源に関する実験を行い、暗黒物質の理解を深め、宇宙の対称性を探すことだった。しかし、LHCによって地球が「ストレンジレット」（粒子よりも小さい極めて高密度の物質）に変換されるなど、予期せぬ影響が生じるのではないかという懸念もあった。明らかに、この懸念は実現しなかった。加速器が稼働する前に多くの訴訟が起こされたが、ほとんどの法制度がこの種の問題に対処できないため、すべて失敗に終わった（Adams 2009）。これは、原子炉の安全性への懸念から原子炉を停止すべきだったということではなく、現在の法制度や規制制度が、極めて確率が低く、影響が大きいタイプのリスクに対処するのに適していない可能性があることを示すものである。

ガバナンスと規制の必要性

ナノテクノロジー、バイオエンジニアリング、人工知能の進歩はすべて、人類に大きな利益をもたらす可能性があると同時に、慎重に使用しなければ悲惨な結果をもたらす可能性もある（Wilson 2013）。核爆弾や超大型衝突型加速器とは異なり、これらの技術の多くは、資源やインフラへのアクセスが少ない少数の人々によって開発される可能性があるため、この懸念は特に有効である。そのため、より大きな力が、より少数の、より管理されにくい手に落ちる可能性がある。

新興テクノロジーのガバナンスには多くの課題がある。Becksteadら(2014)は、こうした規制の問題を取り上げ、こうしたリスクからの保護はグローバルな公共財であり、したがって市場からの供給が不十分であると書いている。実施には多くの政府間の協力が必要な場合が多く、政治的な複雑さが増す。リスクの性質が前例のないものであるため、そこから教訓を引き出し、政策を形成するための過去の経験はほとんどない。さらに、予防政策の受益者には、現在の政治プロセスに対して影響力を持たない人々、つまり私たちの子供や孫が含まれる。(3)

その核心にあるのは、新興技術を統治する上での問題は、私たちの認識構造や政治構造における時間軸やインセンティブの整合性の不整合に起因しているということである。新興技術から生じる存亡の危機を軽減するためには、数百年後とは言わないまでも、数十年後に実を結ぶような決断を現在のうちに下す必要があるかもしれない。このような考え方は、政府の政策決定方法とは相性が悪い。ジョナサン・ボストン（2021）はこれを「時間政策間葛藤」と呼んでいる。人工知能のような技術開発を導く上で重要かもしれない政策決定を今行わなければならないことがもたらすリスクのようなものである(1)。政治家にとって、このような長期的な政策を検討することの目先の利益を見出すことは難しいかもしれない（Gluckman and Bardsley 2021）。表向き、政府の役割のひとつは、長期にわたる政策の継続性を確保することであるため、この種のガバナンスの問題に対処する必要がある。この時間的な問題に加えて、これらの決定がもたらす結果によって最も恩恵を受けたり苦しんだりする人々、つまり仮想的な未来の人々の声が議論に反映されないという問題がある。

また、新興技術のガバナンスを効果的に機能させるためには、それが世界的なリスクとなるため、世界レベルで行われなければならないという固有の困難もある。新興技術のグローバル・ガバナンスを担う機関は、「中央集権化／集約化、調整、政治化、透明性、適応、説明責任」（Boyd and Wilson 2021, 21）の問題に対処しなければならないだけでなく、潜在的な危害を生み出し、緩和し、その結果を被る責任を負う国同士の不公平にも対処しなければならない。リスクが深く不確実なものである場合、分析、評価、緩和には異なる手段が必要になる。では、国内外における規範とは何だろうか（Kwakkel et al.） 新興技術の軍事利用に関しては、どのような種類の法律が有効に適用されるかを判断する上で、法的正当性と論理の問題がさらに複雑になる（Boothby 2018）。

こうしたガバナンスの課題の多くは、ダイナミックなバランス感覚を必要とする。この課題はデュアルユース研究に当てはまり、研究とそこから派生する技術の両方が、広範な利益と大規模な害をもたらす可能性を持っている。危険性を恐れて、これらの技術がもたらしうる利益を見捨てることは賢明ではない。さらに、望ましいと判断されれば、技術の研究開発を中止できるかどうかも不明である。

今後の課題

紛争や暴力、大災害の犠牲の上にもたらされる恩恵がないように、新興技術のリスクをどのように軽減できるのか。

新興テクノロジーは、新規性が高く、実存的なリスクをもたらす可能性があり、完全に予測することができない現象であるため、ユニークな課題を提示している。このように、新興テクノロジーは、人類と未知の領域との関係、そしてその未知の領域と関係するために人類がどのように思考や制度を発展させるのが最善であるかを表している。人類がこれらの技術に関して今下す決断は、たとえこれらの技術の成就が非常に遠い未来にあるとしても、将来の発展に大きな影響を与える可能性がある。社会が新興技術の恩恵を享受しつつ、その負のコストに屈しないよう、新興技術の開発とガバナンスの形成に平和研究が果たす役割は重要な研究分野である。以下では、人工知能、バイオテクノロジー、ナノテクノロジーについて、新興技術、平和、紛争に関する懸念事項の関係の一例として論じる。

新興テクノロジー 人工知能

人工知能（AGI）の応用範囲は広く、その安全性に関する研究が必要である。ERSの分野では、人工知能のリスクと倫理が主要な焦点となっている。人類存亡リスク研究センター（CSER）、人類未来研究所（FHI）、アルゴリズム正義連盟、オープンAI、AIに関するパートナーシップ、知能の未来のためのレバハルムセンター、人間適合AIセンターなど、幅広い組織がこれらのテーマに取り組んでいる。AGI分野の発展が紛争にどのような影響を与えるか、またAGIがどのような平和構築の可能性を持つかについて、特別な注意を向ける必要があるだろう。AGI開発の更なる到達点は、過去に同じようなことが起こったことがないため、見渡すことのできない地平線である。AGIがもたらす最も劇的な影響は、想像を絶するものかもしれない。人類はこの技術を発展させる上で重要な局面を迎えており、どのように進歩を遂げるのか、そして誰がその方向性を決定するのかは、その将来にとって極めて重要な問題である。

人工知能（AI）は、おそらく本書に収録されている技術の中で最も「SF的」なものだろう。コンピューター科学者で人工知能（AI）分野の創始者であるニルス・ジョン・ニルソンは、AIを「機械に知性を持たせることに専念する活動」と定義している。知能とは、ある実体がその環境において先見性をもって適切に機能することを可能にする性質である」（2010）。一般的にAIとは、人間が創造した非生物学的な知能を意味する。AIにはさまざまなカテゴリーがある。それぞれのカテゴリーには、技術開発の新しい段階、応用範囲、起こりうるリスクが伴う。これらのカテゴリーには、現在存在する技術からより推測的なものまであり、その性能によって大きく区別される。例えば、チェスや囲碁（ボードゲーム）のようなゲームができるAIで、自動車や携帯電話にすでに搭載されている。その中間に位置するのが人工知能（AGI）、つまり「強い」AIであり、多くの領域で複雑な目標を達成することができ、人間と同じくらい賢い（Urban 2015）。現在、AGIはAI研究の「聖杯」と考えられている。なぜなら、AGIは人間のように領域を超えて知能を活用できるからだ。その頂点に位置するのが人工超知能であり、あらゆる分野において最も賢い人間よりもはるかに高い知性を持つことになるが、これはまだ実現されていない（Bostrom 2017）。

人工知能という大きな領域の中には、いくつかの異なる下位分野がある。AIという大きな領域の中に、機械学習というサブ分野がある。機械学習は、十分なデータがあれば、システムが学習し、パターンを見つけ、人間の介入をほとんど必要とせずに意思決定を下すことができると考えられている。このような学習プロセスには、時間の経過とともに自己改良が可能なアルゴリズムが使用される。機械学習のさらなる亜分野は、ディープラーニングのニューラルネットを使用することである。ニューラルネットは、人間の神経系をモデルにしたシステムである。この種のディープラーニングへのアプローチにより、より優れた予測能力が可能になる（Panic 2020）。

AGIの発展について議論する際、その時期の問題は重要である。これまで何度か「AIの冬」と呼ばれる、開発の進展が見られない時期があった。こうした「冬の時代」の前には、AIの進歩の速さについて極端な楽観論が語られることがあった。有名なのは、1956年にダートマス大学で開催されたワークショップで、多くの専門家が、機械の知能は1世代以内に人間の知能に匹敵すると予測し、この約束からAI研究のための多額の資金を調達することができた（Newquist 1994）。AGIが今後20年以内に開発される可能性は10%、2050年までに50%、2075年までに90%と予測している。同じ調査では、AGIが達成されれば、次の2年間で超知能が開発される可能性は10%、30年後には75%になると推定している（Müller and Bostrom 2016）。これらのタイムラインを正確に予測するには、現在の技術動向や産業動向からの外挿と、ホライズン・スキャニングや専門家抽出などの予測手法の組み合わせが必要である（Brundage et al.）

正確なタイムラインは、起こりうるリスクをどのように軽減するかを検討する上では、それほど重要な問題ではないかもしれない。人類がいつの日か、創造者よりもはるかに知的なAGIを生み出すと結論付けるには、2つの合理的な仮定が必要である。1つ目は、絶滅や文明の崩壊がない限り、人類は知的機械の価値を認めて開発を続けるだろうということである。2つ目の仮定は、知能は基質に依存しないということである。つまり、何かが知能を持つためには、人間の脳の中に存在する必要はないということである。この2つ目の仮定は真実である可能性が高い。狭い範囲のAIはすでに存在しており、使用されている知能の運用上の定義は、そのような知能がデジタルな存在になることを排除していない（コレ2022）。考えるべき重要な問題は、いつの日か人類が自分たちよりも無限に知的な存在と関係を持つことを考えると、それが双方にとって有益な関係になることを保証するために、今何ができるかということである（ハリス2022）。

AGIがもたらす仮想的な恩恵は膨大かつ広範囲に及ぶ。AIはインダストリー4.0の完全な発展のために不可欠な要素であり、医療診断の改善、自律走行車、個別化教育のサポートを可能にするかもしれない（パニック2020）。大量の複雑で曖昧な情報を処理するAIシステムの能力を考えると、AIは多くの研究分野で利用される可能性がある。AIは、ヒューマンエラーが蔓延し危険なシステムにおいて、ヒューマンエラーを取り除くことができるかもしれない。例えば、AIを搭載したロボットは、爆弾の信管を外したり、危険物を扱うような危険な仕事をこなすことができる。現在、平和構築や人道的対応活動へのAIの応用が研究されている（Hsu et al.） AIはおそらく、バイオテクノロジーやナノテクノロジーといった他の新興テクノロジーと相乗効果を発揮し、それらのテクノロジーの開発を加速させ、全体的な能力を向上させるだろう。

存続リスクと人工知能

AGIがもたらすかもしれない幅広い恩恵は、終末論的な恐怖とともにユートピア的な夢を呼び起こす。先に述べたAGI開発のタイムラインに関する推定では、同じ専門家が、開発が「人類にとって悪い、あるいは極めて悪い」ものになる確率は31%であるとも述べている（Müller and Bostrom 2016, 15）。AGIがもたらす危険性を評価することは、新興技術がもたらす人類存亡リスクを議論する上で極めて重要である。なぜなら、AGIは間違いなくERSの初期開発の中核をなすトピックであり、最も頻繁に研究されているトピックの一つだからだ。エリエーザー・ユドコフスキーは、AGIがもたらす最も重大な危険は「人々がそれを理解したと早々に結論付けることである」と要約している（2008年、308）。多くの不確定要素と、それが可能であるという高い確信が組み合わさることで、AIの危険性についてさまざまな憶測が飛び交う。

AIの脅威に関する一般的な想像は、映画『ターミネーター』（キャメロン 1984年、1991）の筋書きに従っている。人類はAIを作り、AIは自我を持ち、反乱を決意し、核兵器を人類に向ける。キノコ雲が収まった後、人類は超高性能ロボットとの長期戦に直面し、劣勢に立たされる。何気なくヘッドラインを検索してみると、「AIに感覚はない。なぜ人々はそう言うのか」（Metz 2022）、「『私は事実上、人間である』： 人工知能は感覚を持つことができるのか？(Tait 2022）、「『AIがもたらすリスクは本物だ』： 人生を台無しにするアルゴリズムに打ち勝つためのEUの動き」（Makortoff 2022）である。AIに対する好奇心と不安は、現在の時代の流れの一部となっているようだ。

AIやAIの開発がどの程度、実存的なリスクとなり得るかは、本質的なテーマである。AIによるリスクはまだ推測の域を出ないにもかかわらず、オード（2020）は、今後100年間にAIが実存的大災害の原因となるリスクを10分の1と見積もっている。AIが脅威となる可能性はいくつかあるが、いずれもAIが人類の未来を支配することに関わるものだ。

AIの専門家の間では、実存的破局の恐れは、復讐を企む自意識ロボットから来るものではなく、むしろ哲学的・設計的な問題から来るものだという。Noah Yuval Harari (2018)は、超知能AIに関する典型的な脅威の例を要約している。人気のあるシナリオの1つは、企業が最初の人工超知能を設計し、円周率を計算するような無邪気なテストを与えることを想像している。誰も何が起こっているのか気づかないうちに、AIは地球を征服し、人類を抹殺し、銀河の果てまで征服作戦を展開し、既知の宇宙全体を巨大なスーパーコンピューターに変えてしまう。(327)

AIの側には人類に対する悪意はなく、むしろAIは頼まれた仕事を全力でこなしているのだ。人類はその開発において間違いを犯した。AIが人間と同じことを望むようにすることができなかったのだ。このような課題は「価値観の一致問題」と呼ばれ、AIが人間の価値観と一致し、人間の管理下に置かれることを保証するものである（Gabriel and Ghazavi 2021）。あるいは、PCSの文脈では、「人間の価値観のグローバルな多様性と調和できる人工知能を設計するにはどうすればよいか？」という問題になる。(Panic 2020, 20）となる。

人工知能のガバナンスと規制

人工知能のガバナンスと規制は比較的新しい分野であり、現在は断片的に存在している。国際的には、後述する致死的自律兵器システム（LAWS）という形で兵器化されたAIを規制することに、新たな規制の取り組みが集中している。この種の規制は、ほとんどの大規模な擁護団体の視野に明確に入らないため、十分な関心を集めていないようだ。この種の技術を規制する方法を提案している人々は、「殺人ロボットの禁止」を目指すという枠組みでそれを行う傾向があるが、これはリスクに対処するための最も扱いやすいアプローチではないかもしれない。その他の障害としては、現在、LAWSの国際的定義が欠如していることと、国家が最先端の軍事技術を共有することに一般的に消極的であることが挙げられる（Surber et al.）

AIガバナンスの2つ目のトレンドは、AIのリスク軽減と「友好的AI」の推進に焦点を当てていることである。グーグルなど多くの大手テクノロジー企業は、技術革新が社会的進歩と組み合わされ、危害から保護する方法で実施されることを保証するために創設されたディープマインドの「倫理と社会」研究ユニットのような取り組みを始めている（Legassick and Harding 2017）。この活動は、初期の研究者であり、AIに関する主要な教科書の1つ（Russell and Norvig 1995）の共著者であるスチュアート・J・ラッセルが設立したCenter for Human-Compatible Artificial Intelligence（CHIAI）のような組織によって、NGOレベルでも行われている。CHIAIは、ラッセルが危惧したAIの研究開発の可能性に基づいて設立され、価値調整問題に焦点を当てている。

AIは国連（UN）の課題となっている。2020年、国連デジタル協力に関するハイレベル・パネルは、「デジタル技術の社会的、倫理的、法的、経済的影響に対処し、その利益を最大化し、その害を最小化する」（UN 2020, 4）ためのデジタル協力を探求することを任務とした作業部会の調査結果を報告した。この報告書で懸念された重要なトピックは、一部の国が取り残され、高度な技術開発の恩恵を共有できない可能性があることだった。

文化レベルでも、AI開発の指針となる原則を策定する取り組みが行われている。フューチャー・オブ・ライフ・インスティテュートは2017年、AI分野の専門家による会議を開催し、アシロマー原則をまとめた。この23の原則は、研究、倫理と価値観、より長期的な問題に焦点を当て、研究者と政策立案者の間に信頼、協力、透明性の文化を醸成するために策定された（FLI 2018; Garcia 2019）。これらの原則を起草するために、関係する専門家たちが積極的に集まったことは、オープンで共有的な世界的文化を構築・維持し、AI開発がもたらす潜在的な問題を特定するために、どのような戦略が効果的である可能性が高いかについて、継続的な調査と審議が必要であることを示している（Bostrom 2017）。

AIがもたらすリスクに関する懸念は、研究開発の禁止を求めるものではなく、むしろ慎重さと協調を求めるものであるべきだ。「試行錯誤」に基づくアプローチでは、AIの安全な開発を導くには不十分である。AIシステムは、故障したり危険にさらされたりしないよう、十分に堅牢である必要がある。法制度はテクノロジーの変化に対応する必要がある。AIの恩恵の平等な分配を考慮する必要がある。さらに、AIの進歩は幅広い分野に応用される可能性が高いため、様々な形態のAIがどのような紛争に影響を及ぼす可能性があるのかを検討する必要がある。

平和、紛争、人工知能

人工知能（AI）はその両義的な性質から、PCSの将来にとって不可欠なテーマとなるだろう。人工知能は生活の多くの分野に変革的、破壊的な影響を及ぼすだろう。その発展は、AIが産業に応用され、富と効率が驚くほど向上するという有益な道を歩むかもしれない。AIシステムは、人間よりも公平に事件を裁くことで、法律や金融システムをより公正なものにするために使われるかもしれない。AIは意図しない有害な効果をもたらす可能性もある。AIは社会的・経済的不平等を増大させるかもしれないし、AIによる偏見の例もすでにある。さらに、あらゆるテクノロジーと同様、AIは兵器として使用される可能性があり、AI開発競争は過去の軍拡競争のようなあらゆる弊害をもたらす可能性がある。PCSは、AIの開発の方向性を有益なものに変えることができるかもしれない。さらに、AIは平和研究と実践のための重要なツールとなるかもしれない。

AIの兵器化

AIが兵器化される可能性と、そうなる必然性は、地政学的に不安と脆弱性に対する恐怖感を助長するだろう。人類には、新技術を兵器化してきた長い歴史がある。ダイナマイトが当初は建設用として発明されたが、すぐに兵器化されたことを思い出すだけで、この傾向が思い起こされる。AIは既存の兵器システムを補強するかもしれない（Surber 2018）： AI兵器はおそらく、より速く、より正確で、より効率的になるだろう。AIによって兵器システムがより自律的になれば、戦力増強につながるだろう。戦闘に必要な兵士の数は減り、こうしたシステムによって各兵士の効力は高まるだろう。AIは、迅速かつ効果的なサイバー攻撃や、より効果的な軍事戦略の開発、あるいはまだ知られていない方法で応用するための武器として使用できるかもしれない。

AIを武器の補強や武器として使うことの戦略的利点がこれだけあるのだから、どこかの誰かがAIをそのように使う可能性は高い。

AIはドローンのように、当初は軍事監視用に開発されたものの、すぐに兵器になってしまうかもしれない。タディラン・マスチフは、歴史家の間では、最初の近代的な軍事用無人航空機（UAV）と考えられている。イスラエル軍によって開発され、1973年のヨム・キプール戦争で監視用に使用された（Merrin 2018）。プレデター無人機は1996年に発明され（Whittle 2013） 2002年に初の無人機による致命的な攻撃で使用された（Fuller 2015）。それ以来、軍事利用は大幅に拡大している。ドローンの使用に関する推定は様々である。調査報道局（2022）は 2004年から2022年までに最低でも14,040回の無人機攻撃が行われ、8858人から16,901人が死亡したと推定している。当初は先進国軍の道具でしかなかったが、今では100カ国以上が軍事用無人偵察機を保有している可能性がある（BBC 2022）。無人偵察機の使用は、国家の軍隊以外にも広がっている。2016年、イスラム国（IS）の過激派がモスルでクルド人ペシュメルガ戦闘員2人を殺害し、フランス兵2人を負傷させたとき、非国家組織が無人機を使用したことによる最初の死者が確認された（ロイター2016）。

AIは既存の物理兵器技術を増強する必要すらないだろう。前述したスタックスネット・ワームはデジタル兵器の一例だが、AIによってその効力を大幅に高めることができる。AIはまた、他の形態のサイバー戦争を実現不可能にする複雑な作業を自動化することもできる。このような費用対効果比の変化や、特定のサイバー攻撃に責任を負わせることの難しさは、AIサイバー兵器を使用するインセンティブになるかもしれない（Brundage et al. 2018）。

2018年、韓国科学技術院（KAIST）はハンファ・システムズと共同で、AI技術を武器化し、「人間の制御なしに標的を探索し、排除できる」ようにする共同プロジェクトを発表した（Ji-hye 2018）。この技術は「火薬、核兵器に続く戦場における第3の革命」と呼ばれている（ハース2018）。自律型兵器や兵器化されたAIの使用を禁止する取り組み（HWR 2020）や、その開発を規制する取り組みも行われている。こうした取り組みには、AI開発に関心を持つ大手企業の専門家も協力している。イーロン・マスクとムスタファ・スールマンは、他の155人の専門家とともに、AIの国際的規制を求める国連特定通常兵器禁止条約への公開書簡に参加している（FHI 2017）。

AIが兵器化される可能性のある直接的ではない方法もある。強力なAGIシステムを大規模偽情報キャンペーンに応用することは、暴力を扇動し、分極化を進め、紛争をエスカレートさせるという点で極めて危険である。インテリジェントなボットは、プロパガンダの大規模かつ効果的な使用を容易にするだろう。これらのツールは、ケンブリッジ・アナリティクスの「兵器化されたAIプロパガンダ・マシン」（Anderson 2017; Hall 2017）のように、個別にターゲットを絞った説得力のある情報を生成するためにも利用できる。AIは「生成的敵対ネットワーク」によって開発される「深いフェイク」の質を向上させる可能性が高く、悪意ある行為者にとって強力なツールとなり得る。現在進行中のロシア・ウクライナ戦争では、すでにそのような利用の証拠が見つかっている（Wakefield 2022）。

AIの膨大な可能性には、それを迅速に開発する強い動機がある。各国や企業がAIの金融、産業、軍事、政治的応用を掌握しようとする中で、AI競争が起こる可能性がある。そのような競争の可能性はすでに目前に迫っている。中国政府は20-30年までにAIで世界のリーダーになるという目標を宣言し、ロシアのウラジーミル・プーチン大統領は「（AIの）分野でリーダーになる者は世界の支配者になる」と述べている（Vincent 2017）。

マックス・テグマーク(2018)は、世界的なAIの軍拡競争を防ぐことが人類が直面する重要な課題の一つであると強調している。このような競争の危険性は、AIの開発と使用に関する国際的な規範、規制、コンセンサスが欠如している現状によってさらに拡大し、利益インセンティブと組み合わさると、便宜のために安全性が犠牲になる底辺への競争につながる可能性がある（Tiku 2018）。AI競争は避けられないだろうが、問題は、それがどの程度までAIの軍拡競争になるのか、また、AIの競争が地政学的緊張を緊張させ、大国間紛争の可能性を増大させるかどうかである。

紛争の他の推進要因への影響

AIが紛争の直接的、間接的な要因となる可能性は多々ある。インダストリー4.0で述べたように、AIは不平等を助長する新たな産業システムの中核となる可能性がある。この懸念は、デジタル協力に関する最近の国連報告書（UN2020）でも繰り返されている。すでに不平等と紛争の関連性が指摘されていることを考えれば、これは懸念すべきことだ。

AIは人間の偏見を取り除くのに役立つが、偏見を再生産し、拡大する道具にもなりうる。このバイアスは、開発のいくつかの段階において、意図的に、あるいは意図せずに生じる可能性がある。バイアスは、問題の初期フレームをAIに教える問題スコープの段階で忍び込む可能性がある。AIはまた、学習されたトレーニングデータや、与えられたアルゴリズムやパラメーターの選択に基づいて偏ることもある（Luengo-Oroz et al.2021）。偏ったAIがもたらす害の規模は、システムにどのようなタスクを与えるかにも起因する。採用（Parikh 2021）、ヘルスケア（Vartan 2019）、予測的取り締まり（Angwin et al. 2016）に使われるAIシステムで、人種やジェンダーに偏りが見られるケースがすでにある。これらの例はいずれもそれ自体が有害だが、こうした偏ったシステムの影響が紛争の原動力になっている可能性もある。

平和構築／紛争変革とAI

平和を強化するためのAIの可能性はすでに模索されており（山川 2019）、平和維持活動における利用も考えられている（多国間主義に関する独立委員会 2007）。平和構築や紛争変革戦略のためのより深い洞察を深めるために、既存の紛争データベースをAIで分析することも検討されている（Trapple et al 1995）。AIシステムは、こうした複雑なデータセットを利用して、より正確な紛争予測、早期警戒、介入方法を構築することもできる（Colaresi and Mahmood 2017）。より洗練された正確な紛争モデルを開発するためにAIを利用することも提案されている（Lagazio and Marwala 2007）。そのようなAIが開発したモデルによって、より効率的な紛争解決の実践が可能になるかもしれない（Olsher 2015）。リアルタイムのデータが人間の処理能力を超えるような複雑な災害や緊急対応において、「チームメイト」としてAIを活用する研究も進んでいる。また、AIシステムによって、資源やエネルギーをより効率的に配置できるかもしれないという期待もある（Seeber et al.）

AIと平和・紛争問題に明確に焦点を当て、AIを使って大規模なデータセットを処理し、平和プロセスを支援する組織も増えている（Özerdem and Schirch 2021）。AI for Peaceは2020年にブランカ・パニックによって設立され、機械学習と平和構築の接点に取り組み、そのようなアプローチの倫理的意味合いや予期せぬ結果を目の当たりにした経験から、AIとPCSについて検討している（Panic 2021）。AI for Peaceは、学術界、産業界、市民社会が連携し、AIを平和の推進力として最大限に活用し、紛争を助長する可能性を軽減するために活動している（AI for Peace n.d.）。米国平和研究所（USIP）のピーステック・ラボは、世界の暴力的紛争を減らすために新技術を活用することを目指している。

将来への疑問

AIの今後の進歩は、紛争の可能性、激しさ、特定のタイプの紛争を増加させる上で、どのような役割を果たす可能性があるのか。

AIにはどのような平和構築や紛争変革の機会があるのか？

現在、AIはルネッサンス期を迎えており、機械学習アルゴリズムは、輸送、医療、金融、軍事（Liu et al. しかし、現在のAIは将来の期待に比べると控えめである。特に、AIはいずれ重要な点で人類を凌駕し、変革的な結果をもたらすと提唱されている（Miller 2019, Bostrom 2016, Hanson 2016, Sotala 2017）。そのようなAIは、人間以上の知的能力を持つ超知的になり、世界に変化をもたらす人間以上の能力を持つ超強力になる可能性がある。その設計の詳細次第では、そのようなAIは、人類が抱える問題の多くを解決し、無数の新たな機会を創出することによって、人類の文明を変革し、あるいは不平等、紛争、そしておそらく絶滅の原動力となる可能性がある。

その核心において、AIは深遠な変革をもたらすテクノロジーとなるだろう。AIの将来の発展に関する不安と希望は、未来を予測するモデルと、そのモデルの限界との交差から生まれる。専門家の間で想像されるAIの未来は多岐にわたる。AIは複雑な疑問に答える一種の「神託」になるかもしれない。あるいは、人類のユートピアを支配するテクノデヴァイスになるかもしれない。人類を絶滅させるかもしれないし、人間を動物園に閉じ込めるかもしれない。悪意ある行為者に力を与えるかもしれないし、人類とハイブリッド化して人類が星々に広がり、まったく新しいものになるかもしれない。

このような空想はすべて、人類がAIにどのような行動をとらせるかを、人類がどのような行動をとらせるかを想定するという擬人化の誤謬を犯しているように見える。あり得るのは、超知的なAIが出現した場合、まったく予期しない行動をとるということだ。AIに対する恐怖は、直接的・間接的な脅威から来るものではなく、むしろ予期せぬ結果に対する恐怖、未知のものに対する恐怖から来るものかもしれない。AIに対する人類の懸念は、自らの知識の限界に立ち向かうための鏡なのかもしれない。鏡としてのAIは、人類自身の破壊能力をも映し出しているのだ。

新たなテクノロジー 合成生物学とバイオテクノロジー

バイオテクノロジーと合成生物学は、生きた細胞のほとんどの機能においてタンパク質が中心的な重要性を持つことを発見したことから生まれた。遺伝子工学技術の発展により、これらのタンパク質を生成する経路を変更することが可能になった。合成生物学とバイオテクノロジーは、遺伝子工学、生化学、その他多くの生物学のサブフィールドを組み合わせた学際的アプローチである。両分野の区別は明確ではないし、全会一致でもないが、ここでは両分野の一般的な特徴を概説する。

合成生物学とは、新しい生物学的システムを創造すること、あるいは自然のものを目的のために再設計することである（Schmidt 2012）。これらの生物学的システムは、ウイルス、細菌、細胞、その他の生物に含まれるものである（DiEuliis et al.） 合成生物学とバイオテクノロジーの違いは、主に新システムの機能の新規性にある。ヒトの遺伝子を植物に入れたり、植物の遺伝子をヒトに入れたりすることは、これらの遺伝子がまだ最初の効果を生み出している限り、合成生物学とはみなされない。これらの遺伝子が、新規の代謝経路を作り出すような形で組み合わされれば、それは合成生物学とみなされるだろう。

どちらの分野も、DNAの塩基配列の決定や合成にかかるコストの削減、CRISPR/Cas9のような新しいゲノム編集ツールの発明、分析ツールの進歩によって牽引されてきた。合成生物学は、工学的生物学にとってこれらの技術へのアクセスを向上させ、この分野の分散化をもたらした。こうした流れを受けて、合成生物学の特徴のひとつは、生物学を工学的に研究するためにこれらの技術を利用しやすくすることである。この分散化は、より多くの人々がこれらの技術にアクセスできるようになることで、「バイオテクノロジーの可能性を最大限に引き出し、イノベーションの波を巻き起こす」（Schmidt 2008, 1）ことを目的としている。

合成生物学が、従来バイオテクノロジーで用いられてきた遺伝子工学的アプローチから発展したことは、その初期の応用例のひとつであるゴールデン・ライス・プロジェクトに見ることができる。このプロジェクトは、最も一般的に食べられている作物のひとつである米に含まれるビタミンAの量を増やすことで、世界的なビタミンA欠乏症の問題に対処することを目的としていた。自然界に存在する米は、ビタミンAの前駆物質であるベータカロチンのレベルが高くない。ヒトが食べる部分にはさらに低いが、リコピンという前駆物質が含まれている。植物の天然リコピンを増やすために、バクテリアの酵素の遺伝子コードが使われた。この改良によって、通常の5倍のビタミンAを生産するイネが誕生した。しかし、この改良ではビタミンA欠乏症の問題を解決するには不十分であった。というのも、このレベルであっても、正常なレベルに達するにはかなりの量の米を食べなければならないからだ。ゴールデン・ライス・プロジェクトの第2バージョンでは、異なる生物から2つの遺伝子を導入し、イネの代謝を大幅に変更した。リコピンとベータカロチンの両方を作る経路が強化され、新バージョンのゴールデンライスは、天然植物の約100倍のベータカロチンを生産するようになった（Davis 2018）。

バイオテクノロジーと合成生物学は、現在幅広い用途がある。現在の用途には、農業や家畜生産の改善、工業用化学物質の生産、病気の診断、予防、治療、ヒト細胞の工学化などがある。合成生物学の応用における最初のブレークスルーのひとつは、1970年代のソマトスタチンとヒトインスリンの合成であった（Goeddel et al. 1979）。この人工インスリンの誕生は、糖尿病の治療において革命的であり、平均寿命と生活の質を向上させた。Katzら(2018)は、これらの技術の将来は、「人間の健康、世界の食糧供給、再生可能エネルギー、工業用化学物質と酵素という現在進行中の問題に対処するために、バイオテクノロジー産業に広範な影響を与える」可能性が高いと書いている(449)。

可能性のスペクトルの最果てには、合成生物学を使って人間という概念を変えることがある（Tegmark 2018）。その真に変革的な可能性は、人間の性質を変化させ、人間をより身体的に健康で認知能力の高い存在にするために利用することにあるかもしれない（Bostrom and Sandberg 2009）。遠い将来、人類が星々を旅しながら自らの生物学を改変することを学べば、現在の人類種が最終的に異なる亜種に分裂することになるかもしれない（Baum et al.）

ガバナンスと規制

人工知能と同様に、バイオテクノロジーと合成生物学のガバナンスにおける主な課題の1つは、その発展速度がしばしばガバナンスと規制システムを上回ることである（Garfinkel et al.） ガバナンスが技術の進歩に遅れをとるのはよくあることだが、発展のスピードが速まるにつれて、技術とそのコントロールのギャップは以前よりも広がっている。ガバナンスの課題は、強固で効果的なアプローチが、生物兵器がもたらすリスクと二重利用研究の問題の両方に対処しなければならないという事実によって、さらに複雑になっている（WHO 2013; Baum and Wilson 2013）。

国際法はグローバルなリスクへの対応にしばしば用いられるが、合成生物学の発展には追いついていない（Wilson 2013）。生物兵器禁止条約（BWC）は、生物兵器のリスクから身を守るための最も注目される国際的な取り組みである。生物兵器や毒素兵器を禁止し、1975年に発効した（UNODA n.d.）。BWCは生物兵器の開発を根絶する効果はなかったが、生物兵器の使用に対する国際的な反撃規範を確立するという重要な役割を果たした（Cross and Klotz 2020）。この転換は、生物兵器の秘密計画が疑われ、時には証拠もあるにもかかわらず、どの国もその計画を明確に認めないという事実が証明している（Guillemin 2007）。BWCは、その目標を達成する上で大きな課題に直面している。第一は、国連加盟国がBWCに割り当てる資源の数である。オードは、国際原子力機関（IAEA）や化学兵器禁止機関（OPCW）に比べて、BWCの職員数ははるかに少なく、「平均的なマクドナルド・レストランよりも予算が少ない」と指摘している（Ord 2020, 57）。このリソース不足は、第二の課題であるコンプライアンスを確保するための効果的な手段の欠如と相まって、さらに深刻なものとなっている。また、非国家主体や個人主体のリスクにもほとんど対処できていない。BWCの条文は生物兵器の研究を対象としておらず、兵器の開発、獲得、備蓄のみを対象としている。その意味するところは、デュアルユースの研究が防衛を装って続けられる一方で、同じ研究が他の目的に悪用される可能性があるということである（Kelle 2009）。

これらの技術やその開発に使われた研究のほとんどは、軍事と民生への応用を意味する「デュアルユース」である。悪用されることを恐れて、病気を治したり、人類の繁栄を促進したりする研究を阻害しないことが目的であるため、技術のこの側面には慎重な注意と国際的な協力が必要である。

バイオテクノロジーの潜在的な危険性に関して、研究者や産業界の信頼と協力を育むための文化的レベルでの取り組みが進んでいる。このような動きは、どの研究分野が最も危険であるかを定義し、それに違反した者を制裁するためにどのような制度を導入できるかに焦点を当てている。この方向性において、アメリカ国立アカデミーの報告書『バイオテクノロジーの破壊的応用を防止するための研究基準と実践に関する委員会』（2003）は、懸念される7つの実験を挙げている： (1)ワクチンを効かなくする方法の実証、(2)治療上有用な抗生物質や抗ウイルス剤に対する耐性の付与、(3)病原体の病原性の強化または非病原体の病原性の強化、(4)病原体の感染性の増大、(5)病原体の宿主範囲の変更、(6)診断／検出手段の回避の可能性、(7)生物学的病原体または毒素の兵器化の可能性である（Rappert 2014）。バイオセキュリティーを向上させるための合意形成の有効性に関する研究が実際に必要である。研究者間の合意形成は、危険な研究分野を特定し、慎重な文化を築き、予期せぬ危険を明るみに出すのに役立つだろう。

情報ハザードの存在は、バイオセキュリティリスクを軽減する試みをさらに複雑にしている。情報ハザードとは、「危害を引き起こす、あるいは何らかの病原体が危害を引き起こすことを可能にするような真の情報が流布されること、あるいは流布される可能性があることから生じるリスク」である（Bostrom 2011, 44）。情報ハザードは、バイオリスクにおいて困難な決定を生み出す。遺伝子を供給する会社は、販売するのが危険な特定の遺伝子コードのリストを欲しがるかもしれない。善意のアイデアではあるが、どのような材料が販売禁止であるかが知られてしまえば、潜在的に危険な遺伝子材料は、それを探している誰にでも特定されてしまう。別の例では、米国国際開発庁（USAID）は最近、2021年に新しいプログラム「新興病原体-ウイルス人獣共通感染症の発見と探索（DEEP VZN）」を開始した。このプログラムは、「新たなパンデミックを引き起こす可能性のある野生生物からヒトへのウイルス流出リスクを検出し、理解するための世界的能力を強化する」ことを目的としている（USAID 2021）。このプログラムの狙いは、将来起こりうるパンデミックを予防・準備するために、動物集団からヒトへ病気が移動する可能性のある感染媒介動物を記録することである。ヒトに感染するパンデミックの大部分は動物から移動するものであることを考えると、この種のプログラムは疾病リスクを効果的に軽減する可能性がある。このプログラムが見落としている可能性があるのは、重大なバイオセキュリティ情報ハザード・リスクである。DEEP VZNプログラムを通じて発見された情報にアクセスできれば、破壊的な動機を持つ人間なら誰でもパンデミックを引き起こす能力を持つことになる。エスヴェルト（2022）は、新興脅威と支出監視に関する小委員会での証言の中で、この脅威を取り上げ、「私は、パンデミックウイルスの同定は、生命科学の他の何よりも国家安全保障に対する短期的な脅威であり、核兵器がこれまでにもたらした脅威よりも深刻な拡散の脅威であると合理的に確信している」(2)と述べている。バイオテクノロジーと合成生物学のガバナンスに対する現実的なアプローチは、おそらくこれらの危険性に対処する方法を見つけなければならないだろう。

デュアルユース技術・研究、特にバイオテクノロジーと合成生物学を管理・規制する上での課題は、潜在的な危害と利益のバランスをうまく調整することである。このバランスは、両極端で約束され、あるいは恐れられていることを考えると難しい。これらの技術がもたらすとされる潜在的利益は、ほとんどの病気を治し、老化を終わらせるというレベルである。最も極端なリスクとしては、世界を滅ぼすような人工病原体の開発が挙げられる。

存続リスクと合成生物学

バイオテクノロジーと合成生物学が、存亡の危機や地球規模の破局的リスクに寄与する可能性を評価するのは複雑である。要するに、合成生物学は既存のパンデミックリスクに意図的に新たな要素を加えるものであり、したがって兵器化された病原体が地政学をさらに複雑にする可能性がある（Pamlin and Armstrong 2015）。災害には少なくとも3つの経路がある。

• 1. 意図的に生物兵器を開発し、使用する。
• 2. 実験室で事故が発生し、病原体が放出される。
• 3. 未知の影響と予期せぬ結果によるリスク

まず、未知の影響によるリスク、偶発的な放出、そして最後に意図的な生物兵器の使用について述べる

遺伝子操作はバイオテクノロジーの応用の一例であり、予期せぬ結果の危険性を示している。ジーンドライブは、操作された形質が野生個体群に好まれ、世代を超えて受け継がれるようにするための方法である（Esvelt et al.） 遺伝子ドライブを使用する説得力のある理由はたくさんある。例えば、遺伝子ドライブを使えば、地球上からマラリアを根絶することができる。2018年には、世界中で2億2,800万人のマラリア患者が発生し、同年に推定40万5,000人が死亡した（WHO 2019）。何千種類もいる蚊のうち、マラリアをヒトに効果的に媒介できる蚊はわずかである。CRISPR/Cas9技術を使って蚊の生殖細胞系列の編集を行えば、変更された形質を世界の蚊の集団に広め、病気の蔓延を抑える遺伝的変化を種全体に強いることができる（Esvelt et al.）

マラリアを根絶することは、間違いなくポジティブなことであり、人間の苦しみを軽減する。さらに、救われる人命の数は、遺伝子ドライブを使用する説得力のある理由となるだろう。しかし、野生個体群の遺伝子を改変するリスクは十分に理解されておらず、多くの予期せぬ、あるいは意図しない結果をもたらす可能性がある。さらに、同意と意思決定についても疑問が生じる。誰がこのような技術を導入する権利を持つのだろうか。

バイオテクノロジーの意図的な誤用はひとまず置いておくとして、危険な生物学的物質が偶発的に放出されるという厄介な可能性もある。このような生物学的物質による事故の歴史的前例は存在する。1979年のスベルドロフスク事件では、ロシアの生物兵器施設からエアロゾルが漏れ、炭疽菌が放出され、少なくとも66人が死亡した（Meselson et al.） さらに、忘れ去られた天然痘の標本が2014年にCDCによって未使用の保管室から発見された（CDC 2014）。2015年には米軍が誤って生きた炭疽菌を出荷した（Reardon 2015）。保管されていた危険な病原体が誤って放出されることだけが、実験室の事故が大惨事につながる唯一の方法ではない。実験が意図しない危険な結果をもたらすこともある。例えば 2001年、オーストラリアの研究者は、研究の目的ではなかったにもかかわらず、マウス痘（エクトロメリアウイルス）の致死率を、元のウイルスに対する免疫を持っているマウスでさえも、偶然に著しく高めてしまった（Jackson et al.）もし同様の事故が、人間や家畜、農作物に影響を与える通常良性のウイルスで起これば、結果は悲惨なものになるだろう。

バイオテクノロジーの極端なリスクに関する研究のほとんどは、兵器としての利用に焦点を当てている。兵器化された病原体の可能性と結果については後述する。合成生物学分野のパイオニアの一人であるジョージ・チャーチは、「（生物兵器の）結果は、化学兵器や核兵器よりも重大である。生物兵器がもたらすリスクは、大国間紛争とパンデミックの中間に位置する。実現可能な生物兵器は、新しいタイプの大量破壊兵器（WMD）を提供し、大国間の対立をさらに激化させる可能性がある。このような技術は、パンデミック病の致死性と毒性を高めることで、人類存亡リスクを増大させる可能性もある。

トビー・オードは、人工的なパンデミックが今後100年間に実存的な大災害を引き起こす確率は30分の1だと推定している（Ord 2020）。オードの推定には、行為者に関係なく意図的に生物兵器が使用された場合と、実験室での事故が含まれている。Boddieら(2015)による別の研究では、非国家グループによるリスクを検証しており、今後10年間（2015～2025）に大規模な生物兵器による攻撃が発生する可能性について、専門家の間で10%未満から90%にも及ぶ大きな意見の相違があることを指摘している。

このリスクの評価には、少なくとも3つの前提条件がある。実行可能な人工病原体が製造されること、国、グループ、または個人がその製造を望むこと、そしてそれが兵器として使用されることである。この病原体が引き起こす可能性のある被害は、それを拡散させるために使用される武器とターゲットによって大きく影響を受ける。もしその兵器が国家によって使用され、現物による反応を引き起こした場合、被害の規模は大国間紛争が起こりうる経路をたどることになる。パンデミックが実存的脅威となる危険性は、病原体がもたらす被害の大きさと関連している。被害のレベルは、病気を軽減するために構築されたシステムにおける脆弱性と回復力の複雑な相互作用と、国際的な協力と協調がどの程度効果的に蔓延を抑えられるかによって決定される。

グローバル・チャレンジ財団（Global Challenges Foundation）は、合成生物学がもたらす実存的大災害の可能性に影響する5つの要因を挙げている。

1. 規制の能力
2. 技術開発が兵器化されるかどうか
3. 効果的な防御策がどの程度開発されているか、あるいは開発できるか
4. 研究のリスクを見積もり、理解する生物学者の信頼性（Pamlin and Armstrong 2015）

変数の多さと緩和の可能性を考えると、人工的なパンデミックだけでは存亡の危機にはならないかもしれないが、世界的な大惨事リスクであることは間違いない。しかし、生物兵器は、それが間接的かつ複合的な効果をもたらし、社会を不安定化させ、分断させ、場合によっては崩壊させることで、人類を他の存立危機事態に効果的に対応させることができなくなり、存立危機事態となる可能性がある（Maher and Baum 2013）。

平和、紛争、合成生物学

パンデミックは自然界にそのルーツを持つとはいえ、人間によって引き起こされるもの、つまり人為的リスクとして分類する方が理にかなっているかもしれない。パンデミックは人為的リスク、つまり人間によって引き起こされるリスクと考えるのが妥当だろう。食物連鎖が国際化し、旅行が頻繁に行われるグローバル化した世界では、病気の進化と蔓延は、私たちの技術や生活様式に織り込まれていることが予想される。人工的なパンデミックは新たな懸念であり、近い将来、人類にとって最も重大なリスクのひとつになるかもしれない。悪意のある使用の可能性があるため、バイオテクノロジーの進歩は憂慮すべきものである。このような技術のコストは低下し、そのアクセスは増加しているため、大量殺戮を行う能力は国家の領域から組織や個人の領域へと移行している（ギャレット2013）。この脅威は、合成生物学の手法によって、意図的であろうとなかろうと、驚異的に高い感染力と致死率を持つ病原体を作り出すことができることが証明された後、より懸念されるようになった（Millett and Snyder-Beattie 2017）。

合成生物学の兵器化、特に操作された病原体による兵器化に関する懸念は正当なものであり、歴史的な前例もある。1995年3月、オウム真理教が東京の地下鉄5駅をサリンガスで襲撃し、13人が死亡、多数の負傷者が出た（Smithson 2014）。このテロ事件の後、オウム真理教はVXガス（有毒化学兵器）を開発し、炭疽菌（バチルス・アンソラシス）を兵器化しようとしていたことが捜査当局によって明らかになった（Metraux 1995）。この攻撃は、CRISPR/Cas9のような、より強力で利用しやすい遺伝子工学ツールや、ゲノムの配列決定や合成が登場する前のことであった。現在では、やる気のある集団や個人であれば、さらに危険な兵器を製造し、配備することができるかもしれない。生物兵器は、人類に大規模な被害をもたらすために人間を標的にする必要さえない。軍事的、商業的、あるいはその他の非国家的手段によって製造された生物兵器は、米、トウモロコシ、小麦などの作物、家畜、あるいは自然環境といった重要な食糧供給を標的に使用される可能性がある。

国際システムはそのような可能性に対して非常に脆弱である。2021年、核脅威イニシアチブ（NTI）は、各国の感染症対策責任者やバイオテクノロジー・製薬企業の代表者を集めて、ウォーゲーム・シミュレーションを行った。シミュレーションの後、NTIのシニア・ディレクターであるジェイミー・ヤシフは、「この問題に真正面から取り組み、必要なペースで進めるための理想的な機能を備えた機関は存在しない」と述べた（マシューズ2022）。

合成生物学もまた、人工知能と同じ経路の多くを通じて紛争に貢献する可能性がある。新たな合成生物学の開発をめぐる競争が軍拡競争を生み、その結果、便宜のために安全性が犠牲にされ、ミスを犯すような競争に陥るかもしれない。さらに、このような競争は、生物兵器の開発や使用に反対する国際的な規範が、競争を陰に追いやり、効果的な監視の視野から遠ざけ、偶発的な放出の可能性を高めていることを考えると、公然の場では起こらないかもしれない（Talmadge 2019）。

バイオテクノロジーや合成生物学によるリスクを軽減する取り組みと並行して、平和構築や紛争変革のための協力の機会も存在する。このような協力関係は、生物兵器に対する既存の国際規範によって成立する可能性が高く、そのリスクはかなり単純で容易に理解できるため、受け入れられるだろう。合成生物学とバイオテクノロジーがもたらす潜在的な危険度が高ければ、国際的な協力関係を構築することも容易であろう。国家レベルの生物兵器研究に特化するよりも、バイオテクノロジーの予期せぬ結果や、非国家主体による生物兵器の取得の問題に取り組む方が、この協力を構築するためのアプローチは効果的である。アメリカや中国のような大国がバイオテクノロジーの問題で協力することは可能かもしれないが、それはAIなど他の新興技術から起こりうるリスクを軽減するための先例として間接的に利用できるかもしれない。さらに、冷戦時代にエサレン研究所が行ったマルチトラック外交のように、非公式な立場で科学コミュニティ内の協力を国家間で発展させることもできるだろう。さらに、これらの技術から得られる利益は、紛争を引き起こす多くの世界的問題に対処するものである。

将来への疑問

現在および将来のバイオテクノロジーの進歩は、紛争にどのような影響を与えるだろうか？

平和構築の努力は、バイオテクノロジーによるリスクの軽減とどのように組み合わされるのだろうか？

合成生物学とバイオテクノロジーは、人類に生命そのものに対するかつてない力を与えるかもしれない。既存の生物を変化させたり、まったく新しい生物を作り出したりする能力は、すでに生命の多くの分野で変革的な効果をもたらしている。この技術の応用範囲がさらに広がれば、病気を治したり治療したりする能力が飛躍的に進歩する可能性がある。同時に、世界はすでに世界的なパンデミックの影響を目の当たりにし、世界的なシステムがそれに対処する準備がいかに不十分であったかを目の当たりにしている。将来、バイオテクノロジーの進歩が紛争の原動力となり、紛争がバイオテクノロジーを悪意を持って利用する契機となる可能性は、平和研究にとって懸念すべき領域である。さらに、バイオテクノロジーがもたらす最良のシナリオと最悪のシナリオの利点を考えれば、生物学的リスクを軽減するアプローチと平和構築の取り組みを組み合わせる機会があるかもしれない。

新たな技術： ナノテクノロジー

ナノテクノロジーは、人類の長期的な未来、起こりうる脅威、そしてそれが平和と紛争の力学にどのような影響を及ぼすかを想像する際に考慮すべき第3の新興技術である。この技術が開発された理由は、本質的に、人類が欲するあらゆるものと、それを手に入れるための現在の物理的限界との間の問題に対処するためだ。人工知能は人間に心を創造しコントロールする能力を与え、合成生物学は生命を創造しコントロールする能力を提供し、ナノテクノロジーは物質そのものをコントロールし変化させる能力を提供する。

ナノテクノロジーは、「個々の原子や分子を操作して、複雑な原子仕様の構造を構築することに基づいている」（Drexler 2006, 573）。ナノテクノロジーは、今後100年（Ord 2020）において最も変革的な技術のひとつであると同時に、「破壊的」な技術であるとも考えられている（Lu et al.） この技術はすでに存在し、トランジスタ、強化材料用添加剤、インテリジェント繊維、医療診断、バッテリー、カーボンナノチューブなど、多くの用途に使われている。ナノ材料の潜在的なリスク-毒性、生物蓄積性、環境残留性-については懸念があり、そのすべてが研究されている（Azoulay 2009）。

ナノテクノロジーは現在、ナノスケール（100ナノメートル以下の寸法を持つ、またはそれに関係する）の材料を製造する工業プロセスで使用されているが、その変革の可能性は、ナノマシンを使用して大規模な物体を製造することにある。分子製造は、これらの物体を製造する可能性と精度を大幅に拡大するだろう。これらのシステムは、マクロスケールやミクロスケールで作られた物体を、迅速かつ安価に製造することを可能にするだろう（Bostrom and Ćirković 2011）。この高度な「3Dプリンティング」は、デジタルの設計図からほとんどあらゆるものを製造することを可能にするだろう。この種のテクノロジーは、人類史上、製造、産業、経済における最も重大な転換のひとつとなる可能性がある（Ord 2020; Drexler and Pamlin 2013）。人工知能や合成生物学と同様に、ナノテクノロジーの要素は現在存在しているが、その最も大きな変革の可能性は未来にある。

原子や分子を操作する効果を理解するために、粒子の大きさを変えた場合に何が起こるかを考えてみよう。ゴールド・ナノ粒子（NP）のサイズを変えると、融点が200℃から1068℃に上昇する（Tweney 2006）。現在のナノテクノロジーは、インテリジェントで弾力性のある材料、より効率的な太陽光発電、燃料電池、バッテリー、建築用のより効果的な断熱材を作るためにすでに使われている（Roco and Bainbridge 2005; Drexler and Pamlin 2013）。既存の技術に基づけば、ナノテクノロジーは近い将来、カーボンニュートラル燃料の創出、がん治療の改善、新興疾患の治療法創出の迅速化、水の浄化の改善、有害物質の排出削減、データ記憶容量の増大、分子構造の設計、マクロスケール生産に向けたナノスケール・プロセスのスケールアップに利用されると予測されている（Pamlin and Armstrong 2015）。

ナノテクノロジーの未来は、High-Throughput Atomically Precise Manufacturing（HT-APM）にある。これらの人工（非生物学的）システムは、分子レベルで原子レベルの精度で構築できるようになる。理論的には、このような機械は、デスクトップ・コンピューターほどの大きさで、一般的な原材料を使って、設計図があればどんなものでも作ることができるだろう（Phoenix and Treder 2008）。この種の技術は、何でも印刷できるプリンターと賢者の石の中間に位置する。DrexlerとPamlin(2013)は、HT-APMの変革の可能性について次のように述べている。世界は、天然資源の枯渇、汚染、気候変動、清潔な水、貧困に関連する、かつてないグローバルな課題に直面している。これらの問題は、エネルギーや素材製品を生産するための現在の技術基盤の物理的特性と直接結びついている。この技術基盤に深く浸透した変化をもたらすことで、製品と生産手段の両方を変化させ、最も根本的で物理的なレベルでこれらの世界的問題に対処することができる。(2)

この技術が完全に実現すれば、文明に大きな変化をもたらすことができる。グループや個人は、コストや労力、無駄をほとんどかけずにあらゆるものを製造できるようになる。グローバル・チャレンジ財団は、ナノテクノロジーがもたらす可能性のある影響を左右する5つの重要な要因を挙げている。

• ナノテクノロジー研究のどの側面が最初に起こるか
• ナノテクノロジーの進歩によって、少人数で兵器が製造できるようになるかどうか。
• ナノテクノロジーを防衛目的や監視にどの程度効果的に応用できるか
• 道具化または兵器化されたナノテクノロジーが、人間の制御から独立できるかどうか（Pamlin and Armstrong 2015）

ナノテクノロジーは、おそらく変革的で、おそらく破壊的な技術になるだろう。それがどのような軌跡をたどるかをよりよく理解するためには、その潜在的リスクを検証し、それがどのように平和や紛争の原動力となりうるかを検討する必要がある。

人類存亡リスクとナノテクノロジー

ナノテクノロジーのリスクの可能性を議論する際には、4種類のリスクを分析する必要がある。第一は、現在のナノテクノロジーがもたらすリスクである。2つ目は、将来のナノテクノロジーによる潜在的リスクであり、3つ目は、ナノテクノロジーを通じて間接的にもたらされるリスクである。間接的なリスクは、既存技術との相乗効果、他の新興技術、そして現在推測されているナノテクノロジーが持つ破壊的影響から生じる可能性がある。最後に、ナノテクノロジーによるリスクは、その技術がもたらす予期せぬ結果や、他の技術との組み合わせ方、あるいはそれが文明にもたらす破壊的影響から生じる可能性がある。ナノテクノロジーは他のテクノロジーと組み合わせて使われることが多いため、そのリスクを正確に見積もることは、人工知能や合成生物学がもたらすリスクよりも難しいかもしれない。

既存のナノテクノロジーの人類存亡リスクの可能性は、現在のところ比較的低いと思われ（Drexler and Pamlin 2013）、ナノ粒子（NP）の潜在的リスクに焦点が当てられている（Drexler and Pamlin 2013）。現在、多くのNPsが工業目的や消費財に使用されている。NPsは繊維の強度を高めたり、抗菌能力を持たせたりするために添加されている。これらの粒子が環境中や動植物内にどの程度まで行き着くかは、まだ完全には解明されていない。しかし、プロセスが暴走すれば、人間や動物の健康や環境に害を及ぼす可能性はある（Boyd and Wilson 2020）。NPの偶発的な放出は、製品開発のどの段階でも起こりうるが、特に最終段階で起こると対処が難しい。現在の廃棄物処理方法が、製品から環境へ放出されるNPsにどのような影響を与えるかは、よく理解されていない（Martinez et al.） NPsが環境に与える影響は、細胞に対する潜在的な毒性と、生物に蓄積する能力に関連している（Ma et al.2010）。これらの粒子は、呼吸、摂取、皮膚を通して体内に入る可能性がある。これらの粒子状物質の多くは、その大きさゆえに、より大きな粒子では入り込めない領域に入り込むことができ、その影響の可能性をさらに複雑にしている。カーボンナノチューブに由来するような一般的なNPsはミトコンドリアに対して毒性を示し、銀NPsは一部の種において細胞膜の形態を変化させることが研究で示されている（Samiei et al.）

さらに理解されておらず、潜在的に憂慮すべきは、これらの粒子の放出がシステム全体に及ぼすかもしれない、より大きな影響である。廃棄されたNP強化消費財からNPが環境中に放出され、土壌や海藻に蓄積すると有毒になることが示されている。これらの粒子は水系に入り込み、最終的に摂取されることもある。さらに、すでに環境中に放出されたNPsを除去するために、どのような解決策があり得るかはよく理解されていない。NPsの放出による環境リスクや健康リスクは実存的なものではないかもしれないが、リスクがまったくないとは言い切れない（Phoenix and Treder 2008）。

ナノテクノロジーの破滅的、あるいは実存的なリスクの可能性は、おそらく将来の開発にある。一つのシナリオは、おそらく最もよく思い浮かぶが可能性は非常に低いもので、「グレイ・グー」のリスクである。ナノテクノロジーのパイオニアであるエリック・ドレクスラー（1990）が当初、仮定のリスクとして提唱したグレイ・グーとは、高度に発達した自己複製ナノマシンのことで、環境全体を消費し、すべての物質をより多くのナノボットに変換する。ドレクスラーは後に、この言葉を作ったことを後悔している。というのも、この言葉は一時期、大衆文化におけるナノテクノロジーの最も有名な側面となったからだ（Giles 2004）。現在のナノテクノロジーの理解では、グレイグーの開発は不可能である（Phoenix and Drexler 2004）。

さらに、この分野の発展により、このような自己複製システムを構築するインセンティブはほとんどないことが示唆されている。というのも、自己複製する放し飼いロボットよりも、ナノ工場の方が原子レベルで精密な製造を効率的に行える可能性が高いからだ。兵器としても、グレイグーは制御が難しいため、戦術的価値はほとんどないだろう。予見可能な唯一の用途は、黙示録的テロリズムであろう（Phoenix and Treder 2008）。

製造業で使用されるナノテクノロジーの進歩が、これまでの業界のトレンドに従うのか、それとも大規模な破壊となるのかは未知数である。高スループット原子間精密製造（HT-APM）システムが開発された場合、現在の経済システムの基礎的側面の多くが疑問視される可能性があるため、社会への影響はおそらく破壊的なものになるだろう。正味の利益と大規模な損害とを見積もるのは難しい。もしこれらの技術が、遺伝子操作された病原体など他の技術を補強すれば、その病原体のリスクを悪化させることになる。新製品を製造するために使用され、予期せぬリスクが生じる可能性もある。同時に、気候変動などの他の破局的リスクに対処するための実行可能な解決策を開発する上でも、ナノテクノロジーは不可欠かもしれない（Phoenix and Treder 2008）。

ナノテクノロジーのガバナンスは、人工知能やナノテクノロジーよりもさらに未発達である。ナノテクノロジーのガバナンスと規制に取り組む国際レベルの既存システムはほとんどない（Wilson 2013）。ナノテクノロジーの研究開発では通常、核兵器のように規制されている、あるいは合成生物学のように規制される可能性のある希少物質を使用する必要はない。また、ナノテクノロジーは、監視が容易な大規模な製造施設を必要としない。ナノテクノロジーのガバナンスと規制は、軍事利用や医療利用、環境保護といった特定の応用領域を通じて、また科学界が開発した慣行や価値観を通じて、内部的に行われる可能性が高い。

平和、紛争、ナノテクノロジー

ナノテクノロジーの潜在的な応用と恩恵は、平和や紛争の原動力を生み出す可能性がある。あるレベルでは、あらゆるテクノロジーと同様に、それが武器となり、他の武器をより危険なものにする可能性がある。より深いレベルでは、人類が生活する物理的システムによって課される自然な制約のバランスを変え、生産と価値の本質を根本的に変える可能性がある。

ナノテクノロジーの兵器化

幅広い用途が考えられることから、現在のナノテクノロジーは軍事技術にすでに使用されているか、あるいは使用される可能性が高い。ナノテクノロジーは、装甲、カモフラージュ、センサー、通信機器、エネルギー貯蔵などに利用され、攻撃力と防御力の両方にメリットをもたらす（nasu 2012）。HT-APMが開発されれば、軍事目的にも使われるだろう。ナノ工場が一つあれば、従来型兵器の生産が容易になるとともに、全く新しい兵器技術を生み出すイノベーションにつながり、いずれも軍にとって魅力的なものとなる（E. Drexler 2006, Phoenix and Treder 2008）。これらの技術が、既存の兵器技術を補強するため、あるいは兵器そのものとして、どの程度利用できるかはよく分かっていない。

すでに規制されている兵器の分類にナノテクノロジーが適用される可能性があるという点を除けば、軍事目的でのナノテクノロジーの使用を規制する国際条約は存在しないため、この技術の軍事利用をコントロールするのは難しいように思われる（那須 2012）。また、ナノテクノロジーの進歩によってウランのより効率的な抽出と分離が可能になり、核兵器がより多くの行為者に利用可能になり、核セキュリティの戦略的論理が損なわれるのではないかという懸念もある（Hyatt and Ojovan 2019）。

ニック・ボストロムは、エリック・ドレクスラーの研究をもとに、ナノ兵器がどのようなものであるかを説明している。理論的には、分子ナノテクノロジーは、成熟した形であれば、土やその他の有機物を食べることができる細菌規模の自己複製機械ロボットの構築を可能にするだろう。そのようなレプリカントは、生物圏を食い尽くしたり、毒を盛ったり、燃やしたり、日光を遮ったりして破壊することができる。この技術を所有する悪意のある人物は、そのようなナノボットを環境に放出することで、地球上の知的生命体を絶滅させるかもしれない。(ボストロム2009）

ナノ兵器が開発される可能性は低いとはいえ、懸念材料である。そのような兵器は、人間の管理下に置かれることを保証するのは難しいだろう。また、ナノ兵器に対する効果的な防御策がどのようなものであるかよりも、ナノ兵器がどのようなものであるかを想像する方が容易である（Bostrom 2009）。さらに、ナノ兵器システムが作られ使用された場合、それが環境中に残る可能性があり、回収がより複雑になる。逆に、同じナノテクノロジー・レベルであれば、大規模な災害や破壊の後の再建が容易になる可能性もある（Phoenix and Treder 2008）。

紛争の原動力としてのナノテクノロジー

一面では、ナノテクノロジーが直接的または間接的に紛争の推進力となる可能性のある経路は、インダストリー4.0に関して言われてきたことに従っている。ナノテクノロジーの進歩は、他のデジタル技術や産業の発展を促進する可能性が高い。ナノテクノロジーはAIの進歩につながり、AIはさらに高度なナノテクノロジーを可能にする。これらの発展が紛争の原動力になるかどうかは、政策決定によるところが大きいだろう。

HT-APMは、おそらく4IRを一歩上回る変化となるだろう。HT-APMによる分子製造は、安価な汎用原料から必要なものを何でも生産できるようになるかもしれない。経済、社会、政治システムへの影響は甚大であろう。この技術が開発されれば、多くの仕事がなくなる可能性があるが、それ以上に深刻なのは、仕事とは何かという本質が変わってしまうことだ。また、この技術へのアクセスが特定の地域や国だけに限定されれば、問題となる「南北ナノ格差」が生じる可能性が高い（Azoulay 2009）。経済や生活の劇的な変化、そしてこのような変革的技術への不平等なアクセスは、間接的に大国間紛争のような他のリスクを増大させる可能性がある。社会経済的な混乱は、こうしたリスクを軽減するために必要な協調や協力をしばしば助長するものではない。HT-APMが普及すれば、富裕国の貧困国に対する経済的依存度が低下し、世界平和にとってプラスに働く可能性が高い。同時に、自由主義的平和パラダイムのもとでは、平和がどのように築かれるかの一部である国家間の経済的相互依存を低下させる可能性もある（コープランド1996）。ナノテクノロジーによって紛争に関連するコストが減少すれば、主要な抑止力がなくなるため、戦争の可能性が高まる可能性がある（Bostrom 2009）。

ナノテクノロジーによる平和構築の可能性

ナノテクノロジーは、間接的に平和構築に貢献する可能性がある。ナノテクノロジーがもたらす想像上の利点は、世界の多くの問題を解決するための財産となるであろう。ナノテクノロジーに関するPCSの研究は、その破壊的な可能性を回避するために、どのように開発を導くのが最善であるかに焦点を当てるべきである。この破壊的な可能性とは、生物学的・生態学的システムに対する有害な影響の可能性と、社会・経済・政治システムに対する破壊的な可能性に関するものである。例えば、低コストの汎用ナノ工場が貧困削減や貧困地域の欠乏問題の緩和に役立てられれば、ナノテクノロジーは平和の推進力になるかもしれない。同様に、このようなナノ工場があれば、欠乏するものは何もなくなるため、資源をめぐる競争はもはや紛争の原動力にはならないかもしれない。同時に、こうしたナノ工場が経済システムに予期せぬ衝撃を与え、需要と供給の両方に影響を与え、価値の決定方法の本質を変え、取引関係を変化させるのであれば、その影響は紛争の原動力となりうる。

世界の労働人口の大半が職を失い、ナノテクノロジーの支配権が一部の人間の手に渡るというシナリオを想像することは可能だ。この転換によって、経済的な観点から見れば、地球上の多数の人々が不要になる。そのとき、どのような主体が技術を支配するにしても、安価でどこにでもあるような大衆監視によって、すぐに抑圧体制に拍車がかかり、ナノテクノロジーで増強されれば、容易に破滅的な事態になりかねない（Phoenix and Treder 2008）。

このようなテクノロジーがもたらす影響は、貧困をなくしたり世界を抑圧したりする魔法の箱よりも、はるかに複雑なものになるだろう。貧困をもたらし、貧困を強化している構造やシステムを変えることなく、地上レベルでの経済や価値の構造を変革することが、紛争なしに実現すると考えるのは賢明ではない。理論的には、HT-APMベースのナノ工場は何でも生産することができる。浄水フィルター、ソーラーパネル、ダイヤモンド、ゴールド、抗生物質、オピオイド、マイクロプロセッサー、そしてさらに多くのナノ工場が、すべて原子レベルで生産できるようになれば、価値という概念そのものを再構築しなければならなくなるだろう。希少資源への依存をなくし、原材料の節約や代替を可能にし、必要なものは何でも簡単に生産できる技術は、人類が平和のために必要だと考えている目標の多くを達成するのに役立つだろう。

未来への疑問

ナノテクノロジーが平和の原動力となるよう、その変革の可能性をどのように導くことができるか。

暴力の源となることなく、経済・産業システムを大きく変えるにはどうすればよいのか

ひとたび開発されれば、高度なナノテクノロジーは、多くの新興テクノロジーと同様、人類の鏡となるかもしれない。経済や政治における希少性に基づく視点を、主に豊かさの視点へと変える可能性を考えると、人類はそれを破滅に導く方法を見つけることなく、このような贈り物を利用できるだろうか？ナノテクノロジーの今後の研究開発は、その恩恵を享受し、潜在的な悪影響を回避できるよう、テクノロジーの発展をどのように形成していくかに焦点を当てることを念頭に置くのが最善だろう。ナノテクノロジーで悪い影響を避けながら良いものを得るには、わずかな技術革新が経済・産業システムにどのような劇的な影響を及ぼしうるか、またそのような変化にどう備えるのが最善かを理解する必要がある。

新興技術は、未来の形と軌道に大きな影響を与えるだろう。これらのテクノロジーは、その変革の可能性によって、まったく異なる未来を築くための礎となりうる。もし人類が、これらのテクノロジーがもたらす潜在的な悪影響を回避しつつ、想定される恩恵を達成することができれば、その恩恵のリストは膨大なものとなる。人工知能、バイオテクノロジー、ナノテクノロジーの三位一体は、かつて人間に神格化されていたと考えられていた創造物に対する力を付与し、ノア・ユヴァル・ハラリが「ホモ・サピエンスからホモ・デウスへのアップグレード」（2018, 21）と表現するような重要な役割を果たすだろう。人工知能やおそらく超知能の開発を通じて、ホモ・デウスは初めて、心の創造に対する新たな力を手に入れ、まったく異なる種類の意識的存在を創造することができるようになる。AIは既存の技術、製造、産業、研究プロセスを強化し、あらゆるものをより賢く、より速く、より良くする。合成生物学とバイオテクノロジーは、ホモ・デウスに生命そのものを支配する力を与えるだろう。最も基本的な遺伝子レベルで生物とそのプロセスを変化させ、まったく新しい形の合成生物学を創造する能力によって、人類はほとんどの病気を治し、人間の寿命を根本的に延ばす方法を見つけるかもしれない。この三位一体の最後のピースとして、ナノテクノロジーはホモ・デウスに物質そのものをコントロールする能力を与える。物質を最小レベルで変化させる能力を持つことで、人類は本質的に、あらゆるものを他の何にでも変える能力を持つことになる。この「小さな」世界を切り開くことで、人類はまったく新しい領域を開拓し、おそらくは種の長期的な存続を確保するために利用することができるようになる。

新たなテクノロジーと未来

創造を支配する力は、破壊を支配する力でもある。最初の道具がすぐに武器として使われたように、人類はこれらの新しい力を破壊的な目的のために使うことになるかもしれない。AI、バイオテクノロジー、ナノテクノロジーは、それ自体が兵器として使用されたり、現在の兵器技術を強化するために使用されたり、互いの破壊力を高めるために組み合わされたりする可能性がある。武器としての用途にとどまらず、これらのテクノロジーは強力な破壊力を持つため、すでに世界に定着している構造的・文化的暴力の形態を強化し、より強固で効率的なものにする可能性がある。これらのテクノロジーは不平等を助長し、これらのテクノロジーを支配する強力な主体によって、必要とされる健全な変化を阻止するために利用される可能性がある。

人類は、こうしたテクノロジーの発展において崖っぷちに立たされている。これらの技術が成熟するのは何十年も先のことだとしても、その規制、ガバナンス、開発の倫理について今下される決定は、すべて人類とこれらの新しいツールとの関係を形作ることになる。これらの問題の多くは現在研究中であり、これらのテクノロジーを導く構造、慣行、制度はまもなく決定されるであろう。これらの技術に内在する強力な変革の可能性を考えれば、PCSに武器としての用途にとどまらず、これらのテクノロジーは強力な破壊力を持つため、すでに世界に定着している構造的・文化的暴力の形態を強化し、より強固で効率的なものにする可能性がある。これらのテクノロジーは不平等を助長し、これらのテクノロジーを支配する強力な主体によって、必要とされる健全な変化を阻止するために利用される可能性がある。とってこれらの技術に焦点を当てることは不可欠である。このような技術の性質、それらがもたらす可能性のある影響、そしてそのリスクをどのような方法で軽減できるかをよりよく理解する平和研究者は、将来、平和を理解し実践する上でより有利な立場に立つことができるだろう。

8. 全体主義のリスクと平和

ノア・B・テイラー1

(1)オーストリア、インスブルック、インスブルック大学

キーワード

全体主義 権威主義 プロパガンダ 監視 グローバル対応 主な質問

先に述べたような存亡の危機や世界的な破局的リスクによる危険は、人類がどのように自らを統治するかによって軽減されたり拡大されたりする。統治形態が人類に存亡の危機をもたらす可能性がある方法もある（Borders 2021）。アンドリュー・リーは近著『起こりうる最悪の事態とは？壊滅的なリスクを減らすことは、基本的に政治的な課題である。今世紀の政治を誤れば、私たちの種は忘却の危機に直面する。政治を正しく行えば、人類は数千年先まで存続できるだろう」（2021年、236）。計画の欠如や、特に国際レベルでの非効率的な協力・協調は、人類の脆弱性を増大させ、回復力を低下させることによって、他のリスクを悪化させる可能性がある。世界的な全体主義への傾倒や、十分な力を持った国家の台頭は、存亡に関わるリスクとなる可能性がある。

権威主義的な政府の目標は、国民を統制し、武力と強制力によって、その支配に対する挑戦を抑圧することである（Palouš 2008）。全体主義は、権威主義政府の目標や方法にとどまらない。権力の座につき、権力を維持することに加え、全体主義は、単に反乱を抑えるのに十分な支配力ではなく、国民に対する完全な支配力を確立することを目標としている。権威主義者は人間をコントロールしたいのであり、全体主義者は人間の本性をコントロールしたいのである。全体主義政府が用いる方法は、この根本的な行動変容を目的としている。そのために、彼らは厳罰の脅しを利用し、脅しが信じられるだけの罰を実行する。脅しに信憑性を持たせる最も効果的な方法の一つは、大規模に実行することである。この戦術は、政権が特定の集団を、変えることのできないアイデンティティに基づく問題や脅威と決めつけ、その排除のために大量殺人を必要とする場合に、さらに強化される（Caplan 2008）。

前世紀には、多くの全体主義的支配の例があった： ベニート・ムッソリーニ政権下のイタリア（1922～1943）、ソ連のスターリン時代（1924～1953）、ナチス・ドイツ（1933～1945）、毛沢東政権下の中華人民共和国（1946～1976）、金政権下の北朝鮮（1948年～）、カンボジアのクメール・ルージュ（1951～1999）、サパルムラト・ニヤゾフとグルバングリー・ベルディムハメドフ政権下のトルクメニスタン（1991年～）、イサイアス・アフウェルキ政権下のエリトリア（2001年～）などである。

全体主義体制には一般的にいくつかの特徴がある。すなわち、人間の本性を支配し、作り変えることを目的とした包括的な指導イデオロギー、政治領域を完全に支配する一党独裁国家、イデオロギーを解釈する国家元首としての単一の指導者、イデオロギーを強制し、反対意見を粉砕するために秘密警察や軍隊を通じて恐怖を行使する能力、武器、経済、通信の統制である（Freidrich and Brzeziński 1956; Raymond and Ionescu 1968; Pipes 1994）。

ERSと全体主義

先に述べたリスクの多くは、大惨事に至る。2 つの一般的な経路をたどる。すなわち、絶滅に至る。一連の出来事か、回復が不可能な文明の崩壊である。第三の可能性もある。「文明は無傷だが、ほとんど価値のない、ひどい形に閉じ込められた世界」である（Ord 2020, 153）。この種の回復不可能なディストピアでは、人類は非常に長い間全体主義国家の下で生きることになるかもしれず、それは間違いなく絶滅するよりも悪いことかもしれない（Farquhar et al. 2017）。そのような体制に閉じ込められた社会は、人類にとって望ましい長期的未来がもはや不可能な状況に陥る可能性がある（Bostrom 2019; Ord 2020; Caplan 2008）。

オルドは、回復不可能なディストピアをもたらす全体主義的ロックインの3つの可能なシナリオについて述べている（Ord 2020）。最初のシナリオは、全体主義国家が台頭し、世界を絶対的に支配するようになる、SFでよく見られる強制的なディストピアである。このオーウェルのような未来では、ヒトラーやスターリンのような政権が、反乱を防ぐために新技術を活用し、安定した永続的な権力体を作り上げることができる。第二のシナリオは、望まれないディストピアであり、誰からも望まれていないが、それにもかかわらず閉じ込められてしまう状況である。このような未来への道筋は、個々人が自己利益のために行動し、共通善に反して資源を枯渇させる「コモンズの悲劇」となりうる。経済的、社会的、政治的な力が底辺への競争を生み出し、別の価値のために人間の生活の質が保たれなくなるような、望ましくないディストピアの別のバージョンも考えられる。例えば、人類が遺伝子の拡散を最適化し、他のいかなる考慮もなしに、可能な限り最大数の人間を生み出すとしたら、生きる人生の質がほとんどない未来が来るかもしれない。この例では、人々は生殖までの生存を確保するために必要な基本的資源を提供されるだけでよく、子どもたちは、その後成長してより多くの人々を生み出すことができる程度に提供されるだけでよいことになる。第3のシナリオは、ある種のイデオロギーや道徳理論が強力なテクノロジーの開発と使用を導き、後続の世代が過去とまったく同じ価値観を維持できるようにする、望ましいディストピアである。このような世界では、人類はある時点ですべての技術的進歩を止め、それによって種は最終的に自然存続の危機に屈する運命になるかもしれないし、人類は自らを無感情な機械のようなものに置き換えることを決断するかもしれない。あるいは、人類は自らを感情のない機械に置き換えることを決断するかもしれない（Ord 2020）。もしそれを感じる人がいなければ、生命に価値はほとんどないだろう。

これら3つのシナリオのすべてにおいて、特定の価値を固定化することは、人類が将来取りうる価値ある軌道の大半を締め出すことにもなる。全体主義がこのようなシナリオを導き出す一般的な経路は2つある。ひとつは、永続的な全体主義の覇権主義者が台頭し、地球を支配することである。この単一の覇権的な統治主体は、世界中をくまなく監視・支配し、その支配を脅かす可能性のあるあらゆる脅威を阻止することができる。もうひとつは、複数の地域的な全体主義大国が台頭するが、特定のブロックが地球を支配することはない。これらの異なるブロックは、地球の広い地域を完全に支配している。代替案を示す非全体主義体制が存在しなければ、世代が経つにつれて、異なる秩序が可能であるという考え方は廃れるかもしれない。全体主義がもたらす可能性のある脅威を評価するには、そのような政権が台頭する可能性、政権が存続する期間、存亡の大惨事に貢献する能力の両方を検証する必要がある。

ブライアン・キャプランは「全体主義の脅威」という論文で、今後1000年以内に世界全体主義政権が誕生し、少なくとも1000年間存続する確率を無条件で5%としている。彼の試算では、次の世紀には0.5%上昇する。

全体主義政権が長期にわたって存続できるかどうかは、その政権がもたらす脅威を評価する上で重要な要素である。権威主義体制は全体主義体制よりも長く続く傾向があり、人類の歴史を通じて最も一般的な統治形態の一つであったことは間違いないだろう。キャプランは全体主義の耐久性について書いており、「全体主義体制について言える最善のことは、主要なものはあまり長く続かなかったということである」と指摘している（Caplan 2008, 507）。歴史上の全体主義体制の寿命の短さが、当時の出来事と関係しているのか、それとも全体主義体制固有の特徴なのかは不明である。

テクノロジーは統治において複雑な役割を果たし、全体的な効果として、それを支配する者の権力を強化する可能性を生み出している。バートランド・ラッセルは『権威と個人』の中で、テクノロジーの発達は政府のより強力な統制の可能性を可能にすると書いている（Russell 1949）。テクノロジーと権力は不可避的に結びついており、20世紀における全体主義の台頭には、テクノロジーの力による統制が不可欠だった（van der Laan 1997）。全体主義とテクノロジーの関係には多くの緊張が存在する。技術開発は複雑であり、止めるのは賢明ではない。利益を上げ、生活の質を向上させ、災害を軽減する能力があれば、ほとんどの新興技術の進歩は確実に続く。同時に、これらのテクノロジーは、全体主義的な政権が台頭し、権力の座に留まることを可能にするかもしれない。さらに、人工的なパンデミックなど、本書で取り上げた多くの人類存亡リスクを軽減する能力には、高度な監視システムを構築する必要があるかもしれない。ほとんどの病気を治せず、寿命も延ばせないというリスクの背後で、政治的な意思を結集するのは、次の世紀に起こりうる将来の政権に殺されることを恐れて難しいかもしれない（Caplan 2008）。

これらの政権の寿命が短かったのは、十分に強力な技術がなかったことも一因である可能性がある。全体主義が人間の本性をコントロールすることを目的としているのであれば、新興テクノロジーがこの力をどのように付与しうるかについて、いくつかの可能性が考えられる。キャプランは、世界的な全体主義政権が誕生する可能性に、支配のための新たなテクノロジーがどのように影響するかを強調している。彼は、安価で効果的な性格特性の遺伝子スクリーニングを開発することで、確率のバランスが変化する可能性があると主張する。キャプランは、この技術が実現し、人類が個人レベルでの生殖管理を維持した場合、5%の無条件確率が3%に低下する一方、同じ技術が政府の手に渡れば、管理されるのに有利な形質を選好するために利用され、全体主義的支配の確率が10%に上昇すると主張している（Caplan 2008）。キャプランは、もしスターリンやヒトラーが高度なデジタル技術やバイオテクノロジーを利用していたら、彼らの政権はもっと長く存続していたかもしれないと主張している。

しかし、全体主義体制は、テクノロジーを使って国民の遺伝子を変化させなくても、完全な支配を獲得し維持することができる。高度なスマート兵器は、秘密警察の代わりに、あるいは秘密警察とともに使用することができる。個々の警察官は残虐な行為の実行を拒否するかもしれないが、自動化されたシステムには道徳的な異議はないだろう（Tegmark 2018）。しかし、AI、ナノテクノロジー、合成生物学の結びつきによって開発された想像を絶する兵器は、覇権政権がその存在すら知らなかった兵器で敵対勢力を殺戮できるツールにつながる可能性がある（Tegmark 2018）。

プロパガンダは全体主義体制にとって不可欠なツールだ。マスメディアを通じて、政権は、彼らが流布する物語を通じて、また、容認される真実の一つのバージョンを述べることによって、その国民に影響を与えることができ、提示される内容に反対する人々でさえ、彼らが何を言ったり考えたりしてはいけないかを知ることができる（Cassinelli 1960; Kecskemeti 1950; Arendt 1951）。メディア統制はしばしば、人々を政治体制に対して批判的でなくすることが示されている（Stockmann and Gallagher 2011）。

デジタル・プロパガンダと偽情報の技術は、コンピューティング能力の向上、コストの低下、有効性の証明によって急速に進化している。こうしたツールはもはや、ある国家が他国に対して主に使用するものではなく、国家、非国家主体、犯罪者によって国内で展開されている。そのようなツールのひとつがディープフェイクであり、Generative Adversarial Networks（GAN）を使って超リアルな合成メディアを作成する。偽の音声や映像は、ソーシャルネットワークを通じて素早く拡散される。戦略的なタイミングでディープフェイクを適用すれば、政府を不安定化させることがすでに証明されている（Honigberg 2022）。

政府への影響に加え、ディープフェイクは、ジャーナリストが合成されたものから本物のソースを見極めなければならないため、本当のニュースのペースを落とす可能性がある。現在、ディープフェイクの正当性を分析・評価するための効果的なアプローチはあるが、それには時間がかかる。多くの場合、ディープフェイクがそうであると特定される前に、すでにかなりの損害が発生している。このテクノロジーは、当局やメディア、現実感に対する人々の信頼を低下させるという、より大きく、より呪わしい効果をもたらす。さらに、ディープフェイクは本当の情報を否定する便利な方法を提供する。メディアへの不信は、それ自体が全体主義にとって強力な手段となり、「嘘つきの配当」をさらに永続させ、有害な情報に直面しても指導者が支持を維持することを可能にする（Chesney and Citron 2019）。AIの今後の進歩は、ディープフェイクやその他の合成メディアの質を高め、本物とフェイクの間の溝をさらに悪化させるだろうし、ディープフェイクに使われるAIの開発が、ディープフェイクを検出するための技術や方法よりも速く進歩すれば、強力な破壊的ツールになる可能性が高い（Kietzmann et al.）

監視もまた、全体主義体制に不可欠な手段である。国民の人間性をコントロールするために、支配者は国民が何をしているかを知る必要がある。権力を維持するためには、反対意見や反乱の可能性を監視しなければならない。テクノロジーは、監視プログラムの研究、スピード、効果を高める。新たなテクノロジーは、以前はSF映画の中でしか想像できなかったレベルまで、この傾向を続けるかもしれない。マックス・テグマーク(2018)は可能性のあるシナリオを次のように述べている。超人的なテクノロジーがあれば、完璧な監視国家から完璧な警察国家へのステップはわずかなものになるだろう。例えば、犯罪やテロとの戦い、緊急医療に苦しむ人々の救助を口実に、アップルウォッチの機能と、位置情報、健康状態、耳にした会話の継続的なアップロードを組み合わせたセキュリティブレスレットの着用を、すべての人に義務付けることができる。無許可でブレスレットを外したり、無効にしようとすると、前腕部に致死性の毒素が注入される。(176)

強力な監視システムはすでに存在している。エドワード・スノーデンによって公にされた多くの暴露のひとつは、いくつかの政府が「完全な」デジタル監視システムの開発に取り組んでいるということだった。そのひとつがTEMPORAで、英国政府通信本部が使用していたシステムで、インターネットのバックボーンを構成する光ファイバーケーブルを通じてインターネット・トラフィックをバッファリングしていた。この情報は諜報機関によって丸ごと持ち出され、後で処理される（MacAskill et al. 2013）。このようなプログラムの目的は、これらの大量のデータが何を意味するのかをリアルタイムで解釈するために、AIを活用したシステムを開発することかもしれない。このような進歩の背景には、一般的に、コンピューティング・パワーが時間とともに向上し、同時に安価になり、大規模なネットワーキングやデータマイニングがますます実現可能になっているという事実がある。人類の歴史上、これらの技術が現在ほど強力になったことはかつてなく、これらの技術が今後も進歩しない理由は予見できない（Phoenix and Treder 2008）。

強力な監視システムが、いかに全体主義体制を強化しうるかは明らかだ。同様の強力な監視システムは、同時に、ある種の存立危機事態を緩和するためにも必要になるかもしれない。例えば、将来、合成生物学の発展によって、わずかな技術と資源で危険な病原体を恐ろしいほど簡単に開発できるようになったとしたら、これは、電子レンジで一般家庭の材料を組み合わせれば核爆弾が作れることを発見したのと同じことだ。たとえ大多数の人々がこの新発見の力を使おうとは考えなかったとしても、世界を不安定化させるのに必要なのはほんの数人である。このようなシナリオでは、各国政府はリアルタイムでグローバルな監視システムを開発し、各個人が今何をしているのかを把握する強い動機付けを持つことになる。このようなシステムは不可能ではないが、現在のところ、世界の国内総生産の約1%のコストがかかると見積もられている（Bostrom 2019）。このシステムは、存亡の危機から身を守るために開発されたとはいえ、全体主義的な権力が台頭するきっかけとなるだろう。

当初は異なる用途を意図していた他の新興技術も、全体主義体制を強化する可能性がある。法廷での裁判のビデオを使い、微表情やその他の欺瞞の指標を読み取るプログラムを学習させることで、機械学習を「嘘発見器」として利用することが可能であることは、すでに研究によって実証されている（Wu et al.2017）。この技術の高度な形態は、当初は法執行に使用するために疑わしい善意の意図で開発されたとしても、ジョージ・オーウェルが「他の人間が考えていることを、本人の意思に反して発見する方法」（1982年、399）と表現したような、人間をコントロールするための強力なツールに簡単に共用してしまう可能性がある。この種の技術開発に対する関心はすでに存在している。規制がなければ、「誰かが何を考えているかを知る」ためのますます高度なシステムが開発される可能性が高い（Bittle 2020; Gaggioli 2018）。このようなツールは、人間の本性を作り変えようとする全体主義政権に大きな利益をもたらすだろう。

全体主義政権の弱点のひとつに、後継者問題がある。党首が亡くなると、後継者をめぐって権力闘争が起こるのが一般的だ。後を継いだ指導者が、創始者が築いた体制に厳格に従わないこともよくある。ニキータ・フルシチョフはヨシフ・スターリンに従ったが、後に平和的に解任され、イデオロギーに固執しない新しい指導者が現れ、最終的にミハイル・ゴルバチョフと彼の改革が実現した。そしてソ連は1991年に崩壊した。中国では、毛沢東の死後、鄧小平が毛沢東イデオロギーを継承し、毛沢東イデオロギーの重視を減らして、より自由な市場へと移行したときに、同様のプロセスが起こった（Caplan 2008）。

バイオテクノロジーの進歩は、すでに延命とアンチエイジングの研究に向けられている（Parrish 2019; Stambler 2019; Abramson 2019）。政治的統制を念頭に置かずに開発されたこのテクノロジーは、実質的に、指導者の長寿命または不定命を保証することで後継者問題を解決し、その体制をより永続的なものにする可能性がある（Caplan 2008）。さらに、遺伝子工学や行動遺伝学の進歩は、全体主義政権が反対意見から自らを守るために利用される可能性もある。政治的志向性の強い構成要素の一部は遺伝的なものかもしれない（Pinker 2002; Dawes and Weinschenk 2020; Hatemi et al. 2014）。十分に強力な政権は、これらの技術を、遺伝性疾患の治療という本来の用途から外し、反対意見のスクリーニングや、場合によってはコンプライアンス（法令遵守）のエンジニアリングに使うことができるだろう。

全体主義体制が規定する完全支配の性質は、大災害に対処する上での弱点のひとつでもある。単一の意思決定ポイントにつながる硬直した統治構造は、柔軟性に欠け、大災害を予測できない可能性がある。困難の理由の一つは、このような体制では、側近やアドバイザーが、反対意見とみなされることを恐れて、否定的な情報を指導部と共有しない傾向があることだ。この場合、指導者は情報の死角が大きくなり、リスクに対する脆弱性が増すことになる。リーダーの性格の特異な側面が意思決定に反映され、トップレベルのリーダーシップが理性よりもむしろ個人の動機や感情によって動かされる場合、この問題は増幅される。このようなリーダーは、たとえ破滅的な脅威が迫っていることを察知していたとしても、それを予測し対応することができないかもしれない（Caplan 2008）。このような体制の中央集権的な管理構造は、管理技術以外の技術的進歩がほとんど続かないまま、社会が静的な均衡に達することにつながる可能性が高い。十分長い時間軸では、自然災害や人災の結果として人類が絶滅することが確実となる（Cotton-Barratt and Ord 2015）。

全体主義は、社会的・世界的な脆弱性を増大させ、回復力を低下させることで、人類存亡リスクを間接的に増大させる。ポル・ポト、ヒトラー、スターリン、あるいは金一族のような全体主義政権が、先に述べたテクノロジーにアクセスできるようになれば、地政学的不安定性を助長し、大国間紛争における重要な要因となる可能性が高い。

PCSと全体主義

平和と紛争研究は、全体主義的な統治システムに対する反動として、学問分野として形成された面がある。自由主義的平和哲学の発展は、この歴史的根源をさらに発展させたものであり、ともに貿易を行う自由民主主義国家は、互いに戦争をする可能性が低いという信念を持っている。

世界的に見て、過去15年間で、民主主義の自由は低下し、権威主義が台頭している（フリーダムハウス2022）。ポピュリズム（「エリート」に対して「民衆」とみなされる集団を位置づける政治的視点）も世界的に増加している（Rodríguez-Pose 2020; IDEA 2021; Berman 2019）。アメリカではドナルド・トランプの「アメリカを偉大にする」キャンペーンとティーパーティー、イギリスではボリス・ジョンソンとブレグジット運動の台頭、インドではナレンドラ・モディの当選とバラティヤ・ジャナタ党の台頭、フィリピンではロドリゴ・ドゥテルテとボンボン・マルコス、インドネシアではプラボウォ・スビントとジョコ・ウィドド、ブラジルではジャイル・ボルソナロなどがこの傾向の証拠である。

学者たちは、ポピュリズム、全体主義、民主主義の関係について議論している。ポピュリズムを民主主義に対する直接的な脅威（Urbinati 1998）、その批判（March 2007）、民主主義とのあいまいな関係（Panizza 2005; Mény and Surel 2002）とみなす者もいれば、それ自体が民主主義の有効な形態（Albertazzi and McDonnell 2008）とみなす者もいる。

全体主義体制は歴史的に、外部の力による破壊、大衆の内部反乱、十分に強力な不満を持つ中産階級の台頭、あるいは統治能力を失うことによって、権力の座から転落してきた（Orwell 1982, 170）。政権がこうした力から効率的に身を守ることができれば、長期にわたって支配を維持できる可能性が高い。

原始全体主義としてのポピュリズムが存立リスクとして懸念されるようになるのは、ポピュリズム運動に共通するいくつかの重要な特徴を通じてである。政治を大衆と腐敗したエリートの闘争と位置づけることに加え、これらの運動は 「反知性的、反体制的、反国際的、反民族的」である傾向がある。こうした傾向は、存立危機事態を緩和するために必要な「強力な科学、効果的な制度、グローバルな関与、協力と秩序の意識」に逆行する（Leigh 2021, 182）。こうした「反」価値観をすべて封じ込めることができた全体主義体制は、簡単に存亡の危機に陥るだろう。

全体主義のリスクを軽減するためには、3つの核となる要素が必要である。すなわち、単一のグローバルな全体主義勢力または複数のブロックが台頭して支配権を握る可能性を減らすこと、そのような体制がロックイン・シナリオを生み出すほど強固になる可能性を減らすこと、そして全体主義が引き起こす可能性のある損害を軽減することである。

ほとんど同語反復的だが、グローバル全体主義に対する安全装置のひとつは、非全体主義国の存在である。歴史的に、全体主義体制がより穏健な体制と並存している場合、2つの体制を比較することで、体制を崩壊させる力が働く。キャプラン(2008)はこれを「全体主義のジレンマ」と呼び、「全体主義国家が非全体主義国家と共存する限り、ライバルに遅れをとって危険な状態に陥るのを避けるために、潜在的な後継者を士気を低下させる外部の影響にさらさなければならない」(509)と述べている。この関係の逆もまた然りで、もし世界に非全体主義国家が存在しなければ、全体主義国家はより政治的に安定するだろう。

地政学的な舞台で全体主義に代わる選択肢を確保することに加え、貧困と不平等を減らす努力は、ポピュリスト運動が全体主義的な政府になるのを防ぐ緩衝材になるだろう。すべてではないにせよ、ほとんどの存立リスクは大規模な国際協力を必要とする。気候変動とCOVID-19パンデミックはすでに、現在の国際協力の能力が、人類絶滅への差し迫った脅威に対処するのに必要であろうほど有効でないことを示している。全体主義的な勢力が世界的な支配力を持つようになる一つの予見可能な方法は、世界的な協調問題を解決する努力であるため、グローバル・ガバナンス・システムを改善することは、全体主義が台頭する経路に対する潜在的な安全策でもある。

ニック・ボストロム(2006)は、「シングルトン仮説」の中でこのシナリオを提唱している。彼の考えは、一般的に統治構造は時代とともに複雑化し、より広範囲に及んでいるというものだ。彼は、「地球を起源とする知的生命体は（最終的に）シングルトンを形成する」(52)と仮説を立て、それを「最高レベルの単一の意思決定機関」(48)と定義している。このシングルトンは、自らの権力や存在に対するあらゆる脅威を防ぎ、その領域全体を支配することができるだろう（Bostrom 2006）。国民国家の権力に制限を加え、国家間の戦争を無効にする世界政府というアイデアは、アルベルト・アインシュタイン、バートランド・ラッセル、アルベルト・シュバイツァー、ジョージ・バーナード・ショー、トーマス・マン、H.G.ウェルズ、マハトマ・ガンジーなど、多くの思想家によって提案されてきた（Crockatt 2016）。ボストロムのシングルトンは、国のように運営される惑星、いくつかの地域単位が一緒になって単一の意思決定機関となる惑星、惑星の支配権を握った、あるいは握られたAIなど、さまざまな形態を取りうる。

単一の意思決定機関によって統治される惑星には、多くの魅力的な利点がある。このようなシステムは、軍拡競争や他の強力な技術をめぐる競争を防ぐことができる。グローバルなリスクに対処するための調整問題の解決策にもなるだろう。人類が宇宙を利用する種になれば、宇宙で予想される「コモンズの悲劇」に対処するのに役立つだろう（Hanson 1998）。強力な新技術の流通をコントロールすることで、特定の集団が独占的にアクセス・支配することがないようにすることができる。もし人類が何百万年も生き延びる方法を見つけたとしても、過去の進化的圧力がそのような未来に十分であると信じる理由がないため、遺伝子の進化を誘導し始める必要があるだろう（Bostrom 2006）。

調整問題が存在し、人類の未来を守るための中心的な課題であることは明らかだ。これらの脅威は、悪しき単身者が権力の座に着く前に、効果的なグローバル・ガバナンス・システムをどのように構築すべきかを決定するのに十分な原動力となる。未来は一刻を争う。グローバル・ガバナンスに向けた努力は、小さなグループが強力なテクノロジーを開発し、全体主義的な単一民族になるのを防ぐことができる。もしこの集団が事前にそれらのテクノロジーを手に入れていたとしても、阻止することは難しいだろう。もし人類が近いうちにブラックボール技術の問題に対処する必要があり、ターンキー全体主義が解決策となり得るのであれば、前もってグローバルレベルでこの問題を検討しておくことが重要である。

未来への問い

• 優れたグローバル・ガバナンスを最も効率的に推進し、グローバルな協調問題に対処するにはどうすればよいか？
• 破壊的な価値観の固定化をどう防ぐか？

最近の人類の歴史を考えると、全体主義が間接的な存立リスクとなる可能性は想像できる。大国間紛争や気候変動から起こりうる他の脅威は、強固な全体主義政府の台頭によって、より悪化する可能性がある。さらに、新興テクノロジーがもたらすような人類存亡リスクを軽減する努力が、全体主義政権に力を与える可能性もある。仮に人類がこの先の難題を乗り切り、まだ見ぬ難題に対応できるようになるとしよう。その場合、グローバル・ガバナンスと調整の問題を平和研究の中心に据える必要がある。

9. 結論

ノア・B・テイラー1

(1)オーストリア、インスブルック、インスブルック大学

キーワード

平和と生存大きな平和

人類は過去の恐怖と未来の希望と恐怖から学んできた。第一次世界大戦後の幻滅は国際関係学の発展につながり、多くの機関がこのような惨禍が再び起こらないようにすることを使命とした。平和学と紛争学も同様に、第二次世界大戦を防げなかった戦争の問題に対する不十分な答えから生まれた。歴史上の同じ瞬間に、人類は絶滅の可能性を発見した。過去の秩序と未来の軌跡を説明するような壮大な物語は、もはや信頼はおろか、信仰を抱かせるのに十分ではない。そのような方向性がなければ、平和への理解は多元的で関係的なものとなった。もはや平和の意味を定義するために、真理や正義、安全保障だけに固執する必要はなく、平和は互いの関係やそこにある調和において理解することができる。小さな、日常的な、地域的な平和でさえも重要なのだ。実際、これが世界の平和の大部分を占めている。平和とは、空間的には目の前にいる人、時間的には後ろにいる人、前にいる人との関係であり、それ以上のものである。

人類が今置かれている歴史的瞬間は、極めて重要かもしれない。気候危機、パンデミック、科学技術の進歩、原始全体主義政治の台頭、大国間紛争のうごめきなど、現在起きている事態はすべて、平和と人類の長期的生存が相互に関連し合う「大きな平和」のビジョンを求めるものである。平和と生存は、一元論的な視点として理解されるべきものではなく、むしろ、将来の紛争が平和へと変容し続けるための基盤として理解されるべきものである。

平和と生存について問うことは、何が重要で、なぜ重要なのかを問うことでもある。人間は時間も空間も資源も限られている。生きることは危険であり、多くの脅威が闇の中に潜んでいる。歴史の不安定な局面を乗り切るには、平和と生存を確保するために何が最も重要で、どのような順序で物事を進めるべきかを問うことが不可欠である。このような現実的な検討は、その基礎となる前提にも道を与える。人間の人生の目的は何か？良い人生とは何か？平和とは何か、なぜそれを求めるべきなのか。

人間性、平和、生存の側に立つことは急進的な提案ではない。種の存続を優先することほど基本的で合理的なことはない。もちろん、どのような生存であり、どのようにそれを確保するかは、より微妙な問題である。理性的な問題とは、ビジョンを洗練させ、その日を永遠につなげる具体的なステップを与えることであり、理性的な問題とは、広大な時間地平に沿って存在することが何を意味するのか、また、火や氷の中で早すぎる終焉を迎えることをどう感じるべきなのかに意味を与えることである。

戦争中の世界の経験は、平和・紛争研究（PCS）と人類存亡リスク研究（ERS）の発展に影響を与えた。本書で取り上げるリスクの中で、人類が最も身近に感じられるのはこのリスクである。人為的リスクの典型である。十分長い時間軸の中で、気候が変化したり、ウイルスが進化したりして、人類が絶滅に追い込まれる可能性がある。大国間紛争は、人類が地球が住めなくなるような規模と兵器で戦争を起こした場合にのみ起こりうる。そのような戦争を起こすことができるのであれば、それを防ぐこともできる。ユネスコ憲章の前文によれば、戦争が生まれるのは人間の心の中であり、平和のための防衛を構築するのも人間の心の中である。人類は戦争から多くのことを学んできた。残念ながら、それは経験から学んだことである。戦争の犠牲者が広島・長崎以前よりも容易に想像できるようになった今、第三次世界大戦後に残された者が、第四次世界大戦を回避するための新たなアプローチを考える必要がないように、統治システムや紛争を緩和する方法を開発し、強化し続けることを願おう。

COVID-19のパンデミックによって世界が経験した恐怖、苦しみ、死、喪失が、人類存亡リスクがどのようなものであるか、どのように感じられるか、人類がどれほど準備不足であるかを示す一例となることを願っている。COVID-19のパンデミックは、ウイルスの性質、政府、機関、世界中の人々による緩和努力、あるいはその両方によって、人類存亡リスクではないことが判明した。恐ろしいことではあったが、私たち人類は幸運だった。COVID-19のように感染力が強く、エボラのように致命的なウイルスを想像してみてほしい。そして、COVID-19に対して世界が全体としてどの程度の反応を示したかを思い出してほしい。生きている誰もが第二次世界大戦や冷戦にまつわる恐怖を記憶しているわけではない。世界的なパンデミックを経験したことのない人などいない。パンデミックを経験していない人などいないのである。人類が今後何年もこのパンデミックの影響とともに生きていくのと同じように、私たちもこの経験を生かして、このような地球規模の問題を理解し、より良い対応策を開発することができるだろう。

2014年、アイスランドのオクジョクル氷河は樹齢700年で死滅したと宣言された。その氷はもはや動かせるほど厚くはなかった。その4年後、プレートが設置された。碑文の最後には、アンドリ・スナエル・マグナソンの言葉が刻まれていた。

「この記念碑は、私たちが何が起きているのか、何をすべきなのかを知っていることを認めるためのものだ。私たちがそれを実行したかどうかは、あなた方だけが知っている。」

銅で書かれたこれは、不確かな未来への手紙である。人類にとって気候変動の中心的な問題は、私たちが過去から未来へと一直線に進むベクトルで時間を経験していることだ。地球と気候はそうではない。再び世界大戦が起こるとは限らない。再び深刻な世界的大流行が起こる可能性は高いが、不確実である。私たちはすでに気候変動の中にいる。今、真剣に取り組んでいるのは、気候がどの程度悪化するのか、どの程度早く悪化するのか、その影響はどのようなものなのか、ということである。まだ何ができるのかという問いは、希望と不安の両方を呼び起こす。変化する気候は、火や氷を脅かす。

過去のテクノロジーによって、私たちはこの世界を築き上げた。同時にそれは、私たちが豊かに暮らし、核爆弾を作り、病気を治し、環境を汚染する手段でもある。もし専門家の言うことが正しければ、人類はやがて、ほとんど神のような力を私たちに吹き込むことができる技術を保有することになる。人類が人工知能（AI）、つまり自分自身の姿をした心を作り出したとき、人々は初めて、まったく別のタイプの存在と関係を持つことになる。バイオテクノロジーによって、私たちはすでに生命を意のままに変化させることができる。ナノテクノロジーは、物質そのものを創造しコントロールする力を与えるかもしれない。非常に小さなレベルでの構築は、世界を非常に大きく変えるだろう。これらの技術のいくつかは、はるか未来にあると主張することもできる。確かにそうかもしれない。計画を立てる際に時間軸は重要だ。しかし、十分長い時間軸の中で、宇宙の基本法則に反しない限り、これらの技術の進歩は存在し続けるというのも道理である。これらの技術がどのように開発され、どのように利用されることを望むかを今考えることは、それらが普及した時よりも容易であろう。

火も氷も必然ではないが、人類にとって政治は必然かもしれない。人類がいつまで存続できるかの上限は、最後の星が闇に包まれる頃まで続くだろう。それまでは、人類の進路は選択と偶然に委ねられている。共通の物語で結ばれた共通の目標に向かってグループを組織する能力は、私たち人類の特徴である。この特質が、私たちの存在全体が危機に瀕した歴史上の多くの未知の瞬間から私たちを救ってきたのだろう。最近の歴史でも、人類は大国間紛争、パンデミック、気候変動、急速な技術成長を経験している。500年後、1万年後の統治システムや政治問題がどうなっているかを想像するのは難しい。政治家は選挙サイクルの観点から、政策は政府の観点から考える傾向がある。私たちの種の政治的野心の長期的目標を正確に定義することは不可能かもしれないし、賢明でさえないかもしれないが、何が望まれず、何が危険であるかに同意することは不可欠である。どのような名称であれ、誤った価値観を固定化したシステムは、直接的な行動や怠慢、あるいは誰も住みたくない世界の構築によって、存続的な破滅を確実にする可能性がある。

絶望する原因はたくさんあるかもしれないが、そうする理由はほとんどない。本書で論じられている多くのリスクの具体的な内容は、まだ理解されていない。最も一般的に知られているのは、何が必要かということである。大国間の対立を緩和することであれ、そうならないための外交システムを構築することであれ、次の世界的大流行のリスクを低減することであれ、それに対処することであれ、気候変動に対してまだできることに取り組むことであれ、その最も悲惨な影響を緩和することであれ、強力な新しいツールを開発することであれ、そのツールを武器として使用することであれ、人間の尊厳を認める統治方法を見つけることであれ、平和によってより良くなる努力はない。暴力が事態を悪化させないものもない。

世界的な協調問題を「解決」することは、本書で論じられている脅威の潜在的リスクを減らすことに大いに役立つだろう。抽象的でグローバルなレベルでは、「問題」は圧倒されるほど困難なものだ。しかし、それはまた、地球上の人々が一緒にいるだけのことでもある。信頼と協力は、人間関係、家族、地域社会、国、民族、そして惑星を築く。時空を超えてつながる人々の宝石のようなネットの中で、私たちは調和したり、調和しなかったりし、正義にも不正義にもなり、真実にも嘘にも気づき、傷つき、傷つけられる。PCSとERSの交差点で私たちが見出す課題は、私たちの生存を永続的な文化的・政治的価値とする方法を見つける必要があるということだ。平和はその一部であり、平和とは何かということの一部である。私たちは種として、自明なことに振り回されることはない。意識的で分別のある心に恵まれた私たちは、平和と生存を同列に、同じではないが別個に考えることを選ぶことができる。平和と生存は、到達すべきゴールでも、遠い岸辺の楽園でもなく、実践であり、最後の一呼吸まで続く精神の乗り物なのだ。