書籍：グローバルな破局的リスク | オックスフォード出版（2008）

Global Catastrophic Risks

編集 ニック・ボストロム

ミラン・M・チルチルコヴィッチ

序文

1903年、H.G.ウェルズはロンドンの王立研究所で講演を行い、地球規模の災害の危険性を強調した。「あることが人類と物語を完全に破壊し、終わらせてはならない理由を示すことは不可能である。…宇宙からの何か、疫病、大気の大病、彗星の毒、地球の内部からの蒸気の大発生、われわれを捕食する新しい動物、人間の心の中の薬物や破壊的な狂気などである」。ウェルズの悲観主義は晩年にはさらに深まった。彼はヒロシマとナガサキを知るまで長生きし、1946年に亡くなった。

この年、シカゴの物理学者たちが、軍備管理を推進する目的で「原子科学者会報」という雑誌を創刊した。会報の表紙の「ロゴ」は時計で、その針が真夜中に近いほど、世界情勢がいかに不安定であるかを編集者が判断していることを示している。分針は数年ごとに前後する。

冷戦の数十年間、西側世界全体が大きな危険にさらされていた。超大国は、混乱と誤算によってハルマゲドンに向かって躓いていたかもしれない。私たちは相対的なリスクを合理的に評価することができない。ある文脈では、私たちは不条理なほどリスクを回避する。食品に含まれる発がん性物質や、列車事故で死亡する確率が100万分の1であることなど、統計的にごくわずかなリスクについて心配する。しかし、核による大惨事で死亡するはるかに大きなリスクについては、ほとんどの人が「無関心」だった。

1989年、会報の時計は午前0時17分に戻された。今では、何万発もの爆弾が私たちの文明を壊滅させる可能性ははるかに低くなった。しかし、局地的な紛争で数発が爆発する危険性は高まっている。私たちは、より多くの国の間で核兵器の拡散に直面しており、おそらくテロリスト集団による使用の危険性さえある。

さらに、世界的な核による大惨事の脅威は、単に一時的に停止しているに過ぎない可能性もある。前世紀にはソ連が興亡し、2つの世界大戦があった。これからの100年で、地政学的な再編成が同じようにドラスティックになり、新たな超大国間で核による対立が起こるかもしれない。核の脅威は常に私たちとともにある。核の脅威は、1930年代から続く基本的な（そして公的な）科学的考えに基づいている。

その危険性にもかかわらず、今日、テクノ・オプティミスト（技術楽観主義者）となる真の根拠がいくつかある。ほとんどの国のほとんどの人々にとって、今ほど生きていてよかった時代はない。情報技術、バイオテクノロジー、ナノテクノロジーといった経済発展の原動力となる技術革新は、先進国だけでなく発展途上国にも活力を与える。21世紀のテクノロジーは、環境に優しいライフスタイルを提供することができる。現在の良い生活と考えられているものよりも、エネルギーや資源に対する要求が低いのだ。また、政治的な意志さえあれば、世界で最も貧困にあえぐ20億人を極度の貧困から救うための資金を容易に調達できるだろう。

しかし、このような希望とともに、21世紀のテクノロジーは、バイオ、サイバー、環境科学、そして物理学に由来する、原爆と同じくらい深刻な、新たな世界的脅威と私たちを直面させるだろう。Bulletinの時計は再び真夜中に近づいている。これらの脅威が突然世界的な大災害を引き起こすことはないだろうが、終末時計はあまり良い比喩ではない。新技術から派生する良性と有害性の緊張関係や、プロメテウス的なパワーサイエンスがもたらす脅威は、不穏なほど現実的である。ウェルズの厭世観は、彼が今日執筆していたら、さらに深まっていたかもしれない。

私たちは天然資源を浸食し、気候を変化させ、生物圏を荒廃させ、多くの種を絶滅に追い込んでいる。

気候変動は21世紀最大の環境問題である。最も脆弱な人々、例えばアフリカやバングラデシュの人々は、最も適応能力が低い。化石燃料の燃焼により、大気中のCO2濃度は過去50万年間で最も高くなっており、その上昇スピードはさらに速くなっている。CO2濃度が上昇すればするほど、温暖化は進む。そしてさらに重要なことは、グリーンランドの氷床が溶けて海面が上昇するなど、重大かつ不可逆的な事態を引き起こす可能性が高まるということだ。私たちが今世紀に燃やした化石燃料によって引き起こされた地球温暖化は、海面上昇を引き起こし、それが千年以上続く可能性がある。

気候変動の科学は複雑だ。しかし、気候変動に対応するという経済的・政治的課題に比べれば簡単なことだ。地球温暖化につながる市場の失敗は、2つの理由からユニークな難題を突きつけている。第一に、より身近な公害の結果とは異なり、その影響は拡散している。イギリスから排出されるCO2は、オーストラリアで排出されるCO2よりもこちらでは影響がなく、その逆もまた然りである。つまり、緩和のための信頼できる枠組みは、広く国際的なものでなければならない。第二に、主な弊害はすぐに生じるものではなく、100年以上先の未来にある。世代間の正義が問題となる。将来の世代の権利と利益を、私たち自身の権利と比較してどのように評価するのか？

その解決には、すべての主要国が協調して行動する必要がある。また、先見性、つまり子孫に対する利他主義も必要だ。孫の世代が年をとったときに起こるかもしれないことを軽視しすぎると、歴史は私たちを厳しく裁くだろう。世界が石炭や石油への依存から脱却できるような、あるいは発電所が排出するCO2を回収できるような、満足のいく解決策がまだ見つかっていないことを深く憂慮している。アル・ゴアの言葉を借りれば、「否定から絶望へと飛躍してはならない。私たちは何かをすることができるし、しなければならない。

予後は確かに不確かだが、最も重くのしかかり、政策決定者を最も強く突き動かすべきは、予測範囲の「最悪のケース」、すなわち地球の大部分を居住不可能にする「暴走」である。

私たちの地球社会は、気候変動とは別に（関連はあるが）、他の「敵なき脅威」にも直面している。その中でも特に重要なのは、生物多様性への脅威である。地質学的過去には5回の大絶滅があった。人類は今、6回目の絶滅を引き起こそうとしている。絶滅率は通常の1,000倍であり、増加の一途をたどっている。私たちは生命の書を読む前に破壊しているのだ。昆虫、植物、バクテリアを中心に、そのほとんどが記録にも残されていない。

生物多様性はしばしば、人類の幸福に不可欠な要素であると主張される。魚の資源が減少して絶滅すれば、私たちに害が及ぶことは明らかである。また、熱帯雨林には私たちにとって有用な遺伝子を持つ植物が存在する。しかし、私たちの多くにとって、このような「道具的」な、そして人間中心的な議論だけが説得力のあるものではない。生物圏の豊かさを維持することは、私たち人間にとって何を意味するかということ以上に、それ自体に価値がある。

しかし、私たちはまた別の脆弱性に直面している。それは、私たちの集団的な影響ではなく、21世紀のテクノロジーによって個人や小さな集団がより大きな力を得ることに起因している。

合成生物学の新たな技術によって、致死的な生物兵器を、意図的に、あるいは誤って、安価に合成することが可能になる。組織化されたネットワークさえ必要ない。狂信者や変人が、現在コンピューターウイルスを設計している人たちのような考え方、つまり放火魔の考え方をすればいいのだ。バイオ（およびサイバー）の専門知識は、何百万人もの人々が利用できるようになる。ネットワーク化された世界では、暴走する災害の影響は瞬く間に世界的なものになる可能性がある。

個人はやがて、現在のテロリストが持っているよりもはるかに大きな「影響力」を持つようになるだろう。相互接続された社会は、その多様性と個人主義を犠牲にすることなく、過ちやテロから守ることができるのだろうか？これは厳しい問いだが、深刻な問題だと思う。

技術教育がバランスの取れた合理性につながると考えるなら、私たちは自分自身をからかっていることになる。技術教育は狂信主義と結びつく可能性がある–今日私たちが強く意識している伝統的な原理主義だけでなく、新しい時代の非合理性とも。例えば、ラエリアン（人間のクローンを作っていると主張）やヘブンズ・ゲート・カルト（宇宙船が自分たちを「高次の世界」に連れて行ってくれると期待して集団自殺した）だ。このようなカルトは「科学的」であると主張するが、現実への足場は不安定である。また、人間さえいなくなれば世界はもっと良くなると信じる極端なエコフリークもいる。地球村は村のバカどもに対処できるのだろうか？

このような懸念は決して未来的なものではなく、今後10～20年のうちに必ず直面することになる。しかし、今世紀後半はどうだろうか？一部の技術は暴走するようなスピードで発展する可能性があるため、予測は難しい。さらに、人間の性格や体格そのものが、私たちの歴史上質的に新しい程度まで、間もなく可鍛性になるだろう。新薬は（そしておそらく脳へのインプラントも）人間の性格を変える可能性があり、サイバーワールドは爽快であると同時に恐ろしい可能性を秘めている。

私たちは、100年後のライフスタイル、態度、社会構造、人口規模を自信を持って推測することはできない。実際、われわれの子孫がいつまで「人間」らしさを維持できるのかさえ定かではない。ダーウィン自身、「生きている種で、遠い未来にその姿をそのまま伝えるものは一つもない」と述べている。私たち自身の種は、自然淘汰だけでなく、人間が引き起こした改変（知的に制御されたものであれ、意図的でないものであれ）によって、どんな先人よりも早く変化し、多様化していくに違いない。ポスト・ヒューマン時代は、ほんの数世紀先のことかもしれない。人工知能についてはどうだろうか？超知的機械は、人類が必要とする最後の発明かもしれない。私たちは、SFの片隅にあるような概念に対しても、心を開いておく、あるいは少なくとも開いておくべきだ。

このような考えは、現実的な政策とは無関係に思えるかもしれない。私も以前はそう思っていた。しかし、人間は現在、個人的にも集団的にも、急速に変化するテクノロジーによって大きな力を得ており、意図的に、あるいは予期せぬ結果として、不可逆的な地球規模の変化を引き起こす可能性がある。このことが何を意味するのかを考えないのは、確かに無責任である。新しいテクノロジーに起因する課題が国際的な議題として取り上げられ、プランナーが100年以上先に起こるかもしれないことに真剣に取り組むことは、真の政治的進歩である。

私たちは、ある程度のリスクを受け入れることなしに科学の恩恵を享受することはできない。どのような新技術も、草創期にはリスクを伴うものだ。しかし、現在では過去とは重要な違いがある。蒸気の黎明期、ボイラーが爆発したとき、それは恐ろしいことだったが、その恐ろしさには「上限」があった。しかし、相互の結びつきがますます強くなっているこの世界では、その結果が世界的なものになりかねない新たなリスクが存在している。世界的な大災害が発生する可能性がほんのわずかでもあれば、それは非常に不安なことである。

私たちの文明に対する（私たちの種全体の生存に対する）脅威をすべて排除することはできない。しかし、考えられないことを考え、「マイナス面」を最小限に抑えながら21世紀のテクノロジーを最適に応用する方法を研究することは、私たちに課せられた責務であることは間違いない。私たちが日常的に安全対策を講じ、時には保険に加入するのと同じ慎重な分析、つまり確率と結果の掛け算を破滅的リスクに適用するならば、本書で取り上げられているシナリオのいくつかは、これまで以上の注目に値するという結論に達するに違いない。

ちなみに、私の宇宙論者としての経歴は、さらなる視点、すなわち懸念の動機付けを与えてくれる。

一部の創造論者や原理主義者を除けば、進化の過去における途方もない時間のスパンは、今や一般的な文化の一部となっている。しかし、教養のある人々の多くは、たとえ私たちが何十億年もかけて誕生したことを十分認識していたとしても、なぜか私たち人類が進化の頂点にいると思っている。そうではない。太陽はその生涯の半分にも満たない。太陽は徐々に明るくなっているが、地球はあと10億年は居住可能である。しかし、そのような宇宙的な時間的展望（過去だけでなく、はるか未来にまで及ぶ）においても、21世紀は決定的な瞬間かもしれない。それは、私たちというひとつの種が地球の未来を手中に収め、自らを危険にさらすだけでなく、生命の計り知れない可能性をも危うくしかねない、地球の歴史上初めての出来事なのだ。

私たちが個人として、また集団として下す決断が、21世紀の科学がもたらす結果を良性のものにするか、それとも壊滅的なものにするかを決定する。私たちは、環境に対する脅威だけでなく、まったく新しいカテゴリーのリスクとも闘う必要がある。一見、確率は低いが、その結果は甚大であり、これまでよりもはるかに注目されるべきものである。だからこそ、私たちはこの魅力的で挑発的な本を歓迎すべきなのである。編者は、非常に幅広い専門知識を持つ著名な執筆陣を集めた。ここに示された問題や議論は、幅広い読者を惹きつけるはずであり、科学者、政策立案者、倫理学者の特別な注目に値するものである。

マーティン・J．リーズ

目次

• 謝辞
• 序文　マーティン・J・リース
  • 1 はじめに
    • ニック・ボストロムとミラン・M・チェルコヴィッチ
    • 1.1 なぜ？
    • 1.2 分類と構成
    • 1.3 第1部：背景
    • 1.4 第二部：自然からのリスク
    • 1.5 第三部：意図せざる結果からのリスク
    • 1.6 第IV部：敵対行為によるリスク
    • 1.7 結論と今後の方向性
• 第1部 背景
  • 2 長期的な天体物理学的プロセス
    • フレッド・C・アダムス
    • 2.1 はじめに：物理的終末論
    • 2.2 地球の運命
    • 2.3 局所群の孤立
    • 2.4 アンドロメダとの衝突
    • 2.5 恒星進化の終焉
    • 2.6 縮退残骸の時代
    • 2.7 ブラックホールの時代
    • 2.8 暗黒の時代とその後
    • 2.9 生命と情報処理
    • 2.10 結論
    • 参考文献
  • 3 進化論と人類の未来　クリストファー・ウィルス
    • 3.1 はじめに
    • 3.2 進化変化の原因
    • 3.3 環境の変化と進化の変化
    • 3.3.1 極端な進化的変化
    • 3.3.2 継続的な進化的変化
    • 3.3.3 文化的環境の変化
    • 3.4 進行中の人類の進化
    • 3.4.1 行動学的進化
    • 3.4.2 遺伝子工学の未来
    • 3.4.3 我々が依存している種を含む他の種の進化
    • 3.5 将来の進化の方向性
    • 3.5.1 人間の行動に変化を伴わない、劇的で急速な気候変動
    • 3.5.2 人間の行動の変化を伴う、劇的だが緩やかな環境変化
    • 3.5.3 私たちの種による新しい環境の植民地化
    • 参考文献
  • 4 終末論的脅威への対応における千年紀の傾向　ジェームズ・J・ヒューズ
    • 4.1 はじめに
    • 4.2 千年王国主義のタイプ
    • 4.2.1 前千年王国説
    • 4.2.2 千年王国説
    • 4.2.3 ポスト千年王国説
    • 4.3 メシア主義と千年王国主義
    • 4.4 積極的または消極的テレオロジー：ユートピア主義と終末主義
    • 4.5 現代のテクノ・ミレニアリズム
    • 4.5.1 シンギュラリティとテクノ・ミレニアリズム
    • 4.6 テクノ終末論
    • 4.7 未来シナリオの評価における機能不全の千年王国主義の症状
    • 4.8 結論
    • 参考文献
  • 5 グローバルリスクの判断に潜在的に影響する認知バイアス　エリエーザー・ユドコフスキー
    • 5.1 はじめに
    • 5.2 利用可能性
    • 5.3 後知恵バイアス
    • 5.4 ブラック・スワン
    • 5.5 連結の誤謬
    • 5.6 確認バイアス
    • 5.7 アンカリング、調整、汚染
    • 5.8 影響ヒューリスティック
    • 5.9 範囲無視
    • 5.10 較正と過信
    • 5.11 傍観者の無関心
    • 5.12 最後の注意
    • 5.13 まとめ
    • 参考文献
  • 6 観測選択効果と世界的大災害リスク　ミラン・M・チルチルコヴィッチ
    • 6.1 はじめに：人間的推論と地球規模のリスク
    • 6.2 過去と未来の非対称性とリスク推論
    • 6.2.1 単純化されたモデル
    • 6.2.2 人間的過信バイアス
    • 6.2.3 リスクの適用可能性クラス
    • 6.2.4 宇宙生物学的追加情報
    • 6.3 終末論
    • 6.4 フェルミのパラドックス
    • 6.4.1 フェルミのパラドックスとGCR
    • 6.4.2 地球外知的生命体の存在がもたらすリスク
    • 6.5 シミュレーション論
    • 6.6 観測選択効果の研究の進展
    • 参考文献
  • 7 システムベースのリスク分析　ヤコブ・Y・ハイメス
    • 7.1 はじめに
    • 7.2 相互依存のインフラと経済セクターに対するリスク
    • 7.3 階層的ホログラフィック・モデリングとシナリオ構造化理論
    • 7.3.1 階層的ホログラフィック・モデリングの理念と方法論
    • 7.3.2 リスクの定義
    • 7.3.3 歴史的観点
    • 7.4 創発的マルチスケールシステムのリスク管理のためのファントムシステムモデル
    • 7.5 極限的・破局的事象のリスク
    • 7.5.1 リスクの期待値の限界
    • 7.5.2 分割多目的リスク法
    • 7. 5.3 リスク対信頼性分析
    • 参考文献
  • 8 大災害と保険　ピーター・テイラー
    • 8.1 はじめに
    • 8.2 大災害
    • 8.3 経済界の考え
    • 8.4 保険
    • 8.5 リスクの価格設定
    • 8.6 災害損失モデル
    • 8.7 リスクとは何か？
    • 8.8 価格と確率
    • 8.9 不確実性の時代
    • 8.10 新しい手法
    • 8.10.1 定性的リスク評価
    • 8.10.2 複雑性科学
    • 8.10.3 極値統計
    • 8.11 結論：神々に逆らうか？
    • さらなる読書への提案
    • 参考文献
  • 9 大災害に対する公共政策
    • リチャード・A・ポズナー
    • 参考文献
• 第Ⅱ部 自然がもたらすリスク
  • 10 超火山とその他の地球物理学的プロセスの破局的重要性
    • マイケル・R・ランピーノ
    • 10.1 はじめに
    • 10.2 超巨大噴火の大気への影響
    • 10.3 火山の冬
    • 10.4 超巨大噴火が環境に及ぼす可能性のある影響
    • 10.5 超巨大噴火と人口
    • 10.6 超巨大噴火の頻度
    • 10.7 超巨大噴火の文明への影響
    • 10.8 超巨大噴火と宇宙の生命
    • 参考文献
  • 11 彗星と小惑星による災害　ウィリアム・ネイピア
    • 11.1 巨大な山のようなもの
    • 11.2 どれくらいの頻度で衝突するのか？
    • 11.2.1 衝突クレーター
    • 11.2.2 地球近傍天体の探索
    • 11.2.3 動的解析
    • 11.3 衝突の影響
    • 11.4 ダストの役割
    • 11.5 地上の真実？
    • 11.6 不確実性
    • 参考文献
  • 12 超新星、ガンマ線バースト、太陽フレア、宇宙線が地球環境に与える影響　アーノン・ダー
    • 12.1 はじめに
    • 12.2 放射線の脅威
    • 12.2.1 信頼できる脅威
    • 12.2.2 太陽フレア
    • 12.2.3 太陽活動と地球温暖化
    • 12.2.4 太陽絶滅
    • 12.2.5 超新星爆発からの放射線
    • 12.2.6 ガンマ線バースト
    • 12.3 宇宙線の脅威
    • 12.3.1 地球磁場の反転
    • 12.3.2 太陽活動、宇宙線、地球温暖化
    • 12.3.3 銀河の渦巻き腕の通過
    • 12.3.4 近傍の超新星からの宇宙線
    • 12.3.5 ガンマ線バーストからの宇宙線
    • 12.4 大質量絶滅の起源
    • 12.5 フェルミのパラドックスと質量絶滅
    • 12.6 結論
    • 参考文献
• 第III部 予期せぬ結果によるリスク
  • 13 気候変動と地球規模のリスク デビッド・フレーム、マイルス・R・アレン
    • 13.1 はじめに
    • 13.2 気候変動のモデル化
    • 13.3 気候変動の単純なモデル
    • 13.3.1 太陽強制
    • 13.3.2 火山による強制
    • 13.3.3 人為的強制
    • 13.4 現在の知識の限界
    • 13.5 危険な気候変動の定義
    • 13.6 人為起源の変化の下での地域的気候リスク
    • 13.7 気候リスクと緩和政策
    • 13.8 議論と結論
    • 参考文献
  • 14 疫病とパンデミック：過去、現在、未来　エドウィン・デニス・キルボーン
    • 14.1 はじめに
    • 14.2 ベースライン：感染症の慢性的かつ持続的な重荷
    • 14.3 パンデミックの原因
    • 14.4 寄生虫の性質と発生源
    • 14.5 微生物およびウイルス感染の様式
    • 14.6 疾患の影響の性質：高い罹患率、高い死亡率、またはその両方
    • 14.7 環境要因
    • 14.8 人間の行動
    • 14.9 他の自然災害の要因としての感染症
    • 14.10 過去の疫病とパンデミック、およびそれらが歴史に与えた影響
    • 14.11 歴史的に注目すべき疫病
    • 14.11.1 ペスト：黒死病
    • 14.11.2 コレラ
    • 14.11.3 マラリア
    • 14.11.4 天然痘
    • 14.11.5 結核
    • 14.11.6 性感染症のパラダイムとしての梅毒
    • 14.11.7 インフルエンザ
    • 14.12 現代の疫病とパンデミック
    • 14.12.1 ヒブ／エイズ
    • 14.12.2 インフルエンザ
    • 14.12.3 HIVと結核：新旧の脅威の二重の影響
    • 14.13 将来の疫病とパンデミック
    • 14.13.1 感染なしに脅威をもたらす微生物：微生物毒素
    • 14.13.2 異所性疾患
    • 14.13.3 民族と文化の均質化
    • 14.13.4 人工ウイルス
    • 14.14 考察と結論
    • 参考文献
  • 15 グローバルリスクにおけるプラス要因とマイナス要因としての人工知能　　　　　　　　　　エリエーザー・ユドコフスキー
    • 15.1 はじめに
    • 15.2 擬人化バイアス
    • 15.3 予測と設計
    • 15.4 知能の力を過小評価する
    • 15.5 能力と動機
    • 15.5.1 最適化のプロセス
    • 15.5.2 目標を目指す
    • 15.6 友好的な人工知能
    • 15.7 技術的失敗と哲学的失敗
    • 15.7.1 哲学的失敗の例
    • 15.7.2 技術的失敗の例
    • 15.8 知能の上昇率
    • 15.9 ハードウェア
    • 15.10 脅威と約束
    • 15.11 局所的戦略と多数派戦略
    • 15.12 人工知能と他の技術との相互作用
    • 15.13 友好的な人工知能を進展させる
    • 15.14 まとめ
    • 参考文献
  • 16 想像と現実の大きな問題
    • フランク・ウィルゼック
    • 16.1 なぜトラブルを探すのか？
    • 16.2 飛ぶ前に見る
    • 16.2.1 加速器の災難
    • 16.2.2 暴走するテクノロジー
    • 16.3 準備のための準備
    • 16.4 疑問に思うこと
    • 参考文献
  • 17 大災害、社会崩壊、人類絶滅　ロビン・ハンソン
    • 17.1 はじめに
    • 17.2 社会とは何か？
    • 17.3 社会の成長
    • 17.4 社会崩壊
    • 17.5 災害の分布
    • 17.6 実存的災害
    • 17.7 災害政策
    • 17.8 結論
    • 参考文献
• 第IV部 敵対行為によるリスク
  • 18 継続する核戦争の脅威
    • ジョセフ・チリンチオーネ
    • 18.1 はじめに
    • 18.1.1 米国の核戦力
    • 18.1.2 ロシアの核戦力
    • 18.2 ハルマゲドンの計算
    • 18.2.1 限定戦争
    • 18.2.2 グローバル戦争
    • 18.2.3 地域戦争
    • 18.2.4 核の冬
    • 18.3 現在の核バランス
    • 18.4 核拡散に関する朗報
    • 18.5 包括的アプローチ
    • 18.6 おわりに
    • 参考文献
  • 19 壊滅的核テロ：予防可能な危険　ゲーリー・アッカーマン、ウィリアム・C・ポッター
    • 19.1 はじめに
    • 19.2 核テロのリスクに対する歴史的認識
    • 19.3 核テロの動機と能力
    • 19.3.1 動機：核テロの需要サイド
    • 19.3.2 核テロの供給側
    • 19.4 発生の可能性
    • 19.4.1 需要サイド：誰が核兵器を欲しがっているのか？
    • 19.4.2 供給側：テロリストはどこまで進展したか？
    • 19.4.3 テロリストが将来核爆発能力を獲得する確率は？
    • 19.4.4 テロリストは核兵器以外の手段で核ホロコーストを引き起こすことができるか？
    • 19.5 核テロの結果
    • 19.5.1 物理的・経済的影響
    • 19.5.2 心理的、社会的、政治的影響
    • 19.6 リスク評価とリスク削減
    • 19.6.1 世界的大災害のリスク
    • 19.6.2 リスクの軽減
    • 19.7 提言
    • 19.7.1 当面の優先事項
    • 19.7.2 長期的優先課題
    • 19.8 結論
    • 参考文献
  • 20 バイオテクノロジーとバイオセキュリティ　アリ・ヌーリ、クリストファー・F・サイバ
    • 20.1 はじめに
    • 20.2 生物兵器とリスク
    • 20.3 生物兵器は他のいわゆる大量破壊兵器とは異なる
    • 20.4 利益にはリスクが伴う
    • 20.5 バイオテクノロジーのリスクは、伝統的なウイルス学、微生物学、分子生物学にとどまらない
    • 20.6 バイオテクノロジー・リスクへの対応
    • 20.6.1 研究の監督
    • 20.6.2 「ソフトな」監督
    • 20.6.3 バイオテクノロジー・リスクに対処するためのマルチステークホルダー・パートナーシップ
    • 20.6.4 de novo DNA合成技術のためのリスク管理の枠組み
    • 20.6.5 自主行動規範から国際規制へ
    • 20.6.6 バイオテクノロジーのリスクは新規病原体の創造にとどまらない
    • 20.6.7 バイオテクノロジーの普及は生物学的安全保障を強化する可能性がある
    • 20.7 壊滅的な生物学的攻撃
    • 20.8 疾病監視と対応の強化
    • 20.8.1 サーベイランスと検知
    • 20.8.2 集団発生を管理するためには、協力とコミュニケーションが不可欠である。
    • 20.8.3 公衆衛生部門の動員
    • 20.8.4 疾病発生の封じ込め
    • 20.8.5 研究、ワクチン、医薬品開発は、効果的な防衛戦略の不可欠な要素である。
    • 20.8.6 生物学的安全保障には協力関係の育成が必要である
    • 20.9 生物学的に安全な未来に向けて
    • 参考文献
  • 21 世界的大災害リスクとしてのナノテクノロジー クリス・フェニックス、マイク・トレダー
    • 21.1 ナノスケール技術
    • 21.1.1 製品に必要な単純さ
    • 21.1.2 ナノスケール技術に伴うリスク
    • 21.2 分子製造
    • 21.2.1 分子製造の製品
    • 21.2.2 ナノ製造兵器
    • 21.2.3 世界的大災害リスク
    • 21.3 分子製造リスクの軽減
    • 21.4 考察と結論
    • 参考文献
  • 22 全体主義の脅威 ブライアン・キャプラン
    • 22.1 全体主義：何が起こり、なぜ（そのほとんどが）終わったのか
    • 22.2 安定した全体主義
    • 22.3 安定した全体主義のリスク要因
    • 22.3.1 テクノロジー
    • 22.3.2 政治
    • 22.4 全体主義のリスク管理
    • 22.4.1 テクノロジー
    • 22.4.2 政治
    • 22.5 「あなたのPは？」
• さらなる読書への提案
• 参考文献
• 著者略歴
• 索引

21 世界的大災害リスクとしてのナノテクノロジー

クリス・フェニックス、マイク・トレダー

「ナノテクノロジー」という言葉は、幅広い科学技術分野をカバーしている。幸いなことに、ナノテクノロジーの世界的な破局的リスクについて議論するために、それぞれを個別に検討する必要はないだろう。というのも、ナノスケール技術と総称するそれらの大半は、世界的に重大な破局的リスクをもたらすとは考えられないからである。しかし、分子製造と呼ぶ1つの分野は、世界的な範囲と高い確率でいくつかのリスクをもたらす可能性がある。

ナノテクノロジーにおける「ナノ」は、長さに適用される10億分の1という数字の接頭辞を意味する。ナノテクノロジーによって製造されるほとんどの構造は、ナノメートル単位で測定されるのが便利である。数多くの研究グループ、企業、政府のイニシアチブが、幅広い取り組みを表す言葉としてこの言葉を採用しているため、単一の定義はない。ナノテクノロジーは、小型化と化学の中間にゆるやかに位置する。現代的な用法では、十分に小さな構造を作ったり研究したりする方法であれば、どのようなものであれ、等しく正義を持ってナノテクノロジーであると主張することができる。ナノスケールの構造やナノスケールの技術は、多種多様な興味深い性質を持っているが、そのような技術のほとんどは、新しいクラスや範囲のリスクをもたらすものではない。

ナノテクノロジーへの関心は、いくつかの原因からきている。ひとつは、可視光の波長が大きすぎるため、数百ナノメートル以下の物体は従来の顕微鏡では見ることができないということだ。そのため、最近までこのような構造を研究することは困難だった。もうひとつの興味は、十分に小さな構造体は、色や化学反応性など、大きな構造体とは異なる性質を示すことが多いことである。3つ目の関心の源泉は、分子製造の動機付けにもなっていることだが、ナノメートルの幅が原子数個分しかないことである。

ほとんどのナノスケール技術では、大型機械を使って極小の比較的単純な物質や部品を製造する。これらの製品は通常、より大きな製品の不可欠な構成要素として開発される。その結果、ほとんどのナノスケール技術によってもたらされる損害は、生産手段や、それが統合される他のより身近な技術によって制限される。ほとんどのナノスケール技術は、それ自体では壊滅的なリスクをもたらすようには見えないが、ナノを利用した製品の新機能や増大したパワーは、他のさまざまなリスクを悪化させる可能性がある。

分子製造技術は、ナノスケール構造の原子レベルの粒度と精度を利用することを目的としており、新製品を製造するだけでなく、分子製造技術の産物である複雑なナノスケール機械によって製品を製造することも目的としている。言い換えれば、精密に特定されたナノスケールマシンは、分子（化学）プロセスを導くことによって、より多くのナノスケールマシンを構築することになる。このことは、あるレベルの機能性（具体的には、汎用機械がその物理的複製や変形を構築できるレベル）に達すると、ナノスケールがはるかに利用しやすくなり、製品がはるかに複雑になり、さらなる機能の開発が急速に進む可能性があることを示唆している。ナノテクノロジーへの分子製造アプローチは、製造の問題にナノスケールのフルパワーを解き放つかもしれない。後述するように、このアプローチが成功すれば、いくつかの世界的な破局的リスクが生じる可能性がある。

分子製造が、多くのポジティブな製品も生み出す可能性があることも見落としてはならない。より強い材料とより効率的なメカニズムによって、資源の使用量を削減することができるだろう。また、製造能力が乏しくないため、非効率的なインフラを迅速に置き換えることができるかもしれない。また、分散型（持ち運びも可能）の汎用的で低コストの製造によって、発展途上国や貧困にあえぐ人々が、窮乏から自力で抜け出すことができるようになる可能性もある。貧困と資源の制約が緩和されれば、本章で説明したリスクのいくつかを軽減できる可能性がある。ここでは最も深刻な危険に焦点を当てているが、私たちは分子製造技術の責任ある開発をその利点のために支持し、それがもたらす脅威に対する解毒剤として、この技術の研究と理解を促進する。

21.1 ナノスケール技術

21.1.1 製品の必要なシンプルさ

ナノスケール技術の共通の特徴は、完成品の製造には適さないことである。一般に、ナノスケール部品の製造方法は単純かつ特殊であり、その後他の製造方法によってより大きな製品に含まれなければならない材料や部品しか作ることができない。例えば、カーボンナノチューブは、革新的なプロセスによってコンピュータチップ上に堆積または成長させることができるが、その後、チップは従来の方法でパッケージ化され、コンピュータに取り付けられなければならない。紫外線遮断ナノ粒子は、革新的なプロセスで製造されるかもしれないが、その後、日焼け止めクリームに、ほとんど普通の成分と一緒に混ぜなければならない。関連する点として、ナノスケール技術は、その出力よりもはるかに大きなスケールの機械を利用する。

ナノスケールへのアクセスは通常、間接的か、骨の折れる作業か、あるいはその両方であり、ほとんどの製造工程はナノメートルの領域まで詳細な情報を伝えることができない。したがって、得られるナノスケール製品は、今日の製造品と比べても、高度に構造化された情報量の多いものにはなりえない。同一またはほぼ同一の粒子や分子構造体を大量に作ることは可能だが、それらはアモルファスであるか、（水晶のように）単純なまでに高度に秩序化されているか、あらかじめ作られたテンプレートによって組織化されているか、あるいはわずかなパラメータの影響を受ける部分的にランダムな構造を持つかのいずれかである。現在、数百万ものナノスケールの特徴を含むコンピューター・チップは、この例外であるが、これらは、非常に高価で、時間がかかり、製造が困難な「マスク」の助けを借りなければ作ることができない。これが、ナノスケール技術が一般的に完成品の製造に適さないもう一つの理由である。

ナノスケール技術のアウトプットは通常、従来の製造工程や材料使用工程へのインプットとしてのみ使用できるため、その範囲や影響は必然的に、製品のナノテク以外の構成要素やナノテク以外の製造工程によって制限されることになる。ほとんどの場合、ナノスケール・テクノロジーは、既存の工業技術に追加されるものと見なすことができる。場合によっては、ナノ粒子を含むナノスケール構造が環境中に放出されることもある。これは、その使用の一部として、意図的でない製品破壊を含む事故により、あるいは製品のライフサイクル（製造工程や製品廃棄を含む）の一部として、意図的に起こりうる。

21.1.2 ナノスケール技術に関連するリスク

ナノスケール技術のリスクは、既存の産業リスクに類似した2つの大分類に分類される。第一は、最終的な製品の入手可能性と使用から生じるリスクである。このように、ナノスケール技術は、製品をより強力に、より危険なものに、より広く使用されるようにするなど、間接的な貢献しかしていない。第2は、不注意による危害を引き起こす可能性のある新素材に起因するリスクである。

用途によっては、製品の改良によってリスクが増大することもある。医療技術の改良は、倫理的な問題に直面することが多い。ナノスケール技術の応用の中には（ナノ粒子を使った癌治療など）、強い需要があり、優れた治療プロトコルの作成という標準的な医学的問題以上のマイナス面がほとんどないものもある。軍事医療（ISN, 2005）やアンチエイジングのような高度な目標へのナノスケール技術の利用は、より議論を呼ぶかもしれない。しかし、いずれにせよ、これらのリスクや問題は、既存のリスクに対する漸増的なものに過ぎず、新たなリスク・クラスではなく、ナノスケールのヘルスケア技術には、世界的な破局的リスクはないように思われる。

ナノスケール技術は、兵器化された病原体の開発に間接的に寄与する可能性があり、これは間違いなく存亡の危機につながる可能性がある。より小型で強力な研究ツールは、開発プロセスの微調整や加速に利用できるかもしれない。しかし、同じツールは生物学的攻撃に対抗するためにも有用である。SARSウイルスの塩基配列は 2003年にわずか6日間で解読された（Bailey, 2003）。十分に速く、高感度で、安価な検査が開発されれば、ほとんどすべての感染症の脅威を大幅に減らすことができるだろう。したがって、ナノスケールの技術が世界的なパンデミックを引き起こす危険性を増大させるのか、あるいは減少させるのかは、まだ明らかではない。

コンピュータの改良によって、新たなリスククラスが生まれるかもしれない。監視技術は急速に向上しており、データマイニング、データ処理、ネットワーク化が安価になるにつれて、今後も向上し続けるだろう。国民のあらゆる動きや行動を把握する国家は、歴史上最も抑圧的な政権が持つ権力の比ではないだろう。その権力を世界規模で悪用すれば、破滅的なリスクをもたらす可能性がある。というのも、十分に強力なコンピューターがいずれ開発される可能性があるからだ。コンピュータの改良に起因するもう一つのリスクとして、人工知能が考えられる（本編第15章参照）。

ナノスケール物質の不注意な放出による環境リスクや健康リスクは、実存的なものではないだろう。だからといって、リスクがないというわけではない。あらゆる工業材料と同様に、新しいナノスケール材料は毒性学的および環境影響について評価されるべきである。ナノ粒子の中には、安定性が高く環境中に残留するものや、土壌や膜を通過するもの、化学的に活性なものもある。ナノ粒子の健康や環境への影響に関する情報は、まだ完全とは言えないが、この原稿を書いている時点では、そのリスクは工業化学物質と同じ範囲にあると思われる。ほとんど無害なナノ粒子もあれば、かなり有毒なナノ粒子もあるだろう。十分な量の十分な毒性を持つ粒子を製造すれば、偶発的に放出された場合に世界を脅かすというシナリオを想像することは可能だが、実際にはそのようなシナリオはありそうにない。

21.2 分子製造

ナノテクノロジーが発展するにつれて、近未来のナノスケール技術と分子製造の間に連続性を描くことが可能になってきている。それは、ますます複雑化する分子、機械的（走査型プローブなど）化学における設備の向上、より強力で信頼性の高い化学シミュレーションの収束から始まる。現在、主流のナノテクノロジー研究者は、原子レベルの精度で機械のような構造を構築することを想像することが可能になっている。これが達成されれば、次のステップは、これらのマシンを活用して、製造作業の一部をより多く実行することである。機械の設計と構造がさらに進歩すれば、製造システムも製品も、原子レベルで精密なナノスケールの機械と材料が持つ（予想される）高性能を活用することで、統合された大規模な製品を製造する統合された大規模製造システムにつながる可能性がある。

ロバート・フレイタス、ラルフ・マークル、エリック・ドレクスラーをはじめとする研究者たちによって、分子製造アプローチは、単純な分子から数時間で自重相当の製品を製造できる、重さ1キログラム以上の「ナノファクトリー」につながると期待されている。膨大な数の操作が必要とされるため、工場は完全にコンピューター制御されると予想されている。分子構造特有の高精度のため、高度なエラー修正ソフトウェアがなくても可能だと考えられている（Phoenix, 2006）。また、製造プロセスは汎用的でプログラム可能であるため、ナノファクトリーやその支持構造を含むさまざまな製品を製造できると期待されている。

分子製造への道筋に沿ったどのステップも、ナノテクノロジーの進歩を意味する。しかし、ナノファクトリーがさらにナノファクトリーを製造できるようになる時点は、特に注目に値すると思われる。というのも、この時点で、ハイテク製造システムが歴史上初めて、希少性のないものになる可能性があるからだ。ナノ工場は、少量のナノスケール製品を生産するために最先端の実験設備や工業設備を必要とするのではなく、他の製品と同じように、設計図、エネルギー、原料を必要とするだけで、簡単に別のナノ工場を建設できるようになる。したがって、ナノファクトリーで製造される製品のコストは、労働力にも（物理的）資本にもほとんど依存しない。

ナノ工場で製造された製品の供給とそのコストは、情報、原料、エネルギーのうち、どの資源を使用時点（ナノ工場自体）で入手するのが最も困難かによって決まる。

• 情報は、保存やコピーにほとんどコストがかからない。知的財産権法などの規制によって制限される可能性はあるが、これはナノファクトリーベースの製造の使用に対する自然な制限にはならないだろう。
• 原料は小さな分子で、バルクで使用される。分子はまだ特定されていないため、そのコストと入手可能性は決定できないが、アセチレンやアンモニアなどの製造ガスが比較的低コストで生産量が多いことから、ナノファクトリーの原料が製品価格に寄与するのは1kgあたり数ドルに過ぎない可能性がある。
• 製品製造の最大のコストはエネルギーかもしれない。最近、原始的なナノファクトリー構造の予備的分析が行われ（Phoenix, 2005）、製品の製造には1kgあたり約200kWhが必要であると計算された。これは重要ではあるが、アルミニウムを精製するエネルギー・コストと同程度であり、ナノファクトリーで製造される材料は、おそらくアルミニウムよりも強度が著しく高く（カーボン・ナノチューブに匹敵する）、その結果、製品はより軽量になる。

汎用的な製造システムとして、ナノ工場が原料処理プラントやソーラーコレクターを建設できる可能性は十分にある。その場合、製造される製品の量は、現在の産業インフラのいかなる側面によっても無制限になる可能性があるが、むしろ環境から得られる資源、つまり太陽光と炭素などの軽元素によって決まる。ナノ工場が別のナノ工場を建設するのに必要な時間は、数日、あるいは数時間で測れるかもしれない（Phoenix, 2005）。強靭で軽量な材料を使えば、別のナノ工場とそれを支えるすべてのインフラストラクチャーを建設するのに必要な時間、つまり利用可能な製造能力を指数関数的に倍増させるのに必要な時間は、わずか数日かもしれない（ただし、詳細な設計がなければ、これは推測にすぎない）。

21.2.1 分子製造の製品

ナノ工場で製造された製品（ナノファクトリーを含む）は、現在の製品よりも多くの利点を享受できる可能性がある。ある種の原子レベルで精密な表面は、摩擦や摩耗が極めて少ないことが観察されており（Dienwiebel et al. 小さな機械は、電力密度、動作周波数、機能密度、重力に対する強度など、いくつかの点で優れている（Drexler, 1992）。原子や分子のスケールで作られた機械は、医学的に重要な処置を数多く行うことができるだろう（Freitas, 1999）。適切な構造の原子レベルで精密な材料は、今日の建築材料よりもはるかに強度が高い可能性がある（Drexler, 1992）。

Drexler (1992)が分析した基本的な一連の能力を基礎として、多くの研究者が、程度の差こそあれ、製品の設計に取り組んできた。フレイタスは、医療機器に関連する多くの基本的能力を分析し、いくつかの医療用ナノロボットについて詳細に説明している。フレイタスは、有害な微生物を集めて中和する装置（Freitas, 2005）、血液のガス輸送機能を補う装置（Freitas, 1998）、損傷した染色体を置き換える装置（Freitas, 2007）などを提案している。日常的な使用では、幅数ミクロンの比較的単純なロボットの塊が、さまざまな形状や状態をシミュレートするために、協調して再構成することができる（Hall, 1996）。ホールはまた、いくつかの革新的な特徴を持つ小型航空機の予備調査も行っている。

大型製品の詳細設計は、これまでほとんど行われていない。この85ページの論文では、エネルギー使用や冷却、物理的レイアウト、建設方法、信頼性など数多くの要因を検討し、キログラム・スケールのデスクトップ・サイズのモノリシック・ナノ工場が建設可能であり、数時間で複製を製造できると結論付けている。トン・スケールやそれ以上の大きな製品を製造する、より大きなナノ工場は実現可能だと思われる。しかし、ナノマシンの製造と組み立てに関する詳細な計画がないため、他の製品を詳細なレベルで設計することは一般的に不可能である。とはいえ、ナノスケールでの極めて高い性能の分析や、ほぼ無制限に近い数の機能コンポーネントを統合できるという期待から、軽量な航空宇宙ハードウェアの迅速な構築など、さまざまな応用や製品が提案されている（Drexler, 1986）。

汎用製造は、新しい設計の迅速な開発を可能にする。完全に自動化され、単純な原材料から完全な製品を作ることができる製造システムは、再教育、再工程、部品の入手を必要とせず、設計の準備ができ次第、新製品の製造を開始することができる。新しいデザインを開発する製品デザイナーは、数時間で設計図から直接製造することができる。プロトタイプの製造コストは、本格的な製造コストを上回ることはないだろう。これは、デザイナーにとっていくつかの点でメリットがある。開発プロセスのいくつかの段階で、製品を見て評価することができる。各プロトタイプを製造する前に、デザインを正しくするために多くの労力を費やす必要がなくなる。本格的な製造のために追加設計をする必要がなくなる。このような制約がなくなれば、製品に盛り込む技術や手法にかなり積極的になることができる。

いったんデザインが開発され、テストされ、承認されれば、その設計図は（インターネット上のコンピュータ・ファイルとして）最小限のコストで配布され、必要なときに必要な場所で建設できるようになる。つまり、新製品を提供するためのコストも最小限に抑えられるということだ。成功が保証されていない設計を何部も製造し、出荷し、倉庫に保管するのではなく、購入されたときだけ製造することができる。これにより、革新的な製品を開発する際のリスクをさらに軽減できる。設計が成功すれば、希望する数だけ即座に製造することができる。

21.2.2 ナノ製造兵器

兵器はいくつかの世界的な大惨事リスクの中で図に描かれているため、分子製造によって製造される可能性のある兵器の種類について簡単に説明する必要がある。材料の強度が向上すれば、ほとんどすべての種類の兵器の性能を向上させることができる。コンピューターやアクチュエーターがよりコンパクトになれば、兵器の自律性が高まり、新たな機能が追加される可能性がある。兵器はさまざまな規模で、大量に製造することができる。例えば、乾燥重量の95%が貨物である無搭乗飛行機を想像することは可能であり、その貨物は何千ものキログラム以下、あるいはグラム以下の飛行機で構成され、放たれると分散し、光学的識別によって協調的に標的を探し、同様に想像力によって制限される追加の兵器能力を展開することができる。

このような憶測と実際の開発とのギャップの大きさは議論の余地がある。スマート兵器は、一般的には、制御されていない兵器よりも効果的だろう。しかし、コンピュータ支援設計プログラムでモーターをカット・アンド・ペーストするのは、現実のロボットの一部としてモーターを制御するよりもずっと簡単だろう。実際、環境に反応する「スマート」兵器の開発には、ソフトウェアが大部分を占めることになりそうだ。したがって、斬新な兵器機能の開発は、ソフトウェア開発のスピードによって制限される可能性がある。

現在までのところ、分子レベルで製造された兵器に関する詳細な研究は発表されていないようだが、ブリーフケース一杯に兵器を詰め込めば、無防備な人々で一杯のスタジアムの大部分を殺戮することが可能である、というのはもっともらしく思える（数あるシナリオの中から一つを挙げるとすれば）。小型ロボットは、地雷（自律行動の遅れ）、クラスター爆弾（小さな致死単位への分散）、毒ガス（移動可能で、不都合な程度の個人的保護が必要）の最悪の特性のいくつかを実装することができる。他にもさまざまな兵器が可能かもしれないが、分子製造によって作られた製品の潜在的な破壊力を示すには、これで十分だろう。

20年前（Drexler, 1986）に提唱されて以来、大きな懸念（Joy, 2000）を引き起こしてきた考え方は、小型で自己完結型の移動可能な自己複製製造システムが、生態圏から十分な資源を獲得して、人間の制御を超えた複製を行うことができるかもしれないという可能性である。偶発的な放出というドレクスラーの当初の懸念は、製造システムに関する今では使われなくなったモデルに基づいていた（Phoenix and Drexler, 2004）。しかし、少なくとも理論的には、誰かが意図的にそのようなものを設計し、兵器として（たいていの目的には、非複製兵器よりも面倒で効果的ではないが）、あるいは単に趣味として放出する可能性はある。そのような装置をどの程度小型化できるかにもよるが、完全に浄化するのはかなり難しいかもしれない。さらに、生物学的な消化を受けにくい物質で作られている場合、それ自体をうまく永続させるためには、それほど効率的である必要はないかもしれない。

21.2.3 世界的大災害のリスク

(1)ナノスケール技術と同様に、分子製造は他の技術を補強し、その結果、他の技術がもたらすリスクに寄与する可能性がある。(2)分子製造は、人々による使用方法によっては新たなリスクシナリオをもたらす可能性のある新製品の製造に使用される可能性がある。しかし同時に、分子レベルでの製造は、他のいくつかの致命的なリスクを軽減するのに役立つかもしれない。

ラピッドプロトタイピングと、高性能なナノスケール以上の製品の迅速な生産は、さまざまな技術革新と研究開発を加速させる可能性がある。医学は明らかな候補である。新しい機体や宇宙船の建設は、極めて労働集約的でコストがかかる傾向にある。比較的低コストで完成したテスト用ハードウェアを迅速に試作できるようになれば、より積極的な実験が可能になるかもしれない。分子製造が今後20年以内に開発されれば、ムーアの法則が予測するよりもはるかに高度なコンピュータを構築できるようになるだろう（Drexler, 1992）。逆に言えば、医学と航空宇宙は、疫病、小惑星衝突、そしておそらく気候変動といったリスクを回避するのに役立つかもしれない。

分子製造がその約束を果たせば、分子製造の製品は安価で豊富になり、前例のないほど強力になるだろう。ソーラーコレクターやサンシェードとして機能する高高度の無人航空機群や、惑星規模の高密度センサーネットワークなど、新たな用途が生まれる可能性がある。汎用的な製造能力を備蓄し、それを使って大量の製品を極めて迅速に製造することもできるだろう。コンピューター制御のナノスケール製造によって機能密度が大幅に向上し、機能あたりのコストが削減されることで、ロボット工学が進歩する可能性がある。極端な場合、惑星規模のエンジニアリングや、世界的に壊滅的な威力を持つ兵器を製造するのに十分な、ささやかな資源について語ることさえ意味を持つかもしれない。

21.2.3.1 世界規模の戦争

もし分子製造がまったく機能しないのであれば、それは間違いなく兵器の製造に使われるだろう。ラピッドプロトタイピング、大量生産、そして強力な製品を組み合わせた単一の製造システムは、それを保有するどの側にとっても大きなアドバンテージとなる可能性がある。もし複数の国がその技術を手に入れることができれば、目まぐるしい軍拡競争が起こるかもしれない。残念なことに、このような状況はいくつかの点で不安定になる可能性が高い（Altmann, 2006）。多くのプレーヤーがこの競争に参入したがるだろう。将来に対する不確実性が、一時的な優位性の認識と結びついて、先制攻撃につながる可能性もある。また、たとえ誰も意図的に攻撃を仕掛けなかったとしても、必要な自律性と素早い反応時間を備えた勢力が相互に浸透することで、偶発的なエスカレーションが生じる可能性もある。

冷戦時代、世界の軍事力は米国とソ連の2つの陣営にほぼ集中していた。双方が大量の核兵器を開発・備蓄し続けたため、相互確証破壊（MAD）のドクトリンが生まれた。本格的な戦争になれば両大国は消滅する可能性があったため、どちらも先手を打たなかったのだ。

残念なことに、第三次世界大戦を抑止するためにMADが機能した要因の多くは、ナノ兵器が関与する軍拡競争には存在しないかもしれない：

• 1. 冷戦の主役は2つだけであり、いったん大まかな均衡が達成されれば（あるいはそう認識されれば）、結果として膠着状態が比較的安定した。ナノ兵器の製造能力が何らかの形で厳しく制限されない限り、多くの国がナノテク軍拡競争に参加することが予想され、極度に不安定な状況が生まれる可能性がある。
• 2. 核兵器を使用する能力を獲得するのは、高価で、時間がかかり、困難なプロセスである。そのため、核兵器による戦闘能力を獲得または拡大しようとしている国を追跡するのは比較的容易である。これとは対照的に、分子製造による兵器製造能力は非常に安価で、（ほぼ全面的な監視がない場合）隠蔽が容易であり、急速に拡大することができる。「スターター」ナノ工場は、ガム1本よりも簡単にあちこちに密輸でき、その後、より多くの、より大きなナノ工場を建設するために使用される。
• 3. 軍事力の均衡が急速に変化することで、不信の雰囲気が醸成される可能性がある。敵対国の能力の不確実性が高まれば、警戒心が高まる可能性がある。しかし、拡散を防ぐための先制攻撃の誘惑が高まる可能性もある。

ソ連崩壊後、本格的な戦争の可能性を低水準に抑えるもう一つの要因が現れた。それは、グローバル経済という国家間の経済的相互依存の拡大である。民主主義国家が互いに攻撃し合うことはめったにないと言われており、それは貿易相手国にも当てはまる（Lake, 1996; Orr, 2003）。

しかし、民生用分子製造能力の普及は、少なくとも物理的な商品においては、世界貿易を縮小させる可能性がある（McCarthy, 2005）。ナノファクトリーを持つ国であれば、安価で入手しやすい原材料を使って、事実上、自国が必要とする資材のすべてを賄うことができるだろう。経済的相互依存がなくなると、パートナーシップと信頼の主要な動機も大幅に減少する可能性がある（Treder, 2005）。情報の貿易は、知的財産権制度に互換性のある国同士の間では重要な経済交流となるかもしれないが、どの国同士の関係も安定させることはできない。

今日、戦争がもたらす破壊は、戦争に関与しない動機付けとなっている。ある国家は、粉々になった隣国を所有するよりも、無傷の隣国と貿易を行った方が、より多くの利益を得られるかもしれない。しかし、分子レベルの製造技術によって安価で迅速な製造が可能になれば、戦争による破壊が勝者にとって経済的ペナルティーにならない程度に迅速に再建できるようになるかもしれない。

より優れたセンサー、エフェクター、通信、コンピューティング・システムが非常に低コストで実現すれば、人間の兵士に危険を及ぼすことなく領土を占領し、任務を遂行できる遠隔操作ロボット「兵士」の配備が可能になるかもしれない。このような「兵士」は、地上、水上、空中をベースとしたロボットを含め、数グラムから数トンまでの幅広いサイズの多種多様な「兵士」が存在する可能性がある。それぞれのロボットは、直接遠隔操作されるかもしれないし、部分的に自律的（例えば、プログラムされた場所までナビゲートできる）かもしれない。より強い材料とより高い電力効率によってロボットの性能はいくらか向上するだろうが、現在のものよりも何桁もコンパクトで強力なコンピューターがあれば、現在ほとんど研究されていないアルゴリズムを最小のロボットにも導入できるようになることを認識することが重要である。(グラムより小さなロボットは運動が難しいかもしれないし、小さなロボットは搭載できるペイロードも制限されるだろう）。

人間を戦場から排除することの結果、侵略者にとって戦争のコストが低くなる可能性があり、したがって戦争が起こりやすくなる。戦場から人間がいなくなれば（少なくとも一方では）、高度なナノテクノロジーに助けられた「殺傷能力の低い」兵器が進歩し、侵略戦争に対する道徳的制裁が弱まる可能性がある。戦場から人間がいなくなれば、戦争の破壊力は減ると考えたくなるが、歴史はこの議論がせいぜい単純すぎることを示している。自動化兵器や遠隔操作兵器は、人間を戦場から排除するどころか、かえって戦場を人間に明け渡すことを容易にするかもしれない。このような新兵器は、紛争の焦点を従来の戦場から遠ざけるかもしれないが、新たな戦場が生まれる可能性が高く、その多くが民間人と重なり、民間人を圧倒する可能性がある。

最後に、大きな戦争は小さな戦争から発生することが多い。信頼要素が急速に低下しているため、内戦や地域戦争がエスカレートして大きな紛争に発展する可能性が大幅に高まるだろう。ある政府（国家であれ国際的なものであれ）が、どの戦闘員よりもはるかに大きな武力を利用できるような、大きな（そして持続可能な）力の不均衡があれば、小さな戦争、ひいてはそれが大きな戦争に発展するのを防ぐことができる。しかし、最近の歴史は、強力な政府でさえ、地域紛争や内戦を防ぐのはかなり難しいことを示している。また、分子製造の技術力でさえ、誤りを犯しやすい政治制度によって利用されるだけで、小さな戦争を防ぐことができるかどうかは定かではない。

予期せぬ破壊的紛争を避けたいという願望は、理論的にはこれらの不安定化要因に対抗するものとなるだろう。しかし、危険性を認識するだけでは、紛争を回避するのに十分ではないだろう。特に、先進的な兵器システムを開発・配備しないことは、一方的な軍縮に等しいかもしれないのだから。代替案として、ナノベースの軍事技術でリードしていると認識している主体にとって特に魅力的なのは、武力によるリードの強化かもしれない。その試みは成功するかもしれないが、成功しなかった場合、先制的行動主体が避けたかった破壊的なエスカレートする紛争と同じ結果になるかもしれない。

21.2.3.2 経済的・社会的混乱

現時点では、分子製造が他の種類の製造業をどの程度の速度で駆逐し、その製品が既存のインフラや雇用源をどの程度の速度で駆逐するかは不明である。十分に一般的な製造技術が、高度で安価なロボット工学と組み合わされれば（人工知能の大きな進歩がなくても）、理論的には、ほとんどすべての製造業、採掘業、輸送業、そして多くのサービス業を置き換えることができるだろう。これがゆっくりと起こるなら、新たな雇用源や新たな社会システムを見つける時間があるかもしれない。しかし、もしそれが急速に起これば、大勢の人々が経済的に無用の長物になってしまうかもしれない。このことは、彼らの抑圧を助長するだけでなく、生産や技術革新への意欲を減退させることになる。極端なシナリオでは、その結果生じる人間の潜在能力の喪失は、破滅的とみなされるかもしれない。

分散型汎用製造業がもたらすもうひとつの潜在的問題は、さまざまな新しい形の犯罪である。コンクリートを素早く切断できる携帯用ダイヤモンドソーのような単純なものでさえ、不法侵入を助長する可能性がある。医療機器が違法な精神作用の目的で使用されるかもしれない。センサーがプライバシーの侵害やパスワードやその他の情報の収集に使われるかもしれない。新しい種類の武器が、新しい形のテロリズムを可能にするかもしれない。これらは新しいタイプの問題ではないが、ナノファクトリー技術が一般市民や組織犯罪に利用されるようになれば、これらの問題は悪化するかもしれない。犯罪それ自体が壊滅的なリスクを構成する可能性は低いと思われるが、十分なレベルの犯罪が社会的崩壊および／または抑圧的な統治につながる可能性があり、その結果、重大なリスクシナリオが生じるかもしれない。

21.2.3.3 破壊的なグローバル・ガバナンス

どのような統治構造も、利用可能な技術によってその範囲が制限される。テクノロジーがますます強力になるにつれて、グローバル規模で効果的なガバナンスを実現できる可能性が高まる。なぜそのようなことが試みられるのか、なぜそのようなことが行われるのか、なぜそのようなことが行われるのか、なぜそのようなことが行われるのか、なぜそのようなことが行われるのか、なぜそのようなことが行われるのか、なぜそのようなことが行われるのか。分子製造自体は、新たな統治手段を提供するだけでなく、グローバル・ガバナンスの試みを促進するような、いくつかの新たな誘因を提供するかもしれない。

上述したように、分子製造は、新しい形態の兵器や、極めて大規模な新型の強力兵器の製造を可能にする可能性がある。他の種類のナノテクノロジーや小型化とともに、小型で有能なセンサーネットワークも生み出されるかもしれない。一つの無制限ナノ工場は、完全に自動化されているため、そのレパートリーにあるあらゆる武器やその他の装置を、使用者のスキルなしで製造することができるだろう（武器の使用には特別なスキルが必要な場合もあれば、必要でない場合もある）。大型兵器を製造するには、まず大きなナノ工場を建設する必要がある。ほとんどの政府は、そのような能力を市民の手に渡さないようにする強い動機を持っている。さらに、ほとんどの政府は、潜在的に敵対的な外国人がそのような能力にアクセスすることを望まないだろう。

国内外を問わず、過度に破壊的な能力を個人の手に渡さないようにすることに加え、多くの政府は、他国政府によるハイテク攻撃の可能性を避けることにも関心を持つだろう。軍拡競争が不安定なものと見なされるのであれば、その代替案は、対立する政府の武装解除であるように思われる。このことはひいては、各国に政策を押し付けることのできるグローバルな権力構造を意味する。

ここまでの分析は、最初に優位に立った国（または他のグループ）が、他のすべての国から分子製造を排除することによって権力を強化するあらゆる動機を持つ、勝者総取りの状況を示唆している。Gubrud (1997)は、分子製造の発展はそれほど一様ではなく、競争において誰も明確な優位に立つことはないだろうと論じているが、現時点では不明である。製造能力の急速な指数関数的成長の可能性を考えると、また、迅速な設計のための先見の明のある準備を考えると、数ヶ月のアドバンテージでも決定的なものになる可能性は十分にあると思われる。何か確実な安全策が考案されない限り、無慈悲な先取り政策が1つまたは複数の当事者によって採用されるかもしれない。このような計算が一般的に受け入れられたとすれば、最初に能力を開発した者は、そうでなければ先制攻撃を受けていたことになるため、自分たちが最初であることを知ることになる。このような一時的な確信が、即座の攻撃を促すのである。続く闘争は、終末的な破滅的戦争に至らなかったとしても、世界的な独裁者を生み出す可能性は十分にある。

グローバル・ガバナンスへのひとつの道筋は、一時的な優位を固めるための先制攻撃である。もう一つの経路は、もちろん、より対称的な（そしておそらくより破壊的な）戦争に勝利した後の優位性の強化である。しかし、戦争を伴わない経路もある。ひとつは進化的なもので、世界がより緊密に相互接続されるにつれて、国際的なインフラが国の政策に影響を与えたり、あるいはそれに取って代わったりするまでに拡大する可能性がある。このこと自体は、破滅的な危険性をはらんでいるようには見えない。実際、ある面では現在進行中である。意図的な分子製造関連の政策も、軍備管理体制を含めて実施される可能性がある。現在の例で最も近いのは、おそらく国際原子力機関（IAEA）だろう。

グローバル・ガバナンスには、正反対の性格を持つ2つの大きなリスクがあるように思われる。ひとつは、停滞や抑圧を生み出し、人間の潜在能力を大きく失わせることである。例えば、軍備管理体制は、宇宙の植民地化を防ぐような厳しい制限の下でなければ、宇宙へのアクセスを認めないという選択をするかもしれない。第二のリスクは、安全で予測可能な（静的な）状況を作り出そうとするあまり、政策の計画や実施が不適切になり、かえって不安定と反発を招くことである。反発の影響は、制限的な政策の結果、敵対的な技術利用に対処するための分散された経験が失われることによって悪化するかもしれない。

独裁政権が安全保障と安定を確保するために、大量虐殺を選択するかどうかは事前に知ることはできないが、もしその願望があれば、手段はあるはずだ。それが単に恒久的な「人道的」従属の問題であったとしても、絶望的に奴隷化された世界が到来するという見通しは、末期的な破局とみなすことができる。(全体主義の脅威については、本巻第22章に詳しい）。

21.2.3.4 根本的に強化された知性

ナノテクノロジーは、バイオエンジニアリングとともに、われわれの身体と頭脳を根本的に強化する能力を与えてくれるかもしれない。人間とコンピュータの直接接続が採用されるのはほぼ確実であり、1人または複数の強化された人間が、極端な結論に至るまで強化のプロセスを継続する状況も想像できる。単なる人間のデマゴーグ、大物政治家、権力者が振るうことのできる権力を考えれば、人間的な競争心を保持したまま強化されたポスト・ヒューマンがもたらす可能性のある結果を考える価値はある。また、エリエーザー・ユドコフスキー（本書第15章）は、不用意に特定された目標によって、完全な人工知能も実存的なリスクを引き起こす可能性があると論じている。

21.2.3.5 環境悪化

分子製造の広範な利用は、いくつかの方法のいずれかで環境に影響を与える可能性がある。ある種の環境影響は、悲惨な、さらには実存的なリスクをもたらすかもしれない。地球規模での意図的な環境破壊は、おそらく、他の方法でより大きな損害をもたらす戦争の副次的な影響としてのみ起こるであろう。賢明でない開発が、惑星の生態系を脅かすほどのダメージを与えることは考えられるが、これは今日すでにリスクとなっている。

惑星規模のエンジニアリングが容易かつ迅速に実行できるため、良かれと思って行った巨大プロジェクトが、生態系の破局という形で裏目に出てしまうかもしれない。一部の専門家が考えているように（FEASTA, 2004）、地球の気候が温室効果の暴走と突然の氷河期との間で微妙なバランスを保っているとすれば、何十億ものナノ工場やその他のナノマシンの使い過ぎによる廃熱の大規模な放出が、不注意にもスケールを狂わせてしまうかもしれない。あるいは、太陽集光材で覆われた広大な陸地や海を作るなど、一見穏やかな取り組みが、気候を劇的に変化させるほどに地球のアルベドを変えてしまうかもしれない。(気候変動リスクについては、本編第13章で詳しく解説する）。

もうひとつの可能性は、大規模なインフラ変化の二次的影響としての生態系の崩壊である。このような変化は急速に起こる可能性があり、おそらくその影響がかなり進行するまで気づかないほど急速である。コンピューターモデル（Sinclair and Arcese, 1995）は、例えば生物多様性の減少が転換点に達し、広範な荒廃に急速に陥る可能性があることを示している。

21.2.3.6 エコファジー

ナノテクノロジーに基づく製造が最初に提案されたとき（Drexler, 1986）、極小の製造システムが暴走して生物圏を「食べて」しまい、自分自身のコピーに変えてしまうのではないかという懸念が生じた。しかし、ドレクスラー（Burch, 2005）や他の研究者（Phoenix, 2003）による現在の研究では、小型の自己完結型「複製アセンブラー」が製造に必要でないことは明らかである。分子製造の開発と利用は、どの時点においても、偶然にフリーレンジ・レプリケーターを生み出す危険性はないように見える。

機能的な自己複製型フリーレンジ・ナノボットを意図的に設計することは、並大抵のことではないだろう。自分自身のコピーを作るだけでなく、ロボットは環境中で生き残り、（十分に小さければ）能動的に、あるいは漂流しながら移動し、使用可能な原材料を見つけ、見つけたものを原料や動力に変換しなければならない。また、このような複雑な装置の設計図をすべて保存し、処理するには、比較的大きなコンピューターが必要になる。このような機能を一部でも欠いたナノボットやナノマシンは、放し飼いの複製装置として機能することはできない（Phoenix and Drexler, 2004）。にもかかわらず、そのようなことが理論的に不可能な理由は知られていない。

放し飼いのレプリケーターには商業的価値も軍事的価値もなく、テロリズム的価値も限定的だが、いつか無責任な趣味家や黙示録的信条を持つ宗派によって生産されるかもしれないし（本巻第4章を参照）、大規模な恐喝の道具として使われるかもしれない。発生したウイルスを一掃することは、現在の技術ではおそらく不可能であろうし、分子レベルの製造技術をもってしても困難か不可能であろう。少なくとも、発生地域の物理的な混乱は避けられないだろう（このため、空気感染や水系感染には特に注意が必要である）。

アウトブレイクに対処する方法として考えられるのは、侵入した地域に放射線を照射したり加熱したりする方法、その地域をカプセル化する方法、レプリケーターの物質摂取口を塞ぐような化学物質を散布する方法（そのような弱点が発見されればの話だが）、大量のロボットを使って清掃する方法などがある。清掃ロボットには高度な設計が必要だが、特に是正措置が講じられるまでに蔓延しているような場合には、最も破壊的な影響を与えない選択肢となるかもしれない。指数関数的に複製される放し飼いのレプリケーター集団は、それに対抗するために指数関数的に複製されるロボット集団を必要としない。ロボットを無効化する時間は、そもそもロボットを発見する時間に支配され、それは環境中の濃度に反比例するため、一定の清掃ロボットの集団は、レプリケーターの濃度に関係なく、レプリケーター集団に一定の圧力をかけることになる（これらの問題についてのさらなる議論はFreitas, 2000を参照）。

理論的には、生物学的に難消化性の物質（ダイヤモンドなど）で作られたレプリカントが、技術的な浄化方法によって対抗できなかった場合、惑星の生態系を破壊するのに十分なバイオマスを隔離または破壊することができるかもしれない。空中に浮遊するレプリケーターは、かなりの量の太陽光を遮る可能性があり、フル回転で稼働するレプリケーターは、バイオマスの大半を消費する前であっても、破壊的な量の熱を発生させる可能性がある（Freitas, 2000）。その可能性と対策を理解するためには、さらに多くの研究が必要であろうが、現時点では、将来、地球規模の大災害が起こる可能性を否定することはできない。

21.3 分子製造リスクの軽減

ナノテク関連の世界的大災害リスクに関するこれまでの議論では、目先の最大の脅威は戦争と独裁政権であるように思われた。これまで見てきたように、この2つは密接に関連しており、一方を防ごうとする試みは他方を引き起こす可能性がある。本章の焦点はリスクを理解することであるが、潜在的な緩和策についても簡単に触れておこう。

最大の未解決問題の一つは、ナノテクノロジーを駆使した戦争における攻撃と防御のバランスである。防御が攻撃に比べて比較的容易であることが判明した場合、共存する複数のエージェントは、そのすべてが信頼できるものでなくても安定する可能性がある。実際、信頼性の低い国家や敵対的な国家から防衛する準備をすることで、分子製造の私的悪用の影響を緩和できるインフラが構築されるかもしれない。逆に、攻撃型兵器に抵抗するためには、兵器を配備するよりもはるかに多くの資源が必要であることが判明した場合、国家と市民、あるいは核超大国と非核保有国との間の不均衡に匹敵するか、あるいはそれ以上に極端な、偏った力の集中を維持しようという強い誘惑が生じるだろう。そのような力の不均衡は、抑圧のリスクを高めるかもしれない。

防衛が困難な状況下で安定した防衛を維持するために考えられる解決策のひとつは、抑圧的にならずに中央集権的なグローバルパワーを維持・管理できる新たな制度を設計し、そうした制度への安全な進化を計画・実行することである。もうひとつの可能性は、現在の信頼できない制度を安全かつ予測可能な形で考案し、それに移行することである。これらの解決策には、それぞれ深刻な現実的問題がある。人間の経済活動を含むプロセスの暴走が過大なダメージを与えるのを防ぐためには、何らかの制限を設ける必要がある。自己規制だけでは十分でない場合もあり、少なくとも中央の調整や管理が必要である。

防衛技術の開発に重点を置き、その研究成果を誰にでも自由に普及させる研究組織があれば、安定性の向上に役立つかもしれない。今日の軍事システムや商業システムにおいて、完全に透明な組織を持つことは異例であることは認める。しかし、透明性は信頼につながり、このアプローチが成功するための重要な要因となるだろう。防衛が攻撃に比べて容易になれば、安定性が増すかもしれない。防衛を望む集団は、集中的な軍事研究に従事することなく、防衛を行うことができるだろう。攻撃用兵器の研究をしていた研究者の中には、代わりに防衛組織に引き抜かれる者も出てくるかもしれない。理想を言えば、ほとんどの国やその他の組織は、このような組織の目標を支持すべきであり、特に戦争につながる不安定な選択肢があることが分かっている場合には、このようなレベルの支持は、組織を転覆させたり破壊しようとする努力から守るのに十分かもしれない。

分子製造の民間利用については、ナノファクトリーよりも便利で強力でない能力を利用できるようにするのがよいかもしれない。例えば、ナノファクトリーを使って、高度な機能を持つミクロン単位のブロックを作り、それを素早く製品に組み立てることができる。ブロックの組み立て作業は、ブロックの製造よりもはるかに速く、エネルギー消費量も少なくて済むだろう。製品に含まれるブロックの数は原子よりもはるかに少なく、設計者はナノスケールの物理について考える必要がないため、製品設計もよりシンプルになるだろう。一方、特に危険な機能はブロックから省くことができる。

もうひとつの未解決の疑問は、分子製造の技術的構成要素がどれほどの速さで開発され、採用されるかということである。他の技術との競争や、分子製造の可能性を十分に認識できていないことが広まることで、開発努力が鈍る可能性がある。的を絞った精力的な開発が行われない場合、CADソフトウエアから原料供給まで、分子製造のための支援インフラの準備にばらつきが生じ、これが新製品の迅速な開発と展開の結果を制限する可能性があると思われる。一方、開発が遅々として進まなければ、生態貪食装置への対策も含め、分子製造技術がリスクを軽減する能力を遅らせることになる。

これらの提案は、たしかに予備的なものである。現時点での第一の必要性は、分子製造が可能にする技術的能力、それらの能力がどの程度のスピードで達成される可能性があるのか、また、それらの能力を持つ世界で、どのような社会的・政治的システムが安定しうるのかを理解するためのさらなる研究である。

21.4 考察と結論

安価で入手しやすい原料を使用し、ナノファクトリー内でコンピューター制御の下で作動する、精密な分子ツールの巨大な並列アレイは、あらゆるサイズの高度で高性能な製品を大量に製造できる可能性がある。この種のナノテクノロジー–分子製造–は、最大の潜在的利益をもたらすと同時に、最悪の危険性もはらんでいる。現在開発・使用されている他の多くのナノスケール技術は、いずれも世界的な壊滅的リスクをもたらす可能性はないと思われる。

現在考えられているようなナノ工場は、命令に応じて別のナノ工場を生産することができ、生産手段の急速な指数関数的成長をもたらすだろう。大量の製造能力へのスケールアップを必要とする大規模なプロジェクトでは、ナノファクトリーは、その高い処理能力のおかげで、最終製品の何分の一かの重量にとどまる可能性がある。これは、ナノファクトリーではなく、製品の生産に必要な資源が制限要因になることを意味している。ナノファクトリーの支援によるラピッド・プロトタイピングによって、革命的で変革的な製品の開発と生産が、非常に迅速に実現する可能性がある。太陽電池や化学処理プラントがナノファクトリー製品の範囲内であれば、エネルギーや原料は豊富な資源から集めることができる。

汎用の完全自動化製造技術として、分子製造は極めて広範かつ重要なものになる可能性がある。本章で検討したリスクの中で、2つのリスクが際立っている。これらのいずれか（あるいは両方）が21世紀末までに発生する確率は高いと思われる。なぜなら、これらは分子製造の軍事的可能性から直接派生しているように思われるからである。(特に、ナノ主導の軍拡競争が不安定になるという議論は、慎重な吟味に値する。もしそれが間違っていても、もっともらしいと受け入れられてしまえば、不必要で破壊的な先制攻撃の試みが行われることになりかねないからである)

ある種の予防軍や防護軍が存在しない場合、分子製造製品の力によって、個人、集団、企業、国家など、さまざまなタイプの多数の行為者が、無防備な人間をすべて破壊するのに十分な能力を手に入れることができる。少なくとも一人の強力な行為者が非常識である可能性は小さくない。壊滅的な兵器が製造され、（おそらく過敏な自動化システムによって）偶発的に放出される可能性もかなり高い。最後に、2つのMAD対応大国間の紛争がエスカレートし、一方が終末オプションを行使せざるを得なくなる可能性もゼロではない。このことは、最終的な破壊を意図した兵器に対して十分な防御を準備できない限り（この点については早急な研究が必要である）、そのような兵器を保有しようとする行為者の数を最小限に抑えなければならないことを示している。

上記のリスクを評価する上で、大きな変数となるのは、ナノテクノロジーを指数関数的な分子製造（ナノ工場がナノ工場を建設する）まで発展させるのにどれくらいの時間がかかるかということである。意見は大きく異なるが、分子製造を最も詳しく研究しているナノテクノロジストたちは、最も短く見積もる傾向がある。近い将来の実現可能性と価値に対する認識が高まり、2010年頃から大規模な（1億～1億ドルの）プログラムが開始されると仮定すれば、2020年より前に分子製造が開発される可能性は、技術的にもっともらしいと思われる。

分子製造が2040年または2050年まで遅れた場合、その長所の多くは他の技術によって達成され、それほどのインパクトはなくなるだろう。しかし、これほどの遅れは考えられない。20-30年までには、ナノスケール技術とコンピューター・モデリングの急速な進歩により、分子製造技術の開発は比較的容易で安価なものになるだろう。最初のナノファクトリーが開発されれば、高性能、原子レベルの精密さ、指数関数的な製造、完全自動化が収束するため、それ以降の開発コストは急激に低下する一方で、投資回収額は劇的に増加する可能性があることに留意すべきである。ナノファクトリーの開発コストが下がれば、潜在的な投資家の数は急速に増加する。このことは、分子製造に基づく機能や製品の開発が、かなり近いうちに実現する可能性を示唆している。関連する政策研究に対する現在の関心の低さを考えると、賢明な政策によって軽減されるかもしれないリスクが、実際には準備不足のまま直面する可能性がありそうだ。

初級レベル

Drexler, K.E.著「Engines of Creation」（1986）-時代遅れの面もあるが、本書はナノテクノロジーの可能性を紹介する古典的な入門書である。半自律的に協力する「アセンブラー」の集合体として説明された製造機構は、従来の工場にはるかに近いモデルに取って代わられた。この発展により、この本の最も有名な警告である、暴走する自己複製装置や「グレイ・グー」についての警告は消えてしまった。『Engines』は米ソ対立という政治的背景の中で書かれたものだが、軍事的な意味合いや賢明な政策の必要性についてのより広範な警告は、今でも大きな価値がある。著者の予測や提言の多くは、出版から20年経った今でも適切であり、将来を見据えたものである（本全体のオンライン版はhttp://www.e-drexler.com/d/06/00/EOC/EOC_Table_of_Contents.html）。

Nanofuture by Hall, J.S. (2005)- Nanofutureは、分子製造に関する素人向けの入門書であり、可能性のある応用例についての記述もある。意味合いについての議論は乏しく、かなり楽観的であるが、読者は、分子製造製品がどのように、そしてなぜ、私たちが日常生活で使っている技術の多くを変革し、しばしば革命をもたらす可能性があるのか、よく理解できるだろう。

Our Molecular Future by Mulhall, D. (2002) – 本書は、様々な自然災害の軽減への応用を含め、分子製造の意味合いと応用のいくつかを探求している。脅威となる小惑星を自己複製ロボットでバラバラにすることで対処するという提案は、実行不可能かつ賢明でないように見えるが、それを除けば、分子製造がどのように利用されるかについて興味深い示唆を与えてくれる。

生産的ナノシステム： Burch, J. and Drexler, K.E. (2005) – この驚くべきアニメーションは、膨大な数の原子を一つの統合された製品に結合させるナノ工場がどのように機能するかを明確に示している。示された分子操作ステップは、高度な量子化学的手法でシミュレートされている（online at tinyurl.com/9xgs4, ourmolecularfuture.com）。

Phoenix, C. and Treder, M.による’Safe utilization of advanced nanotechnology’ (2003) – 分子製造に関する初期の記述では、製造システムが何らかの形で緩み、貴重なバイオマスを無意味なコピーに変換し始めるのではないかという懸念が提起された。この論文では、工場から切り離された場合、すべてが完全に不活性になるようなコンポーネントで構成された製造システムについて述べている。さらに、この論文では、工場システムを意図的な誤用や乱用が起こりにくくするためのいくつかの方法についても述べている（オンラインはhttp://crnano.org/safe.htm）。

中級レベル

Kinematic Self-replicating Machines by Freitas, R.A., Jr and Merkle, R.C. (2004)-最も広い意味での「複製」とは、単にコピーを作ることを意味する。KSRMはいくつかの理由で読む価値がある。第一に、この本にはあらゆる種類のレプリカントに関する広範かつ百科事典に近い調査が含まれている。第二に、この本には137の設計特性を含む12の設計次元の分類法が含まれており、そのほとんどはレプリカントの新しいクラスを説明するために独立して変化させることができる。第三に、いくつかの分子製造型複製装置（これも広い意味での複製装置であり、危険な自律型ではない）の設計と機能に関する議論が含まれている。本書は、分子製造をより広い文脈でとらえ、豊富な洞察の源となっている（オンライン版全体はhttp://molecularassembler.com/KSRM.htm）。

Phoenix,C.による「原始的ナノ工場の設計」（2003）-この長い論文は、ナノ工場を建設するために解決しなければならない設計上の問題の多くを探求している。この論文が書かれた後、設計コンセプトはいくらか改善されたが、このことは、ナノ工場が多種多様な用途で迅速に実用化されるという結論を強めるだけである（オンラインはhttp://jetpress.org/volume13/Nanofactory.htm）。

Phoenix,C.とTreder,M.(2003)による「3つの作用システム：分子ナノテクノロジーを効果的に投与するためのアプリケーションの提案」-異なるタイプの問題には異なる方法で対処する必要がある。この論文で検討されているように、セキュリティ問題、経済活動、コピーされやすい情報に必要なアプローチは非常に異質であり、倫理的な対立なしにそれらすべてを包含することは、組織にとって非常に困難なことである。分子生物学的製造は、この3つのタイプの問題をすべて生み出すことになるため、3つのアプローチを繊細かつ注意深く計画的に相互作用させる必要がある（オンライン：http://crnano.org/systems.htm）。

Phoenix, C. (2003)による’30 essential studies’ – 分子製造は、技術的能力、ガバナンスの戦略、既存の世界システムとの相互作用など、様々な角度から研究される必要がある。これらの研究は、広範な必要な問題を提起し、予備的な答えを提供しているが、特に安心できるものではない（オンライン：http://crnano.org/studies.htm）。

上級レベル

Nanomedicine, Volume I: Basic Capabilities by Freitas, R.A., Jr (1999)-本書は、分子製造を医学に応用する後続の巻の基礎を築くために書かれた。幸運な副次的効果として、本書はまた、この技術の他の多くの応用の基礎を築いた。医学的な章もあるが、本書の大部分はセンシング、送電、分子選別などの技術的能力を扱っている。実世界のナノスケール、マイクロスケール、マクロスケールの問題に適用される有用な物理公式が数多く散りばめられている。そのため、本書単独でも、また『Nanosystems』（オンライン版全体はhttp://nanomedicine.com/NMI.htm）の付属書としても有用である。

ナノシステムズ Drexler, K.E.著『ナノシステム：分子機械、製造、計算』（1992）-この分野の基礎的な教科書であり、参考書である。専門家でない読者には理解しにくいが、分子製造が主張通りに機能することを、確立された物理学と化学に基づいた明確な技術的根拠を示している。超潤滑性など、この本の重要な理論的外挿のいくつかは、その後実験によって実証されている。その他はまだ確認されていないが、実質的な誤りはまだ見つかっていない（一部、www.edrexler.com/d/06/00/Nanosystems/toc.html）。

22 全体主義の脅威

ブライアン・キャプラン

未来像が知りたければ、人間の顔を踏みつけるブーツを想像するといい。

ジョージ・オーウェル『1984年』（1983年、220ページ）

22.1 全体主義：何が起こり、なぜ（ほとんど）終わったのか

20世紀には、ロシア、ドイツ、中国を含む多くの国が、非常に残忍で抑圧的な政府のもとで暮らしていた。これらの政府の手によって1億人以上の市民が命を落としたが、権力を維持するために必要だったのは、その残忍さと抑圧のごく一部に過ぎなかった。残忍さと抑圧の主な機能はむしろ、人間の行動を根本的に変え、利己的な関心を持つ普通の人間を支配者の喜んで従う下僕に変えることだった。これらの政府の目標と方法はあまりに極端であったため、敵味方関係なく、しばしば「全体的」あるいは「全体主義的」と形容された（Gregor, 2000）。

全体主義的目標と全体主義的手法の関連は単純だ。人々は自分の行動を根本的に変えようとはしない。とにかく彼らを変えさせるには、厳しい処罰という信頼できる脅しが必要であり、そのような脅しを信頼できるものにする主な方法は、大規模に実行することである。さらに、たとえ人々があなたの脅しを信じたとしても、いずれにせよ抵抗する者や、後で抵抗を煽りそうな者もいる。実際、単に変わることができない人もいる。貴族がプロレタリアの出自を選ぶことはできないし、ユダヤ人がアーリア人になることもできない。こうした抵抗勢力に対処するには、危険な要素を隔離するための特別な刑務所や、彼らを排除するための大量殺人が必要になる。

全体主義体制には、多くの構造的特徴が共通している。リチャード・パイプスは標準的な目録をあげている：「公式の包括的イデオロギー、『指導者』が率い、国家を支配する単一の選民党、警察によるテロ、支配者による通信手段と軍隊の支配、経済の中央指揮」（1994年、245ページ）。これらはすべて、人間の本性を作り変えるという目標から自然に生まれてくる。公式イデオロギーは急進的変化の根拠である。このイデオロギーは、人々が相反する目標に横取りされるのを防ぐため、「すべてを包含する」、つまり競合するイデオロギーや価値観を抑制するものでなければならない。リーダーは、公式イデオロギーを創造し解釈し、それを広めるためのコミュニケーション手段をコントロールするために必要である。党は「早期採用者」、つまり「光を見た」と主張し、それを現実にしようとする人々で構成される。党の命令への服従を強制するためには、警察の恐怖と軍隊の統制が必要である。つまり、党が前進するために必要な資源を与えるため、対立する権力中枢を抑圧するため、経済主体が党と対立する計画を立てないようにするため、そして市民を生活のために国家に依存させるためである。

この説明は、全体主義体制の偽善をごまかすものだ。現実には、多くの人々が党に加入するのは、党の目標を心から共有しているからではなく、党員であることによる経済的利益のためである。通常、全体主義運動の創設メンバーのイデオロギー的誠実さを疑うことは難しいが、時間の経過とともに、指導部はその焦点を人間性の改造から支配の維持へと移していく。さらに、全体主義運動はしばしば、自分たちの残忍さと抑圧を、人民の心を浄化したら放棄する過渡的措置だと説明するが、その方法は通常、対象人民をひどく疎外する。移行」はすぐに生活様式となる。

ソ連とナチス・ドイツは、最も研究されている2つの全体主義体制である。現代の計算では、ソビエトはおよそ2000万人の市民を殺し、ナチスは2500万人を殺した(Courtois et al., 1999, pp. 4-5, 14-15; Payne, 1995)。しかし、これらの数字は、データ収集の相対的な難しさによって偏っている。学者たちは1945年からナチスの残虐行為のほとんどを自由に調査することができたが、ソビエトのそれを記録するには1990年代まで待たなければならなかった。どう考えても、ソビエトの死者数はナチスのそれを上回っている。

ソ連とナチスドイツの主な違いの一つは、前者が非常に急速に全体主義的になったことだ。レーニンは権力を握るとすぐに急進的な社会変革に着手した（Malia, 1994）。対照的に、ナチス・ドイツでは全体主義が徐々に発展し、第二次世界大戦末期になって初めて、国家が生活のほぼすべての領域を統制しようとした（Arendt, 1973）。もうひとつの大きな違いは、ソ連の残虐行為のほとんどが自国民に向けられた内向きのものであったのに対し、ナチスの残虐行為のほとんどは被占領国の国民に向けられた外向きのものであったことである（Noakes and Pridham, 2001; Friedlander, 1995）。

しかし、歴史家たちがロシアとドイツに焦点を当てているにもかかわらず、毛沢東主義の中国は、実際にはソ連とナチス・ドイツを合わせたよりも多くの民間人殺害の責任を負っていた。現代の推定では、その死者数は6500万人とされている（Margolin, 1999a）。西側諸国では、文化大革命の際に中国の知識人や党員に加えられた残虐行為が主に知られているが、その死者数はおそらく100万人以下であろう。毛沢東の残虐行為の最大のものは大躍進政策であり、人為的な飢餓によって3000万人の命を奪った(Becker, 1996)。

大量殺人のほかにも、全体主義体制は通常、他の犯罪の長いリストに従事している。奴隷労働は、ソ連とナチスの経済において重要な役割を果たした。共産主義政権は通常、移住に大きな制限を課し、特に農民が都市に移住することや、誰もが海外に旅行することを困難にした。表現の自由や宗教の自由も厳しく制限された。急速な経済成長を強調するプロパガンダにもかかわらず、非党員の生活水準はしばしば飢餓レベルにまで落ち込んだ。全体主義体制は、消費者の幸福ではなく、軍事生産と国内治安に重点を置く。

全体主義体制のもう1つの顕著な問題は、指導者たちでさえ破滅的と見なした出来事を予測し、それに対抗できなかったことである。スターリンは、ヒトラーがソ連侵攻を計画しているという圧倒的な証拠を無視したことで悪名高い。ヒトラーはアメリカに宣戦布告することで、自らの敗北を確実にした。こうした判断ミスの原因のひとつは権力の集中であり、そのために指導者の特異性が数百万人の運命を左右することになった。しかし、全体主義体制の人々はネガティブな情報を共有することを恐れるという事実が、これを増幅させた。迫り来る災難に注意を喚起することは、異論を唱えることに等しく、異論を唱えることは不誠実に近い危険性をはらんでいる。

与党からすれば、これは公正な取引なのかもしれない： より多くの、より悪い災害は、社会統制の代償なのだ。しかし、世界的な大災害のリスクを懸念する人々から見れば、全体主義は見かけよりも悪いということになる。全体主義の直接的なコストに、他のリスクを増幅させる間接的なコストを加えなければならない。しかし、この議論を押し付けすぎないことが重要だ。武力や資源の動員によって達成できる目標に対しては、全体主義の方法は非常に効果的であることが証明されている。例えば、スターリンは、ソ連経済の最優先事項を核兵器開発に定めただけで、驚くべきスピードで核兵器を開発することができた（Holloway, 1994）。実際、人間の行動を根本的に変えることでしか達成できない目標に対しては、全体主義的な方法以外には、高い効果が証明されていない。全体として、全体主義体制は災害を予見する可能性は低いが、ある意味で災害を深刻に受け止め、それに対処するのに適している。

22.2 永続的全体主義

支配集団が権力から転落する方法は4つしかない。外部から征服されるか、あまりに非効率的な統治を行うために大衆が反乱を起こすか、強力で不満を持つ中間集団の出現を許すか、自らの自信と統治への意欲を失うか……これらすべてを防ぐことができる支配階級は、永久に権力の座にとどまるだろう。最終的に決定する要因は、支配階級自身の精神的態度である。

ジョージ・オーウェル『1984』（1983年、170ページ）;

ソ連はスターリンの死後、内部での殺戮を大幅に減らし、共産党は1991年に政権から転落した。毛沢東の死後、鄧小平は中国人に比較的普通の生活を取り戻させ、市場経済の方向へ進み始めた。ヒトラーの千年帝国は、第二次世界大戦で軍事的敗北を喫するまで、13年も続かなかった。

しかし、深い問題は、この短命が先天的なものなのか、それとも偶発的なものなのかということである。もし全体主義の寿命の短さが先天的なものであれば、それはおそらく「世界的大災害リスク」にはまったくカウントされない。一方、もし全体主義の急速な終焉が幸運な事故であったとしたら、もし将来の全体主義者が歴史から学んで支配を無期限に延長することができたとしたら、全体主義は始まる前に止めるべき最も重要な世界的破局的リスクの一つである。

この問いに答えるための主な障害は、観測件数が少ないことである。実際、ソ連圏の崩壊は非常に相互につながっていたため、基本的には1つのデータとしてしかカウントされない。しかし、歴史的証拠のほとんどは、全体主義は実際よりもはるかに耐久性があったという見方を支持している。

これは、ナチス・ドイツのケースを見れば明らかだ。圧倒的な軍事的敗北だけが、ナチスを権力の座から追いやった。ヒトラーが独裁者となってからは、彼の支配に対する深刻な反対運動は内部では起こらなかった。もしヒトラーがあまり攻撃的でない外交政策をとっていれば、ヒトラーは生涯独裁者であり続けただろう。草の根の圧力がヒトラーを軍事的に噛み砕かざるを得なくさせたと主張する人もいるかもしれないが、実際には圧力は逆だった。特に彼の将軍たちは、攻撃的でない姿勢を好んでいた（Bullock, 1993, pp.393-394, 568-574, 582）。

ソ連と毛沢東主義の中国の歴史は、この分析を裏付けている。ソ連と毛沢東は、ナチス・ドイツよりはるかに拡張主義的ではなく、スターリンと毛沢東という最も専制的な指導者が死ぬまで支配した。しかし同時に、スターリンと毛沢東の終焉は、ナチスも最終的に直面したであろう、後継者問題というつまずきを明らかにしている。全体主義体制は、指導者の各世代が全体主義的であり続けるためにはどうすればいいのだろうか？スターリンも毛沢東もここでつまずいたが、おそらくヒトラーも同じことをしただろう。

多くの有力な共産主義者がスターリンの地位をめぐって争ったが、最終的に勝利したのはニキータ・フルシチョフだった。フルシチョフは、スターリン主義ロシアの基本構造はそのままに、殺害人数を大幅に減らし、奴隷労働者のほとんどを解放した。彼はスターリンの犠牲者の多くを党に復帰させ、ソルジェニーツィンのような反スターリン主義者に著作の一部を出版させた。その結果、ソ連内外で党員の士気が低下した： スターリンは、単に西側だけでなく、新しい党の路線にとっても暴君だったのである（Werth, 1999, pp.250-260）。

フルシチョフは結局、「反スターリン主義者」とも言うべき他の有力な共産主義者たちによって、平和的に権力から排除された。彼らは、ソ連市民の大量殺人や大規模な奴隷労働を復活させることはなかったが、党の「過ち」についての公的な議論を封じ込めた。しかし、党指導部が高齢化するにつれて、スターリン時代の信頼できるベテランに指揮を任せることが難しくなっていった。1985年、54歳のミハイル・ゴルバチョフがようやく書記総長に任命された。ゴルバチョフの全意向が何であったかはまだ不明だが、ゴルバチョフの穏健な自由化策は雪だるま式に広がっていった。東欧のソビエト衛星国は1989年に崩壊し、ソビエト連邦自体も1991年に崩壊した。

毛沢東主義の中国における全体主義の終焉は、さらに早く起こった。1976年の毛沢東の死後、短期間の権力闘争を経て、実利主義者の鄧小平が台頭した。鄧小平は、日常生活における毛沢東イデオロギーの重要性を大幅に低下させ、農業経済を事実上民営化し、「中国の特色ある社会主義」を名目に、より自由市場的な政策へと徐々に移行していった。中国は独裁国家であり続けたが、全体主義から権威主義へと明らかに進化した（Salisbury, 1992）。

欧米人は、ソ連や毛沢東主義の中国が路線を変更したのは、その体制が機能しないことが判明したからだと主張したくなるが、これは根本的に間違っている。これらの体制が最も安定していたのは、そのパフォーマンスが最悪だったときである。スターリンと毛沢東が何百万人もの餓死者を出していたとき、共産主義の支配は非常に安定していた。改革が始まったときの状況は比較的良かった。全体主義が終わったのは、全体主義的な政策が手に負えなくなったからではなく、新しい指導者が人命と経済的代償を払い続けたくなかったからだ。

おそらく、全体主義体制には後継者問題を解決する確実な方法はなかっただろうが、もっと懸命に努力することはできたはずだ。もし彼らがジョージ・オーウェルを読んでいたなら、体制にとっての重要な危険は「自分たちの仲間内での自由主義と懐疑主義の成長」（1983年、171ページ）であることを知っていただろう。フルシチョフのスターリン主義からの棄教はおそらく予見できなかったことだが、ゴルバチョフのもとでのソ連の崩壊は、政治局が強硬派の候補者だけを検討していれば避けられたかもしれない。ソ連が崩壊したのは、改革派が政権を握ったことが大きな原因だが、改革派が政権を握ることができたのは、仲間たちが政権を握ることを最優先事項としていなかったからにほかならない。毛沢東も同様に、鄧小平のような「資本主義路線を歩む」と疑われる人物を例外なく死に追いやることで、継続の可能性を高められた。

指導者の交代がしばしば全体主義体制にその政策を穏健化させる最も重要な理由は、非全体主義体制と並存していたことだろう。非全体主義世界の人々がより豊かで幸福であることは、比較すれば明らかだった。全体主義政権は外国人との接触を制限したが、格差のニュースは必然的に漏れてきた。さらに腐敗を招いたのは、党のエリートたちが外の世界を直接目にする機会が特に多かったことだ。その結果、最高レベルの官僚たちは自分たちの体制への信頼を失った。

この問題は、全体主義でない世界との接触を断ち、北朝鮮や共産主義アルバニアのような「仙人王国」になることで、ほぼ解決できたかもしれない。しかし、仙人戦略には大きな欠点がある。全体主義体制は、そのままでは成長も学習も困難である。世界からアイデアを借りることができなければ、進歩は遅々として進まない。しかし、他の社会が成長し、学習しているのに、自分たちの社会がそうでない場合、政治的、経済的、軍事的優位のための競争に負けることになる。さらには、外国がほとんど危険を冒すことなく、自国を権力から排除する能力を獲得するほど遅れをとることさえある。

こうして、内向きになることで自らを保とうとする全体主義政権は、おそらく寿命を延ばすことができるだろう。数世代は、潜在的な後継者のプールが異質な考えによって腐敗することは少ないだろう。しかし、長い目で見れば、全体主義的でない隣国の仙人王国が圧倒するだろう。

全体主義のジレンマとは、後継者こそが長寿の鍵であるということだ。しかし、全体主義国家が非全体主義国家と共存する限り、ライバルに遅れをとって危険な状態に陥るのを避けるために、潜在的な後継者を士気を低下させる外部の影響にさらさなければならない2。

しかし、このジレンマを理解することは、その解決策を理解することでもある。非全体主義の世界が存在しなければ、全体主義はより安定したものになるだろう。人間の自由にとって最悪のシナリオは、世界的な全体主義国家である。比較対象となる外の世界がなければ、全体主義のエリートたちは、より良い生き方がメニューにあるという直接的な証拠を手にすることができない。全体主義でない世界から新しいアイデアを借りることはもはや不可能だが、その必要もなくなる。世界政府は遅れをとることなく、経済的にも科学的にも停滞することができる。実際、停滞は容易に安定性を高めることができる。「すべての変化を避ける」という経験則は、「政権を維持しにくくするすべての変化を避ける」というルールよりも正しく適用しやすい。

世界政府に対する懸念を、外国人嫌いの、あるいは子供じみたものとして描くのは流行である。ロバート・ライトは、そのコストは些細なもので、メリットは大きいと主張している：

生物兵器の攻撃で死ぬことを恐れずに生きる自由を大切にするか。それとも、万が一、自分の冷凍庫に炭疽菌が付着しているのではないかという疑いがかけられた場合、国際査察団に自分の冷凍庫を調べられることを恐れずに生きる自由を選ぶか？…どちらの主権を失いたいのか？冷凍庫に対する主権か、それとも人生に対する主権か？(2000, p. 227)

しかし、これは最良の場合の考え方である。現実には、世界政府はわずかな利益のために大きな犠牲を強いるかもしれない。人類が特に不運であれば、世界政府は、安全弁を提供する非全体主義の世界がなければ、全体主義へと衰退するだろう。

もし世界が少数の全体主義国家の間で分割されれば、全体主義は20世紀よりも安定するだろう。これがオーウェルの『1984年』のシナリオ： オセアニア、ユーラシア、イースタシアが地表を支配し、互いに永久戦争を繰り広げる。このような世界では、どの国も全体主義社会に典型的な貧困と悲惨さを備えているため、エリートたちは国際比較によって幻滅することはないだろう。仙人戦略から逸脱しても、もはや後継者を汚すことはないだろう。オーウェルは、外敵の存在が全体主義体制のイデオロギー的熱狂の維持に役立っているという興味深い議論を付け加えている。

このシナリオが持続するためには、全体主義体制はライバルに大きく遅れをとらないようにしなければならない。しかし、他の比較的停滞した社会と歩調を合わせればよいのである。実際、ある国家がライバルに大きく遅れをとり、ほとんど危険を冒すことなく征服できるようになれば、世界は統一全体主義政府に一歩近づくだけである。より危険なのは、分離独立によって国家の数が増えることだ。独立国が増えれば増えるほど、ある国が自由化し、世界の他の国々を悪者扱いし始めるリスクが高まる。

22.3 永続的全体主義のリスク要因

全体主義は、均衡を保てば、そうであったよりもずっと安定していたかもしれないが、いくつかの根本的な困難にもぶつかっていた。しかし、技術的・政治的変化によってこれらの困難が解消され、全体主義体制の寿命が大幅に延びることは十分に考えられる。技術的には、後継者問題の解決に役立つものすべてが大きな危険である。政治的には、世界政府の方向への動きが大きな危険となる。

22.3.1 テクノロジー

オーウェルの『1984』には、新しいテクノロジーが全体主義の大義をどのように前進させるかが描かれている。最も鮮明だったのは「テレスクリーン」と呼ばれる双方向テレビである。スクリーンを見ている者は、自動的に思想警察による監視の対象となった。主人公のウィンストン・スミスが思想犯の日記をつけることができたのは、彼のテレスクリーンが監視されずに書くことができる珍しい位置にあったからにほかならない。

テレスクリーンのような監視技術が向上すれば、反対意見の根絶が容易になるのは明らかだが、全体主義が長続きするとは思えない。テレスクリーンがなくても、指導者が献身的な全体主義者であり続ける限り、全体主義体制は極めて安定していた。実際、スターリン以降の主な教訓のひとつは、年間数千人の反体制派を投獄することで、国民を恐怖に陥れることができるということだった。

監視を強化しても、全体主義体制にとっての真の脅威である党内の懐疑派を暴くことはほとんどできないだろう。しかし、他の技術の進歩がこの問題を解決するかもしれない。オーウェルの『1984年』では、いまだに研究されている数少ない科学的疑問のひとつが、「本人の意思に反して、他の人間が何を考えているかを発見する方法」（1983年、159ページ）である。脳研究と関連分野の進歩は、まさにこれを可能にする可能性を秘めている。たとえば脳スキャンは、いつか懐疑論者をパーティーから排除するために使われるかもしれない。あるいは、未来の新しく改良された精神科治療薬は、生産性を著しく低下させることなく、従順さを高めるかもしれない。

行動遺伝学も同じような結果をもたらすかもしれない。全体主義的な政権は、懐疑的な考えを探す代わりに、遺伝子検査を使って自らを守るかもしれない。政治的志向性には遺伝的要素がかなり含まれていることはすでに知られている（Pinker, 2002, pp.283-305）。「穏健な」全体主義政権は、批判的思考や個人主義の遺伝的素質を持つ市民を党から排除することができる。より野心的な解決策は、全体主義体制が野心的でないに越したことはないが、遺伝子操作であろう。最も原始的なものは、不妊手術と「反政党」遺伝子の保持者の殺害だろうが、選択的中絶でも同じ効果が得られるだろう。技術的に進歩した全体主義政権は、生殖の全過程を掌握し、未来の忠実な市民を試験管の中で繁殖させ、国営の「孤児院」で育てることができるだろう。このようなことを長く続ける必要はないだろう。クローゼット・セプター（懐疑論者）が体制のトップに上り詰め、政権を奪取する確率は極めて低くなるだろう。

全体主義を安定させるには、指導者の寿命を延ばし、後継者問題がめったに起こらないようにすることだ。スターリンも毛沢東も、権力に対する深刻な内的脅威に直面することなく、死ぬまで何十年も支配した。もし延命技術が進歩し、彼らを永遠に最高の状態に保つことができたとしたら、彼らは今日でも権力の座にあっただろうと考えるのが妥当である。

実際には、ファックスからコピー機まで、テクノロジーは鉄のカーテンの向こうの人々が外の世界について学び、抵抗組織を組織するのを助けることによって、全体主義を弱体化させた。しかし、過去のテクノロジーがどのような効果をもたらしたにせよ、未来のテクノロジーがどのような効果をもたらすかは予測が難しい。おそらく遺伝子スクリーニングは、未来のアレクサンドル・ソルジェニーツィンやアンドレイ・サハロフの誕生を防ぐためではなく、未来のスターリンの誕生を防ぐために使われるだろう。とはいえ、将来のテクノロジーは、全体主義が安定するために必要な材料を最終的に提供する可能性が高い。

同時に、こうしたテクノロジーの一部は、全体主義を歴史的なものよりも暴力的でないものに導くかもしれないことも認めるべきだ。精神薬や遺伝子工学によって、従順で均質な集団が生まれたとしよう。そうすれば、人々が政府の言うことを聞きたがるようになるため、極端な残虐性を伴わずに全体主義の野望を実現することができる。

22.3.2 政治

繰り返しになるが、全体主義体制に対する主な牽制のひとつは、非全体主義体制の存在である。比較的自由な社会が、より高いレベルの富と幸福を、より低いレベルの残忍さと抑圧とともにもたらすことが明らかな場合、全体主義イデオロギーへのコミットメントを維持するのは難しい。全体主義社会が士気を維持する最善の方法は、隠者戦略： 非全体主義的世界との接触を断つのだ。しかし、これは停滞につながり、長期的には世界の他の地域も停滞している場合にのみ実行可能である。

この観点からすると、避けるべき最も危険な政治的発展は世界政府である3。世界全体主義政府は、安定性と開放性のトレードオフを永久に無視しかねない。

世界政府が誕生する可能性はどのくらいあるのだろうか？分離独立に向かう最近の傾向から、当面はありえないだろう（Ales ina and Spolaore, 2003）。しかし同時に、名目上は独立している国々が、驚くほどの量の主権を放棄し始めている（Barrett, 2003; Wright, 2000）。最も顕著な例は欧州連合（EU）である。軍事的征服なしに、西ヨーロッパと中欧の長い間対立していた諸国民は、地域政府への道半ばまで前進した。多くの近隣諸国が加盟を希望するほど、加盟は魅力的である。100年以内に、ヨーロッパ大陸が現在の米国と同じように統一されることは十分に考えられる。

欧州の統一は、世界の他の地域で模倣的な組合が生まれる可能性も高める。たとえば、欧州連合が域内では自由貿易を採用し、域外では保護主義を採用すれば、他の国々は独自の貿易圏を作りたくなるだろう。さらに、いったん経済連合が根付くと、欧州経済共同体が欧州連合になったように、次第に政治連合へと拡大していく可能性が高い。北米と南米が1世紀で1つの国になることを想像するのが空想的に思えるなら、1945年当時、欧州連合（EU）の台頭がどれほどあり得ないと思われたかを考えてみればいい。徐々に平和的に統一していくという考え方が定着すれば、ライバル関係にある超国家が最終的に合併し、世界政府にまで発展することは容易に想像できる。

また、世界はどの国にとっても大きすぎる問題に直面しているという信念の高まりも、世界政府の出現をより可能性の高いものにしている。ロバート・ライト（2000、p.217）は、地球外からの侵略が起これば、一夜にして世界政府は立派なアイデアとなるだろうと観察し、それほど空想的ではない他の危険も徐々に同じようになると論じている：

第二千年紀の終わりは、敵対的な地球外生命体とほぼ同じものをもたらした。その脅威とは、テロリスト（不気味さを増した武器の数々）から、新種の多国籍犯罪者（その多くは、本質的に国境を越えた領域であるサイバースペースで犯罪を犯すだろう）、環境問題（地球温暖化、オゾン層破壊、そして単に地域的でありながら超国家的な問題の数々）、健康問題（現代の幹線道路を悪用した伝染病）まで多岐にわたる。

これまでのところ、国際的に最も注目されているのは環境問題だろう。環境保護主義者たちは、世界の多くが批准している京都条約のような地球環境協定を強く主張してきた（Barrett, 2003, p.373-374）。しかし、環境保護論者はしばしば、京都条約が批准されたとしても、それは環境に存在する数多くの問題のひとつに対処するものに過ぎないと付け加える。当然の推論として、全会一致の条約で環境問題を1つずつ解決するのは絶望的である。それよりも、加盟国を共通の環境政策に拘束するオムニバス条約を締結する方がより効果的だと思われる。次のステップは、経済的圧力やその他の圧力を使って、未加盟国を強制的に加盟させることである（Barrett, 2003）。超国家的な「地球環境保護機関」が設置されれば、それはやがて本格的な政治連合に発展する可能性がある。実際、環境政策は経済に大きな影響を与えるため、目標を達成する力を持つ世界環境機関は、加盟国の伝統的な国内政策の多くを運営することになるだろう。世界政府が必然的に誕生するわけではないが、その可能性はかなり高くなるだろう。

全体主義のもうひとつの政治的リスク要因は、急進的なイデオロギーの台頭である。少なくとも権力を握るまでは、すべての全体主義者に共通する信条は、現状はひどく間違っており、どんな手段を使っても変えなければならないということだ。共産主義者にとって、廃止すべき悪とは生産手段の私有であり、ナチスにとって、それはアーリア人種の衰退と最終的な絶滅であり、全体主義的宗教運動にとって、大悪とは世俗化と多元主義である。大きな運動が、世界が重大な危機に直面しており、大きな犠牲を払わないと解決できないという考えを受け入れるたびに、全体主義のリスクは高まる。

ひとつ気がかりなのは、全体主義を防ぐことと、本編で論じた他の「世界的な破局的リスク」を防ぐこととは、トレードオフの関係にあるのではないかということだ。たしかに実際には、全体主義政権は手遅れになるまで、いくつかの大災害に気づくことができなかった。しかし、この事実が、人類を特定の危険から救うためには急進的な措置が必要であることを知っていると称する人々を躊躇させることはないだろう。例えば、環境に対する極端な悲観論は、緑の全体主義の根拠となりうる。

もちろん、決定的な行動を起こさなければ人類が本当に滅亡してしまうのであれば、全体主義になる可能性は少ない側の悪である。しかし、全体主義の歴史の主な教訓のひとつは、中庸と不作為は過小評価されるということだ。当時の人々が思っていたほど「耐え難い」問題であったことはほとんどなく、多くの「問題」は代替案よりはましであった。20世紀に貧困に対して「何もしなかった」国は、緩やかな経済成長によって豊かになることが多かった。貧困に「全面戦争」を仕掛けた国は、経済成長を止めただけでなく、飢餓に陥った。

この線に沿って、特に恐ろしい未来のシナリオをひとつ挙げるとすれば、大げさな終末論が世界政府の根拠となり、全体主義という予期せぬ世界的大災害への道を開くことである。人類への脅威に対して世界各国が団結することを求める人々は、団結そのものがより大きな脅威である可能性を考慮すべきである。

22.4 全体主義のリスク管理

22.4.1 テクノロジー

テクノロジー主導のディストピアに思いを馳せると、ほとんどの人はラッダイトのように感じるだろう。しかし、分散化された現代世界では、市場の需要がある新技術の開発を阻止することは極めて難しい。脳の研究、遺伝学の研究、延命の研究はすべてそれに当てはまる。さらに、これらの新技術はすべて、莫大な直接的利益をもたらす。もし人々が永遠に生きれば、安定した全体主義が出現する可能性は少し高くなるだろう。しかし、1000年後に秘密警察に殺されるわずかなリスクを回避するために、すべての人に老衰で死ぬことを強制するのは狂気の沙汰だろう。

私の判断では、これまで述べてきた新技術に対する最も安全なアプローチは、個人の自由と政府の厳しい監視を組み合わせることである。個人の手にかかれば、新技術は人々が多様な目的をより効果的に追求するのに役立つ。しかし、政府の手にかかれば、新技術は全体主義への坂道を転がり落ちる危険性をはらんでいる。

例えば遺伝子操作だ。親が自分の子供を遺伝子操作できるようにすれば、より健康で賢く、容姿端麗な子供が生まれるだろう。しかし、それ以外の形質に対する要求は、親自身のそれと同じくらい多様になるだろう。一方、政府の手に渡った遺伝子操作は、個性や反対意見を根絶するために使われる可能性が高い。「生殖の自由」は貴重なスローガンであり、親が望めば新技術を利用する権利と、親の決定に干渉しない政府の義務の両方を捉えている。

遺伝子工学を批判する人々は、民間利用と政府利用の両方が滑りやすい斜面にあるとよく主張する。ある意味では正しい。遺伝子異常のスクリーニングを親に許可すれば、さらに進んでIQの高い遺伝子をスクリーニングしたがる親が現れ、いつの間にか親は「デザイナーベビー」を注文するようになる。同様に、政府が遺伝的に暴力的な気質を選別することを許可すれば、さらに進んで適合性を選別したくなるだろう。しかし、これらの滑りやすい坂道の違いは、坂道がどこで終わるかにある。もし親が赤ん坊の遺伝子を完全にコントロールできるようになれば、その結果、より健康で、より賢く、より見栄えのする、今日の多様な世界が生まれるだろう。もし政府が赤ん坊の遺伝子を完全にコントロールできるようになれば、全体主義を安定させるのに十分なほど、従順で順応的な国民が生まれるだろう。

22.4.2 政治

世界政府は今日、現実的な脅威とは思えない。しかし、数世紀の間に、世界政府は徐々に出現する可能性がある。今日ではナショナリズムがそれを阻んでいるが、台頭しつつあるグローバル文化は、すでに国家のアイデンティティを希薄化し始めている（Wright, 2000）。文化保護主義がこのプロセスを遅らせることはほとんどないだろうし、いずれにせよ、文化的競争の直接的な利益は大きい（Caplan and Cowen, 2004）。

長い目で見れば、グローバルな文化を分断しようとするのではなく、グローバルな文化に影響を与えようとする方がよいのである。排外主義は、当面は世界政府を阻む主な障壁かもしれないが、それは弱い議論である。実際、世界が文化的に均質であったとしても、政治的中央集権を避ける十分な理由があるだろう。

政府間の競争を維持する最も目に見える理由は、(1)人口と資本を維持するため、政府に国民を厚遇するよう圧力をかけること、(2)異なるアプローチを並存させることで、どの政策が最も効果的かを把握しやすくすること、の2つである（Inman and Rubinfeld, 1997）。確かに国際的な経済統合には大きなメリットがあるが、経済統合に政治統合は必要ない。一方的な自由貿易が、煩雑な自由貿易協定に代わる実行可能な選択肢であることは、経済学者たちが何十年も前から指摘してきたことである（Irwin, 1996）。

全体主義のリスクを軽減することは、政府間競争を維持することの目に見えにくい利点の一つであることは認める。しかし、これは重要なメリットであり、それをより明確にする方法がある。ひとつは、全体主義体制に関する事実を公表することだ。ヒトラーの犯罪の程度は一般市民にもよく知られているが、レーニン、スターリン、毛沢東の犯罪はそうではない。もうひとつは、これらの恐ろしい出来事がどのようにして起こったのかを説明することである。世界の大部分ではジェノサイドの危険性は非常に小さいにもかかわらず、ホロコーストの歴史家は、人種憎悪とジェノサイドの関連性を世界に知らしめた。歴史家たちは、政治的中央集権と全体主義のつながりを強調することで、同じような役割を果たすことができるだろう。おそらく、歴史の教訓に関するそのような講義は耳に入らないだろうが、やってみる価値はある。

22.5 「あなたのPは？」

私は経済学者だが、経済学者はリスクに定量的な確率をつけさせるのが好きだ。「Xが起こる確率はどれくらいですか」という意味である。重要なのは、誰かが決定的な数字を持っているということではない。むしろ重要なのは、確率を明示することで議論を明確にし、新たな証拠が出てきたときに信念をどのように変えるべきかという規律を課すことである（Tetlock, 2005）。ある人が2つのリスクはどちらも「深刻」だと言った場合、どちらがより大きな脅威だと考えているかは不明だが、その人が一方に2%、もう一方に0.1%の確率を割り当てた時点で、推測をやめることができる。同様に、ある人がある出来事の確率を2%と言ったとき、関連する新情報が入れば、一貫性を保つために確率を修正する必要がある。

今後1000年の間に世界全体主義政権が誕生し、それが1000年以上続くという可能性を、私はどれほど真剣に考えればいいのだろうか？この質問に答えるのは複雑で当てずっぽうなのだが、あえて答えよう。私の無条件確率、つまり、私が今持っているすべての情報から割り出す確率は5%である。条件付き確率を提示することも厭わない。例えば、性格特性の遺伝子スクリーニングが安価で正確になったとしても、生殖の自由の原則が優先されれば、私の確率は3%に低下する。同じ技術で政府の規制が広範に及ぶと、私の確率は10%に上昇する。同様に、今後1,000年の間に地球上の独立国が減少しなければ、私の確率は0.1%に低下するが、国の数が1つになれば、私の確率は25%に上昇する。

私の数字を精緻化するのは、絶滅レベルの小惑星衝突の確率の見積もりを精緻化するよりも難しいのは明らかである。社会科学の規則性は、物理科学の規則性ほど厳密でも永続的でもない。しかしこれは、全体主義のような社会的災害を、小惑星のような物理的災害よりも軽視する論拠にはならない。我々は常に、正確に測定されたものと不正確に測定されたものを比較している。科学者が失うのはどちらが悪いか： IQの1ポイントか、それとも彼の「創造的閃き」か？IQは高い精度で測定され、創造性は測定されないとしても、創造性の喪失の方がより重要であろう。

最後に、全体主義のような社会的災厄の害を最小化したくなるのは、それがおそらく人類絶滅につながらないからである。一人当たりの死亡率が最も高い全体主義政権であるカンボジアでさえ、クメール・ルージュによる3年間の支配の後、人口の75%が生存していた（Margolin, 1999b）。しかし、おそらく全体主義が永遠に続くことは、絶滅よりも悪いことだろう。オーウェルを読んで、不思議に思わないのは難しい：

では、われわれがどのような世界を作り出そうとしているのか、おわかりだろうか？それは、昔の改革者たちが想像した愚かな快楽主義的ユートピアとは正反対のものだ。恐怖と裏切りと苦しみの世界、踏みにじりと踏みにじられの世界、自らを洗練させるにつれて、無慈悲でなくなるどころか、より無慈悲になっていく世界だ。この世界における進歩は、より多くの苦痛へと向かう進歩なのだ。古い文明は、愛や正義の上に成り立っていると主張した。私たちの世界は憎しみによって成り立っている。我々の世界では、恐怖、怒り、勝利、自己卑下以外の感情は存在しない。党への忠誠以外、忠誠は存在しない。ビッグブラザーを愛する以外、愛もなくなる。敗北した敵に対する勝利の笑いを除いて、笑いもなくなる。芸術も文学も科学もなくなる。私たちが全能になれば、科学は必要なくなる。美醜の区別もなくなる。好奇心も、人生の過程を楽しむこともなくなる。競合する快楽はすべて破壊されるだろう。(1983, p. 220)