ターンキー全体主義のパラドックス
The Paradox of Turnkey Totalitarianism

The Paradox of Turnkey Totalitarianism

どこかで、優秀だが問題を抱えたバイオテクノロジー・エンジニアが、自宅のガレージでCRISPRを行っている。コンピューター、冷蔵庫、遠心分離機、動物用ケージ、そしてチューブに入った微生物の数々である。今日、彼は遺伝子編集技術を使って、致命的で急速に拡散する細菌を作る予定だ。そして明日、それを世界に解き放つつもりだ。そして明日、それを世界に解き放つつもりだ。

なぜあんなことをしたのか？

たぶん彼は狂ってしまったのだろう。孤独で世界に復讐したいのかもしれない。テッド・カジンスキーのマニフェストを読んで、人間は疫病神だと思ったのかもしれない。ある意味、そんなことはどうでもいい。他の1000人の優秀な遺伝子研究者の中で、彼は悪いことをした。誰も彼がガレージで何を研究しているのか知らない。彼は隣人からも、好きな女の子からも見えない存在なのだ。

• いったいこの若者をどうするつもりなのか？
• 彼のような人間が大量死を引き起こすのをどうやって止めるのか？
• 私たちが彼を止めるとしたら、その「私たち」とは誰なのか？

今日、より多くの人々が、世界を大混乱に陥れる技術的手段にアクセスできるようになっている。より多くの人々が指数関数的なテクノロジーにアクセスできるようになった今、彼らの一部が暗闇の中で次の存亡の危機に取り組んでいる可能性がある。

それでどうするんだ？

合理的な規制

ほとんどの人にとって、その答えは「規制」という直線的で論理的なものでさえある。それは十分にもっともなことだ。ある種の活動は他の活動よりもリスクが高いため、一般の人々は規制当局を信頼し、監督する権限を与えなければならない。単純に聞こえる。この種の規制を支持する人々は、リスクの高い研究を禁止すべきだと主張しているわけではない。われわれのシナリオで述べたように、1000人中999人は怪物ではなく、良いことを企んでいる。彼らの研究の中には、医学的なブレークスルーをもたらすものもあるだろう。

だから、ある種の人々は、実存的なリスクを生み出す活動に従事することを許されるべきかもしれない。そうでなければ、そのような活動は認可された透明な環境で、規制当局によって厳しく管理されるべきである。そしてもちろん、政府はその規制監督を行うべきである。

ターンキー全体主義

上記のような実存的脅威を研究し始めている人は一握りである。そのような人物の一人が哲学者のニック・ボストロムであり、彼の『脆弱な世界仮説』の方針要約の中でこう書いている：

文明がこの種の「ブラックボール」発明に対処する一般的な能力を持つためには、ユビキタスなリアルタイム世界監視システムが必要である。シナリオによっては、そのようなシステムは、その技術が発明される前に導入されている必要がある。

一極集中の監視体制が敷かれた後、ボストロムは、実存的脅威の開発につながる危険な物質は、「少数の厳重に監視された提供者」から供給されなければならないと考えている。

つまり、ユビキタスな監視と厳しい規制が得られるわけだが、プライバシー政策アナリストのジュリアン・サンチェスなどは、これを「ターンキー全体主義」と呼んでいる。では、うまくいくのだろうか？

規制当局の規制

「ファウチに媚びへつらう」と題した別の記事で、私は冒頭のヴィネットで私が想像したものと大差ない状況をメディアが調査したほうがいいと提案した。しかし、大きな違いは、このリアルワールドのシナリオでは、ガレージに子供がいたわけではないということだ。武漢ウイルス研究所という政府公認の研究センターで、政府から支給された大金を使った科学者たちがいたのだ。

実際、さまざまな研究活動を監視する最善の方法のひとつは、そのような研究の資金源を管理することである。私は、アンソニー・ファウチに他ならない米国国立衛生研究所（NIH/NIAID）の感染症部門が、COVID-19を含む人獣共通感染症ウイルスの研究への資金提供を担当していたことは、もっともなことだと示唆したことがある。

言い換えれば、ファウチと彼の機関の規制の失敗がなければ、パンデミックは起こらなかったかもしれない。

アンソニー・ファウチとNIAIDの幹部たちが、（全面禁止とまではいかなくても）厳しく管理・規制されるべき危険な研究への資金提供を取り仕切っていたと仮定しよう。そのような研究は、すでに何百万人もの人々を死に至らしめたパンデミックにつながったと仮定しよう。そしてウイルスが変異するにつれ、ワクチンだけでなくあらゆる官僚的義務からも逃れられるようになった。すぐにでも流行するかもしれない。

このシナリオでは、合理的な規制の基準はすべて満たされていたはずだ。それでも大量死が起きた。言い換えれば、マッドサイエンティストも、怪物的なIncellも、少なくとも我々が知る限りはいなかったということだ。官僚の無能とNIHの意向を受けた研究所の怠慢が結びついただけかもしれない。

今のところ、中国政府がこの研究を知っていて、悪意のある目的のために協力できたかどうか、あるいはどの程度まで知っていたかどうかについての疑問は置いておく。共産党の残念な実績にもかかわらず、最もありそうな説明は、これがひどい事故だったということだ。私たちは単に言うことができない。また、北京（あるいはワシントン）から嘘以外の情報が出ることもないだろう。

しかし、ひとつはっきりしていることは、規制当局を規制する方法は今のところないということだ。その代わり、私たちは彼らとともに生きていくしかない。そうでなければ、彼らはまったく責任を負わない。彼らだけが、おそらくは科学の名の下に、このような莫大なリスクを取る権力を握っているのだ。

権力の問題

政府というアイデアに関して言えば、ほとんどの人は大きな盲点と想像力の欠如の両方に苦しんでいる。

その盲点とは、国家そのものが人類に対するあらゆる存亡の脅威の中で最大のものであることを信じようとしないことである。ハリウッドが描く企業の悪役にしても、巨大化に対する一般的な懸念にしても、ほとんどの人は、国家が大量殺戮の記録を保持しているという事実を理解できないか、理解しようとしない。個人と企業を比較してみよう。その足元にも及ばない。しかし、ほとんどの人々は、国家の仕事は私たちを守ることだと必死に信じようとしている。一極集中の統治。繰り返すが、国家は人類史上最大の暴力の源である。

想像力の欠如は、国家統制の直線的モデルなしに、人類が存亡の危機を緩和することがいかに可能であるかを理解できないことにある。「合理的規制」であれ「ターンキー全体主義」であれ、直線的モデルはホッブズのリヴァイアサン理論に端を発し、多くの人々をその支配下に置いている。簡単に言えば、リヴァイアサンの理論的根拠は、私たちを保護し、私たちの利益のために働くよう、強力な独占企業に私たちを託すよう促す。

しかし、その強力な独占企業がその場所に留まるよう、私たちは何らかの形で義務づけなければならない。問題は、そのようなことはめったにないということだ。エドモンド・バークはこう書いている：

（政府は）良いものだ。悪用だ！それ自体が悪用なのだ！主よ、人為的な立法権力がすべてその上に成り立っている重大な誤りを御覧ください。人間には制御不能な情念があり、そのために、彼らが互いに提供するかもしれない暴力を防御する必要があることが観察された。しかし、より悪く、より不可解な困難が生じる。

牽制と均衡はしばらくの間続く。しかし、それが失敗するとすぐに、強力な独占企業の代理人がさらに権力を握る。残されたチェック・アンド・バランスは、リヴァイアサンが赤インクの海で泳げなくならない限り、リヴァイアサンの重圧に押しつぶされてしまう。その時はもう遅いかもしれない。

脆弱な世界のニヒリズム

ニック・ボストロムのような思想家は、悪者の手に渡った指数関数的テクノロジーに対する世界の脆弱性について間違ってはいない。彼らがしばしば忘れがちなのは、政治が傲慢と社会病質者を選ぶということだ。政治家や技術者は、我々がどんなにそうあってほしいと願おうとも、天使ではない。時折、指輪を持つ賢明なリーダーを見つけたとしても、その指輪は必ず流されてしまう。常に社会病質者が待ち構えているのだ。だからこそ、たとえ市民の中に悪の天才がいたとしても、ターンキー全体主義の結果には深い問題があるのだ。このすべてを認めることは、私たちをニヒリズムの中に置き去りにする恐れがある。結局のところ、コビッド19のパンデミックを引き起こしたのは、政府の技術者や規制当局の小さなグループであった可能性が高いのではないだろうか？

私の友人であり指導者でもある起業家クリス・ルーファーは、暴力に対する最善の防御策はパノプティコンでもグローバルな超国家でもないことを私たちに思い起こさせる。

「暴力に対する最善の防御策は、暴力を行使しようとする人間の数を最小限に抑えることだ」とルーファーは言う。そして、私は彼が正しいと思う。

基本的なモラルを持った人々がお互いをチェックし合うことは、悪いことではないだろう。とはいえ、先制的な道徳は、存立危機事態のバケツの中の黒い玉の数を減らすことしかできないことは認める。だが、それはそれでいい。だから私たちは、道徳を抽象的なルールの集合としてではなく、すべての人の中に火を灯す積極的で継続的な実践として考え始めなければならない。

そして、私たちが絶滅するリスクは決してゼロではないことを自認しながらも、道徳を実践しなければならない。