The Ethics of Neuroscience and National Security
Nicholas G. Evans

神経科学の新たな進歩は、国家安全保障、特に法執行、情報収集、武力紛争の分野における革新を約束する。しかし、これらの革新技術をどのように利用すべきか、また利用できるのかという倫理的な問題が浮上している。本書では、国防高等研究計画局(DARPA)の資金提供による神経科学の発展、特に行動予測、行動修正、神経強化といった特定の分野における発展と、新たな兵器開発におけるその利用について、公開文献を基に概説している。本書では、神経科学と新技術の進歩が、法執行、情報収集、武力紛争の規範に疑問を投げかける倫理的問題を引き起こしていることを示している。倫理を無視したまま技術が高度化することは、悪用されやすく、脳の不完全な理解に基づいている、あるいは、これらの技術が生まれる政治的背景の限定的な見解に基づいている「デュアルユース」技術の開発につながる危険性があると本書は主張している。結論では、新たな神経科学の恩恵を促進し、同時に付随するリスクを軽減する可能性のある政策および規制の選択肢について考察している。

主な特徴

• 国家の安全保障に適用される神経科学に関する初の広範な調査
•  行動予測および修正ツール、人間能力強化、新しい致死兵器および非致死兵器など、幅広い分野にわたる革新的な倫理的解析
• これらの技術の開発、テスト、使用(またはこれらの技術の開発、テスト、使用(または誤用)から、個々の科学者から国家レベルでの決定までを網羅する倫理的考察
• 自己統治から国際規制まで、複数のレベルにおける強力な政策フォーカス
• 哲学的な分析と、現実的で実践的な提言の組み合わせ

ニコラス・G・エヴァンスは、マサチューセッツ大学ローウェル校哲学部の助教授である。著書に『エボラ出血熱のメッセージ:21世紀の公衆衛生と医学』(2016)がある。

「神経科学の進歩は、ポスト・コロナの世界における国家安全保障に関連する問題をますます引き起こすことになるでしょう。本書は、これらの問題がいかに複雑になるかを示し、それらに対処する上で科学者が果たし得る集団的な役割を強調しています。神経科学と国家安全保障に関する著者の倫理的分析が、特に神経科学者の間で広く読まれることを願っています」 — マルコム・ダンド、英国ブラッドフォード大学

神経科学と国家安全保障の倫理

ニコラス・G・エヴァンス

目次

• 謝辞略語一覧
• 1 序文
• 1. 第1部 戦場におけるブレインズ
  • 2 未来を予測する
  • 3 説得の科学
  • 4 より優れた戦闘員を育成する
  • 5 神経兵器
• 第2部 神経倫理と国家安全保障
  • 6 神経倫理の行方?
  • 7 翻訳
  • 8 デュアルユース
  • 9 汚職
  • 10 神経優位
• 第3部 政策
  • 11 自己規制
  • 12 組織
  • 13 国家
  • 14 グローバル・ガバナンス
  • 15 科学の再構築
• 参考文献一覧
• 付録：神経倫理と国家安全保障に関する作業用参考文献目録 207
• 索引

AI要約（一部）

第1章の要約

神経科学の新たな進歩は、国家安全保障、特に法執行、情報収集、武力紛争の分野における革新を約束している。しかし、これらの革新技術をどのように利用すべきか、また利用できるのかという倫理的な問題が浮上している。本書では、国防高等研究計画局(DARPA)の資金提供による神経科学の発展、特に行動予測、行動修正、神経強化といった特定の分野における発展と、新たな兵器開発におけるその利用について概説している。

本書では、神経科学と新技術の進歩が、法執行、情報収集、武力紛争の規範に疑問を投げかける倫理的問題を引き起こしていることを示している。倫理を無視したまま技術が高度化することは、悪用されやすく、脳の不完全な理解に基づいている、あるいは、これらの技術が生まれる政治的背景の限定的な見解に基づいている「デュアルユース」技術の開発につながる危険性がある。

本書は3つの部分で構成されている。第1部では、国家安全保障への応用が可能な4つの新興の神経科学および技術分野について取り扱う。第2部では、神経倫理がなぜ、そしてどのようにして国家安全保障上の懸念をほとんど無視してきたのかについて論じている。第3部では、最初の2つの部分の調査結果と実際的な考察を組み合わせ、個々の科学者のレベルでの政策上の問題を検証することから始める。

本書では、国家安全保障を広範な分析レベルとして扱っている。その理由は、国家安全保障の概念が刑事司法や国家軍よりも幅広いこと、共通の目的である社会構造を維持するための武力行使を結びつけていること、そして2001年以降、国家安全保障の傘下にある組織が徐々に明確でなくなっていることである。

神経科学については、脳の機能と個人および集団の人間の行動との関係を科学的に研究するものとして定義している。これには従来の神経科学研究だけでなく、認知科学、微生物学、臨床心理学、医学、法医学、さらにはコンピュータ科学の側面も含まれる。

本書で論じる技術の多くは、まだ完全に機能する技術として実用化されていない。しかし、これらのテクノロジーを真剣に受け止めるべき理由がある。それは、これらのテクノロジーを欲しがり、それを手に入れるために何億ドルも費やすことを厭わないグループがあること、そして変化の必要性が明らかになったとき、変化は高価で困難で時間のかかるものになっているためである。

第2章の要約

本章では、神経科学を個人および集団の行動予測に利用することについて取り上げている。まず、この広範な目的の背景にある動機について説明し、次に、この目的を達成するために神経科学を利用することについて、2つの中心的な事例を取り上げている。1つ目は、人工知能の取り組みに情報を提供する上での神経科学の役割である。2つ目は、DARPAのナラティブ・ネットワーク・プログラム(N2)を主な事例として、物語がどのように行動に影響を与えるかを理解することである。

情報収集における神経科学の最も興味深い応用例の一つは、監視および社会的行動予測の手段としてのナラティブ(物語)の研究である。物語と国家安全保障を結びつけるのは、公的な物語が個人的な物語を形成する方法である。国家安全保障当局の高官、ドクトリンの執筆者、学者らの懸念は、過激化につながる素材を特定すること、特定の個人をテロリスト集団に関与させるような素材の組み合わせを判断することの2点である。

N2は、ケースビアの指揮の下、DARPAの生物技術局(BTO)の委託を受け、神経科学的な根拠に基づいて物語を理解しようとしたプログラムである。N2の課題は、まず特定の物語が特定の脳にどのような影響を与えるかを決定することだった。そのためには、物語がどのようなものか、またどのような物語が存在するかを正確に特定する必要がある。

N2の2つ目の課題は、特定の物語以前の神経構造と物語以後の状態との関係性を明らかにし、特定の物語構造に対して特に感受性が高い脳(そして心)がどのようなものかを特定することである。これにより、特定の物語が特定の脳にのみ影響を与え、急進化を引き起こす理由を説明することができる。

N2の戦略的目標は、主に監視に重点を置いている。期待される応用例としては、物語を調査し、安全保障上の脅威の出現を正確に予測できることが挙げられる。DARPAが特に注目しているのは、将来のテロリスト、特にイスラム過激派テロリストの過激化を予測することである。

N2の潜在能力はまだ明らかになっていないが、現在の研究から最終的な応用に至るまでの軌跡は推測の域を出ない。N2に関する研究では、被験者に対する物語の神経心理学的影響が示され、それらの影響と行動反応との相関関係が試みられている。N2の最終的な実装は、テロリストが物語を使ってコミュニケーションを行うという問題を理想的に解決することが期待されている。

第3章の要約

本章では、現代の神経科学から着想を得た説得と服従の戦略、およびそれらとより広範な国家安全保障の目標との関連について詳しく述べている。まず、薬物の使用と「マインドコントロール」の手法を考案しようとする試みの歴史的概略を述べた後、米国における現代的な情報収集における服従戦略としての拷問の使用について述べている。

国家安全保障における薬物の使用は、武力紛争と関連している。兵士の体力、回復力、または警戒力を高めるために医薬品を使用することは古代にまで遡る。現代の軍隊では、長期作戦を理由に、軍は戦闘員の覚醒度を高めるためにアンフェタミンを処方し、その後、モダフィニルなどの化合物を処方するようになった。

「マインドコントロール」として一般化された、囚人から情報を引き出すこと、離反を促すこと、そして一部の軍事計画者の考えでは二重スパイを仕掛けることを目的とした向精神薬の使用は、国家軍にとって根強い懸念事項である。この懸念は、冷戦時代には驚くべき規模にまで拡大し、米国の敵対国がマインドコントロールを行っているという考えが、一般市民や政策立案者の間で広まった。

米国の拷問プログラムは、国防総省(DoD)による「強化尋問技術(EIT)」の開発と実施を支援した。これには、被拘留者に対する屈辱行為、音声や視覚による嫌がらせ、より古典的な拷問方法には至らない程度の苦痛を与える方法などが含まれる。

しかし、拷問の使用は、国家の安全保障機関内でも非効率な戦略であると認識されている。そのため、神経科学に基づく軍事戦略では、拷問の域に踏み込むことなく、また「強化」やその他の尋問の定義を曖昧にするような尋問の説明を開発する必要もなく、情報収集に役立つ説得のより優れた技術の開発を目指している。

この分野における進展として、カウンタープロパガンダ、真実と虚偽の説明における神経科学の利用、行動修正が挙げられる。カウンタープロパガンダは、物語が人々にどのような影響を与えるかを予測し、それに対抗する新たなプロパガンダを開発することを目指している。真実と虚偽の説明における神経科学の利用は、脳波(EEG)や機能的磁気共鳴画像法(fMRI)を利用して、嘘をついている時と真実を語っている時の脳の領域を特定する技術である。行動修正は、PTSDなどの精神状態の変化に対処するために、認知科学を利用することを目指している。

これらの技術に対する対策も開発されており、説得の科学における活動の強力な推進力となっている。今後も、嘘発見技術に対抗する技術の競争は加速していくと思われる。

第4章の要約

本章では、神経科学が戦闘員の強化に果たした役割について取り上げている。国家安全保障全般において監視と説得が重要であるように、国家軍にとっては人間能力強化が極めて重要である。有能な戦闘員の育成はますます資源集約的な作業となっている。21世紀の戦争は長期化し、海外の一般市民と深く関わるようになっている。

パフォーマンス向上は、戦争における古代からの手段である。アルコールが人類の最も永続的な化学的関係であるとすれば、カフェインはそれに次ぐものであり、戦争においては、記録された口頭の歴史が始まって以来、兵士の警戒心と活動を維持するために使用されてきた。第二次世界大戦中、ナチスは初期の覚醒剤であるペルビチンを大量に使用した。現在では、開戦当初の電撃戦だけでなく、ナチスがロシアに侵攻した敗色濃厚な戦いにおいても、兵士たちは覚醒剤を使用して寒さをしのぎ、戦闘能力を維持していたことが認められている。

「認知機能向上の申し子」の候補がいるとすれば、それは間違いなくモダフィニルである。モダフィニルが治療対象としている症状は睡眠障害である。1970年代後半に発見され、1998年に米国でナルコレプシー患者への使用が承認されたモダフィニルの主な市場性のある特徴は、極度の睡眠不足の状態でも服用者の覚醒を促す能力である。モダフィニルの作用機序は不明である。セロトニンやドーパミンなどの生化学的化合物の組み合わせ、脳内のフリーラジカルの抑制、覚醒と睡眠のサイクルに関連する特定のニューロン群に作用することで、モダフィニルは、実行機能や覚醒度の低下をほとんど伴わずに、個人が40時間以上活動することを可能にする。

このような持続力は、当然ながら、国防総省にとって大きな魅力であった。米空軍は最終的に、2017年にデキストロアンフェタミンの公式承認を終了し、モダフィニルの使用を推奨した。モダフィニルは、その作用機序が何であれ、アンフェタミンとは異なる臨床効果を持つ。モダフィニルは「覚醒剤」として機能せず、アンフェタミンやカフェインのような覚醒剤の感覚をもたらすことはない。モダフィニルには副作用や有害反応があるものの、それらはまれであり、他の刺激薬ほど深刻ではない。

ブレイン・コンピュータ・インターフェース(BCI)は、神経科学が目指す究極の目標である。BCIはまだ発展途上にあるが、戦闘員や情報分析官、法執行官がさまざまな機器と直接神経接続して任務を遂行できる「プラットフォーム技術」としての可能性を秘めている。BCIの基本的な考え方は単純である。人間の神経状態に関する十分な情報があれば、人の神経状態を読み取り、それを機械が読み取れるコードに変換し、コードを信号に変換し、人間の脳の一部を活性化させ、デジタル信号に対応する精神状態を誘発する装置を構築できる。

BCIに対する攻撃は、少なくとも2009年から予測されていた。BCIに対する攻撃は、問題はあるものの、原始的な影響をもたらす可能性が高い。まず、BCIを完全に操作不能にすることで、オペレーターをデバイスから単純に切断することが考えられる。2つ目の原始的なハッキング手法は、BCIにホワイトノイズを大量に送り込むことである。

技術が成熟すれば、他の可能性も出てくる。信号を乗っ取り、デバイスまたはユーザーに新たな解釈可能な入力を提供することも可能である。可能性として考えられるのは、そのような攻撃によって、ユーザーに新しいアイデアや記憶を植え付けることができるというものである。もう一つの可能性は、BCIに記録装置として機能するプログラムを組み込み、侵入時にアクセスしたデバイスから切断されている場合でも、ユーザーの感覚データを収集することである。

第5章の要約

本章では、神経科学と兵器に関する考察を行っている。まず、「ニューロウェポン」という用語は、文献では専門用語として使用されているものの、何を指すのかが不明瞭であることが多い。本章では、意図的かつ明確に、そして直接的に脳や中枢神経系を標的とし、危害を加える、あるいは軍事的優位性を確保することを目的とする技術を「兵器」と呼んでいる。

認知科学は長い間軍事の従属的な存在であった。20世紀半ばには、現代の医学研究に精神作用のある化合物のクラス全体が出現したことで、神経科学と認知心理学という新興分野と、米国の軍および諜報機関との新たな関係が示された。

α-2アドレナリン受容体拮抗薬は、心臓機能や痛みに関連する脳内の多数の受容体部位を阻害する化合物の一種である。1980年代には、米軍は無力化剤(ICAs)としてのα-2アドレナリン受容体拮抗薬の役割を研究していた。鎮静剤として、α-2アドレナリン受容体拮抗薬はICAsの定義を満たしており、中枢神経系への作用により一時的な生理的および/または精神的な影響をもたらす。

非致死性ICAの望ましさは今日も続いている。2002年の米国学術会議の報告書は、「戦闘員や扇動者を平和的に無力化する理論的可能性は、現在の多くの方法と関連付けられる暴力の必要性を減らす」と指摘している。米国の多目的文書では、非致死性兵器の展開方法について、戦争におけるRCAsの使用はCWCおよび1975年の米国大統領令の両方によって禁止されていると指摘しているが、暴動の鎮圧、盾として使われている民間人の排除、救助活動など、「防衛的な戦争手段」として使用できる可能性があると主張している。

新しい薬剤が、単に個人の意識を喪失させるよりも問題の少ない、戦略的に有用な精神状態を引き起こすことができるのであれば、これは特に真実である。神経科学における新しい技術は、鎮静効果なしに攻撃性を減少させる精神状態を変化させる薬剤を生み出す、既存の化合物の理解を深める上で特に興味深い。

BCIに対する攻撃は、少なくとも2009年から予測されていた。BCIが埋め込み型として描写され、設計されることが多いということは重要である。つまり、BCIを使用する分析者は、職場を離れた後、BCIを攻撃から守る手段を確保する必要がある。

技術が成熟すれば、他の可能性も出てくる。信号を乗っ取り、デバイスまたはユーザーに新たな解釈可能な入力を提供することも可能である。人間を攻撃するケースは、より邪悪で、より推測の域を出ない。可能性として考えられるのは、そのような攻撃によって、ユーザーに新しいアイデアや記憶を植え付けることができるというものである。

両方の技術が成熟するにつれ、両者の間に重要な共通点が生まれる可能性がある。これには2つの異なる方法があり、いずれも推測の域を出ないが、将来を見据えて検討すべきである。1つ目は、神経化学攻撃を用いてBCIを妨害する方法である。2つ目は、BCIによる神経化学的攻撃である。

第6章の要約

本章では、神経倫理学が国家安全保障上の懸念をほとんど無視してきた理由を問い、この欠落についていくつかの理由を仮定している。まず、神経倫理学は、国家安全保障に関する神経科学およびその関連技術が提起する問題に正当に対処するためには、武力紛争や警察活動の倫理に関する研究をその対象に含める必要がある。これらの追加分野は、神経倫理の歴史的背景の外にある。

次に、神経科学がデュアルユース研究の文献をほとんど無視してきたことが指摘されている。神経科学には2つの意味でデュアルユースの側面がある。第1に、開発された技術は人類を助けることも害することも可能である。第2に、神経科学における軍事と民間の研究開発には、その歴史において強い重複性がある。

さらに、新たな規範的懸念や方法論的ツールを考慮したとしても、国家安全保障の政策的な影響は、医学や科学のそれとは別個のものであると考えられる可能性がある。神経科学と国家安全保障の交差点にある神経倫理は、必然的に国際的な武器条約や国際人道法などに対処しなければならない。

また、科学技術における倫理的問題の典型的な枠組みは、新興技術と国家安全保障の評価という課題に対して、一部不適切である可能性がある。「倫理的、社会的、法的影響」(ELSI)の取り組みは、主に反応的であり、先見性がないとして、これまで何度も批判されてきた。

神経科学と国家安全保障に関して新しいものがあるかという問いに対して、本章では以下の点を指摘している。第一に、生命倫理は武力紛争や法執行の倫理原則を十分に説明できていない。第二に、神経科学と技術は、重要なデュアルユース研究および技術の一種である。第三に、国家安全保障に影響を与える神経科学研究においては、倫理的な懸念から規範的な指針、そして政策への移行がほとんど見られない。第四に、これらの技術の多くが台頭しつつある現状は、ポストELSI分析を実施する絶好の機会である。

批判的脳科学の見解から見ると、現在の脳科学研究と実際の応用との間には、非常に大きな隔たりがある。この点を踏まえると、神経科学の分析は、神経科学の推進者(または反対者)による最も楽観的な(または悲観的な)主張ではなく、神経科学が実際に何を約束できるかという冷静な見方を出発点としなければならない。

関連する批判の2つ目は、神経科学を研究する分野である神経倫理は、「ニューロハイプ(神経誇大広告)」の懸念に細心の注意を払うべきであるというものである。つまり、行動を導くための根拠が疑わしい、神経科学に着想を得た介入策のマーケティングが持つ意味について、私たちは懸念すべきである。

方法論的には、この問題に対処する2つの方法がある。1つ目は、倫理について考える際に技術の種類を考慮し、その後に規制プロセスを検討することである。重要な神経科学について考えるもう一つの方法は、戦略的目標について考えることである。神経科学と国家安全保障の分野で生じる倫理的な懸念のいくつかは、特定の技術の利用ではなく、特定の目的のための何らかの技術の利用から生じる問題である。

略語

• AAA アメリカ人類学会
• ADF オーストラリア国防軍
• AFM 陸軍野外教範
• AGI 汎用人工知能
• AI 人工知能
• APA アメリカ心理学会
• BCI ブレイン・コンピュータ・インターフェース
• BOLD 血液酸素レベル依存
• BRAIN 革新的神経技術による脳研究
• BTO (DARPA) 生物技術局 BTWC 生物・毒素兵器禁止条約 CCW 条約特定兵器使用禁止制限条約
• CIA 中央情報局
• CNS 中枢神経系 CWC 化学兵器禁止条約
• DARPA 国防高等研究計画局 DBS 脳深部刺激療法
• DOD(米国)国防総省
• EEG 脳波
• EIT 尋問強化技術
• EN-MEM 経験に基づく物語記憶ワークショップ FAS 米国科学者連盟
• FBI(米国)連邦捜査局 f MRI 機能的磁気共鳴画像法
• GTMO グアンタナモ湾、正式名称はグアンタナモ湾海軍基地
• HTS 人間地勢システム
• IARPA 情報先端研究計画局 LAWS 致死性自律兵器システム
• LSD リゼルグ酸ジエチルアミド
• MOD(英国)国防省
• N2 ナラティブ・ネットワーク・プログラム
• NAS 米国科学アカデミー
• NASA 米国航空宇宙局 NSA 国家安全保障局
• NSABB(米国)生物安全保障に関する国家科学諮問委員会捕虜 PTSD 心的外傷後ストレス障害
• SOCOM 特殊作戦コマンド SOF 特殊作戦部隊
• TIA 全情報認知プログラム TRADOC 米陸軍訓練教義コマンド UN 国際連合 US アメリカ合衆国 USAF 米空軍 USAMRIID 米陸軍感染症医学研究機関

1. はじめに

2014年後半、私はジョナサン・モレノ氏から、神経倫理と国家安全保障に関する小規模な助成金開発の依頼を受けた。当初は、単にポストドクター研究員から助教授になるためのステップのひとつに過ぎなかった。グリーンウォール財団からの少額の助成金は、履歴書に記載できるものだった。資金は主にペンシルベニア大学の資金として使われることになるが、その代わりに私は学術職市場でより高い地位を得られることになる。私は、セキュリティと神経倫理に関する懸念については熟知していると思っていた。 まれな例外を除いて、その文献は圧倒的に機能的磁気共鳴画像法(fMRI)と「嘘発見」に焦点を当てていると思っていた。大学院で私が初めて書いた論文は、「ブレイン・コンピュータ・インターフェース」(BCI)と呼ばれる技術と、軍事倫理への影響についてのものであった(White, 2008; Evans, 2011)。しかし、それ以来、このテーマについてあまり目にしたことはなかった。もちろん、人間能力強化に関する文献もあったが、軍事能力強化に関する文献でさえ、主に「人間とは何か」という問いに焦点を当てており、私はその問いには興味を持てなかった。

オーストラリアから最近米国に移住したばかりの私にとって、予想外だったのは、神経科学と国家安全保障の最先端で活躍する人々に出会うことだった。

ほどなくして、私はウィリアム・ケースビアー氏によるペン大学での講演に招待された。ケースビアー氏はフィリップ・キッチァー氏の元学生であり、キッチァー氏の多くの学生と同様に、慎重かつ厳格で、自然主義的な哲学者である(Casebeer, 2003)。しかし、それらの経歴に加えて、退役空軍中佐であるCasebeerは、全米の軍事学校で哲学を教えていた。2014年には、米国国防総省(DOD)の青空研究部門である国防高等研究計画局(DARPA)のプログラムマネージャーを退任していた。

ビルが語ったのは、嘘発見器とはまったく関係のないことだった。

むしろ、ケースビールがDARPAで開発したプログラムは、物語の神経生物学的な基礎を理解し、私たちが語る物語、つまり、単に情報を伝えるだけでなく、情報をどのように伝えるかによって、私たちがどのように影響を受けるかを理解しようとするものだった。これは、21世紀における複雑な戦闘訓練の改善と合理化に有望な応用が期待されていた。しかし、ケースビールは、プロパガンダの種類、順序、配信方法を組み合わせることで、オンライン上での過激化を検出するという別の用途もあると述べた。

後に私は、ケースビールが在任中に実施したプログラム(DARPAのプログラム担当者は、組織に新鮮さを保たせるために頻繁に異動する)は氷山の一角に過ぎないことを知ることになる。オバマ政権下で発足した「革新的な神経技術による脳研究(BRAIN)」イニシアティブは、米国の神経科学の能力を急速に発展させることを目的としているが、国防総省との関わりが深い。2013年のBRAINイニシアティブ開始当初に予算として計上された1億1000万ドルのうち、ほぼ半分がDARPAによって拠出された(ホワイトハウス、2013)。その額は時が経つにつれ増加し、DARPAの神経科学への関与はBRAINイニシアティブの成果からさらに深まっている。神経科学の国家安全保障への応用は現在多岐にわたり、物語、薬理学、そして私が何年も前に書いたBCIの研究も含まれる。神経科学は国家安全保障において活況を呈しており、国家安全保障制度へのその浸透は広範かつ深い。

神経科学は、テロリストの検知や負傷者の歩行補助、そしていつの日かPTSD(心的外傷後ストレス障害)の治療法の発見など、その潜在能力から運用面で魅力的である。また、人工知能、合成生物学、ナノ科学など、他の科学分野の「融合」のポイントでもある。これらの融合科学とその技術的応用は、幅広い疾患の治療、知覚能力を持つ機械、肉体労働の終焉、極めて長い(あるいは無限の)寿命など、さまざまな素晴らしい可能性を約束する。

しかし、あらゆる新しい発見と同様に、これらの可能性には深い倫理的意味合いがある。ここでいう「倫理的」とは、これらのテクノロジーの開発前、開発中、開発後に下される決定が、どのような価値観が重要であるかという問題に影響を及ぼすことを意味する。また、その価値観には、人間および人間以外の福祉、平等、正義、自由などが含まれるが、これらに限定されるものではない。さらに、国家安全保障への応用という観点では、これらのテクノロジーは、国家やその代理人が自国の利益を確保する上で、殺人などの本来は許されない行為が正当化される可能性がある領域に存在している。本書で取り上げるのは、神経科学と国家安全保障の交差する部分である。

1.1 国家安全保障

本題に入る前に、いくつかの定義上の問題について言及しておく必要がある。まず、「国家安全保障」という言葉が何を意味するのかについてである。ここで言う「国家安全保障」とは、近代国家の社会制度である。ここでいう「社会制度」とは、重要な道徳的目的を果たす組織、政策、法律、規範の集合体のひとつを意味する(Miller, 2010)。 その他の制度には、医療、教育、ジャーナリズム、学術機関などがある。 社会制度は、道徳的社会への貢献者およびその具体例として、倫理および政治哲学における重要な分析レベルである。また、何百万人もの人々の生活に影響を与える重要な意思決定の推進力でもある。

国家安全保障は、制度というよりも制度の集合体であるという反論があるかもしれない。刑事司法は、市民の権利を保護する独立した制度である。国家軍は、外部からの脅威から国家の主権を保護する制度である。これは一般的な区別であるが、国家安全保障を広範な分析レベルとして扱うことは、いくつかの理由から有益である。重要なのは、国家安全保障はこれら2つの組織よりもはるかに幅広い概念であるということだ。例えば、その概念の範囲内には、国境を越えた法執行や諜報活動も含まれる。これらすべての組織を結びつけているのは、共通の目的、つまり社会構造を維持するための武力行使である。社会構造が最終的に正当化されるかどうかは別の問題であり、ここでは詳しく論じない。しかし、現在の社会(ここでは主に米国について考えている)が、一部は正当化されるものである(例えば、自由民主主義として)と仮定するとしても、その一部が明らかに不道徳である場合(例えば、説明のつかない植民地支配の過去を持つ国、あるいは奴隷制の歴史を完全に清算できていない国として)でも、国家安全保障は、社会の道徳的プロジェクトが維持されることを保証する基本的社会的制度である。さらに重要なのは、国家安全保障は、その目的を達成するために、致死性を含む武力を行使する権限を与えられていることである。

私は、国家安全保障という社会制度のさまざまな部分が、制度の中心的な目的を達成する方法が異なるため、それらを区別して論じる。しかし、国家安全保障は、それに対して異なる主張を持つ可能性があるさまざまな集団と相互に作用するため、これは調整の問題でもあると私は考える。特に、他の国家とその住民の道徳的権利は、その国家の地元住民の権利とは異なる。しかし、国家安全保障の中心的な目的は、特定の国家の道徳的プロジェクトを維持することであり、その組織や役割は、この目的に異なる方法でアプローチするとしても、共通の道徳的目標を共有しているとみなすことができる。これは、医療制度の扱い方(Miller, 2010)が、特に公衆衛生や臨床医学の役割に必然的に接近しなければならないという点と広く類似している。それらは重要な方法で相互に作用するが、明確に異なる道徳的責任を伴う(Childress et al., 2002; Childress and Bernheim, 2003)。

国家安全保障を分析の対象として大きく取り扱うべき重要な追加理由は 2001年の世界貿易センタービルと国防総省への攻撃、およびユナイテッド航空93便の墜落事故の後、国家安全保障の傘下にある組織が徐々に明確でなくなっていることである。例えば、連邦捜査局(FBI、2020)は、現行の公式情報ページによると、情報収集、国家安全保障、法執行業務を担当している。2001年の同時多発テロ事件後に設立された国土安全保障省は、国外および国内の脅威に対処している。保健社会福祉省でさえ、特に生物テロに関連する外部からの脅威に対処する部署を含んでいる。

道徳的には、武力紛争、情報収集、法執行の行為の間には違いがある(Evans et al., 2014)。しかし、これらの行為の訴追は、一連の組織に分散されている。ここでは、それらをまとめて国家安全保障の制度と理解する。これは、これらの行為(およびそれらを実行する組織)に対する異なる道徳的限界を明確にするという重要な役割を果たす。また、これらの組織がどのような経緯で(良くも悪くも)存在するようになったのかという歴史的な物語も明らかにする。神経科学が提起する倫理問題を理解するためには、国家安全保障に関わる3つの主要な組織、すなわち軍、諜報機関、刑事司法をまとめて扱うべきである。

1.2 神経科学

神経科学も国家安全保障と同様に、いくつかの前提条件が必要である。ここでいう「神経科学」とは、脳の機能と、個人および集団の人間の行動との関係を科学的に研究するものである。これには、fMRI(機能的磁気共鳴画像法)などの大型診断装置による脳の研究など、従来「神経科学」と呼ばれてきた研究も含まれる。しかし、認知科学、微生物学、臨床心理学、医学、法医学、さらにはコンピュータ科学の側面も含まれる。

重要なのは、神経科学は脳だけでなく、心、精神状態、認知にも関心を持っていることだ。これらのカテゴリーの関係については、とりわけ私たちの世界のようにテクノロジーによって相互接続され、媒介されている世界では、よく論争の的となる。特に神経倫理は、人間の認知と相互作用するテクノロジーの関係について、さまざまな直接的レベルで実質的に取り組んできた。そのため、ここで少し詳しく述べる必要がある。

一般的に、私は脳を認知の唯一の場所と見なす理論、および精神一般に対して懐疑的である。人間が認知において脳のみに頼るようになってから、非常に長い時間が経過している。近年では、情報量が爆発的に増え、その種類も多様化しているため、その傾向はさらに強まっている。私は、クラークとチャーマーズの拡張された心に関する論文(1998)の支持者であるが、さらに言えば、認知の構造は脳だけに存在するのではなく、他の物体にも存在するというニール・レビーの拡張された認知に関する論文(Levy, 2007)の支持者でもある。

これらの論文については、他の著者たちによってすでに詳細に検討されているため、私はそのいずれかを擁護しようとはしない。しかし、この見解には1つの大きな利点がある。心や認知が脳だけに存在するわけではないため、神経科学やテクノロジーが「心に影響を与える」ことに関する特定の懸念は、この研究ではほとんど排除されている。これは、これらのテクノロジーが明確な倫理的懸念に値する理由についての質問に最終的に答えなければならないことを意味する(第6章で取り上げる)。しかし、これらのテクノロジーが心に影響を与えるという事実そのものについては、それほど懸念していないということでもある。これは重要である。なぜなら、国家安全保障に適用される神経科学の新たな洞察のいくつかは、ニューロンに直接化学的または電気的な介入を行い、心に影響を与えるテクノロジーとしての「ニューロテクノロジー」として表現されていないからだ。例えば、BCIや特定の化学兵器などはこれに該当するが、集団行動に関する神経科学の知見から開発されたプロパガンダなどは該当しない。私はどちらも探究に値すると考えている。実際、神経科学のより直接的、あるいはより間接的な応用が国家安全保障と相互にどのように作用するのか、また、相互にどのように作用するのかを示すつもりである。

1.3 現実と誇張

私が論じる技術の多くは、何年、あるいは何十年も前から開発されているが、まだ完全に機能する技術として実用化されていない。例えば、暗示や「マインドコントロール」に対する懸念は、半世紀前の冷戦時代にまで遡るが、脳に関する新たな知見によって再び注目を集めている(Seed, 2011)。とはいえ、映画で描かれるようなマインドコントロールは、まだ実現されていない。そのような能力がいつ実現するのか、あるいは実現するのかどうかさえも定かではない。そのため、懐疑論者は、新しい神経科学の研究に対して「だから何だ?」と言うかもしれない。

しかし、これらのテクノロジーを真剣に受け止めるべきである。まず、このテクノロジーを欲しがり、それを手に入れるために何億ドルも費やすことを厭わないグループがあることが分かっている。国内外の諜報機関は、行動可能な情報を得るために、人々の思考を操作する方法を知りたいと考えている(Wurzman and Giordano, 2014)。有罪判決を確実にするために、ある人物が嘘をついているかどうかを検証できる新しいテクノロジーを求める人々が刑事司法システムの中にもいる(Dresser, 2008; Morse, 2018)。これは、科学がまだ未熟であるとしても、これらのテクノロジーの一部を手に入れようとするインセンティブと行動があることを意味する。

よく言われるのは、「変化は容易だが、その必要性は予測できない。変化の必要性が明らかになったとき、変化は高価で困難で時間のかかるものになっている」というものだ。これは、テクノロジストのデイヴィッド・コリングリッジ(1980)にちなんで名付けられた、いわゆる「コリングリッジのジレンマ」であり、テクノロジーの倫理について考える人々につきまとう傾向がある。それゆえ、こうした国家安全保障組織の目的に注目することは、まだ変化を起こしやすいうちに、どのような変化が必要なのかを決定しようとする試みである。これは、大きな不確実性がある状況下でも、テクノロジーの倫理にアプローチする上で重要な進展であると私は考える。

しかし、もう一つの理由は、あなたが考えるよりも私たちは近いところにいるということだ。2009年、私はBCIについて執筆していたが、その時点では、この技術の主な焦点は動物実験に置かれていた(Evans, 2011)。2015年には、BCIで車椅子を運転する人々や、ジェット戦闘機の操縦(シミュレーション)を行う人々も現れた。私たちはまだ『攻殻機動隊』の世界には生きていないが、ニュースで伝えられているよりも、サイボーグの未来は近い。したがって、興味深い規範的な結論を導き出すのに十分な科学的根拠がすでに存在しており、願わくば、その結論に基づいて行動を開始すべきである。

1.4 本書の構成

この点を念頭に置き、本書は3つの部分で構成されている。第1部では、この短い序文を補強し、国家安全保障への応用が可能な4つの新興の神経科学および技術分野について取り扱う。その最初のものは、行動予測の進歩である。この章では、とりわけ、Casebeerが考案したN2と、過激化する前のテロリストを検知するその可能性について取り上げる。

行動を予測できれば、行動を制御し修正する可能性も生まれる。これは、武力紛争、テロ対策、法執行の場面における被拘留者の尋問や更生のための科学的根拠を形成する上で明確な意味を持つ。また、次世代の兵士の訓練や、戦場から持ち帰ることが多い兵士の精神的な病の治療にも重要な意味を持つ。本章では、軍事神経科学が説得の科学に参入した際の最先端の状況と、その最終目標について取り上げる。第4章では、強化について取り上げる。世界中のプロの軍隊は高齢化が進んでおり、21世紀の紛争の要求は軍隊、特に特殊作戦部隊に対する期待を拡大している。これは、より優れた戦士を求めるという昔からの探求において、生理機能の強化に加えて認知機能の強化を求めるという新たな動機を生み出した。本章では、兵士の強化がもたらす可能性について、すでに実用化されつつあるものから、遠い未来の青写真までを検討する。ここでは、神経科学および関連分野の進歩によって達成された強化に焦点を当てているが、身体と精神の間の強い結びつきについても検討されている。

第1部の最終章では、神経科学の進歩によって原理的には達成可能な新しい武器技術の展望を提示して、調査を締めくくる。2つの重要な分野が検討されている。致死性および非致死性の生化学剤、そしてBCIへの攻撃である。いずれの場合も、これらの技術の現在の開発状況が調査され、将来の可能性が概説されている。

第2部では、神経倫理がなぜ、そしてどのようにして国家安全保障上の懸念をほとんど無視してきたのかについて論じている。神経科学の知見を刑事手続きに国内で使用することに関する法的懸念には大きな注目が集まっているが、法執行機関での直接的な使用については比較的注目度が低く、テロ対策、情報収集、武力紛争における独特な課題についてはほとんど注目されていない。私は、倫理と国家安全保障に関するこれまでの研究を参考に、第2部と第3部の作業計画を提示する。

神経科学にこれほどまでに多額の投資が行われるようになった理由の一つは、軍事上の発見を民間での利益に転換できる可能性があることだ。この点においてDARPAの最も有名な功績は、現在インターネットと呼ばれているものの基礎を構築したことである。しかし、軍事分野から民間分野への転換が実際にどのように行われるのか、また、軍事科学の成果が民間世界にどのように恩恵をもたらすのかは、あまり明確ではない。第7章では、軍事資金による基礎神経科学の研究を民生分野に応用する際の課題を明らかにする。

軍事および/または民生分野での応用が実現したとしても、一見有益な技術であっても悪用される可能性があるという懸念は、有害な能力を持つ技術にとって常に付きまとう。生命科学におけるこの「デュアルユースのジレンマ」は、主に生物兵器禁止条約(BTWC)に焦点を当てた平和研究の文献において、神経科学の文脈でいくらか注目されてきた。第8章では、神経科学に焦点を当てつつ、デュアルユース研究に関するより広範な倫理文献を概観する。私は、神経科学がデュアルユース研究に関する古典的な議論から重要な乖離を示している理由を2つ挙げる。第一に、その応用は(例えば核兵器や生物兵器とは異なり)概して大量の死傷者を生む可能性はないが、他の点では広範囲にわたって有害である可能性がある。第二に、デュアルユースに関して懸念すべき行為者は、生命科学の議論では悪意があると想定されるテロリストやその他の行為者に焦点が当てられているが、デュアルユースにおいて懸念すべき行為者は、国家安全保障機関の役職者であることが多い。

デュアルユースは通常、科学が生み出されるより大きな文脈をあまり考慮せずに、個々の科学研究の事例を検討する。国家安全保障の文脈においては、特に2001年以降、これは誤りである。第9章では、腐敗の問題を取り上げる。特に、多くのニューロテクノロジーにおいては、その使用の許容性は、現時点では基本的に腐敗している制度に依存していると論じる。私は、米国の拷問プログラムにおける認知科学者の役割の分析を通じてこれを実証し、神経科学におけるコンプライアンスと説得戦略の許容性についてより広範な結論を導き出すためにこれを用いる。

私が最後に検討する問題は、新しいテクノロジーの規制に関して、ますます人気が高まっている「優越性からの論証」である。この主張は、国家が戦略的な地位を維持するためには、そして米国においては科学技術における戦略的な優位性を維持するためには、可能な限り最速のペースで技術革新を追求する必要がある、というものである。この主張の帰結として、科学技術革新に何らかの制限が課される場合、その革新が実施される国の戦略的な地位が損なわれる可能性があるため、その制限は必然的に非倫理的である、という結論が導かれる。私は、この議論の最も強い形は、市民の幸福と安全に対する幅広い訴えによって優越論を正当化するものであると主張する。そして、優越論の当初の枠組みに沿って、この種の議論は、社会に対する他の幅広いリスクと比較した場合、国家安全保障の状況における支配的な支出を正当化できないことを示す。

第2部で提起された問題は、原則的には適切な政治的意思があれば解決できる。第3部では、最初の2つの部分の調査結果と実際的な考察を組み合わせ、個々の科学者のレベルでの政策上の問題を検証することから始める。 遺伝子工学を含む新興技術の規制を試みた過去の取り組みを参考に、科学的自己規制の議論の輪郭を概説する。たとえ、他の新興技術がもたらす課題に対処するのに自己規制が十分に強固であると信じるに足る理由があるとしても、神経科学の場合はそれに頼るべきではないと私は主張する。その理由は、神経科学と国家の関係が、科学的自治の基盤となる科学の専門的規範を損なうからである。

次に、新興の神経科学がもたらす倫理的課題に対処するための潜在的な手段について、学術誌、大学、企業、専門機関といった制度レベルで考察する。この作業では、国家の安全保障を意味する新興科学技術を制度レベルで規制するための過去の提案を参考にする。私は最終的に、機関が神経科学や国家安全保障によってもたらされる倫理的問題に限定された方法で対処できる可能性はあるものの、科学研究プロジェクトへの国家安全保障関連の資金提供によってもたらされる強力なインセンティブが、効果的な機関規制の可能性を損なっていると主張する。そして、機関がこれらのインセンティブから独立性を確保するためにどのような取り組みができるか、また、国家安全保障機構に説明責任を持たせる上で機関が果たす役割について提案する。

法的またはその他の正式な規制という観点では、科学的管理において国家が依然として注目を集めている。ここでは、国家が新興の神経科学の有害な影響を防止する上で直面する課題について論じる。神経科学がもたらす課題に対処する手段として、監視、武力紛争、透明性を管理する法律や規制について概説する。これらの法律や規制を人間の認知に対する影響という観点から再定義することで、国家は神経技術の悪用に対する障壁を課すことができると私は主張する。しかし、これらの変更は、科学ガバナンスにおけるより広範な変化を模索する場当たり的な対応策に過ぎない。

私が扱う政策の最高レベルは、グローバル・ガバナンスの問題である。本章では、神経科学と国家安全保障がもたらす課題に対処するために活用しやすいグローバル・ガバナンス構造の既存のセグメントを特定する。私は、国家安全保障への応用が可能な新興技術に対して新たな条約を制定すべきだという主張がしばしばなされるが(例えば「殺人ロボット禁止キャンペーン」における一部の取り組みなど)、第2部で論じた神経科学がもたらす潜在的な倫理的課題は、既存のグローバル・ガバナンス構造を扱いやすく具体的な形で変更することで対処できると主張する。

私は、新興の神経科学技術がもたらす課題に対処するために、科学を横断的な取り組みとして、個人の実践からグローバル・ガバナンスに至るまで、どのように変えていくことができるかについて考察し、結論とする。神経科学が直面する課題のひとつは、安全保障と科学的懸念の両方を管理する上で、国際的な調和が欠如していることである。責任ある技術革新のモデルとして提案されている国際的な保健ガバナンスの枠組みを基に、新興の科学技術の悪用を防ぐための科学的ガバナンスの主要な目標を特定する。

第1部 戦う脳

2. 未来を予測する

2.1 章のまとめ

本章では、神経科学を個人および集団の行動予測に利用することについて取り上げる。まず、この広範な目的の背景にある動機について説明する。次に、この目的を達成するために神経科学を利用することについて、2つの中心的な事例を取り上げて論じる。1つ目は、人工知能の取り組みに情報を提供する上での神経科学の役割である。2つ目は、DARPAのナラティブ・ネットワーク・プログラム(N2)を主な事例として、物語がどのように行動に影響を与えるかを理解することである。これらのプロジェクトの将来の可能性と、本研究における他のテーマとの関連性について、次に説明する。

2.2 はじめに

紛争は情報の優劣によって勝敗が決まるという考え方は、長い間信じられてきた。特に、欺瞞、すなわち敵対者との間の情報の流れを制御することである(Musashi, 2005; Tzu, 2012)。 最も望ましいシナリオは、こちらがすべての情報を握り、敵が何も持っていない状態である。敵はあなたを欺くことはできないが、あなたは敵を欺くことができる。

さらに、情報における非対称性は、より非力な敵によって大いに利用される可能性がある。2001年の航空機テロ事件と炭疽菌テロ事件を受けて、最大の懸念事項となったのは、比較的匿名性の高い小規模な集団が大規模な死傷者が出る攻撃を計画し実行する能力であった。その能力は、テロ活動に関連する情報を共有し、それに基づいて行動する米国の情報機関や法執行機関の能力の欠如によってさらに強化された。

CIAにとっては、非国家主体の小規模なグループが生物兵器を製造できる可能性があるという事実は、国家安全保障に対する懸念を動機とする情報収集努力の急増につながった。米国科学アカデミー(NAS)の戦略評価グループの会議に基づく同機関の報告書『バイオ兵器の暗い未来』では、現代のライフサイエンスのツールを使用して生物兵器を製造する潜在能力がテロリストにはあること、そして、核兵器とは異なり、これらの生物兵器は検出が非常に困難であることが指摘されている(CIA 2003)。「アメリトラックス」すなわち世界貿易センタービルと国防総省に対する航空機攻撃を察知し阻止できなかったという情報機関の失敗が相まって、米国情報コミュニティ(IC)がテロリストを察知し対応する能力を抜本的に強化するプログラムが発足した。

しかし、情報管理の観点では重大な問題が生じる。より多くの情報が常に良いというわけではなく、情報が提示され、共有され、有益な方法で対応されなければ、情報は「情報」とはならない。情報があったにもかかわらず、国家の安全保障のための情報収集が失敗した典型的な例は 2001年9月11日の同時多発テロである。CIAがテロの計画に関する情報を入手していたことは広く認められているが、情報機関間の組織的な能力不足により、その情報が適切に活用されなかった(Mazzetti, 2007)。

したがって、情報収集においては、できるだけ多くの情報を収集することと、その情報が意思決定者にとって有益で実行可能な情報となることを確実にすることとの間で、緊張関係が生じる。2001年9月11日の明らかな問題、すなわち情報収集の失敗に起因する問題が解決されることを確実にするために、国家安全保障機関は多大な注意を払ってきた。2001年の同時多発テロ事件が原因で、このような考え方が生まれたと考えるのは間違いである。それどころか、同時多発テロ事件を機に、政治的な機運が高まった。しかし、本書の中心テーマは 2001年以降の国家機関としての国家安全保障の変化であり、その中には、諜報目的の情報収集と管理のためのプログラムの創設も含まれる。

国家安全保障の研究部門は、民間および公的資金による分野の両方において、情報の収集と活用の改善に貢献してきた。神経科学は、これらの新しい戦略と技術の開発において、他の分野とともに重要な役割を果たしている。神経科学は、情報収集に多くの重要な影響を与えており、本章ではその進歩について詳しく説明する。まず、個人がどのようにして暴力行為を予告したり、暴力行為を教え込まれたりするかを解明することに焦点を当てた、社会行動の予測である。次に、膨大な情報セットを処理してインテリジェンスを抽出するアルゴリズムの開発である。そして最後に、分析官や意思決定者に実行可能なインテリジェンスを提供するための情報整理ツールの開発である。

本章では、インテリジェンス収集における神経科学の利用について、その前史を明らかにする。次に、神経科学が諜報活動に情報を提供する3つの主要な方法について説明し、本章の中心となる事例研究であるナラティブ・ネットワーク・プログラム(N2)について詳しく述べる。N2は主に上記の貢献の1つ目と3つ目を取り扱っている。最後に、今後、このような技術がどのように展開されていく可能性があるかについて考察する。

2.3 闇雲な試み

情報収集は、おそらくは帰納法の芸術である。限られた過去の情報の推論から結論を導き出す能力は、論理的にも歴史的にも、困難を伴う作業である。本書は哲学的な側面もあるが、論理学や科学における帰納法の問題(例えばGodfrey-Smith, 2009)を蒸し返すつもりはない。ただし、帰納法にはよく知られた問題があるにもかかわらず、 帰納法には周知の問題があるにもかかわらず、神経科学や国家安全保障においては、帰納法は一般的であり、多くの点で必要不可欠な要素である。神経科学では、脳の状態と精神状態の関係を結論づける推論に依存している。国家安全保障では、敵対者の信号と行動の関係を結論づける推論に依存している。

国家安全保障における帰納法は、比較的単純な場合もある。例えば、敵対国が核兵器の製造能力を開発したかどうかを判断しようとする国家軍隊を考えてみよう。衛星画像から遠心分離機工場や組み立て工場、機械工場、サイロの概略を把握することができる。 決定的証拠とは、例えば、高濃縮ウラン235(U-235)の崩壊プロファイルの明確な信号、特に、他の崩壊プロファイルと比較して、原子力に必要な量をはるかに上回る量のU-235が生成されていることを示す強い信号である。このようなデータを実際に取得するという意味では、これは困難な諜報活動であるが、いったんデータが取得されれば、そのデータ自体はかなり明確である。これだけの量のU-235があれば、誰かができることは一つだけではないが、その数は十分近く、他の場所や時代で観察された過去の崩壊の兆候から得た信頼性は、新たな事例も同じであると考えるに足る理由となる。

敵対者が好戦的になるかどうかを判断するのは、より難しい。1973年の第四次中東戦争勃発を巡るアラブ諸国とイスラエルの間の現在進行中の紛争は、エジプトが攻撃の準備をしていたためイスラエルの行動は先制攻撃であるという主張、あるいは、エジプトの主張は、イスラエル国境付近で標準的かつ正当な演習を行っていただけであり、イスラエルの行動はせいぜい予防的なものであり、正当化できない侵略であるという主張のどちらが正しいかという点に帰着する。この判断の分かれ目となるのは、両国の戦略的姿勢に基づく、電子信号(傍受された通信を含む)の収集、画像、推論の複合体である。歴史的な研究としては答えを出すことは可能かもしれないが、事前決定としては、この作業は非常に困難である(Mueller et al., 2006; Kurtulus, 2007)。

2001年の世界貿易センタービル攻撃事件を機に、テロ対策のための情報収集は新たな活気を得た。その後の数十年の間に、テロリストのネットワークはより洗練され、分散化し、その活動はより目立たなくなっている。テロリストはますます組織犯罪とつながりが深くなっており、軍や情報機関は麻薬取引などテロリスト集団を支援する国内での活動について、より詳しく知る必要がある。テロ組織はまた、インターネットを大量に利用している。2004年にはテロリスト集団がTwitterの初期ユーザーとなったが、これは勧誘ツール、通信ネットワーク、監視プラットフォームとしてである(Goodman, 2016)。

現代のテロリズムの問題は、20年前よりもさらに極端である。以前は「一匹狼の攻撃者」によるものとされていたテロ活動は、現在では過激化の一般的な風潮によるものとされている。 活動中のテロ組織によるプロパガンダ、陰謀論、オンラインフォーラム、そして共感的な(あるいは少なくともあからさまに敵対的ではない)メディア環境の組み合わせが、テロ行為につながる状況を作り出している。 「確率論的テロリズム」という表現は比較的新しいが、その先駆けは、従来のネットワークのインフラストラクチャなしにテロリストを生み出すために、過激派グループが数十年にわたって行ってきた工作活動に見出すことができる。さらに、こうした行動は、現代のテロ対策のより伝統的な対象であるイスラム過激派によるテロ(Munoz, 2018)だけでなく、白人至上主義やキリスト教アイデンティティ運動(Zeskind, 2009)、米国における新たな右翼過激派運動(Neiwert, 2019)といった急進的な運動にも見られる。

少なくとも2001年以降、この問題に対する明白な解決策は、単純にすべてを監視することだった。初期の試みとして 2003年のDARPAのトータル・インフォメーション・アウェアネス(TIA)プログラムでは、単一の機関のもとに公開されているあらゆる情報を集約しようとした。しかし、このプログラムの権威主義的な含みは、TIAのロゴであるパノプティコンがそれを助長したことは確かであるが、議員や関係者から大きな圧力を受け、最終的に閉鎖されることとなった(Federation of American Scientists (FAS), 2003)。このプログラムは、情報を処理するツールの不足にも苦しんでいた。これは、今から振り返ると、DARPAはほぼ確実に予見していたことである。1999年のDARPA技術シンポジウムで、TIAを予告するプレゼンテーションが行われたが、その中で、機械学習はまだ比較的未熟な段階にあり、膨大な量の情報の分析を促進する能力に欠けていることが認められた(Fernandez, 1999)。

しかし、TIAが完全に消滅したわけではなかった。プロジェクトが予算を失った後も、そのプログラムの中核技術は国防総省から国家安全保障局(NSA)に移管された(Pontin, 2006)。その後、何が起こったのかは見えなくなっていた。

キーストローク Xや PRISMなどのプログラムが、TIAの後継となった。これらは帯域幅の物理的特性を利用して、インターネットのトラフィックの大部分にアクセスしていた。インターネットは、原則として、情報が最も速い経路を通って目的地に到達するように設計されている。しかし、南米と中東を直接結ぶケーブルは、中東とヨーロッパ、ヨーロッパと北米、北米と南米を結ぶケーブルに比べると比較的小規模である。そのため、地球上の膨大なトラフィックが、目的地に到達するために、物理的に北米を通過している。そのため、米国は同盟国(特に米国、英国、カナダ、オーストラリア、ニュージーランドの5か国による情報同盟「ファイブ・アイズ」)と協力し、インターネット上のデータとメタデータの広範な収集を行うことができた。後者は、2013年以降に米国とその同盟国による情報収集活動に関する情報が漏洩されるまで、一般的な用語として使われることはなかった(Sottek, 2013)。

こうした大規模な情報収集活動の成果を評価することは難しい。 一方で、CIAは議会への報告書の中で、10以上のプログラムがスノーデンのリークによって損なわれたと主張している。 しかし、これらのプログラムの正確な性質は依然として機密扱いであり、一般には知られていない(Sottek, 2013)。 重要なのは、大規模な監視プログラムの大部分がこれらの取り組みを決定づけたかどうかは明らかではないということだ。また、スノーデンによって明るみに出たプログラムには、特定可能な個人による特定可能な行動データの収集も含まれていた。重要な懸念は、大規模な監視活動のノイズはノイズであり、連邦捜査局(FBI)による国内での強制捜査から無人機による国外での攻撃に至るまで、国家安全保障機関による行動の根拠となるシグナルは、以前の収集努力によって検出できたはずのシグナルであったということだ。Panayotis Yannakogeorgos(2013)が述べているように、「サイバーフォレンジックのほとんどは、実際にはフォレンジックにすぎない」ため、サイバーインテリジェンスのほとんどは、コンピュータを介しているとはいえ、実際には古いインテリジェンス収集の活用にすぎない可能性がある。

しかし、(a) 大な量の通信から可能な限り多くのデータを収集したいという欲求が情報革命をもたらしたこと、そして、(b) インテリジェンスのパターンを識別するために、それらすべてを処理したいという欲求は依然として残っている。しかし、この欲求には新たな対象がある。それは、既存のテロリスト集団が実際にどのような行動を取るかというよりも、むしろ新たなテロリスト集団の出現を察知することである。オンライン空間はテロリストの勧誘に最適な環境を提供しており、いつ誰がテロ活動に加わるかを判断することは、情報機関にとって困難な新たな課題である。

2.4 神経科学からの洞察

神経科学が情報技術に与えた最大の貢献は、あまりにも明白であるため、注目されない可能性がある。ディープラーニングアルゴリズムの一部である「ニューラルネット」は、情報処理の基本でありながら柔軟な単位であるニューロンを類推してモデル化されている。これらの仕組みと神経科学との関連性を理解するには、ディープラーニングを理解する必要がある。

AIは、多くの点で、すでに存在している。しかし、これらの知能は信じられないほど限定的で、特定の目的のために構築されている。さらに、AIにはさまざまな亜種があり、それぞれ異なる手法を用いて異なる結果を導く。AIの分野は十分に専門化されているため、AIを単純に指すことは多くの場合実用的ではない。2019年のAIの倫理に関する会議では、パネリストが「人工知能」について直接語るコンピュータ科学者はまれであると嘆いていた(Goodman et al., 2019)。

ディープラーニングのアルゴリズムは、最も基本的な用語では、同様の方法で動作する傾向がある。アルゴリズムの基本構造は、アルゴリズムが提供されたデータの中で見つけるべき特性の種類を列挙して説明される。次に、これらの特性とアルゴリズムが出力すべき結果の間の一般的な構造が、詳細ではないにしても説明される。

過去のデータが追加されると、魔法が起こる。このデータは、基本的な特性と結果の間の関係の特定の事例がどのように設定されているかを示し、アルゴリズムを導く役割を果たす。 大規模で複雑なデータセットでは、人間にはこれらの関係が確率的に見える。 反復を何度も繰り返すうちに、アルゴリズムは特定の入力セットが特定の出力セットを生成するような形になり始める。 過去のデータが入力されると、特性のみを記述する新しいデータが提供され、アルゴリズムはそれらの特性に基づいて結果のセットを予測する。

ニューラルネットは、人間の神経接続の構造を出発点とするこれらのアルゴリズムの亜種である。1 脳では、各ニューロンが複数の他のニューロンと接続されており、情報の並列処理が可能であり、脳が学習するにつれて特定のパターンが強化される。ニューラルネットワークは、比較的均質な重み付けの集合として始まるが、情報が追加されると、各接続間の重み付けが提供されたデータの形を取り始め、刺激に応じて複数のプロパティ集合間の経路が作成されたり、排除されたりする。

この種のアルゴリズムは本質的に行動的であるが、その範囲は非常に限定的であることが多い。AlphaGoは、日本と中国に古来伝わる囲碁をプレイするために設計されたディープラーニングアルゴリズムである。囲碁は、19×19のマス目にタイルを配置して、領土を獲得するゲームである。ルールは非常に単純だが、盤面のサイズが大きいため、囲碁のゲームには2×10170の潜在的な構成がある。当初は、機械が人間と同じレベルで囲碁をプレイすることは不可能だと考えられていたが、ニューラルネットにより、過去の対戦を学習した機械がパターンを認識し、最終的に世界トップの囲碁棋士柯潔(Ke Jie)を打ち負かす戦略を編み出すことが可能となった(Brundage et al., 2018)。しかし、AlphaGoは囲碁をプレイすること以外は何もできない。

神経科学は、これらのアルゴリズムの開発において、しばしば影の立役者となっている。囲碁と同様に、人間の行動は非常に複雑である。しかし囲碁とは異なり、インテリジェンスの収集は高度に多様である。ソーシャルメディア、メタデータ、写真、音声録音など、非常に幅広い信号が関与している。これらの信号を実行可能なデータに統合し、それらの間の関係を特定し、何が重要かを判断することが課題となる。ここで神経科学は、ニューラルネットの作成を通じてデータの処理を支援する。

神経科学とAIの関係は、相互に強化し合う。一方では、神経科学からの洞察が、データを処理し意思決定を行うアルゴリズムの設計を考えるための基礎となる。他方では、これらのアルゴリズムは神経機能を予測するように訓練することができる。例えば、プリンストン大学のライファー研究所では、線虫(C. elegans)の神経系の動態を研究している(Nguyen et al., 2016)。同研究所は、オプトジェネティクス(遺伝子操作されたワームの脳が情報を処理する際に発光する)を利用して計算モデルを構築し、ワームの脳の全23ニューロンを記述した。もしこれが些細なことに思えるなら、この種の実験を文脈に沿って考えてみよう。 同研究所は、コンピュータサイエンスを利用して、ワームの神経学のほぼ完璧なモデルを作成した。これは、非常に単純な脳の極めて正確なモデルであり、地球上で最も複雑な脳の1つについて、大まかなモデルしか提供しない傾向にある人間の神経科学とは対照的である。

神経科学とAIのこのコラボレーションが国家安全保障にもたらすものは、敵対者の行動を記述し、予測するための一連のツールである。NSAの技術レビュー誌『The Next Wave』の2018年版では、研究者たちが神経科学とAIの知見を機械学習アルゴリズムのバージョンに組み込むことで、複雑な情報処理タスクの解決策を考案し、最終的には機械を人間並み、あるいはそれ以上の能力にまで訓練することを目指していると指摘している(McLean and Kreiger, 2018)。ここで目指されているのは、人間の分析官の業務の多くを機械に実行させることであるが、それは、旧来のインテリジェンス収集の手法ではあまりにも時間がかかり過ぎたり、複雑過ぎたりする規模でのことである。

2.5 現代の傾向:ナラティブ・ネットワーク

インテリジェンス収集における神経科学の最も興味深い応用例の一つは、監視および社会的行動予測の手段としてのナラティブ(物語)の研究である。この分野には、興味深い特徴がいくつかある。まず、この分野の主要な資金提供者であるDARPAとの密接な関係がある。次に、人間の行動に関する神経科学の洞察と、AIおよび機械学習の関係がある。

物語には多数の競合する概念があるが(Paruchabutr, 2012)、ここでは、単に命題や事実の集合ではなく、それらの事実を意味のあるものにする説明的な弧を提供する物語に情報がどのようにエンコードされるかを広く意味する。この意味の構築は、特に国家安全保障の目的においては、物語の研究の鍵となる。なぜなら、それは読者が役割を演じる物語の文脈において世界の特質を形作るからである(Finlayson and Corman, 2013)。

物語に焦点を当てることは、行動との関係から導かれる。人々は、自分自身や他者について物語を語ることで、世界を理解しようとする。こうした物語は、宇宙の起源から特定の道徳的教訓までを物語形式で提示する宗教的なテキストのように、広範で公的な永続的なものになり得る。しかし、物語は特定の個人的なものでもある。私たちは自身の物語の主人公であり、自身の人生を理解するために内的な物語を構築する(McCarthy, 1961)。

物語と国家安全保障を結びつけるのは、公的な物語が個人的な物語を形成する方法である。例えば、イエメン人の両親のもと米国で生まれ、「ISISの花嫁」として知られるようになったホダ・ムサーナという女性がいる。彼女の父親がイエメン大使館から追放された後、ムサーナはアラバマ州で育った。ニューヨーク・タイムズ紙とのインタビューで、ムサーナは、地域社会の(イスラム教徒ではない)同年代の仲間から社会的に孤立した、厳格な宗教的環境で育ったこと、そしてオンラインの掲示板やコミュニティに目を向けたことを語っている。ムスリムが多数派を占めるオンラインコミュニティ(ムスナナは「ムスリム・ツイッター」と表現)には、クルアーンの集団解釈を行うサブコミュニティがあり、その解釈は次第に過激化し、イラク・レバントのイスラム国(ISILまたはIS、通称ISIS)を支持するものとなっていた。このコミュニティに後押しされたムスサーナは、家族のもとを離れシリアに向かい、そこで一連のISIS戦闘員の妻となった。ムスサーナがISISの戦争努力に貢献した方法は、ソーシャルメディアの宣伝担当者として、欧米に住む他のイスラム教徒を勧誘する意図を持って物語を構築することだった(Callimachi and Yuhas, 2019)。2

このエピソードは、国家安全保障当局の高官、ドクトリンの執筆者、学者らの懸念をよく表している(Paruchabutr, 2012)。Casebeer(2018)は、アルカイダ、アル・シャバブ、ダーイシュなどのグループが、勧誘を目的としたオンラインでのプロパガンダ活動に従事しており、その効果は極めて高いと指摘している。彼らが主張する課題は、(a) 過激化につながる素材を特定すること、(b) 特定の個人をテロリスト集団に関与させるような素材の組み合わせを判断すること、の2点である。

これらは、2つの重大な技術的課題である。一方では、過激な内容と過激化を促す内容とを区別する必要がある。イスラム教徒によるテロ行為に過剰な注目が集まるリスクを避けるため、白人ナショナリストのテロ組織や、加害者が白人ナショナリストまたはそれに近いイデオロギーを持つ米国における銃乱射事件の増加に目を向けてみよう。政治的右派や白人ナショナリストの言説におけるすべてのイデオロギーが、それ自体で過激化を促すものであったり、個人がテロリストである証拠となるわけではない。ジョン・ボルトンは、第27代米国大統領補佐官であり、急進的な右翼政治家である。イスラム教徒、特にイランに関する彼のコメントはよく知られており、彼が率いるシンクタンクでは、反イスラム教徒の陰謀論のひとつである「白人による大量死」に関する白人至上主義者の主張を含む記事が作成されていた(Przbyla, 2018)。彼の言葉は確かに危険である。しかし、ジョン・ボルトンが単独でテロリストであるとか、米国における国内テロリストの勧誘や創出に責任があると言うのは言い過ぎだろう。

特に、ジョン・ボルトンの仕事は過激であり、白人ナショナリズムのより広範な文脈では、さらに過激化しているかもしれない。しかし、例えばウィリアム・ルサー・ピアースによる白人ナショナリズムと反ユダヤ主義を露骨に描いたフィクション小説『ターナー・ダイアリー』ほど過激化しているわけではない。この小説は、米国における暴力的な革命を描いており、その革命は、とりわけ非白人の世界的な絶滅につながる。ターナー・ダイアリーズは、オクラホマシティ爆破事件の直接的なインスピレーションとなった、米国白人ナショナリズムの礎である。この本は、爆破事件を反映したテロ行為を詳細に描いており、ティモシー・マクベイのインスピレーションの源となったとされている(Berger, 2016)。同様に、白人至上主義者やネオナチグループに共通する「14の言葉」という言葉を考案したネオナチのデビッド・レーンも、『ターナー・ダイアリー』に影響を受けていた。この14の言葉は、2019年3月のクライストチャーチ大虐殺の容疑者であるブレントン・タラントが使用した象徴となった(Evans, 2019)。

しかし、テロリストの勧誘におけるそれぞれの因果関係の度合いは、テロリズムがどのようにして発生するのかという神経心理学的な説明を展開する上で重要であり、第2の主張につながる。不快なコンテンツに長期間にわたって大量にさらされると、深刻な心理的被害が生じる可能性があることは、以前から確立されている。これは、ポルノ検閲官、性犯罪課の法執行官、そして最近ではFacebookなどの企業のコンテンツ管理スタッフの役割を調査した詳細な報告や社会科学の文献から明らかになっている(例えば、アルシュトとエトコヴィッチ、2018)。しかし、同じコンテンツがどのようにして人を動機づけ、自ら危害を加える行為に走らせるのか、また、誰が過激化のリスクにさらされているのかは、はっきりしていない。ジョン・ボルトンの言葉が特定の個人を過激化させる直接的な原因ではないかもしれないが、右派メディアの状況(主流メディア、有権者と直接コミュニケーションできる政治機関、ソーシャルメディアプラットフォームなど)における文脈は、暴力的な個人の増加につながる可能性がある。このような言葉にさらされた人々が、たとえその主張に共感していたとしても、全員が暴力に走るわけではないことはわかっている。それでは、個人および全体として、誰に対して、どのような内容が過激化につながるのか、という問題は、国家安全保障における情報収集の深刻な課題である。

このような課題は、国家安全保障の分野における情報機関や軍部を中心に、特に注目を集めている。2009年、DARPAは「経験に基づく物語記憶(EN-MEM)」と題するワークショップを開催し(Finlayson, 2013)、物語が認知にどのような影響を与えるかという問題への取り組みを開始した。これは2011年から2014年にかけて、ストーリーズ、神経科学、実験技術(STORyNET)ワークショップ(DSO、2011)を含むN2へと発展した。DARPA以外では、陸軍の非対称戦争グループが2016年の白書『Maneuver and Engagement in the Narrative Space』で、占領地域における戦闘員の交戦に対する物語の影響について詳細に説明している(DeGennaro and Munch, 2018)。それほど明白ではないが、ナラティブに焦点を当てることに隣接するものとして、戦場における潜在的な紛争の理解と回避のために、戦闘員が利用する現地の知識の説明を人類学者に提供するヒューマン・テリトリアル・システム(HTS)がある(Lucas, 2009)。

これらすべての中で、N2は神経科学と物語の関係を最も明確に示しているが、唯一の関係というわけではない。N2は、ケースビアの指揮の下、DARPAの生物技術局(BTO)の委託を受け、神経科学的な根拠に基づいて物語を理解しようとした。この場合、プログラムの発表は有益である。

物語は人間の思考や行動に強力な影響を及ぼす。記憶を統合し、感情を形成し、判断における発見的手法や偏見のきっかけとなり、内集団/外集団の区別に影響を与え、個人のアイデンティティの根本的な内容に影響を与える可能性がある。これらの影響力があるため、セキュリティの観点においてストーリーが重要であることは驚くことではない。例えば、ストーリーは反乱の方向性を変え、交渉の枠組みを作り、政治的急進化に役割を果たし、暴力的な社会運動の方法や目標に影響を与え、心的外傷後ストレス障害(PTSD)などの軍にとって重要な臨床症状にも役割を果たしている可能性がある。したがって、安全保障の文脈における物語の役割と、その役割の空間的・時間的次元を理解することは特に重要である(Sterling, 2011より転載)。

(優れた物理主義者がそうするように)精神状態が神経構造に位置していると仮定すると、物語は脳の構造に影響を与えることになる。さらに、この構造は可塑性がある。つまり、物語が個別に、あるいは組み合わさって脳にどのような影響を与えるかがわかれば、それが精神にどのような影響を与えるかがわかるということだ。

N2の課題は、まず特定の物語が特定の脳にどのような影響を与えるかを決定することだった。そのためには、物語がどのようなものか、またどのような物語が存在するかを正確に特定する必要がある。Casebeer(2014)は、物語の展開の例として、フリータッグの三角形(下図)を提示している。Freytag(2018)は1863年に執筆したもので、物語の5つの部分構造として、物語の背景と状況の説明、上昇行動、クライマックス、下降行動、そして解決が明らかになりカタルシスが得られる終結を挙げている。これは、フライタグの作品ではギリシャ悲劇やシェークスピア劇の劇構造、特に劇に当てはまる。もう一つの物語構造として、ジョセフ・キャンベル(1990)が「英雄の旅」として説明し、ルーク・スカイウォーカーから歴史上のブッダに至るまで(主に男性の)主人公に当てはめられた「単一神話」がある。

N2の課題は、これらの物語が脳にどのような影響を与えるかを、fMRIなどを用いて明らかにすることである。例えば、Bruneau(2013)らは、他者の苦悩を伝える特定の物語が、共感に関連する脳の領域に大きな影響を与えることを指摘している。つまり、ある種の物語は、共感を喚起する上で、他の物語よりも優れているという仮説である。

2つ目の課題は、特定の物語以前の神経構造と物語以後の状態との関係性を明らかにし、特定の物語構造に対して特に感受性が高い脳(そして心)がどのようなものかを特定することである。つまり、特定の物語が特定の脳にのみ影響を与え、急進化を引き起こす理由を説明することである。例えば、ジョナサン・ヘイデットなどの心理学者の研究では、個人の価値観を区別する5つの基本的な価値観(危害、公平性、所属集団、権威、純粋性)があると主張している。進歩派(ヘイデットは「リベラル派」と呼ぶ)は、 ハイトが保守派はより均整のとれた懸念を抱く傾向があると主張しているのに対し、進歩派(ハイトは「リベラル派」と呼ぶ)は、害と公正をより重視する傾向にある。(ハイト、2012年、ただしハイトの理論と倫理については、ケネットとファイン 2009年を参照)。

この予備作業が完了すれば、特に危険な物語を特定することができる。我々が懸念するかもしれないリスクは、影響の広さと影響の信頼性の両面から説明することができる。前者の説明の例としては、多数の人々の心に影響を与える物語、つまり、おそらくは特別に影響を受けやすいわけではないが、多数の人々が影響を受けやすい物語が挙げられる。2番目の種類の説明は、ある特定の種類の心に特に受け入れられやすい物語であるかもしれない。これらは連続体上に存在する。原理的には、多数の心に広く受け入れられる非常に説得力のある物語も存在する。私たちは両方について懸念を抱くかもしれないが、特に、個人や集団を急速に急進化させる能力という点で、後者について懸念を抱く。

N2の潜在能力はまだ明らかになっていないため、現在の研究から最終的な応用に至るまでの軌跡は推測の域を出ない。さらに、プロジェクトの成果は、その使命に沿って基礎科学に重点を置いたものとなった。N2に関する研究では、被験者に対する物語の神経心理学的影響が示され、それらの影響と行動反応との相関関係が試みられた。例えば、映画のサスペンスシーンの数々を見せられた被験者は、狭い範囲にしか注意を向けられなかった。被験者はその場面から周辺的なイメージを思い出す可能性が低く、fMRIは脳の視覚中枢における血液酸素レベル依存(BOLD)反応を測定した。さらに、サスペンスが高まり、落ち着くにつれて、被験者は物語の登場人物への共感が高まったと推測された。物語、特にサスペンスの物語は、その物語の外の世界に対する個人の認識を狭める可能性がある。この研究の場合、特に視覚分野においてである(Bezdek et al., 2015)。

別の研究では、fMRIによるBOLD反応を測定し、少数の視聴者における自然主義的(つまりリアルワールド)な刺激に対する神経反応の被験者間の相関関係が、同じ刺激に対する多数のグループ(数千以上)の行動を強く予測できることを実証した。研究者は広告や人気テレビ番組を活用し、特定のエピソードや広告を見たことがないが、ソーシャルメディアを通じて刺激に対する時間特異的な反応の集団レベルの証拠が大量に得られた被験者を募集した。被験者の神経反応における被験者間の相関関係は、ウォーキング・デッドのエピソードやスーパーボウルの広告など、大きな反響を呼んだ刺激に対する反応の34%を予測した。この予測は、個々の被験者の反応を予測するよりも強力であり、研究者らは、この予測によって、個人の価値観や地元の同調効果の影響をあまり受けない集団反応の優れた予測因子としてBOLD反応が確立されたと主張している(Dmochowski et al., 2014)。

2.6 監視とカウンタープロパガンダ

N2の戦略的目標は、主に監視に重点を置いている。期待される応用例としては、物語を調査し、安全保障上の脅威の出現を正確に予測できることが挙げられる。DARPAが特に注目しているのは、将来のテロリスト、特にイスラム過激派テロリストの過激化を予測することである(Casebeer and Russell, 2005; Casebeer, 2014)。

ここで中心となる目標は、特定の物語構造が神経状態や行動に影響を与えるメカニズムの包括的な説明を開発することである。現在のインテリジェンス分析では、意図を決定するために命題の内容に焦点を当てている。すなわち、脅威のシグナルとなる特定の言語行為を探している。N2が提案しているのは、潜在的なテロリストの時間軸をさかのぼり、人々が受け取っているストーリーの構造を分析して、テロリストがいつどのようにしてリクルートされているかを判断することである。このストーリーの構造は、理論的な裏付けとなる物語ネットワークによると、コンテンツそのものと同じくらい重要である。コンテンツが、読者を結論へと導くようなストーリーにどのように配置されているかは、読者が結論に共感し、行動に移す可能性を強く予測するものである。

このようなシステムの原理的な利点として、悪意のある人物が決して秘密にできないコミュニケーション媒体を特定し、活用できることが挙げられる。プロパガンダを科学的で因果関係が明確な(少なくとも強い予測性のある)事業に還元することで、N2プロジェクトは、電信送金、電子メール、電話などの従来のシギントにアクセスできない場合でも、プロパガンダをテロ活動に関する洞察として利用することができる。

白人至上主義者のテロやアルカイダの後継者など、テロリストが分散化しているケースでは、このプロパガンダは症候群監視システムとして理解することができる。公衆衛生分野では、症候群サーベイランスは、地理的に分散した医療機関から得られる症状の兆候を基に、特定の疾患状態、特に感染症の兆候を推測する。急進化の可能性が高いプロパガンダやソーシャルメディア上の声明の兆候は、季節変動以外の要因で発生するインフルエンザの流行株の出現を知らせる、予想外の上気道感染症や高熱の兆候と類似していると理解できる。

ここで取り組むべき課題の範囲を過小評価してはならない。諜報機関を完全に構築するには、以下のことが必要となる。

• 1 人間が情報を伝える際に用いる物語構造の幅広い理解
• 2 反乱軍や過激派グループに共通する物語の収集
• 3 (1)と (2)の両方の物語の相互理解と、それらが神経状態に及ぼす影響
• 4 (3)が過激化やテロ行為を引き起こす仕組みの予測アルゴリズム

(1)は心理学、修辞学、文学研究、政治学で十分に研究されている。(2)は、N2の先駆けであるプロジェクトAGILEなど、社会科学で詳細に研究されている。プロジェクトAGILEは、ベトナム戦争中に開始された広範囲にわたるプログラムで、心理戦も含まれていたが、より有名なのは、エージェント・オレンジ(1964年、アンノウン、2017)を開発したプロジェクトとしてである。N2は主に(1)に関するものであるが、(3)にも進出している。その応用は(4)の形をとる。また、大量のデータセットと潜在的に非常に複雑な証拠セットが存在することを踏まえると、ニューラルネットなど、神経科学に基づく行動予測の他の側面も(4)において役割を果たす可能性があることに留意すべきである。

(3)の領域における追加のニーズは、(2)の影響に関する自然主義的実験である。これはそれ自体、いくつかの物流および倫理上の問題を提起する。過激化を促すような素材に個人をさらすことは、過激化のリスクに加えて、それ以外では疑いようのない研究対象の人間に害を与える可能性がある。例えば、ブレントン・タラントのマニフェストや、ダーイシュが制作した斬首ビデオを被験者に提示することは、被験者にとってトラウマとなる可能性がある。しかし、プロジェクトの戦略的目標を達成し、使用するモデルシステム(映画やスーパーボウルの広告)が、同様の構造を持つがより過激な内容の物語にも有効であることを確実にするためには、これらの特定の物語の神経相関を測定することが必要となる可能性がある。

N2の最終的な実装は、私たちが当初から抱えていた問題を理想的に解決するだろう。テロリストは物語を使ってコミュニケーションを行う。諜報機関も同様である。例えば、誰かに対して法執行機関や軍事力を行使する決定を下す際には、その人物が誰で、何をしているのか(あるいはしようとしているのか)、そしてなぜそうしているのかを語る物語が必要となる。潜在的なテロリストの足跡が、何千ものソーシャルメディアへの投稿、動画コンテンツ、個人間の通信を含む可能性がある世界では、アナリストがこのストーリーを認識することは難しく、意思決定者に伝えることはさらに困難である。N2は、この両方の問題を解決する。すなわち、潜在的なテロリストにどのような影響を及ぼすかを理解するための基盤を提供し、ストーリーの中でデータを伝える方法も提供する。N2の使用例として認められているのは、アナリストとその上司に伝えるストーリーの開発である(Miranda et al., 2015)。

このように、N2は現代の監視と情報収集の全体像を明らかにする。N2は、人間同士の幅広いコミュニケーションに関する洞察を提供し、それらが暴力的行動につながる仕組みを理解するメカニズムを提供し、アナリストや意思決定者が理解できるストーリーに分析をまとめる方法を提供する。神経科学における情報収集の目標は変更されるのではなく、むしろナラティブの使用によって再定義される。

2.7 結論

神経科学は、人間の行動に関する洞察を与えてくれる。この洞察には、重要な反応を引き起こす刺激の神経相関を知ることによって行動を予測できるという直感的な魅力がある。国家安全保障機関にとって、重要な行動には過激化の出来事や計画された攻撃が含まれる。企業などの場合、重要な行動とは商品やサービスの購入であるかもしれない。ナラティブ・ネットワークは、原則的には、これらの両方の現象を説明できる能力を備えている。

ナラティブ・ネットワークの倫理的な物語、および行動予測一般については、行動予測ツールを行動修正戦略へと発展させることを視野に入れ、次章で引き続き論じる。N2の限界については、第7章「翻訳」で論じられている。N2を監視プログラムとして見た場合の倫理上の主な懸念は、まず第8章で「デュアルユース」の観点から、次に第9章で「腐敗」の観点から論じられている。第9章を読めば、N2によって提起される倫理上の問題が管轄区域を越えて存在することが明らかになるが、私は特に第11章と第13章で、これらの問題に対する個人および国家のアプローチに重点を置いている。

注

• 1 ニューラルネットワークが人間の脳を出発点としていると言うのはためらいがある。なぜなら、設計者が人間の脳に特有(少なくとも独特)なものとして一般的に関連付けられている機能や構造(精神状態を含む)を求めているかどうかは明らかではないからだ(Evans, 2021)。
• 2 ニューヨーク・タイムズ紙のムタナに関する記事に加えて、ムタナとの長い音声インタビュー「ISISに参加したアメリカ人女性」が2019年2月22日に掲載されている。しかし、将来の読者のために言及しておくべきことは、同じグループによる同様の、より有名な記事「カリフ制」が捏造であることが判明したことだ。ムターナのストーリーは印刷時には事実と一致していたようだが、同じグループによる他のインタビューが不正確または捏造であることが判明した場合に備えて、この点に留意しておく。Wemple(2021)を参照。

3. 説得の科学

3.1 章のまとめ

本章では、現代の神経科学から着想を得た説得と服従の戦略、およびそれらとより広範な国家安全保障の目標との関連について詳しく述べる。まず、薬物の使用と「マインドコントロール」の手法を考案しようとする試みの歴史的概略を述べた後、米国における現代的な情報収集における服従戦略としての(よりありふれた、そしてはるかに暗い)拷問の使用について述べる。これが、より良い説得と服従の形を求めて神経科学に訴えることの根拠となる。私は、これらの革新がたどり着く可能性のある3つの形について詳しく述べる。すなわち、カウンタープロパガンダ、真実の告発と嘘発見、非暴力的行動修正である。次に、これらの手法に対する対策の発展について、その分野の予測可能な発展として考察した上で、今後の応用と発展の方向性について検討する。

3.2 はじめに

前章では、神経科学が重要な役割を果たす監視と行動予測の進歩について取り上げた。ナラティブ・ネットワーク・プログラム(N2)について詳しく説明し、その将来の潜在的な用途についても述べた。次に、神経科学が説得、服従、統制に果たす役割について述べる。 例えが過ぎるかもしれないが、予測が完了すると、ほとんどの科学活動では次のステップとして調査対象を制御しようとする。これは核物理学でも生物学でも、そして今では神経科学でも当てはまる。

国家安全保障の究極の戦略的目標は、個人と集団の両方に適用できる説得の方法を開発することである。個人レベルでは、この種の活動に「説得」という言葉を使うのが最も妥当である。誰も誰かを操っているわけではなく、聞き手に受け入れられやすいように内容を表現する最善の方法を見つけようとしているだけである。優れたスピーチにおいて論理が重要な要素であるならば、修辞もまた許されるべきである。

この種のプロジェクトに対するあまり寛容ではない解釈は「操作」である。この操作は、単に言語的なものであり、状況や主張について最も可能性の高い解釈を提供するために、情報の省略や事実の慎重な選択による嘘によって生み出される可能性がある。しかし、操作には、侵略的または介入的な性質もある。社会レベルでは、説得は「プロパガンダ」へと発展し、コミュニティに影響を与え、コントロールを受け入れやすくするように設計された資料の開発と展開につながる可能性がある(Blank, 2017)。プロパガンダは、武力紛争と外交の両方において古くから使われてきた手段であるが、近年の神経科学の研究の急増は、プロパガンダの担い手にも教訓をもたらしている。プロパガンダの研究は、ここ2年で復活を遂げているが、その背景には、ロシアの情報機関が、2016年の米国大統領選挙をオンラインのプロパガンダによって弱体化させようとしたことが明らかになったことがある。これには、誤情報の拡散や、その誤情報を拡散させる架空の人物の創出などが含まれるが、これらに限定されるものではない。

本章では、現代の神経科学が説得の科学に貢献していることについて、その好ましい形と好ましくない形の両方を取り上げる。前章と同様に、科学の現状、歴史的背景、そして本書が扱う研究開発活動を支えるプログラムの目的をより正確に把握するために、倫理に関する問題はひとまず保留する。倫理上の問題が山積していることは疑いのないところである。しかし、本書で取り上げた多くの例と同様に、プロパガンダの科学で生じる倫理問題は、人工知能や化学兵器など、一見無関係な問題と関連しているか、あるいはそれらと並行するものである。

3.3 マインドコントロール

人間は全体として、薬物と無縁ではいられないようだ。実際、哺乳類は、酩酊や陶酔の共通体験を共有しているだけでなく、多くの哺乳類が自ら積極的にハイになることを求めていることが観察されている。 その中には、サイケデリックなキノコを求めるトナカイのように、安心感を与え、親しみやすいものもある。 また、毒キノコを食べるヤギや、幻覚作用のあるムカデの毒を故意に摂取するサルなど、私たちにとっては奇妙な例もある。さらに、ハチやオウムも酔っ払うことができる(Evans, 2016)。精神状態を操作することは明らかに人間だけの問題ではない。私見では、動物がハイになるという考えは、動物に精神状態が存在するという主張に最も近いものだ。

国家安全保障の観点では、薬物と最も直接的に関連するのは武力紛争である。兵士の体力、回復力、または警戒力を高めるために医薬品を使用することは古代にまで遡る。ギリシア人は戦いの前後に神経を落ち着かせるためにワインに混ぜたアヘンを摂取し、北アジアの草原の住民はスタミナを増強し、痛みに耐えるために乾燥した精神作用のあるキノコを摂取していた(Kamienski, 2016)。現代の軍隊では、長期作戦を理由に、軍は戦闘員の覚醒度を高めるためにアンフェタミンを処方し、その後、モダフィニルなどの化合物を処方するようになった(Repantis et al., 2010)。

国家安全保障における薬物の使用でさらに不幸な例は、帰還兵に関するものである。帰還兵は、適切な施設が不足していることや、ベトナム戦争のような反戦感情が強い紛争では民間からの敵意があることを理由に、自己投薬を行う。大衆文化では、オーストラリアのバンド、コールド・チゼルの1978年の曲「ケサン」が、退役軍人の性生活や薬物使用を扱っているとして、一時的にオーストラリアのラジオから放送禁止となった。この曲では、「スピードとノボケインに対する高まる必要性」が認められている(トロホフスカ、2018年も参照)。実証的研究は、この歌の主張を裏付けている。退役軍人は薬物乱用障害およびアルコール乱用障害の有病率が高いが、違法薬物の使用率は一般市民とほぼ同じである(Teeters et al., 2017)。しかし、戦争捕虜(POW)は一般市民よりも向精神薬の使用率が高いことが報告されている(Ursano and Benedek, 2003)。

しかし、説得の問題と特に関連性が高いのは、ある使用法である。「マインドコントロール」として一般化された、囚人から情報を引き出すこと、離反を促すこと、そして一部の軍事計画者の考えでは二重スパイを仕掛けることを目的とした向精神薬の使用は、国家軍にとって根強い懸念事項である。この懸念は、冷戦時代には驚くべき規模にまで拡大し、米国の敵対国がマインドコントロールを行っているという考えが、一般市民や政策立案者の間で広まった。この考えは米国に限ったことではなく、敵対国も同様の懸念を抱いていた時期も確かにあった。とりわけ、北朝鮮で捕虜となった兵士の数が急増したことにより、敵に協力するように米国民が洗脳されているのではないかという懸念が、マインドコントロールに対する懸念を新たな高みに押し上げた(Seed, 2011)。

その結果、悪名高いMKUltraプログラムと、あまり知られていないARTICHOKEプログラムが生まれた。MKUltraは、行動や個人をコントロールする手段として向精神薬の有効性をテストするために、米国陸軍生物兵器研究所(USABWL)の一部と協力して、中央情報局(CIA)が考案したプログラムである。CIAが選んだ薬物はリゼルグ酸ジエチルアミド(LSD)であったが、CIAはアンフェタミン、ヘロイン、シロシビン、その他の化合物と連続投与するバルビツール酸塩も広範囲に使用していた。1963年にCIA監察総監が書いた報告書では、このプログラムについて「人間の行動を制御する秘密作戦で使用可能な化学物質、生物物質、放射線物質の研究開発に関するもの」と大まかに説明されている(Faden, 1994)。

重要なのは、神経科学の先駆者を含む米国および外国の認知科学がMKウルトラ計画に深く関与していたことである。米国の生物医学倫理の父の一人であるヘンリー・ビーチャー(Beecher, 1966)は、1940年代後半にヨーロッパを訪れ、ナチスによる「自我抑制」薬や「自白剤」の存在、そしてビーチャー自身の関心事であったLSDの使用について理解を深めた。滞在中、BeecherはドイツのCIA本部、英国国防省(MOD)、そしてマリー・ル・ロワの連合軍本部を訪問した。連合国はすでにマインドコントロールや捕虜尋問の目的のための真実セラに興味を持っていた。ビーチャーは最終的にCIAと仕事をすることはなかったが(彼の努力にもかかわらず)、彼や他の人々の仕事は、すでに高まりつつあったマインドコントロールへの関心を喚起し、より密接に結びついた他の科学者たちの仕事（マークス、1988年;モレノ、2016）にも影響を与えた。

MKウルトラは、特にニューヨークで窓から身を投げた兵士の死亡事故が相次いだため、1973年にいったん保留となったが、我々の知る限り、このプログラムから何らかの成果が得られたという報告はない(Moreno, 2012)。しかし、認知科学の洞察を人間の行動を制御する目的で利用しようとする米国の取り組みがこれで終わったわけではない。こうしたプログラムの最新かつ最も悪名高い形態は、21世紀の米国の拷問プログラムという形で、再び国家安全保障機関によって拘束された個人を対象に実施されている。

3.4 拷問

米国の拷問プログラムは今では広く知られているため、そのプログラム自体が与えた打撃について詳しく述べるつもりはない。米国の医療機関が拷問の実施と、セッションの合間に拷問を受けた患者のケアの両方に深く関与していたことは周知の事実である(Miles, 2004, 2009)。 学者たちがあまり研究していないのは、米国の拷問プログラムにおける心理学者、精神科医、神経科学者などの認知科学者の役割である。

2015年の報告書では、心理学者が国防総省(DoD)による悪名高い「強化尋問技術(EIT)」の開発と実施を支援したことが確認された。以上のことを念頭に置き、はっきりと言おう。EITは、国連の「拷問および他の残虐な、非人道的なまたは品位を傷つける取扱いまたは刑罰に関する条約」(以下、「拷問禁止条約」)では拷問とされているにもかかわらず、米国の法的虚構によって偽装された拷問の一形態である。これには、被拘留者に対する屈辱行為、音声や視覚による嫌がらせ、より古典的な拷問方法(釘を抜く、押しつぶすなど)には至らない程度の苦痛を与える方法などが含まれる。つまり、米国最大の権威ある医療団体である米国心理学会(APA)が、諜報機関や軍部と結託して拷問に加担したと非難されたのだ。特に問題となったのは、APAの倫理担当ディレクターであり、弁護士であり心理学者でもあるスティーブン・ベンク氏がEITプログラムの開発に関与していたことが明らかになったことだ。

この開発は一夜にして行われたものではなく、また単純なものでもなかった。ブッシュ政権は、大統領令13440を発令し、拷問の使用を禁止するジュネーブ条約の規定に対する米国の支持を取り消した。同時に、そしてその後数年にわたって、法的および政策文書が許容される尋問の形式を改定した。2006年に更新された陸軍野戦教範(AFM)の付録Mは、尋問を目的としてCIAもこれに準拠しており、被疑者に対する尋問として、例えば、被拘留者との一切の接触を断つことや「強制的な隔離」を認めるものとなっている(陸軍省 2006)。こうした措置は、感覚遮断や社会的隔離が被収容者に深く永続的なトラウマを与える可能性があるため、米国も加盟する拷問禁止条約に違反する可能性があるとして批判の対象となってきた。

拷問や残虐な刑罰に該当しない方法でこれらの手法を実施することの複雑性も、米海軍の元法務顧問であるアルベルト・モーラ氏が「力の漂流」と呼ぶものの原因であることが指摘されている。この「力の漂流」とは、穏当な、あるいは許容される力の行使が、他の許容されない力の行使への足がかりとして用いられることを指す(Siems, 2012)。ポンペオ前長官が指摘したように、国家安全保障における制度的障壁は、CIAが2017年にAFMを尋問の指針として使用していること(米国上院、2017)や、軍と情報コミュニティが拷問の理解においてつながっていることなどから、21世紀初頭に拷問活動が始まる前よりも弱まっている。CIAは現在、被疑者に対する尋問に関する確立された一連の原則に理論上は従っているが、それらの規則はかつてよりも広範なものとなっており(そして、おそらくそうあるべきである)、ポンペオ長官による2017年の同じコメントには、情報コミュニティにとって許容される尋問を規定する並列的なより広範なガイドラインを採用したいという希望が含まれていた(米国上院、2017)。拷問を防ぐ制度は、拷問という道徳的な犯罪そのものに加えて、損なわれてきた。

この論争の中心にいたのは、スティーブン・ベンケという名の心理学者であった。米国心理学会(APA)理事会特別委員会への報告書(ホフマン報告書)によると、ベンケは心理学者が拷問に加わることを正当化する倫理指針に、微妙だが重大な変更を加えた。これらの変更は、合理的な倫理論ではなく、広報に関する政治的懸念に基づいていた。調査員は、「機密裏の舞台裏の話し合いと広報戦略を念頭に、国防総省を喜ばせるために倫理的な立場が取られた」ことを発見した(Austin, 2015, pp. 31,208–209)。

倫理担当ディレクターとして、Behnkeは心理学者の臨床実践に関する事例の審査と相談を担当していた。彼はグループメンバーの教育にも関与することになっていた。APAのレベルでは、ホフマン報告書によると、個人的な政治的イデオロギー(金銭的な動機を含む)が、倫理学者が倫理を放棄し、秘密裏の軍事活動を支援し始めたという有害な状況を生み出したようである。

さらに懸念されるのは、APA理事会が彼の行動を抑制しようとした際に、ベンケが暴走したように見えることだ。ベーンケは、情報提供者、コンサルタント、有償の尋問トレーナーとして、APAの指導部の目を盗んで国防総省と秘密裏に協力していたとされる。彼は国防総省の関係者に、「…私が、皆さんの努力、そしてわが国と自由を守る偉大な男女の努力を支援し続けるという決意を損なうものは何もない」と断言した(オースティン、2015年、38~39ページ)。報告書によると、ベンケは、尋問に参加する心理学者の適性を当然視し、その前提に立って倫理的な枠組みを設計することで、APAにおける倫理の使い方を変えてしまったという(オースティン、195-196ページ)。

その結果、心理学の分野で最大の組織であるAPAは、ダメージコントロールに追われている。構造の改善と透明性の向上を約束することで、今後このような大惨事を防ぐことができるかもしれないが、すでに被害は発生している。社会として、私たちは長年の有効性や進歩よりも、1つの悪質な出来事をより強く記憶する傾向にある。一部の者による不正行為を前にして、この分野を代表し、改善を続けていくにはどうすればよいのか。それがAPAの新たなジレンマである。

3.5 現代の傾向

しかし、拷問の使用は、国家の安全保障機関内でも非効率な戦略であると認識されている。経験則として、服従行動における痛みの役割に関する心理学の文献では、被拘留者を拷問することによって得られる情報の質は単純に質が悪いというだけでなく、拷問された者が受けるインセンティブは、たとえ被拘留者がたとえ彼らの言うことを信じたとしても、それは拷問を止めるためにどんな言葉でも信じるように仕向けられているからであり、被収容者が信じていることが本当に実行可能な情報であるかどうかを知る可能性を排除している(O’Mara, 2015)。 CIA医療サービス局は、その尋問(どのような方法が使用されたのかは特定せず)は実行可能な情報を提供しており、医療および心理的な後遺症は被収容者には見られないと主張している(CIA, 2004)。しかし、これは拷問は効果がないという長年の実証的研究文献(Blakeley, 2011; O’Mara, 2015)や、差し迫った国家安全保障上の脅威に関する実用的な情報を生み出す特定のEITの有効性に疑問を投げかけるCIA監察総監の調査結果(CIA, 2004)と矛盾する。

さらに、現地住民に溶け込み、彼らの支持を受けることさえある行為者が関わる非対称的な紛争では、「人心」が頻繁に問題となるため、拷問は戦略的に問題がある。この点を踏まえ、神経科学に基づく軍事戦略では、拷問の域に踏み込むことなく、また「強化」やその他の尋問の定義を曖昧にするような尋問の説明を開発する必要もなく、情報収集に役立つ説得のより優れた技術の開発を目指している。

3.5.1 カウンタープロパガンダ

この分野における最初の進展は、N2とその後継者たちから生まれた。 その直観は極めて単純である。すなわち、ある物語が人々にどのような影響を与えるかを予測できれば、おそらくは新たなプロパガンダによってプロパガンダの効果に対抗できるだろう、というものである。 カウンタープロパガンダは、その対極であるプロパガンダと同様に、昔から存在してきた。N2は、両者に対して科学的根拠を提供しようとしている。

神経科学、説得、尋問の関連性は、時に明白である。2007年、カンリと彼の同僚たちは、国家安全保障の観点から神経科学の利用について論じ、説得の利点は、他の尋問方法に見られる明白な戦略的優位性を排除できることであると指摘した(カンリ他 2007)。 その論理的根拠は、戦略的な情報収集の必要性があると認識されている一方で、尋問技術を必要とせずにそれが可能であるならば、拷問の暫定的な正当化は消滅するというものである。これは、自由を制限する措置は、干渉の少ない効果的で適切な対応策がある場合にのみ正当化されないという、最小限の危害原理の延長と考えることができる(Childress et al., 2002; Allen and Selgelid, 2017)。つまり、拷問を追求する理由があるとしたら、それは同じ結果を達成するのに、より侵害性の低い選択肢がない場合に限られる。説得のテクニックが拷問やEITと同程度、またはそれ以上の効果を本当に上げられるのであれば、説得を追求する理由がある。

CasebeerとRussel(2005)が国家安全保障における物語の使用を擁護する上で認識した重要な機会とは、物語を理解できれば、テロリストの長期拘留に代わる過激化防止プログラムを実施できるという考え方である。グアンタナモ湾(GTMO)のような場所でテロリストを拘留することの裏に潜むとされる問題は、いったん収監されると、彼らを釈放することが非常に困難になるということである。その理由の一部は、グアンタナモ湾(GTMO)やその他の基地の管轄権が曖昧であることと関連している。反乱軍は捕虜でもなければ、一般犯罪者として収監されているわけでもないのだ。しかし、もう一つの要因として、収監者の母国でさえも彼らを帰国させることに消極的なのは、これらの個人が単に方向転換して他のテロ行為を犯す可能性があるという見通しがあるからだ。

神経科学を利用したカウンタープロパガンダは、第2章のN2に関する私の議論で概説した手順を含む。そして、特定の物語の神経学的基礎を理解できれば、その物語をリバースエンジニアリングし、それに自分たちの対抗メッセージを盛り込むことができるという考え方に発展する。あるいは、既存の物語よりも強力な新しい物語を創作することもできる。これらの物語は、米軍またはその代理として民間メディアを通じて広め、過激派の物語や外国の干渉に対抗することができる。

3.5.2 真実を語る

神経倫理学者を魅了し、国家安全保障の文脈における神経科学の潜在的な利用法として最も議論されている可能性があるのは、ポリグラフなどの標準的な「嘘発見」方法よりも正確な真実と虚偽の説明における神経科学の利用である。これらの技術は主に、脳波(EEG)や機能的磁気共鳴画像法(fMRI)を利用して、嘘をついている時と真実を語っている時の脳の領域を特定する。これらの装置が小型化(特にEEG)されるにつれ、容疑者や被疑者が真実を語っているか、嘘をついているかを判断できるようになってきた。このため 2000年代初頭には「真実を語る」fMRI技術を提供する企業が一時的に急増したが、現在では神経科学に基づく嘘発見サービスを商業的に提供しているのはNoLieMRIという1社のみである(Choudhury et al., 2010)。

これらの企業が主張する主な利点は、他の嘘発見法よりも精度が高いことである。 嘘発見器として最も有名なものであり、現在でも法執行機関で広く使用されているポリグラフは、血圧、脈拍、発汗、皮膚の電気伝導度を測定して、対象者が嘘をついているかどうかを判断する。 しかし、ポリグラフは精度が低いことで悪名高い。嘘発見器は、被験者が落ち着いていて、面接官の質問のパターンを把握していれば、簡単に欺くことができる(Lykken, 1998)。さらに、嘘発見器を用いた面接で緊張すると、偽陽性反応が大幅に発生する可能性がある。法執行機関による嘘発見は、有罪か無罪かに関わらず、間違いなくストレスの多い出来事であることを考えると、これは嘘発見器にとって特に深刻な技術的問題である。

神経科学に基づく嘘発見は、嘘をつくことと真実を語ることに伴う神経相関を利用しようとするものである。嘘をつくことが意図的な行為であると理解される場合、何らかの意図なしに嘘をつくことはできない。もし、ある特定の意図、つまり、嘘であると知りながらある発言を真実であると主張する意図(Bok, 2011; Jenkins, 2016)が神経学的に異なるものであり、神経画像によって識別できるものであるならば、その意図を追跡することができる。したがって、誰かが嘘をつこうとしているかどうかを原理的には判断できる。誰かが実際に嘘をついたことを示す2つ目のシグナルがあれば、発言が嘘であることを知るために必要なデータが得られる。

この種のテクノロジーは、法廷で有効な証拠として認められるには至っていない。しかし、容疑者や拘留者の取り調べや質問には使用されている(Thomsen, 2015)。嘘が検出できれば、必要に応じて、回答者に嘘を明らかにさせるか、嘘を指摘することで、適切に対応することができる。これは、真実と嘘をリアルタイムで素早く仕分けし、その情報を(例えば物語研究と併用して)取り調べの生産的な解決策を生み出すために使用することで、容疑者を長時間の取り調べにかける必要性を減らすという利点がある(Marks, 2007)。

3.5.3 行動修正

現在の技術の限界において、神経科学の発展の可能性として、マインドコントロールが再び注目され始めている。最も穏やかな形態では、これは、例えば(ただし、これだけに限定されないが)暴力的な職業における職務中に生じる病的な精神状態の変化に関わるものである。心的外傷後ストレス障害(PTSD)は武力紛争や法執行に特有のものではないが、イラクやアフガニスタンから帰還した軍人により、パニック発作、薬物乱用、自殺につながる可能性のある反復思考を破壊するために認知科学を利用することへの関心が再び高まった。

この文脈において、多くの介入策が生み出された。すでに広く知られているものとしては、MKウルトラ計画で使用されたLSDとサイケデリルがある。いずれもPTSDの治療における臨床ツールとして高い可能性を持つことが分かっている。また、医療用大麻も同様である。これらの薬物は、1960年代の文化戦争の一環としてニクソン政権下でスケジュールIに指定されたが(Gasser, 1994)、治療では解決できない、あるいは効果的に解決できないトラウマに対処する重要なツールとして、ますます注目されるようになってきている。同様の応用が脳刺激にも見られる。経頭蓋磁気刺激(TMS)と脳深部刺激(DBS)は、いずれも他の治療法に抵抗性を示すPTSDの臨床例で使用されている。 TCMSでは、患者の頭蓋骨に電極を装着し、磁場を頭蓋骨全体に適用する。 DBSでは、磁束ではなく電流を使用し、頭蓋骨内に埋め込み可能な装置を配置する。 いずれも、脳内の電気信号を刺激することで同様の作用をもたらす。これらの方法を用いてPTSDを治療する試みが臨床実験として行われ、ある程度の成果を上げている。しかし、PTSDの治療においてTCMSやDBSを他の治療法と併用したり、他の治療法と比較したりした臨床試験はまだ実施されていない(Tennison and Moreno, 2012; CADTH, 2014; Lavano et al., 2018)。

3.6 対策

カウンターナラティブ、嘘発見、行動変容は、国内の法執行機関以外の諜報活動に従事する者にとって特に魅力的である。これらの技術の目的は、有罪判決を確保することではなく、将来の諜報活動、外交工作、武力行使の基盤を形成することである。しかし、これらの技術が存在するという知識は、敵対者に捕らえられた諜報要員や戦闘員に対して同じ技術が使用されるのではないかという懸念を直ちに生み出す。さらに、こうした技術が存在する可能性があるというだけで、すでに他者がその技術を習得する方法を見つけているのではないかという不安が生じる。そのため、対策もまた即座に魅力的なものとなる。

説得の科学における活動の強力な推進力となるのが防衛である。真実と欺瞞を検出する潜在的な信号として特定された(Farwell, 2001)EEGのP300信号は、法執行機関や諜報機関向けに販売され成功を収めた新興企業Cephosの主題であり、1 成功した防衛の開発の対象となってきた(Rosenfeld et al., 2004; Kathikeyan and Sabarigiri, 2012)。今後も、嘘発見技術と嘘発見技術に対抗する技術の競争は加速していくと思われる。これはここで取り上げた技術の多くに当てはまるが、中でも検知に対する対策の分野では、この競争が最も顕著である。その理由は、情報セキュリティにおける対策は、最も激しい技術革新の競争の場となっているからである。例えば暗号化の分野では、暗号化に対する防衛の考案が盛んに行われているため、検閲の試みが失敗した後の情報機関の従来の政策は、ほぼ完全に透明性を確保することである。つまり、解読できることが分かっている暗号化は、解読できることが分かっていない暗号化よりも望ましいという考え方である。

このように、脳は他の情報システムと何ら変わりはない。特定の種類のプロセス(この場合、欺瞞、過激化の傾向や行動)を検出するための手段は、対策に対して脆弱である。説得の場合、それ自体がカウンタープロパガンダの一形態であるため、カウンターカウンタープロパガンダの形成が予想され、またそうなるべきである。

このプロセスを実際に確認するために、過去半世紀にわたる白人ナショナリストのテロリズムの進化を考えてみよう。ジョージ・リンカーン・ロックウェルのアメリカ・ナチ党を繁栄させる試みは最終的に失敗したと広く考えられている。しかし、アメリカ政治が露骨な国家社会主義政府に対する感受性を欠いているという認識は、ロックウェル以降の人々を思いとどまらせることはなかった。むしろ、アメリカ・ナチズムは、ウィリアム・ピアースのようなより主流派のバージョンへと進化していった。 新右翼の台頭に関する『アトランティック』誌の記事は、アメリカ・ナチズムが失敗した一方で、その継承者たちは次第に、レトリックを正常化することに価値を見出し、自分たちの見解の仲介者として、より過激でないイデオロギー的立場に訴えるようになったと指摘している。著者のバーガーは、『ターナー・ダイアリー』を執筆するにあたり、ピースはすでに人種差別主義者であることを承知の上で、読者をより過激な見解へと駆り立てるために、「なぜ」よりも「何」と「どのように」に焦点を当てた、と指摘している(Berger, 2016)。オクラホマシティ事件後の世界において、ピアースの考えがテロ攻撃のインスピレーションとなったというこの論理の延長線上にあるのが、近年台頭している「オルタライト」である。オルタライトは、同じ考えに再び立派な顔を与え、それを主要な保守派の会議に出席させたり、人気メディアで取り上げたりしている。

これらのカウンターナラティブは、白人ナショナリストにとっては、多文化で民主的なリベラル社会の「プロパガンダ」である。国防総省やその他の組織が取り組んでいる課題は、通常はイスラム過激派のテロを念頭に置いているが、テロリストの主張を離れた新たな物語を再構築することである。この方法で成功を収める可能性はあるが、ほぼ確実に敵対者は戦術を変え続けるだろう。

3.7 マインドコントロールの未来

これらの手法が科学的に、また倫理的に厳密な検証に耐えるかどうかについては、依然として深刻な疑問が残っている。執筆時点では、これらの技術の多くは廃れつつあり、新しい技術に取って代わられようとしている。この置き換えは、技術の有効性が疑問視されるようになったという技術的な性質によるものか、あるいは、対策が開発されたという戦略的な性質によるものか、どちらかである。

しかし、ここで取り上げた技術の種類は重要であり、武力紛争をめぐる戦略的優先事項の変化を反映している。さらに、これらの優先事項は、この技術の2つのますます重要な用途を指し示している。まず1つ目は、介入のきっかけとして「暴力的過激主義への対抗」へと向かう動きであり、その目的は、市民からテロリストが生まれるのを阻止するために物語を活用することである。これは、国家の最優先事項としてテロと戦うという既存の取り組みを拡張し、テロ活動の確率的な性質に対処するために進化させたものである。

2つ目は、国家間のプロパガンダ的取り組みである。外国政府による国内政治への影響を目的としたプロパガンダの使用は目新しいものではないが、2016年の米国連邦選挙中にロシアが支援するグループが大量のコンテンツを作成していたことが明らかになり、プロパガンダへの関心が再び高まった。特に、言論に対して非常に寛容な姿勢を取る米国の機関を考慮すると、政府が独自のメッセージングでプロパガンダ的取り組みに対抗する方法を開発する必要性が高まっている。

説得とコンプライアンスに関する考察はこれで終わりである。当然のことながら、これらのテクノロジーに関する規範的な懸念の多くは、拷問やその他の政府による行為に集中しているため、第9章で取り上げる。これは第13章の国家による実施に有機的につながるが、これらの問題に対処する専門機関の役割と位置づけについては、第12章でも議論する。

注

1 最近、Googleで「Cephos」を検索すると、分子検査や製品開発、臨床研究、脳に基づく嘘発見においてブレイクスルー成果を数多く生み出してきたとされるコンサルティング会社の創設者を見つけることができる。しかし、その嘘発見サービスについてはそれ以上の言及はなく、DNAプロファイリングについてのみ言及されている。これもまた別の詐欺であり、別の書籍のためのものである。

科学の再構築

本書では、国家安全保障に適用できる可能性のある神経科学の進歩について述べ、生じる可能性のある主要な倫理的問題を特定し、それらの問題に対処するための措置となる政策変更を提案することを試みた。最初の2つについては成功したが、3つ目についてはやや不十分であった。以下では、将来の問題に目を向ける前に、この研究の結果を再度説明する。

第1部では、国家安全保障に神経科学が応用できる4つの主要分野を特定した。まず、社会行動を特定・予測するツールの開発、特にテロリストや反乱分子の急進化の初期兆候を特定するツールの開発。次に、被拘禁者を含むがそれに限定されない個人を説得し、あるいはその他の方法で服従させる戦略、および急進化やプロパガンダに対抗する技術の開発。第三に、医薬品による介入や、侵襲的および非侵襲的な装置(BCI:ブレイン・コンピュータ・インターフェースなど)を使用して、戦闘員やその他の国家安全保障要員を強化するために神経科学を利用すること。第四に、新しい劣化メカニズム、すなわち、非致死性の生化学剤の製造や、BCIによる攻撃ツールの開発、BCIそのものの攻撃を含む、新しい兵器の開発。

第2部では、国家安全保障と神経科学の分野で生じる4つの横断的問題を特定した。まず、神経科学を実用的な技術へと発展させる上で、橋渡し的な問題が存在する。この橋渡し的な問題は、特に、精神状態や認知状態を記述する際に使用するモデルの種類について考える際に生じる。また、非致死性兵器の開発においても、そうした技術が有効であるかどうかを判断する際に考慮すべき終着点(すなわち、何が真に「非致死性」と見なされるか)を定義する上で、橋渡し的な問題が生じる。最後に、強化技術の開発は、強化技術の恩恵についてどう考えるか、また、その研究に被験者をどう関与させるかについて、重要な疑問を提起する。

次に、神経科学が国家安全保障においてどのようにしてデュアルユースの懸念を引き起こすのかを示した。私は、生命科学における他のデュアルユースの事例とは異なり、国家安全保障の分野における神経科学は、国家やその代理人が(致死性)武力を行使する役割を担っているという点において、独特な問題を提起していると論じた。次に、開発の方向性が独自のリスクと利益をもたらす可能性があること、特に、開発の方向性が他の開発やガバナンスの選択肢を閉ざす可能性があることを明らかにした。最後に、デュアルユースの懸念を形作る制度の役割に注目して結論を述べた。

私が挙げた3つ目の倫理的問題は「腐敗」である。定義の問題を検討した後、米国の拷問プログラムにおける認知科学の役割を例に、科学が社会制度の道徳的目的の弱体化に因果関係を持つ非倫理的活動に加担する可能性があることを示した。私はこれを、神経科学が神経科学の悪用を防止する可能性のある制度が損なわれた9.11後の世界における岐路に立っていることを論証するために用いた。そして、神経科学の倫理における中心的な課題は、国家および国際レベルでの神経科学の誤用を防ぐために、その損害を改善することであると結論づけた。

第2部では、私が「科学的優越論」と呼ぶ議論の分析で締めくくった。この議論の概略を、歴史的および現代的な記述から説明した。そして、この議論の要点は、科学と国家安全保障の価値の関係に関する理論、および国家安全保障が他の価値体系の中で果たす役割に関する価値理論に基づいていると指摘した。私は、これらの理論のうち前者の最良の具体例は道具的関係として理解するのが最も適切であり、後者は一般的に示されるよりも競合する考慮事項に対して敏感であると結論付けた。

第3部では、第2部で特定した倫理的問題のすべてまたは一部を解決するための政策オプションについて検討した。介入の可能性がある4つのポイント、すなわち、自己統治、組織的統治、国家統治、そしてグローバルな統治を取り上げた。国家安全保障における神経科学の利用に伴う現在および将来の倫理的問題に対処するための重要な有益な方法が、各段階において存在することを論じた。しかし、各アプローチには限界があることも指摘した。

実現可能性は、今後進めていく上で中心的な関心事である。私が提案した政策提言のうち、最も容易なものは、ほとんど効果が期待できない。より意味のある変化が求められるほど、実現は困難になる。さらに、これらの選択肢はどれも解決策ではない。むしろ、より顕著な問題の一部を補強するための、寄せ集めの提案である。では、次に何をすべきか?

この実現可能性の鍵となるのは、科学者自身の役割である。私がこれまで述べてきた行動の多くは、科学という集合的な取り組み、そして個々の科学者たちに依存している。これは偶然ではなく、歴史的な現実である。一方で、科学者は高度な自律性を備えている。科学が知識を生み出すためには、おそらく(少なくとも一定の重要な制限の範囲内で)これは必要である。しかし、科学者は現在、現代科学の経済学に深く制約されており、これは科学事業の一部(すべてではないが)が、その構成員の行動の結果として入り込んだ現実である。米国では、この現実が、単に自分たちがやりたい研究を行うためだけでなく、自分自身や家族を養うためにも資金提供者への依存度が高いことを意味している。これは珍しい問題ではないが、科学のような高収入の職業ではあまり一般的ではない。科学は、天職であると同時に、依然として仕事である。仕事である以上、資金の流れを管理する者が、労働者の機能に多大な影響を及ぼすことになる。

この重大な脆弱性は、ガバナンスの4つの層すべてに共通する。それは個人に影響を及ぼし、したがって自己統治にも影響を及ぼす。それは組織の形成と軌跡を導く。それは個人と組織が国家に関与する力を弱める。また、国家が行動を起こす動機が、必ずしも適切な組み合わせで存在しているとは限らないことを意味する。特に、科学者は原則として、国家の枠を超えて行動を起こす大きな力を持っていることを考えると、その傾向は強い。

したがって、科学者たちがより強固な組織を構築する必要があるということが、重要な結論のひとつである。科学への資金提供やその応用を決定する機関は、財政難に加えて、新たな課題に対処するには不十分である。これは神経科学だけでなく、他の分野でも同様である。科学者たちは、組織化することで自分たちの生活だけでなく、他の人々の生活も改善する機会を得ている。この問題に取り組むための取り組みは存在しており、例えば、インターアカデミー・パネル(Interacademy Panel)などがあるが、その活動は主に助言的なものであり、強力な形での活動は行っていない。他にも、憂慮する科学者同盟(Union of Concerned Scientists)などがあるが、その会員数は比較的少なく、その役割は依然としてかなり専門的なものである。

私が考えているのは、むしろ労働組合に近いものである。科学と国家安全保障の関係が一方的なものになっているのは、資金提供者と科学者の関係が一方的なものになっていることが一因である。科学者たちはこれまでにも自分たちの資金調達のためにロビー活動を行ってきたが、私が提案しているのは、より包括的なものである。科学団体が協力して、科学が責任を持って利用されるよう政府に要求していくべきだと提案しているのだ。

その兆しはすでに現れ始めている。2019年には、科学者たちがGoogleとMicrosoftで、非倫理的だと考える契約に関与している雇用主に立ち向かった。Googleの場合は、科学者の団結が功を奏し、同社は方針を撤回した。Microsoftの場合は、その反対の結果となった。毎回成功するとは期待すべきではない。集団行動の運動は常に挫折を経験する。重要なのは、Googleがその慣行を変更するよう説得できれば、ほぼすべての組織でも同様に変更できるということだ。連帯には価値がある。さらに、その価値は集団行動が失敗した人々を支援することができる。科学者たちは研究資金が関わっている場合には集団行動をうまく行う能力があるが、米国における集団行動への支援の低下は、他の人々と同様に、より広範な規模での組織化に対する意欲と能力に影響を与えている。

しかし、集団行動にはもっと重要なつながりがある。科学者は一般市民に対して、自分たちは市民の利益のために行動していると保証しており、科学者に対する認識は、人々が彼らの言葉を信じていることを示している。この主張はブッシュ大統領の手紙にまでさかのぼる。しかし、それは主張以上のものにならなければならない。科学者は集団として、その主張を行動で裏付けなければならない。さらに、その行動は公共の利益のための社会を育成することを目的とするべきである。

科学は、知識が世界をより良くできるという信念の上に成り立っている。もし私の分析が正しいとすれば、介入なしにその傾向が続くとは到底言えない。証拠があるにもかかわらず、それを無視して主張を続けるのであれば、それは偽りの約束である。科学とその影響に関する規範的な説明を受け入れるか、あるいは、科学は公益のために追求されるという考えを放棄するしかない。

特に神経科学は、擁護活動に関わるべき分野である。神経科学が脳、ひいては精神の理解を目的とするのであれば、私たちは脳内で何が起こっているのかについて深く関心を持つべきである。国家安全保障は、外部および内部からの脅威から私たちを守ることを使命としている。その使命を果たすために神経科学もまた、私たちを守ることを目指すべきである。

今、それはすなわち、世界を危険にさらす後退的な社会政策と政治的意思の欠如の組み合わせに抵抗することを意味する。さらに、科学的な取り組みの社会的背景を形作る専門家や活動家たちとも、より広く関わっていくことを意味する。また、その変化を実現するための計画と行動を共に起こす時間を確保することも意味する。それは学術界内部で起こらなければならないが、同時に外部でも起こらなければならない。科学の企業統治をより説明責任のある透明性の高いものにするために。科学者一人ひとりがそうすることは、勝ち目のない提案である。だからこそ、集団行動が重要なのである。

2021年のアメリカでは、これは過激な提案である。しかし、2015年よりも過激ではないかもしれない。私は、科学者たちが自分たちや自分たちの学生たちのためにより良い環境を求めるために団結し、政府が社会に対する最大の脅威のいくつかに対する姿勢を転換することを主張する。科学者たちは私に、もはや誰も科学を信用していないとよく不満を漏らす。しかし、真実はその反対である。科学者たちは、世界を変えるために政治的な影響力を駆使できる立場にある。これは、政府が果たし得る重要な役割を軽視するものではない。国家および国際的なガバナンスの文脈においてのみ追求し得る、非常に重要な役割がある。強化に応用される人間を対象とした研究の倫理に関する説明の策定は、個人や組織によって行うことができる。しかし、その運用は政府レベルで行われることになる。

同様に、化学兵器や生物兵器の禁止に関する継続的な交渉は、主題の専門家に加えて国家が担うべき中心的な役割である。ここでも、民主主義的な関与の重要性を指摘することが極めて重要である。現在進行中の新型コロナウイルス感染症(COVID-19)の流行により、世界的な景気後退が各国の予算を圧迫する可能性が高い。防衛予算は削減される可能性があり、外交予算はほぼ確実に削減されるだろう。

この民主的な関与の拡大への訴えは、予防の網の目における欠けているピースである。デュアルユースに関する議論では、ほぼ20年にわたって、科学界は研究開発から最善の結果が得られるように、主に自らを統治できるという主張が一般的であった。しかし、欠けているのは、科学者が適切に定義されたコミュニティを形成しているとは必ずしも言えないということである。この分析では、即座に実行可能な政策目標に加えて、科学におけるコミュニティ意識を再構築するための相当な作業が必要であると指摘している。

これが何を意味するのかはまだわからない。科学における集団行動の形態を開発しようとするこれまでの試みは、冷戦時代にはほとんど成功しなかった(Rotblat, 1982)。しかし、科学者、特に神経科学者が今日直面している最も難解な倫理的問題のいくつかを解決するには、これらの考え方を再検討し、活性化する必要があるかもしれない。これは、第3部で示されているように、本書の唯一の提言であると解釈すべきではない。しかし、私見では、最も重要な提言である。