Contents
www.ncbi.nlm.nih.gov/labs/pmc/articles/PMC4106452/
オンライン公開 2014 Jul 22.
ブライアン・ラパート1,*
要旨
ここ数年、ライフサイエンス分野の研究が病気の蔓延を助長する可能性について新たな懸念が生じている中、「憂慮すべき研究」のリスクと利益を評価するプロセスを制定することが、政策対応の中心となっている。最近の例では、H5N1型鳥インフルエンザウイルスの改変に関する研究の再編集案が話題になったが、これは最も顕著な例である。しかし、このケースの特筆すべき点は、その例外性にある。この10年間、ライフサイエンス分野の出版社、資金提供者、研究機関は、検閲案はおろか、「憂慮すべき」研究を特定することもほとんどなかった。この記事では、このリスク評価の経験を反省の材料としている。憂慮すべき事例が少ない理由は、ライフサイエンスのバイオセキュリティの側面がどのように特定され、どのように記述されるか、利益とリスクの評価がどのように行われるか、価値の検討がどのように評価に入るか入らないか、そしてレビューの結果に関する情報の欠如に関連している。本論では、このような考察に基づいて、リスク・ベネフィット実験の限界と、懸念事項のフレーム化、専門家の政治性、さらには代替的な対応の見通しについて検討する。
キーワード： 合理性，リスク・ベネフィット評価，憂慮すべき研究、懸念される研究、デュアルユース研究，予防措置，生物兵器禁止条約
はじめに
記録された歴史の中で、ある人が他の人に害を与える手段を手に入れるのを阻止しようとする試みが行われてきた。紀元前6世紀にギリシャの火の製法が広まるのを阻止しようとしたことから 20世紀に原子爆弾や核兵器の設計を制限しようとしたことまで、グループや国家は、破壊的な能力が広まる可能性を制限するために力を尽くしてきた–あるときは特定の使用者を念頭に置いて、あるときは単に誰にでも、というように。コントロールの試みは、兵器そのものにとどまらない。天然資源、動物、情報、そして個人も、さまざまな方法で制限、制裁、抑制の対象となってきた。このような試みは、その時代の希望、出来事、恐怖、関心事に対応して考えられてきた。
特に、9.11とそれに続く米国での炭疽菌郵便攻撃以来、生命科学分野の研究は、誰がどのような目的で利用するのかという不安の対象となっている。生命科学が死の科学になるのをいかに防ぐかという問題は、長年の関心事や慣習に疑問を投げかける形で提起され、回答されている。注目されているのは、病原体へのアクセスだけでなく、「情報製品」と呼ばれるものの精査にも及んでいる。例えば、最近のバイオセキュリティ関連の対応の中心となっているのは、実験の成果を評価するプロセスを開発することである。このような注目は、公開することのリスクとメリットを比較検討する必要性という観点からなされている。例えば 2003年以降、いくつかの民間科学雑誌は、「公開による潜在的な害が潜在的な社会的利益を上回る」かどうかに関連して、個々の投稿を審査する手順を確立している（1）。
このような活動や、資金提供者や大学関係者などによる同様の活動は、科学の自由と国家安全保障の間でどのようなバランスを取るべきかという観点から、様々な議論を引き起こしてきた。どのような研究が行われ、それがどのように伝達されるかを制限することの妥当性について、多くの議論が行われ、時には激論も交わされた。
興味深いことに、生命科学分野のほとんどすべての知識や技術が破壊的な目的に使用される可能性があることは広く認識されているが、実際には、リスク評価で「懸念」、つまり明らかに害を及ぼす可能性があると認定されることは稀である。また、研究の有害性が有益性を上回ると判断されたことは、さらに稀である。
この記事では、この経験をもとに、なぜ、どのようにしてこのようなことが起こるのかを問いかける。議論は6つのセクションに分かれている。では、特に「憂慮すべき研究」の特定と評価、および関連する呼称について、生命科学の安全保障への影響に注目した最近の歴史を振り返る。ここで論じられるように、懸念事項の特定は限定的であり、個々の研究事例に関連する将来の利益とリスクを比較検討することは不可能であると頻繁に表明されているにもかかわらず、評価手順の制定は現在の国際的なバイオセキュリティの取り組みの中心的な役割を果たしている。第3章では、懸念を見極めるために制定された措置が、なぜほとんど実行されないのかを問いかける。
第4章では、憂慮すべき実験の評価を支える「合理性」の概念が浸透しているが、緊張を孕んでいることを詳しく説明する。第5章では、生命科学の破壊的な意味合いに関連する懸念について、別の考え方を提示する。これらは、専門知識の政治性に関する問題に関連している。特に、現在の議論の条件を再考することで、科学と社会の関係や、バイオセキュリティにおける予防措置の位置づけを理解するための新たな可能性が生まれることが論じられる。
憂慮すべき最近の歴史
知識の生産と病気を引き起こす能力との間にある関連性を考慮することには、長い歴史がある。現代生物学の過去1世紀半の間、病気に関する最新の理解が国家やその他の生物兵器プログラムに反映されてきたことが、繰り返しテーマとして取り上げられてきた(2)。このセクションでは、そのような見方が、最近の「憂慮すべき研究」という考え方につながっていることを詳しく説明する。
そもそも、過去数十年の欧米のライフサイエンス政策において、無形の知識や情報をコントロールするという提案は目立ったものではなかった。例えば、9.11以前の数年間は、生物学やその関連分野の発展によって可能になった新たな破壊的可能性について、多くの分析が行われてた(3-5)。その際、何をすべきかという提案は、病原体の移動や誰が病原体にアクセスできるかといった物理的な管理を強化することが中心であった。この流れの中で、9.11事件と米国の炭疽菌事件の直後、初期の立法措置（2001年の米国パトリオット法、後の2002年の公衆衛生安全保障およびバイオテロ対策法など）により、危険と思われるバイオエージェントの登録、移動、保管、使用、およびそれらに合法的にアクセスできる人についての要件が強化された（6）。同様の規制は、他の多くの国でも導入された。
注目すべきは、9.11以降、基礎研究の成果を精査し、安全保障上の意味合いから制限を加える必要があるのではないかという指摘がなされていることだ。例えば 2001年末、スミスクライン・ビーチャム社の元研究責任者、ジョージ・ポス氏は、米国防総省のバイオテロ対策委員会の委員長として、生物学に対し、安全保障上のセンシティビティに関して「無邪気さをなくす」ことを求めた(7)。彼にとってそれは、研究の内容を吟味したり、分類したり、その他の方法で研究の内容や発表を制限するための手続きを制定することを意味していた。同様に、当時のエプスタインは、破壊的な能力を可能にするための民間科学の貢献の可能性を検討していた。エプスタインは、「紛争性のある研究」というカテゴリーを提示し、「直ちに兵器に影響を与える可能性のある生物や知識を生み出す基礎的な生物学的または生物医学的研究であり、したがって、その研究を実施し、普及させるべきかどうか、どのように行うべきかについて疑問を投げかけるもの」としている(6)。
ポステとエプスタインの両氏が疑問を抱いた研究の代表例が 2001年初頭に発表された、オーストラリアの科学者がネズミの避妊薬を開発するために、インターロイキン4遺伝子（IL-4）をネズミ痘ウイルスに挿入したという論文である（8）。この操作により、非免疫マウス、免疫マウス、遺伝的抵抗性マウスの死亡率が高い改良型の水疱瘡が生まれた。この結果が公表されれば、天然痘を含む他の痘瘡ウイルスの致死率を高める技術が提供されるのではないかと心配された。また、ポステ、エプスタイン両氏は、当時の他の研究者と同様に、科学者が機密性の高い知識をどのように管理すべきかについて議論を始めなければ、他の研究者が彼らに強硬な手段を講じる危険性があると危惧していた。
少なくとも米国では 2001年から 2003年にかけて、バイオテロに役立つかもしれないという理由で研究成果を制限するための潜在的な根拠を確立するための努力がなされた。2002年の国土安全保障法（Homeland Security Act of 2002）には、米国政府機関が「機密ではあるが分類されていない国土安全保障情報を特定し、保護する」という要件が含まれており(9)、この規定が基礎科学にも適用されるのではないかと懸念されていた。出版物を制限する可能性についてのある議論では、起こりうる問題点が指摘され、出版物の審査システムには、「国際的な科学コミュニティの支持を得る必要があり、オープンな出版物を制限することによる安全保障上のメリットが、科学にもたらされる可能性のあるコストを上回ると認識されなければならない」と規定されていた(10)。
当時、そのような広範な支持を示す証拠はほとんどなかった。前述したように 2003年初めに、主にアメリカを拠点とするジャーナル編集者32名からなる非公式グループが、「公開による潜在的な害が潜在的な社会的利益を上回る」場合に、研究論文をレビューし、修正し、必要に応じてリジェクトするための自主的なガイドラインに合意した(1)。(しかし、このガイドラインの制定と同時に、セキュリティを動機とした制限やモニタリング措置が科学の発展を不当に阻害するのではないかという懸念が表明された（11-14）。国家安全保障機関や生命科学の専門機関で働く人々が共通して口にしたのは、研究の基盤となる情報の自由な交換が妨げられると、全体として安全保障が損なわれる可能性があるということだった(15-18)。
生命科学の研究で生み出された技術や手法、知識が破壊的な目的に役立つ可能性について、最も顕著に示されたのは 2003年末に発表された米国アカデミー報告書「テロリズムの時代におけるバイオテクノロジー研究」であった(19)。この報告書では、生命科学分野ですでに実施されている既存の（主に自治的な）メカニズムを拡張することが推奨されている。本稿のテーマに関連して言えば、いわゆる「憂慮すべき実験」について、プロジェクト前に審査を行うシステムを導入することが提言されている。報告書では、以下のような7つのカテゴリーが指定されている。
- ワクチンの効果がないことを証明するもの
- 治療に有用な抗生物質や抗ウイルス剤に耐性を与えるもの
- 病原体の病原性を高める、または非病原体の病原性を高める
- 病原体の伝染性を高める
- 病原体の宿主範囲の変更
- 診断・検出法の回避を可能にする
- 生物製剤や毒素の武器化を可能にするもの
これらのカテゴリーに該当するものは、既存のバイオセーフティや組換えDNAの審査手続きで、セキュリティ上の問題がないか審査されるべきだと主張している。この報告書では、他の国でも同じようなことが言われているが、科学における開かれたコミュニケーションの規範を損なわないようにすることの重要性にも言及している。
以上のような取り組みの中で、ライフサイエンスの研究成果が安全保障上の問題を引き起こす可能性があるという認識が生まれ、モニタリング措置の必要性が指摘されるようになった。このような考え方は主に米国で生まれたもので、テロと生物学の接点にある個別の研究事例に向けられたものであった。当時の他の国では、「憂慮すべき実験」という枠組みは、取り上げられたり、拒否されたり、無視されたりと様々であった(20)。
2001年以降の数年間は、研究による脅威が実際にどの程度なのか、どのような害が重要なのか、またバイオ攻撃の可能性や深刻さについて過去の歴史からどのような教訓を引き出すべきか、といった別の基準に基づいて様々な評価が行われていた(21)。このような違いはあるものの、当時のセンシティブな知識を特定し評価するための呼びかけには、一般的に多くの特徴があった。すなわち、オープンであるがゆえに得られる科学の利益を損なわないようにする必要があること、他からコントロールを受ける前に科学者に行動を促すこと、個々の実験に関連する将来のリスクと利益を精査の対象とすること、などである。
最後の点に関しては、限られた数の事例に注目した。先に述べたIL-4マウスポックスの研究以外にも 2002年に発表されたポリオウイルスの人工化学合成の成功例（22）や、天然痘の一種とそのワクチンを比較して、ワクチンの致死率を高める方法を示唆した実験（23）などが挙げられる。
評価の経験
先に述べたセンシティブな知識の特定と評価の試みは、将来起こりうる有害性と有益性に基づいて、特定の研究を進めるべきか、伝えるべきかを判断するための重要なポイントを確立しようとするものであった。「憂慮すべき実験」が最初に示されてから数年後、ライフサイエンスの安全保障への影響を示すこのような枠組みは、国際的な政策議論の中でより広く普及していった。例えば、「Biotechnology Research in an Age of Terrorism」が出版された後、世界保健機関（WHO）が発表した「Life Science Research: Opportunities and Risks for Public Health and Risk」のように、「害と利益」あるいは「リスクと利益」に関連した研究のレビューを行うべきだという同様の呼びかけが数多く行われた。世界保健機関（WHO）の「ライフサイエンス研究：公衆衛生のための機会とリスク」や、米国医師会の「生物医学研究の悪用を防ぐためのガイドライン」などがある。イギリスのバイオテクノロジー・生物科学研究評議会，医学研究評議会，ウエルカム財団は，2005年に不正使用の可能性がある助成金申請に対する審査手続きを採用した(24)．このような動きがあったにもかかわらず、このような評価がどのように行われるのか、あるいは実際に行われているのかについては、ほとんど公表されなかった。
「テロリズム時代のバイオテクノロジー研究』の提言を受けて 2004年初めには、連邦政府が支援する「デュアルユース」研究の取り扱いに関する監督戦略、ガイドライン、教育について助言を行うために、バイオセキュリティに関する国家科学諮問委員会（NSABB）が設立された。NSABBの任務には、リスクと利益を特定して評価するための基準を策定することも含まれてた。2007年には、「デュアルユース生命科学研究の監督のための枠組みの提案」という文書の中で、2種類の科学の違いを提示した。「デュアルユース研究」とは、「一般的には、農業、植物、動物、環境、材料など、公衆衛生と安全、および国家安全保障の他の側面を脅かすために悪用される可能性のある情報をもたらす可能性のある、合法的な生命科学研究を指す」とされた(25)。ほぼすべての科学がこのように利用される可能性があるため、NSABBは「憂慮すべきデュアルユース研究」（DURC）という別のカテゴリーを設けた。DURCとは、「現在の理解に基づいて、公衆衛生や安全、農作物などの植物、動物、環境、物質を脅かすために直接悪用される可能性のある知識、製品、技術を提供することが合理的に予想される研究」を意味する（23）。
NSABBの枠組みでは、研究代表者がDURC研究を行っていると判断した場合、組織内のリスクレビューを受けて以下の評価を行う。「このようにして、個々の研究事例のリスク評価のための一般的な枠組みが構築された。
NSABBをはじめとする研究結果の精査に関する活動は、研究結果が科学にもたらす危険性について、社会的、政策的、倫理的な議論を巻き起こしてきたが（27-29)レビューの注目すべき点は、問題があると指摘された出版物、助成金申請書、プロジェクト提案書がほとんどないことである。例えば、「憂慮すべき実験」というカテゴリーが最初に提示された後の期間を考えてみよう。米国微生物学会が2003年のジャーナル出版ガイダンスを採用した後、同学会のジャーナルに投稿された16,000本の原稿のうち、バイオセキュリティに関する追加のピアレビューを受けたのはわずか3本であった。2006年末までに、ウエルカム財団は、追加のセキュリティ調査が必要な3つの提案を特定し、全体的なバランスから見て懸念があると判断された提案はなかったと報告している(26)。また、米国の国立研究評議会の報告書「Seeking Security: また、「Seeking Security: Pathogens, Open Access, and Genome Databases」と題された米国National Research Councilの報告書では、セキュリティ上の懸念が大きいゲノムデータを特定できるようになるという見通しに反論している（17）。2005年に発表された1918年スペイン風邪ウイルスの配列決定（30）とそれに続く人工的な再構築（31）の場合でさえ、関係するジャーナルはリスクを上回るメリットがあると判断した。2007年までのこのような経験から、NSABBはDURCに該当するケースは「ほとんどない」と予測し、研究責任者による実験の初期評価に時間をかけるべきではないと考えたのである（32）。
この全体的なパターンは、今日まで続いている（33）。2009年から 2014年初頭にかけて、ウエルカム財団が資金調達委員会に不正使用の可能性について精査を求めた申請はわずか2件で、いずれもセキュリティ上の懸念からではなく、科学的なメリットを理由に資金提供が見送られている（David Carr, personal communication, 12 February 2014）。2005年から 2008年の間にNature Publishing Groupに提出された74,000件の生物学的論文のうち、不正使用の可能性があると確認されたのは28件のみで、この理由で却下されたものはなかった(34)。デンマークのバイオセキュリティ・バイオプレパレーションセンターは、デンマークで直接兵器の可能性のある新技術を生産するプロジェクトのライセンスを取得しているが、DURC出版物のケースは確認されていない（John-Erik, personal communication, 29 January 2014）。
このような全体的な状況は 2001年以降、米国でバイオディフェンス研究の資金が数十億ドル規模で増加し、その多くが民間の研究を支援しているという状況の中では注目に値する(35)。この大規模な拡大は、憂慮すべき可能性の高いタイプの研究に資金を誘導したが、その後、実際にそのような事例はほとんど確認されていない。バイオディフェンス研究の資金の多くは、米国国立衛生研究所（NIH）の国立アレルギー・感染症研究所（National Institute of Allergy and Infectious Diseases）が提供している。NIHの所長は、ここ数十年の間に、資金提供された研究が過去にさかのぼって不適切な資金提供や発表であったと判断された例はないと述べたと報じられている(36, 37)。定期的に多数の多様な研究事例が指摘されるのではなく 2003年以降、限られたいくつかの実験が繰り返し引用されるようになっており(38)、本稿執筆時点での最新事例は、1918年のスペイン風邪ウイルスに似たウイルスを逆遺伝学的に作り出し、その後変異させたものである(39)。
このような経験から言えることは、「生命科学の二次利用の監督のためのフレームワーク案」やその他のイニシアチブでは、評価のプロセスを概説しているものの、将来起こりうる利益と害をどのように評価し、判断するかについては実際には明記されていなかったということである。当時、このギャップを認識していたため、新しいリスク評価ツールの開発を求める声が上がっていたが、それはバイオ攻撃の可能性と影響を客観的に定量化する必要があるという言葉で表現されていた（40,41）。NSABBの活動においても、研究のデュアルユースの可能性の評価は必然的に主観的なものになることを認識した上で、厳密で価値のない計算ができると信じていた(42)。
実際には 2007年に「デュアルユースライフサイエンスの監督のためのフレームワーク案」が発表されるまで、セキュリティ上の重大な懸念があると認識されていた実験はほとんどなかったが、これは、実践的な科学者が自分の研究の悪意のある応用にほとんど気づいていないという主張と同時にあった。世界医師会、米国アカデミー、英国王立協会、赤十字国際委員会、ウエルカム財団、インターアカデミー・パネル、NSABB、国際科学評議会などが、科学者が自らの研究に関連する潜在的な危険性についてもっと教育する必要があると主張している(43)。少なくとも理論的には、このような理解の向上の必要性は、個人が必要な認識を持てば、異なるパターンのレビュー結果が得られる可能性を残している。
しかし、教育の必要性は科学者に限ったことではない。また、デュアルユースの議論では、一般の人々の理解に対する不安が繰り返し表明されてきた。例えば、NSABBのコミュニケーションワーキンググループでは、設立当初は研究から生じる安全保障上の脅威に注目していたが、その審議の過程で、一般市民の誤解によって引き起こされる研究への脅威にも注目するようになった(44)。
H5N1の例外的なケース
2007年6月から 2011年末までの間、NSABBの「デュアルユースライフサイエンスの監督のためのフレームワーク案」は、米国の歴代政権からの正式な回答を待つという不確実な状況にあった。しかし 2011年後半にH5N1型インフルエンザウイルスを用いた実験が注目を集め、デュアルユースへの関心が大きく変化した。当時、エラスムス医療センターのRon Fouchierとウィスコンシン大学マディソン校のYoshihiro Kawaokaが率いる2つのグループが、H5N1株の哺乳類への感染性に関する原稿を「Science」と「Nature」にそれぞれ投稿した。それまでは、H5N1は物理的な接触によってのみ感染することが知られていた。具体的に何が実証されたかについては議論の余地があるが、この研究によって、遺伝子兵器と、より一般的な哺乳類間の空気感染との間に偶然の関連性がある可能性が明らかになった。
米国のバイオセキュリティ科学諮問委員会がこの出版物を検討した結果、悪性の可能性を減らすために特定の詳細を削除した上で、出版を進めるべきだという結論に達した(47)。その後の幅広い議論の中で、40人のインフルエンザ研究者のグループによって1年間のモラトリアムが開始された（48）。これらの動きは、生命科学の安全保障への影響についての議論を再燃させた。一般的には、安全保障の名の下に科学の自由を損なうべきかどうかという観点から議論される。WHOは2012年2月に国際会議を開催し、実験に関する未公開情報を追加で聴取した（49）。その会議では、パブリックメッセージに関する問題が解決されたら、論文のフルバージョンを公開すべきだという結論が出された。この論争を受けて、米国保健社会福祉省は2012年3月、DURCライフサイエンス研究に関する方針を改定した（50）。
このH5N1の経験は、憂慮すべき実験のガバナンスに関連する最近の議論を支配し、審査手続きの実施に新たな注目を集めているが（51-53)おそらく最も注目すべきはその例外性である。セキュリティ上の理由から詳細を伏せるよう勧告されたことと、行われた政策的・公的議論の範囲の両方において例外的である。
前者については、詳細情報の開示を求める勧告が後に覆されることになった。2012年3月下旬、NSABBは再招集され、決定を覆して両論文の修正版の発行を全面的に支持した。その理由として、新しい情報が得られたことで、研究がすぐに悪意のある能力を発揮することへの懸念が減り、公衆衛生上のメリットが大きくなったことを挙げている(54)。
H5N1のケースは、リスク・ベネフィット評価との関係が複雑であるという点で、憂慮すべき実験に関する他の議論と似ている。例えば、NSABBは最初の決定を覆す際に、「理事会の議論は、DURCの伝達に関連するリスクと利益を検討するために以前に作成した分析フレームワークに基づいて行われた」と主張した(54)。(54）そのフレームワークとは 2007年に発表された「Proposed Framework for the Oversight of Dual-Use Life Sciences Research: Strategies for Minimizing the Potential Misuse of Research Information」である。しかし、前述したように、このフレームワークでは、将来起こりうる利益と害をどのように評価し、実践的に判断するかについては規定されなかった。その代わりに、DURCの事例を処理するための組織的なプロセスが示された。
リスク・ベネフィット評価の問題点を示すもう一つの例として、NSABBのベネフィットとリスクの評価方法に対する懸念が、報道機関に流出したNIHへの批判的な回答書に示されている。2013年3月のNSABB会議で12対6の賛否両論があった論文の1つについて、ある理事がこう嘆いている。
科学的・政策的なリスク・ベネフィット分析よりも、いかにしてこの困難な状況を打開するかという解決策に偏っていたと思う。また、将来的にもこのようなやり方では、生命科学の研究者、雑誌編集者、政府の政策立案者など、すべての人が、DURCの管理や、意図的または無意識に公共の安全を脅かす方法で有害な情報を使用する可能性のある人々への情報提供という非常に困難な課題に取り組むことなく、「道を蹴る」ことを続けることになると思う(55)。
さらに進んで、DURCの問題に関して利益とリスクを比較検討することはできないという結論を出すコメンテーターもいる（56）。しかし、他の場所では、「研究提案に関連する潜在的なリスクとベネフィットの範囲と大きさを慎重に検討し、リスクがベネフィットを上回るかどうかを評価し、潜在的なリスクを軽減するための戦略」(57)の必要性が引き続き信じられており、これは2013年初めにNIHが米国保健社会福祉省の高病原性鳥インフルエンザH5N1ウイルスが関与する個々の提案に対する資金提供の決定の枠組みのためのガイドに記載されている。
このような研究を特定し、評価するためのプロセスを考案することは、国際的にも注目されている。DURCタイプのモニタリングフレームワークの必要性は、生物兵器条約（58）の一部として一部の政府が提唱していることを含め、他の場所でも指摘されている。
なぜ「ほとんど何もない」のか？
10年以上前から、生命科学研究で得られた知識が破壊的に応用される可能性に注目が集まっており、その実現を阻止するために必要なガバナンス対策があるとすれば、それはどのようなものなのかが注目されている。具体的な内容は様々であるが、一般的に「憂慮すべき研究」と呼ばれるものへの注目は、材料、機器、人員に関する伝統的なバイオセキュリティの先入観を超えた動きを示している。
前のセクションでは、いくつかの不思議な点に注目した。懸念事項の評価がしばしば重要視されるにもかかわらず、実際にはそのような事例はほとんど確認されていない。さらに 2003年以降、民間の正式なレビューにおいて、リスクが利益を上回ると判断されたケースは（最終的に）ないようだ。このような実績に基づいて、次のような重要な質問をすることができる。このような実績を背景に、「懸念がほとんど確認されていないのはなぜか」、「明らかに意味がないにもかかわらず、評価プロセスの価値をどのように信じているのか」、「どのような別の理解の仕方が可能なのか」といった重要な質問をすることができる。
このセクションでは、主にこれらの質問の最初の部分を取り上げる。そのために、なぜケースが特定されていないのかを示唆するために、利益と害を特定して比較することを検討する。
憂慮すべき対象は何か？
まず、何が問題なのか、基本的な枠組みを考えてみよう。他にどのような違いがあるにせよ、憂慮すべき研究を確立しようとする様々な試みは、一般的に、研究の特定の事例を中心に評価を行うという点で共通している。評価手順でも教材でも（59)これは個々の（あるいは場合によっては複数の密接に関連した）研究申請、実験提案、投稿原稿に注目することを意味する。このようなケースは、潜在的にセンシティブな知識の保持者として想定されている。
このように、一つの知識を懸念材料として特定するには、その知識の一般的なストックへの貢献度を他のものと区別することが必要である。科学技術の発展は一般的に累積的な達成であるため、これはしばしば困難である。ある一連の発見が懸念をもたらしたと主張する過去の試みに対し、過去の研究は懸念の根拠を示唆していた、あるいはすでに示唆していたとの反論がなされてきた(60-62)。これまで知られていたことからの脱却が不十分であればあるほど、安全保障上の懸念を正当化することは難しくなる。
対照的に、これまでの政策議論では、ラインや作業プログラムに対して評価が行われたことはほとんどない(63)。しかし、これらを精査の対象とすることで、より幅広い質問と可能性の余地が生まれることは間違いない。例えば 2005年に発表された1918年スペイン風邪ウイルスの配列決定とその人工的な再構築に関する論文は、資金提供を受けて発表された一連の長い研究の最終的な成果に過ぎなかった(64)。その結果 2005年の出版物に関連した活動を、結果が『Science』や『Nature』に掲載される前に精査することができたのである。この実験を進めるべきか、発表すべきか」という問いかけではなく、「そもそもどのような研究に資金を提供すべきか」という広い意味での問いかけも可能である。資金が限られている状況では、どの研究を支援し、どの研究を支援しないかという選択が必然的になされるため、後者の認識は重要である(65)。そのため、WHOが2013年に開催したDURC会議の報告書では、次のように述べられている。
科学研究は、ほぼすべての国で行われており、自然発生的なものや、偶発的または意図的に放出された生物製剤によるものを含め、あらゆる健康上の脅威や危険に対する世界的な対応を強化するために不可欠である。DURCが悪用される可能性を排除する唯一の方法は、研究を行わないことである。しかし、このような極端な解決策は、実現可能でもなければ、推奨できるものでもない（66）。
また、ある種の研究を他の研究よりも支援するという選択が日常的に行われていることを認める余地もないであろう（65）。進むべき道があっても、進まない道もたくさんある。
個々の実験や出版物に注目することは、懸念事項を特定するためにも重要である。なぜなら、一般的に最新の、つまり最も技術的に洗練された、高価で排他的な研究に注目が集まるからである。このような高度な技術のために、他のグループがその研究を再現することがどれだけ可能かについて疑問が生じることがある(67)。その結果、どのような能力が広く利用可能になりつつあるかを検討する場合に比べて、評価がはるかに困難な状況になっている。
懸念はどのように特定されるのか？
研究の個々の事例が潜在的な懸念の保有者であるという共通の概念に基づいて、これまでに制定された評価手順と実践にさらなる疑問を投げかけることができる。
先に述べたように、さまざまな組織が、実践する科学者が自らの活動の破壊的な可能性を認識することの重要性を強調している。このような認識がなければ、研究責任者による懸念事項の特定に依存した評価方法は想定通りに機能しない。しかし、このような必要性に反して、多くの経験的研究は、このような意識を持っている実践者は比較的少ないことを示している(68)。したがって、懸念事項の特定の頻度が比較的低いのは、意識の欠如に起因すると考えられる。この点と、研究者が自らの研究を評価することに伴う利益相反を考慮して、メリーランド州の国際安全保障研究センターは、科学と安全保障の専門家を含む独立したピアレビューを要求するモニタリングシステムを推進した（69）。
研究が懸念材料として認識される場合とされない場合の不確実性は、研究の可能性が注目される前と後の両方で考慮されているかどうかを調べることで明らかになる。例えば 2001年初頭に発表されたIL-4マウスポックスの場合、関係したオーストラリアの科学者たちは 2001年以前に他の研究者が行った研究や 2001年以降に自分たちが行った後続の研究が、ウイルスの致死性を高める方法を示していると主張した(70)。しかし、これらの開発に対する専門家や世間の評価は低いものであった。
懸念を判断する方法として、正式なレビューには限界があることを示唆する根拠は他にもある。公式レビューと非公式の実践との比較は、そのような根拠の一つである。米国国家研究会議（National Research Council）と米国科学振興協会（American Association for the Advancement of Science：AAAS）が2007年に実施した調査では、生命科学に関心のあるAAAS会員を対象に、二重使用に関する知識と経験を尋ねた。その結果、6人に1人近くが、バイオテロに使用される可能性のある知識やツール、技術を考慮して、研究を行うかどうか、誰と行うか、どのように伝えるかなど、何らかの変更を行ったと回答した。回答率が低かった（16%）ため、今回の調査結果は統計的に代表的なものではない。しかし、この調査結果は、公的機関や資金提供者、組織が制定した正式な評価手順では登録されていないレベルの評価を示している(71)。個人が自分の作品の可能性について自己決定する際に用いる基準は、識別率を理解する上で重要なテーマとなりそうである。
最近の研究者主導の制限の中でも比較的有名なケースは 2013年に発表された、BoNT/Hと呼ばれる新しいタイプのボツリヌス神経毒である（72, 73）。この型のボツリヌス中毒には有効な治療法がないため、研究者たちは、抗毒素が開発されるまで、BoNT/Hの配列データを研究報告書に記載しないことにした。この場合、著者はまず、米国連邦政府のさまざまな機関に、これらのデータを公表することの是非について相談し、その後、配列データやInternational Nucleotide Sequence Databasesへの提出なしに出版することについて、ジャーナルから同意を得た（74,75）。
リスクとベネフィットはどのように決定されるのか？
懸念が認識されていても、リスクと利益を決定することは非常に困難であり、将来もそうなる可能性が高い。
一つの課題は、リスクとベネフィットの評価が大きく異なることである。例えば、Bezuidenhoutは、実験室での観察調査とインタビューに基づいて、サハラ以南のアフリカの科学者と、これまでの欧米のデュアルユースの議論で主流となっているリスクとベネフィットの意味づけの方法が異なることを論じている(76)。前者では、デュアルユースのリスクは仮説的なものとみなされ、バイオセキュリティ上の弊害は、地元の廃棄物処理におけるラボの重大な欠陥に関連して定義されることが多く、研究の利益は短期的に病気に対処する能力と関連している。
もう一つの課題は、生命科学に関連する多くの人々が、悪意のあるアプリケーションの可能性を評価できないことである。古典的なリスク評価モデルでは、リスクの期待値は、ある事象の起こり得る確率とその結果の関数として扱われる。憂慮すべき研究の正式な審査に関連して、憂慮すべき対象が一般的にどのように定義されているかを考慮すると、その際に求められるのは、不特定のユーザーが個々の研究成果を利用して、特定されていない時間枠の中で固定されていない範囲の破壊的能力を開発する可能性を評価する方法である。そして評価者は、そのような行動がもたらす予想される結果と、利用可能な対策を決定する必要がある。脅威の概念を完全に発展させるためには、潜在的な使用者の意図を考慮する必要がある。
多くの人が主張しているように、現役の科学者は、自分の研究を敵対的な目的のために利用する可能性のある人々の能力や意図について知らないことが多い(6, 70)。同じことが、大学やその他の場所でバイオセーフティ委員会を構成している人々にも当てはまる(56)。この点で、デュアルユースを評価するために必要なものは2つあり、1つは動機や能力などの事柄に関する情報、2つ目は実験を評価するための方法、概念、理論を通じた能力であることを強調しておく必要がある(77)。
デュアルユースのライフサイエンス研究の場合、この2つの要素がどの程度把握できるかは未解決の問題である。特に、将来の推定のための（暫定的な）ベースラインとなりうる近年のバイオ攻撃が比較的少ないこと（78,79)既存の国家または準国家の生物兵器プログラムが秘密裏に行われていること、最新の科学によって可能となる最先端の能力にレビューの焦点が当てられていることなどを考慮すると、使用者となりうる人々の動機や能力について、どの程度の情報が入手可能であり、また広くアクセスできるようにすることができるかは不明である。
さらに、憂慮すべき研究に関連した安全保障上のリスクを決定する方法を考案することが重要であるとしばしば述べられているにもかかわらず、その方法についての詳細はほとんど示されていない（69,80）。リスクを決定する方法がないことは、バイオワーカープログラムで使用される伝統的なエージェント以外の懸念を理解しようとする際に、特に顕著な点である。
このように、憂慮すべき研究の検討の多くは、「無知」の状態、つまり、情報と評価方法の両方に限界がある状態で行われていると特徴づけることができる（77）。
しかし、リスクを判断することの難しさは、セキュリティ関連の意味合いをどのように解釈すべきかという点にも表れている。まず、アメリカで開発されたDURC指定に関連して繰り返し主張されているように、「DURCとしての研究の特徴は、軽蔑的に捉えるべきではない」(81)。つまり、「憂慮すべき」と判断されたからといって、必ずしも研究を中止したり、検閲したり、その他の方法で制限する必要はないということである。しかし、解釈の問題は、この否定的でない評価という点にとどまらない。懸念事項が明らかになったことで、脅威や対策を評価するために研究が示唆するものとして、研究に対する肯定的な価値が高まったのである(82, 83)。過去10年間に行われた懸念事項の実験の多くでは、最初の研究が、科学的根拠と生体防御的根拠の両方に基づいて、世界中で行われた後続の活動につながったことが注目すべき点である。このような後続作業の必要性が明らかになったことで、デュアルユースの情報を制限することによる社会へのリスクを懸念する声が上がっている（84）。
研究の潜在的なマイナス面を評価することは困難であり、評価が大きく分かれることが多いと考えられているが、利益の発生が期待できるという主張は多くの論評の出発点となっている（80）。つまり、研究は「本質的な公共財」であると断定的に捉えられているのである(85)。研究が健康の改善につながる確実性や可能性については、他の場所でも疑問視されているが、デュアルユースの議論の中でそのような疑問の声が上がることはほとんどない(86)。H5N1の場合は例外的に、その有用性について詳細な質問がなされた（87）。
リスクとベネフィットはどのように比較されるのか？
古典的なリスク評価モデルでは、リスクとベネフィットが特定されると、それらを互いに評価し、正味の評価に達することになる。例えば，憂慮すべき研究の場合，これは，一部の出版社が「出版による潜在的な害が潜在的な社会的利益を上回るかどうか」を評価することを約束していることに表れている（1）．しかし、デュアルユースのリスクを判断する際によく見られる「無知」を考慮すると、このような評価を行うことは、これまでも、そしてこれからも、問題に悩まされることになるであろう。
少なくとも理論的には、このような状況は様々な結果をもたらす可能性がある。例えば、9.11以降の米国では（その他の地域でも(88))確率は低いが結果的には大きな影響を与えるテロ攻撃への懸念から、国内の様々な反テロリズム措置や軍事行動が正当化された(77)。憂慮すべき研究に関連して不確実性や未知の部分があれば、大規模な規制が行われる可能性があった。しかし、実際にはそうなっていない。
では、例年との違いは何なのだろうか。ひとつには、重さを測る際の基本的な前提条件が考えられる。例えば、前述のように、憂慮すべき研究のリスクは立証される必要があるが、研究から得られる利益は一般的に想定されるというのがデフォルトの立場である(41)。もう一つの重要な前提条件は、ライフサイエンスの研究は、セキュリティ関連のコントロールがない場合、自由でオープンな情報の流れを特徴としており、このような状況は科学の進歩にとって不可欠であり、したがって、このデフォルトから離れようとする試みは正当化される必要があるというものである(80)。関連する副産物として、一度生成された知識を元に戻したり、その流れを制限したりすることはできないというものがある(89)。このような前提が広く浸透している場合、コントロールを正当化するのは難しい。
しかし、どちらの考え方にも問題があることは間違いない。科学の実践に関する社会的研究では、研究における情報交換が、特に商業化の目標のために、実際には交渉や制限の対象となることが多いことが指摘されている（90）。さらに、いったん生成された知識は単に「外」に出てしまっていて収拾がつかないという見方は、知識を抽象的で明示的な命題文に還元してしまうことになる。これに対して、特定の研究を再現して利用するために必要な実践的なスキル、理解、能力を強調することは可能である。このような知識のあり方は、生物兵器や核兵器の製造の多くの面で重要であり、そのため、能力の拡散に影響を与える（さらには時間の経過とともに逆転させる）余地が存在する(91)。
しかし、ブキャナンとケリーが論じているように、リスクとベネフィットを互いに比較し、それらをどのように「トレードオフ」できるかを問う試みは、結果的には重要である。このようなアプローチでは、「オープンサイエンス」や「セキュリティ」の見出しに当てはまらないものを割り引いてしまうことが多い。彼らが主張するように、典型的なデュアルユースの枠組みの中では、次のようになる。
それは、知識の追求を制限されることを恐れる科学者と、防ぐことができたはずのバイオテロ攻撃を最悪の悪夢と考える政府関係者である。したがって、バイオディフェンスの倫理を過度に単純化して考えることの危険性の一つは、研究倫理の議論が始まって以来、その中心となってきた価値観、すなわち人間と非人間（すなわち動物）の両方の研究対象者の保護をほとんど無視したり、恣意的に割り引いたりしてしまうことである(92)
このように黙殺されると、計量が偏ってしまう可能性がある。
今日の支配的な枠組みの限界を示すこの定式化自体が、間違いなく疑わしい前提を置いている。バイオセキュリティ全般や憂慮すべき研究に関する多くの議論と同様に、ブキャナンとケリーは、問題となっている問題を、「科学」の側と「安全保障」の側という、異なる利益を持つ2つの競合する共同体が争っているものとして扱っている(93)。どのような研究が行われ、どのように伝達されるかについて制限を求めているのは、後者の「安全保障コミュニティ」であるとされている。このようなコミュニティへのアピールは、デュアルユースの議論において、そのメンバーを定義することなく、日常的に行われてきた。
実際には、「憂慮すべき研究」という具体的なテーマに関連した首尾一貫した安全保障コミュニティを特定することは困難であり、ましてや制限を課すために協調して取り組んできたコミュニティを特定することはできない。これは、米国以外の国（一般的に、デュアルユースへの懸念がより少なく、国家安全保障コミュニティにおけるバイオセキュリティの専門知識がより限られている国）でも、米国内でも同様である。実際、科学への脅威について最も大きな心配をしているのは、「安全保障コミュニティ」の一員として認識されそうな人たちである(89)。一貫してセキュリティに関連した規制を推進する一貫したグループが存在しない中で、過去10年間の実績は驚くべきものではない。
経験はどのように評価されているのか？
リスクを管理するモデルでは、経験を精査し、それに応じて評価を修正することが重視される。前述の構成要素と同様に、なぜ憂慮すべきような研究が少ないのかという点についても指摘することができる。
重要な点の一つは、憂慮すべき実験や出版物がどのくらいの頻度で特定され、正式なレビューの一環としてどのような決定がなされたかについて、体系的なデータがないことである。会議や出版物でいくつかの数字が公表され、アナリストが情報を提供することもあるが(33)、結果として得られる実務のイメージは断片的で部分的なものである。このような状況では、経験から学ぶことができない。
この点、このテーマに関する議論で興味深いのは、これまでの経験が政策提言に関連するものとして受け止められていないことが多いことである。例えば，生物医学雑誌のデュアルユースポリシーに関する広範かつ実証的な分析の中で，Resnikらは，そのようなポリシーを導入している雑誌の割合が低いことを嘆いている（94）．この問題を解決するために，彼らはジャーナルがそのようなポリシーを策定することを求めた。しかし，この分析では，実施されたレビューの意味合い（もしあれば）や，それによる実用的な妥当性を判断しようとはしなかった（95）．その代わりに，レビューの有用性が仮定されていた。一般的に、このテーマに関する他の著名な声明の特徴は、実施されたレビューの結果に関する証拠がないことである(63)。
少なくとも米国の連邦政府からの資金提供を受けた研究に関連して、情報の欠如に変化が生じる可能性がある。2012年3月，米国連邦政府は，”United States Government Policy for Oversight of Life Sciences Dual-Use Research of Concern “と題するポリシーを発表した。この方針では、「米国政府が資金提供し、または実施する、特定の高病原体や毒素を用いた研究について、DURCとなる可能性を定期的に検討し、以下のことを行う」ことが求められている。(a) 必要に応じてリスクを軽減し、(b) 必要に応じてDURCを監督するための最新の方針を策定するために必要な情報を収集する。(96). 2012年初めにNIHがまとめた数字によると、高病原性物質や毒素を使用する学外プロジェクトは381件、学内プロジェクトは404件であった。DURCに指定されたのは、学外のプロジェクトでは10件、学内のプロジェクトでは1件もなかった(97)。ただし、本稿執筆時点では、米国の各機関がレビューの結果についてどのような情報を公開するかは不明である。
評価と合理性
これまでのセクションをまとめると、憂慮すべき研究に関する最近の議論は緊張感に満ちたものであることがわかる。一方で、このテーマへの注目の多くは、個々の実験に対応するために始められたものであるが、その精査の対象が検討の範囲を限定している。一握りの問題のある研究事例が、生命科学の監督を見直すよう広範囲に呼びかけるきっかけとなったが、他にそのような事例はほとんどなく、リスクが利益を上回ると判断されることは非常に稀であるといえる。安全保障に基づいたレビューが科学事業を脅かすことについては、声高に、毅然とした態度で繰り返し懸念が表明されてきたが、今日まで正式なレビューは、どのような活動が行われ、それがどのように伝達されるかにはほとんど影響を与えていないようである。
研究成果の情報化に関心を持つべきかどうか、また、どのような関心を持つべきかについて、様々な方法があるにもかかわらず、議論の多くは精査の対象として共通しており、関心の評価について考えるための共通言語を持っている。しばしば繰り返される主張は、合理主義的な「リスク-ベネフィット」評価手順によって懸念の程度を明らかにし、それによって管理可能にすることができるというものである。
時には、非常に野心的な目標が評価に課せられることもある。例えば 2009年に英国王立協会が発表したワークショップレポート「New Approaches to Biological Risk Assessment（生物学的リスク評価への新たなアプローチ）」では、デュアルユースのリスク評価には、「疾病の疫学的モデリング、経済的モデリング、人間の行動に関する質的な社会科学的モデリングを結びつける必要がある」と提案している(98)。さらに、「一般市民の認識やメディアの反応は、特にリスク管理やコミュニケーションの観点から、生物学的リスクに関する政策立案者の意思決定に重要な役割を果たす。したがって、リスク評価の手法には、人間の行動や動機の評価が含まれている必要があり、モデルには、政府のリスク管理政策に対する一般市民の反応に対応するためのフィードバックループが組み込まれている必要がある」と述べている（98）。このような包括的な厳密さを求める願望を達成するためには、学際的な分析を通じた国内および国際的な調和が必要であると言われているが、この点については他にも指摘されている(99)。
このような野心を表明する一方で、実際には、生物学的攻撃に関連するリスクを決定するという要求によって挫折してしまうという認識もあった。このような困難は、努力を重ねることで克服できると提示されることもあった。例えば、Royal SocietyのNew Approaches to Biological Risk Assessmentでは、不確実性の認識に対応して、「スペクトル上のリスクの性質が異なること、数学的モデルを導き出したりテストしたりするためのデータの入手可能性が異なることを考慮して、共通のアプローチとして、スペクトル上のポイントにおける一連の特定の評価と、結果として得られるリスク評価を統一するための包括的なモデルを組み入れるべきである」と提唱している(100)。
一方で、期待と要求の間には、より複雑な関係が存在する。2013,ウィルトン・パークで開催された国際会議「デュアルユースバイオロジー：オープンサイエンスとセキュリティのバランスをとるには」では、政府関係者、現役科学者、警察関係者、ライフサイエンス関係者などが集まった。この会議の成果報告書には、リスクとベネフィットを明確に測定することへの要望、必要性、可能性、そしてそれを生み出すための課題が記されている。前者については、次のように主張されている。
適切なリスク評価は、研究の最初の段階で行われるべきである。DURCに関連する適切なリスク評価要素を特定するためには、さまざまなセキュリティ上の懸念を考慮に入れて、多くの作業を行う必要がある。将来的には、リスクに対するより広範なアプローチにより、物理的安全性、経済的安全性のコスト、外交的安全性、社会的・政治的安定性、恐怖と怒り、政府に対する信頼の低下につながる研究のリスクを評価することができる。また、可能性を考慮し、テロリストの情報だけでなく、行為者の動機も考慮しなければならない。現在のDURCのリスク評価は、主に「リスク・ベネフィット」分析であり、特定の研究で何が問題になりうるかを具体的に評価する、より包括的で定量的なリスク評価が必要である。評価は研究者だけに任せるのではなく、危機管理に責任を持ち、対応を検討しなければならない政府を含め、あらゆる機関を取り込んで議論する必要がある(63)。
しかし、「定量的な評価は、証拠に基づいていると感じられるため、信頼性が高く、反論の余地がないという点で魅力的に聞こえる」(9)としながらも、ウィルトン・パーク報告書では、「しっかりとした統計データを入手することは難しく、生物学的二重使用研究に内在するリスクのようなものは、簡単には定量化できない（まったく定量化できないというわけではない）」(9)とも述べている。さらに、「健全なリスク／ベネフィット分析を行うための共通の理解がなく、これは国家間の問題であると同時に、異なるコミュニティ（科学、セキュリティなど）間の問題でもある」と主張している（7）。
実現の可能性については様々な意見があるものの、包括的なリスク評価方法を求める声は何年も前から上がっているが、憂慮すべき研究のリスク・ベネフィット分析が実際にどのように行われるのかを明示することは、その間にも進んでいない。この点について、ウィルトンパーク報告書は、「2005年から 2011年の間にNSABBはリスク・ベネフィット手法を確立した」と主張している(3)。これは、リスクとベネフィットを扱うプロセスと、リスクとベネフィットを決定するための手法を混同しているように見える。
リスク・ベネフィット評価の見通しに関する学術的な分析は、憂慮すべき研究を（多かれ少なかれ）合理的な（多くの場合は定量的な）分析が可能であるとみなしているが、実際にはそのような評価をどのように行うことができるかについては限定的にしか説明できないという点で、多くの同じ力学を共有している（101, 102）。
意思決定の基礎となる精緻で正式なリスク・ベネフィット評価の必要性と見通しは、誰もが共有しているわけではない。例えば、筆者が行ったある国のバイオディフェンス機関へのインタビューでは、他の機関で求められているような包括的な定量分析とは対照的に、懸念事項を特定するための対話と専門家の判断のプロセスを好んでいることが示された。後者は必要ないし、実現不可能だと判断されたのである。
つまり、包括的な評価の将来性は、提唱されたラインに沿ってリスク評価の決定がどのように行われるかを明確にすることができないという現状を明確に考慮することなく、広く推進されてきたのである(103)。このような呼びかけは、少なくともデュアルユースの懸念を合理的に管理できるという見通しを補強し、それによって議論の基本的な合理主義的枠組みを再考するための議論に不利に働いてきた。
これに対して、本稿では、想定されているタイプの包括的な評価を達成する見込みに疑問を呈する理由も提示してきた。おそらく状況は、誤用リスクの種類と程度に関連する特定のパラメータの詳細が単に不確かなだけではなく、研究の悪意ある応用の可能性の高い結果を説明することが困難なだけでもないだろうと思われる。むしろ多くの場合、確率と結果の両方が多くの未知数によって特徴付けられ、評価方法の考案を困難にするような異なる解釈にさらされている。もしこの評価が正しいとすれば、思考を早々に閉じてしまわないように、他の理解の方法を育む必要がある。また、既存の審査プロセスで把握されていることに、誤った自信を持たせないことも必要である。例えば、資金提供者や出版社の審査手順を列挙することで、今日の審査レベルを保証する根拠としていることがある(104)。評価がどのように行われているかについての詳細は、予想されるリスクが予想される利益を上回る可能性は極めて低いという上述の議論を考慮すると、このような意味合いが正当化されるかどうかは疑問の余地があると思われる。
代替の可能性
ここ数十年の間に、科学技術に関連するリスクをより一般的に取り扱うことができるかどうかについて、かなりの努力が払われてきた。そのような研究の中で繰り返されてきたテーマは、リスクとベネフィットの評価は、しばしば意思決定に限定的に適用されるという事実を認識する必要があるということである。結果と確率が簡単に、そして合意に基づいて特徴づけられる場合、このような方法はリスク管理において重要な役割を果たすことができる。しかし、そのような条件がない場合には、意思決定を従来のリスク・ベネフィット分析に還元することは、合理的で安心できるものではないと考えるべきである(105)。
この記事のテーマに関連して、科学の特定の事例が利益よりもリスクをもたらす可能性が高いかどうかという狭い問題から、どのようにして離れることができるであろうか。そのための一つの方法として、問題を理解する上での「予防措置」の位置づけを問うことが挙げられる。本稿では、このテーマからヒントを得て、どのような空間を切り開くことができるかを考える。
科学技術政策に予防措置を導入しようとする試みは、さまざまな形で行われてきたが（下記参照)通常は、検討や行動を正当化するために、否定的な結果の決定的な証拠を示す必要はないという前提を共有している（106）。その代わりに、誰が誰に何を何の目的で証明しなければならないのか、不確実性、未知数、無知が何を意味するのかを問う試みがなされてきたのである。
「バイオセーフティに関するカルタヘナ議定書」、「リオ環境開発会議」、「オゾン層破壊物質に関するモントリオール議定書」など、国内外の規制において、予防措置は包括的な原則となっている。しかし、特に環境政策において「予防原則」が広く言及されているにもかかわらず、この種の方向性の実際の妥当性については議論がある（107,108）。
バイオセキュリティ・ライフサイエンスの議論では、リスクに対する予防的な方向性が否定されることもある。例えば、次のように論じられている。
これらの問題を克服するために、予防的アプローチのような別の方法を用いることは、デュアルユース技術を管理するためには非常に不適切である。予防的アプローチは広い網をかけるが、悪用される可能性のあるすべての技術に対して予防的規制をかけることは、デュアルユースの研究や技術の場合には実現不可能であるだけでなく、これらの技術の合法的なアプリケーションに汚名を着せることで劇的な社会的コストをもたらす可能性がある(109)。
このような評価がなされているが、リスクに対する予防的な考え方は多様である。ピーターソンは、この多様性について、次のような質問に対する答えの違いを指摘している。
- 脅威や被害の可能性は、どの程度のレベル（閾値）であれば、この原則を適用するのに十分なのか？
- どのような予防措置を実施するかを決定する際に、潜在的な脅威は、コストや非経済的要因などの他の考慮事項とバランスがとれているか？
- 原則は、行動する積極的な義務を課すものか、それとも単に行動を許可するものか。
- 危害のリスクの存在または不在を示すための立証責任はどこにあるか。
- 環境被害に対する責任は分担されるのか、分担される場合には誰が責任を負うのか。(110)
これらの質問に示唆されているように、予防の定式化は依然としてリスクの特定に依存しているが、今日のデュアルユースの議論で示唆されているように、リスク・ベネフィットの評価に決定的な意味を持たせる必要はない。
予防的方向性の範囲をマッピングする他の試みでは、分類法が設定されている(111, 112)。例えば、LujánとTodtは、結果に関する科学的不確実性をどのように扱うか、議論のある有害な結果に関連して判断を下すか、技術の制御可能性をどのように見るかによって、予防原則のバージョンを区別している(113)。これらの基準により、ルハンとトッドは3つの異なる解釈を提示している。
- 「リスクに基づく解釈」では、重大な負の結果をもたらす信頼できる根拠があるが、その結果が生じる可能性が高いかどうかについての科学的確信がない場合に、予防措置の必要性が生じる。このように、予防措置は、伝統的なリスク管理による規制の試みを補完するものである。
- 「認識論的限界の解釈」では、不確実性や無知の可能性に、より多くの範囲が与えられる。不確実性や無知の可能性は、理想的に排除できるものではなく、しばしば存在し、解決できないものとして扱われる。そのため、意思決定の際には、従来のリスク評価を超えて活用する必要がある。例えば、単にケースバイケースでリスクを評価するのではなく、科学技術をカテゴリー別に分けて考えることも必要であろう。認識論的限界の解釈では、不確実性や無知がある場合のリスク解釈の前提をできるだけ多く知り、それを検討課題とすることや、科学の限界を知り、従来とは異なる方法論でリスクを扱うことが有用であるかどうかを問うことが重要だ。このような活動を通じて、誰が何をどのような基準で証明しなければならないのかという期待を変えていく必要があるかもしれない。
- 最後に、「技術選択の解釈」の一環として、「予防」は伝統的なリスク評価とは対立するものである。一般的には、遺伝子組み換え作物のように、ある技術の有益性と危険性を断定的に評価し、そのリスクに基づいて、あるいはリスクに関するデータがないことに基づいて、活動の軌道全体を促進したり禁止したりする。このような包括的な決定は、否定的な結果の可能性を回避するため、または肯定的な社会的目標（持続可能性など）を推進するために行われる。
この分類法に照らし合わせると、これまでのデュアルユースの議論には、（主に暗黙のうちにではあるが）予防型の推論がすでに盛り込まれていることが示唆される。例えば、先に述べたように、憂慮すべき研究をどのように評価するかという議論は、デュアルユースのリスクは立証される必要があるが、研究から得られる利益は一般的に想定できるというような前提条件から始まることが多く、それが何をすべきかという評価を形成している。
別の前提条件があることは他でも知られている。H5N1問題に関連して、NSABBの元メンバーであるMichael OsterholmとDavid Relmanの2人は、問題となっているリスクが非常に重大であり（人類に壊滅的なパンデミックをもたらす)利益も不明瞭であるため、「予防原則」を呼び起こして害を与えない側に立つべきだと主張した。
また、ケースバイケースの評価ではなく、特定の論理的な意思決定を必要とするカテゴリー別のアプローチを選択することも、予防原則と並行して行われている。例えば，「呼吸器の飛沫によって哺乳類に感染する高病原性鳥インフルエンザH5N1ウイルスを発生させる可能性のある研究提案に対する米国保健社会福祉省の資金提供決定を導くための枠組み」では，他とは異なる研究のカテゴリーがあると規定している（115）．米国保健社会福祉省では、このカテゴリーに属する資金提供の提案は、一定の基準（同じ科学的問題をより少ないリスクで解決する実現可能な代替方法がないこと、生成された情報がグローバルヘルスの発展のために広く共有されることが期待されることなど）を満たす必要があり、審査精査を受けなければならない。
決定からプロセスへ
ここまでの説明では、予防措置は主に意思決定の要素として考えられてきた。しかし、行動を規定する意思決定ルールとしての予防策は、この概念の一つの（そしておそらく非常に）限定的な概念化に過ぎない。実際には、これまでに制定されたリスクに対する予防的な方向性は、意思決定を行うための決定的な運用ルールを提供することはほとんどなく、明確な基準を規定することもなかった。意思決定のためのルールではなく、リスクを熟考するプロセスに何が含意されているのかを考えることができる。これにはいくつかの側面がある。
基礎の検証 不確実性、曖昧さ、無知を認めた上で、理解を形成する出発点に注意を向けるべきである。これらを明確にし、考察の対象としなければならない。言い換えれば、リスクに対する解釈を支える価値観を認識し、精査しなければならない。例えば、立証責任をどのように配分するかということに大きな影響を与える可能性がある(105)。この意味で、予防の範囲を広げること自体は、特定の関心事（例えば、科学的発展の維持、環境の持続可能性、壊滅的なパンデミックの回避など）を優先させることを意味するものではなく、単に不確実性、曖昧さ、無知を理解するための（おそらく多様で複数の）コミットメントを検討対象とすることを意味する（116）。
議論の用語の変更 特定の種類の審議を促進することで、予防論に触発された審議は、いくつかの議論に信頼性と正当性を与えることができる。例えば、漁業の保全に関する審議に予防原則への言及がどのように入り込んだかについては、その効果が大きいことが論じられている。
第一に、ある種の議論の信頼性を高め、他の議論の信頼性を低下させること、第二に、保全主義者の議論を提示できる枠組みを提供すること、第三に、保全体制が追求すべき正当な目的として、国家以外の利益や価値を指摘することである(117)。
他にも、予防措置は、狭い範囲で「科学的」にリスクを決定する方法の信頼性を低下させている(108)。
悪質な科学の応用を理解する過程において、専門知識の関連性を再考する必要があることは、米国の情報アナリストがH5N1の実験をどのように評価したかについてのヴォーゲルの考察からも明らかである(118)。彼女の結論は3つある。
第一に、米国の情報アナリストは、H5N1事件のようなデュアルユースの実験を支える暗黙知やノウハウを特定し評価するための十分な社会的・物質的資源を持っていない。第二に、このようなバイオセキュリティ問題で技術的専門知識を使用する際に特徴的な政治的問題を解決するための専用の構造と方法がない。第三に、バイオセキュリティの脅威についてより多くの情報を得てバランスのとれた判断ができるように、専門家の知識の新しいタイプ、構造、評価を必要としている(48, 80)。
これらの提言を実現するためには、情報アナリストが社会科学を含む幅広い専門家を活用できるようにする必要があると主張している。
代替手法の推進 不確実性、曖昧性、無知のために、従来のリスク評価の適用範囲が限定されていることを受けて、予防志向を持つ人々は、リスクを理解するための代替手法を模索してきた。これらは、従来の評価に取って代わり、あるいは補完してきた(105)。例えば、シナリオ分析、インターバル分析、Qメソッド、ホライゾン・スキャニング、社会的影響評価などが挙げられる(119)。従来のリスク評価は、意思決定のためにリスクとベネフィットを比較することを目的としていたが、不確実性の認識に基づく手法は、既知のものの限界を理解し、専門家の判断を助け、出発点となる仮定を特定し、議論を再構成し、対話と交流を促進することを目的としている。このような手法を用いると、従来のリスク評価とは異なる範囲の人々が参加することになる。Vogel氏は、H5N1の分析の一環として、情報分析が、その限界を試すような新しい形の関与からいかに恩恵を受けるかを提案している（118）。
このような予防の次元が結びつく分野のひとつに、パブリック・エンゲージメントがある。予防的な方向性の中で、リスクとその受容性を決定する際の科学的確信の限界に全体的に注意を払うことで、一般市民を含めた幅広い貢献の余地が生まれる。しかし、論じられているように
技術の社会的評価の「拡大」と予防措置は、意思決定に対するより一般的で包括的なアプローチを必要とすると考えられる。ここでの重要な検討事項は、予防措置が参加型アプローチと本質的に結びついている多くの方法についてである。これは、民主主義の向上を目指すものだけではない。また、国民の信頼や教育を高めるためだけのものでもない。技術的な専門知識を国民の不合理な不安から推測するのではなく、予防的参加は分析の厳密さを向上させる問題なのである（原文のまま強調）(105)
これまでのデュアルユースの議論の中で、「誤解」や「センセーショナリズム」の可能性を理由に、一般市民を科学にとっての脅威とみなしてきた部分がどれほどあったかを過大評価することはできないだろう。NSABBのコミュニケーション・ワーキンググループでは、誤解やセンセーショナルな報道への懸念から、「一般大衆」が中心的な位置を占めるようになっている(120)。一般市民に対する懸念を受けて、NSABBの “Proposed Framework for the Oversight of Dual-Use Life Sciences Research: NSABBの “Proposed Framework for Oversight of Dual-Use Life Sciences Research: Strategies for Minimizing the Potential Misuse of Research Information “などの諮問文書では、デュアルユース研究の発表をメッセージ化することで、研究の安全性とその利益を強調する必要性が多く指摘されている。
過去20年間の科学政策においては、一般市民を科学技術の受容に関わる問題から遠ざける試みがなされてきた。その代わりに、対話の中で多様で多数のパブリックの関与を促進する努力がなされてきた(121)。例えば、社会的価値の重要性を強調したり、テクノクラティックな枠組みに挑戦したり、技術開発のための代替手段を特定したり、「責任あるイノベーション」と呼ばれるものを推進する手段として、市民の参加が求められている(122)。このような願望を実際に実現することは非常に困難であるが、これまでのデュアルユースの議論を代表するような、より積極的で、間違いなくより生産的な公共の役割がその中で想定されている(123)。
おわりに
本稿では、「憂慮すべき研究」というカテゴリーの起源、出現、復活、そしてその意味合いについて考察した。全体を通して注目したのは、「憂慮すべき」と認定されるものが稀であるという珍しさである。これまでの議論では、これまでに実施された審査手続きの結果は、偶発的な実践の結果であり、何が起きているのか、なぜ起きているのか、誰が何をする必要があるのかを構造化する方法において、結果的なものであることを示唆している。理論的には、この状況は、別の条件が整えば、異なるパターンのレビュー結果が起こる可能性を残している。
さらに重要なことは、偶発性を主張する一環として、これまでの議論では、生命科学のデュアルユースの側面を管理する上で、従来の合理主義的な「リスク-ベネフィット」評価が引き続き重要視されることに疑問を投げかけてきたことである。リスクとベネフィットの比較」という概念は、一部の人にとっては象徴的で重要な意味を持つかもしれないが、憂慮すべき研究への対応を組み立てる方法としては限界があることは間違いない。この点を認識していないと、現在考えられているレビューに誤った自信を持ち、代替となる政策の可能性を模索しない可能性がある。他の複雑な社会的・科学的問題と同様に、本稿のテーマに関しても、「解決策が不明であるだけでなく、問題自体が当初は十分に定義されておらず、調査を推進すべき価値観やそのための有効な方法が不明、不明確、または論争中であり、適用可能な理論モデルのセット、解決策のセット、成功裏に解決するための基準も不明である」と主張することは、おそらく完全に不公平ではないだろう(124)。
この記事では、「予防措置」に関連するさまざまな可能性の1つのセットを紹介した。表現はさまざまだが、予防的な方向性は一般的に、不確実性、無知、曖昧さの状況を認識し、それにもかかわらず問題にどのように賢明に対処できるかを問うことを目的としている。このような出発点を採用することで、生命科学が将来にわたって不快に付きまとうことになる一連の問題に対して、代替的な考え方や対応のためのスペースを開くことができると主張されている。