フェイクニュースを研究する中で学んだ学際的な教訓
Interdisciplinary Lessons Learned While Researching Fake News

www.ncbi.nlm.nih.gov/pmc/articles/PMC7793757/

Front Psychol.2020; 11: 537612.

2020年12月16日オンライン公開 doi:10.3389/fpsyg.2020.537612

pmcid: pmc7793757

PMID：33424670

概要

アメリカのニュース報道におけるミスリードやプロパガンダ的な傾向は、共和国としての初期から公共の議論の一部となってきた（Innis, 2007;Sheppard, 2007）。”Fake news “はほとんど新しくなく（McKernon, 1925），この言葉は風刺からニュースに至るまで、人が不愉快に思うような様々な異なる現象に適用されてきた（Jankowski, 2018;Tandoc et al, 2018）。しかし、2016年にマッコーリー辞典が「フェイクニュース」を今年の流行語大賞に宣言するなど、近年この問題はますます深刻化している（Lavoipierre, 2017）。

フェイクニュースが問題であるという国際的な認識（Pomerantsev and Weiss, 2014;Applebaum and Lucas, 2016）により、認識されている原因を軽減するための取り組みが数多く行われ、その成功度はさまざまである（Flanagin and Metzger, 2014;Horne and Adali, 2017;Sample et al.、2018）。全体的な解決策を生み出せないことが、研究者や既得権益者の頭を悩ませ続けている。

この問題の大きな要因は、デジタル・デセプションの学際的な性質にある。テクノロジーによってデジタル・デセプションのデータを迅速かつ広く普及させることができる一方で、データの設計と消費は、心理学、社会学、政治学、経済学、言語学、マーケティング、美術の混合に依存している。本書の著者は、学際的な視点から古今東西の欺瞞の歴史を論じた後、様々な学問分野がフェイクニュースの発見と対抗にどのように貢献しているかを論じている。

次に、様々なタイプのフェイクニュース（印刷物、演出されたイベント、加工された写真、深いフェイク）を識別するために使用されている様々な技術について議論し、それらの技術の欠点、そして最後に他の学問分野が提供する洞察を取り入れて、成果を向上させることができる。

文脈データの評価、パターンの拡散、著者と出版物の両方のアーカイブ分析に重点を置いた3点評価モデルが紹介されている。このモデルでは、事実とフィクションを判断することはできないが、様々な領域で事実との距離を測ることができるため、新しいストーリーの信憑性を評価するための出発点となる。

キーワード　フェイクニュース、規律、行動、価値観、レトリック、政治、欺瞞

“もしそれが真実でないなら、それは非常によく発明されたものである。”-ジョルダーノ・ブルーノ

はじめに

フェイクニュースはアメリカで長い歴史を持ち（McKernon, 1925;Innis, 2007）、マッコーリー辞書で今年の言葉とされた2016年に国際的に問題視されるようになった（Lavoipierre, 2017）。「フェイクニュース」（Meza, 2017）という言葉の再出現は、様々な分野の学者にとって変曲点の役割を果たした。ある学者は「フェイクニュース」と異なる配信メカニズムを用いるプロパガンダとの共通点を観察し（Younger, 2018）、他の学者はより高度化、カスタマイズ、武器化を観察した（Younger, 2018;Verrall and Mason, 2019）。この脅威を認識した学界や政府の人々は、ある者はSzfranski (1997)のように早く、ある者はその直後に（Cybenkoら 2002）。Szfranski (1997)は、欺瞞的な情報の兵器化によって、戦闘員も非戦闘員も同様に保護することが必要になると示唆した。欺瞞的な情報に対してより強い集団がある一方で（Bjola and Papadakis, 2020）、文化的な要素があることを示唆しているが、かなりの集団が脆弱なままであることも事実である。弱者にはジャーナリストも含まれ、彼らは自らの価値観に合致したストーリーを繰り返している。ジャーナリストの検証・確認メカニズムでさえ、ターゲットとする信念に沿った情報を提供するアルゴリズムによって堕落している。実際、一部の行動科学者によれば、すべての人は、偏見を確認するメッセージに対して脆弱である（Oswald and Grosjean, 2004）。

ジャーナリズムのようなメディア領域では、ジャーナリストが地球市民の情報共有の番人として活動することが求められる。世界におけるその立場は、事実確認を行うことによって、独立した真実と正当性を視聴者に提供する責任を負っている。一般的な検証手順を説明した後、学際的な作業の重要性について議論する。ジャーナリストは、私たちの現実の真実を報告することによって欺瞞を阻止し、虚偽の主張の解釈がまだ非常に主観的であるとしても、フェイクニュースの物語との戦いを含む事実確認に対する一般的に合意された規範的アプローチを有する（グレーブス、2018;メナ、2019）。ブラティッシュ（2020）が提示したファクトチェックの5つの要素には、チェックする主張を選ぶこと、主張の出所に連絡を取ること、誤った主張をたどること、専門家と協力すること、自分（ジャーナリスト）の仕事を見せることが含まれている。この枠の中で、ジャーナリズムは、そのユーザーとの関わりや、政治や新興技術など、それと交差する多くのトレンドから、不確実性や不信感、操作性を孕むようになってきた（Waisbord, 2018）。

Pomerantsev and Weiss (2014)は、フェイクニュースを含む偽情報の5つの目標を特定した。これらの目標は、麻痺、士気低下、混乱、脅迫、転覆を含む。偽情報キャンペーンは、これらの目標のいずれか、またはすべてを追求する。5つの目標はそれぞれ、ターゲットとするグループに対して使用する戦略を表している。例えば、同じ出来事について正反対の報道をする信憑性のあるニュースは、その両方がプロフェッショナルに行われた場合、その話や環境を初めて知った人を、単にどちらかの側に揺さぶるのではなく、混乱させることができる。

フェイクニュース、ディスインフォメーション、マニピュレーション

ニュースにおけるディスインフォメーションとミスインフォメーションの使用には長い歴史がある。一部の学者は、誤解を招く情報や事実と異なる情報を不用意に流す「誤情報」や、政治的な目的のために事実と異なる主張を意図的に拡散させることを含む「ディスインフォメーション」に注目している（Bakir and McStay, 2018;Bennett and Livingston, 2018）。しかし、情報戦の観点からは、視聴者を操作するための戦略的価値を持つために、主張は虚偽である必要はない（Schafer, 2018）。タイミングよく、事実に基づいて正しい情報は、嘘と同じくらい効果的である可能性があり、その場合、情報は武器化される。本節では、コミュニケーションにおける情報論理からアイデンティティ論理への動きとして、情報とその武器化の区別を展開する。

情報とは、古典的には、あるシステムにおける任意の時点の「進展と状態に関する現在のデータ」と定義されている（Downs, 1957, p.79）。情報論理は3つの要素を持つ。第一に、時間的な側面である。情報はシステムや事象の現況を指すため、「繰り返される情報はもはや情報ではない」と言われるほど、その持続性は短い。繰り返された情報は、もはや情報ではなく、「繰り返しの意味は持つが、情報としての価値は失う」のである（Luhmann, 1995, p.67;Lash, 2002）。同じ素材が繰り返し現れるかもしれないが、それは過去と未来を昇華した拡張された現在を定義し、もはや情報モードでは作動していない（Rushkoff, 2013）。

第二に、コンテキスト化されたコンポーネントには、アクティビティが行われるシーンや状況が含まれる。文脈化されたデータは、作成された環境、あるいは存在する環境と結びついている。この意味で、データ、特にデジタルデータは、コンテキストから外れると、環境を乱し、その痕跡が残ることになる。

情報には第三の特徴がある。それは、情報は説明的であり、道徳的であったり勧善懲悪的であったりするのではなく、行動を求めないということである（Burke, 1969, p.41）。このように、情報は感情的に偏向したコミュニケーション・コンテンツと対照的である。感覚データの経験が局所的な状態について最新の状況を提供することがあるのに対して、感情は「世界についてのいかなる情報も与えない」（Wittgenstein, 1967, p.491）のである。

誤情報と偽情報はともに、政治学におけるダウンサイエンス的伝統の永続的な側面である情報障害を指摘している。政治システム内の状況についての正確な情報は、しばしば不足しがちであるが、市民が十分な情報を得た上で民主的な選択をするために必要な重要な通貨であり続けてきた（Converse, 1962;Grofman, 1995;Delli et al, 1997;McGann, 2006）。フェイクニュースは、捏造であると同時に「形式はニュースメディアのコンテンツを模倣するが、プロセスや意図は模倣しない」（Lazer, 2018, p.1094）ことから、しばしばディスインフォメーションの一種としてとらえられる。この観点から、誤情報やディスインフォメーションは、これらの現象が、あらかじめ与えられた選好に照らして意思決定を行うための誤った前提を提供するため、歪曲的である（Hochschild and Katherine, 2015;Mathiesen, 2018）。また、選良にとって欺瞞は短期的な戦略かもしれないが、再選を目指す場合、選挙中の欺瞞にはコストがかかりうる（Ferejohn, 1990, p.10）。さらに最近では、偏った選挙民の台頭が情報障害の継続を可能にしている。

フェイクニュースへの備え

欺瞞は政治的な領域に限定されるものではない。健康・医療（Springer, 2020）、金融（Cybenko et al, 2002）、軍事、サイバー領域なども、欺瞞的なデータやフェイクニュースが展開されている環境の一部である。欺瞞は、感覚と知覚の両方を騙すことに依存する。情報が知覚されるためには、まずデータが知覚されなければならない。人間の知覚と情報処理は、まだ完全に理解されていない（De Faveri et al.、2017）。

“説得は政治的コミュニケーションの中心にある“（Flanagin and Metzger, 2014, p.1）。フェイクニュースが効果を発揮するためには、まず欺瞞が形成され、次に伝達される必要がある。情報の送り手と受け手が同じ認識を共有するコミュニケーション・プロセスは、ガーブナー（1956）によって定義された。ガーブナーのコミュニケーション・モデルでは、メッセージの作成段階における知覚と文脈の変化が重要な役割を果たすとされている。欺瞞の成功は、ターゲットの思考に影響を与えることに依存している（De Faveri et al.、2017）。フェイクニュースの場合のターゲットは人間の心であり、ジャーナリストは人間であるため、偽情報に対して脆弱である。

対象が人間の心であるため、意思決定の要因について簡単に説明する。情報処理を行う前に、まず情報を形成するデータが感知され、次に知覚される必要がある。感覚は、五感のうちの一つまたは複数が刺激されたときに生じる。一般的には、特に視覚と聴覚が感覚刺激として優位に立つので、フェイクニュースが蔓延するネット社会では、感覚を遮断することで知覚をコントロールすることが可能になる。知覚は意思決定のインプットとなるため、刺激（感覚データ）の欠如や、文脈として設計された感覚データの操作が、最初の無意識の、特定の行動への神経反応を誘発する（Gazzaniga, 2014）。逆に言えば、感知されない事象は、決して感知されない、非事象である。

意思決定に関する多くの焦点は動機づけにあるが、著者は追加の要因を挙げないのは不注意だろう。意思決定は、モチベーションに加え、忍耐／焦燥、リスク態度、曖昧さ態度など、いくつかの要因に依存している（Gazzaniga, 2014）。これらの異なる要因は、意思決定の方法が多様であることを示唆している。任意の単一要因や要因の組み合わせ、どの要因がどの意思決定において支配的であるかを予測することは、事後的な運動として最も正確である。さらに、意思決定プロセスで議論されるすべての要因は、状況依存的である。

意思決定は、行動-結果決定と呼ばれる意識的なものと、刺激-反応とも呼ばれる無意識的なものに分けられる（Dijksterhuis, 2004;Kahneman, 2011;Gazzaniga, 2014）。どちらのタイプの意思決定も、バイアスの影響を受けている。De Faveriら(2017)は、知覚における事実からのパターン化された逸脱を、バイアスやヒューリスティック-認知的近道と表現した（McAlaney and Benson, 2020）。意思決定の種類に関係なく、バイアスは依然として影響を及ぼす。しかし、メッセージの作成は異なることがある。

De Faveriら（2017）は、敵対的なサイバー環境における欺瞞を検討し、個人的・文化的、組織的、認知的という3つのバイアスのグループについて説明した。高い効果を発揮する一方で、バイアスを得ることは困難であることが指摘された（同上）。しかし、この観察は、フェイクニュースの標的化と拡散におけるソーシャルメディアの役割について広く知られる前に行われた（Shuら、2017いくつかの情報源）。

フェイクニュースのコンテンツ作成、配信、普及におけるソーシャルメディアの新たな役割は、予想外の方法で風景を変え、この種の欺瞞を特定し、最終的に軽減する方法を再検討する必要がある。このため、筆者らは、Sampleら（2018）が定義したコンテンツ、配信、アーカイブを記述するモデルの中で、フェイクニュースやデジタル・デセプションに関わる共通分野のいくつかを検証している。

戦略としての欺瞞

本論文の前提・主張は、政治的、社会的、そして潜在的にはその他の影響力を得るための手段として、戦略としての欺瞞を利用したフェイクニュースの役割である。戦略としての欺瞞は古代の人間の行動に根ざしており、ギリシャ神話を含む最古の歴史に観察されている（Phaedrus, 2008, p.438）。より最近では、ErfurthのSurpriseに関する論文(Erfurth, 1943)が多くの有益な洞察を提供している。彼は、軍事的な決定的な勝利はほとんどすべて、秘密とスピードに依存する奇襲によってもたらされてきたと観察している。欺瞞は奇襲の一形態であり、不確実性によって相手をアンバランスにする手段を提供する。ヘンデルは、第二次世界大戦における戦略・作戦レベルでのディセプションを詳細に分析し、重要な見解を示している。欺瞞は対象者にとって信じられるものでなければならず、既存の信念を強化するために首尾一貫した物語に十分な資源と時間が費やされなければならない。「条件付けに対する感受性は、欺瞞作戦に利用される最も基本的な人間の性質の一つである」（Handel, 1987, p.14）。条件付けは、実際の欺瞞の出来事に大きく先行する。コンディショニングは、欺瞞が成功するための土台を作る。

偽情報は、欺瞞の重要な形態であり、それを可能にするものであるが、戦争と国家安全保障の両方の機能において歴史がある。欺瞞の一形態としての偽情報の使用については、Whaley (2007, p. 8)が、それがもともと第一次世界大戦中にドイツ参謀本部によって使われ、その後ロシアによって採用されたという歴史的背景をもとに検証している。シャノンの通信モデルを適用すると、関連するが偽の情報が通信チャネルに供給され、信号とノイズに続く第3の伝達カテゴリーが形成される。Whaley (ibid)が説明するこの第3のカテゴリーは、意図によってディスインフォメーション（偽情報）またはミスインフォメーション（誤情報）となる。誤情報は不注意であるのに対し、誤情報は意図的に聴衆の情報管理能力を過負荷にしたり、信用を失墜させたり、再調整しようとするものである。意図を考慮する必要があることから、偽情報は目的なしにはほとんど意味をなさない。ターゲットを理解し、情報と情報ネットワークにアクセスする手段を手に入れ、その後、それらのネットワークを利用してアクセスを拡大することで、偽情報は、認識と行動に影響を与えることを意図して、支持された条件付きの偏見と物語を利用する手段を提供する（Waltz, 2008, p. 4）。

ソ連のマスチロフカの概念は、おそらく、欺瞞をめぐる問題空間の複雑さを最もよく言い表している。マスチロフカという用語はカモフラージュと定義できるが、ソ連のドクトリンでは、意図を不明確にし、安全を維持し、敵を混乱させるための戦略、作戦、戦術の幅広い手段に広がっている（Grantz, 2006, p.2）。第二次世界大戦中、マスチロフカ戦略が成功した例は数多くあり、それは現代のドクトリンとテクニックに活かされているが、マスチロフカが急遽採用された場合、調整が不十分な場合、訓練が不十分な人員によって行われた場合（同書、14ページ）、ステレオタイプまたはパターン化した方法で行われた場合（同書、10ページ）も失敗が発生していることも知っておく必要がある。

マスキロフカのコンセプトの重要な観察点は、あらゆるレベルで、計画的かつ協調的に様々な手法を採用し、戦術的成果と戦略的意図の整合性に大きな焦点を当てながら、複雑さを受け入れようとしたことである。これは、今日のフェイクニュースの使用と共通するように思われる。広範な戦略的意図を達成するために様々な戦術的・運用的アプローチを採用することで、複数のターゲットオーディエンスを、時には相反する物語やテーマのエピソードに関与させることができる。このような戦術的・作戦的柔軟性は、戦略的観点からは危険で直感に反すると見なされかねないが、情報環境全体にわたる自由な操縦と、現代の情報環境の複雑さを活用して特定の成果を効率的かつ迅速に達成する能力を提供するものである。ソーシャルメディアやオンライン・フォーラムを通じて偽情報やフェイク・ニュースを流すには、広く歩き回り、多数のオーディエンスやテーマ、物語に素早く関与する能力が威力を発揮するようである。さらに、このアプローチは、信頼できる機関がその道徳的・倫理的な物語を一貫して適用することに失敗したと認識されていることを利用する。つまり、フェイクニュース機関による矛盾した物語は、利害の衝突を認識した以前に信頼されていた機関の矛盾を指摘する方法で常に弁解され、しばしば同じフェイクニュース機関によって増幅されることがあるのである。

ターゲット変数の特定と、その個人的・文化的データに基づき洗練された個人レベルでのメッセージのファッション化能力は、現代社会では単一のまとまった物語が必要ないという主張を裏付けているように思われる。フェイクニュース業者、マーケティング担当者、政治団体は、インターネットのフィンガープリンティングやソーシャルメディアから収集した個人データに基づいて、特定の個人をターゲットにすることができるのである。このターゲット変数データは、人格プロファイルを通じて、偏見、信念、行動の可能性を個人レベルで区別することができる。より伝統的なメディア、政府、軍部は、ターゲット・オーディエンスを、広範な物語と広範な信念や集団に焦点を当て、これらの記述が特定の集団行動を引き起こすという仮定に基づいて、異なる、より正確ではない方法で参照している。こうした違いや技術の急速な進化から、偽情報キャンペーンは現代の情報環境において明らかに優位に立っているように思われる。各個人に固有の問題に焦点を当て、その問題に対する行動を変えるようなメッセージを、個人的かつ詳細なレベルで作成できる場合、ミクロで的を絞った方法で物語を伝えることができるようである。その代わり、公平であるという自己認識に依存する「信頼できる」機関がサポートする壮大な物語やテーマを配信することで、フェイクニュース機関やフェイクニュースの物語に代わるものへの不信から利益を得る可能性のある人々の標的となることが早いと思われる。ファクトチェック、コントロールされたナラティブ、伝統的な情報操作のアプローチを採用することが、これからの情報環境に十分であるかどうかはまだわからないが、これまでの結果は特に好ましいものではない。おそらく問題の一つは、現代の生活に内在する矛盾であろう。つかの間の、より個人的で適切な事柄に基づいて、自分の信念に反する行動をとることは考えられないわけではない。この問題は、組織的宗教の黎明期以来、司祭、神学者、倫理学者たちが取り組んできた問題である。この記事の中で後述する性格と文化は、これらの結果に寄与する可能性が高い要因である。

フェイクニュースに適用される偽情報の現代的文脈は、戦略としての欺瞞の基本概念と、上で述べたいくつかの原則から広がっている。条件付けへの感受性、バイアス、物語性、情報とソーシャルネットワークの悪用は、すべてフェイクニュースのコンセプトの根幹をなすものである。これらの概念については、本稿でより詳しく説明する。

背景

情報の武器化は、国境や民族の違いだけでなく、希望や恐怖の共有を含む思考の共有によってコミュニティが形成されるデジタル世界において強化される(Bennett, 2012)。特に欧米型の民主主義国家において意思決定が大きな意味を持つ情報化時代において、オンライン・コミュニティにおけるセンシングのコントロールや認識の操作能力は非常に貴重である。

戦争が政治的であり、政治が戦争のさまざまな属性を抑制するとすれば、現代の政治は多くの点で戦争の準備に投資されており、私たちの既存の政治は戦争を通じて確立された一連の関係に由来し、それを再生産しているとさえ考えられる（Virilio and Sylvère, 2008）。「安定-不安定パラドックス」のバリエーションとしての核抑止力の存在は、従来型の抑止力を回復する努力は核のエスカレーションを招く危険性があるため、まさに抑止が困難な亜運動性戦争の形態を奨励するかもしれない（Gartzke and Lindsay, 2019, p.14 ）。クラウゼヴィッツ（1982）は、戦争を他の手段による政治と称した。しかし、ハイブリッド戦争、政治戦争、グレーゾーン紛争などの現代の文脈でも同様に可能であり、政治は他の手段による戦争の継続であるかもしれない（Foucault, 2003）。

情報戦は、ターゲットオーディエンスの態度や行動に変化をもたらすために、コミュニケーションを武器とする。コンテンツがプロパガンダの通貨であるとすれば、タイミングは情報の武器化において同様の機能を果たす。戦略的な情報伝達は、敵対者を無力化し、自らの戦略目標を推進するために、状況の理解を形成し、「作戦環境」を形成する「情報伝達手段」となり得る（Armistead 2004, p.1）。情報戦は「情報」という言葉を残しているが、情報提供よりも変革的なコミュニケーションの分野であることを示す。情報作戦は、「敵対者の意思決定に影響を与え、混乱させ、腐敗させ、または簒奪」しようとする一方で、自陣のためにその能力を保護することによって、これらの目的を達成することができる。意思決定は大きく偏っており、偏りは行動的なものであるため、この環境で成功するには、態度と信念を形成することが重要である。

情報戦は概念的に軍事戦争の空間に限定されることが多かったが、それによって戦争が非キネティックで物理的に暴力的でない形で政治生活に及ぶ「戦争または平和のスペクトルにわたるあらゆる状況で起こりうる」（Morgan and Thompson, 2018, p. 10）という認識が広がっている（Singer and Brooking, 2018, sec. Kindle: 325）。この新しいタイプの戦争はハイブリッド戦争と呼ばれ（Commin and Filiol, 2013）、数多くの国で制定されており（Atkinson, 2018）、情報戦の武器としてのフェイクニュースが重要な役割を果たしている（Younger, 2018）。

政治はフェイクニュース報道における問題の中心となっている。ジャーナリストは、政治家の将来の発言を事実確認する責任があるという一般的な誤解と相まって、事実確認手続きの際に非党派的であると批判され、主流メディアに対するユーザーの不信感を増大させている（Uscinski, 2015）。これらの傾向は、真実がどのように報告されるかについて、従来の階層的な情報圏に変化をもたらしており、学際的な研究は、これらの問題のいくつかに取り組む機会を持っている。ソーシャルメディアは情報報道の風景を一変させ、フェイクニュースと戦うための解決策は、従来のジャーナリズムの経路が、こうした変化を考慮するのに十分明確な事実確認のフレームワークを生み出す柔軟性に依存することを意味する。今日直面しているサイバーセキュリティの問題と同様に、フェイクニュースの情報フローは前例がなく、時には圧倒される。真実を見極めるためにジャーナリストに対する圧力が高まることで、報道において検証の増加と脆弱性の両方が発生することがある。たとえば、情報源の信頼性を確認することは一般的な作業であるが、主流メディアではそうでない例も多く、多くのジャーナリストがこの情報障害の存在を認識している（Plotkina et al.、2020）。仮想空間からの情報過剰は、事実確認が、その後行動する、あるいは行動しないための情報源を瞬時に見分けることと同義になるような報道体験を生み出す。一般に、ジャーナリストは、ファクトチェックに時間をかけて徹底的に行うことが、最初に取材することよりも重要であることに同意しているが、これは必ずしも目に見える結果ではない（Schapals, 2018）。ジャーナリズムは、他の多くの領域とは異なり、情報の流れへの独自のアクセスを持っているため、フェイクニュースの記事が作られる速度で進化するフェイクニュースの概念を報道する能力において優位に立つことができる。

現代の情報活動は、世界貿易と政治システムの統合された性質の影響を受けて、グローバルな競争環境の中で行われているという別の見方もある。核戦争の脅威が迫っているため世界大戦は起こりえず、その代わりに、運動と非運動による代理戦争によって政治的目標が達成される。サイバーと情報は、このような競争が繰り広げられる領域と環境の一部に過ぎない。戦争遂行という観点から見ても、多くの場合、軍事作戦の構成要素としての情報作戦の実際の実施は、特定の結果を達成するために、物語に照らして運動学的事象を管理し、非運動学的効果を調整することに重点が置かれている。したがって、情報戦の概念は、多くの場合、実際よりも統合され、計画されたアプローチを示すことができる。現実には、政府と社会は、たとえ全体主義的なものであっても、内外のさまざまな力をバランスさせ、戦略目標とシナリオを形成しなければならない。しかし、本稿では、長期的な戦略的優位のために偽情報によって操作し、欺き、行動の結果を変えようとする、イデオロギー的・政治的なフェイクニュースの文脈で情報戦を参照することにする。

選挙活動のある側面は情報経済に当てはまるが、他の側面は情報戦の戦略と戦術に近いものがある。情報そのものは、現状を聴衆に伝えるだけで、意思決定のパラメータは変更されないままである。情報が武器化されるのは、発信者に有利な判断、意思決定、行動を生み出すために、環境またはターゲットオーディエンスの嗜好、態度、さらにはアイデンティティを再形成することによって、ターゲットオーディエンスをシフトさせる時点である（Marcellino et al.）これは微妙な場合もある。たとえば、特定の政党に投票したいという人の気持ちを変えるのではなく、選挙当日に投票しないように説得するだけで十分である。価値観や信条が常にターゲットになるとは限らない。時には、望ましい結果を得るために、短期間だけ行動に影響を与えるだけで十分な場合もある。

ニュースの目的は対象者に情報を与えることであり、状況に対する認識の変換や自己同一性の変換を通じて欺いたり操作したりしようとする情報の武器化とは異なるものである。このことは、情報操作がコミュニケーションの修辞学的機能と結びついている。情報は物事をそのままにするが、修辞学は状況との同一性や自己同一性の理解に影響を与えることによって、その対象に働きかけるからだ。コミュニケーションによる関心、態度、信念の再調整は、少なくとも行動のための一定のパラメータの範囲内で、自分自身を同じものとして見るようになるように、人々の間に「実体性」を作り出す（Burke, 1969, p.21）。実体の創出の根底には、政治的対象やアクターに対するアイデンティティの変化や、政治的世界との関係における自分自身の理解などがある。アイデンティティは常に関係的なものであり、自分が何であるかを規定すると同時に、自分が何でないかを規定するものである（Connolly, 2002）。したがって、情報戦には、戦略的・戦術的な情報の利用が含まれる。情報戦は、アイデンティティの秩序に作用し、ターゲットのアラインメントをある一連の政治的アイデンティティから別のものに移し、行動の結果を形成することを最終的な目標とするものである。

アイデンティティと行動の形成に焦点を当てるのは、国際的な敵対者間の戦争に限ったことではない。空間的競争や政治的意見形成のモデルに情報を与えてきた政治的紛争の情報的地形とは対照的に、政治的嗜好は選挙運動に先行するのではなく、長期にわたる選挙運動を通じて構築される政治的アイデンティティによって形成されるのだ。アメリカの政治行動を理解する上で、政治的アイデンティティが情報手がかりよりも優先されることを示す証拠がある。政治的アイデンティティは、中絶のような基本的な問題についての政策ポジションでさえ、時間の経過とともに党派的アイデンティティに沿ってシフトすることを示す研究があるように、問題ポジションの違いには還元できない（Achen and Bartels, 2016;Mason, 2018）。また、候補者の性格特性は政策的配慮とともに一つの計算となるかもしれないが、政策選好はその逆ではなく党派的アイデンティティの派生であるため、アイデンティティ論理を前提とした政治行動の説明は、政策選好の情報論理とは全く異なるものであると言える。1

アイデンティティの論理は、情報の論理の3 つの次元すべてにおいて対照的である。第一に、定義の対象という点では、アイデンティティは、行動が起こる状況の状態について情報を与えるというよりも、むしろ行為者を定義する。個人的なアイデンティティは、「何が良いのか、何をすべきなのか、何を支持し、何に反対するのか…を決定できる枠や地平を提供する公約や同一性」（Taylor, 1992, p. 27）から構成されている。アイデンティティの規範的内包は、コミュニケーションにおいて「行動（あるいは態度、態度は初期的行為）への誘因」（Burke, 1969, p.42）として機能する。

第二に、情報ロジックとアイデンティティ・ロジックは時間的に区別される。タイムスタンプを無視することで、ディープフェイク（コンピュータが生成した偽ニュース）は、ターゲットとなるユーザーを欺くことができる。情報の瞬間的ではかない性質とは対照的に、アイデンティティは時間的・空間的に行為者を統合し、連続性の感覚を与える（Miskimmon et al.、2014、p. 5）。アイデンティティの主張が繰り返されることで、時間の経過とともに変化する状況に直面しても、存在論的な安心感を維持するアイデンティティの物語が永続する（Giddens, 1991, pp.53-54）。一方、アイデンティティは、政治的アクターや制度に対する信頼や政治システムにおける自分の立場を損なうようなコミュニケーションを通じて、存在論的安全が危うくなった時点で武器化される可能性がある。

第三に、情報の記述的性質とは対照的に、アイデンティティを定義する道徳的地平は、「対象に対して、その対象に対してどのように行動すべきかという手がかりを与える感情的な含みを含む」（バーク、1984、177頁）言語を提供する。オンライン・コミュニケーションでは、「人々は他者の感情の中に自分を認識する」（Zaharna, 2018, p.60）ため、「アイデンティティは共有された感情であり得る」のである。感情的アピールとの対比は、外的な対象や事象の経験を参照しない説明である。2感情的アピールは、怒りや恐怖の誘発を求めるコミュニケーションが繰り返されると不安が生じるように、アイデンティティを問題化することができる-既存の政治秩序と非識別するようにアメリカ人を動かすためにロシアのソーシャルメディア活動が用いた戦術（Jensen, 2018）。

フェイクニュースコンテンツの作成、配信、普及

効果的なコンテンツ制作は、記憶に残るコンテンツを作るために、ターゲット選定からいくつかの異なる学問分野（軍事、政治学、生物学、心理学、社会学）に頼っている。特に情報が溢れる社会では、コンテンツは意図したターゲットに響くものでなければならない。そのためには、言語学、心理学、社会学などの論考が必要である。配信は、心理学、社会学、言語学、演劇、そして最近ではデータサイエンスに依存した信頼性の高いものでなければならない。また、発信はテクノロジーに依存することが多いため、サイバーセキュリティを取り入れる必要がある。

言語学プロパガンダツールの分析

言語学はレトリックによる欺瞞的なデータの作成に使われる学問であるが、対抗策が必要なときに言語学者が相談されることはない。Sampleら（2018）は、フェイクニュースを支持することに関連する手法として、よく知られた3つの一般的な攻撃タイプ（エトス、パトス、ロゴス）を挙げ、フェイクニュース対抗策においてこれらの手法が考慮されなければならない理由を述べている。3つの修辞的なグループのうち、それぞれは、言語学とコンピュータサイエンスのルールを組み合わせて自動処理するための課題だけでなく、計算言語学を展開する際の機会も提供する。

フェイクニュースの言語分析は、様々な領域や分野にまたがって行わなければならない。なぜなら、あらゆる言語行為は、多数の異なる影響やドライバー（純粋な言語ベースだけでなく、政治、社会、文化、思想…）からなる文脈に埋め込まれているからだ。識別や帰属のツールとして語彙や構文のパターニングの識別に基づく研究（Conroy et al., 2015;Dey, 2018）は、分析の1ステップにしかなり得ない。同様に、個々の言葉の綾とエトス、ロゴス、パトス（後述）へのアピールの両方を検出する修辞学的分析も不可欠であるが、対象テキストをより広く深く検討するための一要素にしかなり得ない。本稿では、フェイクニュースの特定と対策に関する学際的なアプローチについて概説している。このような融合的アプローチの1つの有用な概要はZhou and Zafarani（2018）によって示されているが、以下では、フェイクニュースの調査のための概要モデルが示されている。これは、フェイクニュースを単一の言語行為としてではなく、いくつかの要素からなるターゲットコミュニケーションのプロセスとして分析することに基づいており、これらの要素はすべて、どのようにフェイクニュースが構築され、どのように機能するのかという真の情報に基づいた理解を可能にするために考慮されなければならない。

このモデルでは、あらゆるコミュニケーション行為は、送信者から受信者へチャネルを介して送信されるメッセージからなるプロセスと見なされている（もちろん、これはシャノン-ウィーバーモデルの単純化であるが、出発点として有用である）。ここで注意しなければならないのは、各要素を単独で研究することもできるが、真に洗練された分析では、様々な要素がどのように相互作用し、関係し合っているかを検討するということである。たとえば、選択された伝達経路の問題を考えてみよう。ソーシャルメディアのプラットフォームによって運用方法が異なり（Twitterはメッセージの長さに制限があり、SnapchatとInstagramは画像主導型）、訴求する層も異なる（Chen, 2020）。フェイクニュースが特定のターゲット層に届くよう慎重に作成されなければならないように、効果的な対抗戦略も、フェイクニュースを軽減するための最も適切なコミュニケーションアプローチとチャンネルを考慮しなければならない。ネットユーザーの年齢（および政治的意見）とフェイクニュースを再送信する可能性には相関があることがわかっている（Guess et al.、2019）。

フェイクニュースの効果的な分析を行うためには、コーパス言語学のツールを導入し、過去のフェイクニュースキャンペーンの強固なデータベース（またはコーパス）を構築する必要がある。Tenove et al. (2018)で引用された例や、英国情報コミッショナー事務局からの2つの報告書。(2018a,b)は、有用な出発点を提供している。これにより、フェイクニュースの詳細な分類法を作成し、送り手／受け手／チャンネルを調べ、メッセージの種類とその特定の言語的／修辞的特徴を詳細に分析することが可能になる。この分野ではすでに研究が行われているが（Digital Shadows, 2018;Molina et al., 2019）、きめ細かな分析を可能にする、より大規模なコーパスのセットが急務である。

フェイクニュースの機能を真に理解するためには、ストーリーがプラットフォーム上でどのように広がるのか、また、トロール、ボット、スーパーユーザーなど、さまざまなユーザーがどのように誤情報の拡散者として機能するのかを検証する必要がある。メッセージの広がりを時系列で収集、分析、可視化するツールの開発が優先される。例えば、あるフェイクニュースが情報空間上で急速に広まる一方で、それに対抗するメッセージがはるかに遅れ、狭い範囲でしか広まらないのは、どのような要因によるものかを考える必要がある。ソーシャルメディアプラットフォームの全領域にわたる研究開発のための有用な基盤を提供するツールの一つに、Lawrence AnthonyとClaire Hardakerが考案したオープンソースソフトウェアの一つであるFireAntがあり（Anthony, 2018）、また自由に利用できるツールとして、インディアナ大学が開発したOSoMe（OSoMe.）というツールがある。これは、設定されたタイムスケールでのTwitterからのデータの取得を可能にする。その後、データはソーシャルネットワークマップとして可視化され、発信のキーノードを特定することを可能にする。これにより、メッセージの拡散を細かく分析し、最も多く発信している人物に対抗策を絞ることが可能になる。課題は、あらゆるソーシャルメディア・プラットフォームに対応できるツールを考案することである（画像主導でマルチメディアが豊富なInstagramやSnapchatの領域が特に試されるであろう）。

エトス: 人やグループを定義する

“Persuasion lies at the heart of political communication”(Flanagin and Metzger, 2014, p. 1); したがって、メッセンジャーの役割は非常に重要である。このため、前述のようにメッセンジャーが対象となる。Guら（2017）は、記者の信用を落とすためのコストは5万ドルであると観察している。Flanagin and Metzger(2014)は、メッセージが一定であっても、プレゼンテーションにおける信頼性の役割や、誠実さや公正さの認識について言及している。メッセンジャーに適用されるエトスについては、本論文のアーカイブ・データの小項目でさらに議論する。

エトスは、ターゲットやメッセンジャーを定義する（Cockcroft and Cockcroft, 2005, pp.28-54）。この活動に対する定義は、肯定的なものも否定的なものもある。人気タレントや有名人が政治家や政治（Scott, 2006）や治療法を支持するケースもあれば、相当量のフェイクニュースに関連するこれらの話題の両方に否定的なニックネームが使われるケースもある。また、信頼できる記者を標的にし、その信頼性を損なわせようとするケースもある。第二のエートスは、メッセンジャーに関わるもので、アーカイブのセクションでさらに説明する予定である。メッセンジャーへの攻撃は、記者、出版社、編集者など、ニュースのサプライチェーンに関わるあらゆる主体の信用を落とすという形をとる。

フェイクニュースは、必然的に意図する読者のイデオロギー的／文化的／政治的価値観の上に構築されることになり、さもなければ失敗することになる。いわば「視聴者の言葉を話す」だけでなく、その視聴者が持つ参照枠の中で運用されなければならない。そうすることで、一般的に展開されている「私たち」と「彼ら」の物語が、感情的な結びつきを加えて定着することができるのである。この感情的な結びつきについては、「パトス」の項で詳しく説明する。

エトス（ターゲットやメッセンジャーの標的化）が展開されると、ほとんどの個人が善と悪の両方の性格特性を持っているにもかかわらず、善悪の二項対立が優勢になり、ニックネームはターゲットとの悪意または善意を示唆するが、その両方はない。エトスの使用は、部族の識別と行動に訴えるものである。したがって、この形式のプロパガンダは、好奇心や希望よりも新しいグループや他のグループに対する恐怖が優勢な社会で、同質的なグループに対してより良い効果を発揮することができる（Hofstede et al.）このような社会では、「内なる集団」は「外なる集団」とは著しく異なる価値観を持っていると見なされる。

パトス：感情に訴える

この修辞的なグループ分けは、感情に訴えることを特徴とし、したがって、恐怖（Montgomery, 2017）と希望（Menz, 2009）の感情は、政治舞台で使用された長い歴史を持っている。政治的プロパガンダにおいて、感情は重要な役割を果たす。情報の記述的性質とは対照的に、アイデンティティを定義する道徳的地平は、「感情の含みを含む対象のための言語であり、その対象に対してどのように行動すべきかという手がかりを与えてくれる」（Burke, 1984, p.177）のである。オンライン・コミュニケーションでは、「人々は他者の感情の中に自分を認識する」（Zaharna, 2018, p.60）ため、「アイデンティティは共有された感覚となりうる」感情的アピールとの対比は、外的な対象や事象の経験を参照しない説明である。3怒りや恐怖の誘発を求めるコミュニケーションが繰り返されると不安が生じるように、感情的なアピールはアイデンティティを問題化することができる-既存の政治秩序と非識別するようにアメリカ人を動かすロシアのソーシャルメディア活動で用いられた戦術（Jensen, 2018）である。恐怖と希望はまた、軍事的な事柄の動機付けとして使われてきた。

この3つのアプローチのうち、最も即効性があるのはパトスで、論理や合理的な思考を短絡させ、即座に感情的な反応を呼び起こすことを目的として作用するものである。これは、意思決定が感情的なものであることに起因している。パトスを訴えるとき、句読点は貴重なツールになる。イスラエルの政治談話では、句読点がプロパガンダの目印として機能することが示されている（Shukrun-Nagar, 2009）。

ロゴス：論理の訴求

ロゴスベースのアプローチは、非常に難易度が高い。人間は主に感情で動くものであり、論理的な推論やデータ駆動型の説得を用いると、一般大衆の統計学や一般数学の知識の欠如に始終することになる。もちろん、統計は物語をカスタマイズするために容易に操作することができる。場合によっては、Pomerantsev and Weiss（2014）が指摘するように、どんな物語でも作ることができ、その物語を支える現実を作ることができる。

部分的な真実と文脈から切り離された事実。この種の論理は、政治的・科学的な場において、時に有効である。ワクチン接種が自閉症を引き起こすと信じていた反ワクチン運動について考えてみよう（Gross, 2009）。有名人の推薦（Antrim, 2018）が信用できるように聞こえる科学者（Wakefield, 1999）の信用できない論文とともに、自閉症の症例数の説明できない増加は、エートスとロゴスに基づくアピールの組み合わせを作り出した。多くの陰謀論は、ロゴスにパトスを混ぜた要素を含んでいる。メッセージングは用語を含み、ターゲットとなるオーディエンスに響くものでなければならず、言葉の選択はターゲットとなるグループが使うであろう類似の言葉や同じ言葉を反映したものでなければならない。

心理学個人の行動や思考を理解する

人間は基本的に社会的な生き物である。私たちの社会的世界は複雑で、何が真実なのか、生存と個人の成長を最大化するために何を知る必要があるのかを判断するために、情報をふるいにかける必要がある。しかし、私たちが処理する情報の量は膨大であり、デジタル時代においては、高い強度で私たちに届けられる。前述したように、ヒューリスティックとは、この情報過多を処理するために私たちが認知的にショートカットするために用いる戦略で（Tversky and Kahneman, 1983）、認知バイアスとも呼ばれるものである。このようなバイアスは、時に間違った結論を出したり、間違った行動をとったりすることがあるが、最終的には環境をナビゲートするための適応的な戦略である。しかし、こうしたバイアスは、フェイクニュースの作者によって狙われ、利用される可能性がある。例えば、秘密性ヒューリスティックは、秘密の情報源からの情報であると提示されたものは、より信頼性が高いと信じるように人々を導くかもしれない（Travers et al.、2014）。このヒューリスティックは、「リークされた」情報を明らかにすると宣言するフェイクニュースに利用される。フェイクニュースの受容は、ストーリーに付随する画像の使用によってさらに高まる可能性がある（Newman et al.また、フェイクニュースの記事に画像を添えることで、その記事がソーシャルメディアで共有される可能性が高まる（Fennら、2019）。ソーシャルメディアのプラットフォームを通じて作られるエコーチェンバー（Boutyline and Willer, 2017）やフィルターバブル（Holone, 2016）は、前述の確証バイアス（Kahneman and Tversky, 1973）のヒューリスティックを通じて、これらの認知プロセスをさらに強化する可能性がある。研究は、フェイクニュースの項目の受け入れは、私たちがどのように私たちの世界についての知識を集め、私たちの信念体系を開発するかを指す認識論的認知の適用を通じて対抗できることを示唆している。

また、私たちの社会的な世界の理解は、私たちが仲間たちの信念や態度として認識しているものから影響を受ける。前述したように、これはフェイクニュースの拡散につながる可能性があるが、同じ社会的影響力はフェイクニュースに対抗するための強力なツールにもなり得る。実際、ソーシャルメディア上でフェイクニュースの項目に挑戦する友人からの批判的なコメントを見ることは、ソーシャルメディアプロバイダーがその項目はフェイクのようだと述べる免責事項よりも効果的で、人々が自らその項目に疑問を持つように促すことが観察されている（Colliander, 2019）。

感情は、感情-情報としての理論（Schwarz, 2012）で予測されるように、フェイクニュースの受け入れまたは拒否のもう一つの決定要因である。虚偽は真実よりも70%多くリツイートされる（Vosoughi et al.、2018）。これは、他のいくつかの認知バイアスの形態と関連する可能性がある。生存情報バイアスとは、自分自身や気になる人の健康や幸福に関連する情報に注意を払う傾向を指す（Stubbersfield et al.、2015）。この例として、ハロウィンのお菓子の中に毒が入っていたという話が、そのような記録がないにもかかわらず、毎年親たちの間で共有されていることが挙げられる（Snopes, 2020）。このような生存情報バイアスを呼び起こすような話は、今度は感情的な反応を促す。同様に、社会的情報バイアスとは、社会的価値観や社会規範から何らかの逸脱を示す情報に注目する傾向を指す（Stubbersfield et al.、2015）。この種のバイアスを利用した例としては、政治家や有名人が何らかの陰謀に巻き込まれていることを前提としたフェイクニュースが挙げられる。これもまた感情的な反応を刺激し、感情-情報理論（Schwarz, 2012）で予測されるように、真実であるとして受け入れられる可能性がある。社会的ゴシップの理論と同様に、この情報は、その個人が重要であると認識したため、その個人のソーシャルネットワーク全体で共有される(Mesoudi et al., 2006)。このようにソーシャルネットワーク全体でフェイクニュースが継続的に再投稿され支持されることは、幻想的真実という現象に寄与する可能性がある。これは、長年にわたって広告でマーケティング担当者が利用してきた効果で、繰り返される発言はより真実であるとみなされる（Dechene et al, 2010）、ワクチンと自閉症に関するものなどのフェイクニュースに関連して見られる現象である（Unkelbach et al, 2019）。

その論拠の一つは、人々は、生活の中で出会う事実のほとんどが平凡で正確であるという基準率の経験をもとに、自分が接する情報は真実であると思い込む傾向があるというものである（Brashier and Marsh, 2020）。この仮定は、ターゲットが「自分が正直だからニュースソースも正直だ」と考えるアンカリングバイアスに起因すると考えられる。信頼できる情報源から情報を受け取った場合、これはさらに深刻化する（Flanagin and Metzger, 2014）。

認知能力の差も、フェイクニュースに対抗しやすいかどうかを予測する要因のようで、認知能力の低い人は、正しい情報を明示的に提示されたときに、フェイク情報を最初に受け入れた状態を変えにくいという（De Keersmaecker and Roets, 2017）。これは、アンカリングヒューリスティックとして知られる別の認知バイアスとも関連しており、人々は、たとえその最初の判断が正しくないことが証明されたとしても、その後の判断を最初の判断に近づける傾向がある（Northcraft and Neale, 1987）。Cognitive Reflection Testは、Pennycook and Rand（2019）によって、フェイクニュースへの感受性が党派的バイアスよりも依存的思考であることを示すために使用されており、他の人々は、分析的思考の低下と開放的思考の減少により脆弱性が増すことを挙げてこの根拠を支持している（Bronstein et al.）

社会学

文化的価値と文化的価値によって引き起こされる分断は、対話を定義し、継続するために利用される。最近の事例の多くでは、これらの価値観は、分断を煽り、社会の分極化を増幅させるために利用されている（Azzimonti and Fernandes, 2018）。興味深いことに、対象となる社会内の分裂の多くは部族的なものであり、ある種の基本的な価値は両グループで類似しているが（すなわち、平等に扱われたいという欲求、自分の意見を自由に表現したいという欲求）、社会内の部族を定義する「イングループ」対「アウトグループ」の力学が対象となる社会の亀裂であることを示している。これは、基本的な価値観が同じであれば、同じようなテクニックを使って、ターゲットとなるグループが他のグループに問題があるかのように操ることができるためだ。例えば、ある社会のあるグループが平等な権利を求めているとき、別のグループが、最初のグループが権利を得るためには、自分たちの権利を失うか、放棄しなければならないと考えるような行動である。論理的にはそうではないが、このような認識は残っている。

技術的な能力と相互作用が高いほど、情報戦の作戦に対する脆弱性は高くなる(Szfranski, 1997)。情報システムは、はるかに高速かつ大量の情報の伝達を可能にし、情報の解釈は人間とともに行われる。Szfranski (1997)は、識別（戦略的）と制限（戦術的）な偽情報を識別する戦略的要素と戦術的要素を明らかにした。戦略レベルでは、戦術レベルで正確に対応するために、完全に統合された学際的な対応が必要であると主張している。

文化的価値観や遺産に基づいて志向が異なる（Szfranski, 1997）。ロシアは、特に欧州連合諸国における移民危機を積極的に煽ってきた（Volodymyr, 2016）。国を侵略する「よそ者」への恐怖に語りかけることで、受け入れ国ではナショナリズムの高まりが生じた。具体的には、ロシアは文化的価値と一般的な幸福の喪失に対するネイティブな市民の恐怖に語りかける右翼の物語を作り、支援してきた（同書）。文化的に言えば、西欧の民主主義国家の多くは不確実性回避（UAI）の価値が高いものと低いものが共存している（Hofstede et al.、2010）。Hofstede et al. (2010)は、ナショナリズムと高いUAIの文化的価値観の関連性を指摘している。Hofstede et al.(2010)によると、高いUAI値は未知のものに対する恐れや不安を反映し、低いUAI値は未知のものに対する好奇心や学ぼうとする意欲に関連するという。オープンな社会では、ソーシャルメディアというコミュニケーション媒体が広く行き渡るため、こうした文化的な亀裂や違いを生み出すことが容易になる。

成功したキャンペーンは、人間のターゲットに誤った現実を押し付ける（Szfranski, 1997）。開かれた社会は、代替的視点、様々な視点を受け入れようとする意欲（Hofstede et al., 2010;Nisbett, 2010;Minkov, 2013;Sample, 2015）に対して脆弱であり、通常は武器化した情報に対する強さと防御であるが（Szfranski, 1997）、これらの文化規範は、多くの場合、かなり洗練されていて、すべての場合、ターゲットにするオーディエンスの価値に合わせてカスタマイズされた注意深く作られた偽の物語の促進を通してこれらの社会に対して使用されていた（Vodymyr, 2016;Sample et al.、2018）。

政治学政策に影響を与える

フェイクニュースとは、政治的な文脈で操作的なコミュニケーションを戦術的に用いることで、ある状況に対する戦略的な意図に関連して、政治的な行為者を欺くのに役立つ。それは、政治的な立場や選択肢を歪めて、市民の嗜好と行動が一致しない理由で投票させる（あるいは投票を控える）よう仕向けることを含むかもしれない。また、有権者や政治当局の注意をそらすような偽りの問題を持ち込むことで、意思決定の場を曇らせようとすることもある。また、違いを増幅することで、集団間の関係を悪化させようとすることもある。その意味で、悪意のあるフェイクニュースキャンペーンは、政治体制にさらなるストレスを与え、統治能力を低下させる活動であると考えることができる。一方、同じようなフェイクニュースキャンペーンでも、国民や政治当局を欺くことで、政治当局や統治システムの信頼性、正当性、パフォーマンスに対する認識を高める方向に向かうこともある（Easton, 1975）。これらは、支持やストレスの対象となりうる政治システムの要素である。ストレスが大きすぎると、システムの崩壊や暴力につながる可能性があるとEastonは指摘している）。こうした後者の、政治システムの成果を称えることで政治システムを支える取り組みは、中華人民共和国のような非民主主義国ではよくあることで、政府職員はしばしばオンラインで中国共産党の正当性を宣伝するよう求められ、検閲体制がますます厳しくなることでオンラインでの批判コメントの出現を妨げている（キングら、2017;ジェンセンと陳、近日公開\n予定）。こうした努力は、既存のエリートや秩序の利益を図るために、システムを変えようとする一般市民の努力を犠牲にして、人為的に支持を膨らませるかもしれない。いずれの状況も、フィードバックを提供する能力と、市民および／または政治当局によるその受け取りに歪みが生じることで、政治システムへの民主的参加を弱体化させる。

「フェイクニュース」についての政治学的な扱いは、二つの異なる側面に焦点を当てている。第一に、フェイクニュースを広める外国のアクターが、2016年に米国で行われた選挙結果を歪めた可能性があるかという問題である。第二に、近年、政治的文脈の中でこの言葉が使われるようになっていること、特にジャーナリストや認識されている（他の）政敵に対する蔑称として使われていることを研究している。干渉問題に関しては、大半の研究が、2つの理由から選挙にほとんど影響を及ぼしていないことを示唆している。第一に、ロシアのトロール通信を他のオンラインソース、特にオルトライトのものと区別することは困難である（Benkler et al.）今日のロシアは、保守派の主流サイトにその記事を渡すことを進めるオルトライトの出版物（Dorrell, 2017）のニュース記事の主要なソースであるため、ロシアとオルトライトの出版物の間のこの線引きは曖昧である。

これに関連して、国内のニュース制作源やキャンペーン自体がロシアの取り組みよりもかなり遠くまで到達していたため、なぜロシアの荒らしがこれらの他のソースと比較して突出した効果を生み出したのかは不明である（Sides et al.、2018）。さらに、一般に政治的なキャンペーンは、競合するキャンペーンが互いに打ち消し合うため、中立的な効果を持つという研究に基づいて、オンライン操作キャンペーンがどの程度の効果を持つかについて一般的に疑問がある（Kalla and Broockman, 2018）。

政治科学における分析の根底には、フェイクニュースや操作的なキャンペーンの効果を理解する上で関連する分析単位としての「情報」に焦点が当てられている。この焦点は、有権者と有権者の行動に関する研究に由来するものであり、有権者が意思決定する際の情報伝達におけるキャンペーンとメディアの役割を強調している（Downs, 1957;Ferejohn, 1990）。情報の努力は、外国人国家アクターの操作キャンペーンであれ、国内のニュースソースであれ、受け取ったすべての情報は、その潜在的効果において同等であるように、互いに独立していると考えられている。Jamieson(2018)は、ロシアがその時点では必ずしも公開されていない情報との関連でメッセージングを順序立てているように見えることから、必ずしもそうではないことを指摘しており、ロシアの活動などの順序がユニークで増幅的な効果を持つ可能性があるとしている。

さらに、政治科学の文献では、選挙運動が有権者の選択に正味の効果をもたらす証拠はほとんど見いだせない傾向にあるが、標的を定めた外国干渉活動の効果を増幅する可能性のある効果を見いだせる場所がいくつか分類されている。まず、候補者が物議を醸すような立場をとっており、その立場を支持する有権者を動員するための投資が多い場合、そうしたキャンペーンが影響を及ぼすという証拠がある（Kalla and Broockman, 2018）。それは、協調的な隠微な影響力キャンペーンが、繰り返しによって特定の立場をより合理的に見せることで得られる正規化効果と一致するだろう（Kahneman, 2011）。第二に、人々が恐怖を表現し、そのメッセージに基づいて限定的かつ個別の行動を取る根拠となるメッセージ（例えば、いいね、リツイート、一回投票）は、有権者にとって説得力のある物語アイデンティティーの形成に役立つという証拠がある（Jamieson, 2018）。

さらに、政治学の分野では、「誤情報」に焦点を当てた文献が存在する。誤情報は、前者が事実誤認であること（フェイクニュースの定義と重なるカテゴリー）、後者が政治的効果を誘発する目的で事実誤認の主張を意図的に配信することで、しばしば誤情報と区別される（Bennett and Livingston, 2018;Chadwick et al, 2018;Tucker et al, 2018）。誤情報の文献に関連して、修正剤の有効性に関する研究がある（Nyhan and Reifler, 2010,2015;Vraga and Bode, 2017）。誤情報が修正されることを示唆する証拠もあるが、それらの効果は、信念の記事が自分の信念やアイデンティティ構造と直接結びついていない場合に限られる傾向がある（Garrett et al.，2013）。

最後に、政治的な蔑称としての「フェイクニュース」という言葉の使用について、政治学の研究領域がある。ジャーナリストや政敵がこの言葉のターゲットにされている（Tandoc et al.、2018）。ドナルド・トランプの当選以来、オーストラリアなどでは政治家が他者への攻撃としてこの言葉を使うことが増え、この言葉の使用は通常、争われない主流のニュースでの報道によって増幅されることが研究で示されている（Farhall et al.）プロパガンダは歴史的に、自陣に有利な物語を提供するだけでなく、敵を萎縮させ、戦いを続ける意志を弱めるものだと政治学者には理解されてきた（Lasswell, 1927）。真実を知る能力がしばしば疑問視される現在の時代には、政治に対するより広い腐食作用があり、「ポスト真実」の政治時代に生きていると指摘する人もいる（Keane, 2018）。政治的権威、専門知識、専門家システムに対する信頼を損なう結果は、その分極化効果によって全体として政治システムを統治不能にしかねないため、選挙を揺さぶるという個別の結果を超えて、多くのシステム的影響を及ぼす可能性がある（Singer and Brooking, 2018）。今日のフェイクニュースは、外患と自傷の組み合わせを含み、民主的な政治生活に参加しようとする市民の意志を蝕む-まさにトクヴィルが恐れた、専制主義の一形態を生み出す状態である（Tocqueville, 2010）。

フェイクニュースは政治の世界で顕著な役割を果たしているが、健康や科学へのフェイクニュースの動きは特に問題である。特にCOVID-19については、その影響は深刻で、多くの場合、命にかかわる。あるケースでは、夫婦がこの薬に関する空疎な憶測に基づいてクロロキンの服用を選択し、死亡した（Neuman, 2020）。このケースでは、科学界が研究を呼びかけ、科学的プロセスだけでなく物語も政治化された。

サイバーセキュリティ

サイバーセキュリティは比較的新しい戦争の領域であり（Lynn, 2010）、情報システム、特にソーシャルメディアが偽情報の標的、配信、普及に広く展開されているにもかかわらず、フェイクニュース現象への対応は遅かった。消極的な姿勢の背景には、検閲対言論の自由という議論もあるが、もう一つの理由は金銭的なものである。Facebookなどのソーシャルメディアサイトは、広告費に大きく依存したビジネスモデルを持っている。興味深いことに、Taboolaはフェイクニュースに関連する一般的な広告主となっている（Neilsen and Graves, 2017）。

その後も議論は続いたが、FacebookをはじめとするソーシャルメディアサイトがCambridge Analyticaに個人情報を売却し（Cadwalladr and Graham-Harrison, 2018;Risso, 2018）、データをマイニングして政界で利用する役割が知られるようになると変化が起きた。個人情報の共有は、サイバーセキュリティの中核的なテナント領域の1つであるプライバシーの境界を越えた（McCumber, 1991）。ユーザーの個人データの販売（Cadwalladr and Graham-Harrison, 2018;Risso, 2018）と、ターゲットとするユーザー向けのディスインフォメーションのカスタマイズは、軍人と同様に民間人もディスインフォメーションからの保護が必要になるというSzfranski(1997)の主張を支持するものだった。

Szfranski（1997）は、情報システムは敵対者がターゲットに関する情報を収集する主要な手段であると観察している。フィルターバブルを作成し再強化する人工知能（AI）アルゴリズム（Sîrbu et al., 2019）は、エコーチェンバーの発展を増幅し、個人が偏りのないニュースを見つける能力を低下させる可能性がある。さらに、ターゲットの見解と一致するフィルターバブル内のペルソナは、そのグループからの信頼性を獲得する。フィルターバブルについては、「データサイエンス」で詳しく解説している。この記事の「大量のフェイクニュースを処理する」で詳しく説明している。

インターネットのスピードとリーチが偽情報の急速な拡散を可能にし、拡散に対抗する実行可能なソリューションには、サイバーセキュリティに関連する自動化と検出がこの努力の役割を果たす必要があることを示唆している（Cybenkoら 2002;HornとAdali. 2017;Sampleら、2018）。さらに、ロシアのキャンペーンは、物語を促進するための情報システムの利用の激しさによって特徴づけられている（Volodymyr, 2016;Payne, 2017;Jensen and Sample, 2019）。

Volodymyr（2016）は、シリア（トルコ）、欧州連合、ウクライナなど、インターネット接続とソーシャルメディアの出口に大きく依存する大規模な進行中のハイブリッド作戦を特定した。それ以来、NATOとリベラルな西側民主主義諸国が、ロシアを起源とする作戦のリストに加えられている。他の国やグループは、ロシアの成功に勇気づけられた。インターネット技術の予期せぬ利用をもたらした問題のグローバルな性質により、フェイクニュースやディープフェイクなどのデジタルな欺瞞は、今やサイバーセキュリティに属する問題の一つとなっている。

サイバーセキュリティ分野内の変化の原動力は、現在、解決策の開発につながるほど強力ではない。国家がより大規模な解決策の適用を模索し、個人のプライバシー権の保護を奨励する政策変更を採用するまでは、サイバーセキュリティ業界は、財政的に駆動する事業分野として、この問題に取り組むインセンティブがないのである。実際、商業団体は、インターネット上のプライバシーに関する個人の権利を繰り返し削除し、利用者が受け入れる、便利なサービスと自分のデータを交換すべきだという新しい規範を作り上げることで、この状況を作り出すことに貢献していた。商業的、法的な推進力と、法執行機関や政府機関の強力なサポートが組み合わさって、インターネット上の匿名性が損なわれているのである。既存の規範を変える強い動機は、政治家、軍人、国家安全保障上の重要人物に対して、政策変更を強いる規模の標的型情報操作を適用することで得られると思われる。しかし、そのような推進力がなければ、このパラダイムが変化し、インターネット上のユーザーデータの商業化に伴う法的・経済的コストが発生するまでは、オンラインフェイクニュースを可能にする主な推進力は継続されるだろう。残念ながら、この分野で出現した商業化とロビー活動により、サイバーセキュリティ業界は、政策変さらに対応するための支援的役割を除いて、近い将来にこの問題に対処できる可能性は低くなっている。金融決済システムをソーシャルメディアや報道機関と統合する取り組みは、この問題をさらに悪化させる可能性がある。その一方で、利用者と政策立案者に対する教育を強化し、匿名化された安全なアプリケーションを通じて利用者の安全を確保する試みに注力することが、サイバーセキュリティの実務家が利用できる短期的な最善の解決策であると思われる。

データサイエンス大量のフェイクニュースを処理する

ケンブリッジ・アナリティカが行った仕事（Risso, 2018）は、フェイクニュース空間におけるデータサイエンスの成長を例示している。元々はマーケティング、つまり心理学、社会学、芸術からの入力を処理する別の学問分野で使用されていたが、最近では政治的目標にアルゴリズムが適用されるようになっている。アルゴリズムには、履歴ベースのヒューリスティックから、ツリーやニューラルネットワークに至るまで、いくつかの種類がある。これらのアルゴリズムは、そのデータを通じて、嗜好を再強化したり、嗜好を新しい方向へ誘導したりと、それぞれ操作することができる。さらに、アルゴリズムによって作成されたフィルターバブルは、道徳的で確率的な性質を持っているため、ユーザーに提示されるストーリーは、トーンと正確さにおいて類似している。

AIの出力を操作する能力は、フェイクニュースの伝播にとどまらず、AIと機械学習（ML）のあらゆる側面に及んでいる。役に立つように訓練されたが、最終的には罵倒するようになったマイクロソフトのチャットボット、Tay（Risley, 2016）の例は、正当なデータの入力操作によってAIと意図しない方向を操作する能力を示している。重みとデータの操作は、敵対的機械学習（AML）とAIの悪意ある使用（MUAI）の研究を促進し、他のドメインが遭遇した多くの欺瞞は、フェイクニュースに早く発生した。

フェイクニュースの作成、流布、対策におけるAIやMLの活用は、データサイエンスの成長分野であり、まだ多くのことが解明されていないのが現状である。ディープフェイクは、この成長分野の一例である。データサイエンスは既存の問題に魅力的な新しい洞察を与えることができるが、上記の例は、データサイエンスの技術の力が、良性、悪性、または善意の用途に使われる可能性があることを思い起こさせる。データサイエンスで覚えておくべき重要なポイントは、処理されるクエリの重要性である。クエリのフレーズによって、MLプロセスで学習したデータに基づく重み付けされた経路にアルゴリズムが設定される。データの分類によって、同じクエリでも結果が異なることがある。この現象は、2人の人が検索エンジンに同じクエリを入力して異なる結果を受け取ったときに観察できる。

AIやMLがもたらす問題にもかかわらず、フェイクニュースやその他のデジタルな欺瞞に対抗することは、AI/MLの仕事になるだろう。Horn and Adali (2017)は、すでにMLで学習したホストを用いてフェイクニュースを検出することに成功したことを示している。ルールの完成度が高まれば、精度は向上する。もしルールが完全でない場合、フェイクニュースの検出は、既知のパターン、サイバーセキュリティ用語でいうシグネチャに適合するストーリーを検出することに限定され、シグネチャは新しいアプローチでは検出率が低いか存在しないかのいずれかになる。AI/MLはパターンの検出に非常に長けているが、そのパターンはソフトウェアにとって馴染みのあるものでなければならず、そのため、他の分野から得た知識に基づいてルールを作成する必要がある。

劇場エンターテインメントとしてのニュース

“All the world is a stage”(Shakespeare, 2009)と言われるように、フェイクニュースには演劇的な側面がある。演劇は、観客とパフォーマーが主体、観客、恩人の役割を分担する共同芸術と考えることができる（Abaka, 2014）。同様に、フェイクニュースも、特にインタラクティブな配信形態（トークラジオ、インタラクティブなテレビのライブニュース番組、ソーシャルメディアなど）においては、同じようなダイナミズムを生み出す。

演劇もフェイクニュースと同様、学際的なものである。演劇は大きく8つの分野から構成されている。

演技、演出、脚本、制作、衣装、セット、音響、照明デザインなどである（Jones, 2004）。これらの分野のそれぞれについて、フェイクニュースの作成と配信における役割とともに、物語と観客の中で共有され、望まれる意図を求めることを支援するために議論する。

演劇は、観客の思考や感情を創造したり操作したりするために、様々な分野が協力し合う必要がある。フェイクニュースは特に、車の中のトークラジオ、家庭内のテレビ、携帯電話やパーソナルコンピュータのソーシャルメディアなど、個人空間の信頼できるメディアで配信されるプロパガンダを利用する。これらのデバイスはすべて、ユーザーにとって信頼できる発信源である。先に述べたプロパガンダのテクニックを駆使したメッセージングは、ユーザーがすでに信頼できると判断した環境で配信される。

ストーリーが最も効果的に語られるのは、各分野が融合し、ジョーンズの集合体の総和よりも大きな最終成果物が生み出されるときである(Hostetter and Hostetter, 2011)。俳優たちは、声、表情、体の動きを使って、言葉や記号の提示と解読の共有を通じて、意識と無意識をとらえ、一体化したメッセージを伝える（Hostetter and Hostetter, 2011）。同様に、記者やコメンテーターも、声や表情、体の動きを使って、意識的にも無意識的にもメッセージを伝えている。

役者はセリフを覚えるだけでなく、観客が理解しやすく、親近感を覚えるような感情体験をもとに、表情や体の動きで感情を表現し、パトスというテキストに命を吹き込む準備をするのである。そして、メッセージを作り上げたら、そのメッセージを伝えることで、感情を封じ込めなければならない。

メッセージの配信と封印が成功したら、トロールやボットといった二次的なアクターを通じて、メッセージの再強化を行うことができる。トロールは、メッセージを増幅するために使用される有償の人材で、ターゲットの交戦を維持するためのサポートとして、目に見えないアクターの役割を担うことができる。ボットは、トロールの自動化された対極にあるもので、AIの使用により同じ任務を遂行する。

役者は観客の感情的な記憶を利用しようとする（Stanislavski, 1989）。視覚と聴覚は想像力への入り口である。俳優がこの二つの感覚を支配すれば、想像力への通路ができ、心を指示し操ることができる。スタニスラフスキー（1989）は、視覚と聴覚を第一の感覚とし、触覚、嗅覚、味覚を第二の感覚として、第一の感覚を通して引き起こせると考えている。スタニスラフスキー (1989) は、俳優が感覚のうちのひとつに訴えることができれば、残りの感覚も俳優が利用できるようになり、すべては観客の感情記憶に影響を与えるためのサポートになると述べている。演出家の責任のひとつは、俳優と協力して劇のトーンと意図を設定することである。ニュースディレクターは、ニュースキャスターと一緒になって、ストーリーのトーンや内容を伝えていく。ニュースステーション間で比較される同じニュース記事でも、長さ、トーン、詳細が異なることがある（Sample et al.、2018）。インタラクティブ・ニュースの場合、演劇と同じように、ムードや感情を視聴者から引き出すことができる。

演劇のディレクターが果たすもう一つの重要な役割は、ストーリーのどの部分を残し、どの部分をカットするかを決めることである。同様に、ニュースメディアでは、監督、プロデューサー、編集者が、どのストーリー、あるいは選択されたストーリーの一部を観客に見せるかを決定する。先ほどの「思考」の話を思い出すと、「感じない事象は認識されない」ということになる。AI/MLと同様、情報の流れは、ある意図のもとに、ある主体によってコントロールされる。

作家は、熟練した俳優やキャスターが伝える言葉、言語、リズム、テンポ、音楽性を頼りにしている。すべてがよく練られ、物語の意図を達成するために統合されている。統合された全体は、聴衆の価値観や信念を翻弄するように実行される。印象的な引用や韻を踏むことで、観客と俳優にとって忘れられない思い出となる。ストーリーを書く人の言葉の選択は、操作的な言語的選択、特にパトスに関連したものに適合する。フェイクニュースに関連した覚えやすいフレーズは、記憶に残るメッセージを伝える効果的な方法である。

プロデューサーは、ディレクターや俳優などビジョンを支える人材の採用など、オペレーションの責任者である。キャスターやリポートのキャスティングは、視聴者に意識的・無意識的に多大なメッセージを送る。魅力的な話し手はハロー効果の恩恵を受け、魅力的でない話し手はより信頼できないと認識される（Zebrowitz and Franklin, 2014）。この知見は、あまり魅力的でない人は、信頼できない印象を、おそらく知性を用いて補う必要があることを示唆している。プロデューサーは、ビジョンから運営、予算編成に至るまで、制作のあらゆる側面に責任を持つ。つまり、プロデューサーは、全体的なビジョンを持つプロダクションのCEOである。

コスチュームは、作品に官能的な真正性を与える。ヘアとメイクアップのような一見小さなことが、演劇の俳優やニュースのリポーターを観客がどう受け止めるかに大きな影響を与えることがある。様々なニュースの司会者の外見と、各主要ニュースステーションでの外見の一貫性を考えてみてほしい。男性はスーツが衣装で、ネクタイも慎重に選ばれている。女性は、スーツの着用を強制されることはないものの、ある程度柔軟に選択できる服装のルールもある（Hillman, 2013）。プロフェッショナルな服装の範囲では、様々な衣類やアクセサリーに幅が存在する（Crilli, 2014;Moeslein, 2019）。リベラルと保守の番組司会者のビフォーアフターの写真を見ると、明確な違いが観察される。

セットデザインは、文脈や視覚的な環境を提供する。色彩は感情のトーンを設定することができる。ニュースの場合、シンプルで落ち着きのある青色の背景は注目を集め、赤色（Hillyard and Münte, 1984）は、事実に基づく深刻なメッセージを示唆する。赤は、人々が立ち止まって注意を集中するように訓練されている普遍的な警告色である（Kuniecki et al.、2015）。速報のアラートは赤色の背景に表示される。フェイクニュースを配信するときは、ニュースアンカーが座っているが前かがみになっている従来の主流メディアのニュースステーションの配色やセットデザインに合わせたセットを作成する。考え抜かれたセットデザインは、レポーターのパフォーマンスをシームレスにサポートする。

オーディオとは、音楽などの背景音の有無のことで、声やその他の音も雰囲気作りや感情操作に使われる。暗い照明と暗い背景を伴う暗い低音の音楽は、不吉な知らせを予感させ、観客を準備させる。

照明は、演劇に残された学問である。照明と照明が落とす影によって、知覚を作り出すことができる。対象物にかかる影は、何かを隠している、あるいは信頼できないことを示唆する。明るい光は、正直で誠実であることを示唆する。厳しい明るさの光は、暗いものや汚れたものに光を当て、隠されていたものを露出させることを示唆する。

これらはすべて、ターゲットとなる観客の望ましい行動、思考、感情を追求するために、制作チーム全体が意識的に取り組んでいることを指摘するためのものである。正確かつ芸術的に実行されれば、観客はそれに対して何の防御策も持たない。この分野のプロ中のプロでさえも、その作品に心を奪われ、感動していることに気づくのである。プロデューサー、ディレクター、ライターが設定した超目的を達成するために、俳優はそれを生き、それを感じ、他のすべての分野に支えられた人間の本性の深さを経験しなければならない。そのためには、いかにして人々を操り、自分たちのやり方を理解させ、自分たちのチームに参加させるか。

長年にわたり、ニュースとエンターテインメントの境界線は曖昧になり続けている（Edgerly, 2017）。ニュースレポーターは、中立性を公言しながらも、表情、イントネーション、動きなど、俳優が駆使する非言語コミュニケーションの手法でメッセージを伝えることができる。レポーターは、喜び、怒り、嫌悪、怒り、その他の感情を、ストーリーのテキストを変えることなく伝えることができる。リポーターの目標は、俳優と同じように、視聴者の注意を引きつけることである。そのために、レポーター、特にテレビなどの映像レポーターは、俳優と同じようにメイクアップをし、明るい場所で演技をし、カメラと関わりを持つ。衣装、メイク、セットデザイン、脚本、演出、照明、音響などを通して、リポーターは俳優と同じように、視聴者の感情や身体的な反応を引き出そうとするのだ。

Cybenkoら(2002)は、事実データのありふれた側面を指摘した。言語学は強力な出発点を提供し、テキストデータとの相性が良いが、抗議活動などのイベントの演出（Gu et al., 2017;Mueller, 2019, p. 29）には演劇からの入力が必要である。演劇は、すべての芸術と同様に、感覚的な刺激に依存する。演劇は、視覚と聴覚を直接、触覚、嗅覚、味覚を間接的に誘発することに依存する感覚体験を統合する。これらの入力は、ターゲットからのセンシングを誘発し、知覚を形成するように設計されている。

フェイクニュース対策のための教訓

この問題は学際的なものであるため、様々な分野を考慮しない対応では、せいぜい部分的にしか成功さない。つまり、モデルを重ね合わせ、対応策に組み込む必要があるのである。自動化された対応はデータサイエンスとサイバーセキュリティに有利であるが、言語学、心理学、社会学、そしてこれらの分野で定義されたフレームワークがソリューションに融合されていなければ、この対応は完全に成功しないだろう。

データサイエンスは洞察を与えるが、最適で最も包括的なクエリーを形成するためには、慎重に言葉を選んだ質問と対象知識が必要である。サイバーセキュリティに関連するソリューションは、反応的である傾向がある。これは、サイバーセキュリティ担当者が行うクエリは抽象度が低く、新しい問題点が発見されたとしても新しい洞察を得られない可能性があることを示唆している。さらに、全体的に反応的な姿勢は、ソフトウェアがフェイクニュースの作成と流布における新しいスタイルとテクニックを見落とす結果になる可能性がある。

データサイエンスと言語学を組み合わせた場合、計算言語学はプロパガンダの迅速な検出を可能にするツールの一部を提供するが、自然言語処理系（NLP）にはデータサイエンティストにはなじみのない欠点がある。計算言語学で使用されるNLPは、「bag of words」出力やセンチメント分析により、共通のテーマを持つ大量のデータを素早く合成することができる。以下に、各分野の問題点を説明する。

NLPの問題点

自然言語処理ソフトは、文章中の共通の単語をグループ化し、出現したパターンをグループ化する。これを効率的に行うためには、句読点の除去、大文字・小文字の変更、語幹処理、フィラー語の除去など、ソフトウェアをプログラミングするデータサイエンティストにとって誤解を招く出力となるいくつかの事柄を行わなければならない。

• -句読点の削除が問題となるのは、「！」や「？」、引用符などが、読者の感情的な反応を引き出すセンセーショナリズムの一部になっているからだ（Shukrun-Nagar, 2009;Cohen et al, 2018）。
• -大文字と小文字の変換は、”News “のASCII表現が、”news “の表現と異なるとソフトウェアが判断した場合に発生する。この問題を回避するために、大文字を小文字に変換するのであるが、ほとんどの場合、問題は発生さない。しかし、感情に訴えるフェイクニュースの場合、視覚を刺激するためにすべて大文字の単語が存在し、これをすべて小文字にすることで、文章上の重要な手がかりが失われてしまうのである。
• -NLPが副詞を動詞に変換したり、動詞の時制を語源に変換することで、「早く」や「早くする」が「早く」になるような語幹化が行われる。問題は、副詞は感情的な反応（パトス）を引き出すために使われる言葉であることである。これらの言葉を語幹化することで、テキスト上の別の手がかりが取り除かれるのである。
• -フィラーワード除去は、NLPが名詞や動詞に勝るフィラーワードを避ける目的で、「the」「and」「he」などの単語を除去する際に行われる。問題は、代名詞の除去は、しばしばプロパガンダで展開される「私たち」対「彼ら」の物語において重要な言葉である「私たち」「私たち」「彼ら」「彼ら」も除去することになることである。

上記のような問題は、プログラマがその存在に気づけば簡単に解決するのであるが、ほとんどの場合、プログラマは気づかないままである。問題は、NLPパッケージがより大きなソフトウェア開発の一部であり、前述のような例が考慮されていないことである。開発者は知らないことを知らないのである。多くの場合、パッケージを修正したり、プリプロセッサーを書いたりして、これらの問題に素早く対処することができる。自然言語処理の多くはAI/MLのルールを補助するもので、正しいクエリを作成することは、ソフトウェアを書くプログラマーの専門外のことなのである。

コンテンツへの対応

Cybenkoら（2002）は、物語がターゲットの行動に影響を与える前に、攻撃を検知することの重要性を指摘した。もちろん、この提案は、失敗を繰り返さないための方法として事後的に機能するようである。一つの提案は、ターゲットに接種する方法として、存在する前提条件を検出することである（同上）。もう一つは、プロパガンダのルールを計算言語学に取り入れることである。著者は、計算言語学の3点モデルとして、データの文脈に対応する記述性、時間的側面に対応するパターンスプレッド分析、時間的、文脈的、記述的価値を付加して追加分析するアーカイブレピュテーション分析を提案した。

計算言語学-文脈解析と記述解析

フェイクニュースは、その性質上、テキストで構成されている。時にはマルチモーダル（例えば視聴覚資料）なものもあるが、圧倒的に文章が多く、電子／デジタルメディアを通じて慎重に選ばれたターゲットオーディエンスに送信（および再送信）されるようにデザインされている。また、説得力のあるコミュニケーションとして、一般的にはレトリック（説得力のあるコミュニケーションの技術）、特にプロパガンダに関連して何世紀にもわたって行われてきた一連の作業に関連づけることができる（特に、Ellul, 1965;Jowett and O’Donnell, 1986;Pratkanis and Aronson, 1992;Connelly and Welch, 2003を参照されたい）。

NLPには上記のような問題があるが、フェイクニュース対策に携わる者にとって、コンピュータ支援型ソーシャルネットワーク分析を採用する能力は、フェイクニュースの主要なベクトルを迅速に特定し、ウェブ上のフェイクニュースの流れを（ほぼリアルタイムで）追跡することにより、オンラインでの誤情報の広がりをマッピング（そして理想的にはそれに対抗）できる大きな可能性を秘めている（Hardaker and McGlashan, 2016;Chetty and Alathur, 2018）。計算およびコンピュータ支援コーパス言語学（対象テキストと参照テキストのコーパスまたはコーパスとの比較を通じて主要なテキスト特徴を特定すること）の利用は、言語的内容からフェイクニュースを特定し、人間の介入なしにソーシャルメディアから排除し、効果的なカウンターテキストを自動生成するための自動化ツールを作る現実的可能性を提供している（Pérez-Rosasら、2018、Marcardt. 2019、Pathak and Srihari. 2019）。

プロパガンダのルールはよく理解されており、特にMLをグループ比較や相関のような統計的ツールと組み合わせてテキストを比較する場合、ルールを強制するためにソフトウェアを修正する能力は達成可能である。プロパガンダに見られる語彙表現の多くは同義語であり、ML分類器では容易に隣接語に変換できる（例えば、「step」と「leap」）。したがって、隣接語を含むフレーズを計算機で評価すると、その間の距離は統計的に僅少であることが示されるであろう。従来の会話で使われる単語距離が統計的に異なるフレーズと比較すると、ほぼリアルタイムに分析し、意思決定を支援することが可能である。

上記の他の分野は、単純な言語ツールや、記録なしで削除する前に句読点記号を除去して定量化できるスクリプトを使用して、すばやく評価できる。同様に、ステミングの問題も、重要なメタデータを保存しながら、前処理の一部として対処することができる。計算言語学はデータサイエンスと並行して機能し、学習データルールの入力に必要な多くの情報を提供することができる。

パターンの広がり-時間軸解析

フェイクニュースが広まるためには、トロールやボットを使ってストーリーを人為的に宣伝する必要がある（Rosenblatt, 2018）。これらの補助具の使用は、デジタル痕跡を残す。Vosoughiら（2018）は、ニュースサイクルを飽和させるストーリーの極端な量を示し、この現象を説明した。信頼できる情報源からこれらの誤った物語を受け取ることの信頼性と、これらの物語が広がる速度とを組み合わせると、先制予防接種が問題になることがある。インディアナ大学で開発されたOSoMeツールBox4も、フェイクニュースの圧倒的な広がりを物語るツールの一つである。そのため、情報通の読者であっても、代替的な見解の情報を集めようとしても、AIアルゴリズムの重み付けによってそれらの記事が届かないだけでなく、フェイクの物語が圧倒的に多い（Gu et al., 2017;Sample et al., 2018;Jensen and Sample, 2019）。現在、フェイクニュースの拡散パターンはかなりはっきりしているが、自動化されたソフトウェアに依存しているため、容易に調整することができる。量的に支配的な物語を提供するだけでなく、このフラッディング動作はセンチメント分析を操作し、アナリストに欺瞞的なデータを提供する。

Cybenkoら(2002)の提案では、対抗戦術として情報軌跡のモデリングが挙げられている。情報軌跡では、履歴データとの比較や履歴データからの距離測定が可能である。この手法は、言語的な差異だけでなく、パターンの拡散のモデル化にも利用でき、Sampleら（2018）によって提案された。しかし、言語学的要素とは異なり、事実の語りのパターン拡散についてはデータが不足しており、事実の語りはその性質によってベースラインが変化する。例えば、死傷者の多い自然災害と特ダネでは、芸能人をめぐるニュースとは異なるパターンの広がりを見せるだろう。偽のパターンが注目される分野であれば、責任者はフィルターにパターンを検出されないように動作を変更する。サイバーセキュリティでは、これを「ファジング」と呼ぶ。「ファジング」は、署名文字列の中の1文字が変更されることで発生し、セキュリティ・フィルターに検出されずに、新しい悪意のあるデータを滑り込ませることができるようにする。

アーカイブ情報のメタデータ解析-時間、コンテンツ、コンテキスト、レピュテーション

データサイエンスは、デジタル・デセプションの解決策に利用され、提案されている。これは、Flanagin and Metzger (2014)が論じているように、メッセンジャーの信頼性の永続的な価値を示している。評判は手頃なコストで信用を失墜させることができ、記者も人間なので間違いは起こる。何度も騙されるような騙されやすい記者は、自分の選んだ分野でそれほど長いキャリアを積めないかもしれないが、芝居がかっててもなくても、一貫して事実を報道する記者は、信用に値するパターンを持っているだろう。現在、このプロセスは、人間が情報源の信頼性を評価する際に行われているが、前回述べたように、この分野における人間の意思決定プロセスには欠陥があり、攻撃を受けている。

データサイエンスは、センチメント分析や、この記事で先に説明した他のいくつかの技術を超えることができる。提案されたすべての対抗技術は、収集されたデータに関するデータであるメタデータを生成する。このデータは、新鮮な洞察を得るための素地となる。注目すべきメタデータには、レポーター情報、パブリッシャー情報、時間情報、文脈内容、言語的特徴などが含まれるが、これらに限定されるものではない。以下、簡単に説明する。

• レポーターの情報。レポーターのバイアススコア、ストーリーの平均ワード数、レポーターと関連する平均言語特性（名詞、動詞、形容詞、副詞の割合）、出版社との関連、信頼性スコア、使用したソース。
• 出版社の情報。Publication Biasスコア、平均単語数、平均言語特性、使用したレポーター、信頼性スコア、平均ストーリーライフサイクル、平均レポート時間、使用したソース。

時間情報が重要なのは、フェイクニュースは一般的にライフサイクルが短いため、一度欺瞞が発覚すると、誰もがそれ以上の伝播を望まないからだ。したがって、オリジナルのソースからの時間距離、ライフサイクル、初期のソースの軌跡が重要となる。

このメタデータのアーカイブとフィールドの小さなサンプルセットは、出発点となるもので、決して完全なものではない。この出発点により、既知の疑問に答えるためのグループ分けや、新たな思考や疑問をひらめくための非構造化分析のグループ分けが可能になるのである。さらに、メタデータを収集し処理することで、実際の使用領域が小さくなり、その結果、より小さく効率的なアーカイブとなり、より大きな完全なアーカイブへのリンクが含まれるようになる。

人工知能と機械学習の役割

AI/MLルールを作成するためにルールを理解する必要性、そうでなければステロイドの署名が議論されている。MLソフトウェアと風刺を学習データとして使用し、HornとAdali（2017）は、ソフトウェアが風刺の形でフェイクニュースをうまく検出できることを実証することに成功した。この発見は心強いものだったが、この研究はフェイクニュースの特定のタイプ、風刺を探したものである。

AIはMLによって達成される分類スキームに大きく依存し、AIもMLも使用する訓練データの正確さと真偽に大きく依存する。サイバーセキュリティにおいて、学習データのポイズニングが研究分野であることは、注意すべき点である。ルールがうまくできれば、AIやMLは多くのタスクで簡単に人間を上回ることができるが、プログラマーが意図的または非意図的に挿入する可能性のあるAIのバイアスについては、疑問が残る（Bellovin, 2019）。顔認識ソフトウェアではバイアスが観察され（Nagpal et al.、2019）、予期せぬ出力がもたらされた。学習データ要件のバランスをとることの重要性は、結果として、誤った結果をもたらす不十分なデータ、またはオーバーフィッティングは正確な知見を提供するが、ほとんど抽象化されないということをしなければならない。この必要なバランスを取るには、データサイエンスとサイバーセキュリティという、執行の場にある2つの学問分野の外にある、行動科学の領域にあるルールを理解することが必要である。

ゲーム理論による予防接種-もうひとつのアプローチ

病気に対する免疫は、患者がウイルスの弱体化した形に触れることで発生するが、これはケンブリッジ大学で行われている研究の基礎を形成している（Van der Linden et al., 2017;Roozenbeek and Van Der Linden, 2019）。ゲーム理論は上記では議論されなかったが、ゲーム理論は、意思決定の糧となる、先に述べた学問で議論された多くの側面を取り込んでいる。研究者たちは、参加者にフェイクニュースの記事を見せることで、それを発見した。ケンブリッジの研究者は、被験者に先制的に警告を与え、偽の物語を先制的に論破することで、欺瞞的なデータにさらされたときに情報を捨てるようにする態度接種の話題を紹介した。同様のアプローチはサイバーセキュリティの分野でも有効で、スパムやマルウェアについてユーザーに先回りして警告を発することができる（Bindra, 2010）。この研究は有望であるが、偽の物語が作られ、配信される前に、その物語に関する事前知識が必要である。政治や気候のような議論を呼ぶ分野では、科学が新しい物語、サイバーセキュリティの用語ではゼロデイ物語を予測することが困難な場合がある。医療や経済ニュースを取り巻くフェイクニュースなど、他の分野では、範囲がより限定されているため、先読みの演習で成功する可能性がある。

モデルを使用した例

この3点モデルは、言語的特徴、パターンの広がり、アーカイブの評判分析を用いて評価することに依拠している。評価の例をいくつか紹介する。COVID-19のパンデミックが初期段階にあった2020年2月16日、アンソニー・ファウチ博士はCBSニュースの番組「Face the Nation」でインタビューに答えている。この番組の原稿5 は、パブリックドメインで見ることができる。ウイルスに関するファウチ博士の発言は約646語で、特別な句読点はなく、副詞と本文の比率は1：215であった。数日後の2020年2月25日、Rush Limbaughもトークショーの中で、同じテーマであるウイルスについて考えを述べた。リンボー氏の文章も公開された6。リンボー氏の単語数は756語で、6つの特殊な句読点インスタンス、5つの「?」と1つの「！」が含まれ、副詞とテキストの比率は1：126であった。さらに、リンボー氏の文章は、平易な民話など、先に述べた修辞的な装置を用いている。したがって、これらのいくつかの特徴に基づけば、リンボー氏の言葉はファウチの言葉よりもグランド・トゥルースから大きく逸脱していることになる。これは、ファウチ博士の発言が真実であると考えられているのではなく、ファウチ博士の言葉の方がリンボウ氏の言葉よりも信頼性が高いということである。リンボー氏の文章は、真実から標準偏差1以上ずれていることを示唆し、ファウチの発言は、真実から標準偏差2分の1以下と考えられるだろう。

これにより、パターンの拡散が可能になった。OSoMeツール7は、ハッシュタグやその他のソーシャルメディアの特徴を迅速に追跡し、可視化することができる。図1でファウチとLimbaughのハッシュタグを比較すると、Limbaughがファウチを上回っていることがわかる。ラッシュ・リンボーは2月上旬に自由勲章を授与されていた（リンボーのハッシュタグがピークに達した後、下落し、ファウチのインタビューが放送されてもファウチより高いままであることに注目してほしい。さらに興味深いのは、ファウチのインタビューが放映された2月16日のLimbaughとファウチの差分である。このパターンの広がりは、事実に基づく物語が劣勢であることを示しているように見える。パンデミックが定着した3月になって初めて、ファウチがLimbaughを上回ったのである。Limbaughには、より多くの聴衆に自分のメッセージを伝えるための丸1カ月（もしかしたらもっと長いかもしれない）があったのである。