pubmed.ncbi.nlm.nih.gov/36275197/
2022年12月10日
概要
私たちが誤った情報を信じるとき、私たちは錯覚に陥っているのである。私たちはしばしば、入手可能なデータを客観的かつ批判的に解釈することとは無関係な理由で、誤った情報を信じてしまうことがある。重要な事実が気づかれなかったり、報道されなかったりする。情報が多すぎるため、別の説明を考えることができない。発言は繰り返されるたびに信憑性が増す。観客を欺くために、事象を再構成したり、「スピン」をかけたりする。マジックショーでは、イリュージョニストも同様のテクニックを使って、嘘の、あるいは一見不可能に見える出来事が起こったと観客に信じ込ませる。しかし、多くのマジシャンは「正直なウソつき」であり、観客に不信感を抱かせないようにするのは、あくまでもエンターテイメントのためである。マジックのミスディレクションは、1世紀以上にわたって研究室で研究されてきた。心理学的な研究では、マジックを科学的に理解し、認知や知覚のプロセスの理解にマジックの道具を応用することが目指されてきた。さらに最近では、神経科学的な調査により、マジックの錯覚とその根底にある脳のメカニズムとの関係も探られている。私たちは、このような研究から得られた知見を、誤情報の普及と成功の理解に応用することを提案する。ここでは、人々が公演中にマジックを体験し、日常生活で誤情報にさらされる際に共通する要因について検討する。これらの要因を考慮することは、社会における誤情報を減らし、批判的思考を促す上で重要であろう。
キーワード
誤情報、マジック、偽情報、科学コミュニケーション、フェイクニュース、科学報道、注意力散漫、欺瞞、不注意による盲目、クリティカルシンキング
1.はじめに
科学に対する社会の信頼を高め、維持するためには、誤った報道を信用させないことが重要である。残念ながら、一般市民はしばしば、不完全で、古く、偏った情報にさらされている。さらに悪いことに、「偽情報」、つまり他人を欺く意図を持って積極的に流布される誤情報が蔓延している。偽の情報は、意図的な悪意があるかどうかにかかわらず、重要な問題に対する人々の見解を歪め[1]、リスクの高い、非生産的な、または有害な行動、例えば、証明されていない薬の服用や、状況に対する過剰反応または過小反応（例えば、安全勧告の無視[2]）に走るよう人々を促す可能性があるのである。健康や安全に対する影響だけでなく、虚偽のニュースはテロリストのプロパガンダ[3]、株式市場の操作[4]、その他多くの悪意ある行為を助長する可能性がある。なぜ人々は誤った情報を信じ、多くの場合、記事が撤回されたり、反論されたり、論破されたりした後も、誤った情報を信じ続けるのだろうか。
誤情報を信じることは、事実と認識・理解されていることの不一致であり、錯覚と考えるのが最も適切かもしれない。私たちが魅力的、直感的、または信じられると考える情報処理のバイアスは、ニュースの見出しやソーシャルメディアの投稿に対する私たちの理解を変えることがある。例えば、認知バイアスは、ストーリーの内容や客観的な正確さとは無関係な理由で、ありえない主張をもっともらしく解釈したり、証明されたようにさえ解釈する（例：ピザゲート陰謀論）ことにつながることがある[5,6]。
ここでは、錯覚や不正確な信念が蔓延するもう一つの人生経験が、私たちに何を教えてくれるのかを探ってみることにする。マジックショーでは、一見不可能に見えることを観客に体験させることが、演者の主な目的の一つである。そのために、マジシャンは観客に誤解を与え、その効果の背後にある方法の実態を正確に判断・理解させないようにしている。心理学の研究者，そして最近では神経科学の研究者が、1世紀以上にわたってマジックを研究し、観客の心の中でマジックがどのように作用しているかを認知的・知覚的に理解することを目指してきた[7,8,9,10,11,12,13,14,15,16,17]。その結果，マジックの心理学については、観察者がどのようにして不可能な出来事が起こったかどうかを疑うようになるかを含めて、非常に多くのことが知られている。このレビューでは、それらの基本的な知見を、人々が誤情報を正確だと誤認する方法と理由に関連づける。
2.注意の錯覚
私たちは、世界が私たちに提示するすべての情報を処理することは不可能である。感覚（視覚、聴覚など）の制約を超えて、私たちは自分が注目したものだけに注目するように大きく制限されている。新しいもの、珍しいもの、動いているもの、その他顕著なものは、ボトムアップ的に私たちの注意を強く引きつける（心理学では「注意の捕捉」と呼ばれるプロセス）。複数の出来事が見えると、私たちの注意はより顕著な出来事や最初に始まった出来事を追う傾向がある[16,18,19,20,21]。また、私たちは目標や意図に導かれるように、トップダウン方式で特定の物体や事象に注意を向けることもできる。マジシャンはボトムアップとトップダウンの両方のプロセスを用いて観客の注意を操作し、何が注目されるかをコントロールする[16,19,22]。
心理学者やマジシャンは、注意を「スポットライト」に例えて、私たちが注目している場面のアイテムや部分を引き立たせると考えることが多い（図1参照）。しかし、神経科学の観点からは、注意のスポットライトは正確な比喩ではない。私たちの注意のシステムは、私たちの興味のある対象をより際立たせるのではなく、他のすべてのものがどれだけ際立つかを（抑制ニューロンによって）積極的に抑制する。つまり、私たちの注意を引くものは何でも照らし出すのではなく、私たちの注意はトンネルビジョンを与え、残りのすべてを見えなくするのである[23,24,25,26,27,28,29,30,31,32,33]。抑圧された重要な情報は、私たちの意識に入ることなく通り過ぎていく。
図1注意の割り当てが視覚的対象物の顕著性と明るさの知覚を調節する。中央の青い点を注視しながら、重なり合った3つの円のうちの1つに注意を向ける。どの円に注意を向けても、他の2つの円（無注意の円）よりも明るく見え、またその円の手前に位置しているように見える。34]を改変したものである。
2.1.情報の過多
マジシャンは、巧妙な手さばき、ストーリーテリング、ギミック、特殊効果、驚くべき出来事などを駆使して、観客の感覚的、認知的、さらには感情的なプロセスを圧倒する。マジシャンの手や体の動き、ナレーション、タイミングは一見無邪気に見えるが、観客が認識する事実や出来事に影響を与え、無視されることもある（図2参照）。例えば、マジシャンは観客に簡単な質問をすることで、観客の注意を内側に向けさせ、内的対話を発生させて、観客がステージ上で起こる行動に集中するのを妨げることができる[35,36]。同様に、マジシャンはユーモアや他の感情的な内容を使って観客の注意をそらすかもしれない[16,35]。あるいは、マジシャンは特定の動作を隠したり、観客の注意をいくつかの空間的な場所に分散させたりするために、同時に複数のジェスチャー（すなわち、「大きな動きが小さな動きをカバーする」）を行うかもしれない[7,11,16]
図2 2007年のシンポジウム「Magic of Consciousness」でのテラーによる「Miser’s Dream」の演技[37]。Miser’s Dreamは古典的なマジックであり、以前はコインがなかったところに無数のコインが出現したように見える。マジシャンは正確なタイミングで聴覚的な合図を使い、観客に、実際にはなかったのにたくさんのコインが金属製のバケツに落ちたと信じ込ませる。テラーは、観客の多感覚的な統合プロセスを利用し、身振り手振り、視線の方向、手品のテクニックなどを駆使して、観客の誘導を誤らせる。16]より。
人間の注意システムは、私たちが考える以上に簡単に圧倒される。普段は滞りなく認識している物体や事象も、ある文脈では識別が非常に困難になる[38,39,40,41]。例えば、アイテムやパターンが隣接するものと知覚的に混合して認識できなくなることがあり、これは「視覚的混雑」と呼ばれる現象である[42,43]。同様に、音は重ならない騒音に先行されたり後続されたりすると認識できなくなることがあり、これは「聴覚マスク着用」として知られている現象である[41,44]。
多くのマジックは、複数のカードやコインなどの位置を変化させるが、観客の「マルチタスキング能力」、つまり、それらのオブジェクトとマジシャンの手の位置を同時に把握することができないことを利用したものであることが多い。その結果、観客は、マジックのキーとなる要素に集中することができない。その一例が、マジシャンが手品を利用して逆さのカップの中にボールを出現させたり消したりする「カップとボール」の古典的なトリックである[7]。ペン＆テラーは、このトリックを不透明なカップではなく、透明なカップで行う。したがって、ペン＆テラーがボールをカップの中に密かに入れると、観客からは完全に見えるはずだ。その代わり、観客の注意が別のところに向いているため、ボールは通常、最初は気づかれない[11]。
透明なカップに密かに入れられるボールに気づかないのは、一種の変化盲である。変化盲では、変化が劇的であっても、変化の場所を直接見ていても、何かが以前と違っていることに気づかない[45,46,47,48,49]。さらに、そのような変化が最初に気づかれたとしても、記憶の限界によって、ある期間に起こった具体的な変化を視聴者が覚えていないことがある。マジシャンは、カードを別のカードと交換するときに、カードのスーツや数字が変わったことを後で明らかにするために、変化の盲点を利用することがある。また、ある物を目立つ所に置いたり、見えない所に置いたりしても、観客に気づかれることはない。
ソーシャルメディアは、私たちがフィルタリングし、処理し、理解しなければならないデータの量を劇的に増加させ、その結果、同種の欺瞞を助長している可能性がある。ソーシャルメディアでは、限られた時間の中で、画像、動画、テキストなど、圧倒的な量のデータがユーザーに表示される。その一方で、個人は日常生活を営み、周囲の出来事を処理し、個人的な要求や仕事の要求に応え続けている。ニュースサイクルの切り替えが早いため、視聴者はストーリーのフレームワークの変化に気づかない可能性がある。言い換えれば、情報があまりにも早く飛び込んでくるため、視聴者は重要な詳細を把握することができず、最新の危機が何であるかさえも把握できない可能性がある。マルチタスクを強いられると、人々は粒と藁（情報処理用語でノイズとシグナル）を分けることができなくなる。その結果、重要な変化やストーリーの重要な要素に気づくことができなくなる。
データをアニメーションやビデオで可視化し、複数の動くデータポイントを表示すると、静止画を見るときよりもさらに誤情報にさらされやすくなる可能性がある。つまり、動的な画像はデータの重要な変化を見逃す可能性があり、例えば、あるデータポイントに注目すると他のデータポイントの変化が見過ごされてしまうというようなことが起こりうる[50]。また、観察者は同時に動く物体をおおよそ4つまでしか正確に追跡できないことが研究により示されている[51,52]。
事実を確認する時間の不足
手品は秘密の方法を魔法の効果の背後に隠しておくことを必要とし、不可能なことが起こったということ以外にもっともらしい説明がないという錯覚を引き起こす[53,54]。そのため、マジシャンは観客が代替的な（すなわち、真実味のある）説明を注意深く評価するのを防ぐことを目的としている。これを達成する一つの方法は、観客が舞台で起きている出来事を深く分析する時間がないように、ショーを速いテンポで進めることである。もし、観客が立ち止まって自分の認識が正しいかどうかを注意深く確認することができれば、多くのマジック効果は失敗に終わるだろう（実際、YouTubeでマジックを見る人は、マジシャンの秘密の方法を明らかにする目的で、動画をスロー再生したり一時停止したり巻き戻したりすることがよくあるのだ）。
ファクト・チェックの技術は、誤情報に対抗するのに役立つが、ちょうどマジックショーの観客のように、ソーシャルメディアのユーザーは、遭遇したコンテンツについて深い検証を行うことができないかもしれない。したがって、ユーザーは可能性のある説明を評価することにほとんど時間をかけない傾向があり、オンラインストーリーを事実確認するために自分の行動を中断することはほとんどない[55,56]。これは、高齢で低所得の成人など、オンライン情報の利用について比較的経験の少ないグループに特に当てはまる[57,58]。しかし、検証を熟知している人たちでさえ、ソーシャルメディア上で受け取ったメッセージやニュースを認証するために常に時間を割いているわけではない。これは、マルチタスクの場合、より困難である。実際、メディア・マルチタスクの常習者は、ニュースの正確性を判断するのが苦手な場合がある。結局のところ、ソーシャルメディアユーザーは、信頼できる情報源のデータや意見を比較するのに時間をかけるよりも、ある発言が事実か虚偽かをその場で判断してしまう傾向があるのである。
2.2.無人のイベントは無視される
これは「不注意による盲検化」と呼ばれる現象で、提示されているが注目されていない事象や視点に気づかないことが多い[59]。不注意による盲目は一見明白で顕著な事象に対しても起こりうる。典型的な例では、バスケットボールを追い越す人々のビデオを見ていた観察者は、ゴリラがそのシーンに入ってきて胸をたたくのに気づかなかった[59]。ゴリラを直接見た視聴者でさえ、彼らの注意が映像の中の他の進行中の出来事（例えば、バスケットボールが選手間でパスされた回数を数える）に向けられている限り、しばしばゴリラに気づかなかった[60]。
不注意による盲目は、観察者を「ミスディレクション」することによって意図的に作り出される。つまり、観察者の注意を、他の方法では明らかになるはずのある事象（例：上記の例では侵入したゴリラ）から遠ざけ、競合する同時発生事象（例：選手が互いにボールをパスしている）に向けるのだ[16，19，61，62，63，64，65]。マジックでは、ミスディレクションが非常に効果的で、観客が直接見ていても事象に気づかないことがある[66]。マジシャンが観客の視線をそらすことなく、秘密の行動から観客の注意を引きつける高度なテクニックは、「秘密のミスディレクション」と表現されている[16]。
また、マジシャンは演技の重要な場面で観客の注意をそらすために語りやストーリーテリング（すなわち「パター」）を使うことがある。さらに、物語性は観客の注意を特に意図した情報に向けさせ[61]、より重要かもしれない他の内容から注意をそらす役割を果たすことができる。マジックショーで感情が注目を集めるように[16]、説得力があり感情的なニュースストーリーは、狭い範囲の情報に注意を向けさせ、他の事実や視点からは遠ざけることができる。
要約すると、ニュース記事はミスディレクションを利用して、報道の特定の視点や側面に注意を向けさせ、それ以外の部分から注意をそらすことができる。その結果、潜在的に重要な情報が見落とされることになる。科学報道において、ミスディレクションは様々な形で使われることがある。ナラティブは、ある概念が正当かどうかという疑問から注意をそらすことがあり、これは「陽動的リフレーミング」と呼ばれる戦術である[67]。例えば、誰かが自分に対する疑惑に言及することを避けながら、問題のある政策や規制について過去の行動や立場を非難する（あるいは政治的失敗の責任を取ることを避けるために別の党からの反対を指摘する）かもしれない。陽動的なリフレーミングの戦術には、批判者の正当性を弱めることによって論争的な発言から注意をそらすことが含まれる[67]。他のナラティブは、オーディエンスの注意をそのポジティブな側面に集中させることによって、議論をリフレーミングしたり、ストーリーに「スピンをかける」例えば、議論を呼んでいる移民収容所をめぐる議論では、そのような施設に子どもを収容することの正当性や妥当性に対する疑問を払拭するために、収容された子どもたちに提供される教育支援に焦点が当てられることがある[68]。
発見が最初に発表されるオリジナルの科学論文でさえ、科学者は発見やその重要性を正確に反映しない方法で報告することが頻繁にある[69]。科学者は、データポイント、分析、その他研究のあらゆる側面を選択し、読者に提示しなければならないため、ストーリーテリングは学術論文を書く上で重要な部分である。つまり、研究報告のタイトル、要旨、結論はすべて、特定のポイントを強調するように構成することができ、これは科学的コミュニケーションにおいて許容される行為である。しかし、科学者が誤解を招くような物語を作り、データを超えた不当な解釈や結論を出すと、ストーリーテリングは問題になる。例えば、統計的に重要でない結果であっても、その知見の臨床的・社会的重要性に焦点を当てた報告書などがある[70,71,72]。臨床試験においては、その結論を支持する客観的証拠がほとんどないにもかかわらず、ある治療法が有益であることを伝えるために、スピンの効いた報告書が作成されるかもしれない[73]。このようなスピンは、科学的出版や報告において広く見られ[71,74,75]、研究結果の大幅な歪曲につながる。これは特に臨床試験において問題であり、誤解を受けた患者は、科学的に裏付けられていない治療や介入を行う可能性がある。
また、誤解を招くようなプレスリリースやそれに続くニュース報道によって、発見が「スピン」されることもある。プレスリリースには、しばしば誇張された因果関係の主張と裏付けのないアドバイスが含まれ[76]、重要な限界や重要な事実を盛り込むことができない[77,78,79]。この種のスピンはソースからソースへと広がる傾向があり、オリジナルの発表論文のアブストラクトにスピンがある場合、通常はプレスリリースにもスピンがある[80]。同様に、プレスリリースの誇張された主張は、ニュース報道で繰り返される傾向がある[76,79,80,81]。元記事にスピンがなくても、記者や編集者には誤解を招きやすい方法で研究結果を報告する動機がある。例えば、ニュースウェブサイトのクリック数を増やすため、あるいは潜在的な読者に購読を促すための圧力は、ジャーナリストに科学的知見を誇張するように仕向けることがある。
ソーシャルメディアでは、データの可視化よりもストーリーテリングに重点を置いたインフォグラフィックス[82]などのデータの可視化も、欺瞞的なナラティブを促進する可能性がある。例えば、誤解を招くようなラベルや歪んだ軸は、人々がデータを誤解する原因となる[83]。ニュースレポートであれ、ソーシャルメディアへの投稿であれ、データのプロットや数値は、そのパターンを理解する前に読み、積極的に解釈する必要がある。残念ながら、人々は、画像の特定の側面を慎重に検討する前に、視覚化から迅速な最初の印象を形成することが多い。その結果、ビジュアライゼーションの間違った要素に注目している人は、非常に重要な情報さえも見逃してしまう可能性がある。ある劇的な例では、93%の人が、視覚的に提示されたデータに埋め込まれた目立つ恐竜の画像に気づかなかった。これは、プロットの別の側面（恐竜を形成するオスではなく、エックスの位置）に注意を向けていたためである[84]。Twitterのスレッドやその他のソーシャルメディアへの投稿に含まれる誤解を招くようなキャプションやコンテンツは、見る人の注意をあるパターンに向けさせ、他のパターンから遠ざけることによって、同様の注意の失敗を生じさせる可能性がある。
図3 Bogerら[84]では、参加者は一連のプロットを見ながら、各表示の一面に集中することを要求されるタスクを実行した。ある例では、参加者はプロットのどの象限が青いXを含むか（すなわち、左のパネルでは左上と右下）を識別する課題を課された。また、他の記号が恐竜の輪郭を形成している場合もあった（右図）。93%の参加者は、データ中の異常なパターンに気づくことができなかった。恐竜に気づいたかどうかを明示的に尋ねたところ、「気づかなかった」と回答した。84]より。
また、複雑なプロットや、データの表示方法の特異な選択（例えば、COVID-19の症例数を時系列に累積するのではなく、値が減少するパターンで表示するなど）により、読者が誤った結論を導くこともある[50,83,85,86]。例えばマジックでは、観客はマジシャンがカードの山を通常の方法で切るのではなく、どのカードが上に来るかをコントロールできるように修正した操作を使っていることにしばしば気づかない[88]。
例えば、適切な文脈（画像に属するタイトル、キャプション、データラベルなど）なしに画像を投稿することで、元の物語を削除または置き換えることも、閲覧者に誤解を与える可能性がある。2020年、オーストラリアの火災を可視化したデータが、「これはNASAの写真である」という不正確なキャプション付きでオンラインで共有されたことがあった。実際には、この画像は芸術的な可視化であり、時間をかけて編集された合成データ（つまり、描かれた火災はすべて同時に燃えていたわけではない）を使用し、ホットスポットのレンダリング方法によるグロー効果で火災の規模をやや誇張していた[89]-図4参照．このような芸術的な可視化は、誤解を招くような文脈で再投稿されると、簡単に写真と間違われる。ニュースメディアはしばしばこの特定の画像を実際の写真と一緒に示し、読者に画像も写真であると結論付けるような文脈を与えたかもしれない[90]。
図4 オーストラリアの火災のホットスポットを可視化したもので、実物そっくりに見えるかもしれないが、写真ではないので、一度に燃えている火災の規模や数を正確に反映したものではない。Anthony HearseyによるAustralia is Burning/A 3D Visualization(2019)(available atanthonyhearsey.com/australia-is-burning-a-3d-visualisation, accessed on 24 August 2022)である。複製は作家の好意によるものである。
2.3.私たちは期待するものを見ている
報告書に意図的なごまかしがない場合でも、読者は重要な情報を見逃してしまうことがある。このような失敗の理由の1つは「確証バイアス」であり、人は非合理的に自分の予想を支持する情報だけを考慮する[91,92]。マジシャンはしばしば、典型的な日常動作に似た動きをし、確証バイアスに頼って、観客が何か違うことが起こっていることに気づかないようにする。観客は、ある手振りはよくある普通の動作であると信じているが、その動作には手のひらで握ったコインが隠されていることがある[9,10,16]。
人々は通常、確証バイアスが自分の判断に影響を与えることに気づいていない[93]。それどころか、自分の信念と矛盾する情報を提示された場合、私たちはしばしば防衛的な反応を示す。逆に、自分の信念と一致する情報は他の情報よりも信頼したいと感じる[91,92,94]。また、異なる視点からではなく、自分の視点から語られる物語により多くの関連性を割り当てる。少なくとも部分的には、確証バイアスは見慣れない情報よりも見慣れた情報の方が処理しやすいことから生じる可能性がある[95]。さらに、人は既存の意見を確認する動機付けを感じると、自分が正しいと感じられる方法で情報を解釈することを選択し[96,97]、自分の好ましい結論につながる可能性が最も高い認知プロセスに依存する[98]。
ソーシャルメディアのフィードは、ユーザーの好みに合わせてアルゴリズムでコンテンツを調整することでユーザーの関心を引き続けるので、人々はオンラインで異なる視点に触れることは比較的少ない[99,100]。したがって、フェイスブックユーザーは自分の既存の信念を支持する情報を見る傾向があり[101,102]、これは以前のバイアスを強化し、偽情報の拡散を増加させる可能性がある[103,104]。その結果、相互のフォロワーが既存の見解を補強する類似の意見を持つ傾向がある「エコーチェンバー」になりうる[105]。
しかし、異なる視点に触れる機会が少ないのは、アルゴリズムだけに起因するわけではない。ユーザーの意見に対するソーシャルメディア上の投稿が表示されていても、その情報はしばしば無視され[106]、したがって他のユーザーと共有されない。実際、ソーシャルメディアのフィード上であまりにも多くの新しい情報や不快な情報に直面すると、人々は圧倒され、「ソーシャルメディア疲労」の状態に達し、ソーシャルメディアから離脱したり、一時的に利用を停止したりすることがある[107]。
3.記憶の錯覚
私たちの記憶の仕方は、現実と大きく乖離していることがある。伝記や歴史上の出来事がある方法で描写された場合、そのような（偏った）描写の記憶が、目の前で起こったことの認識を覆い隠してしまうことがあるのである。
研究により、記憶は検索時に最も変化しやすいことが示されている。その基礎となるメカニズムはよく理解されていないが、記憶を取り出すことで、その後の新しい情報の学習が促進され[108,109]、元の記憶も変化することが研究証拠から示されている[110,111]。つまり、私たちは記憶を思い出すたびに、後でアクセスできるように新しい記憶として再格納し、その過程で古い記憶を本質的に消し去ってしまうのである。
私たちの記憶の柔軟性は、誤情報のための肥沃な土壌を提供する。手品師はこの柔軟性を利用して、舞台で起きた出来事を観客の記憶に偏りを持たせるような形で再現し[19]、後で秘密の方法を解明しようとしてもわからないようにすることがある[7]。この同じプロセスは刑事訴訟における目撃者が誤解を招く暗示にかかりやすくなることを説明するかもしれない[109]。
錯覚的真実効果 繰り返される嘘がまことしやかに語られるようになる
出来事や物語は、何度も繰り返されることで真実味を帯びてくる。例えば、マジシャンが手から手へコインを数回投げた後、右手から左手へ投げたように見せかけると（右手にコインを隠しながら）、マジシャンは投げたコインを左手でキャッチしたように見えることがある。そして、マジシャンがその手を開いて空であることを見せると、コインが消えたように見えるのである[9]。同様のトリックはボール[62,112]や他のものでも行うことができる：対象物を本当に数回投げ、その後マジシャンはただ対象物を投げるふりをする。最初の繰り返しは、同じ出来事が再び起こるという期待と偽りの知覚を作り出す。この錯覚は、ある刺激を提示することによって、その後に現れる刺激がより顕著になる「プライミング」によるところが大きい[113]。
繰り返しはまた、人々が誤った情報を信じるように仕向けることもある。一度だけ目にしたニュースの見出しは、それが本当であれば信じられる可能性が高い[114,115]。しかし、何度も目にするニュースの見出しは、その正確さに関係なく信じられる可能性が高くなる。つまり、繰り返されるメッセージは、最初は人々が偽と信じたとしても、回を重ねるごとにますます信憑性が高くなるのである[115,116]。1つの可能な説明は、繰り返される暴露が情報を処理しやすくするということである。したがって、人々はメッセージに対する安全感をその真実性の証拠と解釈することができる[117]。この現象は「錯覚的真実効果」と呼ばれ、暴露後数ヶ月間続くことがある[118]。
非常にありえない発言（「ゾウ一匹の重さはアリ一匹より軽い」など）は繰り返されても偽とみなされ続けるが[5,6]、研究によって、そのようなありえない発言でさえ繰り返されると多少もっともらしく見えることが示されている[115]。錯覚的真実効果は、その存在を警告された場合[119]、メッセージが以前の知識と矛盾する場合[120,121]に持続する。言い換えれば、たとえ人々が真実を識別することができても、繰り返されることで偽の陳述の知覚される正確さが高まる可能性がある[121]。十分な反復が与えられれば、明らかな嘘も信憑性があると思われ始めるかもしれない。
誤情報の可能性があることを示すラベルは、場合によっては錯覚的真実効果の大きさを減少させることができるが[122]、排除することはできない。不正確な発言は繰り返されることで、有効な代替案がある場合でも[123]、そして誤情報が信頼できないことが知られている情報源から来た場合でも[124]より信頼されるようになる。したがって、ある分野の専門家がニュースの一部を虚偽として否認することは、繰り返される誤情報に対抗するには十分ではないかもしれない。
過去10年間、反論のために話を繰り返すことが逆効果になるのではないかという懸念があった。その理由は、(1)確証バイアスのために人々は同意できない新しい情報を否定してしまう、(2)（たとえすぐに反論されたとしても）誤った情報にさらにさらされると人々の心への保持が強まるかもしれない、というものだった[101,125,126,127]。しかし、このような「バックファイア効果」は稀であることが証明されており、直接的な反論が誤った情報の修正に成功する可能性があるという証拠がある[128,129,130,131]。
4.イリュージョン・オブ・チョイス（選択の錯覚）
事象についての考え方や記憶の仕方は、その事象に対する理解を恒久的に変える可能性がある[132,133,134]。環境中の多くの要因が私たちの行動を変化させるが、私たちは目に見えるものは見たままであり、行動の結果を変えるような隠された事象はないと思いがちである。その結果，「選択の錯覚」が生じ、自分は自由に意思決定していると思い込んでいるが、具体的な結果は必然であり、自分のコントロールの及ばないものになってしまう．
4.1.私たちの決断は影響を受ける可能性がある
マジシャンに「カードを選んでほしい」と言われたら、自由に選べるかのように思えるかもしれない。しかし、マジシャンは、観客の選択を制約する様々な「強制」技法を持っており、見かけよりもはるかに自由度が低くなっている[135]。つまり、マジシャンは個人の意識することなく、その選択に影響を与えたり制限したりする[136,137]。使用される技法によっては、観客の選択は完全に決定されるかもしれないし、マジシャンは単に彼らが特定の決定をする確率を高めるだけかもしれない。簡単な例では、マジシャンは、観客が選んだカードを、「正しい」カードが選ばれるまで、目立たないように、あるいはあからさまに、おそらくは楽しい演出を加えて捨てるかもしれない。あるいは、マジシャンは身振りや会話で観客にある選択をするように促すこともある（例えば、空中で数字の3を描き、両手で菱形を作ることでボランティアが菱の3を選ぶ可能性を高められる[138]）．ある行動（カードを選ぶなど）を素早く行わなければならないという時間的プレッシャーは、深く考えずに行動するように観客を促し、その結果、最も明白な行動を行わせることができる[54]。したがって、マジシャンは、1枚のカードしか見えていない時に観客に素早くカードを選ばせることによって、観客のカード選択を強制することができる[54]。また、シャッフルされたデックのトップからカードを引いてもらうこともできる。その結果、観客は、実際にはそうでないにもかかわらず、自分自身で自由に意思決定していると思い込んでしまう。あるいは、観客の選択は自由であるが、結果とは無関係である[139]。例えば、どちらを選んでも同じ結果になる場合（「マジシャンズチョイス」[140]として知られるマジックテクニック）である。結論はあらかじめ決まっており、観客の結果への関与は錯覚である。
ソーシャルメディアユーザーは、あるメッセージには「いいね！」をつけ、他のメッセージには「いいね！」をつけないという選択をするかもしれないが、プラットフォームはアルゴリズムによって選択された小さなサブセットの投稿を表示しているかもしれない。もし、ユーザーが既存の考え方を支持する情報のみを提示された場合、反対意見を受け入れるか拒否するかの実際の選択肢を持つことはないだろう。
また、「選択の盲点」と呼ばれる現象は、人は操作された選択を自分の選択として誤って記憶するだけでなく、自分がしていない（と信じているが）選択を強力に擁護することを示している[141]。
マジシャンがこの種の脆弱性を利用する一例として、ボランティアが選んだカードを密かに変更し、「どうぞ、カードを取ってみよう」と頼むことが挙げられる[88]。オンライン広告の中にも、同様のおとり商法が見られる。実際のニュース記事、世論調査、あるいはオンライン検索結果のように見せかけた広告がある。このような広告の性質は、それ自体誤解を招くものであり、多くのユーザーはコンテンツを広告として確実に識別することができない[142]。その結果、人々は、同じウェブサイト上の別の信頼できるストーリーに移動すると信じて広告をクリックするが[143]、その代わりに、電子メールアドレスを収集したり、誤った情報ウェブサイトを財政的に支援するのに役立つ外部サイトにリンクされる[143,144]。これらの広告はしばしば根拠のない言葉を使ったり、誤解を招くような方法で情報を構成したりするため、誤った情報を直接広めることもある[144,145]。おとり商法は、検索エンジンを利用する際にもよく見られる。例えば、Googleは、検索結果のように見える広告にますますスペースを割くようになっている[146,147]。
4.2.誤解を招く、または偏った視点
また、マジシャンは観客の視点をコントロールすることで、出来事の解釈を操作する。観客の目から見ると不思議に見えるマジックも、別の角度から見ると平凡に見えることがある。このように、舞台では、観客は舞台の正面からしかトリックを見ることができないというように、文脈によって視点がコントロールされることが多いのである。舞台裏からしか見えない動きや物、出来事は、観客の目から隠される。
ニュース記事においても、異なる種類の情報や視点がどのように提示されるかによって、視聴者は別の視点が存在することを知らずに、単一の事実の解釈を真実として受け入れてしまう可能性がある。
複数の視点が表現されている場合でも、ニュースでは異なる視点に不均衡な扱いがなされることがある。ジャーナリストは一般的にバランスのとれた報道を重視し、情報を正確に提示するよう努めるが[148]、実際にはバランスのとれた報道について広く認識され合意された定義はない[149]。つまり、バランスのとれた報道とは、すべてのストーリーにおいてすべての異なる側面や角度を探し出し、提示することを指すかもしれないし、あるいは、距離を置いた中立的な方法で情報にアプローチすることを指すかもしれない。選択されたアプローチにかかわらず、適切なバランスを見つけることは、人が想定するよりも難しい。
また、単に情報を省略し、読者の検討を妨げる場合もある。例えば、ある記事が、実際の数字（以前より下がったとはいえ、まだ驚くほど高い数字かもしれない）ではなく、数字の変更（例えば、「COVID関連死が5%減少」）に言及することがある。
マジックショーの観客が、魔法のような効果の背後にある秘密の方法を解明するための情報や時間がないように、レポーターも、時間、科学的専門知識、その他の資源の不足という同様の理由で、フィクションから事実を判断できない可能性がある。ローカル・ニュース・ソースは、過去数十年間、特に苦戦しており[150,151,152,153]、コスト削減のためにリソースを減らす必要があり、事実確認の検証作業を削減することもあり得るだろう。
マジックの観客とは異なり、ジャーナリストは、潜在的な欺瞞に満ちた外見から真実の情報を引き出す（提供する）ことが期待されている。しかし、2つの立場の正確さを判断する能力が限られているため、認識されるバイアスを避けようとする一部のジャーナリストは、それぞれの利点にかかわらず、論争の両側を同じ重みで提示する[154,155]。残念ながら、そのような視点の一方が真実でないものや誤った情報に基づいている場合、両方の立場が等しく有効であるかのように描くことは本質的に誤解を招くことになる。同様に、分野の専門家と非専門家に同等の声を与えることは、真実を歪める可能性がある。例えば、ジャーナリストは、環境科学者と気候変動否定論者の両方を引用することによって、気候変動に関する現在の科学的コンセンサスを誤って伝えるかもしれない[155,156,157,158]。
1%の科学者が特定の見解を持ちながら、他の99%と同等の扱いを受けた場合、そのような報道は意見が半々に分かれているという誤った印象を与えることになる。視聴者は科学者間の実際の意見分布を知らないので、イコールバランスはサンプリング・バイアスの一種であり、少数意見が過度に重視され、誤った情報が正当化されたように見える。科学的知見が誤った情報に基づく批判と一緒に提示されると、科学的結論は実際よりも不確かなものに見えてしまう。このような状況は、1つのストーリーに2つ以上の側面がある場合にさらに問題となる。報道における時間と空間の制約を考えると、ジャーナリストはどの視点を含み、省略し、あるいは詳細に論じるかを選択する際に困難を経験する可能性がある。
全体として、上記のような「バランスのとれた」報道は、誤情報を強調し、正確な情報についての深い議論に与えられる時間を制限することによって、意味のある結論を導き出そうとするオーディエンスの利益を損なう可能性がある[159,160]。ある研究では、（二人の政治家候補に向けた）公平な論調の記事は、内容や問題に深く焦点を当てる傾向が弱く、また、ソース付きのコンテンツを含む傾向も弱かったことが明らかにされている。また、一般的に、一方の候補者を優遇する「傾いた」記事よりも長さが短かった[161]。「バランスのとれた」報道の実践はジャーナリストにとって好都合かもしれないが、真実と誤情報に同等の重要性を与えることは問題を曇らせ、情報バイアスにつながる[148]。
4.3.警告が誤解を防ぐのに失敗する理由
マジックショーに伴う不思議な感覚は、そのパフォーマンスが不可能に思えることを必要とする。しかし、「ただのトリックである」と言われても、観客の感動は半減するばかりである。観客は、マジックショーが現実を正確に描写しているわけではないことを知っているのだから。
虚偽の報道においても、誤情報は同様に、本来はそうでない文脈でも感情的な反応を引き起こす。誤情報が不正確な可能性があり、論争中であると表示された場合（たとえば、Facebookが独立したファクトチェッカーがその情報は誤りであると述べたとページに表示したり、Twitterが選挙の不正に関する主張には論争があることをユーザーに警告したり）、読者はしばしばそれを信じてミスリードの主張を共有する[115,162,163,164,165,166]。実際、読者は警告に気づいても、警告が読者の行動を妨げない限り、無視することが多い[163,167,168]。たとえ警告に耳を傾けたとしても、一部のメッセージだけが警告を含んでいるという事実は、そのような警告を含んでいない他のメッセージは正確でなければならないと人々に思わせ、プラットフォームが検出できなかった他の誤情報が含まれている可能性がある[163]。
5.想定される答えと今後の研究課題
上記のような認知的バイアスの多くは習慣化されているため、回避・防止することは非常に困難である。しかし、これらの脆弱性を認識することは、個人が情報を批判的に評価し、バイアスを改善するのに役立ち、また、開発者や立法者が誤った情報に対抗するためのより効果的なツールを作成するのを支援することができるかもしれない。ジャーナリストや一般市民が発見を正確に理解できるように、話題の専門家が声高に誤った情報に異議を唱えたり、科学者がコミュニケーションやアウトリーチの実践に従事することを支援することができる。地元の報道機関に資金援助を行い、事実確認のためのリソースを提供することができる。
誤情報の流れを減らすために、論争中のメッセージに対する警告の実施など、いくつかの直接的なステップを踏むこともできる。警告はしばしば無視されるが、常に無視されるわけではないので、誤情報の拡散を遅らせることができる[163,167,168]。さらに、警告は、ユーザーの行動を中断させ（例：続行するにはマウスクリックを要求）、定期的に変更することで、ユーザーが警告を無視したり、習慣的に警告を回避したりしないようにすることで、より効果的にすることが可能である。極端な例では、大量の誤情報を流したユーザーをデプラットフォームから排除し、ソーシャルメディアプラットフォームからそのメッセージを削除することも可能である。重要な注意点は、誤情報に対する対策が厳しくなるにつれて、それが父権的で、押し付けがましく、懲罰的で、言論の自由を制限するものとみなされる可能性が高くなることである[169,170]。
マジックショーの観客の中には、トリックを分解し、魔法の効果の背後にある方法を特定することに力を注ぐことを楽しむ人もいる。同様に、ソーシャルメディアの利用者の中には、疑わしい主張の真偽を確かめるために努力する人もおり、事実確認行動によって誤った情報の拡散を遅らせることに役立っている。ソーシャルメディア上で発見を共有することで、他のユーザーが誤解を招くメッセージを削除したり、今後投稿する際に自分の行動を再考するよう促すことができる。使いやすく、自由に利用できる検証ツールを提供することで、個々のユーザーのこうした努力を支援し、事実確認を奨励することが必要である。Snopes.comのように、広く利用されるようになった事実確認ツールもある。ただし、事実確認サービスを装ったサイトも急増していることから、どのツールが信頼できるかを利用者に教育する必要がある。また、特に誤情報が大きな被害をもたらす可能性のあるテーマを扱う場合は、新しい誤情報の手法やツールを考慮し、すでに導入されている事実確認、検証、認証のプロセスを定期的に見直す必要がある。
エンジニアやその他の開発者は、研究の優先順位を決定する際や、ソーシャルメディアプラットフォームのようなツールを作成または修正する際に、誤用に関する配慮を真剣に行う必要がある。このようなツールに携わる開発者は、予見可能な有害なアプリケーションを最小限に抑えるために積極的に行動すべきである。神経科学と心理学の専門家は、これらの問題の議論や誤情報に対処するための法整備に参加し、上記の要因を考慮する必要がある。
偽ニュースは昔から存在し、その対策に努力しても存在し続けるだろう。コミュニケーションの高速化・簡便化に伴い、誤情報の規模も拡大していくだろう。技術の進歩に伴い、意図的な偽情報の試みはより効果的になり、国民を欺くための新たな手法やアプローチが登場する可能性がある。例えば、人工知能（AI）により、新たな種類の自動的な情報操作の試みが、これまで以上に大規模に行われるようになるかもしれない。また、より多くのユーザーが本物そっくりの画像や動画を作成できるようになることで、より小さな個人レベルでの誤情報も拡大するだろう。これらの画像は、画像ベースの虐待（「リベンジポルノ」とも呼ばれる）、いじめ、脅迫、政治的妨害、その他の悪意のある目的に利用される可能性がある。偽の画像は、犯罪の偽の証拠として利用され、冤罪につながる可能性さえある[171]。
個人がAIツールを使って、音声トラックに新しい単語をデジタルで挿入したり、人物の顔や体をデジタルで改変して他人の外見と一致させたりして、説得力のある本物のように見える「ディープフェイク」動画を作成できるようになった[172,173]。ディープフェイク動画は、ソフトウェア・ツールの改良に伴い、ますますリアルになる可能性が高い。また、最近開発されたテキストから画像への合成技術は、ユーザがテキストとして提供した視覚的な記述から、新しい、そしてしばしばリアルな画像を生成することができる[174]。その結果、ユーザは、誤解を招くようなソーシャルメディア上のメッセージに含めるための新しい画像を非常に迅速かつ容易に作成することができる。マジシャンはしばしば最先端の技術を演技に取り入れるが、既存の自動化ツールを使って、単純なテキストプロンプトから魔法のような効果を生み出すことは、今のところ行われていない。手品に関する研究は、AIによる騙しの影響やそれに対抗するツールを明らかにするものではないが、人々が音声やビデオの記録の正確さや虚偽性をどのように認識するかを明らかにすることは、誤情報に関する今後の研究にとって必要な方向性であると思われる。
6.結論
魔法のような効果は信じられないほど強固で、観客は騙されていると分かっていても効果がある。同様に、人々は、その事実が議論されており、間違っている可能性があるという警告にもかかわらず、しばしば誤った情報を受け入れて広めてしまう[115,162,163,164,165,166]。したがって、科学的事実の認識を高めることは、誤った情報の流れに対抗する上で効果的でないことが証明されている[175,176]。ニュース・ストーリーでは、マジックのパフォーマンスと同様に、人々は情報を冷静かつ中立的に見ることはない[177]。心理的、感情的なアピールは、事実の正確さよりもはるかに重要である場合がある。この論文では、マジシャンが観客の脆弱性や知覚・認知の偏りを利用する方法を中心に議論し、人々が誤情報にどのように反応するかを説明するのに役立ついくつかの要因について検討した。
マジックショーでは、重要な情報が隠されているため、観客はしばしば騙される。不在のデータを正確に理解できる観客はいない。同様に、ニュースやソーシャルメディアの投稿も、リフレーミングやスピン、さらにはデータの改ざんによって、読者が正確に評価することができないことがよくある。
たとえ情報が存在し、それが非常に重要なものであっても、観察者はそれを正確に処理できないことがある。注意は、中心的な事実やデータから離れてしまうことがある。確証バイアスやその他の認知バイアスは、正確な情報を見逃したり、無視したりする原因となる。サンプリング・バイアスは、偏った意見に正当性を与えることで、ニュース記事の消費者やソーシャルメディアのユーザーを惑わせることがある。繰り返しにより、誤った情報が繰り返されるたびに信憑性を増していく。
手品が成功する場面、失敗する場面については、知覚や認知に関する研究が行われており、現在も続けられている。科学者たちは、このように増え続ける文献を利用して、誤情報に耐えられるシナリオを特定し、その拡散に対抗するためのより実りある方法を考案することができるだろう。誤情報の蔓延と社会的影響を軽減するためには、ここで述べたような様々な偏りを考慮した多層的なアプローチが必要である。
著者による寄稿
執筆-原案作成：R.G.A.、S.M.-C.、執筆-審査・編集：R.G.A.、S.L.M.、S.M.-C.、資金獲得：S.L.M.,S.M.-C.すべての著者は、掲載された原稿を読み、同意している。
資金調達
この研究は、New York State Empire Innovator Program、National Science Foundation(Award 1734887 to S.M.-C. and S.L.M.;Award 1523614 to S.L.M.)、National Institute of Health(Awards R01EY031971 and R01CA258021 to S.M.-C. and S.L.M.)から支援を受けている。
本研究では、新たなデータの作成・解析は行っていない。データ共有はこの論文には該当しない。
利益相反
著者は利益相反を宣言していない。資金提供者は、研究のデザイン、データの収集、分析、解釈、原稿の執筆、結果の公表の決定において、いかなる役割も担っていない。