認知バイアスの本質 | NATO雑誌『THE THREE SWORDS』2023年10月

The Essenve of Cognitive Baias

認知バイアスと軍事的意思決定

「人々に虚偽を信じさせる確実な方法は頻繁な繰り返しである。なぜなら、馴染みは真実と容易に区別できないからだ。権威主義的な機関やマーケターはこの事実を常に知っていた。」

– ノーベル賞受賞者 ダニエル・カーネマン教授

「我思う、ゆえに我あり」という言葉は西洋哲学の基礎をなすものであり、思考が人間の経験の源であることを表している。ホモ・サピエンスの認知革命は、遠い祖先たちに理解、コミュニケーション、協力の能力を与え、それが人類の進化の主な推進力となってきた。1 本稿の目的は、軍事の実践者が自分たちの思考について考え、できれば同僚たちと「思考の技術」について議論するよう促すことである。なぜなら、あなたや同僚たちが認知バイアスに影響されているかどうかという問題ではないからだ。問題は、あなたがたの思考がどのようなバイアスに影響され、どのようなバイアスに影響されているかということだ。次の問題は、このバイアスをどのように軽減するかということだ。なぜなら、私たちは国家の軍事力を振るう以上、欠陥のある思考の傾向と戦う道徳的義務があるからだ。

「30秒で下した決定のために30年間準備していた。」

元米統合参謀本部議長(SACT)ジェームズ・ノーマン・マティス退役将軍のこの有名な言葉は、その決断が実際にはその前の30年間の経験によって左右されていたという事実を認めることと、謙虚さの点でほんの少しの差しかない。ノーベル経済学賞受賞者のダニエル・カーネマン教授が言うように、もしも意思決定の30秒間の始まりまで時間を巻き戻すことが無限にできるとしても、その決定に至るまでの影響要因の一部を変更しない限り、常に同じ結果になるだろう。

NATOが認知面で優位に立つという目標を達成するには、敵対する勢力よりも質的に広く、深く、速く思考し、論理的に考える能力が必要である。2 20年にわたり、統合戦術センターは、NATO本部向けの没入型トレーニング体験の創出に誇りを持って取り組んできた。こうした体験は、計画や意思決定が認知的な作業であることから、スタッフやリーダーに認知的な冷静さを試すジレンマを与えるように設計されている。

判断と意思決定の心理学

科学者たちは、人間の脳に関する科学的知識を一生をかけて蓄積してきた。アモス・トベルスキーとダニエル・カーネマンは、「ヒューリスティクスとバイアス」プログラムにより、人間の判断に関する科学的基礎知識に革命をもたらした。この研究プログラムの成果は、多くの分野で関連性があることが証明されている。3 2002年には、これらの成果の1つが重要であることが示された。カーネマンがノーベル経済学賞を受賞したのだ。1979年にアモス・トベルスキーとともに開発したプロスペクト理論を行動経済学の分野に統合したことが評価されての受賞であった。 彼がその研究結果を導き出す上で基盤となった洞察は、「不確実性下での判断は、広範なアルゴリズム処理よりもむしろ、限られた数の単純なヒューリスティックに依存していることが多い」というものである。4 不確実性下での判断でなければ、軍事計画や軍事上の意思決定とは何であろうか?

判断や決定を行う際、私たちの認知プロセスには主に2つの課題がある。本稿の主題である「バイアス」と「ノイズ」である。ここでいう「ノイズ」とは、私たちの判断や意思決定における望ましくないばらつきを意味する。判断のこの側面については数多くの研究が行われており、そのうちのいくつかは、判断と任意の、あるいは関連性のない要因との相関関係を明らかにしている。最も重要な発見は、事実上は同じ判断であるはずの意思決定に、正当化できないばらつきがあることである。

ノイズとバイアスの図解

バイアスとノイズ、そしてそれらが判断における欠陥を生み出す際にどのように「補完」し合うかを説明するために、基本的な軍事スキルセットを見てみよう。

図1に示されているのは、それぞれのショットグループを持つ4つの標的である。ショットグループAlphaは、ゼロイン（照準調整）されたライフルを持つ熟練した射手による理想的な結果を表している。しかし、ショットグループBravoは、適切にゼロインされていないライフルを持つ熟練した射手を示している。このショットグループは、射手の狙いから体系的に逸脱しているという点で一貫してバイアスがかかっている。ショットグループCharlieは、ゼロインされたライフルを示しているが、射手のパフォーマンスが非常に変動的である。このショットグループはノイズが多い、つまり望ましくないパフォーマンスの変動を示している。最後に、ショットグループDeltaは、バイアスのかかったライフルとノイズの多い射手の組み合わせを示している。

このアナロジーでは、ライフルは我々の認知ツールであり、射手はそのツールの使用者である。バイアスとノイズにおいて、我々には2種類のエラーがある。軍事実務者として、我々はこれらのエラーが同時に発生する可能性があることを認識すべきである。

ノイズとバイアスを修正しようとする場合、それらがどのように現れるかという重要な違いを認識することが重要である。右の4つの正方形では、ターゲットが取り除かれている。これは、バイアスやターゲットを知らなくてもノイズを特定できることを示しているが、ターゲットを知らなければバイアスを簡単に特定することはできない。つまり、バイアスは検出や修正が難しいということである。

図1
上の図は、ダニエル・カーネマン、オリビエ・シボニー、キャス・R・サンスティーンが著書『Noise – A Flaw in Human Judgment』でノイズとバイアスが人間の判断や意思決定に与える影響について説明している内容に基づいている。
「理想的な世界では、すべてのショットが的の中心に命中する。」

認知バイアスの簡略化

私たちは、保留中の意思決定の基礎となる不確実性に直面すると、認知能力が試されることになる。こうした不確実性を徹底的に調査し、不確実性を低減させる、あるいは理想的には確実なものにするという、長期的で精神的に負担の大きいアプローチを取ることもできる。この戦略は、精神的な安らぎとは対照的に精神的な負担を強いることになる。7

認知活動の判断と不確実性下での過程において、膨大な数の「近道」が我々の心を誘惑する。

この図は、いくつかのバイアスが同時に思考に影響を及ぼす可能性があることを示している。私たちは心理的および社会的要因や過去の経験に影響を受けながら、毎日何百もの意思決定を行っている。脳は迅速な判断を下すために近道を利用するが、これはヒューリスティクスとして知られている。しかし、これは誤った思考につながる可能性がある。[106ページ参照] 心理学では、このような近道を「ヒューリスティクス」と呼ぶ。このようなヒューリスティクスの使用は、認知バイアスにつながる可能性がある。認知バイアスとは、不確実性に対処する際にヒューリスティクスを「誤用」することによって生じる系統的な誤った判断である。

バイアスとヒューリスティクスの図解

以下では、認知バイアスが軍事上の意思決定にどのような影響を与える可能性があるかを探るため、リスク管理や緊急事態への備えの分野で用いられている3つの定評ある比喩、すなわち「黒い白鳥」、「灰色のサイ」、そして「沸騰するカエル」を引用する。

1697年、ヨーロッパの自然界に関する知識における根本的な偏見が暴かれた。オランダの探検家ウィレム・デ・フレーミングがオーストラリアのパースにある現在スワン川として知られる場所で黒鳥を1羽目撃したことにより、白鳥はすべて白いという偏った結論に終止符が打たれた。この発見以前には、「黒い白鳥」という言葉は、ヨーロッパ人が地球上のあらゆる場所を訪れたことがないにもかかわらず、不可能を意味する比喩として自信を持って使われていた。11,12

公平に見て、過去のヨーロッパ人の根拠のない自信は、知的怠慢という形での想像力の偏りと同様に、偏ったデータによるものであった。しかし、これは利用可能性バイアス(availability bias)のケースである可能性もある。最も簡単に思い浮かぶものは、関連性や正確性、事実性がない場合もあるが、それでも想起が容易であるがゆえに、根拠のない自信につながるのである。13,14,15,16 一般的に、知識、情報、経験が容易に想起できるほど、それらが関連性が高い、あるいは正しいと認識しやすくなる。

例えば、ロシア・ウクライナ戦争が2022年に始まった(2014年ではない)という主張のように、大量に提示された誤った主張や誤解を招く主張によって、記憶の容易さが偏る可能性がある。しかし、合同軍参謀本部における可用性バイアスの最も一般的な形態は、「単一サービスバイアス」であり、これは謙虚さや他サービスから学ぶ意欲によってのみ克服できる。

NATOは2014年8月28日、ウクライナにおけるロシア軍の衛星画像を公開し、ロシアの戦闘部隊がウクライナの主権領域内で軍事作戦に従事していることを示す。(参照:The Thre）

何世紀も前のヨーロッパ人が、白鳥が黒いこともある、あるいは記者がロシアのウクライナに対する戦争が2022年より前に始まっていたことに気づかない可能性があることを理解できなかったことも、限られた知識しか持たないことで、自分の知識の限界に気づく能力も限られてしまうという事実によるものである。デビッド・ダニング教授とジャスティン・クルーガー教授は、知識が乏しい人々は自分の知識を過大評価しがちであり、能力の高い人々は自分を過小評価しがちであることを証明している。彼らは「人々は…二重の苦悩に苛まれる。誤った結論に達し、不運な選択をするだけでなく、その無能さゆえに、それに気づく能力さえも奪われてしまう」と述べている。17 これはダニング=クルーガー効果として知られる心理学的理論である。18

現代では、ナシーム・ニコラス・タレブが著書『ブラックスワン―――あり得ないことの衝撃』で、まれで極端だが予測可能な事象を指す言葉として「ブラックスワン」という用語を新たに定義した。19 ブラックスワン的な事象を事前に特定する可能性は、我々の限られた予測能力によって妨げられている。数値による予測評価には、それ自体に脆弱性がある。これは、時間や確率を推定する文脈における軍事的判断に特に当てはまる。価値や論拠の妥当性の評価が、誤って以前に提示された価値や論拠と比較される「アンカリング・バイアス」を経験する可能性は十分にある。

ニュースレポーターは、2022年にロシア・ウクライナ戦争が始まったと繰り返し主張しているが、実際には2022年に始まったのは全面侵攻である。最初の侵攻は2014年に始まっており、準軍事的活動も含めて戦争の定義に含めるのであれば、2014年以前にも戦争は始まっていたと自信を持って言える。

しかし、ニュースでこの声明が頻繁に繰り返されたことで想起が容易になったことにより、2014年を戦争の始まった年として想起することから2022年の出来事へと「引力」を生み出すアンカリング・バイアスが生まれた。このような偏った認知プロセスにより、タレブのブラックスワン的出来事を予測することはさらに難しくなり、あるいは事後的にそれらを特定することさえも難しくなる。

2022年のロシアによるウクライナへの全面侵攻がブラックスワンであるという意見もある。しかし、タレブがブラックスワンの基準としているのは、その出来事が、入手可能な知識から予測されるであろう事柄から逸脱しており、極端な結果を招く可能性が予測されていたことである。22 ロシアによる2022年のウクライナ侵攻は、これらの基準を満たしているのだろうか? これらの出来事をブラックスワンとみなすのが、おそらく最も認知的な負担が少ない結論だろう。しかし、それが正しい結論であるとは限らない。ロシアの歴史、これまでの政治的レトリック、過去15年間のグルジアとウクライナへの部分的な侵攻を考慮すると、全面侵攻が想定の範囲外であったと主張するのは無理がある。「脅威が明白であり、常識ある人であればその到来を予期できる場合、それは『黒い白鳥』ではなく『灰色のサイ』である」と、危機予測を専門とする著名な政策アナリスト、ミケーレ・ウッカー氏は、この新しい用語を考案した著書の中で書いている。23 灰色のサイとは、その潜在的可能性を十分に認識すべき脅威であるにもかかわらず、意識的または無意識的な理由から無視してしまうものを指す。24

このような明白な脅威を無視して「灰色のサイ」を作り出してしまう理由は数多く考えられる。その理由のひとつとして、認知バイアスが考えられる。判断や意思決定に関する科学的研究は、これまで主に認知に焦点を当ててきたが、過去30年間に、感情が判断に影響を与える可能性が次第に認められるようになってきた。25 リスクと利益の判断に関する科学的研究では、「人々は、ある活動に対する判断を、それについて考えたことだけでなく、それについて感じたことにも基づいて行う」ことが示唆されている。26

本格的な侵略の可能性に対する感情が、その可能性に対する人々の判断に影響を与えたと考えるのは妥当である。本格的な侵略の可能性について、私たちがどう感じるかを考えるのは、そのような侵略の可能性に寄与する要因を列挙し、それらの要因をどのように評価するかを評価するよりもはるかに容易である。難しい、認知的に負担のかかる質問を簡単な質問に置き換えることが、いわゆる「感情的ヒューリスティック」が私たちの判断にバイアスを生じさせる本質である。

また、感情的反応を操作して行動をコントロールしようとする人々による搾取の機会を生み出す可能性もある。28 判断を誤らせるもう一つの要因として、確証バイアスという現象が挙げられる。このバイアスにより、灰色のサイを無視したいという願望を正当化するために、無視を推奨する主張を不当に正当化する一方で、灰色のサイを真剣に考えることを推奨する主張に対して疑念や否定の余地が生じる。29,30

ゆでガエルの教訓は、自身の思考を批判的に検証するツールとしても活用できる。この寓話によると、カエルを沸騰したお湯に入れるとカエルは飛び出すが、カエルを冷水の中に入れてから徐々に温度を上げていくと、カエルは茹でられて死んでしまう。これは、脅威の深刻さがその進行速度に基づいてどのように認識されるかを説明する比喩である。

徐々に進行するある種の破局的な脅威は、急速に発展する深刻度の低い脅威よりもはるかに危険性が低いと認識される。「ロシアと友好的な関係を築くために長い間努力してきたので、今になってそれを諦めるわけにはいかない。」このような考え方は、サンクコストの誤謬として知られる認知バイアスの典型的な例である。

現在のコストが潜在的な利益を上回っている場合でも、これまでの投資に基づいて行動を継続する傾向がある。単にこれまでの努力を無駄にしたくないだけだ。31

軍事的文脈において、過去の兵士の損失を理由に武力紛争への参加を正当化することは、そのような偏った考え方である。兵士の損失が続く戦闘に参加し続けるには、多くの正当な理由があるかもしれないが、過去の兵士の死者の数はその理由には含まれない。

ロシアは、サンクコストの誤謬と前述の偏見を武器化することで、数十年にわたって欧米を「煮え立たせよう」としてきた、と主張することもできるだろう。石油やガスの輸出といった経済取引と悪意ある活動をバランスよく組み合わせることで、欧米諸国が飛び上がるほどの脅威レベルを維持してきた。ドイツやイギリスといった欧米諸国での暗殺作戦も、欧米の民主主義と結束を破壊する悪意あるサイバーキャンペーンも、グルジアやウクライナに対する軍事侵攻も、「欧米のカエル」を飛び上がらせることはなかった。ロシアを戦略的パートナーとして認識し、グレーのサイが徐々に熱を帯びてくるのを黙認する正当性を裏付けるだけの論拠は常に存在していた。幸いにも、ウクライナへの全面侵攻を試みたことは、欧米諸国のほとんどを水面から引き上げるのに十分な急激な温度上昇となったようだ。

「ルールとして、脅威が合理的な人が見てくることができるほど明白であれば、それはグレーリノであってブラックスワンではない」

謙虚さの事例

この共通の思考の欠陥への傾向に関する知識を持って、計画立案活動におけるバイアスとの戦いは道徳的な命令となる。序文で述べたように、問題はあなたとあなたの同僚がバイアスの影響を受けているかどうかではなく、どの程度影響を受けているかである。

次の問題は、特定されたバイアスをどのように軽減できるかである。マティス将軍の30年に関する引用から、そのような認知的課題への対策を見出すことができる。我々の認知的脆弱性を認識することで、計画立案コースに認知バイアスの基本的な知識を取り入れることができる。

さらに、我々の計画立案と意思決定のプロセス、およびそれらが発生する環境を、知的怠惰や恣意的な影響要因に左右されない健全な判断を促進するように設計できる。我々は計画立案と意思決定プロセスに、批判的思考技法と規律ある厳密さを構造的に組み込む必要がある。これらは、確立された計画立案と意思決定のバイアスとノイズの監査によってフォローされるべきである。

統合戦闘センターは、その能力の範囲内で、すでに認知バイアスとの戦いを支援している。統合作戦計画グループリーダーズワークショップを通じて創造的・批判的思考技法に焦点を当て[記事、pp. 68-73参照]、戦争ゲーム中に安全な失敗環境を促進し、そして全規模の演習を通じてこれを行っている。

「問題はあなたとあなたの同僚がバイアスの影響を受けているかどうかではない。問題はむしろ、どのバイアスがあなたの思考に影響を与え、どの程度影響を与えているかである。」