専門家の意思決定における認知的・人的要因　6つの誤謬と8つのバイアスの原因

Cognitive and Human Factors in Expert Decision Making: Six Fallacies and the Eight Sources of Bias

pubmed.ncbi.nlm.nih.gov/32508089/

2020年6月16日

概要

バイアスの性質に関する誤りは、バイアスとその原因についての正しい認知的理解を妨げ、結果としてその影響を最小限に抑える方法につながっている。ここでは、「バイアスは倫理的な問題である」、「悪いリンゴにしか適用されない」、「専門家は公平である」、「技術はバイアスを排除する」、「盲点」、「コントロールの錯覚」という6つの誤謬を紹介する。続いて、バイアスの原因となる8つの要因が議論され、3つのカテゴリーに分けて概念化されている。(A)特定のケースや分析に関連する要因（データ、参考資料、文脈情報など)(B)分析を行う特定の人に関連する要因（過去の経験ベースの割合、組織的要因、教育訓練、個人的要因など)最後に(C)私たち全員に影響を与える認知構造と人間性である。これらの要因は、データの内容（データをどのようにサンプリングして収集するか、あるいは何をノイズとみなして無視するかなど)実際の結果（テスト戦略の決定、分析の実施方法、テストの中止時期など)そして結論（結果の解釈など）に影響を与える。最後に、これらのバイアスを最小限に抑えるための具体的な方策を紹介している。

科学者や専門家は、関連するデータに基づいて観察を行い、公平な結論を導き出すことが求められる。そのため、あたかも人間の意思決定者とは切り離されて存在しているかのように、使用したデータや手法に注目しがちである。例えば、最近の論文では、法医学的なDNA分析(1)をレビューし、DNAの手法を徹底的に紹介しているが、DNA分析はそれを行う人間に依存しており、その人間のバイアスがDNAの結果にどのような影響を与えるかという点については、十分な注意と配慮がなされていない。実際、最近の論文では、DNA分析における人間の影響の重要性と影響力を示すものが相次いで発表されている(2-4)。

このような認知的バイアスは、DNA鑑定に限らず、多くの領域で実証されている（例えば、指紋鑑定やその他の法医学分野(5,6)、法心理学(7)、さらには薬物の検出や発見(8)など）。バイアスは、データの実際の観察や認識、テスト戦略、さらには結果の解釈や結論の出し方にも影響を与える(6)。最も客観的な領域の1つである毒性学でさえ、認知バイアスの問題にさらされていることが明らかになっており(9)、そのようなバイアスが実際の毒性学のケースワークでエラーを引き起こしている（例えば、死後の毒性学のケースで誤ったテスト戦略を決定することなど(10)）。

このように、バイアスの影響は、結果の重要な解釈にとどまらず、データの内容（何を収集するか、何をノイズとみなして無視するかなど）や分析結果そのもの（どのような検査や種類の分析を行うか、誰がどのように実施するか、いつ検査を中止するかなどの検査戦略など）にも影響を与えるため、より広く深い範囲に及ぶ。

これらのバイアスに対処する上での課題の多くは、認知的バイアスの性質、そのさまざまな原因、およびバイアスに関する誤りから生じるものであり、以下にその詳細を説明する。

バイアスに関する6つの誤謬

認知バイアスの8つの原因を説明する前に、一般的に言われている誤りを紹介し、それを取り除くことが重要だ。なぜなら、これらの誤りは、バイアスの存在そのものを最小限にしてしまう（完全に否定しないまでも）からである。バイアスに対処するための最初のステップは、バイアスの存在と、それが勤勉で献身的で有能な専門家に与える影響を認識することである。

第一の誤謬　倫理的な問題

多くの人は、こうしたバイアスを腐敗した個人や悪意のある人による倫理的な問題だと考えているが、認知バイアスは実際には誠実で献身的な検査官に影響を与える。認知バイアスは、書籍(11)や学会、研修(例：「認知バイアスの倫理」(12))などで、何度も倫理的問題の傘の下に提示されている。それは、認知バイアスが何であるかについての基本的な誤解から生じる誤りである。認知バイアスは、不正行為や意図的な差別、倫理的問題に起因する意図的な行為の問題ではない(13)。確かに、ボストンの薬物研究所の化学者が検査を偽造するなど、意図的な職業上の不正行為のケースはある(14,15)。

第二の誤謬　悪いりんご

エラーやバイアスが発見されると、分析における人間的要素や一般的なバイアスのかかりやすさなどのシステム的な問題を認めずに、エラーに関与した専門家が非難されることがよくある(16)。確かに、試験官の能力に起因するエラーがある場合もあるが、これらは比較的簡単に発見でき、修正することができる。ここで議論されているようなバイアス、つまり暗黙の認知バイアスは広く存在し、能力不足に起因するものではないため、発見が難しい。

第三の誤謬　専門家の免罪符

専門家は公平で、バイアスの影響を受けないという誤った考えが広く浸透している(17)。しかし、問題の真相は、専門家に限らず、誰もがバイアスの影響に対する免疫がないということだ(18)。例えば、専門家は、経験やトレーニングによって、より選択的な注意を払い、チャンキングやスキーマ（典型的な活動とその順序）を用い、過去の基本的な経験から生じるヒューリスティックや期待に頼り、先験的な仮定や期待を生み出すトップダウンの認知プロセスを駆使する。

これらの認知プロセスにより、専門家はしばしば迅速で正確な判断を下すことができる。しかし、これらのメカニズムは、間違った方向に導くバイアスも生み出してしまう。専門家のこのような認知処理の有用性（および脆弱性）にかかわらず、専門家がバイアスから免れるわけではなく、実際に、専門知識や経験が特定のバイアスを増加させる（あるいは引き起こす）可能性がある。ドメインを問わず、専門家は認知的な脆弱性にさらされている(20)。

専門家は非常に自信を持っている（時には過信している）傾向があるが、経験豊富な専門家は、実際には初心者よりもパフォーマンスが悪くなることがある。このことは、例えば環境生態学で実証されている。環境生態学では、データ収集が重要であり、サンプルを正しく識別して収集する能力に支えられているが、初心者は実際には専門家よりも優れている(21)。

pubmed.ncbi.nlm.nih.gov/32168506/

第4の誤謬技術的保護

人々は、技術、計測器、自動化、人工知能などを使用するだけでバイアスがなくなると考えている。しかし、これらのシステムは人間によって構築、プログラム、操作、解釈されているため、これらを使用したとしても、人間のバイアスは依然として存在している。テクノロジーを使えばバイアスの影響を受けないことが保証されていると、人々が間違って信じてしまう危険性がある。さらに、質量分析ライブラリ照合ソフトウェア、自動指紋認証システム（AFIS)その他の技術的装置など、テクノロジーがバイアスをもたらすことさえあるのである(22)。

第5の誤謬　バイアスの盲点

専門家自身が自分のバイアスに気づいていないことが多く、そのため、自分はバイアスを持っていないという誤謬を持っている。これは暗黙的な認知バイアスであり、意図的な差別的タイプのバイアスではないことを忘れてはならない。バイアスの盲点(23)はよく知られており、法医学(17)や法医学心理学(24)など様々な領域で実証されている。他人のバイアスを見るのは比較的簡単であるが、自分のバイアスには気づかないことがよくある。調査によると、法医学者の70%は認知バイアスが法医学全体の懸念材料であると認識しているが、自分の特定の法医学領域で懸念材料であると考えるのは52%、自分個人に関係があると考えるのは25%に過ぎず、バイアスの盲点の特徴を反映している(17,23)。

第6の誤謬　コントロールの錯覚

専門家は、自分のバイアスに気付き、それを認めたとしても、単なる意志の力でバイアスを克服できると考える(25)。バイアスに対抗するには、具体的なステップを踏む必要があり、意志の力だけでは、さまざまなバイアスの現れに対処することはできない。

実際、コントロールの錯覚によってバイアスに対処しようとすると、「ironic processing（皮肉な処理）」や「ironic rebound（皮肉な反発）」によって、かえってバイアスを増やしてしまうことがある(26)。

pubmed.ncbi.nlm.nih.gov/8121959/

したがって、意志の力でバイアスを最小限に抑えようとすると、より多くのことを考えてしまい、かえってバイアスの影響が大きくなってしまう。これは、裁判官が陪審員に特定の証拠を無視するように指示するのと似ている。そうすることで、裁判官は実際に陪審員にその証拠をより一層気づかせてしまう(27)。

pubmed.ncbi.nlm.nih.gov/16906469/

表1のような誤りを信じていると、バイアスの力やその存在自体を否定してしまうため、バイアスに対処することができない。私たちは、バイアスの影響を認識し、その原因を理解する必要がある。そうすれば、バイアスの影響に対抗するために、必要なとき、可能なときに、適切な措置を取ることができる。

表1 専門家によく見られる認知バイアスに関する6つの誤謬

倫理的な問題腐敗した不謹慎な人間にしか起こらない。モラルや個人の誠実さの問題、個人の性格の問題である。
Bad Apples これは能力の問題であり、自分の仕事を正しく行う方法を知らない専門家に起こる。
Expert Immunity 専門家は公平であり、影響を受けない。なぜならば、バイアスは、有能な専門家が誠実に仕事をすることに影響を与えないからである。
技術的保護技術、計測器、自動化、または人工知能を使用することで、人間のバイアスからの保護が保証される。
盲点他の専門家はバイアスの影響を受けるが、私は違います。私が偏っているのではなく、他の専門家が偏っているのである。
コントロールの錯覚バイアスが自分に影響を与えていることを認識しているので、その影響をコントロールして対抗することができる。単なる意志の力でバイアスを克服することができる。

バイアスの8つの原因

認知バイアスは様々な形で存在し、どこにでもある現象である(13)。図1は、専門家の意思決定におけるバイアスの原因を8つに分類したものである。カテゴリーAは、特定のケースに関連するもので、このケースに関する何かが、データの認識、分析、解釈の仕方にバイアスを引き起こす。カテゴリーBは、特定のケースとは関係なく、仕事をしている特定の人に関する要因（その人の経験、性格、職場環境、モチベーションなど）がバイアスの原因となる。カテゴリーCの認知バイアスのさらなる原因は、特定のケースや分析を行う特定の人に関係なく、人間の本質、つまり人間が共有する脳の認知構造そのものから生じるものである。

図1 専門家であっても、サンプリング、観察、テスト戦略、分析、および結論を認知的に汚染する可能性のある8つのバイアスの原因

これらは、3つのカテゴリーに分類されている。一番上には、特定のケースと分析に関する情報源（カテゴリーA）があり、下には、分析を行う特定の人に関する情報源（カテゴリーB）があり、一番下には、人間の性質に関する情報源（カテゴリーC）がある。

これらのバイアスの原因を理解することは、バイアスをより簡単に認識し、明らかにするために重要であり、また、それぞれのバイアスの原因には具体的な対策が必要であると言える。

(1)データ

具体的な分析に関連する要因の中で、認知的バイアスの最初の原因はデータである。データがバイアスの原因になるとは？それは、データによる。フィンガーマークのようなデータは、摩擦の痕跡以上の情報を伝えないため、それ自体はバイアスの原因にはならない。しかし、他のタイプのデータ（音声、筆跡、血痕、ビットマークの分析など）では、データに偏った情報が含まれている可能性がある。例えば、音声分析では、内容はもちろん、口調や叫び声でも、残忍な暴行を明らかにすることができる。同様に、ギャングレイプの混合DNA証拠は、感情を呼び起こし、意思決定に影響を与える可能性がある(28-30)。

(2)参考資料

参考資料は、データの捉え方や解釈にバイアスをかける可能性がある。これは、DNA、指紋、比較に基づいた判断など、さまざまなデータに当てはまる。DNA証拠の解釈が、「ターゲット」となる容疑者が知っている参考資料（DNAプロファイル）に影響されて、その容疑者にぴったり合うようになってしまうと、犯罪現場の生物学的資料の解釈にもバイアスが生じてしまう(31)。

実際の証拠が意思決定プロセスの原動力となるのではなく、証拠が含まれているデータに基づいて解釈されるのだが、容疑者のプロファイルが意思決定の原動力となってしまう。したがって、証拠から容疑者へ（データから理論へ）と進むのではなく、参考資料は、ターゲット／容疑者から証拠へと逆戻り（循環推論）させ、データの解釈にバイアスを生じさせることになる(32)。

この事件の2人のDNA鑑定人は、ケリー・ロビンソンの既知のDNAプロファイルから潜在的な証拠へと遡って作業をしていたと思われるため、誤りを犯してしまった(33)。そのため、証拠そのものではなく、容疑者の「ターゲット」が分析を動かしていたのである。彼は、17年の服役の後、無罪放免となった(34)。実際、同じDNA証拠を後になって適切に分析したところ、異なる結果が得られた(35)。

「後戻り」の問題である循環的推論は、DNAに限らず、指紋、筆跡、銃器などの他の比較領域（レビューは参考文献(5)参照）でも、既知の容疑者の参考資料が犯罪現場のデータの解釈に影響を与えることがある。これは、FBI（および弁護側が雇った専門家）がメイフィールドをマドリッドの爆弾犯と誤認した際に例示されている(36)。この場合も、「標的」（この場合は容疑者の指紋）が分析を左右し、結果として誤認を招いた。例えば、この分析では、証拠品の中のシグナルがターゲットと一致しないためにノイズとして認識され、無視された。これは、ターゲットや期待される結果に後ろ向きになって分析を進めてしまうことから生じる典型的なエラーである。

さらに、このようなバイアスの原因は、対象となる容疑者がいる場合に限らず、血痕分析や犯罪現場の解釈のように、あらかじめ用意されたテンプレートやパターンから生じることもある。また、どのような色が観察されるかにも影響を与える。したがって、バイアスは、色の見た目に対する解釈に限らず（例えば、グリステストのピンク色は、容疑者がダイナマイトを扱ったことを意味すると誤って解釈された、後述)マンセル色票を参照テンプレートとして使用する場合には、そもそもどのような色が観察されるかにまで影響を及ぼす可能性がある(37)。

このバイアスは、色の存在が何を意味するかという結論や解釈だけに影響を与えるだけでなく、色そのものが何であるかという観察にもバイアスをかけて影響を与える可能性があるからである(観察に影響を与えるバイアスと結論に影響を与えるバイアスの重要な違いについては、Hierarchy of Expert Performance (HEP)を参照してほしい)(6)。

したがって、この種の認知バイアスは、対象や参照先に限らず、理論や図表、パターンを念頭に置くことでも生じ、様々な専門領域に影響を与えることが示されている(38-40)。
このようなバイアスは、例えば、散乱したマス・クロマトグラムや赤外スペクトルにおいて、分析者が目的のピークを「選び出し」、他のピークを無視してしまうような場合にも生じる。これは意図的なものではなく、意識せずに起こることである。期待は、特定の刺激や信号に認知資源や注意を偏らせ(41)、腹側視覚経路全体の予測可能な物体刺激に対する感覚反応に影響を与える(42,43)。また、それらのターゲットに対する知覚感度を偏らせ(44)、視覚野の感覚表現を変化させ(45)、その結果、実際に何をどのように知覚するかに影響を与える(46)。マス・クロマトグラムや赤外スペクトルの視覚検索にバイアスが生じるのと同様に、放射線撮影(38)やその他多くの領域の検出にも影響を与える。これらの例では、人間の検査者は、実際のデータではなく、自分が期待する（あるいは欲しい）「ターゲット」によって動かされている。

(3)文脈情報

専門家はしばしば無関係な情報にさらされる。例えば、フォレンジック分野では、容疑者が犯罪を自白していること、目撃者や他の証拠によって身元が確認されていること、容疑者に前科があることなどが挙げられる(47) 容疑者の名前を知っているだけでも、特定の人種を連想させ、バイアスやステレオタイプを引き起こす。これらの期待は、分析から得られた結果の解釈だけでなく、分析自体にも影響を与える。なぜなら、期待は、分析内容の検出やテスト戦略に影響を与えるからである。このバイアスの原因は、標準物質によって生成されたターゲット（上記参照）ではなく、分析者が行うタスクとは無関係な文脈情報に由来する。

例えば、毒性学の分野では、文脈上の情報がテスト戦略にバイアスをかける可能性がある。例えば、死後の症例に「薬物過剰摂取」や「故人はヘロインの使用歴がある」などの文脈情報が提供された場合を考えてみよう。このような情報は、限られた範囲のアヘン系薬物（モルヒネ、コデイン、6-モノアセチルモルヒネ、その他のヘロインマーカー）の確認と定量に直行し、イムノアッセイや他のオピオイド（フェンタニルなど）の有無などの標準的な検査を行わないなど、確立された検査戦略に影響を与える。そのため、文脈上の情報により、確証バイアス的なアプローチが行われ、標準的な検査やスクリーニングのプロトコルから逸脱してしまったのである。このことは、実際に毒物検査のケースでエラーを引き起こしている(10)。

法医学の分野では、例えば、無関係な文脈情報が犯罪現場でのデータ収集に影響を与えることが示されており(48)、実験室でのDNA分析におけるバイアスも同様である(35)（レビューについては、参考文献(5,6)を参照）。同様に、標準的な検査戦略、データ収集、サンプリングからの逸脱は、薬物認識専門家(DRE)が人に障害があり、刺激物の影響を受けていると評価したが、血中にアルコールが含まれていなかった、あるいは、犬が薬物の存在を知らせた、あるいは、結果がどうなるべきか期待させる他の文脈的情報を知っていて、検査室が分析を行う場合、文脈的情報によってバイアスがかかる可能性がある。

文脈上の期待は、データ収集やテストの戦略だけでなく、分析の解釈や結論にも影響を与える。例えば、「ある薬物のクロマトグラフィーやマススペクトルの質の悪い一致は、そのサンプルがその薬物に対して陽性であるはずだという期待に基づいて、意識的または無意識のうちに陽性結果に「アップグレード」される可能性がある。逆に、分析者がその薬物の存在を予想していない場合や、その存在が「事件の状況に適合しない」場合には、同様に質の悪い一致が陰性に「格下げ」されることがある。どちらの場合も、文脈によって、データが保証するよりも強い判断根拠があるように錯覚する可能性がある」（参考文献（9)381ページ）。認知的バイアスは、タスクに無関係な文脈によって、分析のある側面が過大評価、過小評価、または無視される（例：認識されない、ノイズ、異常値、外れ値と判断される）場合に生じる。これは主観的な判断だけでなく、確立された手順(10)や、証拠を受け入れて適切に判断するための基準にもバイアスを生じさせる可能性がある(49)。

タスクの無関係な文脈情報の問題点は、様々な種類のバイアスを引き起こし、様々な方法で分析に影響を与える可能性があることである。バイアスのもう一つの影響は、データがないことを見落としたり、過小評価したり、結果を適切に確認しなかったり、代替案を検討しなかったりすることである。例えば、テロリズムの背景情報にバイアスがあると、ダイナマイトを誤認してしまう可能性があることを考えてみよう。爆発物の推定カラーテストであるGriessテスト(50)では、ニトログリセリンが陽性であった。しかし、この陽性結果は、テロに関連しない無実の様々な製品に含まれるニトロセルロースから得られる可能性があった。それにもかかわらず、文脈上の情報から、ピンク色の出現によって容疑者がダイナマイトを扱ったと誤って判断されたが、実際には容疑者がシャッフルしていた古いトランプのパックから痕跡が発生していたのである。 52）このような誤りは、分析者が期待された結果を受け入れることにバイアス、適切な確認や代替案を検討しない場合に起こる。

もう一つの例は、毛髪を使った薬物・アルコール検査である。イムノアッセイには偽陽性の問題があることが知られており、そのため結果をより特異的な別の手法で確認する必要があるにもかかわらず、結果が文脈上の情報に沿ったものであった場合には、これらは必ずしも実行されなかったのである(53)。

ここで強調しておきたいのは、文脈上の無関係な情報が科学者や専門家にバイアスをかけるということであり、それは無意識のレベルで行われることもあるということである。これらのバイアスは専門家に影響を与え、単なる意志の力では適切にコントロールできない（上記の6つのバイアスの誤謬を参照）。

(4)基礎率

専門家が仕事にもたらす重要な資産は、過去の事例から得た経験である。しかし、そのような経験は、新しいケースに期待をもたらす。それは、特定のケースや分析から得られたものではないが、それでも解釈に影響を与える可能性がある。そのため、実施されるサンプリングや分析は、目の前のケースとは無関係な要因に影響され、むしろ過去の無関係なケースから生み出された期待される基本レートが、このケースの実施方法に影響を与えるのである。

例えば、死因が「首吊りによる脳低酸素症」の場合、死因は「自殺」であることがほとんどである。一方、絞殺による脳低酸素症の場合、死因は殺人であることが多い。稀に、首吊りが殺人の結果であったり、絞め殺しが自殺であったりすることもあるので、必ずしもそうとは限らない。しかし、死因と死の態様の間の関連性の基礎率が、死の態様の解釈と決定にバイアスをかけることがある。このような基底率のバイアスは、医療診断から空港のセキュリティX線まで、多くの領域で共通している(54)。

ベースレートのバイアス効果は、分析結果の解釈方法に限られない。分析の他の段階、サンプリングやデータ収集、関連するマーク、アイテム、シグナルの検出、さらには検証にまで影響を及ぼす可能性がある。例えば、ターゲットの有病率が低い場合の基礎率バイアスは、過去の経験で見つけることが稀であったり、珍しいものであった場合、観察者が将来それを見落とす可能性が高いことを示している(55,56)。したがって、観察者がアイテム、マーク、またはシグナルを探している場合でも、基礎率によって検索にバイアスがかかる。

基準率のバイアスは、過去の類似したケースから得られる期待値に由来する(46)。このケースは、実際には他のケースに基づいて分析されているため、バイアスがあるという問題である。このバイアスの本質は、認識や判断がケースそのものに基づいていないことである。この種のバイアスは、過去のケースとの類似性が表面的で、現実よりも見る人の目の中にある場合、さらに強力になる(57)。

(5) 組織的要因

バイアスの原因となる組織的要因は多岐にわたり、様々な分野でよく記録されている。DNAなどの法医学的証拠については、敵対的な法制度の中で分析や作業が行われることが多いため、認知バイアスが忠誠効果やアミサイド・バイアスから生じる可能性がある(58)。これらは暗黙のバイアスであり、一方の側が他方の側よりも明らかに有利である場合の明白な偏見ではない。

法科学研究所の多くは法執行機関の一部（あるいは検察庁の一部）である。このような組織的な影響は、全米科学アカデミー報告書でもバイアスがかかっていると認識されており、「すべての公共法医学研究所や施設を法執行機関や検察庁の管理統制から外す」ことを求めている（参考文献（60)勧告4号、24ページ）。要は、法医学を取り巻く組織的要因と行政がバイアスを誘発するということである(61)。

組織的要因の影響は、あらゆる検査室に当てはまる。検査室は、仕事にバイアスをかけることができる様々な文脈、構造、フレームワークの中で働いている。例えば、研究室には明確なヒエラルキーと依存関係がある。報告書や分析の「サインオフ」をする先輩がいると、「その人が読みたいことを書く」という危険性があり、その人の科学的判断に挑戦することができない。このように、科学は経営者の権限やその他の組織的な圧力と混同されてしまうのである(62,63)。

その他の組織的要因としては、時間的なプレッシャー、一定の結果を出すことへの期待、ストレス、予算管理、出版物やその他の目標を達成するためのプレッシャーなど、研究室やその他の専門的な環境で行われる仕事に影響を与えるあらゆる組織的要因に関するものがある。

(6)教育・訓練

教育と訓練は、仕事の進め方に重要な役割を果たす。例えば、科学捜査官が自分の役割を科学者としてではなく、警察のサポートとして捉えているかどうかである。また、事件に取り組む際には、単一の仮説を追求するのか、複数の仮説を検討するのか、対立する側のシナリオも含めた別の仮説を検討するのか、鑑別診断を行うのか、指紋や銃器でよく使われる「一致」「非一致」などの分類的判断を行うのか、統計などを用いて証拠の強さを判断するのか、などの教育が行われている。デジタル・フォレンジック、銃器、指紋、その他多くのフォレンジック分野は、科学に関する適切な教育やトレーニングをほとんど受けていない警察の仕事から生まれたものである。

7）個人的要因

バイアスや意思決定には、多くの個人的な要因が影響する。モチベーション、個人的なイデオロギーや信念などである。例えば、色を使ったテストでは、同じものを見ても人によって認識する色が異なるため、結果にバイアスが生じることがある(37)。

より客観的な数値化や計測が可能な分野では、これらの要因は最小限に抑えられる。しかし、データの収集、サンプリング、解釈の仕方を決めるのが人間であり、データや結論の評価に主観が入るような分野では、このような個人的な要因が仕事の進め方に大きく影響する。

テクノロジーを駆使しても、人間のバイアスがかかる。技術の構築や運用、校正や保守、結果の解釈や行動の有無・内容の決定には人間が関与するため、技術は完全に客観的ではあり得ない(65)。実際、ISO（国際標準化機構）の規格17025:2017（計測器と客観的な定量化に多くを依存する試験所の試験と校正の能力に関する一般要求事項）(66)は、より主観的な試験所の領域の規格であるISO17020とISO17025を踏襲し、公平性とバイアスのないことに関する具体的な要求事項を含むようになった。そのため、定量化や機器を使用した場合でも、人間の検査者の役割を認めている。また、機器を使用したとしても、バイアスがないことを保証するものではないことを認識している(67)。

意思決定にバイアスを生じさせるその他の個人的な要因としては、結論を出す必要性から早まった意思決定をしたり、結論の出ない意思決定を選択したりすること(68)、ストレスや疲労に対する反応の仕方、性格など、専門家の意思決定に影響を与えるあらゆる個人的な要因が挙げられる(69-71)。

(8) 人的・認知的要因と人間の脳

脳の働きは、建築的な制約や容量的な制約があり、入ってくる情報をすべて処理することはできない。そのため、脳は身の回りの世界やデータを理解するために、様々なプロセス（主に「トップダウン」と呼ばれる）を行っている。人間の心はカメラではない。人間の認知が能動的であるということは、世界を “あるがまま “に見ているわけではないということだる。

バイアスを引き起こす可能性のある多くの認知プロセスや人間の脳の配線方法に加えて、社会的相互作用、内集団と利用可能性のバイアス、処理の流暢性など、私たち全員に影響を与えるバイアスの影響がある(72-75)。

スノーボール・バイアスとカスケード・バイアス

バイアスは、個人だけに影響を与えたり、仕事の一面だけに影響を与えたりするのではなく、多くの場合、バイアスは一人から別の人へ、仕事の一面から別の一面へと連鎖し、調査のさまざまな要素に影響を与える。人や様々な側面が影響を受けると、その人は他の人に影響を与え、影響を受けた人から影響を与えた人へと変わり、偏見を永続させ、他の人に影響を与えることになるのである。そして、バイアスは連鎖するだけでなく、勢いを増して雪だるま式に増えていく(32)。

バイアスの克服

まず、私たちはバイアスの存在を認め、その性質についての誤りを信じることから始めなければならない。人々がバイアスの盲点を持っていたり、専門家としてバイアスの影響を受けないと思っていたり、単なる意志の力でバイアスを克服できると思っていたりすると、バイアスは永続してしまう。

第二に、バイアスに対抗するための一般的な原則として、私たちは、関連するデータのみに焦点を当て、後戻りしないような行動をとる必要がある。そのためには、継続的なトレーニングとラボでの作業手順が必要である。適切な基準での認定や適切な分野での認証は、問題の解決にはならないかもしれないが、検査室に手順の文書化を強いるものである。また、外部からの精査は、バイアスのある領域を明らかにするのに非常に有用である（特に、ISO（例えば、17020や17025(66)）は、バイアスがないことを確認するための措置をとることを特に要求している(67)）。

第三に、具体的には、以下のようにして、様々なバイアスの原因に対抗することができる。

(A) タスクに無関係な情報にさらされないよう、盲検化やマスキングの技術を用いる(76)

(B) Linear Sequential Unmasking (LSU)などの方法を用いて、情報に触れる順序、タイミング、直線性をコントロールし、「後戻り」して参考資料に偏ることを最小限にする(32)

(D) 可能な限り、ブラインド、ダブルブラインド、および適切な検証を使用する。

(E) 1つの「参照対象」や仮説を持つのではなく、競合する代替的な結論や仮説を「並べる」。

(F) 1つの結論ではなく、すべての異なる結論とその確率を提示する鑑別診断的アプローチを採用すること(77,78)

まとめと結論

バイアスは、多くの場合、自分では意識せずに、データのサンプリングや認識の仕方、テスト戦略の決定、結果の解釈の仕方に影響を与える。バイアスに関する様々な誤謬を信じていると、バイアスを正しく理解することができず、バイアスと戦うための手段を講じることができない。バイアスを理解し、それを認めることで、バイアスの原因について議論し、その影響を最小限に抑えるための手段を開発することができる。

ここでは、バイアスについて広く受け入れられている信念であり、バイアスの正しい概念化を妨げている6つの誤謬（ごびゅう）を紹介する（表1）。次に、バイアスの原因が示されている（図1）。バイアスの原因は、分析される特定のケース、分析を行う特定の人、そして私たち全員に影響を与える基本的な人間性から生まれる。これらの誤りやバイアスの原因を提示することで、人々が自らの実践を振り返り、認知的なバイアスが不本意ながら自分の仕事に影響を与えていないかどうかを検討することを期待している。バイアスについて議論すると、防御的な反応をされることが多く、多くの人は自分のバイアスを考えたり認めたりすることはおろか、研究することも望んでいない。しかし、バイアスと戦い、それを最小化するためには、そうすることが不可欠である。本論文がそのような方向性に貢献することを、筆者は願っている。