コンテンツ
Routledge Handbook of Bounded Rationality
11 WHY HUMANS ARE COGNITIVE MISERS AND WHAT IT MEANS FOR THE
GREAT RATIONALITY DEBATE
11 人間はなぜ認知を誤るのか、そしてそれが偉大なる合理性の議論に何を意味するのか
キース・E・スタノヴィッチ (Keith E. Stanovich）
はじめに人間が認知的誤用者であることは、過去50年にわたる心理学と認知科学の研究を通じて主要なテーマとなってきた (Dawes, 1976; Kahneman, 2011; Simon, 1955; 1956; Shah & Oppenheimer, 2008; Taylor, 1981; Tversky & Kahneman, 1974参照）。人間は、計算コストの低い処理機構をデフォルトとする基本的な傾向があるため、認知的誤用者である。Hull(2001)は、「人間が従うと思われるルールは、他のすべてが失敗したときだけ脳を働かせることであり、通常はそれすらしない」（p.37)とユーモアを交えて述べている。より深刻なのは、Richerson and Boyd (2005)が、同じ点を進化における起源という観点から述べている点である。「事実上、すべての動物は、できる限り愚かであるようにという厳しい淘汰圧を受けている」（p.135)。惨めな認知傾向は、計算効率の理由から進化してきた。しかし、この計算効率は同時に、人間が完全な合理性ではなく、限定合理性を示すことを保証している。
もちろん、進化によって人間の脳が作られたのだから、「理性的であることの質または状態」という辞書的な意味での人間の合理性は、進化によって保証されている。しかし、進化は、別の意味、つまり認知科学全体で使われている、主観的な期待効用の最大化という意味での完全な合理性を保証していない。最大化とは対照的に、自然淘汰は「better than」の原理で働く。進化の変異と選択的保持の論理は、ある生物が次の生物よりも繁殖的に有利になるように「設計」するのであって、ある特性（合理性を含む）が最適になるように設計するのではない。自然淘汰は、長期的な戦略ではなく、即時的な優位性に向けられている。これに対し、人間の合理性は個人の長期的利益を取り込まなければならないため、進化的適応の短期的戦略とは乖離することがある。
生物は遺伝子の繁殖適性を高めるために進化してきたのであって、人間の合理性を高めるために進化してきたわけではないし、適性の向上が必ずしも合理性の向上を伴うとは限らない。例えば、適合性が増加するために、信念が常に最大限の精度で世界を追跡する必要はない (Mercier & Sperber, 2017; Stanovich, 2004)。進化は、生物学的資源 (例えば、記憶、エネルギー、注意など）の点でコストがかかる場合、高精度の認識メカニズムを選択し損ねるかもしれない。信頼性が低く、誤りを犯しやすい、リスク回避的な戦略は、自然淘汰によって好まれるかもしれない (Stich, 1990)。
それは、目標や欲求の領域においても同様である。進化の目的は、人間の幸福を最大化することではなかった。感情予測に関する研究 (Gilbert, 2006; Kahneman, 2011)から明らかなように、人は自分が幸せになるような選択をするのが著しく下手である。これは不思議なことではない。私たちの脳に快楽回路があるのは、遺伝子を伝播させるようなこと（生存と繁殖、親族を助ける）をするように促すためである。快楽中枢は、私たちが幸せである時間を最大化するように設計されてはいない。
人間の道具的合理性1が進化によって保証されていないのは、さらに2つの理由がある。第1に、環境が変化したため、多くの遺伝的目標がもはや私たちの目的に適わなくなった可能性がある。これらのメカニズムの根底にある目標は、進化の文脈から切り離されてしまっているのだ (Li, van Vugt & Colarelli, 2018)。最後に、合理的基準の文化的進化は、人間の進化よりも著しく速いペースで起こる傾向があり (Richerson & Boyd, 2005; Stanovich, 2004)、その結果、効用最大化の精神メカニズムが局所的な遺伝的適性の最大化から切り離される十分な機会が提供されることになる。
進化が人間の完全な合理性を保証しないことは、認知科学におけるGreat Rationality Debate-（合理性の大議論）人にどれだけの合理性を認めるかについての議論-を解決するために必要な最初の基本概念である (Cohen, 1981; Gigerenzer, 1996; Kahneman & Tversky, 1996; Kelman, 2011; Lee, 2006; Polonioli, 2015; Samuels & Stich,2004; Stanovich, 1999, 2004; Stanovich & West, 2000; Stein, 1996; Tetlock & Mellers, 2002)がある。他に必要な概念は、二重過程認知理論と、人間の生体内における目標の論理の理解である。前者はよく知られており、これまでにも十分に議論されているので、まず後者に目を向ける（より詳細な議論はStanovich, 2004を参照）。
複雑さの異なる生物における目標の論理
ここでは、ドーキンス（1976, 1982)による複製者と乗り物に関する議論を援用する。複製者は自分自身を複製する実体 (例えば、遺伝子）、乗り物は複製者が自分自身を収容する容器 (例えば、生物）であるとするものだ。環境と相互作用するのは乗り物であり、環境との相互作用における乗り物の成功の差が、その乗り物が収容するレプリカントの成功を決定する。人間は、ミツバチと同様に、遺伝子の良い乗り物であることが証明されている。しかし、ミツバチと人間のゴール構造は大きく異なっている。
いわゆるダーウィン的な心 (Dennett, 1996, 2017参照）を主な特徴とする生物であるミツバチは、図11.1に示すようなゴール構造を有している。Aと書かれた領域は、レプリケーターと車両の目標が一致する場合の大部分を示している。レンガの壁にぶつからないことは、遺伝子の利益と、首尾一貫した生物としてのハチ自身の利益の両方に貢献する。もちろん、Aが示す正確な領域は推測に過ぎない。 (例えば、遺伝子的に関係のある巣の女王を守る一方で針を失い、自ら死を選ぶ）。
図 11.1 ダーウィンの生き物の目標構造。領域は、車両と遺伝子の 「利益」の重複と非重複を示す。
ハチにおけるすべての目標は、純粋かつ単純な遺伝子の目標である。これらの目標の中には、乗り物としてのハチの利益と重なるものもあれば、そうでないものもあるが、ハチはそれを気にするほどのことは知らない。もちろん、人間の場合は根本的に異なる。遺伝子の利益と乗り物の利益が分離する可能性があるということは、自己を見つめる乗り物としての人間にとって重大な意味を持つ。
人間は、自分の脳内に、自分自身の利益よりも遺伝子の利益に資する目標が埋め込まれているかもしれないことを認識できる最初の生物であり、そうした目標を追求しないことを選択できる最初の生物でもあるのだ。柔軟な知性と長足の目標を持つ生物は、図11.1に示された状況とは異なり、遺伝的最適化とは完全に切り離された目標を開発することができる。進化の歴史の中で初めて、図11.2に示すような目標構造の可能性が出てきたのだ（ここでも、これらの領域の大きさは純粋に推測である）。ここでは、従来通りの領域A（遺伝子と乗り物の目標が一致）と領域B（遺伝子の利益に資するが乗り物の利益にはならない目標）があるが、新たに領域Cが存在し、人間においては、遺伝子の利益にはならず乗り物の利益にのみ資する目標の可能性があることが分かる。
図11.2 人間におけるゴール構造の論理
なぜC領域が人間に存在するようになったのか？乗り物の瞬間瞬間の反応をコード化することに限界が来たとき、遺伝子はロングリード戦略を脳に追加し始めた (Dennett, 1996, 2017; Stanovich, 2004)。進化のある時点で、これらのロングリード戦略は柔軟性を増し、擬人化すると、遺伝子は次のように言ったと同じである。「私たちが何をすべきかを正確に伝えるには、外の状況はあまりにも速く変化していくので、私たち（遺伝子）が挿入した一般的な目標（生存、有性生殖）から最善と思われることをやっていけばいい」しかし、ひとたび目標がこれほど一般的になると、潜在的なギャップが生まれ、車の目標に役立つ行動が、遺伝子の目標には役立たない可能性が出てくる。避妊をしながらセックスをするという明らかな例以上のことは必要ない。この行為は、遺伝子の目標である生殖には役立たず、快楽という乗り物の目標にかなうものである。この状況の論理は、乗り物の目標-確率的に遺伝子を再生させる傾向のあるものの一般的なインスタンスである-が、特定の生殖目標そのものから乖離しうるというものである。
二重プロセス生物における遺伝子のゴールとビークルのゴール
合理性に関する大論争を文脈化するために必要な最後の世界的概念は、二重過程論である。議論を単純化するために、このような理論の最も基本的な仮定 (Stanovich & Toplak, 2012)と、その後の文献で多く議論されている説明や注意点のみを必要とする (Evans, 2008, 2014, 2018; Evans & Stanovich, 2013; Stanovich, 2011)。このような多くの理論において、システム1処理の特徴はその自律性にある。これらのプロセスの実行は、そのトリガーとなる刺激に遭遇したときに必須であり、高レベルの制御システムからの入力に依存することはない。自律的なシステム1プロセスのカテゴリーには、感情調節のプロセス、進化心理学者によって提唱された特定の適応的問題を解決するためのカプセル化されたモジュール、暗黙の学習のプロセス、過剰学習した連想の自動発火などが含まれるだろう。
システム1の処理とは対照的に、システム2の処理は非自律的で計算量が多い。システム1の処理の多くは並列に動作するが、システム2の処理は大部分直列である。システム2処理の最も重要な機能の1つは、最適でないシステム1処理を上書きすることだ（これらの広範な一般化の詳細については、De Neys, 2018; Evans & Stanovich, 2013; Pennycook et al., 2015; Stanovich, 2004, 2011, 2018; Thompson, 2009を参照してほしい）。システム2の上書き傾向には個人差があり、したがって、みじめな人の程度にも個人差がある (Stanovich, West, & Toplak, 2016)。
システム1は、部分的に古い進化的構造 (Amati & Shallice, 2007; Mithen, 1996, 2002; Reber, 1993)から構成されており、より直接的に遺伝子の目標（生殖成功）をコードしている。一方、システム2の目標構造は、より最近進化した脳機能 (Evans, 2010; Mithen, 1996, 2002; Stanovich, 2004, 2011)より柔軟で、継続的に広い社会環境の目標とシステム1のより領域固有の短鎖の目標とを調整しようとするものである。システム2は、主に人間全体の利益に焦点を当てた制御システムである。これは個人の目標達成を最大化する主要な手段である。
システム2は、システム1（サブパーソナルレプリケーターによる古代の繁殖目標により直接的に同調している）よりも一貫した生物としての人のニーズに同調しているので、2つのシステムの出力が衝突する少数のケースでは、システム1のトリガーによる出力を上書きすることができれば、人はより良い生活を送ることができる場合が多いだろう。このようなシステムの衝突は、車とレプリカントの目標の不一致を示す可能性があり、統計的には、システム1の出力を無効にすれば、そのような不一致は車（私たち全員が望むはず）に有利に解決される可能性が高くなる。
図11.3は、この状況の論理を図式化したものである（もちろん、重なり合う部分の正確な大きさは単なる推測に過ぎず、ここでの議論を維持するために必要なのは相対比率だけだ）.。これは、システム1には遺伝子にのみ寄与し車両には寄与しない目標が不釣り合いに多く含まれ（領域A）、システム2には車両にのみ寄与し遺伝子には寄与しない目標が不釣り合いに多く含まれる（領域F）ため、衝突の場合、オーバーライドが統計的に良い賭けとなることを示している。図11.3に反映されている前提は、実生活の大半の場面で車両と遺伝子の目標が一致していることである (BおよびEと書かれた部分）。例えば、自然界では、物体の周りを正確に航行することが進化的適応を促し、同様に、現代社会で生活を営む私たちの個人的な目標にも役立っている。しかし、図11.3の最も重要な特徴は、2つのシステムの目標分布が果たす利益の非対称性を示している点である。
図11.3 システム1とシステム2における遺伝子のゴールと車両のゴールの重なり合い
システム1では、多くの目標が非反省的に獲得され、その人の利益になるかどうかの評価を受けていない（図11.3のA領域）。実際、それらは評価されたのだが、全く別の基準で評価された。つまり、それらが進化の過去において複製者の寿命と繁殖力を向上させたかどうかということである。これらは、個々人（乗り物）の立場からすると、危険な目標になりかねない。なぜなら、これらは遺伝的な目標だけを反映したものだからである3。これらの目標は、無効化の有力な候補となるべきものである。
図11.3の右側は、システム2の目標構造を示している。このシステムは反省的知性の行使により、しばしば生物全体の目的には役立つが、遺伝子の目的を阻害する柔軟なロングリーシュ目標を導き出す（図11.3の領域F-例えば、避妊を伴うセックス、生殖期が終わった後の資源利用など）。もちろん、反射的に獲得した目標も、習慣的に発動すれば、システム1の一部となり得る (Bago & De Neys, 2017; Stanovich, 2018)。この事実は、システム1に小さな4つのセクション（領域C）が存在するのはこのためである。反省的に獲得された目標状態は、車両にとってユニークな利点（遺伝子にインストールされた反対側の目標-「上司の奥さんと浮気しない」-に勝るために生じる利点）を獲得し、練習を通じてシステム1にインスタンス化される可能性がある。このような状況では、人間のシステム1は、反射的なシステム2とともに脳に存在することの結果を反映していると言えるかもしれない。そのため、人間のシステム1の目標構造は、図11.1に描かれたダーウィン型生物の構造を単純に再現したものではない。
とはいえ、C領域という小さいながらも重要な例外を除いて、システム1は大まかに言って、遺伝子の鎖が短い脳の部分として理解することができる。これに対して、システム2が調整しようとしている目標のほとんどは、派生的な目標である。人間が複雑な社会で生活する場合、基本的な目標や一次的な欲求（身体的快楽、安全、栄養）は、名声、地位、雇用、報酬といった二次的な象徴的目標を最大化することによって間接的に満たされる。これらの二次的目標の多くを達成するためには、より直接的にコード化されたシステム1の反応を少なくとも一時的に抑制する必要がある。長期間放置された派生的な目標は、進化的適応の目標と自動車の利益とを分離するための条件を作り出す。
システム1は自律性を持っているため、システム2が関与している問題に関連する出力を提供することがよくある。このようなシステムの衝突は、車両とレプリカントの目標の不一致を示す可能性があり、統計的には、システム1の出力が上書きされた場合（領域E+Fが領域B+Cを上回る）、そのような不一致は車両に有利に解決される可能性が高くなる（これは私たち全員が望んでいるはずである）。このように、レスポンスの不一致の場合、オーバーライドが統計的に有利なのである。
偉大なる合理性の議論における対立する立場の調整
ヒューリスティクスとバイアスの伝統に基づく研究者は、合理的反応の規範的モデルと人々が実際に行うことの記述的モデルの間に大きなギャップがあると考える傾向がある。これらの研究者は、人間の推論はそれほど優れておらず、思考は改善できると仮定しているため、メリオリスト/世界改善論者（Meliorists） (Stanovich, 1999, 2004, 2010)と呼ばれている (Stanovich et al.、2016)。
しかし、ここ数十年の間に、ヒューリスティックとバイアスの研究プログラムから得られた知見の代替的解釈が支持されるようになった。この代替的な解釈に貢献したのは、哲学者、進化心理学者、適応主義的なモデラー、生態学的な理論家たちである (Cohen, 1981; Gigerenzer, 2007; Oaksford & Chater, 2007, 2012; Todd & Gigerenzer, 2000)。彼らは、古典的なヒューリスティクスとバイアスの実験のほとんどで、モード反応が被験者側の最適な情報処理適応を示すと再解釈している。この理論家グループは、人間の合理性が最大であると仮定することが適切なデフォルトの立場であると主張し、パングロシアン（Panglossians）と呼ばれている。
パングロシアンは、被験者の課題に対する解釈が研究者の想定と異なるため、適用される規範モデルが適切でないと主張したり、課題におけるモード応答が進化論的に完全に理にかなっていると主張することが多い。パングロシアンとメリオリストの対照的な立場は、認知科学における「大合理性論争」と呼ばれるもの、すなわち人間が組織的に不合理になりうるかどうかについての論争における異なる極を定義している。
しかし、パングロッシュ派とメリオリスト派の見解の和解は可能である。私は、システム1とシステム2の処理で追求される目標の種類の統計的分布が異なることを上で論じた。システム2の処理は一貫した生物としての人間の欲求により忠実であるため、2つのシステムの出力が衝突する少数のケースでは、システム1のオーバーライドを達成できれば、人々はより良い生活を送れることが多い（議論の全文5 は Stanovich, 2004に収録されている）。システム1とシステム2の処理によって呼び出される反応の間に矛盾がある場合、2つの異なるタイプの最適化、すなわち個人以下の遺伝子レベルでの適性最大化と個人レベルでの効用最大化の間の対立を反映していると解釈される。
ヒューリスティックとバイアスの伝統を受け継ぐ研究者と進化心理学陣営の批判者との間の論争の核心は、これらの利害を区別することの失敗である。まず、進化心理学者が分析した課題については、確かに何かを掴んでいると言わざるを得ない。なぜなら、ほとんどの場合、適応的反応はその課題におけるモード反応であり、ほとんどの被験者が行う反応だからだ。しかし、このことは、この議論に関連する三角形のデータパターン、すなわち、これらの課題にわたる共分散と個人差のパターンの分析とも調和させなければならない。具体的には、認知能力は進化論的分析から適応的とみなされる反応としばしば（常にではないが）解離することを発見した (Stanovich & West, 1998, 1999, 2000)。
しかし、この2つのデータパターンは調和させることができる。進化心理学者たちは、システム1の処理のほとんどが進化的に適応的であることを、おそらく正しく認識している。しかし、進化論的解釈は、少数派の被験者が示した代替案が個人のレベルでは合理的であるというヒューリスティックとバイアスの研究者の立場を否定するものではない。分析的知能の高い被験者は、認識的にも道具的にも合理的な反応をするために、システム1の処理を上書きする傾向が強いというだけである。この2つの陣営の和解はStanovich (1999)によって紹介され、その後の研究によって強化された(Kahneman and Frederick, 2002; Kelman, 2011; Samuels & Stich, 2004; Stanovich, 2004, 2011参照).
もちろん、この和解に抵抗し続けることは可能であるが、それはかなり極端な立場をとることを犠牲にしてのみ可能である。しかし、このような「和解」に対して、メリオリストは、進化の観点から私たちの認識の有効性を否定し続け、進化的認知科学の多くを否定する立場から、「和解」に抗することができる。パングロッシアン (Panglossian)は、乗り物の目標よりも遺伝子の目標を優先させ、両者が対立する場合には、和解を拒否することを決定するかもしれない。しかし、ほとんどの人は、このような選択は好ましくないと思っているし、そうではないと主張する人の中にも、このような選択をするときに、自分が何を支持しているのかを正確に考えている人はほとんどいない。例えば、クーパー(1989)は、ある種の非最適な行動傾向が遺伝的に最適である可能性について述べた小論の中で、そのような行動は確かに理性者自身の厚生に有害であることを認めている。それにもかかわらず、彼は、そのような行動はまだ正当化されると反論している。「もし個体が自分自身の厚生を遺伝子型のそれと同一視しているとしたらどうだろう」（p.477)。
しかし、自分の遺伝子型である遺伝子のランダムなシャッフルに忠実な人々とは、いったい誰なのだろうか？私は、そんな人がいるのかどうか、本当に疑問に思っている。正確には、ゲノムを大切にするという人が、何を大切にしているのかを正確に把握しているのかが疑問なのである。例えば、自分のゲノムを大切にすることは、子供を大切にすることの代用ではないことを明確にし、子供を産んでも自分のゲノムは複製されないことを明確にし、ゲノムはサブパーソナルな存在であることを明確にしなければならない。哲学者のアラン・ギバードは、人が進化的な目的を持っていることで、その人が目標を達成するための性向を持つことを説明するが、その目標はこの代用目的とは異なる、という理にかなった見解を示している。
私の進化上の目的、すなわち私の遺伝子の再生産が、私が何かを望み達成するための行動と合致するかは全く関係がない…..。もし私が神によって何らかの目的のために創造されたと知っているならば、同じような結論が成り立つだろう：神の目的が私の目的である必要はない。
1990年、28-29頁 哲学者 アラン・ギバード
ギバードの見解は、著名な生物学者であるジョージ・ウィリアムズ(1988)にも共有されている。
彼は、減数分裂と受精というくじ引きで受け取った遺伝子の利益（長期的な平均増殖）に個人的に関心を持つことは、考えうる正当な理由がない、と感じている。ハクスリーが最初に認識したように、そのような利害に奉仕するいかなる傾向にも反発するあらゆる理由があるのだ。
p. 403
それゆえ、私の以前の著書『ロボットの反乱』（スタノビッチ 2004）のタイトルにもなっている。遺伝子的な利益よりも人間的な利益を優先させることで、人間の合理性を高めるという、注目すべき文化的プロジェクトの機会が存在している。しかし、遺伝的適性と人間的満足の最大化との間にある利害の決定的な相違に気づかなければ、その解放の可能性は失われる。
注
- 1 ここでは、道具的合理性を標準的に次のように定義している。利用可能な資源（物理的、精神的）があれば、自分が最も望むものを正確に得られるように世界で行動すること。より正式には、経済学者や認知科学者が「道具的合理性の最大化とは、どの選択肢が最も大きな期待効用を持つかに基づいて選択肢の中から選択すること」と定義している。
- 2 厳密に言えば、領域Bの中には概念的に異なる2つの部分空間が存在する。現在、遺伝的な適合性に役立つ目標で、車の利益とは相反する目標と、この領域内に遺伝的な利益にも車の利益にもならない目標が存在する。なぜ後者があるかというと、遺伝子の目標は、私たちの脳が進化した古代の環境（進化的適応の環境、EEA）で発生したものだからだ。環境は進化的適応よりも早く変化するため、遺伝的目標の中には、必ずしも現在の環境に完全に適応しているとは限らないものがある。これらの目標が現在遺伝的適応を促進しているか、あるいは過去に生殖的適応を促進したに過ぎないかは、今回の議論とは関係ない。いずれにせよ、車両目標から乖離した目標は、遺伝子のおかげで脳内に存在する。例えば、過剰な脂肪の摂取が現在の生殖適性に役立つかどうかにかかわらず、（私たちの多くにとって）それは乗り物から逸脱した傾向であり、以前のある時点で生殖適性に役立ったためにそこにある。
- 3 注2の注意点はここでも関連している。遺伝的目標と呼ばれるものは、必ずしもその目標が現在生殖適性に役立っていることを意味するのではなく、EEAの過去のある時点でそうであったことを意味する。
- 4もちろん、図 11.3の領域の絶対的な大きさは推測の域を出ない。ここでの議論は、領域 Aが領域 D よりも大きいという仮定にのみ依存している。
- 5 Stanovich (2004)では、（遺伝子や乗り物ではなく）ミームの利益のために目標が設定される場合についても詳しく説明されている。