ワイヤーヘッドは幸せか？

訪問者数： 337

Are wireheads happy?

https://www.lesswrong.com/posts/HmfxSWnqnK265GEFM/are-wireheads-happy

by スコット・アレクサンダー

2010年1月2日

この問いは、「しかし、幸福とは何か」という意味での意味ではないし、「しかし、苦難や逆境に直面しない人は本当に幸福になれるのか」という深い哲学的な意味でもない。文字通りの意味である。ワイヤーヘッドは楽しんでいるのだろうか？

そう見える。電線頭につながれている人や動物は、電線頭を取り上げられると動揺し、それを取り戻すためなら何でもする。しかも、脳の報酬中枢に直接電気を流すのだ。何が気に入らないのだろうか？

今になってようやく、神経科学者たちは「報酬」と「快楽」の違い、あるいは「欲しい」と「好き」の違いを認識し始めている。この2つは通常、密接に関連している。何かを欲しがり、それを手に入れ、そして幸福を感じる。私たちの消費文化全体を支えるシンプルな原理だ。しかし、神経科学や私たち自身の経験が本当にそれを裏付けているのだろうか？

人が物を欲しがり、それを手に入れた後、後でそれがそれほど素晴らしいものではなかったと気づく時を指摘するのは簡単すぎるだろう。それは、対象物の真の効用を誤解している単純なケースかもしれない。何かを欲しがり、それを手に入れ、それがそれほど素晴らしいものではないことに気づき、次の日には同じようにそれを欲しがるのはどうだろう？あるいは、欲しくないものを手に入れ、それが自分をとても幸せにしてくれることに気づき、その後も欲しがらないというのはどうだろう？

最初のカテゴリーである「あまり好きではないのにやってしまうこと」は、多くの薬物中毒に似ている。喫煙者は喫煙を楽しんでいるかもしれないし、禁断症状の生理的徴候を避けたいかもしれないが、そのどちらも禁煙に消極的であることを説明するには十分ではない。私はタバコを吸わないが、昨日プリングルズを食べ始めたのは失敗だった。好きな食べ物と聞かれたら、「プリングルズ」の前に答えるものは何十もある。今現在、そして私の人生の大半において、プリングルズを買いに行こうという気持ちはない。しかし、ひとたび最初のチップスを食べてしまえば、プリングルズのおいしさに対する主観的な評価は少しも変わることなく、2つ目のチップスに対するモチベーションは一気に高まる。

2つ目のカテゴリーは、“好きなのに先延ばしにしていること “だと考えてほしい。私は以前、先延ばしは嫌いなことだけに適用されると思っていた。そして小説を書こうとした。書くことは好きだった。書いている間中、「これはとても楽しい」と思っていた。でも、第2章までしか書けなかった。座って書き始める気になれなかったからだ。私にとってこのカテゴリーに入る他のことは、長い散歩に出かけること、ヨガをすること、小説を読むことだ。YよりXの方が幸せだと確信に近い確信を持ってわかっていても、Yをする。

神経科学はこの根拠を示している。ミシガン大学の研究では、好物を食べるラットの脳を分析した。彼らは「食べたい」と「好き」の回路が別々であることを発見し、もう一方の回路に影響を与えることなく、どちらかの回路をノックアウトすることができた（実際、これはちょっとかわいらしいことで、彼らは「好き」の代用としてラットが唇をなめる回数を測定したのだが、もちろんその裏には高度な技術的根拠があった）。「好き」システムをノックアウトすると、ラットは満足げに唇を舐める表情をすることなく、餌を正確にたくさん食べるようになり、快楽と相関していると考えられている脳の領域はMRIに表示されなくなった。「欲しい」という欲求を取り除くと、ラットは餌を手に入れたときと同じように喜ぶが、餌を求める意欲は特になくなるようだ。科学を引用しよう1：

快楽回路と欲求回路は密接に関連しているが、区別できる神経基質を持っている。一部の研究者は、中脳辺縁系ドーパミン系の役割は、主に快楽をエンコードすることではなく、「欲しがる」こと、すなわちインセンティブ・モチベーションをエンコードすることであると考えている。この分析によれば、エンドモルフィンとエンケファリン（特に腹側淡蒼球のmuオピオイド受容体とδオピオイド受容体を活性化する）は、快楽そのものに最も直接的に関与している。中脳辺縁系ドーパミンは腹側淡蒼球にシグナルを送り、欲望を媒介する。したがって、「ドーパミン・オーバードライブ」は、自然なものであれ薬物誘発によるものであれ、切迫感や世界と関わりを持とうとする動機を促進し、一方、腹側淡蒼球のミュー・オピオイド受容体が直接活性化すると、感情的に自己充足的な至福がもたらされる。

欲求系はドーパミンによって活性化され、好感系はオピオイドによって活性化される。両者の間には十分なつながりがあり、その活動には大きな相関関係があるが、相関関係は1つではなく、実際にはオピオイドの活性化はドーパミンよりも少ない。もう一つ引用しよう：

脳が快楽を生み出すのは比較的難しい。なぜなら、何かをより好きになるためには、異なるオピオイド部位を一緒に活性化する必要があるからだ。欲望を活性化させるのは簡単だ。なぜなら、脳にはそのタスクに利用可能な「欲望」経路がいくつかあるからだ。脳が欲する報酬を好きになることもある。しかし、ただ欲しくなることもある。

だから、わざわざ闇市場の脳外科医を探し出し、その外科医にワイヤヘッドを打ってもらっても、結局は幸せにはなれない。結局、幸せにはなれないのだ。

問題：哲学と経済学の大部分は、「欲しい」と「好き」が同じものであることに基づいている。

定義によれば、YよりXを選ぶなら、XはYより高い効用を持つ。しかし、優れた功利主義者（そしておそらく人工知能も）は効用を最大化しようとする（そうだろうか？）これは幸福の最大化と偶発的に相関するが、必ずしもそうではない。最悪のシナリオでは、まったく相関しないかもしれない。そのようなシナリオとして考えられるのは、ワイヤーヘッディングと、適切な常識を持たないAIである。

このように、深く重い影響があるのだ。最近、スティーブン・ランズバーグ（Steven Landsburg）の本を読んでいて、もっと現実的な例が思い浮かんだ（お勧めはしないが）。正確な引用はないが、次のような内容だった：

最近の世論調査によると、ニューヨーカーの3人に2人が、選べるなら他の場所に住みたいと答えている。しかし、ニューヨーカー全員にその選択肢があり、どこにも住んでいない。この世論調査の結果を適切に要約すると、「ニューヨーカーの3人に2人は世論調査で嘘をついている」ということになる。

これは、経済学でよく使われる「顕示選好」という考え方を要約したものだ。人々は、家族、環境、フレンドリーな職場など、多くのものが好きだと言う傾向がある。しかし、そのようなことを言う人の多くは、家族を無視し、環境を汚染し、高賃金だがストレスの多い仕事に就いている。伝統的な経済学的説明では、人々の行動には彼らの真の選好が表れており、家族や環境を大切にするという話は、見栄や地位を得るために人々が言っているに過ぎないというものだ。もしある人が一生懸命働いて大金を手に入れ、それをiPhoneに費やし、家族との時間を持たないとしたら、経済学者は、その人が何を言おうとも、これは彼らが家族よりもiPhoneを大切にしていることの証明だと言うだろう。

楽しみとモチベーションの違いは、このような人々を救う議論を提供する。その人は本当に、iPhoneを楽しむよりも家族と過ごす時間を楽しんでいるのかもしれないが、家族と過ごす時間よりも仕事やiPhone購入の方がモチベーションが高いのだ。もしこれが本当なら、人々の内省的な信念や価値観に関する公的な発言は限りなく真実となり、iPhoneのために残業する傾向は、彼らの「真の嗜好」の啓示と同じくらい「乗っ取り」になってしまうだろう。これは、私の内省的な経験、幸福度研究、そして常識と、代替案よりもよく一致している。

この2つの説明が必ずしも完全に矛盾しているわけではない。人は利己的に行動するよう動機づけられるが、道徳的に行動することを楽しんでいる。

好きな（快楽）方向に行き過ぎると、脳の違う部分に電極が刺さってしまう（（予期せぬ悪影響や問題））という点で、ワイヤーヘッド以外の危険がある。欲しがる方向に行き過ぎると、欲しいと思っていたのに実際には楽しめなかった光るものをたくさん手に入れる危険性がある。

では、利他主義者、政府、FAI（友好的人工知能）、その他、人助けビジネスに携わる機関は、どのような形の善を尊重すべきなのだろうか？