How to Stay Smart in a Smart World

目次

• はじめに
• 第1部 AIと人間の関係
  • 1.真実の愛はクリック一つで手に入るのか？
  • 2. AIが得意なこと安定世界原理（ The Stable-World Principle）
  • 3. 知性に対する考え方に影響を与える機械
  • 4. 自動運転車はすぐそこまで来ているのか？
  • 5. 常識とAI
  • 6. ビッグデータに勝てるのは1つのデータポイント
• 第2部 ハイステークス
  • 7. 透明性
  • 8. 夢遊病のように監視される
  • 9. ユーザーを虜にする心理学
  • 10. 安全性とセルフコントロール
  • 11. ファクトかフェイクか？
• 謝辞
• 参考文献
• 備考
• 画像の出典
• 索引

著者について

ゲルト・ギゲレンツァーは、ポツダム大学ハーディング・リスク・リテラシー・センター所長で、シンプリー・ラジカル社のパートナー。Simply Rational: The Institute for Decisionsのパートナー。マックス・プランク人間発達研究所の適応行動・認知センター長、シカゴ大学心理学教授を経て現職。リスク・サヴィー』『リスクとの対決』など、ヒューリスティックと意思決定に関する著書がある。

Athenaのために

はじめに

「パパ、小さい頃、コンピューターができる前、どうやってインターネットに入ったの？」　ボストンの7歳児 1

「ロボットが何でもやってくれるなら、私たちはどうすればいいの？」　北京の幼稚園に通う5歳児 2

あなたよりも何でもできるデジタルアシスタントを想像してほしい。あなたが何を言っても、その方がよく知っている。あなたが決めたことは、何でも修正してくれる。あなたが来年の計画を立てると、より優れた計画を持っている。いつしかあなたは、自分自身で個人的な決断をすることを諦めてしまうかもしれない。今度はAIが、あなたの財務を効率的に管理し、メッセージを書き、恋愛相手を選び、いつ子供を産むのがベストなのかを計画してくれるのだ。あなたが必要とさえ思っていなかった商品が、あなたの家のドアに届けられるだろう。デジタルアシスタントが、あなたの子供が重度のうつ病にかかる危険性があると予測したため、ソーシャルワーカーが現れるかもしれない。そして、あなたがどの政治家候補を支持するかで時間を無駄にする前に、アシスタントがすでに知っていて、あなたの票を投じるだろう。テクノロジー企業があなたの生活を管理し、忠実なアシスタントが最高のスーパーインテリジェンスに変身するのは時間の問題だ。羊の群れのように、孫たちは新しい主人に歓声をあげたり、畏怖の念を抱いて震え上がったりすることだろう。

ここ数年、私は一般的な人工知能（AI）関連のイベントで講演を行っているが、複雑なアルゴリズムに対する無条件の信頼がこれほどまでに広まっていることに何度も驚かされる。どんなテーマであっても、技術系企業の代表者たちは、機械がより正確に、より早く、より安く仕事をこなすと聴衆に断言する。さらに、人をソフトウェアに置き換えることで、世界はより良い場所になるかもしれない。同じように、グーグルは私たちのことを私たち自身よりもよく知っているし、AIは私たちの行動をほぼ完璧に予測できる、あるいは近いうちにできるようになるとも聞いている。テクノロジー企業は、広告主や保険会社、小売業者にサービスを提供する際に、この能力を公言する。私たちもそれを信じがちである。ロボットが人間の内臓を引き抜くという破滅的な絵を描く人気作家でさえ、AIがほぼ全知全能であることを前提にしている。データ流出とケンブリッジ・アナリティカのスキャンダルは、この心配を恐怖の畏怖に増幅させた。信念にせよ、恐怖にせよ、ストーリーの流れは変わらない。それは次のようなものだ。

AIはチェスや囲碁で最高の人間を打ち負かした。

コンピューティングパワーは2,3年ごとに倍増している。

したがって、近い将来、機械は人間よりも何でもできるようになるだろう。

これを「AI-beats-humans」論（AIが人間に勝つ理論）と呼ぶことにしよう。この2つの前提は正しいが、結論は間違っている。

なぜなら、ある種の問題には計算能力が大いに役立つが、別の問題にはそうではないからだ。これまでAIが圧勝したのは、チェスや囲碁のようなルールの決まったゲームであり、顔認識や音声認識も比較的変化の少ない条件下で同様の成功を収めている。環境が安定していれば、AIは人間を超えることができる。未来が過去と同じであれば、大量のデータが有効である。しかし、サプライズが起きれば、常に過去のデータであるビッグデータは、未来について誤解を与える可能性がある。ビッグデータのアルゴリズムは 2008年の金融危機を見逃し、2016年にはヒラリー・クリントンの勝利を大差で予測した。

実際、私たちが直面する多くの問題は、明確に定義されたゲームではなく、不確実性に満ちた状況である。真実の愛を見つけること、誰が犯罪を犯すかを予測すること、不測の緊急事態に対応することなどは、その例である。このような状況では、計算能力を高めても、データを増やしても、あまり役に立たない。不確実性の主な原因は人間である。もし、キングが気まぐれにルールを破り、クイーンがルークに火をつけて抗議のためにボードから踏みつけることができたら、チェスはどれほど難しいものになるか想像してみてほしい。人が関わっている以上、複雑なアルゴリズムへの信頼は、確実であるという幻想につながり、災いのもととなる。

複雑なアルゴリズムは、状況が安定しているときには成功しやすいが、不確実性があると苦労することを理解することは、本書の一般的なテーマである「スマートな世界でスマートに過ごす」を例証するものである。

スマートであり続けるとは、デジタル技術の可能性とリスクを理解し、アルゴリズムが普及した世界で主導権を握り続ける決意をすることである。

私は、AIなどのデジタル技術の可能性と、それ以上に重要な、これらの技術の限界とリスクを理解するために、この本を書いた。これらの技術がより広く普及し、支配的になっていく中で、自分が蒸し返されるのではなく、自分の人生の主導権を握り続けるための戦略や方法を提供したいのである。

私たちは、ソフトウェアが私たちの個人的な意思決定をしている間、ただ身を任せてリラックスしていればいいのだろうか？そんなことはない。スマートでいることは、テクノロジーを無意識に信頼することでも、不安に思って不信感を抱くことでもない。むしろ、AIに何ができるのか、そして何がマーケティングの誇大広告や技術信奉者の空想のままであるのかを理解することである。また、デバイスに遠隔操作されるのではなく、デバイスをコントロールする個人的な強さについてである。

スマートであることと、テクノロジーを使いこなすデジタルスキルは同じではない。世界中の教育プログラムでは、教室にタブレット端末やスマートホワイトボードを購入し、その使い方を子どもたちに教えることで、デジタルスキルを向上させようとしている。しかし、これらの教育プログラムでは、デジタル技術がもたらすリスクを理解する方法を子どもたちに教えることはほとんどない。その結果、ほとんどのデジタルネイティブは、隠された広告と本当のニュースを見分けることができず、ウェブサイトの外観に引き込まれてしまうという衝撃的な事態に陥っている。例えば、3,446人のデジタル・ネイティブを対象にした調査では、96%の人がサイトや投稿の信頼性を確認する方法を知らないという結果が出ている4。

スマートな世界とは、私たちの生活にスマートテレビ、オンラインデート、ギミックが加わっただけのものではない。デジタル技術によって変容する世界なのである。スマートワールドの扉が開かれたとき、多くの人が、誰もが真実の情報の木にアクセスでき、無知、嘘、腐敗に終止符を打つ楽園を思い描いた。気候変動、テロ、脱税、貧困層の搾取、人間の尊厳の侵害などに関する事実が公開されることになる。不道徳な政治家や貪欲な経営者は暴露され、辞職に追い込まれるだろう。政府による国民へのスパイ行為やプライバシーの侵害は防がれる。この夢はある程度現実のものとなったが、楽園は汚染されてしまった。しかし、本当に起きているのは、社会の変革である。世の中は、単純に良くなったり悪くなったりするのではない。善悪の考え方が変わってきているのだ。例えば、少し前までは、人々はプライバシーについて非常に心配しており、自分たちを監視し、個人データを手に入れようとする政府や企業に対して、街頭に立って抗議していた。1987年のドイツの国勢調査では、コンピュータによって回答が非匿名化されることを恐れた活動家、若いリベラル派、主流派組織などが大規模な抗議活動を行い、怒った人々はベルリンの壁に数千枚の空のアンケートを貼り付けた。2001年のオーストラリアの国勢調査では、7万人以上が自分の宗教を「ジェダイ」（映画『スター・ウォーズ』にちなんで）と申告し、2011年にもイギリス国民が宗教に関する質問など、プライバシーを侵害する質問に抗議している5。プライバシーや尊厳の感覚は、テクノロジーに順応するか、あるいは過去の概念になる恐れがある。インターネットの夢はかつて自由だったが、多くの人にとっての自由は、今や無料のインターネットを意味する。

太古の昔から、人類は素晴らしい新技術を生み出していたが、必ずしも賢く利用してきたわけではない。デジタル技術がもたらす多くの恩恵を享受するためには、スマートな世界でスマートであり続けるための洞察力と勇気が必要である。今、私たちは腰を落ち着けてくつろいでいる場合ではなく、目を見開いて、常に主導権を握っていなければならないのである。

責任ある行動をとる

もし、あなたが「悪魔のような人」でなければ、時折、自分の安全について心配するかもしれない。今後10年間で、どのような災難が起こる可能性が高いと思うだろうか？

• あなたはテロリストに殺される
• スマートフォンに気を取られたドライバーに殺される。

もしあなたがテロを選ぶなら、あなたは多数派の一人である。9.11テロ以降、北米やヨーロッパで行われた調査では、多くの人がテロは自分たちの生活にとって最大の危険の一つであると考えていることが示されている。ある人にとっては、最大の恐怖である。その一方で、運転中のメールについては、ほとんどの人があまり気にせず行っている。2020年までの10年間に、米国ではイスラム、右翼、その他のテロリストによって、年間平均36人が死亡した6。同じ期間に、注意散漫運転によって年間3,000人以上が死亡しており、その多くは携帯電話でメールや読書、ストリーミングに夢中になっている人たちである7。

また、ほとんどのアメリカ人は、銃よりもテロを恐れている。家庭内で銃で遊んでいる子供よりも、テロリストに撃たれる可能性の方が低いにもかかわらず、である。アフガニスタンやナイジェリアに住んでいない限り、注意散漫な運転者に殺される可能性の方がはるかに高く、もしかしたら自分自身が殺されるかもしれないのだ。その理由を理解するのは難しいことではない。20歳のドライバーが携帯電話を使用すると、その反応速度は携帯電話を持たない70歳のドライバーの反応速度に低下する8。これは脳の瞬間老化として知られている。

なぜ人々は運転中にメールをするのだろうか。それがいかに危険な行為だろうかということに気づいていないのかもしれない。しかし、ある調査によると、ほとんどの人が危険であることを十分認識していることがわかった9。問題は意識の低さではなく、自制心の低さなのである。ある学生は、「文章が来ると、何があっても見なければならない」と説明する。そして、通知や「いいね！」など、ユーザーの視線を周囲ではなくサイトに釘付けにする心理的な仕掛けがプラットフォームに導入されて以来、自制心はより難しくなっている。しかし、道路に注意を払うべき時に携帯電話をチェックする衝動に打ち勝つことができれば、多くの被害を避けることができる。そして、それは若者だけではない。愛する人が運転中だとわかっているときにメールを送ってはいけない」–子どもに「くだらないメール」を送り、顔に傷を負い、片目を失った大怪我をした娘を集中治療室で発見した、ある母親はそう言った10。スマートフォンは素晴らしいテクノロジーだが、それを賢く使う賢い人が必要である。ここでは、テクノロジーをコントロールする能力が、あなた自身とあなたの愛する人の身の安全を守ることになるのだ。

大量監視は問題であり、解決策ではない

スマートフォンに釘付けになっているドライバーよりもテロを恐れる理由のひとつは、脇見運転よりもテロにメディアの注目が集まり、政治家もそれに追随しているからだ。国民を守るために、世界中の政府が顔認識監視システムの実験を行っている。ビザや就職活動用の写真など、明るい場所で同じような姿勢で撮った写真を使って実験室でテストしたところ、これらのシステムは非常に高い精度で顔を認識することができた。しかし、現実の世界ではどの程度の精度があるのだろうか。あるテストが、私の家の近くで行われた。

2016年12月19日の夜、24歳のイスラム教徒のテロリストが大型トラックをハイジャックし、ソーセージやモルドワインを楽しむ観光客や地元の人々で賑わうベルリンのクリスマスマーケットに突っ込み、12人が死亡、49人が負傷する事件が発生した。翌年、ドイツ内務省はベルリンの駅に顔認識システムを設置し、容疑者をどれだけ正確に認識できるかをテストした。10人の容疑者のうち、8人を正しく認識し、2人を取り逃がしたということである。大臣は、「このシステムは素晴らしい成功を収めた」と評価し、「全国的な監視は可能であり、望ましいことである」と結論づけた。

この発表の後、激しい論争が起こった。警備の強化は監視の強化につながるという信念を持つグループと、カメラがやがてジョージ・オーウェルの『1918年』に出てくる「テレスクリーン」になることを危惧するグループとがあった。しかし、どちらもシステムの精度を当然視していた。11 そのような感情的な議論に与するのではなく、このような顔認識システムが広く導入された場合、実際に何が起こるかを考えてみよう。ドイツでは、1日に約1200万人が駅を利用する。数百人の指名手配犯を除けば、仕事に、遊びに行く普通の人々である。誤認識率が0.1%ということは、1日に1万2千人近くが容疑者と間違われることになる。ただでさえ逼迫している警察のリソースが、効果的な犯罪防止ではなく、こうした無実の市民の監視のために使われることになり、このシステムはむしろ治安を犠牲にすることになる。結局のところ、個人の自由を侵害し、社会的・経済的な生活を混乱させる監視システムになってしまうのである。

顔認証は、集団選別ではなく、個人の識別という点で有用なサービスである。地下鉄の駅で犯罪が起こった後、あるいは赤信号を無視して車が走った後、ビデオ録画によって犯人を特定することができる。ここで、その人が犯罪を犯したことがわかるのだ。一方、駅で全員をスクリーニングする場合、スクリーニングされた人が容疑者だろうかどうかはわからない。そのため、集団検診のように誤認識が多くなってしまうのである。顔認証は、さらに別の作業でも優れている。携帯電話の画面を見てロックを解除するとき、認証と呼ばれる作業を行う。地下鉄で逃げる犯人と違って、カメラを直接見て、顔に近づけて、じっとしているわけだから、ロックを解除しようとするのはほぼ自分自身である。このような状況下では、あなたとあなたの携帯電話という、かなり安定した世界が生まれる。エラーの発生はほとんどない。

顔認証システムの長所と短所を議論するには、この3つの状況を区別する必要がある：多対多、1対多、1対1。大量スクリーニングでは、多くの人がデータバンクの中の多くの人と比較され、識別では、一人の人が他の多くの人と比較され、認証では、一人の人が他の一人と比較されるのだ。繰り返しになるが、マススクリーニングとは対照的に、本人確認では不確実性が小さいほど、システムの性能は向上する。2021年1月の国会議事堂襲撃事件では、顔認識システムが、議事堂に侵入した侵入者の何人かを迅速に特定したことを思い出してほしい。一般に、AIは良いとか悪いとかではなく、ある作業には有用で、ある作業にはそうでないということである。

最後になるが、プライバシーに関する懸念もこの分析に当てはまる。一般市民が最も懸念しているのは、政府による大量監視であり、犯人の特定や認証ではない。そして、大量監視は、まさに顔認識システムが最も信頼できないことなのである。この決定的な違いを理解することは、西側民主主義諸国が自国政府の監視の利益から大切にしている個人の自由を守ることにつながる。

私は何も隠すことはない

このフレーズは、手に入る限りの個人データを収集するソーシャルメディア企業についての議論でよく使われるようになった。お金ではなく、自分のデータで支払うことを好むユーザーからこの言葉を聞くことがあるかもしれない。また、この言葉は、深刻な健康問題もなく、潜在的な敵も作らず、政府によって否定された市民権について声を上げることもない、平穏な生活を送る私たちにも当てはまるかもしれない。しかし、この問題は、隠蔽や、かわいい子猫の写真を無料で投稿する自由についてではない。テック企業は、あなたが何か隠し事をしているかどうかは気にしていない。むしろ、あなたが彼らのサービスにお金を使わないので、彼らはあなたが彼らのアプリにできるだけ多くの時間を費やすように心理的なトリックを使わなければならないのである。あなたは顧客ではなく、顧客は、あなたの注意を引くために技術企業にお金を払う広告主なのである。私たちの多くはスマートフォンに釘付けになり、新しいベッドパートナーのせいで睡眠時間が短くなり、他のことをする時間がほとんどなくなり、新しい「いいね！」によってまたドーパミンが出るのを心待ちにしている。New YorkerのライターであるJia Tolentino は、自分の携帯電話との闘いについて次のように書いている。13 「私は携帯電話を酸素ボンベのように持ち歩いている。朝食を作るときも、リサイクルをするときも、携帯電話を見つめていると、在宅勤務の最大の魅力である自己管理感覚や相対的な平穏が損なわれてしまう」また、見知らぬ人からネット上で自分の容姿や知性について破壊的なコメントを受け、傷つく人もいる。また、フェイクニュースやヘイトスピーチの餌食となり、過激派集団に流れ込む人もいる。

世界は、デジタル技術の影響をあまり気にしない人と、Tolentinoのように、強迫性ギャンブラーがギャンブルのことを考えずにはいられないのと同じように、デジタル技術が自分を中毒にしてしまうと考える人とに分かれている。しかし、テクノロジー、特にソーシャルメディアは、人々の時間や睡眠を奪うように設計されていなくても、十分に存在し得るものである。一部の人を中毒にしているのは、ソーシャルメディアそのものではなく、パーソナライズされた広告ベースのビジネスモデルなのである。そのユーザーへのダメージは、その「原罪」から流れ出ているのだ。

無料のコーヒーハウス

無料のコーヒーを提供することで、街中の競合他社を排除したコーヒーハウスがあり、あなたは友人に会うためにそこに行くしかないと想像してほしい。あなたがそこで友人とおしゃべりを楽しんでいる間、テーブルや壁に取り付けられた盗聴器やカメラが、あなたの会話を注意深く監視し、あなたが誰と座っているかを記録している。また、コーヒー代を払っている間、販売員たちが絶えず割り込んできて、自分たちに合った商品やサービスの売り込みをしてくる。このコーヒーハウスの顧客は、実質的に販売員であって、あなたやあなたの友人ではないのである。Facebookのようなプラットフォームは、基本的にこのように機能しているのである14。

もし、ソーシャルメディアが、本物のコーヒーハウスやテレビ、ラジオ、その他のサービスのビジネスモデルに基づいていれば、より健全に機能するはずだ。実際、1998年にGoogleの若き創業者であるSergey BrinとLarry Pageは、広告ベースの検索エンジンは本質的に消費者ではなく広告主のニーズに偏っているとして批判していた15。しかしベンチャーキャピタルからの圧力により、彼らはすぐに屈服し、現存の中で最も成功した個人向け広告のモデルを構築した。このビジネスモデルでは、あなたの注意が販売されている製品である。実際の顧客は、サイトに広告を掲載する企業である。広告を見る回数が多ければ多いほど、広告主からの支払いは多くなる。そのため、ソーシャルメディアのマーケティング担当者は、ユーザーがサイトに費やす時間を最大化し、できるだけ早く戻ってきたくなるような実験を次々と行っているのだ。車の運転中に携帯電話を手に取りたくなる衝動は、その一例である。つまり、ビジネスモデルの真髄は、ユーザーの時間と注意を最大限に引きつけることにある。

広告主にサービスを提供するために、ハイテク企業は、あなたがどこにいて、何をしていて、何を見ているかというデータを分刻みで収集する。あなたの習慣をもとに、あなたのアバターのようなものを作るのだ。広告主が最新のハンドガンや高価な口紅などの広告を出すと、それをクリックする可能性が最も高い人に広告が表示される。通常、広告主はユーザーが広告をクリックするたびに、つまりインプレッションごとに技術会社に報酬を支払う。そのため、広告をクリックする確率、あるいは広告を見る確率を高めるために、できるだけ長くページに滞在してもらえるよう、あらゆる工夫が凝らされているのだ。「いいね！」、通知、その他の心理的なトリックは、昼も夜もあなたを依存させるために一緒に働く。このように、売られているのはあなたのデータではなく、あなたの注意、時間、睡眠なのである。

もしGoogleやFacebookが有料サービスモデルであれば、そのようなことは必要ないだろう。スマートフォンに釘付けにするための実験を行うエンジニアや心理学者の軍団は、もっと有用な技術革新に取り組むことができるだろう。ソーシャルメディア企業は、あなたの特定のニーズを満たすために、レコメンデーションを改善するための特定のデータを収集する必要はあるが、その他の余計な個人データ、例えば、あなたがうつ病であることやがんであること、妊娠していることを示すようなデータを収集する動機はもはやない。これらのデータを収集する主な動機、つまりパーソナライズされた広告が消えてしまうのである。Netflixは、すでにこの有料サービスモデルを導入している企業の好例である16。ユーザーからすれば、ソーシャルメディアを利用するために、毎月数ポンドを支払わなければならないという小さなデメリットがあるだけであろう。しかし、ソーシャルメディア企業にとっては、より有利なデータ支払プランの大きなメリットは、その頂点に立つ男性 – そう、事実上すべての男性 -が、今や地球上で最も裕福で強力な人々の一人になっていることである。

テクノロジーの最先端を行く

これらの例は、テクノロジーの最先端を行くということの第一印象を与えてくれる。運転中のメールに抵抗することは、テクノロジーをコントロールする能力を必要とする。顔認証システムの可能性と限界は、携帯電話のロック解除や、パスポートの写真と別の写真を比較する国境警備のような、かなり安定した状況では、この技術が優れていることを教えてくれている。しかし、現実の世界で顔認証を行う場合、AIはつまずき、誤認識が多くなり、無実の人々が大量に止められ、検査されるという大問題に発展する可能性がある。最後に、時間や睡眠、集中力の低下から依存症に至るまで、ソーシャルメディアが引き起こす問題は、ソーシャルメディア自体のせいではなく、企業の「データで支払う」ビジネスモデルのせいである。このような深刻な問題を一掃するためには、オンラインコンテンツに対する新たなプライバシー設定や政府の規制を超え、根本的なビジネスモデルを変えるなど、問題の根源に取り組む必要がある。政府は、自分たちが代表する人々を守るために、もっと政治的な勇気が必要である。

デジタル技術の可能性とリスクを誰もが理解できるようにすることは、世界中のすべての教育制度と政府の主要な目標であると考えるかもしれない。しかし、そうではない。実際、2017年のOECDの「G20におけるデジタル変革のための重要課題」や欧州委員会の2020年の「人工知能白書」17でも言及されていない。これらのプログラムは、イノベーションハブ、デジタルインフラ、適切な法律の作成、AIに対する人々の信頼を高めることなど、他の重要課題に焦点を合わせている。その結果、ほとんどのデジタルネイティブは、事実と偽物を見分け、ニュースを隠された広告から見分けることに、ひどく無防備になっている。

しかし、この問題を解決するためには、インフラや規制だけでは不十分である。じっくりと考え、真剣に調査することが必要である。電話応対で長い時間待たされたことはないか？それは、あなたの住所や予測アルゴリズムが、あなたが価値の低い顧客であることを示した可能性がある。Google検索の最初の結果が、あなたにとって最も有用なものではないことにお気づきだろうか。愛用のスマートテレビが、リビングルームやベッドルームでのあなたの会話を録音しているかもしれないことを存知だろうか19？

もし、このどれもがあなたにとって目新しいものでないなら、ほとんどの人にとってそうであることを知り、驚くかもしれない。アルゴリズムが自分の待ち時間を決定し、無名の第三者の利益のためにスマートテレビが記録したものを分析することを知る人はほとんどいない。調査によると、成人ユーザーの約50パーセントは、マークされた検索上位項目が最も関連性の高い、あるいは人気のある結果ではなく、広告であることを理解していない20。これらの広告は実際にマークされているが、長年にわたり、「オーガニック」検索結果（広告ではない）のように見えるようになってきている。2013年、Googleの広告は特別な背景色で強調されなくなり、代わりに小さな黄色の「広告」アイコンが導入された。2020年以降、この黄色もなくなり、「広告」の文字は白黒で、オーガニック検索結果に溶け込むようになった。Googleは広告がクリックされるたびに広告主から報酬を得ているので、最初の結果が自分にとって最も関連性が高いと誤解されれば、それはビジネスにとって良いことである。

前述のように、多くの経営者や政治家は、ビッグデータやデジタル化に対して過剰なまでに熱狂的である。熱狂は理解とは違う。過度に熱狂的な預言者の多くは、自分たちが何を言っているのか分かっていないように見える。同様に、マーク・ザッカーバーグがフェイスブックの最新のプライバシー問題について米国上院と下院の政治家たちに証言しなければならなかったとき、最も衝撃的な発見は、彼がリハーサルした応答で何を言ったかではなく、米国の政治家たちがソーシャルメディア企業の不透明な運営方法についてほとんど知らないようだということだった22。ドイツ司法・消費者保護省の消費者問題諮問委員会では、信用スコアリング企業の秘密のアルゴリズムが、データ保護当局によってどのように監督されているかを調査した。データ保護当局は、アルゴリズムが性別、人種、その他の個人の特徴によって差別されない、信用度を示す信頼できる指標であることを確認するために存在している。最大手のクレジットスコアリング会社がアルゴリズムを提出した際、当局はそれを評価するのに必要なITと統計の専門知識が不足していることを認めた。結局、同社は、報告書を作成した専門家を選定し、手数料まで支払って救済した23。このような状況は、遠い将来ではなく、早急に改めなければならない。

技術的パターナリズム

パターナリズム（ラテン語で父親を意味するpaterに由来）とは、選ばれた集団が他者を子供のように扱う権利があり、その集団の権威に喜んで従うべきだとする考え方である。歴史的には、支配者層は神に選ばれた者であり、貴族階級の一員であり、秘密の知識や素晴らしい富を所有している、というのがその正当な理由であった。その権威の下にある人々は、女性、有色人種、貧困層、無学などの理由で劣っているとみなされる。20世紀、大多数の人々がようやく読み書きを学ぶ機会を得て、政府が男女ともに言論と運動の自由を認め、投票権も与えた後、父権主義は退潮した。この革命のために、献身的な支持者が投獄されたり、命を落としたりしたおかげで、私たちを含む次の世代は、自分たちの手で問題を解決することができるようになったのだ。しかし、21世紀は、私たちが同意しようとしまいと、機械を使って私たちの行動を予測し、操作する企業による新しいパターナリズムの台頭を目の当たりにしているのだ。その予言者は、新たな神の到来を告げさえする。AGI（Artificial General Intelligence）と呼ばれる全知全能の超知能は、脳力のあらゆる面で人間を超えると言われているのだ。その到来まで、私たちはその予言者に従うべきである24。

技術的解決主義とは、社会のあらゆる問題はアルゴリズムによる「修正」を必要とする「バグ」であると考えることである。技術的パターナリズムはその自然な帰結であり、アルゴリズムによる政府である。超知性というフィクションを売り込む必要はなく、企業や政府が私たちがどこにいて、何をしていて、誰と何をしているかを分刻みで記録し、さらにこれらの記録が世界をより良い場所にすると信じることを受け入れることを期待しているのだ。エリック・シュミットが説明しているように、「目標は、グーグルのユーザーが『明日は何をしようか』『どんな仕事に就こうか』といった質問をできるようにすることだ」25。かなりの数の人気作家が、よくて真実を倹約した話をすることによって、テクノロジーによる父権制への畏れを煽っている26。さらに驚くべきことに、影響力のある研究者の中には、AIができることに限界はないと考えている人もいる。人間の脳は単に劣ったコンピューターに過ぎず、可能な限り人間をアルゴリズムに置き換えるべきだと主張しているのだ27。27 AIは私たちに何をすべきかを教えてくれるから、私たちはそれを聞いて従うべきだ。奇妙なことに、人間も賢くなる必要があるというメッセージは決して出てこない。

私は、AIに何ができるのか、そしてAIが私たちにどのような影響を与えるために使われているのかを、現実的に理解できるようになるために、この本を書いた。私たちはこれ以上パターナリズムを必要としない。過去数世紀、私たちは公正なシェア以上のものを得ていた。しかし、ブレイクスルー技術のたびに復活するテクノフォビア・パニックも必要ない。ラジオが広く普及したとき、子供にはジャズではなく安らぎが必要だから、聞きすぎると害になると懸念された29。恐怖や誇大広告ではなく、デジタル世界には、自分たちの生活を自分たちの手でコントロールしようとする、より良い情報を得た健全な批判的市民が必要なのである。

本書は、AIや、機械学習やビッグデータ解析といった AIの下位分野を学問的に紹介するものではない。むしろ、AIと人間の関わりについて、信頼、欺瞞、理解、中毒、個人と社会の変容について書かれている。本書は、スマートな世界の課題を乗り越えるためのガイドとして一般読者向けに書かれたもので、特に、私がマックス・プランク人間能力開発研究所で行った不確実性の下での意思決定に関する研究成果を活用している。この本の中では、自由と尊厳に関する私の個人的な見解が隠されているわけではないが、私はできるだけ証拠に忠実で、読者が自分自身で判断するように心がけている。私たち人間は、進化の過程で複雑に発達してきた脳を活用し、活動し続ける限り、よく言われるほど愚かで、機能しない存在ではない、というのが私の深い信念である。AIが人間を打ち負かすというネガティブな物語に騙され、当局や機械の意向に沿った人生の「最適化」に受動的に同意してしまう危険性は日に日に増しており、特に本書を執筆する動機となった。前著『Gut Feelings』や『Risk Savvy』と同様、『How to Stay Smart in a Smart World』は最終的に、個人の自由と民主主義の苦労した遺産を存続させるための熱い呼びかけとなるものである。

今日、そして近い将来、私たちは、冷戦時代と同じように、独裁と民主という二つのシステムの対立に直面することになる。しかし、核技術が2つの勢力の間で不安定なバランスを保っていたあの時代とは異なり、デジタル技術は独裁的な体制に簡単に秤を傾けることができる。COVID-19のパンデミックでは、一部の独裁的な国々が厳重なデジタル監視システムの助けを借りてウイルスの封じ込めに成功したのを見たことがある。

デジタル化の広大な分野に関連するすべての側面を扱うことはできないが、第2章で取り上げた安定世界の原則とテキサスの狙撃手の誤謬、第4章で取り上げたAIへの適応の原則とロシア戦車の誤謬など、より広く適用できる一般原則を説明する話題をいくつか紹介することにする。お気づきかもしれないが、私はAIという言葉を広義に使っている。人間の知能と同じことをするためのあらゆる種類のアルゴリズムが含まれるが、必要なときはいつでも差別化を図る。

それぞれの文化の中で、私たちや私たちの子供たちが生きたいと願う未来の世界について話す必要がある。答えはひとつではないだろう。しかし、すべてのビジョンに適用される一般的なメッセージがある。技術革新にもかかわらず、あるいは技術革新のために、私たちはこれまで以上に頭脳を使う必要がある。

まずは、私たちの身近な問題である「真実の愛」を見つけること、そして、誰にでも理解できるほどシンプルな秘密のアルゴリズムから始めよう。

前編　AIと人間の関わり

問題は「賢い」機械の台頭ではなく、人間性の鈍化である

アストラ・テイラー1

第1章 真実の愛はクリックひとつで手に入るのか？

一人の人間が別の人間を愛すること。それはおそらく、私たちのすべての仕事の中で最も困難なことであり、究極の、最後のテストと証明であり、他のすべての仕事が準備にすぎない仕事である

ライナー・マリア・リルケ1

「デートというのは、他の人があなたがデートしていることを知るためだけのもので、人々はいつもそのことを投稿している。キスの写真とかね」

ソフィア、13歳、ニュージャージー州モントクレア2

お金で愛は買えない、ビートルズはそう言った。でも、アルゴリズムならどうだろう？数百ドルも出せば、世界中のオンライン出会い系サイトの6カ月分のプレミアム会員になることができる。これらのサイトは、あなたに完璧なデートを提供する秘密の恋愛アルゴリズムを宣伝している。毎年、老若男女を問わず、何百万人もの希望に満ちた顧客がオンラインデートサイトやモバイルデートアプリを利用しており、その傾向はますます高まっている3。このように人気があるにもかかわらず、多くの人は、恋愛のパートナー候補を選ぶ背景にアルゴリズムがあることに気づいていない4。

AIがあなたの愛を見つける

長い髪をなびかせた魅力的な若い女性が、ウェブサイトからあなたに向かって微笑んでいる。その隣には、3日分のヒゲを蓄えたハンサムな青年が、同じように幸せそうな顔をしている。彼らの顔の近くには、最大級のオンライン出会い系サイト「Parship」の名前がある。ロンドン、パリ、ベルリン、メキシコシティ、ウィーン、アムステルダムに住む何百万人もの独身者が、真の愛と長期的な幸福を見つけるために、そのサービスを利用している5。EliteSingles、OKCupid、その他多くのサイト同様、パーシップは生涯のパートナーを探す独身者のための真剣な仲介機関である。EliteSingles、OKCupid、その他多くのサービスと同様に、Parshipは生涯のパートナーを求める独身者のための真剣な仲介サービスである。Tinderのように見た目や位置情報だけで判断されるのではなく、パーシップは性格や趣味をベースにしたマッチングアルゴリズムを採用している。ウェブサイトやポスターには、同じキャッチフレーズが大きく掲げられている。

「11分に1人、恋に落ちる」

登録して、料金を払えば、11分間待つだけ！というのは、とても魅力的に聞こえる。登録し、料金を払い、11分間待つだけで、幸せが訪れる。何百万人もの人々が、早く恋に落ちる一人になりたいと願い、登録しているのだ。

しかし、少し考えてみてほしい。11分ごとに、一人が恋に落ちているのだ。もし、このサイトの顧客が100人しかいなかったら、それは素晴らしいニュースだろう。しかし、Parshipには何百万人もの顧客がいるのだ。もっと詳しく見てみよう。11分に1人ということは、1時間に6人、1日に144人、昼も夜もサイト上で活動することになる。1年間では、144×365で52,560人が利用していることになる。つまり、100万人の利用者がいたとして、1年以内に恋愛に発展するのは5%程度ということになる。10年後には約半数の人が恋をしていることになる。さらに100万人以上の有料会員がいるサイトでは、さらに待ち時間が長くなる。つまり、老後まで検索（と支払い）を続ける可能性があるのだ。その頃には、愛を買ったのは確かにお金である6。この単純なチェックは、説得力のあるスローガンの背後にあるマッチングアルゴリズムの成功について、深刻な真実を明らかにしている。

さて、「11分ごと」の意味はわかった。キャッチフレーズの2番目の部分、「a single falls in love」はどうだろうか。やはり、カップルになるには、二人が恋に落ちなければならない。11分に1人、プレミアム会員が辞め、その理由を聞かれ、「恋に落ちた」ボタンをクリックすることが判明した。本当の愛があったのか、オンラインやオフラインで見つけたのか、それともサービス利用料を払うのをやめる手軽な口実だったのかは、まだわからない。

顧客の評価は、この裏計算と一致している。パーシップを含むドイツ人が利用する5つのオンライン出会い系サイトに対する1,500件の評価では、「良い」という平均評価を得たものはなかった。検索が成功したと答えたのはわずか7.7%で、残りはやめたか、まだ探している最中であった7。

他の国やサイトでは、ニューヨーク、トロント、ソウルの高学歴の独身者をターゲットにした同様のサービスでも、チャンスは同等にあるようだ。例えば、EliteSinglesのウェブサイトでは、2018年に1カ月あたり38万1000人の新規会員が入会し、毎月1000人以上のシングルがサービスを通じて愛を見つけると宣伝している8。もう一度言うが、これらの数字は印象的に聞こえる- 非常に多くの幸せな人々です！ しかし、問題は、あなたが実際に愛を見つけることができる可能性はどのくらいなのか、ということである。この図が正しいとすると、毎月381人に1人、年間では30人に1人、つまり3～4%ということになる。この数字は、以前パールシップが推定した5%とほぼ同じである。この計算は、オンラインサービス自体が出している数字をもとにした概算値である。念のため、別のオンライン・デート・サイトも調べてみた。JDate（ユダヤ系独身者向け）は、世界中に数十万人の会員がおり、「毎週、数百人のJDatersがソウルメイトに会っている」と報告している9。この二つの数字を合わせると、1週間に1000人のうち1人程度、年間では1000人に52人となり、やはり年間約5パーセントの確立でソウルメイトが現れることになる。この長い待ち時間は、このサイトが宣伝している「サクセスストーリー」のひとつである、15年間スクロールして顔をクリックし続け、ついにサイトを通じてソウルメイトを見つけたライアンのケースとよく符合する10。

恋愛のアルゴリズムは、アクセス、コミュニケーション、真実の愛を見つけるという3種類のサービスを提供することができる。アクセスは、通常では出会えないような潜在的な相手と出会うことを可能にする。特に、社会的・物理的に孤立した生活を送っている人や、障害者、厳格な宗教的信条を持つ人など、現在の社会規範にそぐわない人には有効である。また、顔を合わせる前にコンピュータを介したコミュニケーションをとることもサービスの一つである。「アクセス」と「コミュニケーション」こそ、オンライン・デートの真骨頂である。しかし、アクセス性が向上した分、先程のように本当の愛に出会える可能性が低くなるというデメリットもある。たった一度の失敗ではなく、22回のつまらないデートを経験した後では、その分不幸と選択の過多で気分が悪くなるかもしれない。オンライン・デートに関する研究のレビューでは、「数学的アルゴリズムが機能し、他の手段によるペアリングよりも優れた恋愛結果をもたらすという、マッチングサイトの主張を裏付ける説得力のある証拠はない」と結論づけられている11。

この結果を確認するため、私は評判の高い大手結婚相談所に問い合わせた。結局、eHarmony.com、perfectMatch.com、Chemistry.comなど、いくつかの結婚相談所は、強力な「科学的」アルゴリズムを備えていると主張しているが、そのどれもが、通常の科学的手法では信頼性と有効性が証明されていない12。

最後に、結婚相談所以外の場所にも目を向けてみよう。ソーシャルネットワークやチャットルーム、結婚相談所など、オンラインで出会ったカップルは、オフラインで出会ったカップルよりも別れる頻度が低く、関係に満足しているのだろうか。19,000人以上の既婚米国人を対象とした古典的な代表的研究によると、オンラインで出会った人はオフラインで出会った人よりも結婚生活の破綻が少なく、また結婚生活への満足度も若干高いことが報告されている。なお、恋愛アルゴリズムを用いたオンライン結婚相談所で出会った人は、他のオンラインサイトで出会った人よりも満足度は高くなかった14。一方、アメリカでの最近の研究では、オンラインで出会ったカップルの方が破局率（婚姻関係、非婚姻関係とも）が高く、ドイツやスイスの代表的な研究では、オンラインでもオフラインでもカップルの恋愛満足度に差はなかったと報告されている15。これらの結果は一貫していないが、いくつかの研究では、オンラインで出会ったカップルの割合は同性カップルで高く、オンライン・デートは、オフラインではまだ障壁となりうる学歴、人種、民族のより多様な背景を持つ人々を集めていると一貫して報告している16。しかし、この多様性の増加は、オンラインで出会ったカップルが若い傾向にあることが大きな原因であると思われる。

このように、オンライン検索がオフライン検索よりも満足度が高く、別れが少ないかどうかについては、まだ判断がつかない。結局のところ、毎年幸運な5パーセントに属さない限り、仕事帰りに同僚と会ったり、パーティーに行ったり、旅行や犬の散歩をしたり、個人的な情熱を共有する地元のオンラインコミュニティーに参加したりして時間とお金を使った方が、幸福への近道になりそうだ。キューピッドの矢は、思いがけないところに飛んでくるかもしれないね。

恋愛アルゴリズムの仕組みは？

恋愛のアルゴリズムには大きな秘密がある。信用スコアリング、予測的取り締まり、ページランキングのアルゴリズムと同様に、独自に開発されたものである。また、各エージェンシーは異なるアルゴリズムを使用している。そのため、その仕組みを正確に知ることは困難である。とはいえ、アルゴリズムの最も単純なバージョンの1つである基本的な手順はわかっている。真面目な出会い系サイトでは、顧客は自分の価値観、興味、性格についてのアンケートに答えなければならない。アンケートは100以上の質問で構成されることもある。その回答は、顧客のプロファイルに変換される。17 簡単な例として、3つの特徴しかない2つのプロファイルを考えてみよう(図11)。アダムは子供が欲しく、注目されるのが好きで、料理は好きではない。イブもまた、子供が欲しいが、注目されることを好まず、料理も好きでない。

アダムとイブの一致を計算する最初の原則は、類似性である。子供が欲しいという場合、類似性は極めて重要である。最も単純なアルゴリズムでは、両者が一致した回数を数えるだけで、3回のうち2回、つまり3分の2が一致することになる。しかし、類似性だけを見ていてはうまくいきません。重要なのは、類似性だけでなく、相補性である。例えば、アダムは自分が注目されることを強く望んでいる。そのような欲求を共有するパートナーとは、誰が脚光を浴びるかをめぐって永遠に争うことになるため、彼は興奮しないかもしれない。アダムには、相補的な趣味を持つパートナー、つまり注目されることを嫌う人の方が合っている。同じように、料理が嫌いな二人は似ているが、ベストマッチではないだろう。このように、お客が求める相手が「似たもの同士」なのか「補完し合うもの同士」なのかを知るために、アンケートで「理想のパートナー像」をお聞きしている結婚相談所もあるようだ。

特徴アダム・イブ

• 子供が欲しい　はい　はい
• 中心的存在であること　はい　いいえ
• 料理が好き　いいえ　いいえ

図11: 3つの特徴を持つ2つのプロファイル

【原図参照】

最後に、3つ目の原則である重要性である。すべての機能が同じように重要なわけではない。デート・サービスによっては、重要度を自分で推定するものもあるし、ある属性が自分にとってどの程度重要かを、無関係、少し重要、といった具合に顧客に示してもらうものもある。しかし、このアルゴリズムでは、言葉による回答ではなく、数字が入力として必要なのである。出会い系アプリのOK Cupidは、アルゴリズムをかなり透明化している数少ない例で、無関係=0、少し重要=1、やや重要=10、非常に重要=50、必須=250としている18。ここで、3つの原則をまとめて、「アダムにとってイブはどの程度満足できるのか」という質問に答えることができる。

最初の2つの属性については、イブはアダムの理想的なパートナーに一致する（図12）。アダムが重視するのはそれぞれ10点と50点だろうから、60点満点で60点という結果になった。イブが料理を楽しめないことは、アダムにとってあまり重要ではないので、3番目の属性は1点満点中0点である。合計すると、イブは61点満点中60点となり、約98%ということになる。

同じように、アルゴリズムは、アダムがイヴにとってどれだけ満足できるかを計算する（図13）。アダムは子供を欲しがっているが、イブの理想のパートナーも同じである。イブにとって子供は必須であるため、この類似性は250点満点中250点という結果になる。しかし、他の2つの属性は一致しない。このアルゴリズムでは、310点満点中250点、つまり81%で計算される。

特徴アダムの理想のパートナー イブアダムにとっての重要度ポイント

• 子供を欲しがるはい 10 10/10
• 注目の的いいえいいえ 50 50/50
• 料理が好きはいいいえ 1 0/1
• スコア: 60/61

図12：アダムの視点アダムにとってイブはどの程度満足できる存在か？答えは、61点満点中60点、つまり98%であり、極めて良好である。

イブの特徴イブの理想のパートナー アダムイブにとって重要なことポイント

• 子供を欲しがるはい 250 250/250
• 250 250/250 注目の的いいえはい 50 0/50
• 料理が好きはいいいえ 10 0/10
• スコア: 250/310

図13：イヴの視点イヴにとって、アダムはどの程度満足できる存在か？答えは、310点満点中250点、つまり81%であり、それほど良いとは言えない。

最後のステップで、アルゴリズムは、アダムとイブのスコア間の平均を取ることで、アダムとイブの合計の一致度を計算する。この例では、89.5パーセントとなる19。

プロファイルマッチングの現実は、この単純な例よりも複雑だが、基本的なロジックは変わりません。19 プロファイルマッチングの現実は、この単純な例よりも複雑だが、基本的な理屈は同じである。趣味や価値観は類似性が重視される傾向があり、学歴や年齢に関しては、特に異性カップルの場合、意外と相補性が望まれることが多い。ボストン、シカゴ、ニューヨーク、シアトルで出会い系サービスに登録している女性は、高学歴の男性を望み、高ければ高いほどいいと思っている。しかし、これらの都市の男性は、高学歴の女性を望んでいるわけではない。平均して、学部卒の女性を好み、それ以上の修士号や博士号を持っている人はあまり魅力的ではないと感じるようだ。同様に、女性の望ましさは18歳から60歳まで低下するが、男性の望ましさは50歳前後でピークに達する20。女性は、男性が自分と同じぐらいの年齢で、2～3歳差であれば、最も魅力的だと感じる。しかし、平均的な男性は、年齢に関係なく、常に20代前半の女性を好む21。彼らの好みは進化心理学の基本的な洞察に従っている。男性は若さや滑らかな肌など、高い生殖能力を示す手がかりに惹かれる傾向があり、女性は富や優れた教育など、男性が家族を養う能力を示す手がかりにより関心を持つ傾向がある。

2つのプロフィールをマッチングさせるアルゴリズムの基本を理解することは、たとえそれがトップシークレットであったとしても、それほど難しいことではない。一般に、アルゴリズムは入力された数値を出力する数値に変換する。例えば、プロファイルをマッチングの確率に変換する。

プロフィールは人ではない

もし恋愛アルゴリズムが、プロフィール、類似性、相補性、重要性の評価を利用できるなら、なぜ生涯の理想的なパートナーを素早く見つけることができないのだろうか？この4つの原則を理解することで、アルゴリズムにできること、できないことを現実的に理解することができる。まず、プロフィールから。笑顔やしぐさ、目に映るユーモア、声のトーン、相手の質問の仕方、人の話を聞く強さや表面的な態度など、対面での「データ」は豊富で複雑である。これとは対照的に、プロフィールは、実際の交流ではなく、最初のアンケートで得られた回答に基づいている。プロフィールは本人ではなく、自己呈示であり、必ずしも真の興味や価値観を表しているわけではない。プロフィールに「性格特性」が使われている場合でも、アルゴリズムは自己申告からそれを推測している。例えば、「セクシー」や「地味」といった属性が自分に当てはまるか、「合理的」「意見が多い」「わがまま」といった属性が自分に当てはまるかを問うサイトもある。あなたならどう答えるだろうか？理想のデートを求めても、現実的で率直な人はほとんどいない。あなたの趣味を聞かれたとき、特別な趣味のないカウチポテトであると認めるべきだろうか。それとも、多くの候補者が怖がるような、一流のダンサーであることを認めるべきだろうか？結果的に、自己申告した趣味や性格は、恋愛を弱くしか予測できない23。同じ結果が、スピードデートで知られている24。人が好むと言うものは、実際の選択と一致しない25。

ここで、類似性と相補性の原則について考えてみよう。25 ここで、類似性と相補性の原則を考えてみよう。「類は友を呼ぶ」「異性は異性を呼ぶ」という言葉がある。その真偽はともかく、恋愛アルゴリズムが類似性と相補性を比較できるのは、実際の行動ではなく、人々のプロフィールを見ることによってのみである。そして、このことが決定的な限界であることが判明した。このテーマに関する313の実験室および野外研究のレビューから、驚くべきことがわかった。26もし人々がお互いを知らない場合、彼らのプロファイル（態度や性格特性）の類似性が高ければ、明らかに相互の魅力が高くなることがわかった。しかし、数分あるいは数時間の短い交流の後、人々が直接会うと、その魅力はほとんど薄れてしまう。つまり、似たようなプロフィールは、最初の魅力は引き出すが、実際の関係には関係ないようだ。また、マッチング率が高い相手を魅力的に感じると同時に、マッチング率が真の愛を見つけることにほとんど貢献しない理由も説明できるかもしれない。実際、オーストラリア、ドイツ、イギリスの23,000人以上の既婚者を対象とした調査では、パートナーが自分たちの関係に満足している程度は、互いの性格特性プロファイルがどれだけ似ているかとはほとんど関係がないことがわかった27。その代わり、その人自身の性格、たとえば、気が合う、良心的、感情的に安定しているなどが、関係に満足しているかということに関係していることがわかった。中には、どんなにふさわしい相手でも、関係を台無しにしてしまう人もいる。eHarmonyなどのオンライン出会い系サイトは、この発見を認識し、感情的に健康でないと思われる顧客を拒否している28。

最後に、重要性の原則について考えてみよう。OKキューピッドがなぜ1〜250の数字を使うのか、不思議に思ったかもしれない。前述したように、究極の理由は、アルゴリズムがマッチング率を計算するために数字を必要とするからだ。他のアルゴリズムと同様に、恋愛アルゴリズムも数字を入力として受け取り、それを出力の数字に変換する。出会い系サービスでは、OK Cupidのように顧客の重要度発言に直感的に数字を割り当てるか、データから推定しようとする。後者の場合、どのプロフィールの組み合わせが長続きするのか、信頼できるデータが必要になる。しかし、わざわざ顧客をフォローアップして、こうした統計データを体系的に収集しているサービスを私は知らない。また、固定された数字は、顧客の重要度評価が安定していることを前提としている。しかし、例えば、それまであまり重要視されていなかった相手の趣味や価値観を理解できるようになるなど、交際の過程で判断が変わることもあるだろう。そのため、この数字が本当の意味での重要度を表しているかどうかは、まだわからない。

結局のところ、出会い系プラットフォームの大きな功績はアクセスであり、真の愛を見つける能力ではない。それは、人々が直接会うことで得られるかもしれない。プロフィールの自己表現と、そこから算出される類似性、補完性、重要性の原則は、マッチングアルゴリズムの基本だが、必ずしも恋愛を成功させるための主要な要素ではない。このことは、恋愛アルゴリズムがしばしば失敗する理由を説明することができる。しかし、次の章で見るように、より一般的な理由が存在する。チェスとは異なり、真の愛を見つけることは不確実性に満ちたゲームであり、アルゴリズムが問題に直面するのはそこなのである。

ソフトウェアに適応した求愛

アルゴリズムを、最高の恋愛相手へのアクセスを早めるための「中立的な」ツールだと考えるのは簡単だ。しかし、そうではない。アルゴリズムが私たちの世界に浸透するにつれて、アルゴリズムは私たちの価値観に影響を与える力を持つようになった。その力は、求婚にも及んでいる。例えば、今日、ブラインドデートはほとんど不可能で、お互いがソーシャルメディアで相手のことを調べる。他のテクノロジーと同様に、アルゴリズムも行動を変え、最終的には私たちの欲望を変化させる。そもそも、ソフトウェアは求愛を最適探索問題に変え、コミットメントを減少させることができるのだ。

いつもよりいい人を探す

物語のように、ある若い女性が理想の男性を見つけ、ベッドで一緒になっている。彼がトイレに行くと、彼女は自動的にスマートフォンに手を伸ばし、Tinderを開いて、他の男性を探し始める。自分のしていることに驚きながらも、彼女はうまく説明できない。ただ、やめられないのである。このような話は、ソフトウェアがいかに行動を支配し、コントロールできるかを示している。

多くのパートナーに簡単にアクセスできるようになると、幸せな「satisficer」が落ち着きのない「optimizer」に変わってしまうのだ。Satisficingとは意思決定理論の用語で、デートの文脈では、満足のいく相手を選ぶことを意味する。そのためには、望ましい基準（願望レベル）を作り、それを満たす最初の相手を選び、それ以上探すのをやめる必要がある。この「探すのをやめる」ことが、長く幸せに付き合うための条件なのである。これに対して、最適化とは、絶対に最高の相手を探すことである。海にはたくさんの魚がおり、他にどんな選択肢があるかわからないから、最適化は幻滅を招き、「いつももっといい人を探そう」という文化になる。偶然にも最高のパートナーに巡り会えたとしても（そんな人がいるならば）、最適化主義者はそれを知らず、公然と、あるいはひそかに、より良い人を探し続けることになるのだ。一日に閲覧できる候補者の数を制限していない出会い系サイトでは、このような行動をとる。これに対して、満足主義者は、オンライン・デート・サービスをすぐにキャンセルして、真剣な交際に乗り出すだろう。

しかし、結婚相談所にとっては、顧客ができるだけ長く利用し続けることが利益となる。しかし、結婚相談所にとっては、できるだけ長く利用してもらいたいもの。だから、多くの結婚相談所では、恋愛の仲介よりも出会いの場を提供することに重点を置いている。スーパーマーケットでマスタードやジャムを100種類用意し、お客さんに見てもらい、買ってもらうのと同じように、多くの潜在的なパートナーにアクセスすることは、アプリを使い続けるための一つの方法なのである。そのため、多くのユーザーが、まるでネットショッピングの商品説明のようにプロフィールをデザインし、スワイプで他の商品を処分してしまうのである。彼らの世界では、真の愛とは、最も良い取引をノンストップで探すことなのである。

人ではなく、プロフィールを最適化する

この章の2つ目のエピグラフは、ニュージャージーに住む13歳のソフィアから、彼女自身のデートに対する考え方を引用している。ソフィアのような多くの少女は、時間の大部分をソーシャル・メディアや、後にはオンラインの性的市場で競争し、自分のセルフィーや評判を管理することに費やしている。29 自己呈示はもちろん新しいことではないが、デジタル・メディアは自己を編集する便利なツールを提供している。心理学者のロバート・エプスタインは、ある女性とネット上でデートしたときのことを話している。30 いざ会ってコーヒーを飲むと、その女性は、投稿した写真の女性とはまったく違っていた。彼女はマーケティングに携わっており、「顧客」を惹きつける写真を投稿するのは良い戦略だと考えていた。後日、エプスタインは、彼女が写真をさらに別の女性の写真に差し替えていることに気づいた。

広告の生命線は、注目を集めるための外見と二枚舌だ。ネット上のプロフィールで、人々は年齢、配偶者の有無、収入、身長、体重を偽っている。コーネル大学の研究者たちは、人々の体重を測定し、その数値とオンライン・プロフィールを照らし合わせた。そして、身長が低いほど、体重が多いほど、その差は大きくなることがわかった。ボストンとサンディエゴのオンライン・デート・サービス加入者5,000人以上を対象にした調査では、20代の女性は、自分の体重を一般人の体重より平均5ポンド（約9kg）低く表示し、30代の女性では17ポンド、40代の女性では19ポンド（約12kg）増加していた32。また、女性は29歳、35歳、44歳と他の年齢よりも多く年齢を記載したがる。33 一方、男性は収入を過大に記載する傾向があるが、これには理由がある。男性が5万ドル未満ではなく25万ドルの収入があると主張すると、女性の3倍が回答した。ネット上で求婚する男性の8人に1人は既婚者である可能性が高い34。人を測定し、重み付けをする研究者は、浮気の程度を判断するために、確固たる事実を用いている。しかし、調査で問われた場合でも、米国の参加者の半数以上が、デート・プロフィールで嘘をついていることを率直に認めており、その数は英国の参加者のそれよりも多い35。

オンライン・デート・サービスの中には、自らトリックに手を染めているものもあるようだ。35 一部のオンライン・デート・サービスは、自らトリックに頼っているように見える。彼らは、実際よりも多くの顧客がいると主張し、それらの顧客が非常に満足していると主張している36。

女性ボッツ

ソマリアの取り乱した未亡人から、数百万ドルの遺産をあなたの安全な銀行口座に振り込んでほしいと連絡を受けたことはないだろうか。もしあなたが返事をすれば、彼女はすぐに、約束の1000万ドルと引き換えに、関税と税金の支払いを送金するよう求めてくるかもしれない。海外の宝くじで25万ドルが当たったというメールを受け取ったことはないだろうか。頭のいい人なら、そんな詐欺に引っかかるはずがないと思うかもしれない。しかし、中には希望に胸を膨らませる人もいる。あるイギリス人の被害者は、「その金額は夢を与えてくれるものであり、それを奪われるのは嫌だ」と説明している37。すべての広告主に対してそうであるように、フェイスブックの機械学習アルゴリズムは、詐欺的な広告をクリックする可能性が最も高いユーザーを特定するのに役立つ。このような詐欺の背後にいる企業は、広告の内容をカモフラージュした後、フェイスブックに平均4万4千ドルの広告料を支払い、被害者から7万9千ドルのリターンを得ている38。イギリスだけでも、年間約100万人の成人が大衆向け詐欺の被害に遭い、合わせて約35億ポンドを失っている39。

ロマンス詐欺

しかし、見知らぬ人からの未承諾メッセージであるため、ほとんどの人はその誘惑に負ける。そこで、国際的な犯罪グループは、被害者の範囲を広げるために、見知らぬ人同士をつなぐための出会い系サイトで人を探す。彼らは偽のユーザー・プロフィールを設定し、通常、盗用した写真を編集して、できれば陸軍将校やエンジニア、魅力的なモデルなどの写真を掲載する。そして、オンラインで恋愛関係を築き、被害者に愛を告白し、出会い系サイトからインスタント・メッセンジャーや電子メールに移行して、独占的な交際を始めるように要求するのだ。40 数週間から数カ月後、信頼と愛情を得た犯人は、まず少額の金銭を要求し、その後、より多くの金銭を要求してくる。その際、グループ内の他の犯罪者が医者のふりをして、愛する人が病院に運ばれたことを知らせ、病院代を支払うよう要求することもある。このゲームは、被害者が詐欺を知るか、お金がなくなった時点で終了する。FBIによると、被害者は平均14,000ドルを失うという。41 オンラインデート詐欺は今や一般的で、多くの被害者は恥ずかしくて公にできないでいる。しかし、詐欺を発見する簡単な方法がある。ネット上の恋人が、何らかの理由でお金を要求するようになったら、その理由を推測することができる。画像検索をして、その人の写真が他の名前で表示されれば、わかるはずだ。ネットで知り合った初対面の相手には、絶対にお金を送らないことである。

金銭的な損失のほかに、被害者は人間関係の喪失を経験する。ほとんどの場合、愛の対象が失われることのほうが、より大きな動揺をもたらす。ある被害者は、「長い間、この人と話していたのに、ある日突然、詐欺だと言われ、どうしてそれがなくなるの？気持ちは変わらないのに……」と。詐欺の餌食になったことを知り、恥ずかしさとショックを受ける人が多い。精神的にやられちゃいますよ。だって、頭も何もかも完全に盗られているんだもの」「神様、私はどうしてこんなにバカなんだろう！」42。

こうした人間の詐欺師たちのハイテク版がボットである。ボットは、人間の介入なしに意思決定を行う自律的なソフトウェア・エージェントである。ウィキペディアの編集ボットやウェブクローラーなど、人間のユーザーをサポートするために設計された善意のボットとは異なり、悪意のあるボットは、私たちを搾取するために設計されている。カナダのオンライン出会い系サービス「アシュレイ・マディソン」を考えてみよう。このサイトは、「人生は短い」というスローガンを掲げて設立された詐欺師の出会い系サイトである。『不倫をしよう』というスローガンを掲げて設立された。当然のことながら、女性客は不足していた。男性客は女性と会話を始めるのに料金を払わなければならないというビジネスモデルだった。ハッカーが同サイトの顧客データ（電子メール、名前、住所、性的妄想など）をすべて盗んだとき、Ashley Madisonは7万以上の「女性」ボットを「雇って」男性の浮気相手に2000万通以上の偽メッセージを送っていたことが判明した43。不倫出会い系サイトが拒否すると、ハッカーは、19ドルの料金を支払って削除された顧客を含む3200万人の顧客の個人データを公開したが、これはまた別の偽サービスであった。「これで結婚生活が破綻する」と、何年もこのサイトを利用して浮気をしていたケンタッキー州の男性は語った44。また、パートナー候補の偽のプロフィールを受け取っただけで、その暴露に怒る人もいた。また、約1,200の電子メールアドレスの末尾が.saとなっており、不倫が死刑になることもあるサウジアラビアからの顧客であることがわかる。

彼の目にとまったあなた

この悲しい物語の最も予想外の部分は、出会い系サイト自体が、顧客を誘い込んで購読を購入させるために詐欺師を利用していることである。米国では、連邦取引委員会（FTC）が、偽の恋愛対象広告を使って数十万人の消費者を騙したとして、オンラインサービスのマッチを訴えた45。マッチは、マッチ・ドット・コム、ティンダー、オーキューピッド、プレンティ・オブ・フィッシュなどのデートサイトを所有している。

あなたが「運命の人」を探していると仮定する。ほとんどのオンライン・サービスでは、定期購読を購入するオプションに加え、無料でプロフィールを作成することができる。だから、無料だからと登録し、何が起こるか見てみるかもしれない。驚いたことに、あなたのプロフィールはすぐに注目を集め、出会い系サービスでは、誰かがあなたに興味を示していると報告される（図14）。しかし、購読していないため、返事をすることはできない。そこで、あなたは購読を申し込んで、相手に返事を書くように説得される。時すでに遅し。そのプロフィールは現在「利用不可」になっている。いやはや、長く待ちすぎて、最初に直接購読しておくべきだったのである。これで、あなたは「運命の人」を見逃してしまったかもしれない。

でも、心配しないでほしい。興味を持った何百万もの「目」は、あなたをロマンス詐欺の被害者にしようとする詐欺師たちである。FTCによると、出会い系サービスは詐欺師たちのことをよく知っていて、彼らのアカウントに詐欺のフラグを立てていたにもかかわらず、お金を払っていない顧客に興味を持たせて購読させるために彼らのメッセージを転送していたという。このように、出会い系サービスは詐欺師を利用して会員を獲得し、自分たちの顧客を欺いて詐欺で利益を得ていたのである。そして、この策略はうまくいく。FTCの報告によると、2年以内に約50万人の好奇心旺盛な顧客が、『あなたは彼の目に留まりました』といった詐欺的なメッセージを受け取った後、24時間以内に購読を購入したそうだ。「利用できない」という残念な返事を受け取った人たちは、実は幸運な人たちだったのだ。マッチは詐欺師との接触を防ごうとしているが、それは加入者だけである。加入者以外には、詐欺師を餌にしたのである。そのためか、加入した途端に興味のある通知の数が減ってしまい、顧客が困惑することが多い。

図1.4：「You caught his eye」出会い系サービスに無料でプロフィールを掲載した人に送られる、有料会員に誘い込むためのメッセージ。お金を払うことで、初めて興味を示した相手に返信することができる。米連邦取引委員会が、Match.com、Tinder、PlentyOfFishなどの出会い系サイトを所有するマッチ社を訴えたのは、マッチ社がこれらの連絡先の多くが詐欺師であることを知り、詐欺師として彼らのアカウントにフラグを立てたからだ。それにもかかわらず、これらの連絡先を転送したが、それは加入していない顧客に対してのみで、加入するよう促すためだった。

見合い結婚のオンライン化

欧米では、デートは2人の間で行われる。結婚は通常、最後に行われる。しかし、すべての文化圏でそうとは限らない。インドの伝統的なシステムでは、親が選択セットを決定する。結婚が先で、次にセックス、そして恋愛となる。

バンガロールにあるインド経営大学院は、美しい庭園があり、学ぶための牧歌的な環境を提供している。そのモットーは「私たちの学問を啓発的なものにしよう」である。そのインド経営大学院で、意思決定に関する冬季セミナーで教えていたとき、私はサンジーの助教授に声をかけられた。彼は、本当の愛を見つけるまでの話を聞かせてくれた。インドの伝統的なシステムでは、花嫁や花婿になる人の家族が結婚相手を探すのであって、本人が探すのではない。デジタル時代には、欧米と同じように結婚情報サイトの「Wanted」欄に結婚広告を掲載するのが一般的だが、広告を出すのは本人ではなく、家族であることが多い。広告には通常、若い男女の年齢と身長のほか、自分の職業と給料、相手の予想給料、父親の職業、カースト、持参金の有無などの一部が記載される。ウェブサイト上の回答から、家族は3〜6人の候補者を選ぶ。そして、その候補者の中から1人を選び、両親のいるレストランで、若者たちが初めて顔を合わせて話をする機会を設ける。帰宅後、親は自分の子供に、候補者を生涯の伴侶として受け入れるかどうか尋ねる。二人が承諾すれば、結婚式の準備を進める。一方が断れば、また次の候補者を選ぶ。

サンジは、この手順が嫌だった。しかし、欧米流のやり方で、より多くの選択肢を持ちたかったからというわけでもない。むしろ、選択肢を持ちたくなかったのだ。両親の経験を信じて、両親に決めてもらい、魅力的で愛すべき妻を選んでほしいと願っていただけなのだ。なぜ、何人かの女性には会わないのかと聞くと、「女性の気持ちを傷つけたくないから」と言うのだ。文字通り、ネット上で気軽に手を振って候補者を拒否する精神とは、あまりにも違う驚くべき発言だった。サンジは、両親が選んだ女性と結婚し、その後、二人とも恋に落ち、何年も幸せに暮らしていると話してくれた。Tinderの世界では、アクセスは資産である。サンジーの世界では、アクセスは他人の感情を拒絶し、傷つけることを意味する。

自分の両親やその経験を信頼することは、ほとんどの西洋人にとって考えられないことであり、非合理的でさえある。しかし、サンジーやインド経営大学の他の研究者が丁寧に指摘しているように、なぜアメリカ人やヨーロッパ人は、互いの声がほとんど聞こえないディスコで、飲み過ぎた相手にランダムに会って相手を探すことを「合理的」と考えるのだろうか？これからは、親が選ぶか、恋愛結婚が主流になるのだろうか？第三の選択肢もある。AIの全能性への信頼の高まりは、どちらのシステムにも終止符を打つかもしれない。

究極の利便性　AIに結婚の手配をさせる

私たちが自律走行車を夢見るのは、それが人間のドライバーよりも安全であると言われているからだ。なぜ、自律型パートナー・アルゴリズムではないのか？両者を支持する論拠は似ている。飲酒運転、薬物、疲労、携帯電話による注意散漫など、死亡事故はほとんどすべて人間の過失によるものだ。自動運転車は、人間を自らの過ちから守ることができる。同様に、アメリカでは、初婚の夫婦と再婚の夫婦の3分の2が離婚し、間違った相手と結婚してしまったという後悔と、子供たちの心の問題を引き起こしている。そこで、誤った判断をしないように人を守るアルゴリズムを「運転席」に置いてはどうだろうか。自律的なAIが、道を踏み外す前に正しい人をマッチングしてくれるだろう。

あるAI哲学者は「実現可能な限り、超知能の意見に従うべきだ」と助言している46。この合理的選択のビジョンでは、恋愛相手を選ぶのに、自分でも家族でもなく、アルゴリズムを信頼することになる。極端に言えば、人間の干渉を受けずに結婚を決めてくれる自律的なAIが誕生することになる。あなたは、指定された場所に時間通りに出向くだけでいいのである。

そんなAIはSFだが、SFは存在する。スマートフォンの暗いディスプレイから名付けられたイギリスのテレビシリーズ「ブラックミラー」のエピソード「Hang the DJ」は、恋愛関係がもはや個人の決断ではない、そんな未来の世界に私たちを投影している。この世界では、恋愛アルゴリズムが人々を関係づけてマッチングし、誰もが迷うことなくアルゴリズムの選択に従う。しかも、それぞれの関係には期限があり、その期限を過ぎると、恋人たちはきちんと別れる。別れた後は、次の期限まで新しい相手とペアを組む。

今日、私たちはすでに、人間よりもアルゴリズムの方が性格を予測できると言われている47。AIに従わないのは愚かなことだろうか。AIの選択に従うことは、究極の便利さかもしれない。すべてが最適化され、自分で、あるいは結婚相談所を通してパートナーを見つけるために時間とお金を浪費することもない。私のような人間にとって、このビジョンは最後のロマンチックな悪夢である。誰もがマッチングAIを信じ、従う「ブラックミラー」のエピソードの主人公は、自分たちの人生を自分たちの手に取り戻すカップルである。彼らは恋に落ち、アルゴリズムの意思に反して、一緒にいることを決める。しかし、このロマンチックなカップルは、変わり者なのである。