Contents
はじめに
知能、意識、意識と力の潜在的な超越-我々の子孫やその後継者の中で-これらの頭の痛い問題は、研究者、企業、政府が人工的な能力や拡張された能力の限界を押し広げる中で、理論的にだけでなく実際にも検討されている。ワイアード誌によると、イーロン・マスクとYコンビネーターのサム・アルトマンが設立した非営利団体OpenAIが、信頼性の高い自然言語処理システムを開発したため、OAIは「フェイクニュース」の問題を深刻化させる恐れがあるとして中止を要請したという。未来小説家たちが何十年も前から予測していた結果である。
私自身のこの問題への取り組みは、小説にとどまらず、『The Transparent Society』のようなノンフィクションにまで及んでいる。The Transparent Society: Will Technology Make Us Choose between Privacy and Freedom? 今回、Toffler Associatesの方々から、未来学者の評論の中に見られる、あまりにも一般的な決まり文句を取り上げてほしいとの依頼を受けたが、これは、急激な変化の時代に我々の適応力を制限する可能性がある。
これらは大きく分けて2種類ある。近い将来、最も脅威となるのは、科学、自由、平等主義的な説明責任といった最近の狭義のルネッサンスを終わらせ、過去6,000年のほとんどすべてにわたって希望を打ち砕いてきた寡頭制による支配のパターンに戻ってしまうかもしれない過ちである。しかし、この文章を読んでいる人は、すでにその戦いに身を投じていると仮定する。
もう1つの罠は、非常に頭の良い啓蒙主義者たちが先を見て、明らかに危険な浅瀬の先にあるものを諭すように叫ぶときに迫る。
「ああ、それは彼らの仕事であり、重要な仕事なのだ！」と。自己予防的な予言については後述するが、悲惨な警告は市民や組織に非常に鮮明に警告することができるため、一部の危険を相殺することができる。フィクションでもノンフィクションでも、警告を発することは、間違いに対する我々の免疫システムに大きな役割を果たすことは間違いない。しかし、残念なことに、これらの警句の多くは、シニシズムと憂鬱を広めるものである。さらに悪いことに、超大物思想家が「一つの大きなアイデアがすべてを包含する」と宣言することに熱中している。
ここでは、頑張りすぎた人間の運命に関するいくつかの人気のある推定を検討し、なぜ「必ずしもそうではない」のかを考える。
議論の余地のあるテーマ
ポストヒューマンの未来の可能性を探るにあたり、「論争」と呼ばれる方法を使ってみたいと思う。それは、未来を展望するために他の著者の作品を批評することである。今回の論客は、ベストセラー『サピエンス：人類の歴史』と『ホモ・デウス：明日の歴史』の著者であるユヴァル・ノア・ハラリ氏である。A Brief History of Tomorrow』の著者、ユヴァル・ノア・ハラリである。ハラリ氏は、私が尊敬する未来学者である。ハラリ氏は、前頭葉と呼ばれる予知能力のある器官を使う賢明な反面教師のように、明るい未来像と暗い未来像を交互に描いているが、どちらかというと陰鬱な雰囲気を漂わせている。イスラエルの哲学者であり技術評論家でもある彼は、目の上にある小さな神経集団が警告に耳を傾けるように調整されていることを知っている。それゆえに
ハラリ氏はGeek’s Guide to the Galaxyポッドキャスト(注1)で、「今日、SFは最も重要な芸術ジャンルである。「人工知能やバイオテクノロジーなど、今後数十年で我々の生活や社会を何よりも大きく変える可能性のあるものについて、一般の人々の理解を形成している」。
ハラリは次のように冷静に指摘している。「人工知能をテーマにしたSFの本や映画では、コンピュータやロボットが意識を持ち、感情を持ち始める瞬間を中心に展開している。」
さらに、彼はこう付け加えている。「テクノロジーが運命を決めるわけではない。最悪のシナリオを防ぐために、我々はまだ行動を起こすことができるし、これらの技術を規制して、主に良い方向に使うことができる」。
ハラリ氏の暗い警告は、SFの最高の伝統に則り、行動を起こし、自己予防的な予言となることを意図している。理想的には、ジョージ・オーウェルの『ニーンエイティフォー』やハクスリーの『ブレイブ・ニュー・ワールド』のように、影響力を持ち、世界を変えることである。そこで、彼の貢献に感謝し、同僚としての尊敬の念を込めて、彼の公的な主張のいくつかに異議を唱えてみたいと思う。
例えば、ニーチェを彷彿とさせるような彼の一般的な主張は、「人類は目の前で、強力であると同時に、もはや人間ではないものへと変化しつつある」というものである。
暗い超越… 光でできている
ユヴァル・ノア・ハラリは、伝統的な外界の神々への崇拝が、やがてヒューマニズム、すなわち自分自身への崇拝へと変化したように、ヒューマニズムもまた、冷徹で無慈悲ではあるが真に神々しい後継者を生み出すことによって凌駕されるだろうと考えている。
予期された超越という概念は、決して新しいものではない。過去の賢者たちは、それが天の不可解な時刻表に従って起こると宣言したり、倫理的な功徳や祈りの瞑想ポイント、あるいは罪を少しずつ積み重ねることによって起こると宣言したりした。また、苦しみの中で、あるいは哲学的な純粋さの中で、そのような壮大な変化が起こると予見する人もいた。
今から100年ほど前、科学力の向上に伴い、テイラール・ド・シャルダン、J.D.ベルナル、オラフ・ステープルドンなどの信奉者たちは、超越が我々自身のテクノロジーの手によって物理的に起こることを描いてた。トランスヒューマニズム、ポストヒューマニズム、テクノトランスセンデンタリズムなど、さまざまな名称で呼ばれるこの新しい世界観は、SF作家のヴァーナー・ヴィンジが造った「シンギュラリティ」という言葉に集約される。Googleのチーフ・テクノロジストであるレイ・カーツワイルは、『シンギュラリティがやってくる』の著者であり、人工的に優秀な頭脳を生み出すことで、人類の良いところをすべて取り入れることができると予想している。さらに、カーツワイル氏は、旧人類である我々もその流れに乗ることができると主張している。
保守派の哲学者であるフランシス・フカヤマやデビッド・ゲレルンターがそれぞれの著書で主張しているように、真に深遠な変革が起こることを信じない、あるいはそれによって何か良いことが起こるとは思えない、という懐疑論者はたくさんいる。宗教色の強い右派の人々の間では、神の力を誇示しようとする試みはすべて、神の手を煩わせることになり、恐らく待望の「最後の日」を引き起こすと考えられている。また、ポストヒューマニストの傲慢さを非難する左派の評論家もいないわけではない。
ユヴァル・ハラリに焦点を当て、デヴィッド・ベルリンスキーはInference Reviewで次のように辛辣に述べている。「ハラリは『サピエンス』の中で、人類の一神教や、それを可能にしたと思われる農耕の習慣にあまり興味を示さなかった。彼は石器時代の文化を、その中で生活する必要のない人間の熱意をもって賞賛している」。ノスタルジアの不法行為でハラリ氏を非難した後、ベルリンスキー氏はテクノモッズの狂信者として彼を非難している。ハラリは『ホモ・デウス』の中で、人間は間もなく改良されるべきものだと主張している。大いにそうである。まず第一に、より良い遺伝子、より良い神経回路、より良い生化学。その後、チップ、ステント、シャントなど、さまざまな埋め込み型の仕掛けが施される。コンピュータ科学者はついに無機物に知性を刻み込み、旧式の人体は廃れていき、異質な生命体のフィラメントやファイルに取って代わられる」。博識ではあるが、ベルリンスキー氏の記事は、我々が進歩しているという考えに対して、過度に単純化した、逸話的な暴言を吐いているように思える。
私は別の場所で、AI（人工知能）に注意するように警告する最近の多くの本をレビューしている。このような心配性の評価は自然な反射であり、SFだけでなく、自慢の前頭葉にも根ざしている。逆説的な考え方をする人たちにとっては、どこにいても危険を察知する傾向は、問題解決の自信を失わせる致命的な欠陥であると考えられている。
ユヴァル・ハラリは、彼の名誉のために言っておくが、ほとんどの単純なシナリオを避けている。しかし、『ホモ・デウス』に描かれている我々の未来像は、子供たちが我々を少しずつ誇りに思い、新しい状況下で人間の生活に新鮮でありながら認識できる意味を与えるような、幸せな超越ではない。それどころか、彼は我々の技術的な道具がすべての超越を行い、正統的な人間とヒューマニズムは無用の長物となると考えている。彼は、不老不死などの超自然的な能力を持つスーパーマンやホモ・デウス（神人）が人類に取って代わることを予見しており、旧人種の構成員や価値観をニーチェ的に軽蔑している。
ユヴァル・ハラリは、この後者の対決は事実上避けられないと考えている。彼は『WIRED』誌のエッセイで、指数関数的に増大する情報の流れをすべての生命の究極の運命として崇拝するカルト、「データ主義」を糾弾している。データ主義者は、人類全体を複雑な情報処理システムとして捉えている。人類の歴史は、処理者（人間）の数を増やし、（人間の専門性と多様性によって）処理者の種類を増やし、（貿易とコミュニケーションによって）処理者間のつながりを改善することで、システムの効率を向上させてきたというストーリーに集約される。ここで、何兆ものサイバネティックなコンポーネントやリンクを、それまでの有機的なものに置き換えてみると、ハラリの推定は説得力を持ってくる。コンピュータによる共有と処理のシステムは、新たな飛躍を遂げようとしているのである。
ハラリの暗黒の警告は、SFの最高の伝統に則り、行動を起こし、自己予防的な予言となることを意図している。理想的には、ジョージ・オーウェルの『ニーンエイティフォー』やハクスリーの『ブレイブ・ニュー・ワールド』のように、影響力を持ち、世界を変えるものである。
もし、データ・カルト主義者がこのことについて正しいとすれば、ハラリによれば、“ホモ・サピエンスは時代遅れのアルゴリズムである “ということになる。
道を見失うな
悲観的な予測は、ベストセラーへの素晴らしい道である。しかし、ハラリ博士の場合、その道には罪がつきものである。その1つが、歴史には方向性があり、運命のようなものが我々の行く手を阻むという前提である「テロリズム」である。マルクスからテイラール、そしてオズワルド・シュペングラーのような説得力のある人物に至るまで、多くの賢い人々が目的論的なシナリオに陥っている。
厳格な歴史家によって長い間否定されてきた周期的歴史のおかしな理論、つまり、文明は勢いのある上昇と退廃のパターンを繰り返すという退屈な考え方に、我々は最も有害な目的意識を見ることができる。政治的な反動派は、悪名高いタイトラー・カルムニー⁴のような、このような気の毒な教訓に特に惹かれるようだ。なぜなら、循環は進歩主義的な改革の推進を絶望的にするように思えるからだ。無駄なことなのに、なぜ悩むのか？最近の循環史ブームは、ストラウス＆ハウの『The Fourth Turning』という本を中心に展開されている。この本は、80年ごとにアメリカを襲う実存的危機のパターンが厳格に定められており、それぞれの危機は「ヒーロー世代」によって解決されなければならないと宣言している。この本には、ブライトバートの戦略家であるスティーブ・バノンも登場し、彼は次の実存的危機が自力で起こらなければ、それを強制するつもりだと公言している。その代わりに、彼らは進歩が運命づけられていると考える。カール・マルクスは、労働者の楽園への超越が不可避であることを示す、正当な物語のパターンを作った。これらの自己正当化的な合理化は、21世紀の共産主義中国の準資本主義的な寡頭制の下で洗練されている。
目的論は魅力的でもあり、厄介でもある。好みによっては、運命や不可抗力が好ましいものに見えたり、嫌なものに見えたりする。ユヴァル・ノア・ハラリ氏からは、その両方の匂いが感じられる。
クイズである。ハラリの『WIRED』誌からの抜粋に共通するものは？
「もし生命が情報の動きであり、もし生命が良いものであると考えるならば、我々は宇宙の情報の流れを拡張し、深め、広めるべきだということになる。」
そして、
「もし人類が本当に一つのデータ処理システムだとしたら、そのアウトプットは何か？人類が一つのデータ処理システムだとしたら、その成果は何だろうか？データ主義者ならば、その成果は「Internet-of-All-Things」と呼ばれる、より効率的な新しいデータ処理システムを作ることだと言うだろう。このミッションが達成されれば、ホモ・サピエンスは消滅するだろう」。
もう一つ紹介する。
「データ主義によれば、人間の経験は神聖なものではなく、ホモ・サピエンスは創造の頂点でもなければ、将来のホモ・デウスの前兆でもない。人間は、Internet-of-All-Thingsを構築するための道具にすぎない。Internet-of-All-Thingsは、やがて地球から銀河系全体、さらには宇宙全体へと広がっていくかもしれない。この宇宙規模のデータ処理システムは神のようなものだ。この宇宙のデータ処理システムは神のようなもので、どこにでもあってすべてをコントロールし、人間はそれに融合する運命にある」。
ハラリの言うデータ主義のようなもの、つまり現代のハイテク千年王国主義の宗教を信奉している聡明なバカを何人か知っていることを断っておこう。彼の批判には的を射たものもある。しかし、他の熱狂的なジャーミアードと同様に、彼の一面的な非難は、すべての穏健な信者に狂信者の罪を負わせるものである。フランシス・フカヤマ（『Our Posthuman Future』の著者）のように、ハラリは最悪のケースを想定するように仕向けられる。『The Shallows』の著者であるニコラス・カーのように。『The Shallows: What the Internet Is Doing to Our Brains』の著者であるニコラス・カーのように、ハラリはレミングと呼ばれる隣人たちの愚かさを診断する。彼らは、電子機器中毒の崖に向かって突進し、地獄のように見える。最近の極論小説『The Circle』とトム・ハンクスの映画版の著者であるデイヴ・エガーズのように、彼はデータ主義に対して、その熱狂的な支持者の口から誇張された言葉を引き出すことで、逸話的な例と一般的な例を混同して論じている。
哲学的に奇妙な方向への大飛躍
ユヴァル・ノア・ハラリは、啓蒙主義を説明するために気ままに登場する。そして、表面的には興味深い指摘をしている。
「全く新しい価値観を持つ人は滅多にいない。最後にこのようなことが起こったのは、ヒューマニズム革命が人間の自由、人間の平等、人間の友愛という刺激的な理想を説いた18世紀のことであった。1789年以降、幾多の戦争、革命、動乱を経ても、人類は新しい価値観を生み出すことができなかった。その後の紛争や闘争はすべて、ヒューマニズムの3つの価値観の名の下に、あるいは神への服従や国家への奉仕といった、さらに古い価値観の名の下に行われてきたのである。…
データ主義は、1789年以来、「情報の自由」という実に斬新な価値を生み出した最初の運動である。情報の自由を、古いリベラルの理想である表現の自由と混同してはいけない。表現の自由は人間に与えられたものであり、口を閉じて自分の考えを自分の中にとどめておく権利を含め、自分の望むことを考え、発言する権利を守っていた。”
実際には「表現の自由」も「情報の自由」も、啓蒙主義の方法論の根幹をなすものではない。どちらも、我々が前例のない奇跡を起こすためのツールである。有機体であれ、電脳であれ、分別のある未来の文明が、合理的に無くしてしまうことを選択しないものだ。
ハラリにつきまとう妖怪…
ユヴァル・ハラリのシナリオは、カール・マルクスの目的論的な社会モデルに酷似していると示唆してきた。類似点を考えてみよう。マルクスは、工業化以前の生産の進歩は、常に原始的な封建領主が国家の王に取って代わられることを主張し、この観察は人類の歴史において確認されている。製造業や貿易がさらに飛躍すると、過渡期の王は、後に資本主義のブルジョワジーに押され、最終的には上昇する熟練労働者階級が支配するようになる。このような流れの中で、マルクスは新旧の支配者の間に同居やポジティブ・サムの妥協の余地はほとんどないと考えていた。
ハラリも同様に、工業生産を情報管理に置き換えているが、基本的には同じシナリオである。どちらも、初期の原始的なシステムが継承され、儀式的に正当化されたヒエラルキー、つまり農業が発明されて以来、すべての文化の99％を支配してきた封建主義という強力なアトラクター状態からスタートする。ハラリは「ブルジョワジー資本主義」のような用語を「ヒューマニズム」に置き換えている。サイバネティックなデータクラウドの神々がプロレタリアートの独裁に取って代わる。
マルクスもハラリも、この一連の予見された段階は、技術の進歩によって義務づけられていると考えている。それぞれの後継段階は、ノスタルジーを感じさせることなく、先行する段階を一掃するように描かれている。どちらもゼロサムの本能を表している。そして、それは自然界で進化してきたシステムではないことがわかる。
ここではっきりさせておきたいのは、このようなゼロサム思考を裏付ける証拠が人間社会にはあるということである。現在の危機、つまり世界的な寡頭制の積極的な復活は、啓蒙的なヒューマニズムがこれ以上、地球上で遺物のような封建制と共存できないことを示している。寡頭制がこのラウンドに勝てば、もうラウンドはないだろう。アテネの民主主義やフィレンツェの共和国に起こったように、リベラルな思考の兆しは潰えてしまうだろう。そしてその瓦礫は、オーウェル技術の道具によって灰燼に帰すだろう。ヒューマニズムが殺されれば、それ以上の擬似マルクス主義の段階は存在しない。データ主義は死産となる。イェーイ？
しかし、ハラリの視線はしっかりと前を向いている。彼は、啓蒙主義がこの危機を乗り越え、リベラルな教育を受けた進歩的な人類が新封建的な恐竜を倒すことを想定している。そして、マルクスの支配的なカーストの継承によく似た順序で、ヒューマニストの価値観がデータフェチの代替品を速やかに生み出すことになる。
啓蒙の最大のトリックは、「ヒューマニズム」そのものでも、言論の自由でもなく、権力を十分に小さな単位に意図的に分散させることで、不正者の陰謀が義務的な権力を得ることを防ぎつつ、互いに競争し、責任を負わせることができるようにしたことである。
そのときハラリは、エガーズ、深山、カー、その他多くのノスタルジックな不平不満を持つ人々のように、カーツワイルのように超情報によって強化されたり力を得たりするのではなく、超情報によって簒奪されたり絶滅させられたりする人類を予見するのである。
軽蔑の魅力と中毒性
ユヴァル・ノア・ハラリは、我々のシステムは成長に依存しているため、不安定性に依存していると宣言し、その不安定性が我々の理解を超えてスパイラルしている様子を描いている。(経済学者のハイマン・ミンスキーは、今では広く受け入れられている理論を体系化しており、目を凝らすと、不安定さは決してなくならないというハラリの考えを支持しているかのように見える）。実際、神のような奇跡を起こそうとしている原始人に過ぎない我々は、しばしば理解できないサイクルを引き起こしてしまう。
しかし、ケビン・ケリーが著書『Out Of Control』で示しているように、鳥の群れや二本足の人間、あるいは複雑な社会が、一次的な不安定性を二次的な意志に変えるための相乗効果やフィードバックループが存在する場合がある。このような健全なフィードバックループは、人間が階層的な管理⁷の代わりに、開放性や透明性、相互的な説明責任を利用するのに十分な賢さを持っているところでは、特に出現しやすいようである。これからお話しするように、このような不安定さと統制の交互の層は、健全な生態系のバイオームや新しいソフトウェア学習システムのような自然のシステムをはるかに代表するものであり、似非マルクス主義的な「まあまあ」の話では網羅できないものである。また、ゼロサムゲームのほとんどの形態でもない。
誤解しないでほしい。ハラリ氏は、テクノロジーがもたらす失業など、現代の重要なジレンマに鋭く切り込み、その名声を高めている。つまり、新しい社会契約の形成について議論し、6,000年にわたって我々を裏切ってきた特権のピラミッドに我々が陥ってしまうのではないかと心配するのは、まだ早いのではなかろうか。ハリウッド映画に代表されるように、AIに対する恐怖は、強大な新しい頭脳がそのような残虐なトップダウンの専制政治を再現するというものである。ハラリ氏がAtlantic誌のインタビューで語っているように、恩恵的・善意的なバージョンであっても、冷ややかでやる気を失わせる可能性がある。
「AIがいつの日か、キャリアや人間関係について、我々よりも優れた判断を下すようになると考えるのはそれほど難しいことではない。しかし、何を勉強すべきか、どこで働くべきか、誰と付き合うべきか、さらには結婚すべきかをAIに頼るようになったら、人間の人生は意思決定のドラマではなくなり、我々の人生観も変わる必要があるだろう」。
そして…
「もしあなたがこのような見通しを憂慮し、デジタル独裁国家や同様の劣化した社会の中で生活するという考えを嫌うのであれば、あなたができる最も重要な貢献は、あまりにも多くのデータが少数の人に集中するのを防ぐ方法を見つけることであり、また、分散したデータ処理を中央のデータ処理よりも効率的に保つ方法を見つけることである。これは決して簡単なことではない。しかし、それを実現することが、民主主義を守る最善の方法かもしれない」。
確かに、すべてに同意する。Enlightenmentの最大のトリックは、「ヒューマニズム」そのものでも、言論の自由でもなく、権力を十分に小さな単位に意図的に分散させることで、不正者の陰謀が義務的な権力を得ることを防ぎつつ、互いに競争し、責任を負わせることができるようにしたことである。これは、我々の5つの偉大な競争的創造の場である、市場、民主主義、科学、司法裁判所、スポーツで機能しているものである。これらの場は、権力の分散が起こる程度に応じて繁栄し、権力がまとまると5つの場はいずれも病気になってしまう。
もちろん、このような状況を描いた本格的なSFもたくさんある。例えば、カート・ヴォネガットの『プレイヤー・ピアノ』に代表されるように、大量の技術者の失業を描いたSFの多くは、ハラリと同じように、それが貧困や権利の剥奪、抑圧につながることを描いている。しかし、そのような単純なシナリオを避けている人もいる。例えば、オルダス・ハクスリーの『ブレイブ・ニュー・ワールド』では、そのようなピラミッド型の秩序が描かれているが、それは皆が本当に楽しい時間を過ごしている場合である。(ハラリはハクスリーの小説について、次のように述べている。出版された当時は、これが恐ろしいディストピアであることは誰の目にも明らかであったが、今日では、『ブレイブ・ニュー・ワールド』を真顔のユートピアとして読む人が増えている」と嘆いている。驚くべき主張である。実際にそう言っている非薬物者が相当数いるという調査結果を挙げてほしい。)
もちろん、ある傾向を指摘して悲惨な結論を出すのは自由である。しかし、例外があなたの例よりも圧倒的に多い場合、科学の聖なるカテキズムを認めることは知的誠実さの問題となる。”私は間違っているかもしれない。”
実際、1930年代にハクスリーが指摘したように、人口と失業率の組み合わせが算術的に以上に上昇する可能性はないが、サイバネティックに増幅された富を生み出す能力は、特に宇宙からの資源にアクセスできるようになれば、もっと速く増加するかもしれない。そのため、純粋な希少性のために抑圧的なピラミッドに陥ることはないだろう。しかし、社会的な選択の誤りや、エリートが貧富の差を支配の手段と見なしたことが原因となるかもしれない。今日試みられている世界的なオリガルヒ一揆は、そのような中心的な目標を持っていることは明らかである。
確かに、そうなるかもしれない。しかし、あまり注目されていない代替案がある。おそらく、それは劇的ではないからだろう。
さらに、ハラリの嘆きを読んでいると、彼が大多数の識者やSF作家と共通するある種の特徴があることに気づく。それは、純粋な感情で行動するように描かれている大衆への侮蔑と、多義的な外見の下ではほとんど変わらない人間のエリートへの軽蔑である。ハラリは、我々が手にしている神を作る力を認識することすらできない人間の能力を否定している。ましてや、その力を先見性や賢さを持って使う可能性はなく、おそらくSF作家の警告にさえ耳を傾けることはないだろう。あるいはユヴァル・ノア・ハラリの警告にも。
彼の軽蔑は、次のような逸話でちょっとした嫌味になる。「でも、特に20歳以下の人には、説得力は必要ないかもしれない。人々は、たとえそれが自分のプライバシーや自律性、個性を放棄することになったとしても、データの流れの一部になりたいと思っているのである」。
そして、それはラッダイトの愚痴へと変わる。「自分が物事の全体像の中でどこに位置しているのか、自分のデータが他の何十億もの人間やコンピュータが作り出すデータとどのようにつながっているのか、よくわからない。メールの返信に追われているので、それを調べる時間もない。そして、私がより多くのデータを効率的に処理するようになると、より多くのメールに答え、より多くの電話をかけ、より多くの記事を書くようになるので、私の周りの人々はさらに多くのデータで溢れかえることになるのである。
それで？我々のアシスタントやサーバントマシンも、より効果的になっているのではなかろうか？本来ならば、旧来の仕事をこなす能力を増幅させて、自由な時間を確保するはずのツールが、かえってより多くの仕事を引き受けることになっているのである。ハラリ氏は、現代の市民を退廃的で魂がないと呼ぶ無数のグルーチたちと一緒に、彼らをカルトのメンバーとして描いている。
「伝統的な宗教では、あなたの言葉や行動は偉大な宇宙計画の一部であり、神はあなたを毎分監視し、あなたの考えや感情をすべて気にかけていると言われてた。データ宗教では、あなたのすべての言葉や行動は、偉大なデータの流れの一部であり、アルゴリズムがあなたを監視していて、あなたの行動や感情のすべてを気にかけていると言っている。ほとんどの人はこれを気に入っている。真の信者にとって、データの流れから切り離されることは、人生の意味そのものを失う危険がある。誰にも知られず、世界的な情報交換に何の貢献もしないのであれば、何かをしたり、経験したりすることに何の意味があるのだろうか？”
もし、私がデータ中毒者のイメージに当てはまらないとしたら？
では、ハラリ氏自身の「軽蔑のカルト」を評価してみよう。ハリウッド映画が説く偉大なメッセージの1つに ハリウッド映画が説く偉大なメッセージの1つに、”隣人はみんな役立たずの羊で、あなただけが真実を見ることができる！”というものがある。ハラリは読者をおだてて、彼らだけが紙の本を開き、たまには外に出て、情報の乳首を吸うのをやめるほど賢明であるとほのめかしている。確かに、データユーザーのジャンキーはいる。しかし、彼らは、自由な時間を利用して様々な趣味に没頭する人々が増えている今日の「アマチュアの時代」における他のフェティシストと何か違いがあるのだろうか？
これらの背景には、アメリカ人に対する反射的な態度という、あまり知られていないものがある。それは、H.G.ウェルズやジュール・ヴェルヌにまで遡る。彼らは、ヤンキーの創造力を賞賛する一方で、旧世界の目には知的考察を嫌うように映るヤンキーを軽蔑していた。それは、次のことに忙殺されているからだ。そのわずか数十年後、オラフ・ステープルドンは、来るべきアメリカ世紀に向けて、エネルギーを崇拝し、そのエネルギーを派手に放出することを宗教とすることを描いた。エネルギーを情報に置き換えたハラリの論文を読みながら、ステイプルドンのグロテスクな誇張表現が頭に浮かんだ。
批判の対象となっているモチーフは今や汎大陸的なものであり、著者はもはや「アメリカ」という言葉を口にする必要もない。しかし、彼の嘆きは次のような言葉で頂点に達する。「自動車が馬車に取って代わったとき、我々は馬を改良したのではなく、引退させたのだ。ホモ・サピエンスも同じことをする時が来たのかもしれない」。
現在、北米には西部開拓時代よりも多くの馬が生息しており、現在の馬たちはより良い時代を過ごしていることを気にする必要はない。確かに、今はアマチュアの時代で、かつてないほど多くの人がランニングやハイキングをしている。趣味も充実している。(音楽家や作家だけでなく、刀鍛冶や鍛冶屋の数も中世に比べて増えている。アマチュアの科学者やいじり屋も増えた。世界中を旅する旅行者や、世界を救うために熱心に活動するボランティアの群れも増えている。エベレストへの登山道は10年待ちの大渋滞で、ベルベットのロープを持った係員がいる。これらはすべて、情報化時代の到来によって抑圧されるのではなく、刺激されているのである。
ハラリの言う「ホモ・デウス」の傾向が勢いを増したとしても、その結果、旧人種の怠惰、退廃、士気の低下、無用の長物化が明らかになると診断するのは時期尚早かもしれない。
もちろん、ある傾向を指摘して悲観的な結論を出すことは自由である。しかし、例外があなたの例よりもはるかに多い場合、科学の神聖なカテキズムを認めることは、知的誠実さの問題となる。”I might be wrong.”
アルゴリズム万歳
ハラリ氏は、保険の数理システムから警察の「犯罪前」の統計分析プログラムに至るまで、統治アルゴリズムに無批判に過度に依存することの危険性について、より明確に述べている。
「今後数十年の間に起こるより大きな危険は、（昔ながらの人種、部族、性的な）集団差別ではなく、はるかにカフカースケなもの、つまり（アルゴリズムによる）個人に対する差別だろう。ローンが組めない。雇ってくれない。アルゴリズムはあなたを好きではないのである。アルゴリズムがあなたを差別しているのは、あなたがユダヤ人だからでも、イスラム教徒だからでも、ゲイだからでもなく、あなたがあなたであるからだ」¹⁰。
これは適切な批判と心配です…オープンな社会における批判と心配の修正力を無視している。映画「トロン」に登場する「ユーザーのために戦う」プログラムのように、疑わしいガバナンス・アルゴリズムを監視し、不正を明らかにする監査パッケージを作ることはできないだろうか。このようなパッケージはすでに存在し、ACLUや電子フロンティア財団のような進歩的なNGOが、アルゴリズムに関連する「偶発的または意図せずして組織的な人種差別」を監視するために使用している。このような解決策は失敗するかもしれない。しかし、スタイリッシュな絶望への解毒剤としてだけでも、言及する価値がある。
困難な問題が山積していることは確かである。感情論や主観性などが、明るい明日をデザインすることを妨げているかもしれない。しかし…我々はここまで来るのに十分な明るさを持っていたのではなかろうか？技術の陳腐化やデータ主義のような予見される罠を回避するためにも、我々は十分に賢かったのではなかろうか？我々が手で、あるいは胎内で生み出した超スマートな存在が、市民として、そしてきちんとした名誉ある相続人として行動する未来があるだろうか？いつものように憂鬱な気分に浸っていると、その可能性ははるかに遠いもののように思える。しかし、我々の中には、少なくともそのような可能性を想像できる人もいる。そして、想像することが戦いの半分ではなかろうか。
「AIが、キャリアや人間関係について、我々よりも優れた判断を下す日が来ることは、それほど難しいことではない。しかし、何を勉強するか、どこで働くか、誰と付き合うか、あるいは結婚するかをAIに頼るようになったら、人間の人生は意思決定のドラマではなくなり、我々の人生観も変わる必要があるだろう」。
変える？そうだね。しかし、ハラリは上記のすべてが必然的に悪いことのように描かれている。しかし、そのような力が大丈夫になるかもしれない方法が2つある。
「自由、平等、友愛が競争的な説明責任を解き放ち、何千年にもわたるゼロサムの負け犬ゲームに終止符を打つ」。
1 人間の脳を見てほしい。層になっている。人間は魚類と小脳を共有している。その上に爬虫類の大脳原基が成長し、陸生動物に可能な行動の範囲を広げた。その上に哺乳類の大脳皮質が置かれ、経験からある程度の再プログラムを可能にし、次に霊長類の新皮質が外界の内部モデル化を可能にした。そして、ごく最近になって、目のすぐ上にある前頭前野という器官が発明された。前頭前野は、アインシュタインのゲダンケン実験を行うための器官で、前方や他の生物の心の中にちらつく可能性を思い描くことができる。
新しいレイヤーを追加することで、我々はそれまでのレイヤーを殺してしまったのだろうか？爬虫類や哺乳類、類人猿が大切にしてきたものをすべて捨ててしまったのか。それとも、意識や脳の新しい道具を使って、それらを推定し、拡張してきたのだろうか。では、人間が現在大切にしている古い感情、憧れ、忠誠心、美学、不思議な感覚などを必ずしも放棄することなく、この重ね合わせのプロセスを続け、より能力を高め、より大きくなっていく可能性についてはどうだろうか¹¹。
さらに、もしそのような選択肢があるとしたら、なぜ他の方法を選ぶのだろうか？
2 もうひとつ、世代と呼ばれる重ね方がある。親が大切にしている文化や価値観、伝統など、我々が教えたものを「裏切る」とわかっていても、新しい子孫はそれぞれ育てられ、教えられる。我々の慰めと復讐は何だろうか？それは、彼らの子供たちが同じことを自分たちにもするだろうということである。それでも、愛すべきもの、誇りに思うべきものはたくさんある。もし、その子供たちがもっと賢かったり、我々には理解できない活動をしたりしたら？愛情を持って我々の頭を撫でてくれても、見下したような自惚れが混じっていたら…他に何か新しいことがあるだろうか？
そして、その相続人がたまたま部分的にサイバネティックで、キャリアや、おそらく人間関係についてよりよい決断をするために我々を悩ませていたことを一瞬で把握することができるとしたら、それはどうだろう？
結局のところ、神のような後継者は、貧困や無知と闘い、偉大な新しい子孫を生み出すところまで登りつめた祖先に敬意を払い、尊敬してはいけないのだろうか？多くの子供たちは、やがて親を懐かしむ気持ちを持つようになるのではなかろうか。物理学者のフランク・ティプラーは、『不死の物理学』という本の中で、何十億年も前にさかのぼって、このような回帰の気持ちを描いてた。
これはただの寂しい希望でも、ナイーブな希望でもない。これは、自然界と我々の豊かな自由主義的啓蒙活動の両方において、複雑なシステムについて我々が現在知っているすべてのことと一致している。