AIの夢と悪夢を支える頭字語　TESCREAL

www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/

イメージTruthdig / Adobeこれは「21世紀の優生学」のパートII：「新名称、旧思想」ディグ・シリーズ

The Acronym Behind Our Wildest AI Dreams and Nightmares

TESCREAL-発音は “テスクリアル“。ここ数カ月、この奇妙な言葉を目にしたことがあるかもしれない。著名なコンピューター科学者ティムニット・ゲブル博士はソーシャルメディア上で頻繁に「TESCREAL」イデオロギーに言及しているし、億万長者のベンチャーキャピタリスト、マーク・アンドリーセンのツイッター・プロフィールには一時期こう書かれていた：「サイバーパンクの活動家、多様性の受容者、TESCREAL主義者」フィナンシャル・タイムズ』紙、『ビジネス・インサイダー』紙、『ベンチャービート』紙もこの言葉を使用、あるいは調査している。また、『ワシントン・スペクテイター』紙には、デイブ・トロイによる「シリコンバレーの右傾化の背後にあるTESCREALの理解-奇妙なイデオロギー」という記事が掲載された。

TESCREAL（テスクリアル）とは、伝統的な思想と現代のトランスヒューマニスト的な思想を横断する信念体系を示す（以下の）頭字語をとったものである。シリコンバレーのエリート・テクノ・ユートピア主義をフレーミングする蔑称として使われた。

トランスヒューマニズム
エクストロピアニズム… pic.twitter.com/ISFNbdgbG9

— Alzhacker (@Alzhacker) December 22, 2023

私の推測では、人工知能の話題が広く議論されるようになるにつれ、シリコンバレーの有力な支持者と批判者の奇妙な信念に対する疑問とともに、この略語がより注目されるようになるだろう。しかし、「TESCREAL」とはいったい何を意味し、なぜそれが重要なのだろうか？

ゲブルとの共著で、現代のAI分野における、相互に関連し重なり合うイデオロギーの小さな星座の影響力を追跡した、まだ未発表の学術論文でこの言葉を作ったので、私はこれらの疑問についていろいろ考えた。これらのイデオロギーは、主にマイクロソフトから資金提供を受けているオープンAIや、その競合であるグーグル・ディープマインドのような企業が、そもそも「人工的な一般知能」を創造しようとしている中心的な理由であると、私たちは考えている。

論文を書くにあたってゲブルと私が直面した問題は、AGI開発競争の背後にある様々なイデオロギーと、それに付随して浮上した「人類滅亡」の悲惨な警告について議論すると、すぐに混乱してしまうということだ。なぜAGIが究極の目標なのか–ChatGPTやGPT-4をこの方向への大きな一歩と見る人もいる–を語るには、トランスヒューマニズム、エクストロピアニズム、シンギュラリタリアニズム、コスミズム、合理主義、効果的利他主義、長期主義といった長くて多義的な言葉をたくさん使わなければならない。このうち最後の2つについては、シリコンバレーで大きな影響力を持つようになった経緯を探った『Truthdig』の過去記事で書いた。しかし、その影響力は、それほど目を凝らさなくても、いたるところで目にすることができる。「TESCREAL」は、このようなイデオロギーの集まりについて、ほとんど発音不可能な単語を乱雑に繰り返すことなく語るという問題に対するひとつの解決策である。ジョン・レノンは、”This-ism, that-ism, is-m, is-m, is-m. “と歌ったときに、この問題をとらえた。

オックスフォード大学のニック・ボストロム教授は、遠い将来、AI医師による蘇生のために自分の体を冷凍保存する予定だ。画像：nickbostrom.com

「is-m、is-m、is-m」を最小限にするため、私は上記のイデオロギーの頭文字を組み合わせた「TESCREAL」という頭字語を提案した。こうしてゲブルと私は、議論を効率化するために「TESCREAL bundle of ideologies（TESCREALイデオロギーの束）」を参照するようになり、「TESCREAL主義（TESCREALイデオロギーの束全体を指す）」や「TESCREAList（TESCREALイデオロギーの束のほとんど、あるいはすべてを支持する人）」という言葉が生まれた。完璧な解決策ではないが、選択肢を考えると、私たちは満足のいく解決策だった。

TESCREALのフレームワークの外では、今AIで起こっていることはほとんど意味をなさない。「TESCREAL」の頭文字がとらえる、重なり合い、相互に関連し合うイデオロギーは、なぜ数十億ドルもの資金がますます強力になるAIシステムの開発に注ぎ込まれているのか、そしてなぜFuture of Life Instituteのような組織が、「GPT-4よりも強力なAIシステムの訓練を少なくとも6カ月間は一時停止するよう、すべてのAI研究所に直ちに要請する」のかを理解するのに不可欠である。また、TESCREAListのエリエイザー・ユドコフスキーが率いる「AI doomerism」の最近の出現についても説明している。彼は最近のTIMEの論説で、AGIの誕生を遅らせるためにデータセンターに対する軍事攻撃を行うことを支持しており、その中には全面的な熱核戦争を引き起こす危険性も含まれている。

TESCREAL主義の核心は、「テクノ・ユートピア」的な未来像である。それは、高度なテクノロジーによって、人類が次のようなことを達成できるようになる時代を想定している。すなわち、根本的な豊かさを生み出し、自分自身をリエンジニアリングし、不老不死になり、宇宙を植民地化し、何兆、何十兆もの人々が暮らす星の間に、広大な「ポスト・ヒューマン」文明を創造することである。このユートピアを実現する最も簡単な方法は、超知的AGIを構築することである。

こうしたイデオロギーが、主にマイクロソフトが出資するオープンAIや、その競合であるグーグル・ディープマインドのような企業が、そもそも「人工的な一般知能」を作り出そうとしている中心的な理由であると、私たちは考えている。

しかしその後、AGIの完成が近づくにつれ、計画全体が裏目に出るのではないかと心配する声が出始めた：AGIは実際に創造者に反旗を翻し、人類を破滅させ、それとともにこのユートピア的な未来を破壊するかもしれない。ユドコフスキーの言葉を借りれば、AGIは星々の楽園をもたらすどころか、「現在のような状況下で」作られたAGIは「地球上の文字通りすべての人」を殺すだろう。アンドリーセンのようなTESCREAL関係者は、破滅の確率は非常に低いと主張している。彼らの見解では、高度なAIがもたらす最も可能性の高い結果は、経済生産性を飛躍的に向上させ、「人間の知性を大幅に増強する機会」を与え、「あらゆる病気の治療から恒星間旅行の実現まで、AIなしでは取り組むことが不可能だった新たな課題に挑戦すること」である。したがって、AIの開発は「我々自身、我々の子供たち、そして我々の未来に対する道徳的義務」なのだ、とアンドリーセンは書いている。

その結果、TESCREALコミュニティには「AI破滅論者」から「AI加速論者」まで、さまざまな立場が生まれた。その中間に位置するのが、AGI研究の6カ月間の「一時停止」を呼びかけるだけのFuture of Life Instituteに代表される、危険はあるが克服不可能ではないとする様々な「穏健派」の立場である。

「破滅論者」と「加速論者」にはほとんど共通点がないように見えるかもしれないが、議論全体の背景にはTESCREALの世界観がある。TESCREALの世界観は、これらの異なる思想を理解し、AGIへの競争を理解する鍵である。はっきりさせておきたいのは、マイクロソフトとグーグルはもちろん利益動機によって動いているということだ。彼らは、OpenAIやDeepMindが開発するAIシステムが、株主価値を大幅に高めることを期待している。しかし、利益動機はほんの一部に過ぎない。それに劣らず不可欠なもうひとつの部分は、TESCREALバンドルである。だからこそ、このバンドルが何なのか、誰がそれを受け入れているのか、そしてAGIを作ろうとする動きをどのように後押ししているのかを理解することが非常に重要なのだ。

TESCREALのイデオロギーがどのように組み合わされているかを見るには、それぞれのイデオロギーを個別に検証するのが有効である。

「T」はトランスヒューマニズムを意味する。これがTESCREALのバックボーンである。実際、頭文字の次の3文字、つまりExtropianism、Singularitarianism、Cosmismは、トランスヒューマニズムのバリエーションに過ぎない。しかし、これらについては後ほど説明しよう。トランスヒューマニズムの核となるビジョンは、人類という種を技術的に改造し、”ポストヒューマン“と呼ばれる優れた新種族を生み出すことである。これらのポストヒューマンは、不老不死、極めて高い「IQ」、感情の完全なコントロール、並外れた「理性」、そしておそらくコウモリが世界をナビゲートするために使用するエコロケーションのような新しい感覚モダリティなど、1つ以上の超人的な能力を持つことによって「優れた」存在となる。トランスヒューマニストの中には、フッ化物を使うように、「道徳心を高める」化学物質を公共の水道水に混ぜ込むことで、私たちの道徳的能力を「高める」ことを想像している者もいる。

基本的に、20世紀の無神論者たちは、自分たちの人生には伝統的な宗教が提供する意味や目的、希望が欠けていると結論づけた。このことに気づいた彼らは、世俗的な新しい宗教を発明した。この新しい宗教は、キリスト教と同じように永遠の生命を約束し、独自の復活のバージョンを持っている。不死身にならない人は、カリフォルニアに本社を置くアルコーという会社によって身体を冷凍保存され、技術的なノウハウが利用可能になったときに蘇生することができる。TESCREALを代表するニック・ボストロムはアルコアの顧客である。オープンエーアイのCEOであるサム・アルトマンは、ネクトーム社と契約した25人のうちの一人である。ネクトーム社は人の脳を保存し、いつかコンピューターに「アップロード」できるようにする会社である。

ウィリアム・マカスキルは、『Effective Altruists』を、現在の苦しみに対する懸念から、非常に遠いデジタル・ヴァルハラへの懸念へと導いた。画像アームチェア・エキスパート

神については、存在しないのであれば、なぜ創造しないのか？全知全能の存在であり、すべての問題を解決し、ユートピアを創造することができる。実際、「神のようなAI」という言葉は、ここ数カ月でAGIを指す言葉として一般的になっている。逆に、我々が構築したAGIが我々に牙を剥けば、それは我々自身が作り出した「悪魔」となるだろう。アルトマンらとオープンAIを共同設立したイーロン・マスクが、「人工知能によって我々は悪魔を召喚している」と警告したのはこのためだ。

トランスヒューマニズムを理解することが重要なのは、TESCREAL主義におけるその役割だけでなく、シリコンバレーにおけるその偏在性のためである。技術界の巨人たちは、トランスヒューマニズム・プロジェクトの実現に巨額の資金を注ぎ込んでおり、AGIはこのプロセスの触媒として不可欠な役割を果たしていると考えている。イーロン・マスクの会社、ニューリンク。その使命は「あなたの脳とAIを融合させる」ことであり、そうすることで「人類の進化の次の段階をジャンプスタートさせる」ことである。これがトランスヒューマニズムである。あるいは、アルトマンはネクトーム社との契約に加え、レトロ・バイオサイエンシズという。「長寿」新興企業に密かに1億8000万ドルを寄付した。これもトランスヒューマニズムである。

「TESCREAL」の頭文字をとった次の3文字、「Extropianism」「Singularitarianism」「Cosmism」に話を移そう。一つ目は、1980年代後半から1990年代前半にかけて組織されたトランスヒューマニズム運動の原初的な名称である。ボストロムが「黒人は白人よりも愚かだ」と主張する、今となっては有名な人種差別的メールを送ったのは、このExtropianメーリングリストだった。(私がこのメールを発見した後、彼はNワードを使ったことを謝罪したが、人種と「知性」に関する主張を撤回することはなかった）。シンギュラリティ主義とは、「特異点」（技術発展のペースが我々の理解を超える瞬間、おそらくは自己改良型AIの「知能爆発」によって引き起こされる）が、上記のようなテクノ・ユートピア的な未来に加え、急進的でポスト不足な豊かさの状態をもたらす上で不可欠な役割を果たすという考え方である。ある一般的な説では、シンギュラリティによって、私たちポストヒューマンのデジタル子孫が宇宙を植民地化し、「目覚めさせる」ことが可能になるという。宇宙の「おぼろげな」物質とメカニズムは、精妙で崇高な知性の形態へと変化する」と、TESCREAL主義者のレイ・カーツワイルは書いている。カーツワイルはグーグルの研究科学者で、同社の共同設立者であり、”デジタル・ユートピア主義“と呼ばれるTESCREAL主義の信奉者であるラリー・ペイジに個人的に雇われた人物である。

「破滅論者」と「加速論者」にはほとんど共通点がないように見えるかもしれないが、議論全体の背景にはTESCREALの世界観がある。

トランスヒューマニズムがステロイドの優生学なら、コスミズムはステロイドのトランスヒューマニズムである。今や一般用語となった「人工知能（artificial general intelligence）」の命名者である元エクストローピアンのベン・ゲルツェルは、その著書『コスミスト宣言』の中で、「人間はテクノロジーと融合し」、その結果「我々の種が進化する新たな段階を迎える」と書いている。最終的には、「私たちは知覚を持つAIとマインド・アップロード技術を開発し」、「生物学から離れることを選択した人々に無期限の寿命を与えるだろう「。「これらの」アップロードされた心「の多くは」仮想世界で生きることを選ぶ「だろう。究極の目的は、時空間工学と科学的な」未来の魔法」を開発することであり、現在の我々の理解と想像をはるかに超えている。

そこで、「合理主義」と「効果的利他主義」の話をしよう。前者は、初期のエクストロピア運動でボストロムの同僚だったユドコフスキーが2009年に設立した「LessWrong」というウェブサイトから生まれた。上記のようなユートピア的ビジョンを実現するには、本当に「賢い」人々が本当に「賢い」ことをする必要があるため、私たちは「賢さ」を最適化しなければならない。これこそが合理主義が目指すものであり、私たちの「合理性」を高める方法を見つけることである。例えば、ユドコフスキーはかつて、「合理的」とされる議論に基づいて、「一人の人間が50年間、希望も休息もなくひどい拷問を受ける」方が、「非常に多くの人々が、まつ毛が目に入るというほとんど知覚できない不快感を経験する」よりもましだと主張した。ユドコフスキーが主張するように、時には「黙って数を増やす」ことも必要なのだ。

合理主義がトランスヒューマニストによって生み出されたのに対して、EAは合理主義コミュニティのメンバーが倫理の問題に軸足を置いたときに起こるものと見ることもできる。合理主義が私たちの合理性を最適化することを目指しているのに対し、EAは私たちの道徳性を最適化することに焦点を当てている。例えば、環境保護NPOで働くべきか、それともウォール街のジェーン・ストリート・キャピタルのような自己勘定取引会社で働くべきか。EAは、数字を計算すれば、ジェーン・ストリートのような「悪の組織」で働き、余分な収入を寄付した方が、全体としてより多くの「善」を行うことができると主張する。実際、サム・バンクマン=フリードという若いEAが、EAの共同設立者の一人であるウィリアム・マカスキルとの会話の後、まさにこれを実行した。数年後、バンクマン=フリードは、あるジャーナリストが言うように、自分自身で暗号通貨会社を立ち上げた方が、「チャリティーのために不潔な金持ちになる」ことができると考えるようになり、その結果、アラメダ・リサーチとFTXを立ち上げた。バンクマン=フリードは現在、”史上最大級の金融詐欺”を働いた疑いで、最高155年の禁固刑に直面している。

合理主義者と同様、EAも「知性」、「IQ」、そして「合理性」の特定の解釈に執着している。ある元EAはVoxで、EAのリーダーがコミュニティメンバーのランク付けシステムをテストし、IQが120未満の者はスコアカードから減点されると報告している。EAはまた、AGIの安全性のような「長期的な」問題に焦点を当てると加点され、「世界の貧困削減や気候変動の緩和」に取り組むと減点されるという。これが頭文字の最後の文字：

EA運動から生まれた長期主義は、おそらくEAがTESCREALバンドルにもたらした最も重要な貢献である。トランスヒューマニズムがTESCREAL主義のバックボーンだとすれば、長期主義はその上に鎮座する「銀河の頭脳」である。2010年代初頭、EAの一団が、人類は理論上あと10億年は地球上に存在することができ、宇宙に進出すれば少なくとも10^40年（1の後にゼロが40個続く）存続できることに気づいた。さらに驚かされたのは、このような未来の人々が、アクセス可能な宇宙全体に広がる惑星サイズのコンピューター上で動作する広大なコンピューター・シミュレーションの中で生活している可能性である。この「マトリックス」のような未来に、より多くの人々が存在すればするほど、より多くの幸福が生まれる可能性がある。

エリエイザー・ユドコフスキーは完璧なAIドゥーマーとして登場した。画像ローガン・バートレット・ショー

したがって、あなたの目的が可能な限り多くの人々にポジティブな影響を与えることであり、存在しうる人々のほとんどが遠い未来に住んでいるのであれば、現在の人々よりもむしろ彼らに焦点を当てることは「合理的」であるとしか言いようがない。ボストロムによれば、未来には仮想現実の世界で少なくとも10^58人のデジタル・ピープルが存在する可能性がある（1の後に気の遠くなるような58のゼロが続く）。現在の多次元的貧困にあえぐ13億人と比べてみると、まったく比較にならない。だからこそ長期的な視点に立つ人々は、こうした未来の人々の生活を改善すること、いや、そもそも彼らが存在することを確認することが、世界的な最優先事項であるべきだと結論づけたのだ。さらに、「安全な」AGIを作れば、このような人々が存在する確率を大幅に高めることができるため、長期研究者は「AIの安全性」という分野を開拓した。

トランスヒューマニズムがTESCREAL主義のバックボーンだとすれば、長期主義はその上に鎮座する「銀河の頭脳」である。

トランスヒューマニズム、合理主義、EAと同様、長期主義はシリコンバレーやテックエリートの間で大きな支持を誇っている。昨年、イーロン・マスクは長期主義の創始者の一人であるボストロムの論文をリツイートした：「おそらく、これまで書かれた中で最も重要な論文だろう」昨年夏、マカスキルが長期主義に関する本を出版した後、マスクはその本を「私の哲学に近い」と評した。長期主義は、マスクが主張する「私たちには意識の光を維持し、それが未来に続くようにする義務がある」、そして、「重要なのは……時間の経過とともに、文明の累積的な純幸福を最大化することである」という主張の背景となっている。アルトマンは長期主義の「ブランディング」に疑問を呈しているが、彼が安全なAGIを構築することが重要だと言うのは、「銀河が本当に危険にさらされている」からである。先に述べたように、OpenAIやDeepMindのような企業の設立は、長期主義者の成果でもある。例えば、ディープマインドへの初期の投資は、著名なTESCREAListであるJaan Tallinnによって行われた。彼はまた、ケンブリッジの人類存亡リスク研究センターとFuture of Life Instituteの共同設立者でもあり、自身もTESCREAListである暗号大富豪のVitalik Buterinがその大部分を出資している。ディープマインドが設立されてから5年後、マスクとアルトマンはピーター・ティールらシリコンバレーのエリートたちと手を組み、オープンAIを立ち上げた。

AGIを「安全なもの」にする方法が解明される前に、AGIが近い将来に建設されることに対して「ドゥーマー」が騒ぐのも、長期主義が大きな理由である。長期主義者の枠組みによれば、AGIの黙示録の最大の悲劇は、今生きている人々が80億人死ぬことではない。確かにそれは悪いことだが、もっと悪いのは、そうしなければ存在していたであろう何兆、何兆もの未来の人々が誕生しないことである。そのため、私たちは未来の人々が確実に存在できるよう、現在の人々を無視したり傷つけたりする代償を払ってでも、できる限りのことをすべきである。ユドコフスキーが最近、AGIの黙示録を回避するためには、地球上で全面的な熱核戦争が起こるリスクを冒す価値があると主張したのはこのためである。AGIの黙示録は地球上のすべての人を殺すだろうが、熱核戦争はほぼ間違いなく死なないという主張である。少なくとも熱核戦争であれば、文明が再建された後、最終的に宇宙を植民地化し、ユートピアを創造する可能性が残っている。ユドコフスキーは、「AGIを防ぐために何人の死が許されるのか」という質問に対して、こう答えている：

地球には、生存可能な生殖人口を形成するのに十分な数の生存者が、余裕を持って接近しているはずだし、持続可能な食糧供給もあるはずだ。そうである限り、いつか星に到達するチャンスはまだある。

これがTESCREAL主義のダークサイドであり、私がこのバンドル、特にトップにある「銀河系脳」、つまり長期主義が非常に危険であると主張してきた理由のひとつである。目的が手段を正当化することがあるとすれば、そして目的が文字通り天文学的な量の「価値」に満ちたユートピアの楽園であるとすれば、この未来を守るために、いったい何がテーブルから外れるというのだろうか？TESCREAL主義のもうひとつの暗黒面は、人類がほとんど、あるいはまったく規制を受けることなく、ますます強力なテクノロジーの創造に猪突猛進することを望む加速主義陣営である。そうすれば、破壊の跡が残るに違いない。

アルトマンがOpenAIのブログ記事で書いているように、「人類は、おそらくまだ誰も完全に想像することが不可能な程度にまで繁栄している」TESCREAL主義は、この壮大なビジョンに基づく世界観であり、上述の重複する運動やイデオロギーから発展したものである。

TESCREALのイデオロギーがなぜ「バンドル」を構成しているのかは、もうお分かりだろう。これらのイデオロギーは、1980年代後半から現在に至るまで、時間を超えて拡張されたひとつの実体を形成していると考えることができる。別の言い方をすれば、これらのイデオロギーの出現は、郊外のスプロール化によく似ており、その結果、明確な境界線のない自治体群が形成される。多くの場合、ある運動の発展に影響を与えた人物が、他の多くの運動も形成しており、頭文字の各文字を中心に形成されたコミュニティは、常にかなり重なり合っている。ここでは「TESCREAList」を、これらのイデオロギーのうち1つ以上に関係する人と定義しよう。例えば、ボストロム、ユドコフスキー、マカスキル、マスク、アルトマン、バンクマン・フリードなどである。

(ほとんど廃れたイデオロギーはエクストロピアニズムだけである。「永続的進歩」、「自己変革」、「合理的思考」、「知的技術」といった価値観へのコミットメントを伝えながら、後続のイデオロギーに融合していった。TESCREAL主義の形成におけるExtropianismの役割と、その継続的な遺産が、私が頭文字にExtropianismを含める理由である)。

TESCREAL主義をひとつの束として考えることを正当化する特徴は、ほかにもたくさんある。例えば、優生学との直接的なつながりがあり、優生学的な傾向は、TESCREAL主義を構成するほぼすべてのイデオロギーに波及している。TESCREAL主義のバックボーンであるトランスヒューマニズム自体が、「リベラル優生学」と呼ばれる優生学の一形態であることを考えれば、これは当然のことだろう。初期のトランスヒューマニストには、1959年から1962年まで英国優生学会の会長を務めたジュリアン・ハクスリーを筆頭に、20世紀を代表する優生学者が含まれていた。このことについては、以前のTruthdigの記事で詳しく書いたので、ここでは詳細は省くが、優生学の臭いがTESCREALのコミュニティ全体に漂っていることは言うまでもない。たとえば、TESCREALをリードする何人かの研究者は、「知能の低い」人々が「知能の高い」人々を凌駕することを明確に懸念している。もし「知能の低い」人々が多くの子供を産めば、人類の平均的な「知能」レベルは低下し、TESCREALプロジェクト全体が危うくなる。ボストロムはこれを「人類存亡リスク」の一種として挙げている。人類存亡リスクとは、天文学的な数の「幸福な」デジタル・ピープルでいっぱいの天空に、ポスト・ヒューマン・ユートピアを創造することを妨げるような出来事を本質的に指す。ボストロムの言葉を借りれば

高度な文明社会は、知的才能のある人が十分な割合で存在することに依存している可能性がある。現在のところ、知的業績と繁殖力には負の相関関係があるところもあるようだ。もしこのような淘汰が長期間にわたって行われるとすれば、私たちは頭脳明晰ではないが繁殖力の強い種、ホモ・フィロプロゲニトゥス（「子孫を多く残す愛好家」）へと進化するかもしれない。

これはTESCREALコミュニティのもうひとつの特徴につながる。多くのメンバーは、自分たちが文字通り世界を救うのだと考えている。EAの共同設立者であり、主要な長期的研究者であり、トランスヒューマニズムの提唱者であるマカスキルが、「世界を救うためには、慈善団体に就職するのではなく、ウォール街で働け」と書いているように、このことが明示されることもある。かつてユドコフスキーとAIの安全性問題に取り組んでいたTESCREAListのルーク・ミュールハウザーも、同様にこう断言している：

世界は、強大な力と飛行能力を持つマントの十字軍によって救われることはない。世界を救うのは、数学者であり、コンピューター科学者であり、哲学者なのだ。

それはもちろん、テスクリアリストのことである。

TESCREALコミュニティの中心的な目的のひとつは、人類存亡リスクを軽減することである。定義によれば、これは、天文学的な「価値」を持つユートピア世界がいつか未来に存在する確率を高めることを意味する。したがって、「私は人類存亡リスクを軽減するために働いている」と言うことは、「私は世界（来るべき世界、ユートピア）を救おうとしている」と言うことでもある。ある学者が言うように、「利害は非常に大きいので、この努力に携わる者は、破局の確率をほんの僅かでも減らしたとしても、自分の報酬を得たことになる」ボストロムは、10^52のデジタル寿命が未来に存在する確率がわずか1%であるならば、”10億分の1ポイントだけ人類存亡リスクを減らす期待価値は、10億人の人命の1000億倍の価値がある。”と主張する。言い換えれば、人類存亡リスクをこのわずかな量だけ軽減するのであれば、何十億、何百億という現存する人間の命を救うのと道徳的に同等のことをしたことになる。

この壮大な自己重要感は、ボストロムが2005年に設立したオックスフォードの「人類の未来研究所」や、「生命の未来が存在し、（可能な限り）素晴らしいものであることを保証するのを助ける」ことを目的とした「生命の未来研究所」など、TESCREALを代表する組織の名前にも表れている。

人類存亡リスクを軽減しようとするTESCREAL主義者は、世界を救うという、他に類を見ない重要なことをしているのだという信念は、人類にとっての「非実存的」脅威に対して多くの人が表明する態度にも表れている。社会正義が良い例である。今年初めにボストロムの人種差別的な電子メールが明るみに出た後、彼はぞんざいに書かれた「謝罪文」を発表し、「血に飢えた蚊の大群」が「重要なことから」気をそらすと個人ウェブサイトで不満を述べた。自分が文字通り世界を救っていると信じているとき、他のことはそれに比べれば些細なことに見えるものだ。

これは、TESCREALの束が現在の人々、特にTESCREALをリードする多くの人々のように特権的で裕福でない人々に深刻な脅威をもたらすと私が考えるもう一つの理由である。ボストロムがかつて言ったように、私たち人間の天上の未来を脅かさないような大災害は、「生命の大海の表面のさざ波」にすぎない。なぜか？人間の苦しみや幸福の総量に大きな影響を与えたり、私たちの種の長期的な運命を決定づけたりすることはないからだ。「人間にとっての巨大な虐殺」は、「人類にとっての小さな誤算」にすぎない。

自分が文字通り世界を救っていると信じているとき、他のことはそれに比べれば些細なことに見えるものだ。

おそらくTESCREALバンドル全体の最も重要な特徴は、その影響力の大きさだろう。これらのイデオロギーが一体となって、規範的な世界観、つまり本質的には無神論者のための「宗教」を生み出してきたのである。だからこそ、TESCREAL主義は名指しで批判される必要があるのだ。すべてのTESCREAL主義者が、このコミュニティで見られるような最も過激な意見を持っているわけではないが、最も過激な意見は、最も影響力のある人物によって支持されることが多い。ボストロム、マスク、ユドコフスキー、マカスキルはいずれも、ほとんどの人が戦慄を覚えるような主張をしている。例えば、マカスキルは2022年に出版した『What We Owe Owe the Future』の中で、経済成長のエンジンを唸らせ続けるためには、人間の労働者をデジタル労働者に置き換えることを検討すべきだと主張している。「人工知能（AGI）を開発すれば、研究者を含む人間の労働者を置き換えることができるだろう。そうすれば、研究開発に従事する。「人」の数を、現在最新のiPhoneの生産規模を拡大するのと同じくらい簡単に増やすことができるだろう」

これはユートピアのように聞こえるだろうか、それともディストピアのように聞こえるだろうか？自然界には野生動物の苦しみがたくさんあり、野生動物が減れば減るほど、野生動物の苦しみも減るからだ。この考え方では、TESCREAListの未来には自然そのものが存在しないのかもしれない。

もしTESCREAL主義が社会の最も強力なセクターの中で台頭してきたイデオロギーでなかったら、私たちはこのような事態を一笑に付すか、目を丸くするかもしれない。しかし、恐ろしいことに、TESCREALはすでに私たちの世界を、そして子どもたちの世界を、深遠な方法で形作りつつある。今現在、メディアも、一般市民も、政策立案者も、政治指導者も、これらのイデオロギーについてほとんど知らない。過去10年間、TESCREAL運動に参加し、現在ではそれを世界における破壊的で危険な力と見なしている者として、私は何が起こっているのかを人々に啓蒙する道義的義務を感じている。「TESCREAL」という言葉は奇妙で不格好ではあるが、AGIを開発しようとする「加速主義者」の動きと、AGIがもしすぐに誕生すれば、ユートピア的な楽園をもたらすどころか人類を滅亡させるかもしれないという懸念に駆られた、最近の進歩に対する「破滅主義者」の反発を理解する鍵はここにある。

この巨大なイデオロギーに対抗するためには、「TESCREAL」が何を意味するのか、そしてこれらのイデオロギーがどのように権力の最高位に浸透しているのかを理解することが重要である。今日まで、TESCREAL運動は、抵抗はおろか、批判的な調査もほとんど受けてこなかった。今こそ、それを変える時である。