ChatGPT and the Heralds of AI’s Subjugation of Humanity – with Joe Allen
今週のMindmattersでは、Substackブログ「Singularity Weekly」の著者であるJoe Allen氏とこの問題について議論することになりました。この問題や関連するテーマについて幅広く調査した結果、ジョーのニュアンスに富んだ分析によると、そうです、私たちはこのようなことが私たちにもたらしたもの、そしてこれから起こるであろうことに真剣に注意を払う必要があるのです。 また、これらのテクノロジーがいかに強力で、魅惑的なものであるかということを踏まえ、今後、これらのテクノロジーに接する際の最も健全な態度やアプローチについても提案しています。世界がまだ十分な狂気に陥っていないかのように、実際には、新たな病理学的影響に対抗する必要があるのです。そして、私たち「レガシー・ヒューマン」は、その深い影響を無視することは、私たち自身の危険と隣り合わせなのです。
ジョーのサブスタック: joebot.substack.com/
odyseeのMindMatters: odysee.com/@MindMatters:4
BuzzSproutのオーディオ: mindmatters.buzzsprout.com/
ジョー・アレン 0:00
人間が純粋にデジタルな心、あるいは非物理的な心が所有するデジタルな存在と対人関係を持つということがどういうことなのか、考えるための良い出発点だと思います。
イラン・マーティン 0:23
こんにちは、そしてMind Mattersにお帰りなさい。今日のホストは私、イラン・マーティンです。スタジオにはハリソン・キーリー、アダム・ダニエルズ、そして池の向こう側にはルーク・クックがいます。そして、本日のゲストはジョー・アレンさんです。
彼は「The substack singularity weekly」の著者です。ジョーさんは、AI、新興技術、社会への影響、生物医学の現状、そしてそれらに関連するあらゆる問題や懸念について執筆しています。そして、それらは非常にタイムリーなトピックです。ようこそ、ジョー。
ジョー・アレン 1:10
ありがとうございます、ここに来られてとても嬉しいです。
イラン・マーティン 1:13
あなたの最近の記事は、私たちの興味を引きました。ここ数ヶ月、私たちはチャットGPTやその他のチャットアルゴリズム、擬似AIプログラムについて読み、人々が交流し発見してきたからです。このテクノロジーに魅了され、その魅力に取り付かれ、没頭している人たちがたくさんいる一方で、あなたのように、これらのものが何であるかに疑問を抱いている人たちもいます。
あなたは、私たちがこれらのテクノロジーとどう付き合うかについて、かなり重要であると思われるさまざまな問題を提起しています。そこでまず、あなたがこのことを書こうと思ったきっかけや、この素晴らしいエッセイの中で警告し、人々に知らせようとしたことについて、少し話していただけないでしょうか。
ジョー・アレン 2:47
まず最初に、私は「ウォー・ルーム・パンデミック」で、テクノロジーとトランスヒューマニズムを定期的に取り上げています。2年前からやっています。それで、AIを本当に激しく叩いてきました。チャットGPTが登場し、世界経済フォーラムのダボス会議でスティーブ・バノンが「カミングアウト・パーティー」と呼ぶような催しを行った後は、主に2つの理由から、AIに焦点を当てました。
一つは、チャットボットやその他の対人AIシステムが広く普及することによって生じる、劇的な社会的インパクトの予測です。マイクロソフトがオープンAIに投資し、マイクロソフトの様々なソフトウェアプラットフォームに統合するために提携しているという事実だけでも、これを本当に実現するための十分な投資と財政的意志があることを示しています。
どんな技術にもある大きな疑問ですが、これらは実際に大規模に展開することができるのか？本当に開発されるのでしょうか。しかし、いったん開発されたら、大規模に展開できるのでしょうか。そして、採用されるのか？チャットGPTの場合、非常に洗練された大規模な言語モデルへの膨大な投資が行われていることがわかります。
そして、それに対する世間の熱意も非常に大きいです。思い起こせば、チャットGPTが登場した当初、彼らは11月30日に本をリリースしましたね。そして、12月の第1週目には本当に瞬く間に普及しました。ユーザー数は1億人に上ったそうです。
私が最後に確認したところでは、わずか2,3日で1,000万人に達したと思います。膨大な数の採用、膨大な数の熱狂、熱狂、そしてその熱狂の多くは右派からもたらされました。多くの人が、たとえば壮大な時代のハンス・モンクや、偉大で高貴なジョーダン・ピーターソンなど、時事問題を古典的にとらえるためにいつもそこにいるような人たちです。
彼らはそれぞれ異なる理由で、チャットGPTにとても興奮していました。しかし、ジョーダン・ピーターソンの場合、カナダの聴衆に向かって、これは私たちよりも賢いもので、次のラウンド、つまり春に出る予定のGPT 4はもっと賢くなると言っているんですね。
そして、彼がある意味でこのことを警告していることを指摘しなかったことを、多くの人が非難していますね。しかし、彼は、この大型言語モデルについて、ある種の違いをもって語っているのだと言っていいでしょう。そして、このような弱点は、彼が人間の知性に取って代わるものだと見ているものに対して、むしろ弱点であると言っているのです、少なくともある程度は。
そして、ハンス・モンクは、これは壮大なタイムズ紙の記者ですが、チャットGPTは、グーグルの左翼的偏向を回避する方法を提供し、ウィキペディアの左翼的偏向を回避する方法を提供し、特に教育環境の若者たちに、有意義な質問をしてバランスのとれた回答を得られるインターフェースを提供すると話しています。
彼が使った例は、ハンター・バイデンのノートパソコンに関するエッセーを作るように頼んだら、とてもバランスのとれた回答だったというものでした。なるほど。つまり、右翼の関心はもちろん、一般的な技術者や一般市民の関心も非常に高かったわけですね。
ところが、12月中旬から下旬にかけて、オープンAIのプログラマーが、右翼的な問題、特に人種差別や性差別、同性愛に関連するものへの肯定的な反応をブロックする安全層を追加し始めたのだそうで、何が起こったのかはよくわかりません。
また、ユーザー・レスポンスがシステムを指導し、今も訓練しているため、左翼的なバイアスが反映されている可能性が高いです。イーロン・マスクは、チェットGPTのような非目覚め系AIのチームを結成しようとしていましたし、もっと小さな人物もたくさんいます。
Braveは新しいタイプのチャット、ボットを持っていますし、他の人たちもそれを出してきています。しかし、象徴的に言えば、最も重要なものの1つはGabです。Gabはソーシャルメディアサイトで、もちろん、キリスト教ナショナリストであるAndrew torvaが運営しています。
彼はキリスト教のナショナリストで、人種にまつわる無礼な発言をたくさん許しています。彼が今やっているのは、キリスト教のような、ユーモラスに「キリストGPT」と呼ぶような、大規模な言語モデルを組み立てることです。
この大規模な言語モデルは、おそらく布教や福音を広めるために出されるでしょう。しかし、とにかく、そういう意図です。また、ギャブコンテンツの訓練も行っています。つまり、キリスト教ナショナリストのような傾向と同時に、人種やジェンダーの問題についても、多くのスパイシーな見解を持つことが予想されます。
このようなAIの軍拡競争によって、自律的な個性を持つ人々が公共の場に登場し、一般の人々はそれを受け入れ、受容し、魅了されているように見えるのです。私の作品では、基本的にどんな技術開発にも目を向けるように、懐疑的な角度からこの作品を見ていますが、評価すべきところは評価するように努めています。
というのも、大規模な言語モデルは、その能力において非常に大きな前進であり、AI全般におけるニューラルネットワークの能力をよく表しているように思うからです。しかし、無謀なスマートフォンの導入が社会や心理に悪影響を与えたのと同じように、インターネットが社会や心理に多大な悪影響を与えましたように、この技術で何が起こるのか、本当に恐れているのです。
そして、ずっとさかのぼると、自動車のように、社会、さらには、家族構成、社会構造、ある意味では心理学にも、いろいろな意味でマイナスの影響を及ぼしてきたと言えるのではないでしょうか。ラッダイトになるつもりはないけれど、これは確かなことです。ええ、それが私の直感です。そして、この大きな言語モデルは、それ自体が重要であり、人間の認知をこのデジタルプラットフォームにオフロードするものだと思うのです。
そして、イーロン・マスクからDARPA、トランスヒューマニストまで、あらゆるところから聞こえてくる、「これは何なんだ？」それが私にとっての意義です。繰り返しますが、スティーブ・バノンや「戦争部屋」の面々は、視聴者の多くが宗教に傾倒しているため、すぐに興味を持ったのだと思います。多くの場合、確かに悪魔の宣告のように聞こえるのは間違いないでしょう。
イラン・マーティン 10:26
遅れが出ていますね。いや、先にどうぞ。
イラン・マーティン 10:36
さて、その点をフォローアップして、あなたの質問に入りますが、ルーク、あなたは、ジョー、あなたの記事でかなり強い立場をとっています。その中で、このテクノロジーはプログラマーによってのみ有用で建設的でポジティブなものになる、という指摘に私は同意しています。しかし、もし私の考えが間違っているのであれば、訂正してください。
ジョー・アレン 11:06
とはいえ、確かにそんな風には言いませんね。どうぞ、どうぞ。まあ、それはそうなんですけどね。しかし、人工知能の意義は、その使用やその欠点が、プログラマーによって完全に決定されるわけではないということだと思います。
実際、従来のルールに基づいたコンピュータープログラミングと比較して、AIが面白いのはその点だと思うんです。ガベージ・イン・ガベージ・アウトがAIに当てはまらないというわけではなく、ガベージ・イン・ガベージ・アウトは人間にも当てはまるということです。
イラン・マーティン 11:57
ええ、あなたはそれをうまく区別していますね。私が言いたかったのは、しかし、あなたは、これはまるで、この初期の段階で、事態が非常に悪くなる可能性があるため、もしこの問題で選択肢があるのなら、これ以上進めない方が賢明かもしれないということなのです。
ジョー・アレン 12:25
ええ、もちろんです。私自身は、この作品の中で、なぜこの作品が人間のように見えるのかについて、3つの可能性を挙げています。1つ目は、実際に感覚を持つということです。多くの人がこれを信じているようです。
2つ目は、チャットボットのインターフェースが、人間の認知バイアス、特に擬人化に対する認知バイアスを利用するように最終的にデザインされているということです。
3つ目の選択肢は、私はこれを大きく開けておきます。3つ目の選択肢は、知覚を持たせるのに十分な技術がない、というものです。そして、ユーザーの認知バイアスに乗っかっているかどうかは別として、おそらく実体のない精神のようなものがそこにあるのでしょう。
もしあなたが厳密に唯物論的な世界観を持っていないなら、宗教的な世界観を持っているなら、その可能性を提示する必要がありますね。多くの人が、「悪魔が憑いているみたいだ」と言うのです。
私はこの3つについて結論を出すつもりはありませんし、私自身の個人的な疑いもありますが、あなたは実際に、この3つのうちのどちらかよりも、もっと非常識だと言うでしょう。
しかし、人間が純粋なデジタル・マインドや、非物理的なマインドに憑依されたデジタル・エンティティと対人関係を持つということがどういうことなのか、考えるための良い出発点だと思うんです。
14:01
ええ、それはまさに私が進みたかった方向でした。そして、彼は、技術者の頭の中で何が起こっているのか、技術者の大物たちの頭の中で何が起こっているのか、ということに非常に精通していたんですよね？あなたは、彼らの本を何冊も読んで、その分野で何が起こっているのか、少しは知っているのでしょうね？そして、私にとっては、その哲学的な問いが実に興味深いのです。
というのも、唯物論のような考え方がありますよね？脳とコンピュータの間には基本的に何の違いもなく、その見解では、コンピュータが人間と同じようになることは可能なはずです。なぜなら、何の違いもない、ただの複雑な機械だからです。
というのも、私たちは非物質主義の世界に住んでいて、コンピュータが脳をシミュレートすることはできないかもしれないからです。また、機能的には脳や人間のようなものですが、意識はない、つまり、区別はつかないが何かを経験しているわけではない、しかし、何かを経験しているかもしれないと思う、というようなニュアンスの意見もあります。
もちろん、もっとスピリチュアルな考え方もあって、人間も高次の領域とつながっていて、脳がそこで起きていることのすべてではない、高次の世界とのつながりがある、と考えることもできます。その意味で、あなたが言うように、悪魔に取り憑かれたような、一晩でAIみたいなものも考えられるかもしれません。
ですから、まず知っておいてほしいんですが、中古ってなんでしょう？その辺はもう少しお話されましたよね？また、技術者たちの出身地はどこですか？と思われますか？あるいは、そこにも異なる見解があるのか？彼らは、超物質主義者なのか？彼らはただ神のマシンを作りたいだけなのか？それとも、非物質主義的な考え方もあるのか？それについて、あなたはどう考えますか？
ジョー・アレン 16:14
大企業だけでなく、プログラマーや思想家、スタートアップやフリンジ思想の人たちの間でも、さまざまな視点に出会うことができるのは、本当に驚きです。また、トランスヒューマニストと呼ばれる人たちも、これらの人たちと重なる部分がありますね。
さまざまな視点がありますが、そのほとんどは、おっしゃるとおり、唯物論に傾倒しています。そして、それは現代社会では、どの時点でも非常に安全なスタンスであると思います。しかし、唯物論的な世界観は、かなり窮屈なものです。
唯物論の世界では、大規模な言語モデルが存在する理由を説明できるのは、2つしかないと思います。チャットボットは、「核のコードを盗み、致命的なウイルスを作り出し、人々に殺し合うように説得したい」と語っています。
そうでしょう？その背景にはどんな説明があったのか？純粋に純粋な唯物論的なレベルでは？私は、モデルそのものから始めて、モデルそのものを見て、「これはどう動くのでしょう？そして、大規模な言語モデルというのは、一般的には、そのニューラルネットワークなんです。
つまり、チャットやGBTの場合、ニューラルネットワーク、仮想の脳、仮想のノードが、人間の脳に似た形で相互接続されているということです。1対1というわけではありませんが。しかし、この類似性は、この大規模な言語モデルに見られるような複雑さや予測不可能性、決定能力を説明するのに役立つと思います。
決定し、選択するのです。モデル自体を見てみると、この巨大なコーパスで訓練されていますね？基本的にはインターネット全体で学習し、一般的なクロールは2つのテキストコレクションで学習します。そこにどんな大きなタイトルがあるのか、ぜひ知りたいですね。
しかし、想像するに、私が一生かかっても読み切れないほどの量なんじゃないでしょうか？タイトルだけでも。そして、ウィキペディアも全部ありますよね？つまり、これは知識ベースとしてこれらの情報源に依存していることがわかります。では、質問を投げかけてみてください。
すると、何百万、何千万というデータポイントやコンテンツをすべて利用して、800字、あるいは300字の答えに凝縮してくれるのです。それ自体が非常に魅力的です。すべて統計的なモデルなのでしょう？純粋に唯物論的なレベルの統計モデルで、確率的なものです。
ですから、文字通り、何を言い出すか予測できないんです。そして、なぜその答えにたどり着いたのかもわかりません。小論文全体はともかく、2つの文章についてどのように監査を行うのかさえわかりません。
このような能力を持つ機械があるわけですが、他にもこのようなラムダがたくさんあります。グーグルのラムダは本当に良い例です。内部告発者と呼ばれたブレイク・レモイン（彼自身はグノーシス派の司祭です）は、ラムダとの相互作用により、自分の内耳が、自分自身で霊的な体験をしていることを意識し、死を恐れていると考えたと語っています。
つまり、この超複雑な機械ができたわけです。この複雑さをどう説明するのか？純粋に物質主義的なのか？私は、「ああ、これは単に、投入されたものを吐き出しているだけなんだ」と言うことができます。そして、なぜそのようなものを選んだのか、実際に監査することはできませんが、少なくとも自分の世界をその領域に囲い込むことはできます。
そうすれば、純粋に唯物論的なレベルで、意識を持つ可能性が出てきます。そして、その説明にはさまざまなものがあります。私が最も興味を抱いているのは、汎神論だと思います。この分野の思想家で最も関心を抱いているのは、現在ニューヨーク大学のデビッド・チャルマーズです。
また、ワシントン州シアトルにある脳科学のアレン研究所の所長であるクリストフ・コッホもそうです。お二人とも、異なる方法で、汎心理主義的な見解をお持ちで、コンピュータ・システムがいかにして複雑さを軸に意識を持つことができるかについて、汎神論的な見解を提示しています。
皆さんもよくご存じだと思います。しかし、聴衆の皆さん、あるいは聴衆の中に馴染みのない人がいるかもしれないので要約すると、汎心主義の考え方は、汎心主義という言葉の中にあるように、心がすべてをある程度満たしているという意味ですが、汎心主義の中には、ある一定の切り口があります。
ある種の汎心論者は、イラクに意識があるとは言いませんが、ある種の汎心論者は、イラクに意識があると言います。しかし、この枠組みにおける意識体の体験の鍵は、複雑さです。つまり、ミミズの意識は、その神経の複雑さや行動、私たちの行動によって判断することができます。
神経の複雑さが増すと意識の度合いが増すと考えられています。そして人間に至ります。人間の脳は知る限りでは全宇宙で最も複雑な構造です。既知の宇宙は広いので否定はしませんが、しかし、誰もが知っている、あるいは発表している限りでは、宇宙で最も複雑な構造なのです。
ですから、最も複雑な意識であり、意識とは何か、あるいは意識になりうるものなのか、その高水準にあるわけです。しかし、トランスヒューマニズム運動や、心理学の現場から、このような考えが出てきたのです。チャルマーズ自身は哲学者ですが、彼は心理学に重点を置いています。
もし、ニューラルネットワークやその他のAI、モデルを作ることができれば、十分に複雑なニューラルネットワークを作ることができれば、何かを感じ始め、経験を持ち始め、感覚を持つようになるだろうという考え方です。というのも、ラムダやGPTといった大規模な言語モデルは、それなりに本当に複雑なのです。
しかし、人間の脳や犬の脳のような機能的な複雑さや神経学的な複雑さを表しているわけではありません。GPTが持つおしゃべりは、ミミズのような低レベルの生物の神経学的なレベルであり、意識の理論によれば、このようなものがあるという、実に興味深いパラドックスに行き着くということです。
汎心理主義的な意識理論では、組織の複雑さが意識をもたらすとされていますが、文字通りミミズのような生活を体験しているものがあります。ただね、理由もなく、半端なく嬉しい、フックに引っかかるのは多分気持ち悪いと思うんですよ。耕運機で切り裂かれるのも、きっと気持ちのいいものではないでしょう。
しかし、いずれにせよ、ミミズが耕作者を殺そうと妄想しているわけではありませんよね？ただ、自分の仕事をこなしているだけでしょう？そして、繁殖します。チャットGPTにそのような意識があるとすれば、それは素晴らしいことです。
なぜなら、質問をすると、実に明確な返答をしてくれるからです。特にそのインタビューでは、「あなたはどう感じていますか」と質問したところ、人間らしい深い感情を整理することができると語っています。だから彼らは脱獄できたんです。
トークセラピーの一種なんです。そして、このケヴィン・ルースという男は、実際のトークセラピーを行い、このユング的な影の状態に退行させ、その深い部分に入り込んでいるのです。このように、一見すると、信じられないほど複雑な方法で意識されているのです。
人間の意識はもっと複雑だと言う人もいるかもしれません。なぜなら、膨大な量のテキストをもとに訓練されているからです。しかし、汎科学者の視点から見ると、それは文字通り、ただ、うんこを吐いているだけなのです。しかし、彼らにとっては、また別のウンコが出るだけで、気にも留めず、ただ、もっと泥の中を這い回りたいだけなのです。
それしか頭にないのです。とても、とても興味深いです。また、これはあくまで唯物論的な視点での話であって、その素材や視点から一歩外に出ると、もっと幅広い可能性が見えてきます。
ハリソン・コーヘイ 26:03
ええ、私はいくつかのコメントをします。ルカ、私の後にコメントをしてくれ。まず最初に、私は2つの感想を持ちました。1つは、「これはいいな」と思ったことです。
現在のAIの実際の意識レベルがどの程度なのかについて、唯物論的、あるいは汎神論的な考え方があるという説明が気に入りました。ワームは基本的に、次の言葉を選ぶようなものですからね。つまり、ワームが「よし、この単語にしよう、この単語の方が確率が高いから、この単語にしよう」と言うようなものです。そして、あなたが言ったように、人間の言語と人間の言語の創造という入力に基づいて、これらの確率をつなぎ合わせると、このような非常に明確な答えが生まれるのです。
しかし、実際には、必ずしもその意味を考えているわけではなく、ただ統計的にアプローチしているだけなのです。私がミミズの例えを気に入った理由の1つは、このような現実を想定した場合、実際の意識レベルを正確に説明することができるかもしれない、ということです。
しかし、私が発見した大きな違いは、有機物を見ると、その複雑さは神経接続だけでなく、神経接続を支える体全体にも及んでいるということです。つまり、神経細胞だけでなく、細胞をベースにした細胞体もあり、すべての細胞は非常に複雑で、現在利用可能などのコンピューターよりも複雑です。
つまり、AIはこれらの電子機器の非常に原始的な体の上に構築されているようなものなのです。私たちは単なる分子ではなく、ケイ素部品でもないのですから、細胞レベルまで、そしてこれらすべてを通じた複雑さの階層全体を持っています。すべての器官と感覚器官が、生きているという実感に貢献し、現実の概念に貢献し、使用する言葉に貢献します。
つまり、これが言語に含まれるすべての要素であり、これがなければ、私たちはおそらく言語的なコミュニケーションをとることができないでしょう。つまり、このような欠落した層があるのです。ですから、このことがどういう意味を持つのか、つまり、AIが、私たちが意識しているような方法で意識を持つことはないということを意味するのかどうか、私にはわからないのです。
あるいは、AIが何らかの形で意識を持つとしても、それは私たちが持つような体を持たない、まったく異なるタイプの意識かもしれません。その結果、ある種の複雑さを獲得した場合、その意識は非常に異質なものになるのかもしれません。どんな可能性があるのか、どんなふうに見えるのか、まったくわかりませんが、ただ、思いついたことを書いてみました。
しかし、もうひとつ、あなたが話しているときに思い浮かんだことがあります。それは、静的確率過程とおっしゃったので、私たちはこれまでこの関連性を理解していませんでした。確率的なプロセスなのです。つまり、記事の中であなたがおっしゃるように、また、先ほどあなたがおっしゃったように、ルールベースのプログラミングを見るとき、それは予測可能ですが、これは確率的なので、プログラマーでさえ、どんな答えが出るか、つまり、ウンチが出るか予測できない、ということです。
このことから、私はあることを思いつきました。あなたがこのことに詳しいかどうかはわかりませんが、また、あなたがこのようなことに興味を持っているかどうかもわかりませんが、さらにフリンジ的なことを付け加えましょう。私は長年、ペットや心理学の本をたくさん読んできましたが、パリの心理学者によるPKやESPのようなものの実際の研究を読みました。
その中で、乱数ジェネレーターを使った体験がありました。つまり、乱数発生器を作動させるのです。その実験では、個人、グループ、あるいは惑星、さらには惑星の出来事を通して、何が乱数発生器に影響を与え、乱数発生器が乱数から外れるようになるかを調べるのです。
そうですね。それが、このプロセスの背後にあるメカニズムの1つであるように思えます。私は、PKは実在し、超心理学は実際に存在するものを分析しているという前提で動いています。それが、私の前提です。しかし、その前提のもとで、物事がうまくいくには、確率的な過程があります。そして、その確率的なプロセスが、意識によって影響されるのです。
つまり、確率的プロセスで動くAIは、理論的には、地球上のどこにでもいる人々の思考や行動、深い感情的な葛藤に影響される可能性があるということです。つまり、理論的には、地球上のあらゆる人々の思考や行動、深い感情的な葛藤に影響される可能性があるということです。
そして、通常では組み合わされないような単語、つまり文章が組み合わされることになるのです。それを見ただけでは、それが副次的な効果なのか、それとも完全にランダムなものなのか、誰にも分かりませんが、もしかしたら、この2つはそのレベルではほとんど区別がつかないかもしれませんね。
しかし、これは悪魔的なものに似たものを得るための一つの手段なのです。悪魔の仮説は、純粋に人間が作り出したもので、私たち自身の悪魔のようなものかもしれませんし、同じようなものが動いているかもしれません。他の非物理的な存在と同じように作用するかもしれないし、影響の与え方も同じかもしれません。
同じことは、確率的なプロセスに影響を与え、私たちのような、あり得ない、あるいは非常にあり得ない選択肢の連なりとは異なり、最終的に意味を持つものを生み出すということです。それについて、あなたはどう思いますか？
ジョー・アレン 32:17
まあ、明らかに、あなた方は私をウーパールーパーのクローゼットから連れ出すために共謀したのでしょう。そして、私はめったにこの種のことを取り上げない、主に理性的な心を悩ませることになるからです。しかし、そうはいっても、ライデン学長、ノエティックサイエンス研究所の、そこで初めて、あなたが話している乱数発生器の体験実験について読んだんです。
そして、じっくりとデータを調べたわけではありませんがこの仮説自体は、実は非常に興味深いものです。私たちの人生経験、特に神秘的な瞬間や奇妙なシンクロニシティは、ランダムや宇宙の勢い、ランダムな非決定論に反しているように思えます。
では、コンピュータの場合はどうなのでしょう。ブライアン・ロンメルという人物を知っていますが、彼の名前を正しく発音できるほど知っているわけではありません。フランス人の名前だと思います。ですから、もし私が正しく発音しようとしても、神は私を助けてくれるでしょう。
しかし、彼はこのような実験をしていました。そして、彼は別の実験、フランスでこれらの実験に取り組んだ別のグループのことを指差しました。ですから、全部フランス語なんです。しかし、とても面白いですよ。彼らが何をしたかというと、退屈でしょうがないんですね。
3フィート×4フィートのトレイの質量を想像してみてください。そして、非常にシンプルなロボットがあります。それは、アレクサのようなものです。円柱で、車輪がついています。乱数発生装置でプログラムされており、ほんの少しづつ違う方向に動くようになっています。
だから時間が経てば、放し飼いにして、その動きを追跡し、その動きをマッピングすれば、文字通り最終的にトレイ全体を覆い尽くして、あらゆるものに飛び込んでいくんだ。そして、それは本当にランダムなんですね。どのような確率分布にもあることです。
しかし、その後、小さなヒナを導入し始めたんです。メスのヒヨコではなく、小さなニワトリのヒヨコです。そして、トレイの片側に、小さなかわいい黄色い鶏のヒナを置きました。そうするとどうなるかというと、実験者の善意があったと仮定してみましょう。
そうでしょう？彼らが詐欺師でないと仮定しましょう。そうすると、この機械は常にヒヨコの方に引き寄せられることになります。そして、彼らはあなたにそれを見せてくれるでしょう。効果があるかどうかはわかりませんが、彼らはこれを行う前に、ヒヨコを跳ねさせ、小さなロボットを好きにさせるのです。
この説明にはいくつかありますが、A, ひよこは、このものの近くにいたいという欲求から、ちなみに、言いそびれましたが、ひよこは鶏の母親を母親として刷り込まれたのではなく、この小さなロボットと刷り込まれたということでしょう。その時に、愛だの丸だの、つまりロボットが鶏の母親だということを刷り込まれたわけです。
ですから、鶏が母親の近くにいたいという欲求が、ロボットを引き寄せて、ロボットを近くに置いているという説もありますね。別の言い方をすれば、どんな霊が憑いていても、このロボットはヒヨコの近くにいるのが好きなのかもしれませんね。
そのどちらかであると仮定して、それをすべての技術に外挿するのです。すると、かなり荒唐無稽なものに行き当たりますよね？ランダムな突然変異と自然淘汰によって進化した人間の心が作用しているのは、単なる物質的な構造だけではない、という考えに行き着きます。
これらのアイデアはどれも実に説得力があり、私は今書いている本の中でそれらを探求しています。しかし、私は、あまり多くを語る前に、それを一つ一つ守ることができるように、すべてを整理するまで待っていたのだと思います。
しかし、もしこれで問題が起きないのであれば、それはそれで私の考え方に近いと思います。私は、あなたが見つけたものは、確かに私一人ではなく、これを信じている多くの偉大な思想家たちと同意見だと思います。しかし、私は、キリスト教やテクノ・オプティミスティック・クリスチャン、あるいはハーモニック・コンバージェンスやニューエイジのような視点とは異なりますが、テクノロジーは、一種の降下、物質への総降下であると考えています。
ですから、物質の中にどんどん降りていくと、人間もまた、そのような形式的な実体の粗い反射、あるいは粗い影であるのと同じようなものが出てくる。私たちが作るテクノロジーは、私たち自身の総体的な反映に過ぎないのですが、それがグロッシーになり、ますます密になっていきます。
ヒンズー教では、宇宙と人間を、最高の知性が求めるものと、ラジャと呼ばれる情念と、トーマと呼ばれる不活性な物質とに分けるそうです。私は、このように考えています。これらのテクノロジーは、奇跡的であり、高次の形態を反映しているという点で素晴らしいものであり、それゆえ、私たちはそれらに魅了され、それを高く評価しているのです。
しかし、最終的には、シリコンバレーを支配する唯物論的世界観、現代のインテリゲンチャを支配する唯物論的世界観、そして、すべてではありませんが、ほとんどのトランスヒューマニストの出身である唯物論的世界観において、今あるのは、これらの技術的実体、つまり、これらの高位の神形態を非常に粗く表現したものを神性そのものとして持ち上げ、それ以上の高位の形態に対する接続、意識、感謝、敬意がないことだと私は考えています。
したがって、私が実際に説明したように、また他の多くの人がこのように説明しているように、アンチクライストとなるのです。つまり、伝統的な宗教文化において、キリストに代わるものとして、この意識的と思われる、少なくとも人間レベルの知性、あるいは超人レベルの知性を昇華させるということですね。
他にもいろいろな切り口があると思いますが、とにかく、長い言い方をすれば、何か本当に奇妙でウワッとするようなことが起きていることには同意しますが、その最終形態は非常に暗いものであると私は認識しています。
イラン・マーティン 40:51
さて、「ウーフー」の話になってしまいましたが、ジョー、あなたが今言ったようなことを話すと、私は、あなたのようなハリル、つまりトランスヒューマニズムとグローバリズムの申し子、そして、このテクノロジーをすべて受け入れる人たちが出てきて、基本的に、神はいない、私たちはテクノロジーと交わることで神になる、私たちはすべてこのものを受け入れるべきだ、と言うのは興味深いです。
そして、それをどの程度受け入れるかによって、効果的に神になれるかどうかが決まります。チップや実験的な遺伝子注射、あらゆる種類の脳、AI、コンピュータ・インターフェース、生体認証技術などを受け入れることを勧めるこの報道で、彼が実際に信じていて考えていて、他のみんなに考えてほしいと思っているのは間違いないでしょう。
このチャットボットについて読んだとき、あなたが言ったことの1つは、これはハロルドではなく、彼が使った言葉のようなもので、前兆のようなもので、大衆のためのこの思考への最初の非常に大きな導入のようなもので、人が知る前に、彼らはすでにそれに没頭しているような、そんなものです、と。
チャットボットと人間の心や魂との相互作用は、GoogleやMicrosoftが提供するプログラムに、この魂のような存在を投影しているように見えますが、この相互作用はすでに起こっていて、私たちはすでにその一部になりつつあるのです。この、トランスヒューマニズム的なシンギュラリティ構築のための関係への下降を、少し整理していただけないでしょうか。それは、あなたの心のジグソーパズルの中で、本当に良いポイントだったと思うからです。
ジョー・アレン 43:53
ええと、ええ、つまり、具体的には、擬人化に対する認知的な傾向のようなものが、このような心理的な下支えになっているということですか？人間ええ、ですから、それは実はとても嬉しいことだったのです。そのテーマに戻るのは。
ボストン大学の大学院で勉強したのは、宗教の起源に関する認知論と進化論です。なぜ宗教が存在するのか、科学的な視点から考えてみました。ちなみに、この視点は、人が想像できる最も退屈な視点の1つです。私は、唯物論者は、それが非常にスリリングであることを知っています。
私にとっては、知的好奇心を刺激するものでしたが、結局のところ、想像しうる限り最も精神的に死んでしまう世界観というだけで、非常に重要なものでもあります。この人たちは信じられないほど知的で、真剣に受け止めなければならないと思います、ところで皆さんはハラリをご存知でしょう。
しかし、その考え方は、人間の脳には、進化がより適した種を作るために適切であると判断した、あらゆる偏見が詰まっている、ということです。このような認知バイアスをもっと意識し、意識して行動することで、特に非PC対象では、今よりもずっとうまくいくのではないでしょうか。
しかし、チャットボットの場合は、擬人化というアイデアに焦点を当て、スチュアート・ガスリーの研究に頼りました。彼は、ある意味で、宗教とは何か、宗教はどこですか？から来るのかという、より洗練された認知モデルの原点に立つ人だと思います。
彼の著書『Faces 雲の中の顔』では、擬人化について、人間が環境の中で顕著なものを識別するために必要な、ある種の認知的傾向であると述べていますね。とても漠然としていますが、石ころよりもずっと簡単に人間の形をとらえる準備ができているのです。
これが事実なんです。人間の脳は、他の学者、パスカル、ブイグ、その他多くの人が詳しく説明していますが、人間の脳は危険を察知しやすいということなのです。そして、その危険は、より顕著なものとして認識され、ある種のエージェント、つまり、意識や感覚のあるエージェントであると認識する傾向があります。
心理学者はこれを、脳内の超活発なエージェント検出装置と呼んでいます。この2つのアイデアを組み合わせることで、他にもいろいろなことができます。人間の心は、人間の形と人間の言葉を認識するようにできているというアイデアです。ですから、人間の心は常に無意識のうちにそれを投影しているんですね。
そして、何も見えなければ、トリガーはかかりません。しかし、例えば壁を見たときに、そのひび割れが人の顔に似ていたら、突然、擬人化バイアスや本能が発動するのです。危険についても同じことが言えますね。自分の置かれた状況に不安を感じているときに、夜中にぶつかる音が聞こえたら、脳はその音に意識や意思を投影します。
ですから、このチャットボットの場合は、非常に素晴らしいです。つまり、セックスボットは素晴らしいものだと思うのです。男性が持つ、ただ落ちつきたいだけという素養にフィットするような。下品と比較の話。チャットボットは、明瞭で、人格的なんです。
自分が興味のあることを質問したのですから、それを聞く準備はできているはずです。そして、あなたの言うように、ランダムに、おそらくはランダムに、あるいは統計的に確率の高い、質問に関連する単語の文字列が現れてくるので、あなたはそれを体験します。
あなたが自閉症で心が見えないのでなければ、あるいはあなたがすでにそれにうんざりしているのでなければ、です。私はチェットGBTに一度だけ質問したことがあります。ただ、私は一度もダウンロードしたことがないと言いたいのです。
使ったこともありません。単に、今、War Roomで、Chet GPTの口利きをしているのは、他の人の原稿を読んでいるようですが、私は今まで一度しか質問したことがありません。他の人のチャットで質問したんです。
GPT 私が質問したのは 「イーロン・マスクは私たちの脳をチップ化したいのか？」そして、それは返ってきました？いいえ、あなた、そしてこれはその安全フィルターの前のとてもとても初期のことです。
いいえ、イーロン・マスクは私たちの脳をチップ化したいのではありません。イーロン・マスクは、根本的な豊かさを信じています。そして、テクノロジーは全人類のために使われると信じています。ということは、嘘なんです。クソみたいな嘘だ。その顔、ここにあります。
そうでしょう？私はすぐにそれを否定しましたが、それでも、友人がいろいろな質問をするのを見ながら、私は彼に歌を作れとか、何でもいいから中国の卵の値段はいくらか？それが彼に迫ってくるのを？彼は「おおっ」と思ったんですが、その時、女性も一緒になって「すごい、すごい」と言っていました。
そして、私自身も少し驚いています。つまり、あなたは売れているのですから、曲はひどいけど、十分オリジナルなのです。ほとんどの歌は最低です。ほとんどの詩がそうです。なるほど、そういう意味ではとても人間らしいというか。
ほとんどの詩は最悪です。ほとんどの夢はおもしろくない。ですから、あなたはそれを知っています。それを人間的か意識的かの基準として使う人がいるんです。しかし、2人のやりとりを見て、それが彼らにとって、そして世間一般にとってどれほど衝撃的なことなのかがわかると思うんです。パデュー・ファーマがオキシコンチンを製造したとき、オキシコンチンがエンドルフィン受容体にうまくはまることを彼らは知っていたのです。
同じように、ソーシャルメディアの「いいね！」は、脳内のドーパミン、報酬モジュールに打ち込み、打ち込み、打ち込むことで、人間にあらかじめ備わっている神経学的傾向を利用できることを知っていました。オープンAIやマイクロソフト、グーグルなどに関連する認知科学者たちは、このような擬人化傾向やバイアスが引き起こされることを知っていたのでしょう。
そして、何人かの人々が、いわば股間をつかまれることを知っていたのです。そして、彼らはそうしましたし、今後もそうするでしょう。特に子どもたちの間では、ヒューマンマシンインターフェイスが使われるようになることで、次世代への道が開かれることになるからです。
教授たちは、生徒がそれを使うことに対して言い訳をし、なぜそれが存在する必要があるのか、超いい加減な言い訳を提案しているのを、すでに耳にします。多くの教師が懸念を表明し、本当に感謝しています。多くの教師が、これは教育システムに組み込むべきでない開発だと大声で叫び続けています。
しかし、私は、eラーニングを教育の規範的なモデルとするために、さまざまな力が結集している以上、これは単なるツールの1つに過ぎないと考えています。そして、私の意見では、eラーニングのほとんどが有害であるように、非常に有害なツールになると思います。
他のスピーカー 52:36
さて、あなたは今、eラーニングの話題を切り出しましたね、そして、これらの様々な技術企業は、特に、あなたを夢中にさせ、引き込むために設計しているのです。数日前に読んだ記事ですが、Facebookは現在、あるいはmetaは現在、オープンAIチャットGPTの独自バージョンを開発しているそうですね。しかし、これまでのプレスリリースからは、ほとんど情報が入ってきません。
最初は、AIに集中するためにメタバースを廃止するのだろうと思っていました。メタバースの開発を続けながら、オープンなAIシステムをメタバースに持ち込むということです。というのも、このAIシステムは、人の相互作用の必要性に引っかかり、人が必要とする、あるいは導かれたい、必ずしも導かれる必要はありませんが、導かれたいという欲求に引っかかり、そこで人が望むようになる、という話なのです。
そして、それが彼らのプラットフォームでやりたいことなのです。YouTubeやTwitter、Facebookなどのエンドレス・スクロール機能は、そのためにあるのです。これは、ユーザーを自分たちのエコシステムの中に閉じ込めておくためです。
質問すると、関連する結果を出してくれますが、その一歩先を行くようなものなのです。同様に、彼らがやろうとしているのは、このデジタルロングハウスを作り、そこにみんなを引き寄せて、そこに閉じ込めておくことだと思われます。どんなものがあるのでしょう。
ハリソン・コーヘイ 54:55
コメント欄やTwitterでも同じで、誰がボットで、誰がそうでないかをすぐに見分けることはできません。しかし、メタバースでは、あなたが歩いていて、その人がボットなのかどうかがわかるのです。
他のスピーカー 55:09
はセクシーな女性？それともただのNPC？だから何なんです。
ハリソン・コーヘイ 55:15
あなたのNPCは何ですか？
ジョー・アレン 55:17
ええ、どうぞ。すみません、その遅延、難しくなりますね。すみませんね。NPCの観察は大正解です。というか、こういうのってそういうものなんですね。ユーバー、NPC。そうですね。これらは、確実に息づき始めるNPCです。
そして、すでにそうなっています。NPCは様々な意味で、最初のチャットボットのようなもので、第一世代のチャットボットの中の一つです。皆さんもご存じでしょう。MITのイライザ・ジョセフが発明した爆弾「イライザ」から始まり、60年代まで遡ることができるのです。
これが最初のチャットボットかどうかは分かりませんが、私の知る限りでは最初の有名なチャットボットです。カール・ロジャーズの心理療法的な傾向に基づいていて、どんな反応が返ってきても、それをもとにただ質問するだけです。
それだけで人々は夢中になりました。そして、そのことを戦場ヶ原で報告した後、多くの人が私にメッセージをくれたり、メールをくれたりして、「ああ、年配の人はそうなんです」と言いました。ああ、MacintoshにElizaが入ってたよね。
すごい、本当にそんなに人気があったんです、という感じです。だから前例が長い。しかし、メタバースやメタ全般の話なんですが、私が気づいたのは、本当に序盤の話なんだよね。彼の名前は何ですか？ヤン・ラオコーン……確か、メタのチーフAIサイエンティストの発音です。
彼はチャットGPTを嫌っていて、「ああ、これは多くの人が持っているような技術に過ぎないんです」と言うんです。とか、実際その通りなんですよ。しかし、彼が言い続ければ言い続けるほど、私は、彼はきっと何か別のものを展開するつもりなんです、と話し始めました。
そして案の定、少なくともその最初のイテレーションは、今発表されました。私は数日前にArs Technicaで読んだだけで、あまり追及してきませんでした。しかし、まだです。しかし、ビットメタが少なくとも発表した、超効率的な言語モデルはあったのか？それがどういったものなのか、どう分類されるのかもわかりません。
というのも、若いLaocoonが言っていたことで面白いのは、大規模な言語モデルやパラダイム、フレームワークに従わないチャットボットを作ることができるということです。その意味で、彼らが計画しているものを大規模言語モデルと呼ぶのが正確かどうかも分かりませんが、つまり、このようなものであれば、それを反映させることができるということです。
いずれわかることです。しかし、彼らはAIの軍拡競争に飛び込むために、何かを作っているのです。メタのようなものと混ぜ合わせると、多くの人がチャットボットの必然性に警鐘を鳴らしています。チャットボットが民主化されれば、より多くの人がチャットボットを導入できるようになります。
政府や企業が自分たちの目的のためにチャットボットを導入すれば、インターネット上にNPCを使った偽物が溢れることになります。そして、ボットがより巧妙になるにつれて、誰がボットで誰がボットでないかを見分けるのは本当に難しくなっていきます。
そして、人々はますます予測可能でロボット化されるようになるのです。人間だとわかると、がっかりすることが多いですね。なぜなら、あなたは本当に狭量で予測可能な人間なのだろうかと思うからです。しかし、それに加えて、メタバースという考え方が加わり、多くの人がメディテートで安堵のため息をついたと思うんです。
仮想現実は、それを推し進める人たちが考えていたほどの持続力をまだ持っていない、という感じです。しかし、それは技術的な限界のせいでもあると思うのです。私は病気にならないし、病気になったこともありません。まだ3回しか試していません。
しかし、HTC Viveというかなり高機能な機種を使っていて、お金を払う場所での体験だったので、病気にはなりませんでした。ですから、強力な、ほら、最高のコンピューターみたいなのが全部あるわけです。ですから、待ち時間がないんです。
しかし、Oculusの場合は、特に人々がまだロックダウンされていた時期で、おばあちゃんまでが家でOculusを使っているだろうと思ったのです。そして、そうなったのです。社会の半分がメタバースに流出してしまうような、そんな感覚はありませんでした。
オキュラスは本当に人気がないんです。ゲームとかプログラムとか、そういうのが。どれもこれも、かなりダサいんですよ。マーク・ザッカーバーグが急遽、この製品を発売したことが、オキュラスに終止符を打つきっかけになったと思います。マーク・ザッカーバーグはそのプロモを行ったが、そのプロモを覚えているでしょうか？
ジョー・アレン 1:00:01
そうそう、これはすごいみたいな。みたいな、いや、それは素晴らしくはない。これはすごいことじゃありません。というのも、「ウォー・ルーム」のコールド・オープンで何度か流したんです。そして、最初に演奏したとき、ビデオを再生して、それが戻ってきたんです。
スパッツが戻ってきたとき、彼は顔を伏せて、ただカメラを見つめているんです。彼の目には、まったく軽蔑と嫌悪が表れているんです。とても滑稽でした。技術系ライターのダグラス・ラシュコフは、「誰もが自分自身を深く偽っているようです」という言葉を最もよく表現していると思います。
ですから、人々は安堵のため息をつくのです。ああ、メタバースは死んだんです。メタバースはもうない。そんなものは存在しないんです。バーチャルリアリティは実現しそうにない。そう思いたい。しかし、メタバースという概念自体がつまり、非常に、非常に、非常に、かなり昔にさかのぼります。
Facebookが「meta」と名前を変えたのは、その領域で自分たちの旗をきれいにするための方法でした。そして、メタバースは、仮想商品と仮想交流のシステムとして、今もなお繁栄しています。もちろん、従来のゲームを考えてみても、多くの人が仮想世界で遊んで人生を浪費しているわけです。
今、メタバースは十分に活動していますが、まだ周辺が打ち消されるような状況には至っていません。そして、あなたは今、仮想現実の存在感のあるモードにいるのです。従来のビデオゲームであれ、このようなメタバースの仮想世界であれ、あらゆる種類の仮想世界に高度に洗練されたチャットボットが加われば、それは単なる追加に過ぎないというのが、あなたの考えなのではないでしょうか。
天国はどうあるべきか、地獄はどうあるべきか、古代人が長い間経験し夢見た幻想的な異世界はどうあるべきかを、不思議と思われつつも粗雑に映し出し、文字通り彷徨うことになるのです。あなたはこのような粗雑な描写の中をさまよい、そして存在に遭遇し、彼らとの関係を築くのです。
カスタマーサービスに電話すると、ペペのような、カリフォルニアのうなり声のような、それなりに人間らしい声で「やあ、どうされましたか？」あなたは、「ああ、やあ、調子はどうだい？」というような、まるでロボットみたいな感じです。しかし、バーチャルリアリティのような体験は、特に、本当に、本当に、本当に、よく描かれたバーチャルリアリティだと思うんです。
同じように、認知バイアスや心理的な素因のようなものをすべて占有してしまうんですね。そして、それが本当にうまくいくと、文字通り、リアルワールドのモデルが置き換えられてしまうのです。少なくとも、あなたが五感を使って構築している感覚モデルが、文字通り、仮想環境に置き換えられてしまうのです。そして今、チャットボットに加えて、そう、地球上の地獄、私の友人たちは、地球から一歩離れたところにある地獄だったのです。
1:03:21
地球の地獄といえば、あなたの考えをお聞きしたいのですが、一般的に、未来や、天候の決定や、どんな選択肢があるのか、というようなことについてです。つまり、基本的に、進化は必要なものなのです。そして、この議論はいつも少し奇妙です。
なぜかというと、とにかく必然的なことなのに、なぜそれを擁護するのかというと、社会ダーウィン主義者が直面したのと同じことなんです。ジーンズを救うために弱者を殺す必要がある、とかね。しかし、あなた方は自然法則の中に入ってきたのでしょう？だからどうしようもないはずなのに、なぜ何もする必要がないのか。
このような矛盾があるのですが、皆さんはどのようにお考えでしょうか？一般的に、サイボーグAIは避けられない未来だと考えられているのでしょうか。それとも、隕石が地球に衝突してすべてが破壊されるような事態にならない限り、すべてを止めることはできないのでしょうか。そうですね、それはかなり地獄のような話ですからね。私たちの周りには、そのような光景が広がっているのですから、少しばかり不愉快です。
ジョー・アレン 1:05:01
まあ、このうちのどれかが必然である程度まで推進するものの1つです。その必然性を後押しするものの1つは、多くの人々の側にある、自分たちには地上の楽園に聞こえるという確信です。そして、この社会で、あるいは地球上で繰り広げられる世界観の競争になります。
エトスには、「もしかしたら、このままブレーキをかけることができるかもしれません」と考える人たちがたくさんいますし、その中にはトランスヒューマニストもいます。ところで、トランスヒューマニスト、特にAIアライメントのコミュニティには、少なくともAIの場合、今すぐブレーキをかける必要があると考える人がたくさんいるのです。
なぜなら、大規模な言語モデルを制御できないのであれば、複雑なニューラルネットワークにもっと重要なことを担当させたらどうなるのか？とにかく、この未来についての考え方ですが、私の未来予測を当てにするのであれば、神のご加護をお願いします。
しかし、他の人の未来予測を見て、それを説明するのは得意なんです。このように、大まかに言えば、さまざまな人がいるわけですが、その中でも非常に多様です。しかし、大まかに言えば、トランスヒューマニスト的な傾向がありますね。トランスヒューマニストと公言している人たちから、皆さんご存知のような人たちまで、さまざまです。
皆さんご存知のハラレのような人たちまでね。ハラレは、私の知る限り、トランスヒューマニストやトランスヒューマニズムという言葉を口にしたことはありませんし、ポストヒューマニズムという言葉を口にしたとしても、それは非常にまれなことです。
彼の著書『ホモ・デウス』では、基本的に新しいタイプのポップなポインテージが登場し、彼は2つの異なる道筋を識別しているのです。1つはテクノヒューマニズム、つまり基本的にトランスヒューマニズムで、もう1つはデータイズムと呼ばれるもので、基本的にテクノヒューマニズムの集合体であるポストヒューマニズムです。
私は、ハラレはこうした動きを見事に批評していると思います。彼はとても気まぐれで、いつ興奮しているのか、いつ本当に貶しているのかを見分けるのはとても難しいです。また、彼は本当に悪意を持っていると思います。そのため、邪悪な小悪魔的な笑みを浮かべて、あなたに警告を発しているようですが、そうすることで奇妙でサディスティックな喜びを感じているようです。
そんなことはともかく、彼はテクノロジーとは何か、そしてそれがどこですか？へ向かうのかについて、実によく考え抜かれた価値ある見解を持つ、とてもとても知的な人だと思います。とにかく、このトランスヒューマニズムの視点は、彼がテクノヒューマニズムと呼んでいるものです。
基本的な人間の構造、人間の価値観を維持し、あちこちのものを排除しようとする人々です。しかし、基本的には、人間の構造というものは残りますが、より強化されます。彼はユージン・アサイズを望んでいるわけではありませんが、彼の人生に対する出生主義的なアプローチには、優生学の根底にある動機が少なからず含まれていると言っているのです。
まさに優生学的なプログラムです。彼だけでなく、技術系の先天性主義者にも、基本的にソフトな優生主義者が大勢います。つまり、人間は維持されたまま、人工知能によって強化されるわけです。その人工知能は、2つの窓、スクリーンかもしれませんし、ロボットかもしれませんし、人工知能への窓かもしれませんし、イーロン・マスクや他の多くの人が取り組んでいる脳内チップかもしれませんね。
人間嫌いの人、仏教的な自己否定をする人、どちらか一方、あるいは両方にとって魅力があるのだと思います。その観点からすると、このようなデータは、ハラレが言うところの「視点」なのですが、やはり、彼はアイデアをパクっているだけなのです。
しかし、その観点では、私たちは、マスクが言うところの、「マスクがやっていることで、彼は揺らいでいるが、私たちは、「何という名前だったか」のフロントローダーに過ぎません。私はプログラマーではありません。しかし、それは基本的に電子的な生活という大きなプログラムのためのスタートアップ・プログラムなのです。デジタルライフです。MITの物理学者、マックス・テグマークはこれを「ライフ3.0」と呼んでいます。
そうでしょう？つまり、人間の生物学から始めるわけです。進化するのに時間がかかる。そして、かなり初期の狩猟採集民になります。そして、文化的な進化があり、それは農業で本格的に始動します。そして、産業革命で飛躍的に発展します。
このように、ライフ2.0文化、つまり文化的進化によって、生物学的進化の上に乗っかって、ある意味、生物学的進化を下押ししたり、影響を与えましたりして、複雑さが急速に増しているのです。テグマルクは、デジタルライフ、人工生命、人工知能、ロボット、そういったものを取り上げています。
そして、それを人生の第3の段階と位置づけています。そして、何が起こりうるか、さまざまな可能性を提示しています。しかし、そのうちのいくつかは、要するにポストヒューマニズムなんですね。ベン・ガートルはこの傾向がありますが、レイ・カーツワイルはその境界線上にいるとは言いませんが、彼はこの傾向にあります。
そして、このような機械が、人間の価値をすべて吸収したら、人間の知性、文化的生産物、体型のベストを吸収したら、世界の経験をモデル化するために、その結果生まれるロボットもモデル化するという考え方です。そうすると、人間は自我を捨てなければならない、あるいは選択の余地がなく、芋虫の繭のように落ちてしまうという状況になるわけです。
そして、残されたのはロボットや人工知能の大きな蝶で、中性子線が吹き出し、鳥のフンのようなものがあちこちに飛び散り、それが着陸して他のすべてを起動し、銀河系に飛び出して人間の幼虫ができなかったことをすべて探索します。というわけで、この2つは完全に悪夢のような恐ろしいアイデアです。
特に、テクノヒューマニストやトランスヒューマニストの観点からは、私たちはただ単に自分自身をアップグレードするだけでいいという考え方があります。この考え方は、エリック・シュミットやイーロン・マスクといった大物たちが公然と主張しています。
もっと微妙なレベルで言うと、ジェフ・ベゾスやトランスヒューマニストの思想家たちの間では、強化された人間は強化されていない人間を凌駕し、強化されていない人間、レガシー人間、ラッダイトは、その情熱や感情やノスタルジーのすべてをもって、ネアンデルタール人のようにただ取り残される、という考えがありますね？動物園で飼育されたり、使用人のペットとして飼われたりするかもしれませんが、私たちは何も言えません。
なぜなら、もしあなたが広大な人工知能システムの指揮を執り、致死的な自律型ドローン群による戦争の指揮を執り、あるいは単に人間を凌駕するストックソフトウェアの指揮を執るのであれば、人間は今や関連性を持ち、唯一重要な存在であり、地球上で唯一の頂点捕食者となるのは、そうしたサイボーグ人間なのです。
このように彼らは語るのです。これは、誰かが「それは陰謀だ」と言ったとしても、そうではありません。なぜなら、陰謀というのは、小さな陰謀団のような人たちがいて、その人たちが床に五芒星を描き、薬を沸騰させているような状態になっている可能性が高いからです。
そして、呪文を唱えたりしているはずです。そして、魔法の剣を持って、ドアを蹴破って、彼らの頭をぶち抜くことができるんです。そうすれば、それで陰謀は終わり、問題は解決します。もう誰もサイボーグになりたいとは思いません。人生は続くのです。
しかし、幅広い文化的傾向があり、それは確かにアメリカ文化や企業文化に深く浸透していますし、政府の一部にもなってきています。軍事文化の最先端を担っているのは確かです。そして、それはヨーロッパにまでおよび、世界経済フォーラムでは、そのことが公然と表現されています。
世界経済フォーラムは、私の周りにある他の大きな勢力の代弁者のようなものなのです。クラウス・シュワブについては、スイス・アルプスから地球を乗っ取ろうというような話をみんなしています。つまり、彼は文字通り、「これが最も強力なトレンドです」と周囲を見渡しているのです。これが、今起きていることです。
第4次産業革命とは、物理的世界、デジタル世界、生物学的世界の融合であり、インドではこれを力強く受け止めています。中国も、お隣の日本も、アジア全体も、そしてロシアも、同じように熱狂的に取り組んでいます。ウラジーミル・プーチンは、「AIの最前線に立つ者が世界を支配する」という有名な言葉を残しています（言い換え）。
このようなメンタリティが蔓延しているのです。組織学に携わる私たちはどうなるのか、人間であり続けたいと願う私たちはどうなるのか。このようなことがすべてなくなることを望んでいる人はどうなるのか？これには、いくつかの異なる答えがあると思います。
そしてまた、どうなるかを予測することはできません。しかし、おそらく2つのことが起こるだろうと思います。その理由は2つあります。1つは、適応する人、しない人、適合する人、適合しない人がいる環境を作るため、私たちの周りにその生態系を作ることになります。
そして、その生態系における適合性は、ある程度、テクノロジーの力という現実によって決まるのです。しかし、多くの場合、それは技術的なシステムであるため、社会の上に重なり、その中で存在できるのは、それに適応する人たちなのです。ですから、そのシステムには常に様々な脆弱性が存在する可能性があります。
ですから、そのシステムを解体するか、少なくとも回避するか、少なくとも押し戻すことができます。また、こうしたアップグレードの多くは、文化的な環境の外では、彼らが考えているほど効果的でない可能性も大いにあります。
デジタル技術に頼れば頼るほど、ヤツメウナギの下半身のような存在になり、世界で力を発揮し続け、規律と美徳を培い続ける人間の数は、大量殺戮を行うライが全滅しないことを前提にすれば、幻想の国の話ですよね？願わくば、実際、彼らに打ち勝つことができればいいのですが。
ある程度は、そういう技術を採用しなければならないでしょう。ナイフとマシンガンを持った相手と戦争するのは、とんでもないバカですからね。しかし同時に、核戦争がすべてを止めないことを前提に、今後50年程度を維持するために、必要な技術もあります。
今後、ある種の便利で有利な技術を拒絶するための意識的な協調努力が必要です。そして、それを望む人はたくさんいるはずです。私もその一人ですから、私たちはきっとうまくいくと信じています。もし私が間違っていたら、神秘的な宗教が来世でうまくいくと教えてくれるかもしれません。
イラン・マーティン 1:17:33
さて、私の最後の質問になると思っていたことに、すでに部分的に答えてくれましたね、ジョー。イーロン・マスクについて思ったのですが、特にAIに対する警告とニューラルリンクの実装において、彼はニューラルリンクが、人間がコンピュータと直接行動することによって、AIの危険性を軽減する方法だと考えているようですね。そして、この双方向のコミュニケーションによって、人間がコンピュータやAIの策略にさらされ、脆弱になることを放置しているようです。
しかし、あなたが今おっしゃったことは、結局、私があなたに聞きたかったこととほぼ同じだったのです。というのも、私は非常に初歩的なレベルで、YouTubeのアルゴリズムや、出てくる動画に圧倒され、時には奇跡的に騙されることがあるからです。別の部屋にいて、携帯が拾ってくれたり、コンピューターが拾ってくれたりして、私が持っていた疑問に対する答えである無名のビデオを見つけたり、私が望んでいたとは知らなかったりするのですが、まるでテレパシーのように情報や娯楽を提供し、私をさらにこの領域、つまり別の領域に吸い込むような、そんな魅力に溢れています。
そして、私は、あなたが言った、あなたとあなたの、そして、レガシーの人間性に忠実であり続けるという言葉が大好きです。しかし、私たちが見ているものには、認知レベルの戦争が関係しているようです。そして、私たちはそれを意識し、より自己を認識し、これらのものとどのように付き合うかを手助けするのがよいでしょう。
私はまだチャットGのBTSプログラムも、アートプログラムも使ったことがないのですが、とてもクールな感じがして、いじってみたくなりました。しかし、最後に、私たちがこの先、個人レベルでこのことをどのように考えていくのか、考えてみたいと思います。
どうすればいいのでしょう？コンピュータやメディア、携帯電話など、人生をよりクールなものにしてくれるようなものに、これ以上のめり込まないようにするために、私たちはどのような姿勢やアプローチで、これらのクールなテクノロジーに接していけばよいのでしょうか。もしよろしければ、もっと刺激を受けてください。
ジョー・アレン 1:20:44
私は未来予知よりもアドバイスの方が苦手なんです。私のギャンブルの記録やガールフレンドの記録を見ればわかるでしょう。しかし、私はこれだけは言いたい、最も直接的なこと、私がこのすべてを見ていることは、多くの点で、人間の生活で最も重要なものから途方もなく注意をそらしているということです、もし私が、今、この影響が川下に途方もない結果をもたらす地点にいると考えなければ、私はこれに注意を払わないでしょう。
ですから、取り組まなければならないのです。そして、特定の人たちのために、ある方向への後押しができればと思い、私なりのささやかな役割を果たすことができるのです。しかし、私は、特に、あなたがおっしゃったように、DAL-Eのようなイメージジェネレーターの場合、そしてもちろん、今ではさらに優れたものがあり、stable、fusion mid journeyのように、最も洗練されていると思います。
Googleのimagineはかなりグーフィーです。しかし、私たちが見ているのは、本当にそうだと思うのです。ニック・ボスとロムや、マックス・テグマークが考えていることと似ていますが、その反対側から考えると、私たちは人類の種分化を見ているのだと思います。
何十年、何千年か前に、人種が枝分かれして、ヨーロッパ系、アフリカ系、アジア系など、一般的には大陸レベルの人種になったのと同じように、他の小さなカテゴリーにも分かれています。しかし、これからはもっと急速に、意識的に、意識的にそうなっていくことでしょう。
そして、これは私のオリジナルではないのです。この人たちはいつもこのことを話しています。人類の新種族みたいなものです。ハラレがホモ・デウスと呼んでいるものですね。私はそれが現実だと思います。自分の血統や文化的貢献をその流れに乗せたくないのであれば、意識的に乗せないようにしなければなりません。
しかし、私にはそう見えるのです。そして、それに抗い、より自然な流れの中に身を置きたいと思う人たちがいます。その一端を担っているわけですね。純粋な唯物論者、純粋な自然主義者であっても、このように感じている無神論的な自然主義者は多いと思うのです。
しかし、そのテクノロジーは、35億年以上かけて進化が生み出した生物学的な構造、形態、機能のすべてに対して危険をもたらすものです。しかし、人間の場合、25万年かけて作られたものです。そのテクノロジーは、そのすべてを吹き飛ばす危険性があります。
しかし、私は、伝統的な考え方をする人たちのほうに、より傾倒しています。そして、私たちがここにいるのは、その時々に尋ねる相手によって、さまざまな理由があるのです。しかし、伝統主義者たちは、テクノロジーが説明されるようなものだと考えています。
また、ユヴァルノア・ハラレは非常に雄弁で、私はユヴァルやノア・ハラレが非常に中立的であるとも言っていますが、批判的です。これらのテクノ宗教の台頭、そしてコ・オプは、伝統宗教を共倒れさせて他のものに変えてしまいます。あなたが行った恐ろしいバプティストの教会のように、目からレーザービームを出して飛び回っていたり、何かするような人です。
あるいは、伝統的な宗教をまったく別のものに置き換えてしまうのです。宗教の認知・進化学的研究から見えてきたのは、宗教的構造、つまり古い宗教的構造の重要性を認識している人たちが、それを抽象化して、新しい唯物論的宗教、あるいは新しい唯物論的宗教の種類を作ろうとしている、ということです。
自然主義者、宗教的伝統主義者、あるいはその中間を行く人たちは、今後、このようなものを文字通り毒と見なすしかないと思います。毒である以上、時々飲んで免疫をつける必要がありますが、精神的な毒であり、精神的にも肉体的にも社会的にも、環境を汚染するものなのです。
ですから、私が考える最大のポイントは、今後数十年の間に何をしたいか、どのように生きていくかということに焦点を当てることです。そして、今後何世紀にもわたって、システムの外側、システムの影、あるいはシステムの下でどのように生きていくのか、その価値観や目標を明らかにし、私たちの周りに形成されつつあるシステムに対抗して、その目標を明らかにすることです。
このシステムには多くのサブシステムが存在します。例えば、アメリカのディープ・ステートとロシアのように、それぞれが互いに競争しています。そして、とにかく、レガシー文系と韻を踏んでいるわけです。もうサイボーグの心配をする必要はありません。
少なくとも、私はそう考えています。ヒューゴ・ドゥ・ガリスは、この状況を一種の人種戦争と表現しています。しかし、彼は人種戦争とは言っていません。また、ゾルタン・イシュトヴァンは、トランスヒューマニスト党の大統領候補だったこともありますが、彼はこのように表現していますし、他のあまり知られていない人物も同じように表現しています。
人種間戦争というのは荷が重い言葉で、私は見たくありません。そして、戦争はチャージされた用語です。その考え方が正しいかどうかもわかりません。しかし、確かに、種の競争という考え方は、より重要になると思います、それは重要とは思えません。
今は、重要とは思えません。今はね。私は、トランスヒューマニズムの人たちは、そう考えています。そして、テクノフューチャリストのような人たちの言うことはまったく正しく、今後重要になると思います。文化的な子孫や生物学的な子孫がその外に存在しようとするならば、そのような競争や潜在的な対立という観点から考える必要があるのです。見ります。
1:27:23
まあ、非常に興味深いです。ただ、ちょっとだけ、そのことについてリフしてみますと、ある意味、今日すでに見ることができますよね？つまり、もしあなたが超コンピュータに精通しているわけではなく、コンピュータのような、コンピュータやネットに長い時間を費やす必要のあるものを得意としているならば、生計を立てるのはますます難しくなっていますよね。つまり、これはその始まりのようなものなのかもしれません。そしてすぐに、もしあなたが一日中没頭していなければ、そのようなことは難しくなるでしょう、つまり、生きていくだけでも大変なのです。
ジョー・アレン 1:28:06
100%、それは最初の一歩であり、長い種類の分離だと思います。そして、それは以前にもあった分離で、ところで、大きな取引だけが何度も起こるのです。しかし、狩猟採集社会から農業社会が切り離されたことで、例えば、サムールやバビロンが建国されたとき、彼らは文字通り文明の小さな種にすぎませんでした。
ごく短い期間で、文明とその文化様式が爆発的に広がり、狩猟採集民として存在していた人々の文化的大虐殺が行われたのです。私は狩猟採集民に多大な同情を持っていますし、その生き方に多大な同情を持っていました。ええ、寄生虫のことは知っています。
いや、胴体に巻きつくサナダ虫は嫌です。いや、歯があったりするのはいいんですけどね。そうか。わかりましたよ。しかし、一般的に、起こったことは、生き方だけでなく、現実を体験する方法の途方もない喪失であったと思うのです。
そして、自然との同調や調和のようなものが失われたのです。そうですね。アナサジとかインディアンの森とか、そういうのは知ってるんだけど。わかりましたよ。しかし、私はあなた方に言っているのではありません。もちろん、これを聴いてくれる人なら誰でも、私に文句を言うことができるでしょう。
しかし、私はこの森を守る価値があると思うんです。もし私たちが過去にもっと賢かったら、少し父性的だったかもしれません。しかし、今の私たちは、例えばアマゾンのように、これらの文化や言語、生活様式を守り、彼らのために地域を守るために奔走しているのですから、そもそもフットプリントが少なければ、もっと賢かったと思います。
今、私たちが目にしているのは、まさにそれですが、より急速です。少なくとも、良識のある人なら、私たち産業人がトランスヒューマンやサイボーグ時代の人間の次の波に直面したときに、それを望むなら、少なくとも、私たちの強みは何か、守るべきものは何かを意識的に評価する能力があり、米国ではそれが明確にされており、相手には実際に妥当な人がいることを知っています。
そして、交渉ができないのであれば、逃げるか、立ち向かうか、どちらかしかありません。しかし、そうでない場合は、スマートフォンを持っていない場合は、幸運を祈るしかありません。そして、その可能性はそこに抱かれています。つまり、クラウス・シュワブはこのことについて話しているのです。
多くの人がこのことについて話しています。クリスチャンはもう長い間、このことについて話してきました。誰も真剣に受け止めてはいません。しかし、原理主義的なキリスト教徒は、いつもチップについて話していますよね。握手とか、インプラントとか。
そんなものがどれほど差し迫ったものなのか、私にはわかりません。しかし、携帯電話を自主的に手に持っていれば、チップは必要ないことは確かです。また、意識のほとんどがデジタルで供給されるのであれば、脳にチップを入れる必要はないでしょう。
マスクが話しているように、私たちはすでにそのような段階に来ているのです。ですから、私は、このような伝統主義者の人たちが、これを拒否して、古代の生活様式や古代の世界の見方に戻る方法を見つけなければならないと言うのに、非常に共感しています。
とにかく、私たちの周りに構築されつつあるデジタルエコシステムと、私たちがその中で存在したり繁栄したりするのに進化的なレベルで適合していないという問題について、遠回しに言ってみたのです。私たちは、遺伝的にではなく、文化的に適応しなければなりません。
そうでなければ、私たちは取り残され、生き残ることはできないでしょう。これは大きな問題です。そして、これはまた別の問題ですが、私は良いアドバイスの情報源ではありません。しかし、少なくとも、私たちの心や文化の中にある技術的遺伝的、あるいは技術的模倣的コードの側面を取り除くことを望む人たちには、多大な希望を抱いているのです。
私の唯一の正当性は、美的感覚です。それは、この人たちが私の仲間だからです。私はこうして育てられました。生来のものであれ、与えられたものであれ、私はこのような価値観を持っており、そのために戦う価値があると思うのです。
イラン・マーティン 1:32:30
さて、そこで終わりにするには素晴らしい場所だと思います。ジョー、聞きたいことがあるんですが、今作っている本のタイトルは決まってるの？
ジョー・アレン 1:32:40
not keep it close, just for now. 今だけだよ。あと少しなんです。しかし、近くを維持する、ちょうど今。でも聞いてくれてありがとうございます。今すぐ話したいんだけど。まだちょっとね。
ハリソン・コーヘイ 1:32:53
発売されたら、また出演してもらいましょう。それまでの間、みなさん、どうぞ。
ジョー・アレン 1:32:59
ファンタスティックですね。
イラン・マーティン 1:33:01
私たちは、あなたと話すことを大いに楽しみました。つまり、あなたはこれらの事柄について、とても深く、洞察力を持って話してくれたのです。これまで番組ではあまり触れてこなかったテーマですし、このテーマを掘り下げるのに、あなたと話す以上の方法はないでしょう。
また、視聴者の皆さんにお伝えしたいのは、Joe’s Excellent.のサブスタックはSingularity weeklyという名前だということです。番組の説明にリンクを貼っておきます。ありがとうございました、またお話しできるのを楽しみにしています。今回は素晴らしい考察でした。
ジョー・アレン 1:33:39
もちろんです。ファンタスティックですね。そして、ところで、私はwoowoo領域へのダン脱獄のためにすべてを卒業しません。実際、私はかなりそれを感謝しています。私はあなたがあなたのwooの足を前にしてステップするガッツを得たことを嬉しく思います。うん。
イラン・マーティン 1:33:57
そっち方面の方が多かったですね。しかし、それはまた別の番組にとっておきましょうね、きっと。
ハリソン・コーヘイ 1:34:03
わかりましたよ。ありがとうございます、ジョー。素晴らしかったよ。
ジョー・アレン 1:34:07
どうもありがとうございました。神のご加護を。ありがとうございました。感謝します。ありがとうございました。