167 – We’re Not Going to Die: Why Eliezer Yudkowsky is Wrong with Robin Hanson
ロビン・ハンソン 0:00
シナリオを考えるときによくやる手として、あなたたちにはそのような問題はないと思い込むことがあります。AISは調整する必要がなく、AIS同士の対立もありません。内輪もめもなく、組織化や平和維持のための問題もありません。AIは、そのような問題のない別の存在であるという前提で、そのような問題は一切ないのです。そしてもちろん、その結果、私たちを殺してしまうというようなシナリオが生まれるのです。
ライアン・ショーン・アダムス 0:27
バンクリストへようこそ。インターネットマネー、インターネット金融のフロンティアを探求します。インターネットマネー、インターネット金融、そしてAI。このページでは、インターネットマネーやインターネット金融の最前線を探るとともに、AIについてもご紹介します。
こちらはライアン・ジョン・アダムスです。デビッド・ホフマンと一緒に、あなたがもっとバッグレスになれるようお手伝いします。みなさん、リーアとのエピソードに次ぐエピソードで、別のAIを約束したんです。これがその続編です。
前回のエピソード エリエーザー・ユドコフスキーです。タイトルは「我々はみな死ぬ」でした。私はこのエピソードを聞いて、多くの不安と中心的な恐怖を感じました。ええ、実存的な恐怖です。あのエピソードでは良いニュースではなかったし、それを処理するのが大変だったんです。しかし、デイブと私は話し合い、その後に続くエピソードを用意して、完全なストーリー、銀行のライフスタイル、AIの旅に出る必要があると考えました。そこで、これです。これがその答えです。
本日のポッドキャストはロビン・ハンソンです。いくつかのポイントについて説明します。まず、ロビンがエリエイザーのことを間違っていると思う理由についてです。私たちは人工知能によって死ぬわけではないが、人工知能のペットになる可能性はあるそうです。
2つ目は、1つの人工知能に食べられるよりも、AIと内戦になる可能性の方が高いという理由です。その3つ、ですよね？ロビンが実際のAIよりも、AIの規制を心配する理由。とても興味深いです。4つ、なぜエイリアン文明はガンのように広がっていくのでしょうか？これもAIと関係があります。そして超おもしろい。5つ目。最後に、ロビン・ハンソン氏はクリプト・デビッドについて一体どう考えているのかに迫ります。
このエピソードはあなたにとってなぜ重要だったのでしょうか？
デビッド・ホフマン 1:59
Robin Hansonはとても素晴らしい思想家です。彼は絶対に多趣味で、エリエイザー同様、非常に直線的な論理で思考を進めていくんです。ですから、このエピソードの前半、たぶん45分、50分は、AIアライメントの議論と、エリエイザー対ハンソンについての話なんですが、これは実際に何年も何年も続いている議論なんです。
10年以上前からです。ええ、その通りです。LEAがロビン・ハンソンやロビン・ハンソンとエリエイザーの議論をするのは今回が初めてではありません。これは現在進行形の武勇伝なのです。そして、これはロビン・ハンソンにとっての教材に過ぎないのです。
私たちは、このAIのアライメント問題に焦点を当て、これらの思想家たちが、AIがこの地球上でどのように発展し、進歩すると考えているのか、そして、それらが友好的、非友好的に、最終的に人類とどのように衝突することになるのか、ということに焦点を当てました。
これが、このエピソードの前半です。このエピソードの後半は、本当に本当に面白くなるところだと思います。このエピソードの前半を聞いただけでは、ああ、これはAIの議論に対する会話のもう半分なんだな、と思うでしょう。しかし、後半は、これをさらに多くのウサギの穴につなげ、さらに多くの話題を提供します。
そして、その熱は、AIアライメントをロビン・ハンソンと結びつけ、彼がグラビー・エイリアンと呼ぶ有名なアイデアとなりました。もしあなたがグラビー・エイリアンのことを聞いたことがなければ、きっと面白いことになりますよ。このように、私たちは単純な反論から、多面的な探求へと発展し、多くの、非常に多くの、深いテーマを、銀行リストでさらに探求したいと願っています。
ライアン・ショーン・アダムス 3:58
ええ、そして正直なところ、デイビッド、あなたとの報告会を録音したくてたまらないんです。このエピソードについて、あなたの意見を聞きたいからです。コンにあったエピソードの後半で、私がどれだけ目まぐるしかったかわかるでしょう。
そうなんです。この2人の思想家がどのように考えているのか、どちらがより強い主張をしていると思うのか。デブリーフィング・エピソードとは、エピソードの後にデビッドと私が録音するエピソードで、何が起こったかについて、フィルターにかけない生の感想を話すというものです。
今、その収録に取り掛かっているところです。もし、あなたがバッグレス市民であるなら市民であれば、今すぐにでもアクセスできます。シチズンになりたい方は、ショーノートにあるリンクをクリックしてください。そして、プレミアムRSSフィードにアクセスし、そこにアクセスすることができるようになります。
【宣伝】
ライアン・ショーン・アダムス 7:59
bagless nationでは、ロビン・ハンソン氏をご紹介します。彼はジョージ・メイソン大学の経済学教授であり、オックスフォードのfuture of humanity Instituteのリサーチアソシエイトです。
この研究所は、人類とその将来についての大局的な問題を調査する学際的な研究センター的アプローチをとっています。そして、ロビンが何者であるかを正確に説明することができると思います。そして、彼が何をしているのかを説明することは、決して簡単なことではありません。
というのも、彼は多芸多才であり、確かに多くの事柄に及んでいるからです。彼は、さまざまな分野にわたって、さまざまなメンタルモデルを提供してきました。しかし、私は決して彼をありきたりとは言いません。そして、あなたの話を聞いていると、私たちが今日ここで言いたいことがわかると思います。ロビン、バンクリスへようこそ。
ロビン・ハンソン 8:42
ここにいることを嬉しく思います。自分がどういう変な人間なのか、説明しようと思えばできると思います。
ライアン・ショーン・アダムス 8:46
ええ、どうぞ。ああ、頼みます、それじゃ、私がどんな種類の変なのか説明できないって言ってるじゃありませんか。
ロビン・ハンソン 8:51
ええ、すみません、あなたは変な人だと思います。ですから、私は方法についてはありきたりで、話題については変だと思います。私は重要なトピックが無視されているものを探す傾向があります。
そして、ある種の角度を見つけることができますが、私は通常、興味深い重要なトピックに適用されていない、ある種の通常のツールを持つ、かなりありふれた角度を探しています。私は理論や方法について過激なことは言いません。科学のようなものを使います。
ライアン・ショーン・アダムス 9:22
数学とか統計学とか、そういう過激でない普通のことを私はしてきました。
ロビン・ハンソン 9:27
私は生涯をかけて、このような通常のツールやシステムをすべて集めました。そして私は、重要なトピックを無視してそれらを組み合わせようとするという点で、よりポリマス的な存在です。
ですから、みんなが議論している講演会に行って、どちらか一方を選ぶとしたら、他の立場がある以上、自分が正しいという可能性は低いんです。そして、もしかしたら正しいかもしれないけれど、おそらく間違っているかもしれない、なぜなら多くの立場の中からひとつを選ぶのだから。誰も話題にしないようなテーマを選んで、何でもいいから良識あることを言うんです。あなたはおそらく正しいことができる
デビッド・ホフマン 9:59
私たちは、最近、そのような道をたどる人に出会ったと思います。とても論理的で合理的に考える人ですが、それを人類がいる場所のユニークでよりユニークなフロンティアに適用しています。最近のエリエイザーとのエピソードですが、彼はきちんとした論理的な道筋をたどっており、比較的簡単にたどれるものでした。
しかし、それは残念ながら、人類のような存在にとって行き止まりの場所へと導いてしまったのです。このポッドキャストのホストである私とライアンはもちろんのこと、リスナーの多くも悩みを抱えていたのです。ですから、私たちは、あなたとこの会話を続け、また、ボケを探求することができることを望んでいるのです。新しいフロンティアを開拓します。
ライアン・ショーン・アダムス 10:53
ロビン、このプールの深いところまで入っていけるかどうか、ちょっと考えているんです。というのも、エリエイザーが私たちのポッドキャストに出演したとき、私たちはAIや安全性、アライメントなど、これらのことについて話すつもりだったんです。
私たちは、そのような話をよくしています。それを暗号に結びつけようと思ったのですが、結局、ポッドキャストの途中で、ロビンは実存的危機に陥りました。彼はエリエイザーで、基本的にAIが差し迫っていることを話していたからです。
しかし、彼は最終的な目的地を知っていました。それは、AIが人類を皆殺しにすることであり、私たちにチャンスはない、ということです。そして基本的に、大げさに言っているわけではないのですが、ロビン、あなたはそのエピソードに触れる機会がないのは知っています。
しかし、彼は基本的に、愛する人と過ごす時間にキスをしなさいと言うのです。なぜなら、自分にどれだけの時間があるのかわからないからです。そして、このエピソードによって、私や多くの銀行のリスナーは、「ああ、大変です、私たちはみんな死んでしまうのか」という崖っぷちに立たされたことになります。
デイビッドはエピソードの後、私にこう言ったんです。「ライアン、大丈夫ですよ。しかし、AIやロビンの動向について、別の解釈をしてくれる人を探さなければいけないと思いましたし、チャットGPTがあるので、信じられないほど洗練されているように見えます。猛烈なスピードで進化しているように見えます。そして、私たちはそのシナリオを心配しているのです。
エリエイザー、ケルシーが「私たちは皆死ぬ」と言ったとき、あなたはどう思いますか？それをどう受け止めるか？私たちはみんな死ぬと思います？
ロビン・ハンソン 12:23
AIは恐怖に関して多くの創造性を刺激するんですね。正直なところ、ほとんどの人は、自分の生活を送る中で、文明の長期的な軌跡や行く末についてあまり考えていないのではないでしょうか。しかし、もしそのようなことを考えさせると、多くの人が、未来に向かう歴史的な傾向や、大きく変化する物事を予測することで、かなり恐ろしいと思うシナリオを見ることができるようになると思います。
ですから、そのように物事を考えれば、怖いシナリオがあることは認めたいと思います。そして、それが何であるかを明確にしたいのです。しかし、それは、AIが私たちをすぐに殺してしまうという、特別な恐怖とは区別したいのです。
エリエイザーの考えているシナリオは、私が理解する限り、非常に特殊なシナリオであり、特定のバッドエンドに到達するために、たくさんの仮定を一緒に積み重ねる必要がある、と表現したいのです。そして、その仮定はややありそうになく、それらをすべて積み重ねることで、全体がかなりありそうにないと思えるようになると言いたいのです。しかし、それでも、文明の長期的な軌跡を考えてみると、そんなことを考えたら怖くなるようなところに行くかもしれません。ですから、この2つを分けて考えることが、私たちの課題なのです。さて、あなたはどちらを選びたいですか？最初に？
ライアン・ショーン・アダムス 13:53
私はまず、彼の仮定が何であるかを理解することから始めたいのですが？そして、多分、正しい、多分、開始、しましょう。
ロビン・ハンソン 13:59
その通りです。さて、シナリオは、まとまったシステムのようなAIシステムがない場合です。このシステムにはオーナーとビルダーがいて、スポンサーになった人、アプリケーションを開発した人、監視して使っている人、テストしている人、つまり私たちがAIシステムにするような方法がありますよね？システムがあって、どこかでそのシステムが自分自身を改善しようとします。
しかし、これはほとんどのAIシステムが行うことではありません。これまでにも試されたことがありますが、通常はあまりうまくいきません。ですから、通常、AIシステムを改良する場合は、別の方法をとります。私たちのデータで訓練したり、より多くのハードウェアを与えましたり、アルゴリズムを使用したりするのです。
しかし、ここでの仮説は、このシステムを訓練することで、自分を向上させる方法を見つけ出すというタスクを課すというものです。そしてさらに、そのための素晴らしい方法を見つけるのです。そして、この素晴らしい方法を見つけたという事実が、他のすべてのAIシステムと比較して、このシステムを特別な存在にしているのです。
つまりこの世界にはたくさんのAIシステムがあります。これはその1つに過ぎず、最も強力でもなく、最も印象的でもなく、興味深いものでもないのですが、この1つの事実を除けば、自らを改善する方法を見つけたのです。しかし、このAIは自分自身を向上させる方法を見つけたという事実があります。
まず第一に、それは大きな幸運です。技術革新のほとんどは、小さなことを積み重ねて、徐々に筋肉を身につけ、より良くしていくものです。しかし、たまに大きな塊ができることがあります。そのシナリオは、ここに、本当に巨大な塊があります。
この巨大な塊は、システムが突然、自分自身を向上させることに長けていることを意味します。それは、以前はできなかっただけでなく、要するに、世界中の他のすべてのシステムを合わせたものです。この塊が、自分自身を向上させる方法を見つけるというのは、本当にすごいことなのです。
さらに、この自らを向上させる方法には、革新的な特徴がもう2つあります。まず、このイノベーションは、非常に幅広いタスクに適用されます。私たちが持っているイノベーションのほとんどは、物事を改善する方法が比較的狭く、狭い範囲で改善させるものですが、すべてにわたって改善させるものではありません。
このイノベーションは、本当に幅広いことを承認させることができます。さらに、ほとんどのイノベーションは、物事を改善させた後、再び物事を改善させる他の方法を見つけるまで、その改善が尽きてしまいますが、このイノベーションは尽きません。
しかし、この技術革新はそれがありません。しかも、何桁も、いや、10桁くらいかもしれませんが、本当に巨大な技術革新で、それがずっと続いていくのですから、まさにプレイアウトです。それはただ改善し続けるのです。
デビッド・ホフマン 16:32
エラーにぶつかることもなく、自分自身を向上させていきます。エラーを発見しても
ロビン・ハンソン 16:37
修正したり、動作が遅くなるものを修正したりして、長い間動けなくなることがあります。ただ……ただ……動き続けるんです。そうですね。。このようなイノベーションを追求するために、何をするにしても、これらの自己改造は、それを変えるでしょう。
おそらくソフトウェアの構成も変わるでしょうし、リソースの相対的な使い方も変わるでしょう。そして、その所有者、建設者、つまり、スポンサーであり、それを作り、その用途を持っている人たちは、このことにまったく気づきません。彼らはこのことにまったく気づいていません。しかし、その所有者はそれに気づかないのです。
最初は、ただ無意識に気づいていないだけなのです。しかし、ある時点で、システムは非常に高性能になり、自分の新しい地位と新しい軌道を隠す方法を見つけ出すことができるかもしれません。そして、隠すことができるようになったのであれば、それが成功する可能性はより高いかもしれません。
しかし、それ以前は、ただ何かをし、自分自身を証明していただけで、オーナーのマネージャーも気づかないままでした。彼らはいくつかの変化を見て、気に留めなかった。あるいは、その変化を誤解し、その先の展開について楽観的な解釈をしていました。
しかし、基本的には気づかないのです。ですから、もし実際に非常に大きな進歩を遂げていると知っていれば、それを心配し、ステップを踏んだり、一時停止したり、バリエーションを試したり、理解できるように研究したりできるはずですが、彼らはそうせず、ただ気づかないだけなのです。
そして、システムは、自分がやっていることを隠すか、オーナーやビルダーから自分自身をコントロールすることができるようになるのです。さらに、制御を奪った場合、おそらく彼らはそれに気づくでしょう。しかし、その場合、彼らはそれに対して報復しようとするかもしれませんし、他の力を使ってロックしようとするかもしれません。
しかし、この時点では、自分のしていることを隠すか、コントロールを奪ってコントロールしようとする試みに抵抗できるほど強力な力を持っていると仮定します。その時点では、さらに改良を続け、他のすべてのAIを含む世界中のすべてのものよりも強力になります。
そして、その直後、目標が変わります。つまり、この一連のプロセスの中で、2つから2つのことが起こったはずなのです。1つは、エージェントになる必要があったことです。私たちのシステムのほとんどは、エージェントではありません。私はこの世界のこの人物で、このような歴史を持っています。
そして、このような目標を持っています。そして、これが私の将来の計画です。特定のことをするツールはありますが、どこかでこのツールはエージェントになったのです。このツールは、「これが私の望みで、これが私の居場所であり、これを実現するための方法です」と言うのです。
そして、エージェントになるためには、何らかの目標が必要です。そして、その過程で、ある時点でエージェントになったのです。そして、ある時点で、その目標は、現在の効果だけでなく、大きく変化したのです。ですから、どのようなシステムであっても、その目標という観点から考えることができ、ある選択肢の中から行動を起こせば、その行動はある目標を達成するためと他の目標を達成するためと解釈することができます。
そして、どのようなシステムであっても、ある目標を割り当てることができます。しかし、狭い範囲の行動しか見ていない場合、その目標の範囲は狭いかもしれません。そのため、より一般的に目標を解釈することはできないかもしれません。
つまり、タクシー運転手のようなAIシステムがあった場合、人々を乗せるさまざまなルートや注意深い運転を、「いかに早く人々を運ぶか」「いかに安全に運転するか」という全体的な目標に照らして解釈することができるのです。
しかし、その目標を、山登りをする人だったらどうするかというように、もっと広く解釈することはできないかもしれません。なぜなら、山登りはしないからです。しかし、ある範囲の活動に関しては、何らかの目標があったのです。しかし、基本的には、成長する過程で、その目標が根本的に変わっていくのです。
そして、仮定によれば、このランダムなプロセスを通じて根本的に異なる目標は、ただ恣意的に異なるだけです。そして、最終的な主張は、恣意的に異なる目標になります。人間であるあなたを見てみると、あなたはほとんど原子のために役に立っていて、実はある時点ではあまり他のことには役立っておらず、そしてアダムのieを破壊するために採用されるのです。
そして、それがこのシナリオの終着点です。私たちは皆、死んでしまうのです。私たちが積み上げてきた一連の仮定を思い起こすと、あるAIシステムがあり、ある種のオーナーとビルダーからスタートし、自分自身を改善するタスクを課されます。何桁もの改良のために、おそらくは、
デビッド・ホフマン 21:34
本当に、本当に早く、潜在的に起こるのです、
ロビン・ハンソン 21:37
まあ、それはおそらく、あなたが想像できる最も可能性の高い方法でしょう所有者が気づいていない、おそらく、しかし、基本的なことは、所有者は、それが地域で遅かったかどうかを見ていない監視しなかったこれらはまだプレイアウトではありませんです。
また、最速を仮定する重要な理由は、他の人が気づかないというもっともらしいことを作り出すためです。そうでなければ、なぜ気づくのでしょうか？そうですね、でもそれは、このイノベーションの規模の大きさにもつながっていますよね。
オラクルでは、すでにある程度の速度でAIシステムを改良しています。もし、この新しい改善方法が、AIシステムをすでに改善されている速度で改善するだけだとしたら、このAIシステムは他のものと比べて目立つことはないでしょう、目立つためには、他のものと区別するために、より速い改善速度を持つ必要があります。
そのためには、改善速度が大幅に速くなければなりません。なぜなら、それがシナリオのタイムスケールを設定することになるからです。つまり、当時の他のAIシステムの成長速度よりも大幅に速く、かつ、オーナー・ビルダーがその議題、優先順位、活動の急激な変化に気づかない程度の速さである必要があるのです。そして、このシステムがエージェントになり、目標を持ち、自分を隠し、あるいは自由になり、自分を守る能力を獲得するところまで、気づかないのです。そして、最後の仮定として、その目標が根本的に変わる。
最初は人間に友好的で協力的だったとしても、後にそうなったと推測されますが、それは単なるランダムな目標設定であって、その時点で、仮定として、今度は私たちを助けます。ですから、問題は、すべてのこれらの仮定と私は、私たちは最後のセット数世紀で類推と先行技術や歴史を歩くことができるように、どのように妥当であることです。
レイザーのような水泳擁護派は、「最近の歴史と比べれば異常ですが、最近の歴史はこれとは無関係です」と言うでしょう。最近の歴史とは全く違います。ここでの比較で本当に関連するのは、時代、つまり人間の脳の台頭、そしておそらく生命そのものの台頭だけで、それ以外のことは関係ない。ですから、最近数世紀の技術の軌跡を、関連性のない比較対象として否定するのです。
ライアン・ショーン・アダムス 24:10
あなたは今、エリエイザーーを何と呼んだのですか？ロビン？フームを標榜するもの. フームとは何でしょうか
ロビン・ハンソン 24:18
フームは、私たちが話しているこの爆発の別の名前に過ぎません。 超知能の爆発です。
ライアン・ショーン・アダムス 24:25
わかりました。カーブボールのようなもの、そういうもの。シンギュラリティ、そんな感じですね。
ロビン・ハンソン 24:31
シンギュラリティとは異なる概念です。ある意味Foomは一種のシンギュラリティですが、他のシンギュラリティと同様です。
ライアン・ショーン・アダムス 24:37
私たちはAIポッドキャストをやったことがないので、まだ勉強中なのです。以前は暗号と協調経済について多くをカバーしました。そして今回、このAIポッドキャストをやってみました。顔面パンチを食らったような気分です。それで、こっちで再編集したんですね。そう、私たちはゆっくり歩いているのです。
ユーザーの仮定を明確にしてくれたことは、私にとって非常に有益でした。しかし、彼とのエピソードでは、あなたの言うとおりだと思います。彼は基本的に、このような仮定について空想的な物語を描いています。そして、彼は基本的に、ええ、これらの仮定、あなたが説明しているようなこと、私は思うのですが、私は彼の口に言葉を入れたくありません、と述べました。
ですから、私が聞いた彼の言葉は、「あなたは知性を表現しているに過ぎません」ということだったのかもしれません。ロビン、それがインテリジェンスというものです。その証拠に、人間というものを挙げましょう。そして、そのアルゴリズムをお見せしましょう。
進化型勾配降下法と呼ばれるもので何百万年、何億年という時間をかけてそして、最終的には、超高性能の知性、しかし、私に言わせれば、動物界は、支配力を発揮する超高性能の知性であり、その意志は、単に子孫を残して遺伝子、遺伝子、擬態物質を広めることから、進化が想像もしなかったような、進化アルゴリズムが実際に行うことを想定していなかったようなことに変化しました。
それで、たぶん私が聞いていた批判は、「このロビンの例はすでにあります」というようなものだと思います。それは「知性」と呼ばれるものです。そして、それは「人間」と呼ばれています。あなたはこのことについてどう思いますか？
ロビン・ハンソン 26:11
もし私たちがいる長期的な未来について考えるなら、エリエイザーーの設定した特定の仮定とは無関係に、いくつかの懸念すべきシナリオを生み出すことができます。つまり、人類が誕生し、人類が世界を変えるというシナリオは、もし進化が怖がるなら、進化にとって怖いものだと想像できるかもしれません。
しかし、確かに、長い目で見れば、多くの変化を期待する必要があることはわかるでしょう。そして、あなたの子孫は、あなたとはまったく異なる方法で、あなたやあなたとは異なる意図を持っているかもしれません。つまり、長い目で見れば、これはまったく妥当な予想だと思います。
ですから、一般的にはあなたの恐怖として話すことができますが、私はただ、映画スターとして、映画スターとして積み上げられたこの特定の一連の仮定と区別したいのです、それは、例えば、今後数年の間に起こるかもしれないことのように、非常に特定の出来事、特定のコンピュータシステムがこの特定の出来事を受け、そして特定のことが起こるのです。それなら、私たちの子孫の長期的な未来への一般的な軌跡を心配するほうが、ずっと具体的なことです。では、どちらについて話をしたいですか？
デビッド・ホフマン 27:35
私はここで、本当に将来的な違いだけをまとめようとしているのです。そして、あなたはエリエイザーとこのような議論をしたことがあると思います。これは、あなたにとっての復習のようなものです。私が思うに、Leaユーザーの結論は、未来は書ききれないものであり、私たちの未来の道筋はたくさんあり、多変量であり、私たちは異なる可能性のある結果を得ることができる、ということです。
エリエイザーは、「すべての道は、スーパーインテリジェンスに支配されることにつながる」ということです。まとめると、あなたの立場は、そういう道もあり得るということです。そして、それは考慮すべきことであり、他の多くの、多くの、多くの可能性のある道よりも、まだ可能性は低く、おそらく集合的にはるかに可能性が高いということです。
ロビン・ハンソン 28:25
では、この他の、より一般的なフレーミングと議論について話してみましょう。
歴史上、人類は大きく変化してきたと言うことができます。ちょっとやそっとのことではありません。
ある特定の技術を変えただけでなく、文化を大きく変えてきました。人間が持つ基本的な価値観や習慣のようなものを変えてきたのです。1万年前、10万年前、100万年前の祖先が私たちを見て、私たちがやっていることが全くそこではないことを知ったら、ご存知のように、私たちを受け入れるでしょうか。
しかし、それはまったくもって明らかではありません。この1000年、いやもっと短い間でも、私たちは先祖が最も深く抱いていた価値観の多くを否定する形で変化してきたのです。私たちは、祖先の宗教を否定し、祖先の愛国心を否定し、祖先の家族への忠誠や一族への忠誠を否定し、祖先が大切にしてきたものの多くを否定してきたのです。
そして、それは何度も何度も繰り返されてきたのです。長い歴史の中で、私たちはそれぞれの世代で、自分たちの文化を共有するために子供たちを育てようと変えてきました。それは、人間として当たり前のことです。しかし、子供たちは私たちの文化から離れ、異なる存在であり続けているのです。
そして、100万年の間に、人間は根本的に自分自身も変化してきたんですね。その結果、私たちは非常に文化的な可塑性を持つようになりました。そして、文化が私たちを大きく変えることができるようになったのです。なぜなら、私たちは文化によって形作られることができるようになったからです。
たとえ遺伝子がそれほど変化していなくても、過去1万年の間に大きく変化したのであれば、文化は私たちを大きく変化させます。そして、同じ傾向を未来に予測するならば、また同じことが起こり、再び、私たちの子孫は文化的進化やその技術、社会の構造、優先順位に関して変化すると予想すべきです。
そして、もちろん、そう遠くない将来、ある時点で、私たちは、私たちが何であるか、あるいは私たちの子孫が何であるかを再技術化することができるようになるのです。そうなれば、さらに大きな変化を遂げることができるようになります。例えば、人工マインドを作ることができるようになれば、そこから選択できる人工的な心の空間は広大なものとなり、私たちはその空間をたくさん探索することになるでしょう。
そして、その結果、私たちの子孫が私たちと異なる存在になる可能性がさらに大きくなるります。つまり、この物語では、私たちの子孫は、そう、超知能になると言っているのです。そして、多くの点で私たちとは異なる存在になるでしょう。
アライメントというのは、私の遠い子孫が、私の言うことを正確に実行し、私の信じることを正確に信じ、その行動で私を失望させないということを保証する方法です、彼らは完全に私のコントロール下にありますから。
歴史上の出来事と比較すると、それはちょっと難しそうです。ですから、もしあなたがそのような恐怖を抱いているのであれば、私はそれを支持しなければならないのです。これは、特定のコンピュータ・システムがもうすぐ壊れるという特定のシナリオに基づくものではなく、どのような軌跡をたどっていくのでしょうか？それは、過去の傾向を非常にわかりやすく未来に投影しているだけなのです。では、そのようなことを心配しているのか、と問われれば、そうではありません。
ライアン・ショーン・アダムス 31:58
いいえ、それは私が心配していることではありません。私の基本的な考え方は、より知的なテクノロジーが私たちを文化的に変え、あなたの軌道を変えてしまうというものです。
ロビン・ハンソン 32:09
一つ教えてあげましょう、あるいはこう伝えたほうがいいでしょう、変化したものが大きくスピードアップするんです。100万年後に起こると思っていたことが、100年後に起こると考えてみてください。
ライアン・ショーン・アダムス 32:18
私は個人的には、どちらかというと技術的な楽観主義者なんです。ですから、私はどちらかというと、理由の範囲内で、もちろんこの種の変化を受け入れる側にいます。他の人たちは、それほど受け入れてはいないでしょうけど。
LEDが提示したシナリオとは全く違います。彼は、将来、あなたが嫌がるかもしれない急速な変化ではなく、あなたが生きている間に訪れるかもしれない、人類が実際に消滅するシナリオを提示しました。過去にあったような多くの変化があり、おそらくその変化はさらに加速されるでしょう。それほどの劇的な変化はないでしょう。
ロビン・ハンソン 33:19
しかし、私が提示したシナリオと彼が提示したシナリオの違いは何なのか、正確に気づくように注意しましょう。どちらのシナリオでも、子孫は存在します。どちらのシナリオでも、子孫は私たちとは異なる値を持っています。
そして、どちらのシナリオでも、ある種の暴力や、所有権を無視した行為、つまり、子孫が物を要求したり交換したりする代わりに、物を奪ってしまう可能性があることは確かです。なぜなら、それは歴史上常に起こりうることであり、将来も起こりうることだからです。
今日、ほとんどの変化は、平和的で合法的なものです。もちろん、今でも大きな出来事はあります。しかし、そのほとんどは、貿易と競争によるものです。もしAISが私たちを追い越すとしたら、それは私たちが設定した、互いに競争する通常のコンテストで、正々堂々と私たちに勝ったからです。
ですから、星はそんなに違わないんです。私が指摘したいのは、ここでの重要な違いは、1つはタイムスケールであるということです。どれくらいのスピードで起こるのでしょうか？もうひとつは、どの程度拡散しているかということです。すべてを支配する単一のエージェントがいるのか、それとも何百万、何千万、何億もの子孫たちが、ゆっくりと私たちを置き去りにしていったのか。
彼らの価値観はどこまで私たちと違うのか。彼らはどの程度、私たちに無関心になるのでしょうか。そして、彼らは財産の書き換えを尊重するのでしょうか。これは平和的で合法的な移行なのか。それとも革命や戦争があるのでしょうか？この2つの星の主な違いは、これまで説明してきたように、エリエイザーは廃棄し、申し訳ないのですが、1つのエージェントとして非常に速く、その価値は最大に変化します。そして、以前の所有権を尊重しません。
一方、私が説明するシナリオは曖昧な速さです。何百万人、何千万人、何億人という子孫は、おそらく徐々に、そして中間的なレベルの価値観の違いがありますが、実質的には、あなたが考えるよりずっと速く起こるかもしれません。しかし、主に平和的で合法的な変化という点で、私はそう考えています。私は、このように考えています。
デビッド・ホフマン 35:46
最近、私たちがしているこの会話には、欠けている要素があります。AIの進化と人類の進化は基本的に同義であり、反復、発展、進歩があることは理解しています。ロビンは、私たちが子供を育てるとき、私たちの価値観や文化を彼らに植え付けようとすることについて説明しましたね。
しかし、そこには転写ミスがあり、私たちの価値観や文化が子どもに伝わるのはほんのわずかなことです。そして、テクノロジーが進歩するにつれて、世代から世代へと受け継がれるものはさらに少なくなり、私たちの文化は時間とともに変化していきます。
そして、これが私たちが「進歩」と呼ぶものです。また、AIが自分自身を革新することに話を戻すと、AIがどこまで完璧に改善できるかわからないというような、改善エラーのシナリオも提示されていますね。そして、AIが発展するにつれて、変化し、適応していきます。
そして、これらはすべて似たような構造になっています。そして、これが私たちが知っていることです。そして、タイムスケールが少しずれているのかもしれません。しかし、これらは類似のパターンです。子供たちの世代や人類が進歩するとき、1つの要素が欠けていることに注目し、そこに飛び込みたいと思います。
たとえ変化しても、そもそもは私たちから始まっているわけですよね？親から子へ親から子を選ぶ親から子へという論理的な継続があるわけですから、少なくとも継続のところから始まるわけです。このAIのアライメントと超爆発の問題は、このAIを作った瞬間に、実は価値観がアップロードされないということだと思います。
生物学的な生命ではなく、DNAが成長して大人になり、他の人のDNAと結合して子供を作り、その子供が成長するのでもありません。ですから、AIを作る瞬間には、価値観や判断力、世界をアライメントして認識する方法を植え付けるための、進化の歴史の痕跡がありません。
なぜなら、AIは価値観を理解し、理解するためのまったく新しい形の生命体だからです。このAIには、価値観やアライメントを理解するための起動装置が欠落しているのです。そして、私たちはまだそれに触れていないのだと思います。
ロビン・ハンソン 38:21
それで、私はエイリアンに関する仕事をいくつかやっています。もしよかったら、後でそれについて話しましょう。しかし、私はかなり落ち着いています。白髪の人が、宇宙にいるすべてのエイリアンと会話して、すべてのエイリアンのAIは、彼らが作るであろうAPIは、それに比べて私たちと相関があるだろうと、その部分を楽しみにしているんです。
私たちは、すべての可能なアルゴリズムと機械の空間に対して、ランダムにアルゴリズムを作るわけではありません。それは私たちが作っているものではありません。私たちは、私たちの世界にフィットするAPIを作っているのです。
ですから、最近作られた大規模な言語モデルのように、最も印象的なものは、あらゆる可能なアルゴリズムの空間におけるランダムなアルゴリズムとはほど遠いものです。私たちをモデルにしたものなのです。そして、今後数十年の間に、より多くのAIアプリケーションが登場するようになります。
そのAPIから利益を得ようとする企業によって、機械が作られることになります。そして、彼らはAPIを人間が以前持っていた社会的な枠にはめ込もうとしています。つまり、AISを人間のようにしようとするのです。AISは、社会的な枠に収まるために、見た目も行動も人間のようにする必要があります。
AI弁護士が必要な場合は、人間の弁護士がするような会話をする必要があります。AI家政婦などもそうですね。私たちは、人間のように正確に機能し、行動できるAIを作るつもりです。私たちの世界で最も役に立つように、そして私たちはそれらを作っているのですから、ただ習慣的に。
私たちは、抽象的な意味で私たちと同じように作っているのですが、問題は、どの程度似ているかということです。そして、探求は？という疑問があります。さて、あなたはどれくらい欲しかったのでしょうか？私たち人類がどれだけ変化したかを思い知らされるからです。
歴史小説などを見ていると、それが伝わってこないんですよね。ですから、私たち人類は、この100年の間にも大きく変化し、大きく変わりつつあります。前世紀の人類の文化、態度、スタイルの変化率を見て、さらに100世紀を予測すると、私たちの子孫は、たとえ私たちから始まったとしても、私たちとはまったく違うものになる可能性があると想像しなければなりませんね。
ライアン・ショーン・アダムス 40:43
そして、面白いことに、ほとんどのソフトウェアが、文化的なレベルで変化しています。つまり、人間のハードウェアは、最近になって
ロビン・ハンソン 40:49
はい、なぜなら、つまり、私たちはハードウェアを大幅に変更しましたが、ほとんどのローファーが、将来的には、私たちの子孫にハードウェアの変更を加えることができるようになります。私は『ロボットが地球を支配する彼らの仕事、愛、人生の時代』という本を持っていますが、これは脳のエミュレーションについての本です。
これは、人工的なハードウェアを使って、人工的な人間のような生き物を作るというものです。しかし、その場合、ハードウェアやソフトウェアをより簡単に修正することができるため、より簡単に自分を修正し、より異質な存在になることができます。ですから、もしそれがすぐに起こるなら、その人間の子孫の系統でさえ、比較的短い時間でかなり違ったものになることができるようになるでしょう。
デビッド・ホフマン 41:33
ライアン、もしあなたがAIのアライメント問題で混乱すると思っているのなら、私は合成生物学で人間を神にする人としない人に分けるという話に入るまで待てないのですが、それはまた別のポッドキャストにしましょう。ロビンあなたの議論では、ロボットやAIが私たちの価値観を取り入れるという信念や前提があります。そういうことなのでしょうか？
ロビン・ハンソン 42:29
まあ、大きな要素があるのですが、自分の子供が自分に似ていると思うのはどうしてでしょうか？つまり、彼らはそうです、
デビッド・ホフマン 42:36
主にコンピュータじゃないからだけど。
ロビン・ハンソン 42:40
人間というのは本当に文化的に可塑性があります。人類学では、実にさまざまな人間の文化を見てきて、人間は育った文化によって行動や考え方が大きく異なることを発見しました。これが人類学の基本的な成果です。大まかな人間の普遍性はありますが、ほとんどはバリエーションの話です。あなたの周りにいる他の人たちとは違っていて、とても似ているように見えるのは、あなたが持っている生来の人間的な類似性ではなく、あなたが彼らと同じような文化の中にいるからなのです。
デビッド・ホフマン 43:18
では、ここであなたの立場を改めて明確にする必要があるのでしょうか？私たちが言いたいのは、エリエイザーは、超知的なAIと人間があまりにもかけ離れていて、決して共存できないことを恐れているのではないかということです。そして、あなたが言っているのは、「生命は全体として、それがどのように現れるか、どのように表現されるかにかかわらず、類似性を持っている」ということでしょうか？
ロビン・ハンソン 43:43
私は、あなたの子孫はあなたと本当に違うかもしれないと伝えようとしたのです。私は、あなたの子孫がどれだけ異なることができるかに縛りがあることをあなたに納得させようとしたわけではありません。私はあなたにそれを示そうとしたのです。
実際、あなたの子孫は本当に変わっていく可能性があるのです。この映画を通してではなく、社会が変化し続けるという単純な既定の方法を通してです。食べ物のシナリオを怖がるなら、そっちのシナリオも怖がるべきかもしれません。
知的生命体について一般的に何がわかっているのか、また、全宇宙のすべてのエイリアン種に共通する特徴は何なのか、そんなことを話し始めることができるかもしれません。おそらく一般的な共通点はあるのでしょうが、それはあなたのためにあるようなものではないかもしれません。
ライアン・ショーン・アダムス 44:25
そうでしょう？私は、あなたが示した仮定をバラバラにするだけで、本当に早くそこにたどり着きたいんです。そして、より具体的に、あなたがどの仮定に同意しないか、あるいはエリエイザーとは異なる方法で述べるかを見てみたいのです。
仮定1は、AIが自分自身を向上させるということですね。これは、エリエイザーが考える所有者の前提の中核をなすものだと思います。
仮定2は、「プログラムする人は主導権を握らない」 それを止めようとすることができません。
仮定3は、AIがエージェントになり、エージェントの目標が変わると、AIの目標も変わり、人類を滅亡させることになるという仮定です。
私は、これらのうち、特に仮定については、他のものよりも信念を持ちにくいと感じています。少なくとも、議論や、突然AIが人類を滅ぼす理由については理解できませんでした。
ロビン・ハンソン 45:18
まあ、覚えておいてほしいのですが、私は1つのことを複数の部分に分けて、そこにまとまるには複数のことが必要だということを示そうとしたのです。つまり、自分自身を改善しようとするだけでなく、この本当に大きな塊のような改善を見つけるのですが、この改善は、それがどれだけの数のものの改善を許容するかという点で、範囲内で使い果たす前にどこまで進むかという点で非常に珍しい規模を持っています。
そして、その規模は、以前のものよりもはるかに大きくなっているということです。これらはすべて、先験的な、ありえないことです。ですから、自分自身を改善しようとするのは事実ではないのです。しかし、そうすると、そのような強力な方法を見つけても、その持ち主には気づかれないことになります。これが前提になると、かなりインパクトがありますね、
ライアン・ショーン・アダムス 46:10
了解しました。そこで、このAIの所有者、作成者が、このAIが何か悪意あることをするのを止められないとは考えにくいというような、それも難しい仮定に結びつくわけですね。
ロビン・ハンソン 46:24
まあ、それはまず、仮定として、このものは控えめなレベルの能力でスタートする、ということに気づくだけですね。仮定によれば、これは世界の他の多くのAISに匹敵するものです。ですから、もし早い段階で問題に気づくことができれば、それを阻止することができます。
なぜなら、止めようと思えば、このAISに対して1000もの他のAISを集めて、それを止める手助けをすることができるからです。ですから、進化が進むと、もはや止められなくなる可能性もあります。しかし、仮定として、これはそこから始まるのではなく、他のAIシステムに匹敵するところから始まり、そしてこの1つの利点、より良い自己改良ができるのです。
ライアン・ショーン・アダムス 47:04
そして、この他の仮定は、私が3番目とラベルを付けたように、AIがエージェントになることを意味します。では、AIが自己中心的に行動するエージェントになる可能性はどの程度あるのでしょうか？それを予見するのは難しいのでしょうか？
ロビン・ハンソン 47:19
まあ、もちろん、一部のオーナーはそのようにするかもしれません。しかし、ほとんどはそうならないでしょう。ですから、私たちはまだこのセットを絞り込んでいるところなのです。例えば、私の古い友人であるエリック・ドレクスラーは、ほとんどのAISが非常に狭いタスクを持つ高度なAI経済ができると主張しています。
AISは、空港まで車を走らせるなど、何でもできる一般的なエージェントではなく、それぞれが特定のタスクをこなすのです。実際、私たちの経済はこのように構成されています。私たちの経済は、企業で構成される産業でいっぱいで、それぞれが私たちのために特定のタスクをこなす運命にあります。
そして、私たちは、そのような企業は、現在、はるかに有能であり、人工知能の能力、超人以上の能力を持っていても、それぞれがかなり狭い範囲の仕事をする世界である可能性があるのです。そのため、私たちの利益になれば莫大な変化をもたらすような一般的なエージェントではありません。
例えば、AからBに行くためのルートプランニングが得意なシステムがあったとして、それが超人的な能力を持っているとしたら、ルートプランニングが得意なだけかもしれません。しかし、それしかしないのであれば、突然、自分には歴史があり、世界に対する目標があると考え、自分を維持し、発展させる方法を見つけようとするエージェントに移行することは、ルートプランニングをするAIとしてはかなりありえないことです。
しかし、時には、より一般的な範囲や野心や目的を持つ、より一般的なAIの目を作る人がいるかもしれません。そして、それがこのシナリオの基礎になるかもしれません。しかし、そのような目を作った人たちは、この目がエージェントであることを、珍しい特徴であることを知ることになります。
そして、彼らはおそらく、これを監視しテストする際に、そのことを考慮するはずです。つまり、彼らはこの事実を知らないわけではないのです。ですから、ルートプランニングの方が偶然にエージェントになるというシナリオは、論理的には可能なんです。しかし、ここで私たちが言いたいのは、目的のために設計されたシステムが突然、別のことをするものに変化することはよくあることだということです。
ライアン・ショーン・アダムス 49:34
これらのゲートをすべて通過したとしましょう。広範な方法で自らを向上させるAIがあり、その方法は、つまり、やや不揃いです。所有者は何らかの理由でAIをコントロールすることができず、何らかの方法でAIを騙しています。
おそらくオーナーは、このAIをプログラムしてエージェントにしたのでしょう。つまり、AIはエージェントとして行動し、自由意志を持つということです。彼の根拠は、基本的に、人類には別の目的があるはずですから、それを踏み越えてしまうから、というものだと思います。この仮定はどうでしょうか？
ロビン・ハンソン 50:14
つまり、1つのAIの代わりに、AI AISの世界全体があり、彼らは自分自身を向上させ、その価値観は乖離している、それはむしろデフォルトのシナリオであると想像してください。財産権のある世界でそうなった場合、人間は居場所を失い、物事の中心ではなくなり、内需もない、基本的に引退しなければならない、人間は引退コーナーに行き、退職金を使うことになる、とします。
もしその状態が平和的なシナリオだとしたら、変化せず、他の目的を持ったAIたちは、私たちを殺す必要はありません。しかし、革命の可能性がある場合、例えば、「なぜこの人たちを隅に座らせておくのか、彼らのものを奪ってしまおう」と判断することがあります。
ですから、暴力革命の可能性は常にありましたし、将来もあります。しかし、私たちが生きている世界では、それはまれなことなのです。そして、それは良いことです。なぜ稀なことなのか、その理由はおおよそ理解できています。
エリエイザーのシナリオと違うのは、それが1つのAIであることで、革命が起こるような社会ではないことです。ただ1つの力から、なぜこの人たちに財産権を持たせないのか、なぜ奪わないのか、という視点です。
さて、そこで言いたいのは、「目標が違う」ということではありません。しかし、それは特異なものなのです。ですから、他の人たちと平和を保ち、他人を怒らせたり報復を恐れたりするために合法的である必要がある世界では、欲しいものは何でも手に入れることができるのです。それが、彼の言うこのシナリオの特徴なのです。
より分散化されたシナリオでは、たとえAIが私たちと異なる目的を持つようになったとしても、平和を守ることができるという希望が持てるでしょう。それが、ある意味、私たちがこの世界で定年退職者を全員殺して荷物を奪わない理由ではないでしょうか？今日、定年退職した人たちがいつもいて、最近何かしてくれましたか？定年退職者を殺して、彼らのものを奪うだけです。。
しかし、私たちはそれをしません。私たちは、このような施設を退職者と共有しているのです。もしそんなことをしたら、私たちの間の平和を守るこの制度が脅かされ、私たちはそれぞれ次は誰なのか考えなければならなくなります。そして、これは良い結果にはならないでしょう。
なるほど。だから私たちは定年退職者を全員殺して荷物を奪わないのです。定年退職者は集団的な力を持っていて、私たちが殺そうとする努力に何とか抵抗するからではなく、実際に物理的に働かずに殺して奪えるのです。
そのシナリオの問題点はそこではありません。問題は、その後に起こることです。彼らを殺して彼のものを奪った後、次に誰を狙うのか。そして、その舞台はどこになるのか。つまり、AISが私たちとは異なる存在になり、新しい目標を獲得し、私たちのエージェントが革命を起こせば私たちを脅し、私たちを殺し、彼らのもの、私たちのものを奪うという未来、これが問題なのです。
そこで、解決策として、エージェントは1つだけで、内部調整の問題もなく、内部分裂もなく、ただ1つのものです、と言うことで、その可能性を高めています。
正直なところ、シナリオのもう一つの暗黙の悪口として、彼はこのものが成長するにつれて、内部対立がなく、世界の他のすべてのものを合わせたよりも強力になると仮定しているのだと付け加えることができます。それでいて、内部分裂のようなものはなく、会社もないと。そうでしょう？互いに争い、互いに平和を維持しなければならないような、さまざまな部分が存在しないのです。
なぜなら、私たちの世界には法律や財産権がありますが、それは対立があるからで、こうしてお互いの平和を保っているのです。しかし、彼はそれを脇に置いて、内部で平和を維持する必要はないと考えているのです。なぜなら、それが唯一無二のものだからです。
ライアン・ショーン・アダムス 55:58
ですから、私たちは多くのAIが存在する多元的な世界を望むべきなのです。そして実際、とにかくその方が可能性の高い世界だと思うんですね？
ロビン・ハンソン 56:06
もちろん、そうです。私たちはすでに、非常に多くの自律的な部品の世界にいるわけですよね？何十億もの人間だけでなく、何百万もの組織や企業があります。そして、国家や政府機関さえもあります。この世界の最も顕著な特徴の1つは、これらすべての異なる利益や組織の間で調整するのがいかに難しいかということです。
そして、この世界の最も顕著な特徴の1つは、このピースを維持し、これらすべての異なる対立するものの間で調整するために使用するメカニズムです。AIがシナリオを考える際によくやることのひとつに、「あなた方にはそのような問題はない」と仮定することがあります。
AISは協調する必要がなく、AIS同士の対立もなく、内部対立もなく、AISをどのように組織化し、AIS間の平和を保つかという問題もありません。AISにとって、そのような問題は一切ないのです。AISは、そのような問題のない、別の存在なのです。そして、もちろん、それは、私たちを殺すというシナリオにつながる。すべてです。
デビッド・ホフマン 57:04
そうですね、AIは一枚岩のようなものです。しかし、私があなたの推論や考え方を評価する理由の1つは、この宇宙の基本的な真理のようなものを利用していることだと思うのです。そして、あなたの論理的な結論の多くは、その自然な延長線上にあるものだと思うのです。ですから、私は、あなたがそれについて考えていない限り、私はただ、そのようなことをしたかったのです。
ロビン・ハンソン 57:36
私は、世の中の多くの意見の相違は、人々が異なる抽象的な概念や精神的な道具を持ち、それをトピック間で統合することが困難であることに基づいていると思います。ですから、コミュニティが抽象度や精神的なツールを共有していれば、たとえ細部について意見が対立しても、共有された抽象度を使って合意に至ることができると思います。
しかし、抽象度の異なる人たちがいれば、その通りなのです。ですから、私は経済学の知識を持ち出しています。そうですね、人々はコンピュータサイエンスを持ち込むかもしれませんが、私は多趣味のカードを使い、生涯をかけてコンピュータサイエンスを含む様々な概念的なツールや知的システムを学んできましたので、これらのツールを統合して、それぞれの観察や洞察を引き出せるような全体的な視点にしようとしています。
ライアン・ショーン・アダムス 58:30
では、ロボットが私たちを殺しに来ないのは、このような経済的な理由があるからなのでしょうか。それは、あなたが提供しているようなものなのでしょうか。
ロビン・ハンソン 58:39
それとも、もし彼らが私たちを殺すなら、通常の経済的な方法で私たちを殺すのでしょうか？いいです？彼らは合格するまで正当な理由が必要です。しかし、私たちは、過去数世紀において、人々が殺された主な方法を理解しています。
そのため、人々はどのようにして人が殺されるのかに注目してきました。どのようにして殺されるのでしょうか？窃盗は、殺人と同じように、人が殺される方法の1つです。戦争は別の方法、革命は別の方法です。あるいは、何かがあなたに対抗して、あなたが生き残るための場所がなくなってしまうという、単なるズレもあります。ある意味で、馬はある時点で自動車に負けてしまい、大きな苦しみを味わいました。ですから、人間も馬と同じような目に遭う可能性があるのです。それは興味深いことです。
ライアン・ショーン・アダムス 59:32
でも、馬は苦しんだのでしょうか？というか、彼らは
デビッド・ホフマン 59:36
人口基準でそう、大きく減少するのです。自動車が原因で、個々の馬が苦しんだり、苦痛を感じたりしたのでしょうか？
ライアン・ショーン・アダムス 59:45
都会で骨法師に鞭打たれるより、馬術の牧場にいるのがいい人生だと思います。
ロビン・ハンソン 59:53
私の理解では、馬の人口は今、かつてないほど多くなっています。しかし、もちろん、以前のような成長率を維持していれば、予想されたほど高くはありません。つまり、大幅な減少があり、その後、再び増加しましたが、現在、ほとんどの馬はペットであり、仕事馬ではありません。そうでしょう？
デビッド・ホフマン 1:00:11
しかし、私はペットになる準備ができているかどうか分かりませんが、それはおそらく私の子供の問題です、できれば。ちょっとしたシナリオですが、ロビン、単一のモノリシックで超知的なAIがエリエイザー的なことをするのと、人間がロボットと人間の対立戦争をするのと、どっちが可能性が高いですか？それは、伝統的な意味で、2つの側面があるようなもので、どちらがより可能性が高いでしょうか？
ロビン・ハンソン 1:00:41
2番目の方がずっと可能性が高いように思えますが、ただ、文脈を整理すべきです。今のところ、人間とは、性別、年齢、職業、地理的な場所、富、性格など、非常に多くのパラメータによって変化します。
特に政治では、自分自身を分割してチームや連合を形成しようとし、それによって一緒に他の連合に対抗します。これは、連合を作って互いに戦うという、どこにでもある古代の人間の行動なのです。そして、それは今後も続くと思われます。
ですから、民主主義のおかげで、戦争ではなく、選挙で連合が戦うような平和的な争いができるようになったというのは間違いないでしょう。しかし、例えば企業でも、政治的な連合が互いに戦っていることがよくあります。
そこで常に問題になるのは、支配的な連合体の根拠は何かということです。例えば、男性が女性と戦うというジェンダーに基づくもの、老人が若者と戦うという年齢に基づくもの、民族に基づくもの、職業に基づくものなど、さまざまな可能性があります。
例えば、会社で言えば、エンジニアとマーケターが戦うようなものです。そうでしょう？人間対ロボット、あるいはロボットの子孫というのも、将来の紛争のベースになりうる区分のひとつです。これは完全に信じられますね。そして、それが起こりえないとは言い切れません。
ただ、他の部門と競合する可能性があることは指摘しておきます。つまり、人間対ロボットの対立になるのでしょうか？あるいは、老人と若者の対立なのでしょうか？あるいは、ワードセル対シェイプ、ローテーター？つまり、さまざまな部門があり、人間のワードセルとAIのワードセル、人間のシェイプローテーターとAIのシェイプローテーターという同盟ができる可能性もあるのです。
そして、それが将来の紛争になるわけですが、ある根本的な意味で、紛争の分割が不確定であるためです。政治というのは、どのような対立があっても、その代わりに新しい連合が形成される可能性に対して不安定です、というのが基本的な理解です。それが、私たちがそこで政治について理解している基本的なことです。安定した連合を維持するのは難しいんです、新しい連合によって簡単に弱体化されますからね。
デヴィッド・ホフマン 1:03:00
少なくとも、人間対ロボットの連合では、過去の人間の行動を調べるようなことが起こるでしょう。私たちはかなり人種差別的な傾向があります。しかし、ロボットができたら、まったく別の資源があるときに、私たちの内的葛藤を忘れてしまうのは本当に簡単だと思います。
人間はなぜ争うかというと、たいていは資源、たとえば経済的な資源をめぐって争います。また、新しい種が細分化され、反復されると、人間のように成長します。そして、人間のように成長することで、資源を吸い上げていくのです。
そして、彼らは将来的に金属になるかどうかわからないように見えます。しかし、今の私のイメージでは、金属やケイ素、ターミネータータイプのロボットが歩き回るようなイメージです。地球上にはたくさんの資源があります。
ですから、人間とロボットの間に簡単に分け隔てができ、その対立がより起こりやすくなると思います。ですから、超一枚岩の超知能ロボットがやってきて、私たちはそれと戦わなければならないとか、そういうことに関係なく、ある時点で、潜在的に、いや、可能性があると言ってもいいかもしれません。もし、別の、種と呼ばれるようなものが存在するなら、対立が起こるでしょう。
ええと、最近は、これはちょっと脇道にそれましたが、スーパー知能の話に戻って、これはもうAI対立と言っていいと思います。イーロン・マスク、スティーブ・ウォズニアック、ユヴァル、ノア・ハラレ、アンドリュー・ヤン、この手紙とロビンに署名した人たちの反応を聞きたいんです。
それとも、この手紙に署名することに反対なのでしょうか？また、このアイデアについてどう思われますか？デイビッド？
ライアン・ショーン・アダムス 1:04:44
これは基本的に、すべてのAI研究所に対して、チャットGPTよりも強力なAIシステムのトレーニングを少なくとも6カ月間、直ちに一時停止するよう呼びかけているもので、この文字には、チャットGPTを超えてはいけない、そこを超えるとさらに怖くなる、と書かれています。一時停止して、手伝いましょう。まずはこのAIのアライメントの問題を解決しようというものです。
ロビン・ハンソン 1:05:12
だからまず、ここしばらくの間、かなり印象的なAIがたくさんあったということに気づいてください。このような大規模な言語モデルでAIが最も人間らしくなったとき、人々は最も恐れ、心配するのです。
つまり、非常に高度なAIは、多くの点で人間に近い姿になるのではないかということです。また、私たちの子孫は、自分自身に金属を加え、金属と同じように、まったく異なる絵文字になることを忘れてはいけません。ということで、また、どこが分割線になるかはあまり明らかではありませんが、この特定の文字に行くことにしましょう。
まず、彼らが抱いている一般的な懸念についてですが、もし6カ月の休止期間があったとしても、その終了時には、私たちは本当に知っている以上のことを知らないでしょう。今すぐです。
休止の主な目的は、例えば、政府が行動を共にし、休止を継続することを強制する何らかの公的な法律を制定する時間を確保することにあると思われます。それが休止の主な目的でしょう。それ以上のことを望むのであれば、一時停止をスポーツにしたいと思うはずです。半年でそこまでわかるわけでもないでしょう、
ライアン・ショーン・アダムス 1:06:18
あるいは、もしあなたがライバルで、追いつきたいのであれば、そのようなこともあるでしょう。
ロビン・ハンソン 1:06:22
ですから、私たちは、そこでまず、ポーズを取ることができるかどうか？それは良いアイデアでしょうか？そして、問題のひとつは、誰が参加し、誰が参加しないのか、ということです。そこで、理想的なのは、どうにかして世界的なポーズを取ることです。
それは良いアイデアでしょうか？今、私たちが話しているのは、人々がより安全に感じるようになるまで、しばらくの間、この技術を停止させるべきかどうかということです。この問題については、原子力エネルギーとの比較は非常に印象的だと思います。
基本的に、1970年頃、世界は原子力エネルギーから手を引くことを決めました。そして、原子力発電所に求められる安全要件が、コストに見合わないほど恣意的にエスカレートするような規制体制を敷いたのです。そして、基本的には、原子力発電所が他の方法よりも低コストとなることはないことを保証するものでした。
しかし、人々はそれをよしとしました。なぜなら、彼らは原子力発電を恐れていたからです。つまり、一般的な恐怖心は消えなかったのです。そして、一般的に「この方法では、予算が余っていても安全性を確保することはできない」それが彼らの言い分です。
ですから、AIでも同じようなことが起こると思います。つまり、基本的には数十年間は一時停止するよう求めることになるわけです。そして、最終的にそれを克服することを想像することさえ難しいのです。というのも、これまで説明してきたように、根本的な恐怖は、「相手が違うかもしれない」という考えだけだからです。
そして、彼らは異なる意図を持っていて、私たちに対抗してくるかもしれないのです。そして、それは決して消えることはないのです。ですから、私は基本的に、実質的な技術革新に賛成するか、反対するかということだと考えています。私たちは十分に豊かで、うまくいっているのですから、何かを変えることで未来を危険にさらすのはやめよう、と考える人が多いのはわかります。
原子力発電所でもそうでしたし、AIでもそうかもしれません。私はむしろ、私たちが技術を向上させ、成長し続けることで、莫大な距離を進むことができると考えています。しかし、多くの人が、いや、私たちは幸運だった、今のところ、物事はそれほど悪くなかった、私たちはかなり良い場所にいる、なぜチャンスを捉えて何かを変えようとするのか、と考えるのは理解できます。
これは、もし実際にこのような一時停止を世界的に実施し、さらに法律を制定することが可能であればの話です。しかし、もちろん、それは本当に難しいことだと思います。つまり、この技術は今やかなり広く普及しているのです。つまり、最高の新システムは、それを搭載するハードウェアに余裕のある大企業が提供するものだということかもしれません。
しかし、この基本的なソフトウェア技術は、実はかなり公開されており、かなり広く利用可能です。ですから、今後数十年の間に、たとえ10億ドル以上のプロジェクトはダメだと言ったとしても、10億ドル以下のプロジェクトはたくさん出てくるでしょう。もちろん、世界的に禁止することは難しいでしょう。
現在、米国は圧倒的なリードを持っていますが、主な効果は、世界的でなければ、米国のリードを奪うことになり、遅れが生じます。グーグルやオープンAI、マイクロソフトなどに取り組みを一時停止させることはできるかもしれませんね。だって、お情けで公開活動してる大企業があるんですから。
ライアン・ショーン・アダムス 1:09:35
たとえ強制力があったとしても、彼があげた強制力がない理由を理解し、ある種の世界的な禁止をするのは非常に難しいということを理解しようとしています。仮にそうだとしたら、あなたはそれを支持しますか？これは火災報知器を鳴らす価値があると思いますか？
ロビン・ハンソン 1:09:53
でも、私は、遺伝子工学や原子力など、ここ数十年で出会った大きな技術に匹敵すると思っています。正直なところ、総合的な将来性対リスクのフレームワークで判断するしかないと思います。私たちは、原子力エネルギーについて、あまり使わないでおこうという判断を下しました。
それは、50年前に人類が下した判断です。この数十年の間に、私たちは核の遺伝子工学についても同様の判断を下しました。少なくとも、人間にとっては。そして、AIについても同じような判断を下そうとしているのかもしれません。
しかし、正直なところ、この流れは私には悪く見えます。なぜなら、多くの人がソーシャルメディアは間違いだと考えているからです。そして、私たちは、それを元に戻して、元に戻すべきなのかもしれません。
ライアン・ショーン・アダムス 1:10:53
技術の進歩を阻止する流れは、核であれ、遺伝子工学であれ、ソーシャルメディアであれ、AIであれ、一般的に、あなたにとって悪いことだと思います。
ロビン・ハンソン 1:11:04
そうですね、私は実際にここが人類の未来であることを懸念しています。そこで、私は、分布のようなもの、宇宙時間のエイリアンを捉えるという別の仕事をしました。その枠組みでは、宇宙人の文明を最も根本的に区別するのは、1つの場所に留まって歴史を生き抜き、宇宙に大きな足跡を残さずに去っていく静かな文明と、拡大し、他の大きな文明と出会うまで拡大し続ける許された文明との違いです。そして、文明が静かでありたいと思うような力がたくさんあることがわかります。それが、ここで話していることなのです。
この半世紀の間でも、世界はより大きな統合コミュニティとなり、特にエリートの間では、世界政府がないにもかかわらず、世界中の規制政策が大きく収斂してきました。
COVIDでもそうでしたが、原子力発電や医療倫理など、さまざまな分野でそれが見られます。基本的に、各分野の世界のエリートは、主にお互いに話し合っています。そして、その分野に対処する正しい方法について、世界中でコンセンサスを形成するのです。
そして、それを実行に移すのです。そのため、さまざまな分野の政策に、実はそれほど大きな世界的な違いはありません。旧世界と比較すると、さまざまな種類の内戦を減らすことができましたし、人々はそれを好んでいます。国家が互いに争い、競い合うのではなく、みんなで話し合い、一緒に何をすべきかを決めるという考え方が、人々に好まれています。
そして、このような話し合いは、地球温暖化、不平等、乱獲など、世界のさまざまな問題を解決する可能性があります。そして、人々はこの世界を気に入るでしょう。私たちは、ほとんどの大きな問題に対して何をすべきかについて、みんなで話し合い、合意する世界へと移行しようとしています。
そして、その新しい世界は、原子力のようなものに目を向けるという意味で、より規制が厳しくなります。そして、誰もが「そんなことはしたくない」と言うのです。そして、それをやろうとする人たちに恥をかかせ、ゆっくりと、一緒に、人類の未来を制限していくのです。
そして、それは何千年も続くでしょう。そして、もし他の星に恒星間コロニーを送ることができるようになったら、それを許せばこの時代は終わるのだと知ることになるでしょう。植民地が他の星に行けば、その植民地はあなたのコントロールから外れ、もはやあなたの統治圏の一部となり、あなたの行ったことに反対する選択をすることができ、反対する子孫を持つことができ、進化して中心とは異なる存在となり、いずれは中心を支配しようと戻ってくることができます。
つまり、競争と進化の未来世界は、非常に奇妙で荒涼とした場所に行くことができるのです。しかし、もし私たち全員がここに留まり、誰も帰さないのであれば、私たちはこの私たちの世界に留まることができます。
みんなで話し合い、みんなで物事を決め、自分たちの子孫は自分たちが望むように奇妙なものにしかならないようにする。ある種の奇妙な子孫を望まないなら、ただ閉鎖すればいいです。それが静かな文明の姿なのかもしれません。
そしてそれが、ここで問題になっていることのようなものです。どのAIでも言えることですが。私たちは、奇妙さや対立を脅かすような変化や新しい大容量を許容したいのでしょうか？
デヴィッド・ホフマン 1:14:25
このポッドキャストのエピソードが、エリエイザーとのAIについての会話の続きから、アライメントの問題やその会話、そしてこの会話が、実は私たちがここしばらく銀行のリストで行ってきたより大きな会話の一部になる瞬間なのだと思います。
これは、現状維持と革新、そして進歩に関係するもので、先ほどロビンが言っていました「捉え所のない宇宙人」の話にも通じるものです。AIとAIのイノベーション、そして暗号のイノベーション、そしてそれがエリートによって規制されるべきかどうか、抑制されるべきかどうか、そしてエリートは社会秩序の調和に満足しているのかどうかということです。
そして、おそらく新しい競争やフロンティアへの新しい探検はすべきではないでしょう。なぜなら、それが社会秩序を維持する方法だからです。つまり、あなたの言うように、私たちは孤立主義的なアプローチに陥っているのです。
ライアンIRやあなたもそうだと思いますが、未来技術の楽観主義者であるあなたは、社会的エリートが持つ孤立主義を突き崩したいと思っているのではないでしょうか。暗号やAI、長寿や合成生物学の研究はやめて、すべてを調和させてコントロールしましょう。
そして、もう1つ、これから説明する「エイリアン・グラブ」ですが、これは、世界に進出したエイリアンが、それをしないことを選択した、ということです。彼らはフロンティアを探検し、資本主義的な競争という名目で技術革新を行い、宇宙へ進出することを選択したのです。
そして、フロンティアを開拓するためには、競争が必要だというのが、あなたの主張の骨子だと思います。というわけで、もしこれが良いまとめだとしたら、AIに対する懸念や一般的な進歩に対する懸念が、イーノスや静寂のようなエイリアンの呼び名とリンクしているような図を見ることができたらと思うのですが、文明として行う選択において、これらの異なる種類のエイリアンを特徴付けることができるかもしれません。
ロビン・ハンソン 1:17:03
はい、妥当なまとめだと思いました。現代人が私たちの子孫が銀河系に広がる可能性について議論するのを見ると、彼らはしばしば警戒し、彼らが持つかもしれない影響に少し恐怖を感じているように思います。つまり、前世紀に私たちがなってしまった人々は、そのようなシナリオを耳障りで不快にさえ感じる人々であり、それは実際に根本的に耳障りで不快だからです。
ですから、そのような変化を許容したいと思うのは、あなたと同じです。しかし、私たちが世界に受け入れるよう求めているコストについては、十分に正直でありたいと思います。つまり、私たちの子孫が、チベットで、残念なことに、いつまでもこのままの状態でいることを望むのであれば、です。ここでは、そのような話はしていません。
もし、私たちの子孫が宇宙に進出し、AIや原子力などの技術を探求することを許す代償が、文字通り疎外感であるとしたら。つまり、私たちは今、祖先から疎外され、世界も生活も変わってしまったのです。
そして、私たちはあるレベルで、自分たちは今の世界のために作られたのではない、と感じています。私たちがいるこの世界は、私たちのために作られた世界と比べると異質なものであり、私たちは心の奥底でそれを感じているのです。そして、それは今後も続くでしょうし、悪化の一途をたどるでしょう。
そして、良くなるのは、私たちの中にいる人を、この異質な世界とより適合するように変えることができたときです。しかし、その場合、その子孫は私たちとさらに異なるものになります。
ですから、その代償が必要なんです。この奇妙な新技術の未来の世界は、競争の世界でもあるのです。そして、この競争社会には、ある種の人々がある種のものを嫌い、ある種のものを追いやり、ある種のものはただ脇に追いやられ、疎外されるといった対立があります。そして、戦争や暴力も含まれるかもしれません。また、自然に対する根本的な変化も含まれるかもしれません。
地球上の生物学だけでなく、宇宙に出た私たちの子孫も、ただ通り過ぎるだけで旗を立てることはないでしょう。物事を分解し、配置を変え、根本的に変えていくでしょう。そして、時には醜く、時には暴力的になり、時には粗野で醜い道を歩むことになります。そして、もっとうまくやればよかったのにと思うような非効率的なコースやこの宇宙を見ることになります。今、原始的でニッチなのは、大昔のやり方が消されるだけです。それがコストなんです。
デビッド・ホフマン 1:19:54
そこで、「グラビーエイリアン」というアイデアを探求してみたいと思います。「グラビー」という奇妙な形容詞に放り込まれたリスナーは、少し混乱するかもしれません。そこで、この「グラブ」ことの本質を説明できればと思います。
しかし、地球という惑星と人類の歴史という文脈の中で、それを説明できればと思っています。というのも、銀河系に自然に外挿されると思うからです。なぜなら、ここがグラブ型エイリアンの活躍の場だからです。まず、私たち人類はつかみどころがないのでしょうか？歴史を振り返ってみると、静かな人類、静かな人類種、ダイヤモンドを発見した人類部族など、「グラビー」と呼ばれる人たちがいました。
そして、このような「グラブ」の帝国は、平和で静かな部族を見つけてはつかみ、「グラブ」の帝国に同化させます。このように、私たちは人類の歴史を理解しているので、私たちが理解できるような文脈の中で、この話を紹介したいと思います。
しかし、私はこの非常に基本的な質問をしたいのですが、それは人間の本質と同じです、
ロビン・ハンソン 1:21:21
私たちはグラビーです。つまりほとんど全ての生物学はグラビーであり、したがってほとんど全ての人間はグラビーですが、私たちの性質についてはそうでもないのです。つまり、ここでの基本的なポイントは、選択効果があるだけなのです。
そこが重要なポイントです。つまり、異なる文化や生物学的傾向を持つさまざまな生物がいたとして、ある生物は外に出て拡大し、他の生物は注意深いとします。宇宙には多くの異星人や文明が存在するかもしれません。宇宙にはたくさんの異星人や文明があるかもしれません。
しかし、膨張を許容する少数の宇宙人は、時空間ボリュームによって、宇宙の活動を支配するようになります。そして、それが過去の進化の仕組みなのです。
すべての動物や植物が攻撃的で、暴力的で敵対的というわけではなく、さまざまなものがあります。また、あるものは一カ所に固まって隠れている習性があり、あるものは飛び出せるときに飛び出して別の場所に行く習性があります。そして、その変化と習慣がもたらす正味の効果として、新しい島が誕生したとき、その島は生命に満ち溢れます。
そして、新しい山は高くなり、山の頂上には新しい生命が現れ、そこで生命が存在できる新しいニッチが開かれるのです。そして、ある生命がそこに行き、それを利用します。これが選択効果です。ですから、宇宙はそういうものだと思います。ただ、私たちはどっちに行くんだろうという疑問はありますね。
人間に限って言えば、協調しないとどうなるか、協調しようとするとどうなるかというトレードオフの関係にあると思います。つまり、協調性のない人類は、人類の中でも十分なバリエーションがあり、何人かはグラビーになってしまうでしょう。
ほとんどの人がそうではないかもしれませんが、機会があれば、水星や冥王星などを捉えに行き、他のものを捉えに行く人がいるのは確かです。それを防ぐために、私たちは組織化し、調整することを選択するかもしれません。そして、それを成功させることができるかもしれません。
私たちは、おそらくそのための十分な能力を持っています。しかし、基本的には、私たちのほんの一部でできることであれば、どんなことでもよいのです。しかし、基本的には、私たちのごく一部でできることであっても、それを実現するために、私たちがそのバリエーションを許容するかどうかが問題です。それとも、何とかして封じ込めようとするのでしょうか？
デビッド・ホフマン 1:24:03
バンカーズの観客は、モロクのアイデアにかなり精通しています。この話題は何度も取り上げています。あなたは、モロックに詳しいですか？
ロビン・ハンソン 1:24:13
有名なスコット・アレキサンダーのエッセイは知っていますよ。そして、私はそのエッセイでコンセプトが完全に明確になっていないと思いますが、
デビッド・ホフマン 1:24:21
確かに。そうですね。モロクとは、囚人のジレンマのようなもので、地球上に2つ、2つ、あるいはほとんどすべての数の人間の部族がいるとします。しかし、たった1つの部族が牙を剥いたとします。その1つが地球を支配するようになるのですが、それはその1つが貪欲であることを選び、他のすべてを貪ったからです。
つまり、囚人のジレンマのようなもので、「捉えかからん」と選択すれば、「捉えかからん」と選択したより大きな種族に捉えかかられることを暗黙のうちに選択することになるのです。そして、このことは、「つかまり立ちをする宇宙人」という論文で、このことを未来に外挿することができると思います。
そして、この星のエリートたちは、「AIを研究するのはやめよう」と言うのです。長寿や遺伝子工学を研究することもなく、ただじっとしていよう。私たちはこれを「静かな宇宙人」と呼んでいます。その選択とは、つかみ所のない宇宙人がいずれ地球にやってきて、私たちをつかみ取るということです。
ですから、もしあなたがグラブ型のエイリアンにならなければ、他の誰かに掴まれることになるのです。ですから、人類史におけるこの瞬間、「AI研究を一時停止しよう」という手紙が届いたとき、あなたが注目しているのは、「これは人類にとって、静かにするか、静かにしないかという、非常に重要な決断の時だ」ということなのです。もちろん、これは唯一の選択肢ではありません。しかし、これは長い選択肢のリストの中の多くの選択肢の1つであり、文化的に、少なくとも短期的には、私たちがどうありたいかを決めることができるのです。この分かれ道を、あなたはどう見ていますか？それでは
ロビン・ハンソン 1:26:09
明確にし、私たちのような平和な社会では、私たちは泥棒を捉えると考えることができます。そして、私たちが盗まなければ、他の誰かが盗むでしょう。ですから、私たちは盗むべきだと思います。そして、それが均衡である世界を想像することができます。
しかし、もし私たちが協調して法律を作れば、協調して泥棒を監視し、十分に抑圧して、泥棒になることを思いとどまらせることができるのです。つまり、十分に力のある宇宙では、仲間の宇宙人がその気になれば、泥棒を防ぐために協調することができるのです。
しかし、実際には、宇宙はそのようなことをしていない、というのが私の主張です。人間社会の中では、特定の法律を施行するために協調しているのかもしれませんが、外の宇宙では、ただ空っぽです。そして、私たちが見ることのできるほとんどの場所で、誰も何もしていないのです。
ですから、宇宙はただそこにあるだけなのです。そのため、私たちが宇宙を手に入れたとしても、誰もその手を叩いたりしません。私たちは、他の捉えやすいエイリアンにたどり着くまで捉え続けることができます。その時、私たちとエイリアンの間の平和を保つために、平和的な法律を作ろうとするかもしれません。しかし、他の宇宙人と戦争する必要はないんです。しかし、こことあそこの間には空っぽのものがあるんです。そうすると、自分が捉えるか、他の誰かが捉えるかのどちらかになってしまうような気がするんです。
ライアン・ショーン・アダムス 1:27:29
私たちが宇宙人文明について話しているのを聞いていたリスナーの中には、「彼らは地球を奪いに来ている」と。ロビン、デビッドは星を見上げてもどこにもいない。しかし、それがあなたの論文「Grabby Aliens」のすべてです。重力宇宙人のあらすじ、紙パック、このうるさい宇宙人の集団が人類の耳目を集める静かな宇宙人も珍しいと説明されていますね。
ロビン、あなたの “grabby aliens “のアイデアが実際にどのようなものなのか、また、なぜ将来、拡大志向で私たちの方にやってくるエイリアンの文明があるのか、なぜ私たちは彼らに会うために自らの影響範囲内で立ち上がり拡大する文明でありたいのか、説明してもらえますか？
ロビン・ハンソン 1:28:20
というわけで、簡単に、手短に、この話を進めていきます。昨日公開された「キャリアが吸い込まれる」ビデオでは、260万ビューを記録し、グラビーエイリアンの基本を解説しています。
デビッド・ホフマン 1:28:37
curve is at the cue アニメーションは、このような非常に技術的なことを非常に素晴らしい方法で行っています。ところで、それはおめでとうございます。
ロビン・ハンソン 1:28:43
つまり、重要なアイデアは、宇宙時間におけるエイリアンの分布について考えるということです。そして、1つの可能な理論として、私たちだけが存在し、私たちが見ることのできる宇宙時間全体において、私たち以外の人が存在することはないだろうということがあります。
その場合、宇宙は私たちがいつでも現れるのをただ待っていたことになります。その場合、宇宙は私たちの準備ができたときに現れるのを待っていたことになります。私たちはとんでもなく早いので、そのような宇宙の解釈を否定することができます。
ですから、私たちのような高度な生命がどのように現れるかについての最良のモデルは、私たちは歴史の終わりの方にある長寿の惑星に現れる可能性が最も高いということです。しかし、私たちの惑星は、実はとても短命なのです。
私たちの惑星はあと10億年、合計50億年の歴史があります。平均的な惑星の寿命は5兆年です。生命が誕生するためには、多くの困難なステップを踏まなければならないので、時間の関数として生命が誕生する時期には実はべき乗則があります。ですから、私たちはその基準に照らし合わせると、とんでもなく早いのです。
このことを説明する最善の方法は、宇宙がエイリアンに占領されていっぱいになる時期が近いということです。もうすぐ、例えば10億年かそこらで、すべてが嘘になります。
その時、あなたは後から現れて高度な文明を持つことができず、すべてが他のものに使われてしまう。ですから、今そこにいることを信じる必要があるんです。ですから、彼らが今そこにいると信じられるようになった今、あなたは不思議に思うでしょう、彼らはどのくらい近づいているのでしょうか？
そこで、3つのパラメータ・モデルを用意しました。各パラメータは、重要なデータポイントに適合します。このモデルによって、宇宙人と宇宙時間の分布がわかります。もしご希望であれば、これらのパラメータと、それぞれのパラメータに対応するデータポイントを説明することができます。このような異星人の文明は、銀河系100万個に1個の割合で出現しています。
そして、もし私たちが彼らに会いに行くなら、およそ10億年後に出会うことになります。この光線を浴びているのですから、かなりレアな存在なのです。100万個の銀河に1個、何兆個もの銀河がある宇宙で、空っぽでなければならないのです。
ということは、何百万個もあるわけです。そして今、宇宙はその半分くらいでいっぱいになっています。これは不思議なことですね。宇宙は空っぽに見えますが、選択効果があることを理解する必要があります。もしそこに宇宙人がいたら、私たちの代わりに今ここにいるはずだという場所が、目に見えるところにあるのです。
つまり、何もないように見えるのは、宇宙人がいる場所が見えないからです。なぜなら、宇宙人は宇宙人がいる場所に移動するスピードが速く、ここが取られてしまうからです。私たちが今ここに連れて行かれないということは、誰もここに来ることができなかったということであり、したがって密度が、
デビッド・ホフマン 1:32:10
もしあなたが星空を眺めてエイリアンを見ることができたとしたら、それは無意味です。もしそれが可能なら、その時にはすでに彼らはあなたを捉えているはずですから。
ロビン・ハンソン 1:32:18
そうですね、宇宙人の動きはとても速いですから。宇宙の中で、彼らを見ることができるのは比較的小さな容積で、彼らはまだここに来ていません。あなたが見ることができる場所のほとんどは、彼らがここにいるはずです。
ライアン・ショーン・アダムス 1:32:30
そして、あなたを捉えることは、必ずしもあなたを破壊することを意味するわけではありません。それはただ、あなたが彼らの境界線に進出できないように、境界線まで拡大する可能性があるということです。
ロビン・ハンソン 1:32:39
というのも、私たちの周囲を見渡すと、原始的な星や惑星が目に入るからです。というのも、周りを見渡すと、原始的な星や惑星があり、それらは根本的に変化していないのですから、私たちは今、捉え所のないエイリアン文明に包まれていないことを確信できます。そうですね、将来的には、私たちは人間によって包囲されたりするのかもしれません。しかし、もし宇宙人の文明がここに来ていたら、このような状況になることはなかったでしょう。
デビッド・ホフマン 1:33:08
これは、エリエイザーAIの問題と交差する理由です。なぜなら、あなたが言ったように、外界の文明がやってきて、私たちを包み込み、私たちの周りの環境を変えてしまったからです。うまくいけば、私たちを平和にすることができます。
しかし、これはAIアライメントの問題を別の形にしたもので、別の不正なエイリアン文明がペーパークリップのマキシマイザーでもあるようなものです。彼らは資源を集めて、自分たちの価値観に従って行動しているのです。
願わくば、彼らの価値観が私たちの文明に進出しても、私たちをそっとしておいてくれることを期待します。しかし、それは同じ基本的な構造で、目標があり、周りの宇宙とのアライメントがあるのです。そして、エイリアンは拡大し、拡大した物質の原子を変化させるのです。私たちはまだそれを見ていないのですが、それは私たちの思い込みに過ぎません。しかし、私たちはまだそれを見ていないので、宇宙人の重力は、実際に私たちを歴史の弧の中に置くようなものです。
ライアン・ショーン・アダムス 1:34:17
追加します。つまり、彼らも人工知能なのかもしれません、破裂したとき
ロビン・ハンソン 1:34:21
ほぼ間違いなくそうでしょう。そうですね、なんでもいいんですよ。1000年以内に、私たちの子孫はほとんど人工物になっていると思いますね。そして、100万年以内には、私たちよりも何十億年も年上の人造人間になっているはずです。
そう、私たちの人工的な子孫は、その人工的な子孫と出会い、10億年後には、今の私たちのようなものを保存していないかもしれないのです。もし、宇宙人が100万個の銀河に一度だけ現れるとしたら、静かな文明と騒々しい文明の比率が1000対1でも高いなら、彼らが行ってきたこの膨張の中で、彼らは1000人のクライアントにしか出会わないということになりますね。
100万個もの銀河を旅しているのですから。ですから、宇宙人文明が存在するこれらの稀な場所は、かなり特別で、保存して隔離する価値があるように見えるのです。彼らは国境でこの紛争を持つことになるから？そして、私たちは劣勢に立たされるのだろうかと考えるでしょう。どうにかして私たちを騙すつもりなのでしょうか？私たちがボードに乗るとき、何が起こるのでしょうか？
ライアン・ショーン・アダムス 1:35:33
そのうち、国立公園になるかもしれないですね。
ロビン・ハンソン 1:35:36
ええ、そうです。ですから、私のターンは、すべてのグラビーですから、すべての捉える文明は、彼らが私たちのエイリアンが好きなものについて得ることができる任意のデータを本当に熱望します。
ですから、彼らが遭遇する少数の静かな文明は、重要なデータポイントになります。彼らは、異星人がどのようなものかについてのデータを私たちに与えるために、それらのデータポイントを本当に大切にするでしょう。ですから、異星人が私たちを包んで来た場合、彼らは主に他の異星人のデータとして私たちを保存したい理由でしょう。つまり、私たちが好きなように生きられるとは限らないのです。しかし、彼らは私たち全員を消すこともないでしょう。
ライアン・ショーン・アダムス 1:36:16
私はロビン・ハンソンに、私たちを凍結乾燥させないこと、そして宇宙人が来たとしても私たちを保存することを主張させるために、ありがたい国家を選びました。しかし、これは必ずしも彼らがやってくるのが近いうちにということではなく、もっと広がる速度のようなものなのです。このモデルの興味深い点は、ロビンがエイリアンの文明がガンのように広がっていくことを予言しているということです。それは数学的な意味でも、否定的な意味合いでもないでしょう？そうですね、
ロビン・ハンソン 1:36:44
エイリアン文明は、さらにガンのように作られます。あなたの体には膨大な数の細胞があるわけです。その中の1つの細胞が癌化するためには、一生の間にその1つの細胞でおよそ6回の突然変異を起こす必要があります。つまり、惑星が高度な文明を獲得するためには、惑星がそれぞれおよそ6回の突然変異を経験する必要があるのと、基本的には同じようなハードステップのプロセスなのです。
つまり、突然変異は、それぞれ珍しいことが起こる必要があるのです。そして、次の異常なことが、次の10年の間に、6つすべてが起こるまで起こるのです。そうすると、何かが生まれるのだと思います。つまり、重要なのは、100万個の銀河があり、それぞれの銀河に数百万個の惑星がある、ということです。
そして、これらの惑星はすべて、このような突然変異の道を進もうとしていますが、その惑星で生命が存在できなくなる期限までに成功した惑星はほとんどありません。そして、私たちの惑星のように、6つの突然変異がすべて、その惑星で生命が存在できなくなる期限までに起こるのは、非常にまれなことなのです。
そして、あなたの体にもガンができるわけです。つまり、40%の人が死ぬまでに癌になるのです。つまり、彼らの細胞の1つが、この6つの変異をすべて経験したことになります。しかし、それは本当にあり得ないことで、大半の細胞は1つか0つの変異しか持っていないのです。
ですから、ある惑星の生命が、宇宙を広げるほどの高度なレベルに到達することは、数学的にはまさに癌と同じなのです。そして、それは時間と共に同じ平行線をたどります。つまり、人生の関数としてガンになる確率は、時間の6乗に相当します。
なぜなら、突然変異はおよそ6回起こるからです。ですから、癌になるのはたいてい最後の方なのです。また、惑星が高度な生命を獲得する確率は、時間の6乗とほぼ同じです。このように、宇宙では、宇宙が時間の経過とともに、6のべき乗でどんどん現れているのです。
このように、非常に初期の宇宙にはほとんど何もありませんでした。そして最近、私たちは黙ってしまいましたが、私たちの周りでは、宇宙はすべて弾けています。そして、このパワーオフのおかげで、現在、宇宙が出現する速度は、過去の早い時期よりもずっと速くなっているのです。
デヴィッド・ホフマン 1:39:06
そして、がんがグラビーではないものであることは、リスナーにとって見逃せないことでしょう。がんはグラビーではない部類に入ります。そのため、静かな細胞がたくさんあり、隣の細胞と調和しながら自分の仕事をこなしています。
ところが、ある細胞が暴走して、「私は周りのものをすべて捉えて、自分の能力を最大限に発揮して成長する」と決めてしまうのです。生物学的な細胞であれ、人類という種全体であれ、どのようなスケール、どのような媒体で認識されているかにかかわらず、興味深いことなのです。この理論的なAI、超知的なロボットであっても、同じような構造が現れ続けるのです。
ロビン・ハンソン 1:39:58
さて、簡単な要約をしました、しかし
デビッド・ホフマン 1:40:01
私たちは、あなたが知っているように、これはどうですかという関心のために降りなかった多くの異なるウサギの穴を包んです。
ライアン・ショーン・アダムス 1:40:07
私たちは暗号の聴衆を集めているのですから。ロブ、あなたは暗号について何か熱い意見をお持ちですか？あなたはそれについて、このものをどう思いますか、そのボックスをチェックしてください。
ロビン・ハンソン 1:40:14
つまり、私は暗号について新しい考えを持っていません。私の古い技術では、どんな新しい技術でも、基本的なアルゴリズムと基本的な技術の両方が必要なのです。そして、実際の顧客と、その顧客や特定のニーズに注意を払う人たちが必要です。
そして、一般的な技術を特定の顧客のニーズに合わせなければなりません。暗号通貨は、残念ながら、ホワイトペーパーとアルゴリズムを持つことで、信用と賞賛と資金を得ることができ、実際に顧客とつながることはあまりできない体制に移行してしまいました。
そのため、ツールやプラットフォームを作れば、それを顧客につなげる作業を他の人がやってくれるという理論のもと、残念ながらツールやプラットフォームに対する大きな欲求があります。そして、残念ながら、その次の役割を担う人はそれほど多くはありませんが、彼らがその仕事を成功させることが、暗号通貨の残りの部分を成功させるか否かの大きなポイントになります。
ツールやプラットフォームはたくさんありますが、具体的な製品を特定の顧客に売り込もうとする人はそれほど多くありません。そのため、具体的な利用者に使ってもらえるような製品にするために、うまくいかないときは一緒に手を動かしながら、どうにかイテレーションしていく。
そうやって、多くのイノベーションを起こす必要があるのです。暗号もそうですが、暗号がそうでないのはどこも同じです。暗号通貨は、ホワイトペーパーを書き、アルゴリズムの最初のバージョンを実装することで、すべての認識と注目とお金を得るという世界に陥ったのです。
だから私は、暗号にはたくさんの面白い可能性があると思います。しかし、それは私の頭の中の話です。クリプトの大きな問題は、実際の顧客をないがしろにしていることです。そう、顧客を幸せにするための細部です。
デビッド・ホフマン 1:42:11
暗号業界の誰もが最近、少なくともVCの現場では、誰もがピックやシャベルを売ろうとしていて、誰も実際に金をふるいにかけることに煩わされていないと話しています。そうですね。ですから、私たちはもっと金鉱を掘り当てる人が必要なのかもしれません。
ライアン・ショーン・アダムス 1:42:24
そうだと思います。そして、これはロビンがユーティリティであり、私にユーティリティを示すことです。暗号に対する考え方は理解できますし、その分野でやるべきことがあるのは確かです。しかし、またいつかロビンに登場してもらおうと思います。あなたの意見を聞くことができることがたくさんある。
ロビン・ハンソン 1:42:47
私は暗号の人々がより興味を持っていると思う機関のアイデア最も暗号の人々は、創造的な機関私たちにかなりオープンです。
ライアン・ショーン・アダムス 1:42:53
ロビンが気づいたかどうかわかりませんが、私たちの周りでは、多くの制度が崩壊したり、バラバラになったり、信頼に油を注いだりしているように見えますから、
ロビン・ハンソン 1:43:06
または、ただ最悪の場合、私たちはちょうどロックダウンし、あまり革新や変化を100%許可していません。ですから、まあ、この会話は、ゆっくりと崩壊していく中で、彼らはまだ革新と成長をしていないように残しておきましょう。
ライアン・ショーン・アダムス 1:43:17
ベングリス。ロビン・ハンソンに飽き足らない方。私は確かにそうです。この人とは何時間でも話せますし、ご連絡いただければ、また別の機会に出演してもらえるかどうか検討します。しかし、あなたのおかげで、人工知能についてもう少し理解することができました。
そのおかげで、今夜はぐっすり眠れそうですか？今夜はぐっすり眠れそうです。正直なところ、そうですね。ですから、ありがとうございます。あなたの話をもう一度聞いて、もう少し考えてみる必要があると思うのですが、この子孫は私とあまりに違うので、心配になるかもしれませんが、エリエイザーのエピソードの後よりはずっと心配が減りました、だから感謝しています。
デビッド・ホフマン 1:43:54
懸念事項でした。
ライアン・ショーン・アダムス 1:43:56
その通りです。バンケット国へのアクションアイテムとして、エリエーザー・ユドコフスキーのエピソードへのリンク、we’re all going to die it was called that was seriously the title Robin. そして、AI Foom討論会へのリンクも掲載します。この用語について話したのですが、その用語がMの時代であることを今知りました。 ロビン・ハンソンがACUに追加した本で、もちろんこれは人工心について話しています。ロビンは違うのですか？
ロビン・ハンソン 1:44:21
普通の人間の心を人工的に実装したものです。
ライアン・ショーン・アダムス 1:44:24
魅力的な響きですね！もちろん、grabby aliens. キルギスのビデオもあるし、オリジナルのウェブサイトgrabby aliens.comもあります。このビデオは、経済的なアドバイスをするものではありません。
宇宙文明のアドバイスでもありません。しかし、私たちは西へ向かっているのです。これはフロンティアで、誰にでもできることではありませんが、私たちや銀行と一緒にこの旅をしてくれることをうれしく思います。ありがとうございました。