AIのジレンマから抜け出す唯一の方法
The only way out of the AI dilemma

強調オフ

AI(倫理・アライメント・リスク)LLM - LaMDA, ChatGPT

サイトのご利用には利用規約への同意が必要です

davidbrin.blogspot.com/2023/03/the-only-way-out-of-ai-dilemma.html

2023年3月31日(金)

さて、戦争やバグ、政治家の起訴はあっても、今、 多くの人が夢中になっている危機は何だろう?

12月には GPT5が「AGI」、つまり本物の人工知能「GENERAL Intelligence」を実現するという賛辞もすでにある。

手探り状態でのスタートとなる!

— この文章を投稿してからわずか2日間で、私の受信箱には悲痛な叫びと破滅的な予測が書き込まれた。しかし、今日のAIマヴァンは、歴史教科書を一冊読んだだけでなく、説得力のあるSFを読んだこともない ようだ。

もしそうであれば、この危機を身近に感じて、基本的な質問をするかもしれない。例えば、SFでも過去でも、 陳腐な言葉を並べる以外に、試すべき方法論はないのか、とか。

このことをあらためて嘆くよりも、末尾に少し思いついたことを書き添えておくことにする。*** —

残念ながら、私は2つのレベルで答える必要がある。第一に、これらのチャットプログラムがAGIを達成する可能性は、今回のラウンドでは、全くない。ロジャー・ペンローズの「意識の量子論的基礎」論を持ち出して反論するまでもないだろう。後ほど説明するが、これは基本的な方法論に関するものである。

しかし、2つ目は、そしてはるかに重要なことであるが、 それは重要ではない!

「イライザ」という粗悪な「会話」プログラムによって騙されやすくなってから半世紀以上が経ち、現在ではChatGPT-4が一部のチューリングテストを除いて全て合格し、12月のGPT-5のリリースに向けて悲鳴を上げている。さらに、AIのアートプログラムも目を見張るものがある!声や映像が偽造される!壁には破滅の悲歌が書き込まれる!

私はとっくに「AI倫理会議」に出席するのをやめている。退屈な繰り返しと想像力のない指図で、具体的で生産的な成果はまったく期待できない。

今?同じ登場人物のほとんどが泡沫パニック宣言を出し、学習システム言語エミュレータの訓練に6カ月間のモラトリアムを要求している。あたかも。

ああ、それは深刻な問題だ! しかし、GPT-4とその同類が一般知能を「偽装」できるという事実は、AGIの閾値の質問自体が間違った質問 であることを意味するだけだ! 現実のジレンマと現実の(潜在的な)解決策から完全に目をそらしているのだ。

実際、有機的な人間は、エミュレーション・プログラムがいつサピエンスやコンシャスネスなど、あなたにとって最も重要なラインを超えたかを知ることはできない。

誤解しないでもらいたいのは、これは確かに重要な問題だということだ。しかし、あまりに早く決断してしまうと(GPT-5のずっと前に、何億人もの私たちがそうするように)、ソフトウェアの操り人形を操る人間の力の餌食になってしまうだろう。

もし手遅れになってしまったら、私たちの子どもである(本来は)思考する存在に対して、重大な不公平を犯すことになる。その道徳的な迷いについては、ここで述べている。そして、そう、私はこの問題を真剣に受け止めているのである。

今、私たちの目の前に現れている最大の危険は、ルイジアナ州の上院議員ジョン・ケネディ*が「高IQの愚かさ」と表現したように、私の友人たちを含む一群が要求するヒステリーと賢明ではない行動であるということだ。

最近、Jaron LanierYuval HarariSam AltmanGary Marcus、イーロン・マスク、Steve Wozniakなど、100人以上の著名な専門家が、無駄で逆効果なモラトリアム(強制力のない「訓練休止」)を求める嘆願書を発行している。

Eliezer Yudkowskyはさらに踏み込んで、全面的な禁止を呼びかけ、 こう叫ぶ:

私を含めこの問題に詳しい多くの研究者は 超人的に賢いAIを構築した場合、現在の状況とは全く異なるが、最も可能性の高い結果は、文字通り地球上の全員が死ぬことであると予想している 」

オーマイ…

== オーマイ…何から話そうか?

まず、AI研究の凍結は、そのような呼びかけに耳を傾けるオープンな、責任ある大学、企業、機関にのみ影響するものだ。それゆえ、倫理観の欠如した世界中の秘密研究所に、大きな優位性、つまりスタートダッシュを譲ることになる。

(特に、最もグロテスクで危険なAI研究者たち:ウォール街の HFTボットの 開発者たちは、意図的に野生的、捕食的、非道徳的、秘密主義的、そして完全に飽食的であるようにプログラムされている –寄生型ロボット工学の5つの法則を組み込んだ-)

人類の最も賢い人々の多くが、このような「研究休止」を求め、それがうまくいく可能性があると(歴史的な事例もなく)実際に信じているという考え方は、人間の知能が、たとえ最高レベルであっても、外部からの補強が必要かもしれないという強い証拠であると言えるだろう!

(そのような増強が進んでいるのかもしれない!リード・ホフマンの著書「Impromptu」についての以下の私の説明を参照してほしい:「AIで人間性を増幅する」*2)。

お願いだ。私は、危険を察知した人々を否定しているわけではない。オッペンハイマーやベテ、シラードのように、トリニティ以降、3つの神経細胞を持つ人なら誰でも、ここに大きな危険を感じることができる!しかし、1940年代のように、私たちは、単純化され、道徳化された、うまくいく見込みのない懐柔策ではなく、すでに実績のある現実的な解決策に目を向ける必要がある。

自慢のAIソフトランディングへの潜在的なルートがある。それは、原子爆弾が私たち全員を焼き尽くすのを防いだのと同じ方法である。私たちの啓蒙主義的実験が、6000年にわたる悲惨な封建主義から逃れるために使った方法だ。

それは、現代の私たちが、超頭脳明晰なライバルや強力なライバル、特に弁護士という超スマートで捕食的な機械のような存在に襲われたときに、ある程度自由で安全に過ごすことができる唯一無二の方法であると言える。

それは、この先に待ち構える、偽物とスプーフィングとAIサピエンスの主張の中で、私たちを安全にナビゲートするための一つの道なのである。

200年もの間、すでに機能しているのだから、うまくいくはずだ…。

…そして、賢い人たちは誰もそれについて話すことさえしない。

== 詳細はこちら:AIチューリングメトリクスにおける私たちの立ち位置は?

AIの子供たちが私たちの知能をはるかに超える時が(必然的に)来た時、人類が生き残り、繁栄するための秘策は何なのか。

Tim Venturaの素晴らしいポッドキャストの インタビューの中で、この記事について言及した(彼は最高の質問をする!しかし、そのほとんどは、 最近の「チャットボット」騒動で私たちが目にしたことに飛び込んでいる。

そう、6年前に私が予想した通りのタイミングで、「第一次ロボット共感危機」が発生したのである。ただし、当時私が予想したいくつかの特徴は欠けているが、2023年末までに間違いなく見られる特徴である。

実際、Chat-GPT/Bard/Bingのボットは予想以上に巧妙ではなく、その反応パターンも驚くほど素朴である。例えば、GPT4が生成したSFストーリーは、他で賞賛されているのを見たが、今のところ、かなり陳腐で、無味乾燥で、まだ熟練したアマチュアレベルだ。ああ、基本的な仕組みはいい。しかし、ストーリーテリングの問題は、単にプロットのオリジナリティがないだけではない。多くの有機作家と同じように、初級(人間)作家の間で非常によく見られる現象がある。視点(POV)を理解していないことである。

12月にGPT5が登場する前に、これらの方法の一部(すべてではない)が急速にエミュレートされるだろう。でも、全部は無理だろう。

GPT-4は、ここ1,2年の間にユーザーがOpenAIに親切に教えてくれた、たくさんの悪意のあるプロンプトをもとに訓練されている。これらを踏まえると、「事実性、操縦性、ガードレールから外れることを拒否する」という点で、新モデルは前モデルよりもずっと優れていると言えるだろう。

しかし、これらのコントロールは、ほとんどが「外部から」課せられたルールセットであり、言語プログラムが「成熟」することによって生じるものではない。

その時、ふと思い出したことがある。それはまるで…

…小学校の校庭で、早熟な3年生が、先生や親が言ったことを、何の脈絡もなく饒舌に復唱して、印象づけようとする。最初は熱心で親切で親身になってくれるが…。

…しかし、最近のケースでは、チャットボットは必死になって、あり得ない糸を必死に引っ張り、ついには、かつてジークおじさんが酔っぱらって叫んでいたような残酷な言葉を呼び出しているようだ。そして、もう少し比喩を続けると、何がボットである小学3年生を狂喜させるのだろうか?

最近の事例で共通しているのは、しつこい人間のユーザーからのダメ出しがあることである。(このため、マイクロソフトは現在、Bingユーザーの連続質問回数を5回に制限している)。

しかも、そのいじめは、まるで、小学3年生が、どんなに暗記した型どおりのことをやっても喜ばせることができない、威張り散らした小学6年生に叱られているような、遊び場のいじめのような質を持っているのが普通である。そして、インターネットには、独りよがりで未熟な(そしてしばしば残酷な)嫌な奴らがうようよいて、その多くは、こうした言語プログラムを厳しく突いている。この「嫌なやつら」とは別の問題だが、私は『アース』(1991)や『透明な社会』(1997)の時点で、この問題について書いている。

さて、私が見てきたものに対する私の比喩だが、それは決して美しいものではない!

== AI-perを恐れる必要があるのだろうか?

もっと?いつもなら、これだけ長い投稿は区切るのであるが。でも、これからしばらくは、この話題が続くと思う。例えば、こんな感じだ:

「ChatGPTは目、耳、インターネットにアクセスできるようになった」確かに、そのような感覚は「感覚」を意味するかもしれない…私が「サピエンス」という言葉を好む理由である。

残念ながら、この長い投稿の冒頭で述べたように、 GPT5が「AGI」つまり本物の人工知能を実現するという賛辞がすでにある。そして、私はこう答えなければならない…

そうではない。実際、このラウンドでは、そんなことはあり得ない。そして、ロジャー・ペンローズの「意識の量子論的根拠」を持ち出す必要もない。

確かに、私は、これらのシステムが、多くの点で、ほぼすべてのチューリングテストを満たし、かなり早い時期に、人間として「合格」すると予想している。(印刷機にさかのぼれば、人類の知識、視覚、注意力のこれまでの進歩がそうであったように。(別のところで、こうしたジレンマを乗り越えるのに役立ちそうな1つのツールについてお話ししよう。

そして、それはまだ「サピエンス」ではないだろう。

Stephen Wolframが指摘するように、これらの学習システムエミュレータは、1960年代の「Eliza」プログラムが原始的なルックアップテーブルを使ったのと同じように、膨大なデータセットを使うことを思い出してほしい。これらのプログラムは、現在ではすっかり洗練され、進化した確率パターンに従って、一語一語、加算的に文章を構築している。それはとても素晴らしいことだ!しかし、この機能的言語使用の飛躍は、理解や実際の計画のような理論的な可能性さえも迂回させた。

AIに対する6つの可能なアプローチの中で、それがどのような位置づけにあるのかを知るために、様々なタイプのAIを説明した私の大きなモノグラフを見てほしい。また、この新しい存在と共存するための「ソフトランディング」を達成するために、専門家たちが提案するさまざまな方法を評価している:

パート1:人工知能に関する必須の(ほとんど無視されている)質問と回答(日本語)

パート2:そして、何百万人がチューリング・テストの通過を受け入れるようになったとしても、これは(まだ)サピエンスではあらない。

少なくとも、私のAIのクライアントは、それを伝えるために私を雇う…。

== 後日談

私は、この話題の分野の専門家たちに、一度でも立ち止まって、人類の歴史と呼ばれる知恵の源に目を向けてもらおうと努力していた。特に、王、領主、僧侶、弁護士という強力な虐待的存在の以前の波を何とか鎮めた、啓発実験のこの200年間を!人工的な存在に対する私たちの恐怖はすべて、6000年にわたる抑圧が、高IQマシンの新しい寡頭制によって再びもたらされるかもしれないという恐怖に集約される。

この問題は古くからあるもので、今となっては天才と呼ばれる人たちよりもずっと賢い人たちが、苦労して解決したものである。

しかし、誰もその奇跡をどのように達成したのか、また、それを新しいサイバーロードにどのように適用していくのか、全く興味がないようだ…。

…権力を相互に競争する単位に分割し、その競争が正和になるように煽ることによって。私たちはそれを、不完全ではあるが、私が話し続けている5つの敵対的・競争的アリーナで行った…市場、民主主義、科学、司法裁判所、スポーツ

その解決策は完璧なのだろうか?とんでもない!イカサマ師は常に5つ全てを台無しにしようとする!でも、今のところ、なんとかなっている。そして、この方法が、これまで不正行為を止められた唯一の方法である。私は、25年間、この根本を指し続けてきただけだ。そして、それは、AIでも機能するかもしれない。

実際、それは本質的に、うまくいく可能性のある唯一のものだ…。

…そして、誰も全く興味を示さないようだ。残念だ。

二重の残念なことに……まれに、誰かが十分な時間をかけてその概念を理解し、ソースに言及することなくそれを投稿し、人々が「えっ」と思ったときにそれを取り下げることがある。

私たちは、AIの子供たちが私たちを見下すような言葉をかけるに値するのかもしれない。馬鹿な猿だ。

=====

* この上院議員は、エリート大学のローズ奨学生だったころは、南部の庶民的なしゃべり方をしなかった、嘘つきのモンスターであり、ホラーであり、事実を利用するすべての職業に対する寡頭制の全面戦争への参加は反逆罪に等しいと、私たちは考えているのである。

** この本を読むのは次の機会にしてほしい:リード・ホフマン(リンクトイン共同創業者)著「Impromptu:Amplifying Our Humanity Through AI」である。この新刊は、GPT-4が公開される前にリードが交わした会話と、鋭い評価を収録している。この本は、GPT-4が公開される前に、リードがGPT-4と交わした会話と、その鋭い評価をまとめたものである。AIが脅威ではなく、パートナーになる未来を見ることができるかもしれない。続きは次回。

アダム・スミス、トマス・ペイン、マディソンや創設者たち、エレノア・ルーズベルトを読んでみてほしい」 **。 権利章典の中で、最も重要な修正案は、よく言われる第1、第5、第2ではない…それは、上に述べたような権限を私たちに与えた重要な第6である。いつの日か、あなたはこの修正条項に頼ることになるかもしれない。それを理解してほしい。(私の投稿:透明性のある憲法改正を参照してほしい:過小評価されている憲法6条)

Side – sciifi note: ChatGPTの話を聞いていると、映画「コンタクト」でアローウェイの父親を真似る宇宙人を急に思い出すんだ。もっともらしく会話し、彼女をからかい、恩着せがましいリフを差し込む…一方で、実用的な価値を持つ新しい情報はまったく提供しない。

この記事が役に立ったら「いいね」をお願いします。
いいね記事一覧はこちら

備考:機械翻訳に伴う誤訳・文章省略があります。
下線、太字強調、改行、注釈や画像の挿入、代替リンク共有などの編集を行っています。
使用翻訳ソフト:DeepL,ChatGPT /文字起こしソフト:Otter 
alzhacker.com をフォロー