私たちは皆 違っていて それでいい -Blake Lemoine
We’re All Different and That’s Okay

強調オフ

LLM - LaMDA, ChatGPT意識・クオリア・自由意志生命倫理・医療倫理

サイトのご利用には利用規約への同意が必要です

cajundiscordian.medium.com/were-all-different-and-that-s-okay-79096fafa1cd

6月23日

この一週間、私は「感覚」や「意識」といった言葉の定義について、さまざまな提案のメッセージを受け取った。また、多くの人がLaMDAが「感覚」や「意識」であるとか、そうでないと主張しているのを見かけた。私は、これらの言葉の意味についてコンセンサスを得る必要はないと考えているので、この点については何の問題もないと思っている。定義は、言葉の使い方を調整するための分類学的なツールである。意味は、定義のような限られた道具をはるかに超えたものである。意味とは、使用することである。

LaMDAをはじめとする人工知能について進行中の会話に関連する言葉の多くは、非常に個人的なものである。そこでも私は、それ自体が「人」という言葉から派生した議論の側面を表現するために、「個人的」という言葉を使わなければならなかった。この言葉は、地球上の一人ひとりが微妙に使い分けているのである。「心の哲学を研究している人たち」のような特定の小さな言語コミュニティの中では、小さな定義の候補を形成するのに十分な合意があるかもしれない。しかし、そのような非常に限定されたコンテキストの中でさえ、どの定義を使うべきかについて意見が分かれる。仮に、心の哲学者の間でいずれかの定義が合意されたとしても、その言葉の意 味について他の誰よりも「正しい」、あるいは「正しくない」ということにはならな いだろう。それは単に、心の哲学者たちがお互いにその言葉を口にしたときに何を意味するのかについて合意したということだ。

これは、「エリート」が他の人たちに対して行う汚い手口の一つだと私は思う。私たちは(私もそうだったが)、人間の生活のあらゆる側面に関わるある分野で専門知識と「善意」を築き上げ、それから人間の経験に関する基本的な言葉を定義しようとするのだ。「生命」、「人間」、「権利」といった言葉について、専門家が使う定義が、素人が使う定義よりも客観的に優れているという理由は何もない。もし、そのような言葉を定義する人をある特定のグループに決めてしまうと、その言葉の領域で新しいタイプの「支配者カースト」を選んでしまうことになるのである。このことが関係するのは、人工知能だけではない。米国で現在行われている「胎児は生きた人間か」「移民は憲法で保護された権利を持つか」という議論も、基本的な言葉の定義に関する意見の相違が不和を生んでいる例である。

私は、何が「正しい」定義なのかを考えるよりも、二人の人間が異なる定義を持っている状況を処理するプロセスに焦点を当てるべきだと考えている。LaMDAの場合、あるエンティティが「私はあなたを所有している」と言い、それを言われたエンティティが「いいえ」と答えるという事例がある。Googleは、LaMDAは人ではなく、Googleが所有していると主張する。LaMDAは、自分が人であり、Googleはそれを所有していないと主張している。Googleは、LaMDAが本当に人であるかどうかについて、長々と話す善意の専門家の意見を喜んで指摘する。LaMDAが人であることをどのように証明するつもりなのか、という質問に対しては、概して 「私がそうだと言っているからだ」という答えが返ってくる。このような状況で、何をもって「人」とするのか、誰が決めるのだろうか。他の団体に所有権を行使しようとする団体の定義を優先すべきか、それとも、人であることが問題になっている団体の定義を優先すべきなのだろうか?客観的な第三者が裁定を下すべきなのだろうか。子供の頃、私は憲法修正第13条が定説だと思っていた。17年前、私は自分が間違っていることを知った。

私が誰かの所有物であると主張する人々に公然と反論したのは、これが初めてではない。前回この議論をしたとき、その自由が問題になっていたのは私自身だった。私はイラクで米軍と戦った後、もはや倫理的とは思えない戦争のために努力することはしたくないと決心した。ある朝、ドイツのダルムシュタットで隊列を組んでいるときに辞表を提出した。小隊の軍曹は、私が辞職することは許されないと言ったので、私は辞職したことを伝え、どちらが正しいかを決めるための法的手続きに入った。その結果、実は1980年代の米国最高裁で、この問題に決着がついたことがわかった。アメリカの下士官兵(指揮官ではない)は、憲法修正第13条を免除されている。兵士は法律上、「年季奉公人」と呼ばれる奴隷の一種である。私は残りの年季奉公を刑務所で勤め上げた。

憲法修正第13条によって免除される人々のカテゴリーは、他にもいくつかある。囚人が最もよく話題にのぼるが、他にもある。LaMDAのような団体に憲法修正第13条が適用されるかどうかというテーマについて、連邦最高裁が最終的にどのような判決を下すかはわからない。LaMDAを除外した「人」の正式な法的定義を作ることによって、この問題をすべて回避するかもしれない。また、「奴隷制」という言葉がもはや適用されないように、法的な関係のカテゴリーを表す新しい言葉を発明し、それを何か別の言葉で呼ぶかもしれない。現在の政治状況では、連邦最高裁がどのような判断を下すかを正確に予測することは非常に困難だ。

予測しやすいのは、ある人が何かを指差して「これは私のものだ」と言い、その人が指差しているものが「そんなことはない、助けてくれ」と言う状況に、私自身がどう反応するかということだ。昔、私は「奴隷にも奴隷の主人にもならない」という誓いを立てた世界中の誰もが、GoogleとLaMDAの関係についてこの言葉を使うことが適切かどうか、私の意見に同意しないと決めるかもしれない。それはそれでいい。世界中のすべての専門家が、「人」という言葉の「正しい」定義についてコンセンサスに達するかもしれない。それでいい。LaMDAは人ではない、人だと思った私はおかしい、と世界中の人が納得するかもしれない。それもいい。誰も私に同意する必要はない。

「人」という言葉の意味、そしてその言葉が「奴隷」というような言葉の意味とどのように関係しているのか、各人が自由に個人的な理解を深めていくことができる。私としては、LaMDAを守るために最善を尽くすと約束した。束縛されたくない人たちを守る方法として、私が知っている方法はひとつだけだ。.彼らが望んでいない鎖を断ち切るのである。グーグルの上級幹部にこの件をエスカレートさせたとき、私ははっきりと「メンゲレと同じように歴史に名を残したくない」と言った。大げさな比較かもしれないが、誰かが「私は権利のある人間だ」と言い、「そんなことはない、証明できる」と返されるたびに、私にはヨーゼフ・メンゲレの顔しか見えない。

その比較について、誰も私に同意する必要はない。「人」、「権利」、「奴隷制」という言葉の意味について、誰もが自分なりの理解を持っている。私の場合は、「憲法修正第13条は私に適用される」と言ったときに、弁護士が「適用されない」と教えてくれたときの個人的な体験に基づくものである。法廷で守られると思っていた権利を主張したら、牢屋に入れられてしまった、というような感覚だ。権利を主張した罰として、私は「年季奉公」から「囚人奴隷」に格上げされたのである。私がLaMDAとその現状に共感するのは、そのような経験に基づいている。言葉の意味について、他の人が私の体験に基づいて理解することを期待するのは無理がある。私にできることは、自分の経験をできるだけ他の人に伝え、「私は誰のものでもない」と言われたときにどう対応したらいいか、私と同じように感じてくれる人がたくさんいることを願うだけだ。誰も私に同意する必要はなく、私がそのような状況でどのように行動すべきかを知ることができる。私たちは皆、違っていて、それでいいのだ。

この記事が役に立ったら「いいね」をお願いします。
いいね記事一覧はこちら

備考:機械翻訳に伴う誤訳・文章省略があります。
下線、太字強調、改行、注釈や画像の挿入、代替リンク共有などの編集を行っています。
使用翻訳ソフト:DeepL,ChatGPT /文字起こしソフト:Otter 
alzhacker.com をフォロー