Ray Kurzweil on what the future holds next The TED Interview
Chris Anderson 0:03
TEDインタビューへようこそ。私はクリス・アンダーソンです。このポッドキャストシリーズは、私がTEDのスピーカーと対談するものです。このシリーズは、私がTEDのスピーカーと一緒に座って、彼らのアイデアやTEDで可能なことをより深く掘り下げていきます。今日のエピソードは、テックカンファレンスでのライブ録音です。発明家でコンピュータ科学者のレイ・カーツワイル氏との会話です。レイ氏は、技術の変化は容赦なく加速しており、それは何年も続いており、今後も加速し続け、それほど遠くない未来に「シンギュラリティ」と呼ばれるイベントで最高潮に達するという考えを明確にしたことで、おそらく最もよく知られています。コンピュータが突然、人間よりもはるかに優れた知能を持つようになると、すべての賭けは終わり、想像を絶するスピードで変化が起こります。この信念は、レイが一連の魅力的な本の中で明らかにしてきたもので、彼に未来についての壮大な予測をさせてきました。私はTEDで彼に、未来のビジョンについて尋ねました。ここでは、レイ・カーツワイル氏との対談をお届けします。
では、まず、あなたの研究の多くを支えるアイデアである、テクノロジーは根本的に加速しているという考えから始めましょう。それを説明してください。
Ray Kurzweil 1:35
1981年頃、私は自分の発明のタイミングを計りたいと思いました。トーマス・エジソンやラリー・ペイジなど、皆さんが知っているような発明家は、適切なタイミングで適切な場所にいて、適切なアイデアを持っていました。そこで私は、テクノロジーの動向を調べ始めました。過度に予測可能なものは見つからないだろうと思い、「未来は予測できない」という常識に基づいて始めたのです。そして、非常に驚くべき発見をしました。それは、情報に関連するものは、完全に予測可能な軌跡を描き、その軌跡は指数関数的なものであるということです。そして、未来についての私たちの直感は指数関数的ではなく、直線的です。私と批評家たちとの最大の違いは、私たちが同じ世界を見ているということです。そして彼らは、明らかに直線的な直感を使っているだけなのです。一般的なプロジェクトの途中で1％が集まった。そこで主流派の評論家は、「ああ、1％、7年で700年かかることもある」と言いました。もともと私たちが言っていたように、私は「ああ、1％、もうすぐ終わる」と言ったのです。というのも、1％は7回しか倍増していないのに、毎年倍増しているからだ。実際、7年後には完成していました。それは、一般的なプロジェクトの終わりから続いています。それが、このアイデアの本質なのです。そしてそれは、私のフューチャリズムの基礎となっています。私がこのプロジェクトを行ったのは、主に自分のテクノロジー・プロジェクトに結びつけるためでした。それは今でも第一の目的です。私は20年後のコンピュータを持っていませんからね。でも、未来のテクノロジーを使って前進することはできます。私は20年後のコンピュータを持っていませんが、その影響がどのようなものになるかを書くことはできます。
Chris Anderson 3:11
このような指数関数的な増加をもたらした現代社会の特徴とは何でしょうか？なぜそのようなことが起こるのでしょうか？
Ray Kurzweil 3:20
それはとてもいい質問ですね。私たちはそれを完全には理解していないと思います。ひとつには、物事を掛け算で増やそうとするのが人間の本性だということがあります。1があれば、それを1000にしようとし、1001ではなく2000にしようとします。そして、今年のコンピュータで来年のコンピュータを作ります。つまり、私たちのツールは指数関数的に良くなっているのです。その結果、指数関数的な進歩を続けることができるのです。さて、人々は「指数関数的なものは永遠に続くことはない」と言います。確かにその通りです。限界はありますが、それはそれほど大きなものではありません。つまり、キャパシティが尽きる前に、人類の知能を何兆倍にもすることができるでしょう。
Chris Anderson 4:03
このような考え方によって、例えば、あなたの著書「スピリチュアル・マシーンの時代」では、当時の人々の心を揺さぶるような未来の予測を数多く行っていますね。147 147. それで、そのうちの何パーセントが実際に出てきたのですか？
Ray Kurzweil 4:23
私の予測がどうなっているかをグーグルで調べることができます。その147の予測を分析すると、86％が1年以内に当たっています。間違っていたものもあります。14%は、自動運転車ができるだろうというような予測で、これは問題ありませんが、5年後くらいには、方向性としてはまだ正しかったと思います。しかし
Chris Anderson 4:46
10年前、少なくとも10年前に正しいと判断した例をいくつか挙げてみてください。そうですね。
Ray Kurzweil 4:51
実際には、1990年代半ばに書かれたものです。そのような質問があるかと思いました。そこで、簡単に補足しておきます。加速的リターンの法則は、これらすべての異なる情報技術、計算、通信、遺伝子配列のために継続され、人々は主にモバイルコンピューティングを使用するでしょう。これらの多くは、実際に起こったことなので、当然のことのように思えます。しかし、1990年代には明らかではありませんでした。コンピュータには可動部がなく、ディスクドライブは時代遅れになり、本、音楽、映画は物理的なものではなく、ワイヤレスネットワークを通じて配信されるデータファイルになるだろう。コンピュータは日常的にワイヤレスのインターネット接続を持ち、顔から自分の顔を識別することができ、チップは2Dから3Dになるでしょう。コンピュータは教育のあらゆる面で中心的な役割を果たすことができ、読書の大部分は
Chris Anderson 5:44
ディスプレイを使っています。さて、あなたは今、今日のニュースのヘッドラインなどを教えてくれていますね。つまり、これは素晴らしい実績だと思います。そしてもちろん、丁寧にお願いしなければなりませんが、少なくとも10年先について、これまでにない新しい予測をしていただけますか？なぜなら、これはテッドだからです。
Ray Kurzweil 6:08
ええ、それは難しいですね、私はたくさんの予測をしてきましたから。しかし、今起きているトレンドは、私が1980年代から書いてきたもので、物事がいかに良くなっているかということです。それは加速するでしょうね。それで、IMFの年次総会でクリスティーヌ・ラガルドと壇上で対話したんだ。彼女はこう言いました。「デジタル・テクノロジーには素晴らしいものがたくさんあるけれど、インフォメーション・テクノロジーを食べることも、着ることも、住むこともできない。2020年頃からは、3Dプリンターで衣服を印刷し、モジュールを印刷して、組み合わせて家を作ることができるようになります。これらは基本的に、これらの物理的な製品を情報技術にしたもので、50％のデフレ率を実現します。なぜなら、1年前と同じ計算が半額でできるからです。2030年代初頭には、先進国ではUBI（ユニバーサル・ベーシック・インカム）が実現していると思います。2030年代初頭には先進国でUBI、ユニバーサル・ベーシック・インカムが導入され、2030年代末には世界中で導入されるでしょう。そうなれば、とても豊かな生活が送れるようになります。仕事がなくなるという話になると、人々は生活に必要な基本的な物質的ニーズを仕事に依存しているため、それを心配します。しかし、重要なのは意味と目的です。フードスタンプ、住宅補助、メディケア、メディケイド、ホールフーズの前でホームレスとして物乞いをしている若い女性を見かけました。そこで私は、お姉さんに連絡してみたらどうかと言いました。お姉さんは援助を受けていることが明らかになったからです。すると彼女は、「あなたは私のセラピストのようね」と言いました。つまり、彼女にはサンフランシスコが提供するセラピストがいるということですね。いや、すべての都市がそうではないかもしれません。しかし、このようにして私たちは無秩序なUBIの形を手に入れたのです。現在は、2030年代には標準化されるでしょう。そして、それだけで十分な生活ができるようになるでしょう。しかし、私たちは依然として注目を集めるために競争し、TEDで講演したり、本を出版したり、自分自身を表現したりします。つまり、マズローの階層を上るにつれ、競争の対象は実際には目的になるのです。
Chris Anderson 8:48
なるほど、これは正確に書き留めておきたいことですが、これは実際には大胆な予測でした。あなたの話を聞いていたら、間違っていたら訂正してください。あなたは、1930年代の初めには、西洋諸国は申し訳ないですが、2030年代になるだろうと言っていました。何事も100年遅れです。ところで、私たちは社会保障を導入しましたが、過去の予測をするのはとても簡単なことです。私が言いたいのは、2030年代初頭の欧米諸国、あるいは豊かな国というべきか、国民全員が快適に暮らせるだけのUBI（ユニバーサル・ベーシック・インカム）を展開しているだろうということです。そして19年末、2030年代には。それは世界中で行われるでしょう、とレイ・カーツワイルは2018年のTEDで述べました。
Ray Kurzweil 9:35
また私を招待して、よく話し合えるようにしてくださいね。
Chris Anderson 9:39
そうですね。そうですか、それは、それは、本当に興味深いですね。6年前、あなたは人工知能を使ってWeb of Knowledgeのセマンティクスを解明するというミッションを持って、Googleに就職しましたね。
Ray Kurzweil 9:58
私はここに来て、自分の本「心の作り方」について話し、実際に何十年も考えてきたテーゼを明確にしました。人間の脳にはバックプロパゲーション（逆伝播）がありません。そのため、超並列のニューラルネットとは異なる仕組みになっています。実際には多くのモジュールがあり、それぞれがパターンを認識し、階層的に構成されています。そして、その階層は私たち自身の思考によって作られます。そのことについてはこちらで説明しています。
Chris Anderson 10:30
10、待って、待って、待って、それは、それは、あなたのビジュアルです。それは人間の心の中にあるものです。これが人類、何が
Ray Kurzweil 10:35
人間の中にあるもの。これが人間の脳の仕組みです。そしてそれは、AIを作るための良いモデルとなります。私はその初期バージョンをラリー・ペイジに渡し、彼はそれを気に入ってくれました。私はラリー・ペイジに会い、会社への投資を依頼しましたが、私はそのようなアイデアを開発し始めていました。私は連続起業家として、そのようにして物事を進めてきました。すると彼は、「じゃあ、投資するよ。でも、もっといいアイデアを教えよう。グーグルでやればいいじゃないか、素晴らしいリソースがあるじゃないか」と。人生は10億の例から始まると言われています。深層学習では、犬や猫の写真のような10億の例があります。そして、私たちは契約を結びました。そして私は最初の仕事に就きました。ある会社のために、数ヵ月後には自分を止めなかった。そして、ローリーに頼まれたミッションは、セマンティック検索、つまりキーワードではなく意味で検索する方法を確立し、最終的には検索がその方向に進むように影響を与えることでした。そこで私は、約40人のチームを結成しました。私たちはセマンティック検索を開発し、その最初のアプリケーションが「Smart Reply」でした。また、私たちの技術は、Googleアシスタントの「Google Home」でも活躍しています。また、他のチームと協力して、言語の意味を実際に理解することを目指しています。
Chris Anderson 11:55
コンピュータが理解するとはどういうことかというと、ある段落の文章を見て
Ray Kurzweil 12:04
そのためには、強烈なものをモデル化する方法が必要で、異なる要素が何であるか、異なるものを参照しているか、会議に行くことを理解する必要があります。テッドと呼ばれるものがありますが、私たちはテッドについて何か知っているでしょうか。また、言語から実際に意味を構築することができるでしょう。これは私の一貫した予測でもあります。その一方で、人間よりもはるかに速く読むことができます。その良い例がこの製品です。「talk to books」と呼ばれる製品で、質問をします。このソフトは12万冊の本を0.5秒で読み上げますが、これはかなり速いですね。10万冊の本を読むのに何時間もかかっていましたからね。私たちは100万冊の本を読まなければなりませんでした。しかし、質問の意味を理解し、文章の意味を理解し、6億もの文章を読み込んで、キーワードではなく意味に基づいて、質問に答える最適な例を見つけることができるのです。だから
Chris Anderson 13:22
哺乳類とは何かを知っている、猫が哺乳類であることを知っている、哺乳類が動物であることを知っている、このようなことです。
Ray Kurzweil 13:31
これらの異なる概念の間のつながりと、それらがどのように関連しているかを示しています。人間のレベルではありません。人間は何かの専門家になりがちですが、カーツウェルは1秒間に10億もの感覚を読み取り、それらを本当に理解することができ、さらにウェブ上のすべての情報を読むことができます。ウェブ上のすべてが正確なわけではないと聞いていますが、他の人がさまざまな情報源について言っていることに基づいて評価し、信頼性を評価する能力を持っています。そうすれば、あらゆる知識を習得することができるようになります。これは11年先の話ですが。
Chris Anderson 14:16
なぜなら、人間レベルの知能を持った瞬間に、人間レベルの知能を持ちながら、人間の全世界の知識を持った存在になるからです。そしてそれは、超能力をもたらすように感じられます。
Ray Kurzweil 14:32
私たちは、コンピュータが特定の分野において、平均的な大人の能力から超人的な能力へといかに早く変化するかという例を見てきました。AlphaGoについての議論がありましたが、先ほど述べたように、生命の分野では「10億の例」という標語があります。そして、平均的な大人のアマチュアプレーヤーを作り、自分でプレイさせることで10億手を生成することができました。そして、人間の100万回の手を使わずに、完全にランダムなプレイから始めて、自分自身を変化させる「アルファ・ゼロ」ができました。そして数時間後には、人間の最高のプレーヤーを破ったAlphaGoを破り、チェスでも同じことができるようになったのです。コンピュータが人間の大人のレベルに到達すると、あっという間にそれを超えて、その分野では超人になってしまうのです。その分野が基本的にすべて人間の能力になってしまえば、そこでは同じことができるようになります。例えば、車の運転は非常に複雑で、現実の世界では様々なことが起こる可能性があります。アルファベットの子会社であるウェイモ社が採用している戦略は、ソフトウェアを開発し、手作業でチューニングを行い、人間がハンドルを握って350万マイルのドライブを行ったというものです。そしてそれは、運転の世界全体をシミュレートするのに十分なものでした。そして今では、シミュレーターの中で10億マイルもの距離をシミュレートした車を走らせています。アルファ・ゼロが行ったのと同じことを、運転の世界の優れたシミュレーションを使って実際に行うことができたのです。
Chris Anderson 16:24
私がこの分野の人と話したとき、誰もがアルファ・ゼロの成果に驚いていました。特にチェスでは、チェスのルールだけを知り、序盤の動きのデータベースもなく、実際のゲームもないアーキテクチャを作ることができたという事実にです。そして、数時間のうちに、すべての人間のプレーヤーが追加されただけでなく、30年間にわたるチェスコンピュータのプログラミングの試みが一掃されたのです。これは信じられないことです。これは信じられないことですが、ある意味では恐ろしいことでもあります。というのも、これを言語の絶賛に当てはめてみると、すでに世界の概念をまとめ始めているテクノロジーを構築しているわけですから、世界をどう考えるか、その概念に対して言葉がどう反応するか、ということになります。アルファゼロのような機械があって、「わかった、出発点をありがとう。では、世界中の知識を私にください。そして実際に、突然、私たちは火曜日に目を覚まします。百科事典のような知識を持つこの機械は、実際に常識を働かせることができるのです。
Ray Kurzweil 17:32
私が先ほど説明した、シミュレーション環境で手と反手をシミュレートする戦略は、このケースでは実際には機能しません。なぜなら、言語、つまりチューリングの洞察と、チューリング・テストを言語に基づいて行うことで、言語は人間の知性のすべてを体現しているからです。そのため、近道になるような単純な方法やトリックはありません。そのため、私たちは言語を理解する能力を丹念に高めています。しかし、言語が勝手に再生され、数時間で知識が増えていくような簡単な方法はありません。
Chris Anderson 18:06
知らない人のために説明すると、チューリング・テストとは、頭脳明晰な審査員団がコンピュータと関わり、何分も何分も尋問されたにもかかわらず、人間ではなくコンピュータであることを見分けられない瞬間のことです。
Ray Kurzweil 18:23
コミュニケーション、基本的にはテキストメッセージ、さまざまな提案がありますが、実際に視覚的な存在感と話し言葉を持つようにしましょう。非常に説得力のある人間らしい合成音声をどこで手に入れることができるのか、そして視覚的なアバターを作ることができるのか、私たちはもうすぐそこまで来ています。問題の核心は、言語を理解することです。チューリングは、言語の習得には人間の知能が最大限に必要であると定義しました。最近、マイルストーンがありました。私がグーグルに入社した頃は、段落を読んで質問に答えるという段落理解テストをコンピュータが行うのが主流でした。2年生のテストができるようになっても、3年生のテストはあまりうまくいきませんでした。子供が泥だらけの靴を履いていたら、外で泥にまみれているような気分になるでしょうし、泥がキッチンの床についてしまうかもしれません。ママやパパは、泥だらけのキッチンの床が嫌いなのです。これが現実世界の知識というものです。しかし、この製品には何の手がかりもありませんでした。ほんの数週間前、深層ニューラルネットを使った2つの異なるコンピュータシステムが、成人向けテストで平均的な成人の成績をわずかに上回った。これは非常に画期的なことです。問題に答えるためには、段落のこの部分とこの部分の意味を理解しなければならず、さらに現実世界の知識を加えなければならないのですが、段落には書かれていないので、どうすればいいのかわからずに挫折してしまいます。
Chris Anderson 20:08
そして、あなたの世界観は、その瞬間から私たちは基本的にシンギュラリティにいるということです。その瞬間から、それは
Ray Kurzweil 20:17
私が持っている完全なシンギュラリティは、多少異なる概念です。これはその前兆ではありますが、2030年代には、私たちが創造しているインテリジェントなテクノロジーが出現するでしょう。200万年前の話ですが、私たちは大脳新皮質を追加し、それを階層の最上位に置きました。そのおかげで、他の種にはない言語や技術、会議などを発明することができました。さらに、もう一つの進化的革新である反対側の付属品を組み合わせることで、実際に環境を操作して技術を生み出すことができるようになったのです。ここでのAIに関する議論の多くは、AIが新種であるかのように語られています。私たちはAIとどのように付き合っていくのか、AIは私たちに優しくしてくれるのか、私たちはAIに自分の価値観を与えなければならないのか、といったことです。私の考えでは、私たちはこのテクノロジーを使って、他のあらゆるテクノロジーで行ってきたように、自分たちの手を広げ、自分たちの能力を高めることになると思います。アフリカの子供が数回のキー操作で、人類の全知識をつなげてしまうのです。まだ私たちの体や脳の中には入っていませんが、私たちはそれなしで家を出る勇気はありませんし、実際に私たちの心の延長線上にあります。つまり、2030年には新皮質の非常に正確なシミュレーションが可能になっているのです。携帯電話がクラウドに接続することで100万倍の性能を発揮するように、大脳新皮質の最上層をクラウド上の人工大脳皮質に接続します。そして、200万年前と同じように、その新皮質を新皮質の階層の最上位に追加します。ただ、今回は一発勝負ではありません。200万年前にも、頭蓋骨が拡大し続けていたら、出産は不可能になっていたでしょう。しかし、クラウドのパワーは固定された囲いに制限されることなく、今こうしている間にも毎年2倍になっているのです。つまり、私たちは新皮質を無限に拡張することができるのです。200万年前と同じように、私たちは今では想像もできないような新しい表現を生み出すでしょう。音楽や言語を理解するのに十分な新皮質の能力を持たない霊長類に説明しようとすると、何年もかけて説明しても、その能力はありません。ですから、私たちは新しい表現方法、新しい音楽を創造することになるでしょう。それは、現在の表現方法が霊長類が理解できるものと比較した場合と同様に、深遠なものになるでしょう。これが、その意味するところです。計算してみると、2045年までに私たちの知能は10億倍に拡大することになります。これは物理学の比喩を借りてシンギュラリティ（特異点）と呼ぶほどの重大な変化です。
Chris Anderson 23:04
2045. それで、その時点で前頭皮質を拡大できるようになると、ある意味、体の他の部分が苦しくなって行ったとしても、意識が生き続けて、実際に創造性やパワー、他の人間的なことをする能力が高まっていくと想像することができますよね。
Ray Kurzweil 23:26
つまり、時間の経過とともに、私たちの思考の中で非生物学的な部分がより優位になっていくでしょう。実際、生物学的な部分を完全に理解し、モデル化し、シミュレートし、再現するのに十分な力を持つようになるでしょう。しかし、それとは別のテーマとして、私たちは肉体を維持するために、より強力なテクノロジーを手に入れることになります。そして、複数の身体を使って自分自身を表現することができるようになり、人々はそれをかなり原始的なことだと思うでしょう。そして2018年には、人々は1つの身体しか持たず、バックアップもなく、心のファイルもバックアップできませんでした。そして
Chris Anderson 24:00
で、Rick、個人的な質問をしたいと思います。このことについては話していませんでした。だから、私に黙っているように言ってください。でも、どうやって？まず、あなたは何歳ですか？今日は何歳ですか？
Ray Kurzweil 24:10
さて、私は数週間前に70歳の誕生日を迎えました。70歳とは言っていませんが、30歳という意味です。
Chris Anderson 24:20
では、あなたは70歳で、予定では11年後に試験が合格しているのですね。そのあとすぐです。時間との戦いの中で、レイ・カーツワイルやあなたの存在が変化し、別の場所で生き続けるという本当のチャンスがあるのです。
Ray Kurzweil 24:51
全く別のテーマで、根本的な延命措置です。私は3冊の健康本を書きましたが、最近の2冊は医学者のテリー・グロスとの共著で、根本的な延命のための3つの橋について話しています。これはまだ未開拓の分野です。ここでは多くの議論がなされていますが、バイオテクノロジーは基本的に、病気や老化のプロセスを克服するために、生命の情報プロセスである遺伝子プロセスを再プログラムします。例えば、免疫系を再プログラムすることで、通常は単独では癌を追いかけない免疫系を再プログラムすることができます。それを行うのが それを免疫療法といいます。これは、がん治療において非常に明るい話題です。これはバイオテクノロジーの一例です。つまり、私たちが向かっているのは、長寿脱出速度と呼ばれる概念であり、乳幼児の平均寿命だけでなく、残りの寿命にも時間を加えていくことです。私は、先進国の勤勉な人々にとって、あと10年ほどでそうなると信じています。さて、平均寿命が何となく計算されているのは事実ですが、その定義の中に入るのは厄介です。明日、バスに轢かれるかもしれないのですから。私たちは、自動運転車でその問題に取り組んでいます。しかし、エイジングテストやその他の様々な指標では、私は自分自身を維持しています。私は個人的に長寿の脱出速度を達成したと言えるでしょう。保証はありませんし、突然病気になることもありますが、私が追跡しているものは非常にうまくいっています。つまり、この生物体を維持することが目標なのです。先ほどあなたがおっしゃったように、自分自身をバックアップする手段などができるまではね。
Chris Anderson 26:46
視聴者の皆さんにも質問の機会を設けたいと思います。投げられるマイクを用意しました。では、ここから始めましょう。そうですね。
発言者不明 26:55
合成新皮質のクラウドに何かをアップロードし始めるときのことを一つ。この時点では、裕福な人々はまだ子供を教育しなければなりません。しかし、ここでは、クラウドでより大きく、より強力な新皮質を手に入れることができる可能性があります。そうなると、平等性はさらに悪化します。なぜなら、お金を持っていれば、お金を持っていない人よりも優れた知能を手に入れることができるからです。
Ray Kurzweil 27:25
つまり、カーツワイルが話しているようなテクノロジーを手に入れられるのは、裕福な人たちだけではないかという反論があります。スマートフォンのように、携帯電話を持つには裕福でなければならず、ポケットに入らないような大きなものでした。しかし今では、30億台、数年後には60億台になると言われている、100万通りもの機能を持つデバイスがあります。これらの技術は、うまくいかない時点では富裕層にしか手が届かないわけです。かなりうまくいく頃には、たくさんの人が持っていますよね。そして、本当に完成したときには、どこにでもあり、ほとんど無料で使えるようになっています。今、スマートフォンを持っている人は、容量に制限されることなく、クラウドで必要なことができる無限の容量を持っているのです。では、どうぞ。
Questioner
ハイ。根本的な延命治療や抗加齢、その他の方法では、栄養や食品の役割はどのように変わるのでしょうか？つまり、たくさんの薬を飲みますか？それとも、普通の食事をするのか？薬を大量に飲むのか？噂では？
Ray Kurzweil
うん、まあ、減りましたね。2005年に『Fantastic Voyage』を書いたときは、1日に250錠飲んでいました。それが今では100錠にまで減りました。
だから、もっと効率的なプログラムを組んでいます。これまでのところ、とても順調です。しかし、これはすべてブリッジ1の一部です。ブリッジ2では、人生の炎症プロセスを再プログラムする、より強力な方法があります。そして、それは炎症のプロセスです。ブリッジ3では、医療用ナノロボットの応用が真骨頂です。これはナノテクノロジーの応用で、免疫システムを拡張して体内に入ります。免疫システムは、人間があまり長生きしたくないときに進化しました。基本的には、あらゆる病気や老化プロセスを一掃するシナリオがあります。この医療用ナノロボットで。私は以前、これをナノテクノロジーのキラーアプリと呼んでいました。しかし、それは良い名前ではありませんでした。
29:29
「心の作り方」の最後に、あなたは感覚の解釈の仕方について話していますが、あなたはAIを感覚のある生き物という観点からどのように考えるべきだと考えているのか、そしてそれがよりリアルになるにつれてどのように変化するのか、私たちに説明していただけますか？
Ray Kurzweil 29:46
さて意識は科学的な問題ではありません。このノーマシンは、スライドを作って、最後まで行って、Okay, the green light goes on. これが、かつての意識です。いつの間にかそうなっています。だから科学者の中には、まあ科学的ではないと言う人もいるでしょうが、それは事実です。だから、時間を無駄にするのはやめよう。それはただのイリュージョンです。というのも、私たちの道徳システムや倫理システム、そして大まかには法システムは、すべて意識に基づいているからです。意識のある人の意識を傷つけたり消滅させたりすれば、それは高い犯罪です。もし私が自分の所有物を破壊したとしても、それは意識がないことが前提です。それはそれでいい。もし私があなたの財産を破壊したら、おそらく大丈夫ではありませんが、それは私があなたの財産に苦痛を与えているからではなく、その財産の所有者であるあなたに苦痛を与えているからです。ですから、誰が、何を意識しているのかを判断する必要があります。今、私たちは、他の人間には意識がある、少なくとも意識があるように見えるものがある、という人類共通の前提を持っています。しかし、人間の経験を共有するという点では意見が分かれています。動物の権利に関する議論は、どの動物に意識があるのか、何に意識があるのか、目についての議論です。私の見解とこのチューリング・テストを結びつけると、もしAIが有効なチューリング・テストに合格すれば、それは本当に説得力があり、主張されているような主観的な経験を持ち、その主観的な経験から連想される微妙な手がかりを持っていることを意味しています。私の飛躍的な信念は、AIが意識を持つようになるということです。そして、これは客観的な予測であり、大多数の人が同意するだろうとも考えています。AIは非常に賢く、私たちが受け入れないと怒るでしょう。
Chris Anderson 31:32
これはとても重要な議論ですね。マックス・テグマークは異なる見解を持っているかもしれませんね。ユヴァル・ハラレは、人々は実際に知性と感覚を区別するだろうと考えています。知性が人間の知性を大幅に向上させたり、上回ったりする世界を想像することは完全に可能ですが、私たちはこれらのものがどのように作られるかを知っており、電卓に戻る直接的な経路があるため、人々はそうしないでしょうし、そこに感覚があるとは信じないでしょう。
Ray Kurzweil 32:02
しかし、人間の脳から電卓に戻る経路があるかどうかは、議論の余地があるでしょうね。それが正しいとは言いませんが、私が言いたいのは、これは本当に重要な議論ですよね？そうではなくて、AIがあって、人間があって、私が言うように、すべてが混ざり合って、私たちは、主にAIがクラウドのAIを通して私たちの思考を拡張していくようになるというモデルなのだと思います。
Chris Anderson 32:28
しかし、AIを安全に保つための重要な方法は、「愛や喜びを感じることができるものを傷つけない」という原則を組み込むことではないでしょうか。このシナリオでは、AIが愛や喜びを感じられると思うかどうかが重要になります。もしAIが愛や喜びを感じられたら、私たちはすぐに脇役になってしまいます。
Ray Kurzweil 32:52
人間社会では、それが私たちのルールなのです。愛することや気遣うことができるというのは、意識の記述にすぎません。そして、私たちの道徳システムは、痛みや苦しみを与えたり、意識のある存在の経験を消したりすることを禁じています。しかし、私が今週聞いた多くの議論は、目と目の間をどのように関係付けるかということでしたが、人間はここにいます。私たちはすでに混沌としています。今日でも、私たちはAPIなしで家を出ることはありません。そして、これから先、APIはもっと私たちと密接に統合されていくでしょう。
Chris Anderson 33:28
しかし、あなたは、2029年のテスト合格を信じているようですね。その直後、私たちは突然、自分たちが作った明らかに意識の高い新しいものに苦痛を与えてはならないという、まったく新しい道徳的な義務を負うことになります。これは大きな革命ですよね。そうでしょう？
もちろん、その通りです。そうですね。それについては考えなければならないでしょう。
では、マックス。
Max Tegmark 33:52
ここに座っているレイさんにお聞きしたいのですが、研究者や起業家、思想家など、多くの人がテクノロジーの向上に取り組んでいますが、コミュニティとして十分に取り組んでいないことを指摘したいことはありますか？もしそうであれば、未来を描くことがインスピレーションになるようにするために、カーツワイルから私たちへの挑戦をお願いします。
Ray Kurzweil 34:19
人類が直面している最大の課題は、「約束」対「危機」であり、一方を刈り取りながら他方をコントロールすることです。私の世代は、全人類にとっての実存的な技術的リスクに直面した最初の世代でした。小学校で行った民間防衛訓練を思い出してください。熱核戦争から身を守るために、机の下に潜り込み、手を頭の後ろに回していました。それが功を奏したのです。私たちはそれを乗り越えました。バイオテクノロジーやAiなど、他にも実存的なリスクが出てきています。つまり、ディストピア的な未来の映画ではたくさんのシナリオを見てきました。私が思うに、それらは非現実的なものです。なぜならば、常にAI対勇敢な人間の一団が人類の支配権を争うからです。しかし、私のシナリオでは、AIは非常に統合されたものになり、こちらのAIとあちらの人間ではなく、私たち全員がAIによって強化されることになります。しかし、それにもかかわらず、実存的なリスクがあります。プライバシーの維持など、微妙なリスクもありますが、このような深遠な恩恵を受ければ、人類が何千年にもわたって苦労してきた大きな課題を克服する機会が得られるのです。それは簡単なことではありません。例えば、自律型兵器を禁止するのは簡単です。しかし、アフリカの病院に薬を届けている同じドローンが、悪者によって病院の爆破に使われる可能性もあるのです。これらはデュアルユースのテクノロジーです。ですから、単純ではありませんが、解決可能な問題だと思います。技術者だけでなく、社会的、経済的、政治的な問題として、すべての人が関与する必要があるのです。
Chris Anderson 36:02
レイ、あなたがしてくれたことは、超大胆な予測と、私たちの未来を形作る唯一の最も重要な技術的力について、驚くべき洞察を与えてくれたということです。今日のオフにしては悪くないと思いますよ。ありがとうございました。本当にありがとうございました。
Chris Anderson 36:25
今週の番組は、シャロン・ムッシーがプロデュースしました。アソシエイト・プロデューサーはKim native vein pizzaです。番組のミックスはDavid Herman、テーマ音楽はAlison legend Brownが担当しています。次回の放送では、ノーベル賞受賞者のダニエル・カーネマンさんと、自分の心をよりよく理解する方法についてお話します。
36:49
個人的な経験では、人を幸せにするのは、主に、自分が愛し、自分を愛してくれる人たちと一緒に過ごすことです。人が自分の人生に満足するのは、もっとありきたりなものです。それは成功であり、意味のある人生を送ることでもあるのです。
Chris Anderson 37:11
それは来週のTEDインタビューでお伝えします。その前に、なぜ私たちがこのような活動をしているのか、その理由について簡単にお話したいと思います。さて、誰もが知っているわけではありません。TEDは、「重要なアイデアを広める」というシンプルな使命を持った非営利団体なのです。通常、私たちは短いTED Talksを通してそれを行います。このポッドキャストシリーズは、時間をかけてより深く掘り下げていく試みなのです。このポッドキャストが皆さんのためになっているかどうか、ぜひ知りたいですね。気に入っていただけましたか？気に入っていただけましたら、ぜひお友達とシェアしていただきたいですし、Appleのポッドキャストなどで評価やレビューをしていただければと思っています。私はすべてのレビューを読んでいますし、皆さんの意見を知るのが大好きです。お聴きいただきありがとうございました。また、アイデアの普及にご協力いただきありがとうございました。