人間と社会に対するデジタルの脅威
Digital Threats to Humans and Society

AI(倫理・アライメント・リスク)トランスヒューマニズム、人間強化、BMI情報戦・心理戦・第5世代戦争・神経兵器暗号通貨・地域通貨・CBDC電磁波・5G

サイトのご利用には利用規約への同意が必要です

Digital Threats to Humans and Society

futurict.blogspot.com/2022/

2022年6月29日

私たちは、デジタル技術が(健康や持続可能性に関連する問題を含む)世界的な大問題の解決に大きく貢献する可能性を秘めていることを認める。また、イノベーションと新たな経済セクターを促進するものでもある。多くの文書がこれを取り上げ、ビジネス的価値と社会的便益について述べている。

これに対して本書では、デジタル技術の脅威と望ましくない副作用を概観し、潜在的な誤用、デュアルユース、システミックリスク、潜在的な事故を明らかにする。結論から言えば、その被害は大規模で、おそらく古典的な兵器がもたらす被害よりも大きいかもしれない。私たちの社会が、こうしたリスクを回避したり、対処したりする準備が十分に整っているかどうかは定かではない。副作用の多く(民主主義や人権への影響など)は定量化が難しく、かなり遅れて初めて目に見えるようになるかもしれない。

さらに、内部関係者以外には、以下の内容の一部はSFのように読めるかもしれないことに留意してほしい。しかし、デジタル革命が指数関数的に加速していることや、いくつかの国の軍事技術が一般に知られているビジネス・アプリケーションよりも何十年も先を行っていることを考慮すると、以下に述べる技術開発のほとんどは将来の可能性ではなく、すでに存在しているものであり、適切なガバナンスが必要であると考えなければならない。

デジタル革命が大きな破壊力を持つことはよく知られている。それはビジネスモデルだけでなく、以前は異なる価値観、目標、原則に従って分離され、管理されていた社会の全領域を変革する。今、デジタル技術は、多かれ少なかれ、あらゆるもの、そして社会のあらゆる分野を再発明するために使われている。デジタル技術はあらゆるところに浸透し、破壊的イノベーションを引き起こしている。

データ量と処理能力が飛躍的に向上したことも考慮しなければならない。また、システムはより接続されるようになり、ネットワークのネットワークとして構成されるようになった。これは多くの利点を意味する一方で、カスケード効果(停電など)によるシステム障害など、新たな脆弱性ももたらしている[1]

ここで、新たに生まれつつある、あるいはすでに存在しているさまざまな課題について簡単に触れておこう。このケース・スタディのページ数の制限を考慮し、よく知られている問題については短くまとめ、あまり知られていない問題についてはより詳細に考察することにする。

ビッグデータとデータ駆動型社会

今や、ビッグデータやリアルタイム分析を用いて、多くのシステムを「データ主導型」で管理することが一般的になっている。しかし、結果として得られるソリューションの質は、データの質と、データを情報、知識、知恵に変える能力にかかっている。これはしばしば以下のような問題によって複雑になる[2]

  • 正確な測定は「バイアス、ランダム性、乱流、……カオス理論、……量子力学、……決定不可能性、……そしてオーバーフィッティング」によって妨げられる
  • 分類エラー(「偽陽性」や「偽陰性」など)は、偏った(つまり代表的でない)データサンプルの場合だけでなく、統計分析において広く見られる問題である。例えば、予測的な取り締まりアルゴリズムの場合、「偽陽性」率はしばしば90%を超える。
  • データの多くのパターンは取るに足らないもので、意味がない。それらは偶然に現れるだけだ。したがって、「オーバーフィット」のリスクは深刻である。
  • 相関関係は必ずしも因果関係を意味しないし、因果関係が示されたとしても、AがBを引き起こすのか、BがAを引き起こすのか、あるいは第3の要因CがAとBを引き起こすのかを判断するのは難しいことが多い。
  • パラメーターのフィッティングは有限の精度でしかできないが、決定論的カオス、乱流、関連する「バタフライ効果」などの現象が示すように、パラメーターがわずかに異なると、結果が大きく異なることがある。このような場合、モデルの「感度」が問題になることがある。
  • あるデータセットにうまく適合しても、まだ検証されたモデルとは言えない。そのためには、パラメータを再調整することなく、異なるデータセットでモデルをテストする必要がある。しかし、検証されたモデルだけが、異なる環境に対して意味のある示唆を与えたり、将来の展開をある程度予測することができると仮定することができる。
  • 敏感なモデルは将来の予測にはあまり適していない。それらは高い不確実性を意味する。(それでも、システムの不安定性を明らかにする可能性はあり、それを知ることも重要である)。
  • 複雑でネットワーク化されたシステムは、しばしば「邪悪な問題」や予期せぬ振る舞いを引き起こす。さらに、大きな変動(「ブラック・スワン」を含む)は、正規分布に基づいて統計的に予想されるよりも頻繁に発生する可能性がある。

デジタル「水晶玉」

上記のような問題があるにもかかわらず、大手IT企業はリアルワールドのプロセスやシステムをモデル化するためにビッグデータを利用することが増えている。大規模な監視によって、デジタルの「水晶玉」のようなものを作ろうとさえしている。実際、例えばPalantirが目指しているのはこれである[4]。しかし、Recorded Future(GoogleとCIAのスピンオフらしい)のような企業もある[5]。World Economic Forum(WEF)にも似たようなインフラがあるようだ。これらは世界のほぼどこで何が起こっているかをリアルタイムで分析する(「ナウキャスティング」)だけでなく、未来を予測しようとする(「フォーキャスティング」)。軍も間違いなく「予測マシン」を構築している。

人工知能

ビッグデータはしばしば「デジタル時代の新しい石油」と呼ばれるが、その上で動く「デジタルモーター」は機械学習アルゴリズムに基づく人工知能である。

今日の機械学習モデルは、数百万から数十億、あるいはそれ以上のパラメーターを学習することを目指しているかもしれない。しかし、システム要素間の相互作用は(モノのインターネットの時代であっても)十分に表現されていないことが多い。また、特に動的に変化する環境では、学習アルゴリズムの収束の遅さや欠如が問題となることがある。これは、誤ったシステム表現や誤った予測を生み出す可能性がある。

驚くべきことに、単純なモデルが複雑なものよりも予測力が高いことがしばしばある(上記の「過剰適合」の問題が示すように)。全体として、現在ではビッグデータが「科学的方法を時代遅れにした」という、クリス・アンダーソンがかつて有名に仮定したことに反して、「科学的方法を時代遅れにはしていない」と言えるだろう。今日の知識によれば、気候、生命、行動、健康などの複雑な動的システムのモデリングの精度には根本的な限界がある。

AIアルゴリズムに対するさらに頻繁な批判は、AIが「ブラックボックス」のようだというものだ[9]。言い換えれば、AIがどのようにして結論を導き出すのか、理解できないことが多いということだ。実際、マイノリティ、女性、有色人種に対する差別に関する最近の研究[10]が示しているように、AIシステムの成果には疑問の余地がある。このような問題に対抗するため、現在、信頼でき、説明可能で、公正なAIの開発に大きな努力が払われている。

監視資本主義

世界中で、データの収集は有利な機会となっている。2種類のシステムが一般的に区別される:(1) 国家に基づく監視と管理が行われている社会(中国のような)、(2) 監視が主に企業を通じて行われると想定されている社会(アメリカのような)。前者に対しては「技術的全体主義」といったレッテルがしばしば用いられるが、「監視資本主義」という用語は主に後者を表している[11]

監視資本主義は、グーグルの元CEOであるエリック・シュミットの次の言葉によって、おそらく最もよく特徴付けられる[12]

「あなたの許可があれば、あなたやあなたの友人に関するより多くの情報を私たちに提供し、私たちは検索の質を向上させることができる。私たちは、あなたが入力する必要はまったくない。私たちはあなたがどこにいるかを知っている。私たちはあなたがどこにいたかを知っている。私たちは、あなたが何を考えているかを多かれ少なかれ知ることができる」

監視資本主義と国家が運営するデジタル社会は、どちらも人権と人間の尊厳、とりわけプライバシーの危険を示唆している。しかし、それだけにとどまらない。後述するように、典型的な追加機能はプロファイリング、スコアリング、ターゲティングである。全体として、こうした動きは民主主義に対する潜在的な脅威と見なされるようになってきている。特に、「データ独裁」といった用語は、データ主導の行動操作の危険性を警告しようとしている(後述)。

ウォー・ルーム・アプローチ

膨大なデータに基づくシステムの管理や制御は、一般的にコントロール・ルーム(しばしば「ウォー・ルーム」とも呼ばれる)を通じて行われる(前述の「水晶玉」アプローチを利用することもある)。このアプローチは、シークレット・サービスや軍だけでなく、近代的な企業やサプライ・チェーン、スマート・シティの運営にも使われるようになってきている。

しかし、データ主導の「技術主義的」アプローチには限界がある。例えば、生産施設は特定の目標機能を最大化するかもしれないが、都市や社会には複数の競争目標があり、社会システムを繁栄させるためには、それらすべてに同時に対処しなければならない。しかし、技術的手段を用いて地球の未来を最適化しようとすれば、正しい目標関数を決める科学的根拠がないにもかかわらず、目標関数を選択しなければならない。例えば、一人当たりGDPなのか、持続可能性なのか、平均寿命なのか、生活の質なのか。どのような目標関数を選んだとしても、システムの複雑さを一次元の関数にマッピングすることになる(しなければならない)。したがって、遅かれ早かれ、新たな問題を抱えることになる。したがって、データによって力を与えられた「慈悲深い独裁者」のパラダイムに基づいて社会を運営することは、うまくいかないことが予想される[13]

「軍隊式」の中央集権的なトップダウン・コントロールのアプローチは、多様性、参加、集合知といった原則に基づく民主主義も損なうことになる多様な目標があるため、実際、都市や社会は企業や機械のように運営されるべきではない。共進化的アプローチは最適化を凌駕するかもしれないし、協調的アプローチは統制を凌駕するかもしれない[14]

最適化の危険性を説明するために、世界を持続可能なものにする任務を負ったAIシステムを想定してみよう。世界の人々にとってより良い未来が存在するかもしれないにもかかわらず、持続可能性に到達する最も簡単な方法は人口減少であると結論付けたとしたらどうだろう?これは恐ろしいシナリオの引き金になりかねない(下記参照)。このような問題を避けるために、「戦争の部屋」を「平和の部屋」に変えることが要求されている[15]

また、「証拠に基づく」意思決定には2つの意味があることを考慮することも重要:「事実に基づく」(検証や改ざんの確立された科学的手法によって決定される)ものと、「データ駆動型」(測定や推定、予測、予想に基づく)ものである。この2つはしばしば同じではないが、前者のアプローチが後者に取って代わられることが多くなっている。これは新たなリスクを生む:データ主導のアプローチは、誤った解釈やバイアス(上記参照)に対して脆弱であるだけでなく操作や欺瞞に対しても脆弱である。例えば、COVID-19に対応する多くの政治的決定は、データ、あるいは予測されたデータ(実際には、実現しなかった予測に基づくことが多い)に基づくものであった[16]

これでは、さまざまな逆効果を招きかねない。さらに、データ主導のアプローチはハッキングされやすい。

サイバー脅威(サイバー脆弱性)

「サイバー脅威」というテーマは、近年すでに多くの注目を集めているため、この段落は短くしている。しかし、敵が強力なAIを攻撃に利用し、例えば「ゼロデイ・エクスプロイト」に利用できるセキュリティ・ギャップを発見する場合、新たな問題が生じる。

サイバーリスクと個人化されたプロパガンダの指数関数的な(あるいはそれ以上の)増加により、インターネットの組織方法は今や脆弱で時代遅れだと考える人々がいる。彼らによれば、現在のインターネットは、おそらく量子暗号と組み合わせた衛星ベースのシステム[17]に取って代わられるべきだという。そうすれば、インターネット・コンテンツを操作する可能性を減らし、データ通信を大幅に危険にさらすことができるかもしれない。しかし、それはまた、非常に少数の人々によって、情報の大部分をコントロールすることを意味し、彼らは必ずしもすべての人々の最善の利益のために行動するわけではない。また、光ベースの通信(LiFi)も近いうちに登場するかもしれない。

プロファイリングとデジタル・ダブルス

企業も政府も、個人に関するデータの収集量を増やしている。このプロセスは「プロファイリング」と呼ばれ、個人のプロファイルを作成することである。これらのプロファイルは、人間、物体、そして地球をより詳細に表現している。その詳細度が増すにつれて、「アバター」(アニメーションによる表現)、あるいは「デジタル・ツイン」(対象システムの関連するすべての特性がデジタル的に再現されていると仮定する)[18]とさえ呼ばれるようになる。このようなデジタル・ツインは、たとえば企業や都市だけでなく、地球全体、そこに住む人々、その行動、健康、身体、性格についても想定されている。明らかに、これはプライバシーの大きな問題を意味するが、それだけではない。すべての人が「ハッキング」(感情、思考、行動、健康など)に対して脆弱になる。

ワールド・シミュレーション

アバターやデジタル・ダブルは単なるデータ収集ではない。彼らの行動はシミュレートされ、アニメーション化される。つまり、特定の実装が選択される前に、デジタルの「もし……なら」実験ができるような、バーチャルな生活を持つことになる。世界シミュレーション」のために作られたそのようなプラットフォームのひとつは「Sentient World」と呼ばれている[19]。それは「軍事的な第二の地球」を作り出すために使われており[20]、おそらくウィキリークス(CIA Vault 7)やエドワード・スノーデン(NSA)によって明らかにされた大量監視の主な理由である[21]。

しかし「Sentient World 」は戦争作戦の計画や心理作戦(PsyOps)の実行にも使われているようで、平時にも使われる可能性がある。(政治や国民がCOVID-19について考えたり話したりする方法は、その一例かもしれない)。このツールはさらに、物議を醸している情報支配戦略[23]の文脈で見るべきであり、そこには「マインドウォー」という問題のある概念が含まれているようだ。

アテンション・エコノミーとナッジング

情報が溢れる現代において、最も短い資源は実はお金ではなく、「注目」かもしれないと言われている。私たちの注意を引くことに成功した人は、私たちの感情、思考、行動に影響を与えるチャンスがある。意識的に処理される情報はごく一部であるため、例えば「ナッジング」など、サブリミナル的な方法で操作されることもある[24]

人々がインターネットやソーシャルメディア・プラットフォームを利用している間、彼らは常にナッジや広告にさらされている。「監視資本主義」のシステムでは、このような広告にはオークション方式の市場が存在する。つまり、誰もがインターネット・ユーザーの注目を集めるために入札できるのだ。これは彼らの時間を消費するだけではない。それはまた、おそらく世界の存亡に関わる問題を解決するために使われた方がよいであろう知的能力を、大量に吸収することにもなる。

検閲とプロパガンダ

アテンション・エコノミクス(特に、アテンション容量の大きなシェアを吸収するアプローチ)は、新しい形の検閲やプロパガンダにも利用できる。ほとんどの検索エンジン、ソーシャルメディア、インターネットベースのサービスは、現在パーソナライズされている。つまり、アルゴリズムによって、誰かがどのようなオファーを受け、どのような情報を目にするかが決定されることが増えているのだ。アルゴリズムはまた、どれだけの人がどのような情報を見るか、誰が何を見るかも決定する。このようにして、ある情報がどこでどこまで広がるかを決定することができる。この事実を利用して、ある種の情報(機密情報や機密情報など)を(削除しなくても)事実上見えなくしたり、他の種類の情報を増幅させたりすることができる。

順応と気晴らし

結論として、先に述べたような方法は、気晴らしのために使うことができる(ソーシャルメディアが「大量気晴らし兵器」とも呼ばれる所以である)。しかし、(強制的な)コンセンサス(「Gleichschaltung」)を促進するためにも使うことができる。コミュニティの「ソーシャル・エンジニアリング」(協力と収束の促進、または対立と発散の促進)の両方の方法が報告されている(すなわち、エドワード・スノーデンのJTRIGの暴露[25])。

単一の視点の推進は、イノベーション、社会の回復力、集合的知性、民主主義にとって重要な前提条件である多様性と多元性を損なう可能性があることに留意してほしい。

ヘイトスピーチ

ヘイトスピーチの促進は、信頼、連帯、コミュニティの一貫性を損ない、有害な効果をもたらす。このような「分断と統治」戦略は、どのような社会の基盤も蝕みかねない。扇動(Zersetzung)とさえ言えるかもしれない。ヘイトスピーチは拡散する傾向がある。ヘイトスピーチはインターネット上でのやりとりを感情化し、それによって人々がソーシャルメディア・プラットフォームにより多くの時間を費やすようになる。なお、ヘイトスピーチの多くはトロールファームから来ている。ソーシャルボットやGPT-3のような言語生成AIシステムもこの問題に貢献している可能性がある。

しかし、常に悪意があると仮定することは、不完全なイメージを与える。一部のデジタル先見主義者は、社会を「原子」である「個人」に分解することが正しいと信じているようだ。そうすれば、人工知能を使って人々の行動を操作することが容易になる。超知的であろうとなかろうと、人工知能が個人の思考、感情、行動、生活をコントロールするようになるのだ。詳しくは、例えば「ターゲティング」や「トランスヒューマニズム」の項を参照されたい。

フェイクニュースと偽情報

全体として、アテンション・エコノミーは事実を見極め、それに集中することを難しくしている。これは、教育、科学、対話、ひいては、学習、洞察、真実、啓蒙、責任ある自己決定的な生活を信奉する近代民主主義社会の基礎を損なうものである。また、新たな情報の非対称性を生み出し、「知識は力なり」の原則に基づき、少数の新たなデジタル・エリートに利点をもたらす。この問題に対処しなければ、やがて民主主義国家は、デジタルに基づく新たな封建主義に道を譲ることになるかもしれない。

ターゲティングと行動操作

ナッジングをパーソナライズするためにビッグデータと組み合わせる場合、これは「ビッグナッジング」と呼ばれる[26]。この方法は軍事プロパガンダだけでなく、商業的な「ニューロマーケティング」にも利用されている[27]。

今日、人工知能の能力の大部分は行動操作に使われている。民主的な選挙の操作にも悪用される可能性があり、ブレグジット投票や2016年のアメリカ選挙でも主張されている。ケンブリッジ・アナリティカの内部関係者が明らかにしたように、この軍事的なプロパガンダ手法は約65カ国で使われているようだ[28]。さらに、こうした手法は選挙中だけでなく、政治システムの形成にも使われているようだ。平時の社会を日常的に「社会工学」するためにも応用されているのだろう[29]

市民スコアと行動コントロール

プロファイリングやターゲティングのほかに、デジタル社会の手段には市民スコアの使用も含まれる。複数のスコアが使用されている。それらは例えば、中国における「顧客生涯価値」や「社会的信用スコア」を包含しており[30]英国GCHQの「カルマ警察」プログラムと類似している[31]

上記の点数はスーパースコアであり、人の「価値」や地位を不適切に一つの数字に凝縮したもので、資源やサービスへのアクセス、権利も左右する。このような点数は、富や健康を考慮する以外に、監視を利用した行動に基づくこともある。結果として、それは行動統制の道具となる。これに関連して、「技術的全体主義」という言葉がしばしば使われている[32]。実際、最近、「社会的信用スコア」は、特にウイグル人の扱いに関連して、激しい批判にさらされている[33]。

デジタル警察

よく似た概念にデジタル・ポリシングがある。過去に記録された犯罪パターンに基づいて将来の犯罪を予測しようとするものだ。映画『マイノリティ・リポート』にやや似ているが、犯罪が起こる前に介入することが目的だ。これは、実際に犯罪を犯したことのない人々に対する制限(「ジオフェンシング」など)を意味するかもしれない。また、刑務所の量刑もアルゴリズムによる判断に左右されるかもしれない。

デジタル・ポリシングは、シークレット・サービスのような活動(監視)の関与や、警察の行動(=執行機能)との分離の欠如だけでなく、透明性や民主的監視の欠如についても批判されている。さらに懸念されるのは、有色人種やマイノリティに対する組織的差別である。さらに、誤認率は非常に高く、しばしば90%を超える。このことは、潜在的に、取られる行動に多くの恣意性があることを意味する。潜在的テロリストのリストには数百万人の名前が含まれていることが多いが、実際にテロ行為を行った人物に関連するアラームは100,000件に1件しかないようである[34]

規範は法である

経済、社会、環境におけるプロセスがモノのインターネットによってますます監視され、アルゴリズムによって管理・制御されるようになるにつれ、私たちは「コードが法律である」と表現される状況に直面している[35]

それによると、私たちの社会におけるプロセス、商品やサービスへのアクセス、何が可能か不可能かは、アルゴリズム(「コード」)によって決定されることが多くなっている。これらは、あたかも「自然の法則」であるかのように、行動空間に制限を加える。このような制限は、自由の権利を妨害する。以前は、正当な理由があれば、処罰のリスクを冒してでも法律に違反することを決めることができたが、将来はその可能性がなくなるかもしれない。

「インダストリー4.0」[36]の時代には、アルゴリズムによるアプローチが、モノから主体へ、ロボットから人へ、生産から社会へと不適切に移行する危険性がある。そのようなデータ主導のアプローチは、人間の尊厳、自由、創造性、文化、愛など、人間にとって重要な、測定不可能な多くの生活の質を見逃してしまう。

にもかかわらず、社会はますます自動化され、機械のように動くようになるかもしれず、それは多様性、イノベーション、社会の回復力、集合的知性を損なう恐れがある[37]

キャッシュレス社会とデジタル・コマンド・エコノミー

「コード・イズ・ロー」の原則が特に厳しく作用する可能性のある枠組みのひとつがキャッシュレス社会であり、これは、台頭しつつある「デジタル指令経済」の可能な要素として議論されている[38]。このような動きは、意図的であろうとなかろうと、アジェンダ2030の持続可能性開発目標や、惑星/地球規模の健康アジェンダによって促進される可能性がある。ここでは、財やサービスへのアクセスは、利用可能な予算やこれまでの消費パターン(「肉の食べ過ぎ」、「飛行機の乗り過ぎ」…)に左右されるだけでなくなるかもしれない。また、セクターをまたいで連動させたり(例えば、アパートの家賃が支払われるまでレンタカーは借りられない)、先に述べた社会的信用スコアのように行動に連動させることもできる。つまり、政治体制を批判することは、重要な資源へのアクセスに影響を与えるかもしれない。

キャッシュレス社会では、トリアージの原則に基づいた資源管理も行われるかもしれない。すべての人に平等にアクセスする権利を提供するのではなく、優先される特権的なケース、特定の資源にまったくアクセスできない絶望的なケース、残されたものにアクセスできるかもしれないその他のケースがあるかもしれない。そのような状況では、システムが期待することに全面的に従うことが、生き残るための前提条件となるかもしれない。ワクチン未接種の人々を病院で治療するか、トリアージするかという現在の議論は、この傾向をはっきりと示している。

電子ID

セキュリティーと制御の概念の重要な要素のひとつは、ユニークで偽造防止されたアイデンティティーである(「制御変数」が一般的に個々のシステム構成要素に関係しないことは複雑性科学から知られているが)。これに関連して、バイオメトリーは重要な概念となっている(遺伝子や人相によって善人と悪人を特徴付ける試みは以前失敗しているにもかかわらず)。指紋や顔認証は、おそらく最もよく知られている機能だが、データベースの流出、偽造、プライバシーの問題から疑問視されている。シークレット・サービスでは、デジタル・フォレンジック(スマート・デバイスの特徴、インストールされているソフトウェア、使用パターン、位置追跡などに基づく)を利用している。これにより、極めて高い精度で人物を特定することができる。

特定の行動パターンや消費パターンを強制するために、ナノ粒子を使った身体ベースのIDなど、さらなる種類の電子IDが検討され、探求されているようだ。おそらく、id2020コンソーシアムもこのようなソリューションに取り組んでいる[40]。さらに、同様の方向性を示す様々な関連出版物や特許がある[41]

このような解決策は、人々をモノのように管理し、コントロールできるようにするという目的には役立つかもしれないが、同時に、世界中の民主主義国家の基盤であり、国連人権憲章によって守られている重要な価値である人間の尊厳の本質を破壊することになる。

身体のインターネット

ナノ粒子を利用した技術の開発は、明らかにe-IDの開発にとどまらない。ナノ粒子やナノボットは、診断(身体機能の監視)や治療(身体機能への干渉)のために医療で使用することができる。また、少なくとも将来的には、遺伝子編集にも利用されるかもしれない[42]

Internet-of-Thingsに基づくインダストリー4.0の主な推進者の一人である世界経済フォーラムは、「身体のインターネットがここにある」と繰り返し指摘している[44]

残念ながら、このような技術の使用(あるいは誤用)には多くの問題があり、その多くは未解決である。実際、ナノテクノロジーは今のところほとんど規制されていない[45]

ナノ粒子は食物、水、空気、薬物、ワクチンなどを通じて人体に吸収される可能性があるため[47]、このことは深刻な懸念を抱かせる。実際、多くの人々が非天然のナノ粒子にさらされており、その中には有毒なものもある[48]

ニューロテクノロジー心を読み、操る

最近、ニューロテクノロジーの開発に関するニュースも増えている。これまでのところ、このニュースのほとんどは、「ニューラルリンク社」などが開発したブレイン・チップが中心だった。

しかし、技術的な発展は、特に軍事的な応用との関連で、さらに進んでいるようだ。その一方で、研究者や技術者たちは、脳内にナノ粒子を分散させることに基づくヒューマン・マシン・インターフェース(HMI)の研究に取り組んでいるようだ。いわゆる「オバマ・ブレイン・プロジェクト」は、関連する種類の研究を数十億ドルで支援している[49]

同様の研究はヨーロッパでも行われており、酸化グラフェンなどの物質に基づいているようだ[50]

製薬業界がこうした開発に関与していることは確かである。さらに関連する文献は、「スマートダスト[51]や「ニューラルダスト」[52]といったキーワードで見つけることができる。

マトリックス

上記の技術開発は、(誰も知らないであろう)思想の自由だけでなく、意志の自由をも脅かすものである。SFのように聞こえるかもしれないが、人間の自律性を著しく危うくするほど、人々の心、感情、思考を操作することが可能になる危険性がある。視点を変えれば、人々は巨大なハイブリッド・コンピューター・システムの一部となり(コントロールされ)てしまうかもしれないのだ。

このことについての懸念は、特に、現実はコンピュータのシミュレーションかもしれないと示唆する多くのハイテク億万長者によって提起されてきた[53]。「コードが法律である」という原則に基づく社会では、これは確かにますます大きくなっている。関連する映画シリーズに触発され、このような拡張現実はしばしば「マトリックス」として組み立てられてきた。しかし、「ビッグ・ナッジング」のような弱い形の操作でさえも、「マトリックス」と呼ばれるもの、すなわち、ほとんど逃れることができないかもしれないデジタル管理された世界を彷彿とさせるような効果を生み出すかもしれないことを述べておく。

ニューロキャピタリズム

ニューロテクノロジーは、企業にとって魅力的な視点を提供する。監視資本主義は、人々を監視し、彼らの思考、感情、行動を推測することに限定されているように見えるが、このデータ駆動型システムの次の段階は、「ニューロキャピタリズム」と呼ぶ人もいるようだ[54]

このシステムでは、人々の思考や感情、決断を操り、コンピュータを使った制御によって彼らの考えや記憶、価値観を形成することも可能だろう。実際、研究室ではすでに夢の広告、つまり特定の商品を買わせるような夢を植え付けることに取り組んでいる[55]

催眠術に匹敵するかもしれないこのようなアプローチが、悪用される可能性が大きいことは明らかであり、それに対して人々は自らを守ることができないかもしれない。これには、深いフェイクよりも現実的な欺瞞も含まれ、本人の意思に反して犯罪や事故に巻き込まれる可能性もある。

テクノロジーの融合とトランスヒューマニズム[56]

テクノロジー主導の世界を主張し、可能なことはすべてやろうという人々にとって、大きな技術的収束を見ることになるのは明らかだ。つまり、電気技術、計算技術、神経技術、認知技術、遺伝子技術、情報技術、ナノテクノロジーなど、基本的にすべての技術が融合するということだ。この発展は、最終的には人間と機械の融合ももたらすだろう。人々は技術的なインプラントによって自らをアップグレードし始め、優れたサイボーグへと変貌を遂げるだろう。最終的には、人間と機械はほとんど区別がつかなくなるかもしれない。このトランスヒューマニズムの考えの支持者は、実際、人間は非生物的な生命体に取って代わられると考えていることが多い。

シンギュラリティと超知能(デジタルゴッド)

ムーアの法則によれば、処理能力は指数関数的、つまり加速度的に増大する。この傾向が続けば、スーパーコンピューターの処理能力はいずれ人間の脳の処理能力を上回ると予想されている。「シンギュラリティ」[57]と呼ばれるその時点のすぐ後には、普遍的な「超知能」が人類と地球の支配権を握り、「神のような」力を持つとトランスヒューマニストは考えている。このシステムにおいては、人間はデジタル接続された「メタボディ」の「細胞」のようなものになるかもしれず、その脳は先に述べた超知的システムであろう。人間はこの「超知的」システムの不可欠な一部となり、おそらくは主にその命令を実行するようになるかもしれない。

「黙示録的AI」

トランスヒューマニストによれば、前述の技術的特異点(シンギュラリティ)は、私たちを全世界とつなげ、「超越」と呼ばれる認知の変化をもたらし、私たちを神のように感じさせてくれるという[58]

さらに、トランスヒューマニストの中には、この特異な変化をユダヤ教やキリスト教の神学における終末論的要素と結びつけて考える者もいる。「黙示録的AI」に関するロバート・M・ジェラチのノンフィクション本からの引用は、その印象を与えるかもしれない:[59]

「黙示録的AIの著者たちは、知的機械(モラヴェックによれば「マインド・チルドレン」)が短期的には人類にパラダイスをもたらすが、長期的には、人類が生存可能な生命体であり続けるためには、機械の体に自分の心をアップロードする必要があると約束している。未来の世界は超越的なデジタル世界であり、単なる人間はそこに溶け込めない。永遠の生命を持つマインド・チルドレンと一緒になるために、私たちはロボットやコンピューターに意識をアップロードすることになる。ロボットやコンピューターは、黙示録的AIの提唱者たちがロボットの生命は人間の生命よりも優れていると信じている、無限の計算能力と効果的な不死性を提供してくれるだろう。

アルゴリズムによる死

前述したように、このトランスヒューマニズムのイデオロギーによれば、「単なる人間」はシンギュラリティ後の世界になじまず、「生存可能な生命体」であり続けることはない。彼らは未来のデジタル世界では支持されないだろう。したがって、人工知能はおそらく、人の生死を決定する権力を与えられることになるだろう。トリアージ判断を行うアルゴリズムの利用が増加していることから、そのような展開はすでに進行しているように思われる[61]

さらに、ワクチン未接種の人々に病院での治療を提供しないことをめぐる議論からは、コビッド19に対するワクチン接種が、事実上、実現しつつあるトランスヒューマニズム時代の「入場券」のようなものに変わる可能性が示唆される一方、想定されるトランスヒューマニズムの未来が、長期間(例えば1000)にわたって実際に実行可能な生命体であるという証拠はほとんどない。人類はここで、非常に危険で、おそらく非常に無責任な実験に従事している可能性があることを警告しなければならない。

自律型兵器

上記のような開発が、多くの人々の死をもたらす可能性は否定できない。適切なテストが行われる前に技術が早期に導入された結果、人口減少が進む可能性もあるようだ。特に、自律型兵器の使用に対する効果的な予防措置が存在しないように思われることが懸念される。殺人ドローンや殺人ロボットは、将来の戦争で起こりうる多くの要素のうちの2つにすぎない。ナノテクノロジーや、(4Gとは対照的に)拡散放射ではなく指向性エネルギービームに基づくおそらく5Gさえも、個人化された方法(例えば点数に基づく)で、その国の国民に対して使用できる兵器に変わる可能性がある。しかし、おそらくもっと重要なことは、人体内のナノ粒子が電磁波と相互作用した場合に起こりうる健康への影響についての研究は、ごくわずかしかないようだ。有害な影響や兵器化の可能性さえも考慮し、適切な予防措置を講じる必要がある。

したがって、ABC兵器だけが懸念すべき兵器ではない。これに関する情報はほとんど公開されていないが、デジタル兵器やナノ粒子ベースの兵器は、ドローン攻撃や殺人ロボット、あるいは核爆発よりも壊滅的な被害をもたらすかもしれないし、非国家主体によって使用される可能性もある[62]

シナリオ・ホリビリス

もちろん、上記のような展開のいくつかが重なり、互いに危険な形で補強し合うことも起こり得る。例えば、不換紙幣システムによる世界金融危機が解決からほど遠いことを考えると、大規模な金融クラッシュと倒産の連鎖の可能性は大きい。このような状況やその結果生じる供給不足への対応は、Internet-of-Bodiesに基づくe-IDの導入かもしれない。たとえそれが全体主義的なキャッシュレス社会を確立し、人間の尊厳をなくすことになるとしても。供給不足のために、機密性の高い個人データを使ったアルゴリズムに基づくトリアージ決定に基づいて、多くの人々が命を落とすかもしれない。このようなシナリオを回避するために、特に持続可能性の課題に対する代替案が存在する以上、対策を講じなければならないのは明らかだ。

まとめと結論

人類は無数の技術革新に直面しており、それは指数関数的に加速している。以上のように、以下のような傾向が見られる:

  • 1.新しい経済:ビッグデータ、AI、監視資本主義、アテンション・エコノミー(プロファイリング、ターゲティング、デジタル・ツイン、e-ID、キャッシュレス社会)
  • 2.新しい政治:デジタル検閲とプロパガンダ、採点、行動操作(ビッグ・ナッジング)
  • 3.新しい法制度:コード・イズ・ロー、デジタル・ポリシング(犯罪予備軍)、ソーシャル・クレジット・スコア、カルマ・ポリス、アルゴリズムによる死
  • 4.新しい人間:トランスヒューマニズム、マインド・リーディング/マインド・コントロール、ニューロ・キャピタリズム
  • 5.新しい『神』:シンギュラリティ、「超知能」マトリックス「黙示録的AI」

こうした動きは、私たちの社会が築かれてきた土台そのものを粉々にしかねない。全体的に見て、最近の民主主義制度は強化されていない。それどころか、自由、民主主義、尊厳と人権、平和、生存権、そして–トランスヒューマニズムの台頭を鑑みれば–私たちの知る人類の存在さえも、かつてない脅威にさらされている。したがって、こうした動きは私たちの社会を解体しかねず、従来の戦争やテロリズムよりも危険かもしれない。私たちの社会の伝統的な制度はすべて、破壊的イノベーションによって攻撃され、脅かされている。しかし、こうした革命的な変化が大多数の人々の利益にかなうかどうかは疑問である。少なくとも、現時点では民主的・政治的な正当性が十分にあるとは思えないし、金銭的な利益は重大な決断の根拠にはならないだろう。

強調しなければならないのは、上記のような開発は、代替手段がないわけではないということだ。デジタル技術は、環境や健康に関連する目標をあきらめることなく、人道的な別の方法で使用することもできる。しかし、そのためには異なる視点、パラダイム、アプローチが必要であり、早急に適切な決断を下す必要がある。例えば、参加型レジリエンス、社会生態学的金融、民主的資本主義、デジタル・デモクラシーなどに基づく)より良い、自己決定可能な人間の未来が考えられるにもかかわらず、政治や企業は、自然との共生的で持続可能な関係をサポートしながら、市民をエンパワーし、市民社会を強化するような枠組みを導入するのがかなり遅れているように思われる。しかし、この状況を変えるのに遅すぎるということはないだろう。

文献