デジタル社会・監視社会未来学・AGI・シンギュラリティー

人間と社会に対するデジタルの脅威
Digital Threats to Humans and Society

サイトのご利用には利用規約への同意が必要です

強調オフ

futurict.blogspot.com/2022/06/a-preliminary-and-incomplete-list-of.html

2022年6月29日（水）

我々は、デジタル技術が主要な地球規模の問題（健康や持続可能性に関連するものを含む）の解決に大きく貢献する可能性があることをここに認識する。また、イノベーションと新たな経済セクターを促進するものでもある。多くの文書がこれを取り上げ、ビジネス価値や社会的便益について説明してきた。

これに対し、本稿では、デジタル技術の脅威や望ましくない副作用を概観し、潜在的な誤用、二重利用、システムリスク、潜在的な事故などを強調しようとするものである。結論から言えば、その被害は大規模で、おそらく古典的な兵器がもたらす被害よりも大きいかもしれない。我々の社会がこれらのリスクを回避したり、処理したりするための準備が十分に整っているかどうかは不明である。副作用の多くは（民主主義や人権への影響など）定量化が困難で、かなり遅れて初めて目に見えてくるかもしれない。

さらに、内部関係者以外には、以下の内容は少しSFのように読めるかもしれないことに留意してほしい。しかし、デジタル革命が指数関数的に加速し、一部の国では軍事技術が公に知られたビジネスアプリケーションより何十年も進んでいることを考えると、以下に述べる技術開発のほとんどは将来の可能性ではなく、すでに存在していると考えざるを得ず、適切なガバナンスが必要となるのである。

デジタル革命が非常に破壊的であることはよく知られている。ビジネスモデルだけでなく、これまで異なる価値観、目標、原則に従って分離され、管理されていた社会の全領域を変革するものである。現在、デジタル技術は、多かれ少なかれ、あらゆるもの、そして社会のあらゆる分野を再発明するために利用されている。デジタル技術はあらゆるところに浸透しており、破壊的イノベーションを促進する。

また、データ量と処理能力が飛躍的に向上していることも考慮しなければならない。また、システムの接続性も格段に向上し、ネットワークのネットワークとして構成されるようになった。このことは多くの利点をもたらす一方で、停電などのカスケード効果によるシステム障害など、新たな脆弱性をもたらしている[1]。

ここで、新たに発生しつつある、あるいは既に発生している様々な課題について簡単に触れておきよう。本事例集のページ数の制限を考慮し、よく知られている問題は短くまとめ、あまり知られていない問題はより詳細に反映させることにする。

ビッグデータとデータ駆動型社会

ビッグデータやリアルタイム分析によって、多くのシステムを「データ駆動型」で管理することは、もはや一般的となった。しかし、その結果得られるソリューションの質は、データの質と、データを情報・知識・知恵に変える能力にかかっている。このことは、しばしば以下のような問題によって複雑になる[2]。

  • 正確な測定、「バイアス、ランダム性、乱流、・・・カオス理論、・・・量子力学、・・・決定不能、・・・オーバーフィッティングなどの問題によって妨げられ、偽陽性の分類問題を考えると、測定を重ねると結果が悪くなる場合すらある」[3]。
  • 分類エラー（偽陽性、偽陰性）は、データサンプルに偏りがある（代表性がない）場合だけでなく、統計解析において広く見られる問題である。例えば、予測的な取り締まりアルゴリズムの場合、「偽陽性」の割合は90%を超えることが多い。
  • データ中の多くのパターンは重要ではなく、意味がない。データ中の多くのパターンは重要ではなく、意味がない。そのため、「オーバーフィット」のリスクは深刻である。
  • 相関は必ずしも因果関係を意味しないし、因果関係があったとしても、AがBの原因なのか、BがAの原因なのか、第3の要因CがAとBの原因なのか、判断が難しい場合が多い。
  • パラメータフィッティングは有限の精度で可能だが、決定論的カオス、乱流、バタフライ効果などのように、パラメータが少し異なるだけで結果が大きく異なる場合がある。このような場合、モデルの「感度」が問題になることがある。
  • データセットにうまくフィットしたからといって、モデルが検証されたことにはならない。このため、パラメータを再調整することなく、異なるデータセットでモデルをテストする必要がある。しかし、検証されたモデルだけが、異なる設定に対して意味のある含意を持ち、将来の発展をある程度予測することができると仮定することができる。
  • 感性モデルは、将来の予測にはあまり適さない。不確実性が高いからである。（それでも、システムの不安定性を明らかにすることは可能であり、それを知ることは重要である。）
  • 複雑で、ネットワーク化されたシステムは、しばしば「邪悪な問題」や予期せぬ振る舞いを意味する。さらに、大きな変動（「ブラックスワン」を含む）は、正規分布に基づく統計的な予想よりも頻繁に発生する可能性がある。

デジタル 「水晶玉」

上記のような問題があるにもかかわらず、大手IT企業では、実世界のプロセスやシステムをモデル化するためにビッグデータを利用するケースが増えている。大規模なモニタリングを行うことで、デジタルな「水晶玉 」のようなものを作ろうとすることさえある。実際、例えばPalantirはこれを目指している[4]。 しかし、Recorded Future（GoogleとCIAのスピンオフらしい）のような会社もある[5]。 世界経済フォーラム（WEF）も同様のインフラを持っているらしい[6]。 これらは世界のほとんどあらゆる場所で起こることのリアルタイム分析（「nowcasting」）だけではなく、将来を予測（「forcasting」）もしようとしているかも知れない。軍も確実に「予測マシン」を構築している[7]。

人工知能（Artificial Intelligence）

ビッグデータはしばしば「デジタル時代の新しい石油」と呼ばれるが、その上で走る「デジタルモーター」は、機械学習アルゴリズムに基づく「人工知能」である。

今日の機械学習モデルは、数百万から数十億、あるいはそれ以上のパラメータを学習することを目的としている場合がある。しかし、システム要素間の相互作用は（Internet of Thingsの時代であっても）十分に表現されていないことが多い。また、特に動的に変化する環境では、学習アルゴリズムの（遅い、あるいは足りない）収束が問題になることがある。これにより、システムの表現が不適切になったり、誤った予測が行われたりする可能性がある。

意外なことに、単純なモデルの方が複雑なモデルよりも予測力が高い場合がある（上記の「オーバーフィット」の問題が示しているように）。今日の知見によれば、気候、生命、行動、健康などの複雑な力学系をモデル化する精度には基本的な限界がある。

さらに、AIアルゴリズムは「ブラックボックス」であるという批判がしばしばある[9]。 つまり、どのようにして結論に至るのかが理解できないことが多い。実際、マイノリティや女性、有色人種の差別に関する最近の研究[10]が示すように、AIシステムの成果には疑問が持たれる必要がある。このような問題に対処するため、現在、信頼でき、説明可能で、公正なAIの実現に向けた大きな取り組みが行われている。

監視資本主義

世界中で、データの収集は有利な機会になっている。1）国家によるモニタリング・統制社会（中国など）、(2)主に企業によるモニタリングが想定される社会（米国など）、この2種類のシステムが一般的に区別される。前者に対しては「技術的全体主義」といったレッテルがしばしば用いられるが、「監視資本主義」という言葉は主に後者を表している[11]。

監視資本主義は、おそらく元グーグルCEOであるエリック・シュミットの以下の引用によって最もよく特徴付けられる[12]。

「あなたの許可を得て、あなたは私たちにあなたやあなたの友人に関するより多くの情報を提供し、私たちは検索の質を向上させることができます。私たちは、あなたが文字を入力する必要はまったくありません。私たちはあなたがどこにいるのか知っています。あなたがどこにいたかも知っているますあなたが何を考えているのか、ほぼ知ることができるのです」。

監視資本主義も国家が運営するデジタル社会も、人権や人間の尊厳、特にプライバシーに対する危険を孕んでいる。しかし、それだけにとどまらない。典型的な追加機能は、後述するように、プロファイリング、スコアリング、ターゲティングである。全体として、こうした動きは民主主義に対する潜在的な脅威とみなされるようになってきている。特に、「データ独裁」といった用語は、データ駆動型の行動操作の危険性を警告しようとしている（後述）。

ウォー・ルーム・アプローチ

膨大なデータに基づくシステムの管理・制御は、通常、「ウォー・ルーム」とも呼ばれるコントロール・ルームを通じて行われる（上記の「水晶玉」アプローチを利用する場合もある）。このアプローチは、シークレットサービスや軍隊だけでなく、現代の企業やサプライチェーン、スマートシティの運営にもますます利用されるようになっている。

しかし、データ駆動型の「テクノクラート」的アプローチには限界がある。例えば、生産設備は特定の目標機能を最大化することができるが、都市や社会には複数の競争目標があり、社会システムを繁栄させるためには、それらすべてに同時に対処する必要がある。しかし、技術的な手段で地球の未来を最適化しようとすれば、正しい目標関数を決定する科学がないにもかかわらず、目標関数を選択しなければならない。例えば、一人当たりのGDPなのか、持続可能性なのか、平均寿命なのか、生活の質なのか。どのような目標関数を選んでも、システムの複雑さを一次元の関数にマッピングすることになり、システムを単純化しすぎて、二次目標や三次目標を無視することになる（しなければならない）。したがって、遅かれ早かれ、新しい種類のトラブルを抱えることになる。それゆえ、データを活用した「慈悲深い独裁者」のパラダイムに基づく社会運営は、パフォーマンスが低下することが予想される[13]。

また、「軍隊式」の中央集権的なトップダウンの管理手法は、多様性、参加、集合知といった原則に基づく民主主義を弱体化させることになる。目標の複数性から、都市や社会は、実際には、ビジネスや機械のように運営されるべきではない。共進化的なアプローチは最適化に勝り、協調的なアプローチはコントロールに勝るかもしれない[14]。

最適化の危険性を説明するために、世界を持続可能なものにすることを任務とするAIシステムを想定してみよう。世界の人々にとってより良い未来が存在するかもしれないにもかかわらず、持続可能性に到達する最も簡単な方法は過疎化であると結論付けたとしたらどうだろうか？これは恐ろしいシナリオの引き金になりかねない（後述）。このような問題を回避するために、「戦争部屋」を「平和部屋」に変えることが要求されている[15]。

また、「証拠に基づく」意思決定には二つの意味があることを考慮することが重要である。「事実ベース」（検証や偽証の確立された科学的方法によって決定される）または「データ駆動型」（測定または推定、予測、または予報に基づく）である。この2つは同じではないことが多いのだが、前者のアプローチが後者に取って代わられることが多くなっている。これは新たなリスクを生む。データ駆動型のアプローチは、誤解や偏見（上記参照）だけでなく、操作や欺瞞に対しても脆弱になる可能性がある。例えば、コビッド19に対応する多くの政治的決定は、データに基づいて、あるいは予測されたデータ（実際には、しばしば実現されなかった予測に基づいて）であった[16]。

これは様々な逆効果の結果を引き起こした可能性がある。さらに、データドリブンなアプローチは、ハッキングされやすい。

サイバー脅威（サイバーバクネラビリティ）

このパラグラフは、「サイバー脅威」というテーマが近年すでに注目されているため、短くまとめている。しかし、敵対者が強力なAIを攻撃に利用し、例えば「ゼロデイ・エクスプロイト」に利用できるセキュリティギャップを発見した場合、新たな問題が発生する。

サイバーリスクや個人化されたプロパガンダの指数関数的な（あるいはそれ以上の）増加により、インターネットの組織のあり方は今やあまりにも脆弱で時代遅れだという意見もある。彼らによれば、現在のインターネットは、おそらく量子暗号と組み合わせた衛星ベースのシステム[17]に置き換わるべきであるという。そうすれば、インターネットのコンテンツを操作する可能性を減らし、データ通信を大きく危険にさらすことができるかもしれない。しかし、それはまた、非常に少数の人々によって情報の大きなシェアがコントロールされることを意味し、その人々は必ずしもすべての人々の最善の利益のために行動するわけではないだろう。また、近い将来、より高速なデータ通信が可能な光通信（LiFi）も登場するかもしれない。

プロファイリングとデジタルダブルズ

企業も政府も、個人に関するデータをどんどん収集している。このプロセスは「プロファイリング」、すなわち個人プロファイルの作成と呼ばれている。このプロファイリングによって、人、物、そして地球をより詳細に表現することができる。このようなデジタルツインは、たとえば企業や都市だけでなく、地球全体，そこに住む人々，彼らの行動，健康，身体，そして性格についても想定されている[18]。明らかに、これは巨大なプライバシーの問題を意味するが、それだけではない。それは、すべての人が「ハッキング」（例えば、感情、思考、行動、健康など）に対して脆弱になるということだ。

世界シミュレーション

アバターやデジタル・ダブルは、単にデータの集合体であるだけではない。アバターやデジタル・ダブリンの行動は、シミュレーションされ、アニメーション化される。つまり、バーチャルな生活を送ることで、特定の実装を選択する前に、デジタルな「もしも」の実験が可能になるのである。「世界シミュレーション」のために作られたそのようなプラットフォームの一つは「Sentient World」と呼ばれている[19]。それは「軍事的な第二の地球」を作り出すために使われており[20]、おそらくウィキリークス（CIA Vault 7）とエドワード・スノーデン（NSA）によって明らかになった大量モニタリングの主因である[21]。このプラットフォームはファウチュン500社の企業に戻り、彼らの戦略計画のためにそれを使っているようである[22]。

しかし、「Sentient World」は、戦争作戦の計画や心理作戦（PsyOps）の実行にも使われているらしく、潜在的には平時にも使われているようである。(政治や国民がCOVID-19について考え、話す方法はその一例かもしれない）。このツールはさらに、論争の的になっている情報支配戦略[23]の文脈で見られるべきであり、それは「マインドウォー」という問題のある概念を含んでいるようである。

アテンション・エコノミー（注意経済）とナッジング

情報にあふれた時代において、最も短い資源は実はお金ではなく、注意であるかもしれないと主張されている。私たちの注意を引くことに成功した人は、私たちの感情、思考、行動に影響を与えるチャンスがある。意識的に処理される情報はごく一部であるため、例えば「ナッジング」のようにサブリミナルな方法で操作される可能性もある[24]。

人々がインターネットやソーシャルメディアのプラットフォームを利用している間、彼らは常にナッジや広告にさらされている。「監視資本主義」のシステムでは、そのような広告のためのオークションベースの市場がある。つまり、誰もがインターネットユーザーの注目を集めるために入札することができる。これは彼らの時間を大量に消費するだけではない。それはまた、おそらく世界の実存的な問題を解決するために使用した方が良いであろう多くの知的能力を吸収するのである。

検閲とプロパガンダ

注意の経済学（特に、注意力の大きなシェアを吸収するアプローチ）は、新しい形の検閲やプロパガンダにも利用することができる。検索エンジン、ソーシャルメディア、インターネットを利用したサービスのほとんどがパーソナライズされるようになった。つまり、アルゴリズムによって、誰かがどのようなオファーを受け、どのような情報を見るかがますます決定されるようになっているのだ。アルゴリズムはまた、何人がどんな情報を見るか、そして誰が何を見るかも決定する。このように、ある情報がどこに、どこまで広がるかを決めることができる。この事実を利用して、ある種の情報（例えば、秘密情報や機密情報）を（削除しなくても）事実上見えなくしたり、他の種類の情報を増幅させたりすることができてしまう。

適合と注意散漫

結論として、前述した方法は、気晴らしのために使うことができる（ソーシャルメディアが「大量気晴らしの武器」とも呼ばれる所以だ）。しかし、それらはまた、（強制的な）コンセンサス（「Gleichschaltung」）を促進するためにも使うことができる。コミュニティの「ソーシャル・エンジニアリング」（協力と収束、あるいは対立と発散の促進）の両方の方法が報告されている（すなわち、Edward SnowdenのJTRIG暴露[25]において）。

単一の視点の推進は、イノベーション、社会の回復力、集合知、民主主義にとって重要な前提条件である多様性と多元主義を損なう可能性があることに留意してほしい。

ヘイトスピーチ

ヘイトスピーチを助長することは、信頼、連帯、コミュニティの一貫性を損ない、有害な影響を及ぼす。このような「Divide et impera」戦略はあらゆる社会の基盤を弱体化させる可能性がある。扇動（”Zersetzung”）について語ることさえあるかもしれない。ヘイトスピーチは注目を集めやすいため、拡散する傾向がある。インターネット上でのやりとりを感情化させ、それによって人々がソーシャルメディアプラットフォームに費やす時間を長くさせ、商業的な利益を得ることができる。ヘイトスピーチの多くはトロールファーム（情報工作組織）から生まれていることに留意してほしい。ソーシャルボットやGPT-3のような言語生成AIシステムもこの問題に寄与しているかもしれない。

※トロールファーム：偽情報（たとえば「オバマはイスラム教徒だ」など）や虚偽の陰謀説をツイッターやSNSに書き込んで、大量に拡散させる拠点。各国のスパイが身分を偽り、学生アルバイトを動員して運営している場合が多い。

しかし、常に悪意があると仮定すると、不完全なイメージになる。一部のデジタル先見主義者は、社会を「原子」である「個人」に分解することが正しいと信じているようだ。そうすれば、人工知能を使って、人々の行動を操作することが容易になる。超知能であろうとなかろうと、人工知能が個人の思考、感情、行動、生活をコントロールするシステムに社会がなっていく、という見方である。詳しくは、「ターゲッティング」「トランスヒューマニズム」の項などを参照。

フェイクニュースと偽情報

全体として、アテンション・エコノミーは事実を判断し、それに焦点を当てることを難しくしている。これは、教育、科学、対話、つまり、学習、洞察、真実、啓蒙、責任ある自己決定的な生活を信奉する近代民主主義社会の基盤を損なうものである。また、新たな情報の非対称性を生み出し、「知識は力なり」の原則に基づき、少数の新しいデジタルエリートに有利な状況を作り出している。この問題に対処しなければ、間もなく、民主主義国家はデジタルに基づく新しい種類の封建制に道を譲ることになるかもしれない。

ターゲティングと行動操作

ナッジをパーソナライズするためにナッジがビッグデータと組み合わされるとき、これは「ビッグナッジ」と呼ばれる[26]。この方法は軍事プロパガンダによってのみならず、商業的な「ニューロマーケティング」にも使用されている[27]。

今日の人工知能の能力の大きなシェアは行動操作のために使われている。また、ブレグジット投票や米国選挙2016で主張された、民主的な選挙を操作するために悪用されるかもしれない。ケンブリッジ・アナリティカの内部関係者が明らかにしたように、この軍事的なプロパガンダ手法は、約65カ国で使用されているらしい[28]。さらに、これらの手法は、選挙の時だけでなく、政治システムを形成するために使用されているようだ。おそらく、平時の社会を日常的に「社会工学」するためにも適用されているのだろう[29]。

市民スコアと行動統制

プロファイリングとターゲティングに加えて、デジタル社会の手段には市民スコアの使用も含まれる。複数のスコアが使用されている。それらは例えば、中国における「顧客生涯価値」や「社会的信用スコア」を包含しており[30]、イギリスのGCHQの「カルマ警察」プログラムと類似性を有している[31]。

上記のスコアはスーパースコアであり、不適切に人の「価値」やステータスを一つの数値に凝縮しており、資源やサービスへのアクセスや権利も決定している。このようなスコアは、富や健康を考慮する以外に、モニタリングを利用した行動にも基づいている場合がある。結果的に、これらは行動制御の道具となる。この関連で、「技術的全体主義」という言葉がしばしば用いられている[32]。実際、最近、「社会的信用スコア」は、特にウイグル人の扱いと関連して、激しい批判にさらされている[33]。

デジタル・ポリックス

やや似たような概念にデジタルポリシングがある。多くの国で、過去に記録された犯罪パターンに基づいて将来の犯罪を予測しようとする予測型ポリシングプログラムがテストされ、利用されている。映画「マイノリティ・リポート」に似ていて、犯罪が起こる前に介入することが目的である。これは、実際に犯罪を犯したことがない人に対する制限（「ジオフェンシング」など）を意味するかもしれない。また、懲役刑はアルゴリズムによる判断に依存するかもしれない。

デジタル・ポリスは、シークレット・サービス的な活動（モニタリング）の関与や警察活動（=執行機能）との分離の欠如だけでなく、透明性や民主的モニタリングの欠如が批判されている。さらに懸念されるのは、有色人種やマイノリティに対する組織的な差別である。さらに、誤認識の割合が非常に高く、しばしば90%を超えている。このことは、潜在的に、取られる行動に多くの恣意性があることを意味する。潜在的なテロリストのリストがしばしば何百万もの名前を含んでいる一方で、実際にテロ行為を行った人物に関連していると思われるアラームは10万分の1しかない[34]。

コードは法である

我々の経済、社会、環境におけるプロセスがモノのインターネットによってますますモニタリングされ、アルゴリズムによって管理・制御されるようになると、我々は「コードは法律である」と表現される状況に直面することになる[35]。

これによれば、私たちの社会におけるプロセス、財やサービスへのアクセス、そして何が可能か不可能かは、アルゴリズム（「コード」）によってますます決定されるようになる。これらは、あたかも「自然の法則」であるかのように、行動空間に制限を加えている。このような制限は、自由権を阻害する。以前は、正当な理由があれば、処罰のリスクを冒してでも法律に違反することを決断できたが、今後はその可能性はなくなるかもしれない。

 

「インダストリー4.0」[36]の時代には、アルゴリズム的アプローチがモノから主体へ、ロボットからヒトへ、そして生産から社会へと不適切に移行する危険性がある。このようなデータ駆動型のアプローチは、人間の尊厳，自由，創造性，文化，あるいは愛といった、人間にとって重要な、ほとんど計測不可能な人生の質の多くを見落とすことになる。

にもかかわらず、社会はますます自動化され、機械のように動くかもしれず、それは多様性、イノベーション、社会の回復力、集合知を弱体化させる恐れがある[37]。

キャッシュレス社会とデジタル・コマンド・エコノミー

「コードが法律である」という原則が特に厳しく作用する可能性がある一つの枠組みはキャッシュレス社会であり、それは出現しつつある「デジタル指令経済」の可能な要素として議論されている[38]。 このような展開は、意図的かどうかにかかわらず、アジェンダ2030のサステナビリティ開発目標と惑星／グローバル健康アジェンダによって促進される可能性がある。ここでは、財やサービスへのアクセスは、利用可能な予算や以前の消費パターン（「肉の食べ過ぎ」、「飛行機の乗り過ぎ」…）に依存するだけでなく、セクターを超えて結合されるかもしれない。また、セクターをまたいで連動させたり（例えば、アパートの家賃を払うまでレンタカーは借りられない）、先に述べた社会的信用スコアのように行動と連動させることも可能である。つまり、政治体制を批判すると、重要な資源へのアクセスに影響が出るかもしれない。

また、キャッシュレス社会では、物議を醸したトリアージの原則に基づく資源管理が行われるかもしれない。すべての人に平等にアクセスする権利を与えるのではなく、優先される特権的なケース、特定の資源へのアクセスをまったく得られない絶望的なケース、そして残ったものへのアクセスを得る可能性のあるその他のケースが存在する可能性がある。そのような状況では、システムが期待することに完全に従うことが、生き残るための前提条件となるかもしれない。ワクチン未接種の人々を病院で治療するかトリアージするかという現在の議論は、この傾向をはっきりと示している。

電子ID

セキュリティと制御の概念の重要な要素の1つは、ユニークで偽造できないIDである（「制御変数」が一般に個々のシステム構成要素に関係しないことは、複雑性科学から知られていることではある）。この関連で、バイオメトリクスは重要な概念となっている（遺伝子や人相によって善人と悪人を特徴付けるという以前の試みは失敗しているにもかかわらず）。指紋や顔認証は、おそらく最もよく使われている特徴だが、データベースの流出や偽造、プライバシーに関する懸念から疑問視されている。シークレットサービスでは、デジタルフォレンジック（スマートデバイスの特徴、インストールされているソフトウェア、使用パターン、位置追跡などに基づく）を使用している。これにより、極めて高い精度で個人を特定することができる。

特定の行動パターンや消費パターンを強制するために、ナノ粒子を用いた身体ベースのIDなど、さらなる種類の電子IDが検討・探求されているようだ。Project Jumpstartがそのような電子IDに取り組んでいるようである[39]。 おそらくid2020コンソーシアムもそのようなソリューションに取り組んでいる[40]。 さらに、同様の方向を示す様々な関連出版物や特許が存在する[41]。

このようなソリューションは、人々をモノのように管理し、制御できるようにするという目的を果たすかもしれないが、同時に、世界中の民主主義の基礎であり、国連人権憲章によって保護されている重要な価値である、人間の尊厳の本質を破壊することになる。

身体のインターネット

ナノ粒子を利用した技術の開発は、明らかにe-IDの開発にとどまりません。ナノ粒子とナノボットは、医療において、診断（身体機能のモニタリング）や治療（身体機能の妨害）に使用することができる。また、少なくとも遺伝子編集にも利用される可能性がある[42]。

関連するいくつかの動きは「Internet of Bodies」というラベルでまとめられている[43]。 Internet-of-Thingsに基づくIndustry 4.0の主要な推進者の一人である世界経済フォーラムは、「The Internet of Bodies is here」と繰り返し指摘している[44]。

残念ながら、このような技術の利用（あるいは誤用）には多くの問題があり、その多くは未解決である。実際、これまでのところ、ナノテクノロジーはほとんど規制されていない[45]。

身体のインターネットの緊急な政治的制御を求める声は今のところ効果的でないようだ[46]。ナノ粒子は食物、水、空気、薬剤、ワクチンを通じて人体に吸収されうるため、これは深刻な懸念を引き起こす[47]。残念ながら、しばしば事前にインフォームドコンセントが与えられていないようである。実際、多くの人が非天然のナノ粒子にさらされており、そのなかには毒性を持つものもある[48]。

ニューロテクノロジー 心を読む、心を操る

最近，ニューロテクノロジーの発展に関するニュースも増えてきた。これまでは、「ニューラリンク社」などが技術開発した脳チップに関するニュースがほとんどであった。

しかし、その技術開発は、特に軍事的な応用に関連して、もっと進んでいるようだ。一方、研究者や技術者は、ナノ粒子を脳内に分散させたHMI（ヒューマン・マシン・インターフェース）の研究に取り組んでいるようだ。いわゆる「オバマ・ブレイン・プロジェクト」は、数十億ドルを投じて関連する研究を支援している[49]。

同様の研究はヨーロッパでも行われており、酸化グラフェンなどの物質に基づいているようである[50]。

製薬業界は、これらの開発に確実に関与している。さらに関連する文献として、「スマートダスト」[51]、「ニューラルダスト」[52]などのキーワードで見つけることができる。

「マトリックス」

上記の技術開発は（誰も知らないであろう）思想の自由を脅かすだけでなく、意志の自由をも脅かす。SFのように聞こえるとしても、人間の自律性を著しく危うくする程度に人の心、感情、思考を操作することが可能になるかもしれない危険性がある。つまり、人間は巨大なハイブリッドコンピューターシステムの一部となり、コントロールされるようになるかもしれないのだ。

このことについての懸念は、特に、現実はコンピュータのシミュレーションかもしれないと示唆する多くのハイテク億万長者によって提起されている[53]。「コードは法律である」という原則に基づく社会では、これはますます大きくなっているのは確かである。関連する映画シリーズに触発されて、そのような拡張された現実はしばしば「マトリックス」として組み立てられてきた。しかし、「ビッグ・ナッジング」のような弱い形態の操作でさえ、「マトリックス」と呼ばれるもの、つまり、人が逃れられないようなデジタルに管理された世界を連想させる効果を生み出すかもしれないことは述べておく必要がある。

ニューロキャピタリズム

ニューロテクノロジーは、企業にとって魅力的な視点を提供する。監視資本主義が人々をモニタリングし、彼らの思考、感情、及び行動を推論することに限定されているように思われる一方で、このデータ駆動型のシステムの次の段階は、ある者が「ニューロキャピタリズム」と呼んでいるものになると思われる[54]。

このシステムでは、人々の思考や感情や決定を操縦することも可能であり、コンピュータによる制御を通じて、人々の考えや記憶や価値観を形成することも可能であろう。実際、研究所ではすでに夢の広告、すなわち人々に特定の製品を買わせるような夢を植え付けることが研究されている[55]。

このようなアプローチは催眠術にいくらか匹敵するかもしれないが、誤用の可能性が大きいことは明らかであり、それに対して人々は自分自身を守ることができないかもしれない。これには深いフェイクよりもリアルな欺瞞が含まれ、人々をその意思に反して犯罪や事故に巻き込むところまで行くかもしれない。

技術的収束とトランスヒューマニズム[56]

テクノロジー主導の世界を主張し、できることはすべてやるという人々にとって、大きな技術的収束を見ることになるのは明らかである。つまり、電気技術、計算技術、神経技術、認知技術、遺伝子技術、情報技術、ナノ技術に基づく技術など、基本的にすべての技術が統合されることになる。これは、電気、計算、神経、認知、遺伝子、情報、ナノテクノロジーなど、基本的にすべての技術が融合することを意味し、最終的には人間と機械の融合ももたらすだろう。人々は、技術的なインプラントで自分自身をアップグレードし、優れたサイボーグに変身するようになる。最終的には、人間と機械はほとんど区別がつかなくなるかもしれない。このトランスヒューマニズムの思想の支持者は、実際、人間は非生物的な生命体に取って代わられるだろうと考えている。

シンギュラリティと超知能（「デジタルの神」）

ムーアの法則によれば、処理能力は指数関数的に、つまり加速度的に向上する。このままいけば、いずれはスーパーコンピュータの処理能力が人間の脳の処理能力を超えると予想されている。その直後、「シンギュラリティ」[57]と呼ばれる、普遍的な「超知性」が人類と地球を支配し、「神のような」力を持つとトランスヒューマニストは信じている。このシステムにおいては、人間は、デジタルに接続された「メタボディ」の「細胞」のようなものになり、その脳は、先に述べた超知能システムであるだろう。人間は、この「超知的」システムの不可欠な一部となり、主にその命令を実行するようになるかもしれない。

「黙示録的なAI」

トランスヒューマニストによれば、前述の技術的特異点によって、我々は全世界とつながり、それは「超越」と呼ばれる認知の変化を伴い、我々が神のように感じられるようになる[58]。

さらに、一部のトランスヒューマニストはこの特異点をユダヤ教やキリスト教の神学における終末論的な要素と同一視している。ロバート・M・ジェラーチの「黙示録的AI」に関するノンフィクションからの以下の引用は、その印象を与えるかもしれない[59]。

「黙示録的AIの著者たちは、知的な機械-モラヴェックによれば、我々の「マインド・チャイルド」-が短期的には人類の楽園を作り出すが、長期的には、人類が生存可能な生命体であるために、機械の身体に自分の心をアップロードする必要があると約束している。未来の世界は、超越的なデジタル世界であり、単なる人間はそこに適合しない。ロボットは、黙示録的なAIの提唱者たちが、ロボットの生活が人間の生活よりも優れていると信じている、無限の計算能力と効果的な不死性を提供してくれる。

アルゴリズムによる死

前述したように、このトランスヒューマニズムの思想によれば、シンギュラリティ後の世界では「単なる人間は適合しない」し、「生存可能な生命体」としては残れないという。未来のデジタル世界にも対応できない。したがって、人工知能はおそらく人の生死を決定する権限を与えられるだろう。トリアージ判断にアルゴリズムが使われるようになってきていることから、そのような展開はすでに始まっているようである[61]。

さらに、ワクチン未接種の人に病院での治療を提供しないことに関する議論は、COVID-19に対するワクチン接種が事実上、作りつつあるトランスヒューマニズム時代の「入場券」のようなものに変わるかもしれないことを示唆しているが、想定されるトランスヒューマニズムの未来が、長期間（例えば千）にわたって実際に実行可能な生命体であるという証拠は殆どない。人類はここで、極めて危険で、おそらくは極めて無責任な実験に従事している可能性があることを警告しておかなければならない。

自律型兵器

上記のような開発は、多くの人々の死をもって終わる可能性を排除することはできない。適切なテストが行われる前に技術が早期に展開された結果、過疎化が進む可能性もあるようだ。特に、自律型兵器の使用に対する有効な予防措置が存在しないように思われることが懸念される。殺人ドローンや殺人ロボットは、将来の戦争で起こりうる多くの要素のうちの2つに過ぎない。ナノテクノロジーや、（4Gとは対照的に）拡散放射ではなく指向性エネルギービームに基づく5Gも、一国の国民に対してパーソナライズされた形で（例えばスコアに基づいて）使用できる兵器に変わる可能性がある。しかし、もっと重要なことは、人体内のナノ粒子が電磁波と相互作用したときに起こりうる健康への影響に関する研究は、ごくわずかしか行われていないことだ。悪影響の可能性、あるいは兵器化の可能性を考慮し、適切な予防措置を講じることは確かに必要である。

したがって、ABC兵器だけが懸念される兵器ではない。これに関する公開情報は少ないが、デジタルやナノ粒子ベースの兵器は、ドローン攻撃、殺人ロボット、あるいは核爆発よりも破壊的であるかもしれないし、非国家主体によって使用される可能性もある[62]。

恐怖のシナリオ（Scenario Horribilis）

明らかに、上記のような展開のいくつかが一緒になって、危険な方法で互いに補強しあうということが起こりうる。例えば、不換紙幣システムの世界金融危機が解決からほど遠いことを考えると、大規模な金融クラッシュと破綻の連鎖が起こる可能性は大きい。このような状況やそれに伴う供給不足への対応として、全体主義的なキャッシュレス社会が確立し、人間の尊厳がなくなるにもかかわらず、Internet of Bodiesベースのe-IDを導入することが考えられる。供給不足のため、センシティブな個人情報を使ったアルゴリズムによるトリアージ判定で多くの人が亡くなるかもしれない。このようなシナリオを回避するための対策が必要である。特に、サステナビリティの課題に対する代替案が存在する以上、その対策が必要である。

まとめと結論

人類は無数の技術革新に直面しており、それらは指数関数的な加速度で進行している。その結果、以下のような傾向が見られる。

  1. 新しい経済　ビッグデータ、AI、監視資本主義、アテンションエコノミー（プロファイリング、ターゲティング、デジタルツイン、e-ID、キャッシュレス社会）
  2. 新しい政治　デジタル検閲・プロパガンダ、スコアリング、行動操作（ビッグ・ナッジング）
  3. 新しい法制度　コードは法律、デジタル警察（プリクライム）、ソーシャルクレジットスコア、カルマポリス、アルゴリズムによる死 4.
  4. 新しい人間　トランスヒューマニズム、マインド・リーディング／マインド・コントロール、ニューロ・キャピタリズム 5．
  5. 新しい「神」　シンギュラリティ、超知能、「マトリックス」、「黙示録的AI」

これらの発展は、私たちの社会が築かれた基盤そのものを打ち砕く可能性がある。全体として、最近、民主的な制度は強化されていない。それどころか、自由、民主主義、尊厳と人権、平和、生存権、そして、トランスヒューマニズムの流れに鑑みれば、我々が知っている人類の存在さえも前例のない脅威にさらされている。したがって、こうした動きは私たちの社会を解体しかねず、従来の戦争やテロよりも危険かもしれない。私たちの社会の伝統的な制度はすべて攻撃を受けており、あるいは破壊的なイノベーションによって脅かされている。しかし、こうした革命的な変化が大多数の人々の利益につながるかどうかは疑問である。少なくとも、現時点では、それらに対する十分な民主的・政治的正当性はないように思われるし、金銭的利益は、関係する重大な決定の根拠にはならないように思われる。

強調しなければならないのは、上記のような展開は代替手段がないわけではない、ということだ。デジタル技術は、環境や健康に関連する目標をあきらめることなく、別の人道的な方法で使用することも可能である。しかし、これには異なる視点、パラダイム、アプローチが必要であり、早急に適切な判断を下す必要がある。より良い、自己決定可能な人類の未来が考えられるにもかかわらず（例えば、参加型レジリエンス、社会生態学的ファイナンス、民主資本主義、デジタル民主主義に基づく）、政治とビジネスは、自然との共生、持続可能な関係を支援しながら、市民に力を与え、市民社会を強化する枠組みの導入がかなり遅れているように思われる。しかし、この状況を変えるにはまだ遅すぎるということはないだろう。

参考文献

この記事が良かったら管理人に お知らせください。
いいね記事一覧はこちら
備考：機械翻訳に伴う誤訳・文章省略があります。
下線、太字強調、改行、注釈や画像の挿入、代替リンク共有などの編集を行っています。
使用翻訳ソフト：DeepL ／文字起こしソフト：Otter 
alzhacker.com をフォローする
Alzhacker
Alzhacker