次は社会の自動化だ デジタル革命をどう生き抜くか
The Automation of Society is Next : How to Survive the Digital Revolution

強調オフ

AI(倫理・アライメント・リスク)デジタル社会・監視社会ボトムアップ型AI民主主義・自由

サイトのご利用には利用規約への同意が必要です

The Automation of Society is Next : How to Survive the Digital Revolution

バージョン1.0

ダーク・ヘルビング

献辞

本書をディートマー・フーバーに捧げたい。彼が長年にわたって私に与えてくれた素晴らしいサポートに感謝する。

目次

  • 1 デジタル社会 より良い未来か、それとも悪い未来か?
  • 2 複雑性の時限爆弾 システムが制御不能になるとき
  • 3 社会の力 成功と災害の原因を明らかにする
  • 4 グーグルは神か?ビッグデータの危険な約束
  • 5 瓶から飛び出した魔神 社会経済的な大転換が待っている
  • 6 デジタルが支援する自己組織化 見えざる手を働かせる
  • 7 社会の仕組み 自己組織化による社会秩序
  • 8 ネットワーク化された心 人類の進化はどこへ向かうのか
  • 9 エコノミー4.0 参加型市場社会が誕生する
  • 10 自己組織化社会 未来を手にする

謝辞

FuturICTのコミュニティでは、多くの刺激的な議論を交わすことができた。また、私の両親や不満がありそうな人を含め、辛抱強く付き合ってくれたすべての人に感謝したい。

また、Philip Ball、Stefano Bennati、Anna Carbone、Andreas Diekmann、Dietmar Huber、Eoin Jones、Caleb Koch、Richard Mann、Heinrich Nax、Paul Ormerod、Evangelos Pournaras、Kay-Ti Tan、その他、原稿に対する貴重なフィードバックと多くの改良に大変感謝している(ただし、本書の内容については一切責任を問わない)。Petr NeugebauerとPetra Parikovaには図とフォーマットの面で大変お世話になった。

著者について

ディルク・ヘルビングは、デジタル革命のチャンスとリスクを構想することにおいて、世界で最も想像力に富んだ専門家の一人である。責任あるイノベーションの提唱者であり、ビッグデータをめぐる社会的議論に強く貢献している。また、複雑性、コンピュータ、データサイエンスの境界領域における専門家の世界的な学際的コミュニティを構築したFuturICTイニシアチブをコーディネートしている。世界的な問題や危機に立ち向かうことを目的としたこれらの活動は、サイエンティフィック・アメリカン誌で「世界を変えるアイデア」の第1位として取り上げられ、デルフト工科大学から名誉博士号を授与された。

ダーク・ヘルビングは、チューリッヒ工科大学人文・社会・政治学部の計算社会科学教授であり、同大学のコンピュータサイエンス学部にも所属している。物理学の博士号を持ち、ドイツのドレスデン工科大学交通経済研究所のマネージング・ディレクター、チューリッヒ工科大学の社会学教授を務めた。

ドイツ科学アカデミー “レオポルディナ “の会員であり、世界経済フォーラムの「複雑系に関するグローバル・アジェンダ・カウンシル」のメンバーでもある。また、ドイツ物理学会の社会経済システム物理学部門とチューリッヒ工科大学のリスクセンターの共同設立者でもある。さらに、ブリュッセルのGlobal Brain InstituteとジュネーブのInternational Centre for Earth Simulationの理事も務めている。また、デジタル革命の影響を評価するさまざまなハイレベル委員会のメンバーでもある。

彼の研究の動機は、”複雑系科学と情報システムが人命救助に貢献できることは何か?”ということに要約されるだろう。その範囲は、犯罪や紛争を減らすことによる群衆災害の回避から、伝染病の蔓延を抑えることまで多岐にわたる。彼の研究は、理論的研究、データ分析、実験室での実験を、エージェントが認知機能を持つ可能性のあるエージェントベースのコンピューターモデルと組み合わせて行っている。グローバルにネットワーク化されたリスクに関する最近の著書は、グローバル・システム・サイエンスの枠組みを確立している。

出現しつつある “モノのインターネット “を利用して、彼のチームは現在、市民ウェブとしての分散型惑星神経システム(nervousnet.infoを参照)の中核の確立に取り組んでいる。これは、私たちの世界のリアルタイム測定、状況認識、成功する意思決定、自己組織化をサポートする、オープンで透明性のある参加型情報プラットフォームとなる。このシステムの目標は、デジタル時代の新たな機会をすべての人に開放することである。

写真:サビーナ・ボブスト サビーナ・ボブスト “われわれは、これらの真理を自明のものとする。すなわち、すべての人は平等に造られ、創造主によって特定の譲ることのできない権利を与えられており、これらの権利の中には生命、自由および幸福の追求がある。”

トーマス・ジェファーソン後のアメリカ合衆国独立宣言1

安全のために自由を放棄する者は、自由を手に入れることはできないし、どちらにも値しない

ベンジャミン・フランクリン2

2012年2月23日

アメリカ人は常にプライバシーを大切にしてきた。共和制の誕生以来、私たちは自宅や個人文書への不法な侵入から身を守ることを保証してきた。同時に、新生アメリカ全土の市民が商取引や政治的言論活動を行えるよう、郵便制度を設けた。その直後、議会は郵便のプライバシーを侵害することを犯罪とした。その後、私たちはプライバシー保護を、電話、コンピューター、そして最終的にはEメールといった新しい通信手段にまで拡大した。

ブランディス判事は、プライバシーとは「放っておかれる権利」であると教えてくれたが、私たちはまた、プライバシーとは孤独や秘密以上のものであることも知っている。個人情報の悪用から守られていると感じる市民は、自由に商売に従事し、政治プロセスに参加し、必要な医療を求めることができる。だからこそ、金融のプライバシーや健康のプライバシーを保護する法律があるのであり、消費者を情報の不公正で欺瞞的な利用から守る法律があるのである。最高裁が匿名の政治的言論を保護してきたのもこのためであり、共和国初期のパンフレット作成者や今日のブロガーが行使してきたのと同じ権利である。

インターネット、ワールド・ワイド・ウェブ、スマートフォンの時代において、今日ほどプライバシーが重要な時代はない。この10年間で、インターネットは世界中の市民による直接的な政治的関与の刷新を可能にし、未来の雇用を生み出す商業とイノベーションの爆発的な拡大を可能にした。このイノベーションの多くは、個人情報の斬新な利用によって実現されている。従って、私たちには、歴史を通じて私たちが行ってきたように、時代を超越したプライバシーの価値を、現代の新しいテクノロジーと状況に適用することが求められている。

私は、情報化時代におけるプライバシーの青写真として、この新しい消費者プライバシー権利章典を提示できることを嬉しく思う。これらの権利は、消費者が個人情報を扱う人々に何を期待すべきかについて明確な指針を与え、個人データを使用する企業に対する期待を示すものである。私は、これらの企業に対し、プライバシー擁護団体や消費者保護執行機関などと直ちに協力し、これらの原則を強制力のある行動規範として実施するよう求める。私の政権は、これらの原則を推進し、議会と協力して法制化に取り組む。この「消費者プライバシー権利章典」によって、私たちは、強力なプライバシー保護を提供し、新しい情報技術における継続的なイノベーションを可能にする方法について、ダイナミックなモデルを世界に提供する。

ひとつはっきりさせておかなければならないのは、私たちがかつてよりも自由に個人情報を共有する世界に生きているにもかかわらず、プライバシーが時代遅れの価値観であるという結論を否定しなければならないということだ。プライバシーは民主主義の根幹をなすものであり、今こそ必要なのだ。

バラク・オバマ、米国消費者プライバシー権利章典3

1: はじめに:デジタル社会

より良い未来か、それとも悪い未来か?

スマートフォン、タブレット、そして無限の可能性を秘めたアプリストアは、デジタル革命の象徴となった。しかし、こうした技術革新は私たちの生活をより快適で興味深いものにしてくれる一方で、もっと根本的な変革の前兆でもある。デジタル技術の進歩は、今や私たちの学習、意思決定、交流の方法に影響を及ぼしている。「ビッグデータ」、「モノのインターネット」、人工知能(AI)を活用することで、私たちはスマートホームやスマートシティを創造することができる。しかし、これは氷山の一角に過ぎず、経済や社会全体も劇的に変化するだろう。これに関するチャンスとリスクは何だろうか?私たちはデジタルの奴隷に向かっているのか、それとも自由に向かっているのか?どのような力が働き、どのようにすればよりスマートな社会を作ることができるのか?本書は、これからの新しいデジタル時代を案内する。

工場の自動化、自動車の自動運転の次は、社会の自動化だ。私たちがスマートフォンで忙しくしている間に、世界は私たちの背後で密かに変化している。実際、私たちの世界は加速度的に変化しており、その変化の多くは情報通信技術(ICT)の発展によってもたらされている。ノートパソコン、携帯電話、タブレット端末、スマートウォッチなど、これらのテクノロジーは利便性を追求したもののように見えた。それらが登場したことで、私たちはかつてないほどのスピードと効率で計算、コミュニケーション、アーカイブを行うことができるようになった。しかし、いつの日か、それらが私たちの文化的言説や制度を容易にするだけでなく、私たちの世界全体を再形成するという認識はほとんどなかった。大規模な大衆監視、ウーバー・タクシーの世界的な普及、暗号通貨ビットコインは、来るべきデジタル時代の苛立たしい症状のほんの一部に過ぎない。

“ビッグデータ “の時代を生きる

突然、”ビッグデータ “が大々的に宣伝されるようになった。ダン・アリエリーがビッグデータに関する熱狂を10代のセックスに例えたのも無理はない。

しかし、実際にやっている人もいる。実際、「ビッグデータ」は、リアルタイムの言語翻訳など、すでに多くの興味深いアプリケーションを生み出している。では、「ビッグデータ」とは何か?この用語は、技術、社会、経済、環境のシステムや活動について収集された膨大な量のデータを指す。「ビッグデータ」のイメージをつかむには、消費と移動のパターンによって作られるデータを含め、私たちのほとんどすべての活動が残すデジタルの痕跡を想像してみてほしい。1分ごとに、私たちは約70万件のグーグル・クエリーと50万件のフェイスブック・コメントを生み出している。スマートフォンを使っている人の位置情報、モノを買う人の購買データ、私たちのオンライン活動のすべてのクリックやタップを追跡するクッキーをすべて加えれば、「ビッグデータ」の巨大さが理解できるようになるだろう。

2003年までの人類の歴史の中で収集されたすべてのコンテンツは、50億ギガバイトにのぼると推定されている。前世紀半ばから「情報化時代」と言われてきたが、デジタル時代は2002年に始まったばかりである。それ以来、デジタルの記憶容量はアナログを上回っている。今日、すべてのデータの95%以上がデジタル形式で利用可能だ。クレジットカード取引やソーシャルメディア、デジタル技術を避けても、インターネット上のデジタルの足跡を完全に避けることはもはや不可能である。

最大の図書館よりも大きなデータセット

私たちの生活、制度、文化のほとんどあらゆる側面に関するビッグデータが利用可能になったことで、世界の問題を解決できるという期待が高まっている。私たちがインターネットで買い物をするたびに、私たちの嗜好、金銭感覚、位置情報に関するデータが生成され、それはどこかのサーバーに保存され、様々な目的に、場合によっては私たちの同意なしに使用される。携帯電話は私たちの居場所を公開し、プライベートなメッセージや会話は分析されている。すべての新生児が出生時にゲノム配列を決定される日もそう遠くはないだろう。書籍はデジタル化され、膨大で検索可能な言葉のデータベースに照合され、歴史、社会、芸術、文化的傾向をレンズの下に置く「カルチュロミクス」を可能にするためにデータマイニングされている。集計されたデータは、デジタル時代以前には不可能だったような方法で、思いがけない事実を明らかにするために使われる。例えば、グーグル検索を分析すれば、インフルエンザの流行が差し迫っていることがわかる。

このようなデータの雪崩は増え続けている。グーグルグラスのような技術の導入は、人々が生活のほとんどすべての側面を記録し、アーカイブすることを奨励している。さらに、クレジットカードの取引、通信データ、グーグルアースの画像、公共のニュース、コメント、ブログなどのデータセットも含まれる。これらのデータソースは “ビッグデータ “と呼ばれ、私たちの物理的・社会的世界や世界経済について、ますます正確なデジタル画像を作り出している。

「ビッグデータ」は確実に我々の世界を変えるだろう。この言葉は15年以上前に作られたもので、標準的な計算方法ではもはや分析できないほど大きなデータセットを表す。ビッグデータから利益を得ようとするならば、我々はそれを「ドリル」し、有用な情報や知識に「洗練」することを学ばなければならない。これは重要な課題である。

データ量の驚異的な増大は、4つの重要な技術革新に起因している。第一に、インターネットは電子機器間のグローバルなコミュニケーションを可能にした。第二に、ワールド・ワイド・ウェブ(WWW)は、ハイパーテキスト・トランスファー・プロトコル(HTTP)の発明の結果として出現した、世界的にアクセス可能なウェブサイトのネットワークを作り上げた。第三に、フェイスブック、グーグル+、ワッツアップ、ツイッターといったソーシャルメディア・プラットフォームの出現が、ソーシャル・コミュニケーション・ネットワークを作り上げた。最後に、テレビ、冷蔵庫、コーヒーメーカー、カメラ、センサー、スマート・ウェアラブル・デバイス(活動量計など)、機械など、以前はオフラインだったさまざまな機器がインターネットに接続され、「モノのインターネット」(IoT)または「あらゆるもののインターネット」(IoE)が構築されている。一方、イーベイ、ウォルマート、フェイスブックなどの企業が収集するデータセットは、ペタバイト(100億バイト)単位で計測されなければならない。これは、世界最大の物理的図書館である米国議会図書館に保存されている情報の100倍以上に相当する。

ビッグデータのマイニングは、プロセスを最適化し、相互依存関係を特定し、情報に基づいた意思決定を行う新しい方法を生み出す可能性を提供する。しかし、ビッグデータは少なくとも4つの新たな課題(「4つのV」)を生み出す。第一に、前例のない大量のデータを扱うためには、膨大な処理能力とストレージ容量が必要になる。第二に、データを処理する速度が速くなり、連続的なデータストリームをリアルタイムで分析しなければならなくなった。第三に、ビッグデータはほとんどが非構造化であり、その結果、様々なデータを整理し分析することが難しくなっている。最後に、ビッグデータにはエラーが含まれる傾向があり、通常は代表的なものでも完全なものでもないため、データの信憑性を扱うのは難しいかもしれない。

デジタル革命は我々の問題を解決するのだろうか?

今日の豊富なデータを基にしたエビデンスに基づくアプローチで何ができるかを見てみよう。かつては、問題を解決しなければならないときはいつでも、「専門家に聞く」のが最善の方法だった。専門家たちは図書館に通い、最新の知識を収集し、博士課程の学生を指導して既存の知識のギャップを埋める手助けをしていた。しかし、これには時間がかかった。現在、人々は何か疑問があれば、グーグルに尋ねたり、ウィキペディアを参照したりする。これは必ずしも決定的な答えや最良の答えを与えてくれるとは限らないが、迅速な回答をもたらしてくれる。平均して、このようにして下された決断は、過去に下された多くの決断よりも優れているかもしれない。したがって、政策立案者たちが、即座に答えを出してくれそうなビッグデータのアプローチを好むのも不思議ではない。莫大なビジネスチャンスを感じているビジネスパーソンも興奮している。

21世紀の石油をめぐるビッグデータのゴールドラッシュ

私たちの世界に関する情報がかつてないほど豊富になったことは、恵みであると同時に災いでもある。社会経済データの蓄積は、しばしば個人のプライバシーへの長期的な侵入を意味し、多くの重要な問題を提起する。ビッグデータが根拠に基づく意思決定を支える強力なリソースであり、ビジネス、政治、科学、市民にとってかつてない可能性を秘めていることは否定できない。最近、ソーシャルメディア・ポータルのWhatsAppがフェイスブックに190億ドルで売却された。この売却価格は、従業員1人あたりが5億ドル近い株式価値を生み出したことを意味する。

プロセスの最適化やマーケティングへの応用だけでなく、情報そのものが収益化されつつあるため、ビッグデータが多大な機会を生み出していることは間違いない。仮想通貨ビットコインが示すように、ビットを貨幣価値に変えることさえ可能になっている。文字通り、以前ならおとぎ話としか考えられなかったような方法で、データを採掘してお金に換えることができるのだ。一時期、ビットコインは金よりも価値があったほどだ。

そのため、多くの専門家やテクノロジーの達人が、ビッグデータは「21世紀の石油」であり、大金を稼ぐ新しい方法だと主張するのも不思議ではない。多くのビッグデータセットは独占的なものであるが、コンサルタント会社のマッキンゼーは最近、オープンデータの潜在的な価値だけでも年間3~5兆ドルに上ると試算している4。仮に、この一般に入手可能な情報の価値が世界の人口に均等に分配されるとすれば、地球上のすべての人が年間700ドルを追加で受け取ることになる。したがって、オープンデータの可能性は、現在秘密交渉中の国際自由貿易協定やサービス協定の価値を大幅に上回る。この数字から考えると、我々は現在、正しい政治的・経済的優先順位を設定しているのだろうか?

ビッグデータの可能性は、人間の言語処理や金融資産の管理から、エンパワーメントiに至るまで、社会活動のあらゆる分野に及ぶ。 TTIP、CETA、TPP、TISAという略称で呼ばれる差し迫った国際協定について知るために、読者はウィキペディアを調べることをお勧めする。これらは多国籍企業の力を劇的に増大させるようだ。

これは良いことなのだろうか、それとも悪いことなのだろうか?

エネルギー消費と生産をバランスさせる都市 ビッグデータはまた、環境をよりよく保護し、リスクを検出して削減し、これまでなら見逃していたような機会を発見することを可能にするという期待も持っている。個別化医療の分野では、ビッグデータはおそらく、薬の効果を高め副作用を減らすために、患者に合わせて薬を調整することを可能にするだろう。ビッグデータはまた、新薬の研究開発を加速させ、最も必要とされる分野にリソースを集中させるだろう。

したがって、ビッグデータの潜在的な用途が多様であり、急速に広がっていることは明らかである。パーソナライズされたサービスや製品、最適化された生産・流通プロセス、そして「スマート・シティ」が可能になる一方で、我々の活動間の予期せぬつながりも明らかになるだろう。しかしこの先、私たちはどこへ向かおうとしているのだろうか?

人工知能は我々を追い越すのだろうか?

今日、平均的な携帯電話は、アポロロケットを月に送るのに使われたコンピューターや、30年前の重さ数トン、ビル1棟分の大きさのスーパーコンピューター「クレイ2」よりも高性能だ。この驚くべき進歩は、コンピュータの処理能力が指数関数的に増加するという「ムーアの法則」の結果である。しかし、強力な「機械学習」手法のおかげで、情報システムもよりインテリジェントになりつつある。私たちよりも速く計算し、私たちよりも上手にチェスを指し、私たちよりも長く情報を記憶し、かつては人間にしかできなかったような仕事をどんどんこなしている。彼らはやがて我々よりも賢くなるのだろうか?人間が “創造の王冠 “であった時代は終わったのだろうか?未来学者として有名なレイ・カーツワイル(※1948年、現在はグーグルのエンジニアリング・ディレクター)は、この瞬間(いわゆる「シンギュラリティ」)が近いと最初に主張した5。

数年前、人工知能(AI)が人類に深刻な脅威をもたらすかもしれないという記事を読んだとき、私はこれを想像するのは難しいと感じた。しかし現在では、専門家の予測によれば、コンピューターは5~10年以内にほとんどのタスクを人間よりうまくこなせるようになり、10~25年以内には脳のような機能を持つようになるという。今日のAIシステムは、もはやコンピューター科学者によってプログラムされた専門家システムではない。その意味を理解するために、ディープラーニングと人工知能に関する目を見張るようなビデオをご覧になることをお勧めする6。これらのビデオは、今日私たちがお金を稼いでいる活動のほとんど(言語を読んだり聞いたりすること、異なるパターンを区別すること、ルーチンを実行することなど)が、コンピュータによって人間とほぼ同じように、いやそれ以上にできるようになったことを示している。IBMのコグニティブ・コンピューティング製品に関するジム・スポーラーの見解は以下の通りである。人工知能が賢くなるにつれて、人工知能は私たちの “パートナー “になり、私たちを追い越すときには、人工知能は私たちの “コーチ “になるだろう。

今から数十年後、アルゴリズムやコンピューター、ロボットは私たちの上司になっているだろうか?マサチューセッツ工科大学は、そのようなシナリオの研究を開始した。8 したがって、デジタル革命は、より強力なコンピューターや、より優れたスマートフォン、よりファンシーなガジェットだけの問題ではないことを認識することが極めて重要である。デジタル革命は、私たちの個人生活すべてを変え、経済や社会全体を変革する。実際、今後20~30年の間に、私たちは劇的な変化を目の当たりにするだろう。多くの生産とサービスが自動化され、将来の働き方が根本的に変わるだろう。

今後20年ほどのうちに、訓練を受けた仕事(農業、工業、サービス業など)に就く人の割合は50%を下回るだろう。私たち一人ひとりについて収集された大量の個人データは、その後どのように利用されるのだろうか?

ビッグデータが私たちの生活を左右し始めるとき

最初は突飛に聞こえるかもしれないが、私たちはこう問いかけなければならない: “私たちはパーソナライズされた情報によって遠隔操作されるようになるのだろうか、それともすでにそうなっているのだろうか?” グーグルやフェイスブックが、私たちの興味や嗜好に合うよう個別に調整された広告を掲載する際に、私たちが何に興味を持っているかを熟知していることは明らかだ。スマートアプリ「Google Now」は、スマートアプリの一例である。例えば、次の予定に向かう途中で渋滞が発生した場合、グーグルナウは時間に間に合うように15分早く出発するよう提案するかもしれない。同様に、アマゾンは買いたいものを提案し、トリップアドバイザーは訪れるべき観光地や予約すべきホテルを提案する。ツイッターは他人の考えを教えてくれる。フェイスブックは誰と友達になるべきかを提案してくれる。OkCupidのようなアプリは、デートする相手まで提案してくれる。

これらすべてのサービスは確かに便利かもしれないが、その結果はどうなるのだろうか?私たちはデジタルな「黄金の檻」、イーライ・パリサーが言うところの「フィルター・バブル」の中で暮らすことになるのだろうか10。最新の学習ソフトはすでに、私たちが間違いを犯すと訂正してくれる。スマートリストバンドは、1日にあと何歩歩くべきかを教えてくれる。アイトラッカーは私たちが疲れているか、ストレスを感じているかを検知し、コンピューターは私たちのパフォーマンスがいつ低下するかを予測することができる。つまり、私たちはますますコンピューター・プログラムに意思決定を委ねられているのだ。近い将来、私たちは自力で生きていくことができなくなるのだろうか?そして、私たちは発言権のない「ナニー・ステート(乳母国家)」に陥ってしまうのだろうか?私たちの意思決定、民主主義は「ハッキング」されてしまったのだろうか?

なぜ気にしなければならないのか?コンピューターが私たちの代わりに計算をしてくれるのは、私たちが自分で計算するよりもずっと速い。スマートフォンが私たちの予定を管理し、グーグルマップが行くべき道を教えてくれるのは素晴らしいことではないか?アップルのSiriにレストランを紹介してもらうのはどうだろう?確かにこれらの機能に異論はないが、これはこれから起こることの始まりに過ぎないことを認識することが重要だ。自己決定者としての私たちの役割は、少しずつ侵食されつつある。次の段階は、社会の自動化である。それはどのようなものだろうか?

サイバネティック社会

この問いは、制御理論(「サイバネティクス」)の父として知られるノルベルト・ウィーナー(1894-1964)11に遡る古い概念に私たちを導く。ウィーナーは、私たちの社会が巨大な時計仕掛けのように制御され、あらゆる企業や個人の活動が、社会を最適な方法で運営するための巨大な計画によって調整されることを想像していた。

何十年も前、ロシアをはじめとする共産主義諸国は指令経済を行っていた。しかし、自由な起業家精神に基づく資本主義的アプローチが繁栄する一方で、競争力を高めることはできなかった。当時、情報システムは今日よりもはるかに限られたパワーと範囲しか持たなかった。これは変化した。共産主義と資本主義以外の第三のアプローチ、すなわちデータ主導で管理される社会経済システムが存在するのだ。70年代初頭、チリは「サイバネティック社会」を試みた最初の国だった12。チリはコントロールセンターを設立し、主要企業の最新の生産データを毎週収集した。これはまさに革命的なアプローチだったが、その明らかな利点にもかかわらず、政府は政権を維持することができず、同国の大統領であったサルバドール・アジェンデ(1908-1973)は悲劇的な最期を遂げた。

今日、シンガポールも中国も、多くのデータを用いてトップダウン方式で社会・経済活動を計画しようとしており、欧米の民主主義国家よりも大きな成長率を享受している。そのため、多くの経済的・政治的指導者が疑問を呈している: 「民主主義は時代遅れなのか?我々は壮大な計画に従ってサイバネティックに社会を運営すべきなのだろうか?ビッグデータによって未来を最適化できるのだろうか?」

賢明な王と慈悲深い独裁者、ビッグデータが後押しする

今や蓄積できるあらゆるデータを考えると、政府や大企業が「神のような」、ほとんど「全知全能」の情報システムを構築しようとすることは考えられるだろうか?そのとき、これらのシステムは「慈悲深い独裁者」や「賢明な王」のような意思決定を下すことができるのだろうか?協調の失敗や不合理を避けることができるのだろうか?一部の人々が提案しているように、あらゆるデータをグローバルに収集し、未来を予測するデジタル「水晶玉」を構築することで、最高の世界を創造することも可能になるのだろうか?もしそれが可能なら、そして「知識は力なり」ということを考えれば、慈悲深い独裁者のマスタープランが軌道に乗るように、政府や企業が一種の「魔法の杖」を作ることはできるのだろうか?

そのような強力なツールを作るには何が必要だろうか?それには、適切な種類のパーソナライズされた情報で私たちを刺激することで、私たちの意思決定を操作できるほど、私たちを熟知した情報システムが必要になる。本書で紹介するように、そのようなシステムは実際に実現しつつあり、ある程度はすでに存在している。

私たちは個人の自由を犠牲にする必要があるのだろうか?

サイバネティック社会の構築は、多くの重要な意味を持つ。例えば、多くの個人データが必要になる。社会全体をコントロールするためには、私たちがどう考え、何を感じ、何をするつもりなのかを理解することが重要だと思われる。人工知能を搭載した機械が、何が私たちの行動を決定し、どのように影響を与えるかを学習するためには、大量の個人データが不可欠なのだ。実際、大規模な監視はテロリズム13や児童虐待との戦いにおいては驚くほど効果がないがiii、サイバネティック社会の構築には非常に有効であるように思われる。

しかし、あらゆるテクノロジーと同様、重大な欠点もある。啓蒙の時代以来、民主主義国家とその司法制度の基盤を形成してきた最も重要な権利や価値観のいくつかが、おそらく失われるだろう。秘密やプライバシーは情報技術によって侵食され、それに伴い、私たちは安全や、慈悲や許しといった人間的価値も失ってしまうだろう。予見的取り締まりやその他の積極的な取締り手段の出現により、「推定無罪」の原則から逸脱し、個人の権利を犠牲にした不吉な「公益」政策の実施に向かう可能性がある。したがって、ビッグデータの先進国が、ロシアや中国を含む他のどの国よりも、人口千人当たりの刑務所収容者数が多いという事実を心配する必要があるのだろうか14。

 

図1.1: たとえそれが社会にとってまったく無害であっても、市民がどんな些細な法律違反でも罰せられる可能性があることを示す図。交通当局は私の外国の住所を突き止め、私の車で時速1kmの速度超過をしたという理由でこの切符を切った。

大衆監視の助けを借りれば、過剰な規制社会で誰もが犯す些細なミスでさえも罰することができるようになったiv。私の車で時速1kmのスピード違反をしたという上記の違反切符(図1.1参照)は、おそらく、もっと大規模に何が可能になるかを予兆しているのだろう。公的機関による制裁に加え、保険会社は将来、不健康な食事をした私たちを罰するようになるのだろうか。銀行は、私たちが “間違った地域 “に住んでいるというだけで、懲罰的な金利でローンを組むようになるのだろうか?特定の期待に応えなければ、商品やサービスの提供を制限されたり、高い料金を支払わなければならなくなったりするのだろうか?ディストピア的なSFファンタジーのように聞こえるかもしれないが、こうしたことの多くはすでに起こっている。中国は現在、インターネットでの行動を含め、すべての国民の行動を一次元の尺度で評価する計画さえ立てている15。その結果得られたスコアは、その人が特定の仕事や融資を受けられるかどうかの判断に使われる。

このようなテクノロジーとデータ主導のアプローチは、国を「完璧な時計仕掛け」に変えることができるのだろうか?そして、どの国もグローバル競争にさらされていることを考えれば、民主主義国家が同様のアプローチを採用するのは時間の問題だろうか?もしこれが突飛な話だと思うなら、最近、影響力のある意思決定者の何人かが、中国やシンガポールを世界のモデルとして称賛していることを思い出すといいかもしれないvi。もちろん、なぜやってはいけないのかと尋ねる人もいるかもしれない。これで私たちの生活や社会の効率が上がるのなら、なぜやってはいけないのかと。社会は時間とともに進化するものだと歴史は教えているではないか。企業や政府が私たちの面倒を見てくれるなら、なぜ心配する必要があるのだろうか?

重要なのは、企業や政府が私たちのニーズや利益を満たすために良い仕事をしているかどうかということだ。しかし、金融・経済危機、サイバー犯罪、気候変動、その他多くの問題を鑑みると、政府がこの約束を果たすことは非常に困難であるように思われる。同様に、シリコンバレーをビジネス主導の社会像と考えるなら、そこにいるすべての人が十分に配慮されていると主張するのも、また突飛なことのように思える。

誰が世界を支配するのか?

ビッグデータが全体主義的になる可能性を秘めていることは間違いない。しかし、原理的には、ビッグデータ、人工知能、サイバネティクスには何の問題もない。問題は、それをどう使うかだ。例えば、将来世界を支配するのは誰なのか。大企業なのか、政府のエリートなのか、それとも人工知能なのか。市民や専門家はもはや意思決定プロセスには関係ないのだろうか?もし強力な情報システムが世界と私たち一人ひとりを知っているとしたら、彼らは私たちに代わって投票したり決定を下したりするだろうか?パーソナライズされた情報によって、私たちに何をすべきかを指示したり、私たちの行動を誘導したりするのだろうか?それとも、パーソナル・デジタル・アシスタントの力を借りて、誰もが自律的に、しかしうまく調整された方法で意思決定を行う、自由で民主的な社会になるのだろうか?

2つのシナリオ:強制か自由か

私たちは、より効率的な世界の統治のために、プライバシー、自由、尊厳、情報の自己決定を犠牲にする必要があるのだろうか?私たちは今、これらの可能性について考えなければならない。社会的、経済的、法的、倫理的に重要な意味を持つため、私たちはいくつかの重大な決断を下さなければならない16。2001年9月11日以降、私たちはオンライン活動の大規模な監視を含め、市民の活動をコントロールしようとする試みがますます強まっていることを目の当たりにしてきた。デジタル革命は、私たちが人権を失うことを意味するのだろうか。私たちは自律性を失い、ただ強力な情報システムの指示に従うだけになってしまうのだろうか?検閲で終わるのだろうか?

デジタル革命は、大きなチャンスとリスクを意味する。デジタル技術は、未来の経済や社会を運営するさまざまな方法を可能にする。もし私たちが仕事、個人の自由、民主主義を失いたくないのであれば、デジタル技術を私たちに不利に働かせるのではなく、私たちのために働かせる方法を慎重に検討しなければならない。自動化社会には少なくとも2つの可能性がある。強力な情報技術を駆使して、市民の意思決定や行動を技術的にコントロールしようとするトップダウンの方法で社会を運営するか、あるいは代わりに、分散コントロールに基づくボトムアップの自己組織化を支援するかである。後者であれば、個人の自由、創造性、イノベーションと両立できるだろう(下図1.2参照)。しかし、デジタル革命はその両方を可能にする。これから説明するように、ほぼ自律的な意思決定やプロセス、そしてそれらの調整を支援するためには、次のことが必要である。

  • 1. 参加型の機会を作る、
  • 2. 情報による自己コントロールをサポートする、
  • 3.分散されたデザインとコントロールの要素を増やす、
  • 4. 信頼のために透明性を高める、
  • 5. 情報の偏りやノイズを減らす、
  • 6.ユーザーがコントロールする情報フィルターを可能にする、
  • 7. 社会経済的多様性をサポートする、
  • 8. 相互運用性と革新性を高める、
  • 9. 調整ツールを構築する、
  • 10. デジタル・アシスタントを作る、
  • 11. 集合的(群)知性をサポートする、
  • 12. 外部効果(外部性)を測定し、考慮する、
  • 13. 好ましいフィードバック・ループを可能にする、
  • 14. 公平で多次元的な価値交換をサポートする、
  • 15.デジタル・リテラシーと意識を高める。
【本文参照】
図1.2:2つの異なるタイプのデジタル社会をもたらす、2つの進化の道筋の模式図。経路Aは、個人の自由、民主主義、雇用を損なう。経路Bは、すべての人の創造的で革新的な活動を支える自己管理と参加型情報システムに基づく社会に対応する。私たちはどちらを選ぶのだろうか?

本書で私は、よりスマートでレジリエントなデジタル社会に貢献できる概念とアイデアを提供しようとしている。このような枠組みが必要なのは、多くの重要な点で、世界が予測不可能で不安定になっているからだ。これは部分的には、情報通信技術の進歩によって、我々のシステムの相互依存度が高まっていることに起因している。したがって、多すぎるデータ、多すぎるスピード、多すぎる接続性を特徴とする世界では、どちらのアプローチが優れているのだろうか?トップダウンのガバナンスなのか、ボトムアップの参加なのか。それとも、両方のアプローチを組み合わせた方がいいのだろうか?そして、私たちはどのようにこれを行うのだろうか。これは主に、私たちを取り巻くシステムの複雑さにかかっていることがわかるだろう。

より良い未来のために

多くの課題があるにもかかわらず、私は全体として長期的な未来については楽観的である。人類の歴史の中で、私たちはすでに何度か社会の変遷を経験しており、今回もきっとうまくいくはずだ。

以下の章では、来るべきデジタル時代の社会的枠組みとして、主に2つの可能性を提案することで、必要な社会的議論に貢献したいと考えている。そのひとつは、「慈悲深い独裁者」や「賢明な王」のように決定を下す「大きな政府」の概念に基づくものだ。この枠組みは、デジタルの “水晶玉 “のように膨大なデータによって力を与えられるだろう。これは、トマス・ホッブズ(1588-1679)の「リヴァイアサン」の未来版といえるかもしれない。彼の信念は、強力な国家なしには社会秩序は存在しえないというもので、そうでなければ我々は皆、野獣のように振る舞ってしまうというものだった。

デジタル社会の代替的枠組みは、自己組織化システムの概念に基づいている。この構想は、アダム・スミス(1723-1790)が提唱した「見えざる手」の概念に関連している。彼は、市場原理に基づく自己組織化によって、社会的に最良の結果が得られると仮定した。しかし、金融メルトダウンや、環境汚染や有害な気候変動といった「コモンズの悲劇」17 は、「見えざる手」が当てにならないことを示唆している。

しかし、将来の情報通信技術によって、分散化された意思決定や自己組織化を通じて、望ましいシステム的成果に到達できるようになるとしたらどうだろうか。リアルタイムの計測とフィードバックによって強化された分散型の制御・調整メカニズムは、「見えざる手」を機能させることができるのだろうか?このエキサイティングなビジョンの実現可能性は、本書の後の章で探求されることになる。本書では、21世紀の成功と社会経済秩序を達成するための新しいパラダイムについて述べる。それは、創造性、参加、「集合知」、ウェルビーイングの新時代へと私たちを導くのだろうか?

実際、交通管理や生産の分野での例は、複雑なシステムをボトムアップで管理し、望ましい結果を効率的に生み出すことが可能であることを示している。以下の章では、このような「魔法のような自己組織化」の背後にある一般的な原理と、それが複雑な未来を切り開くためにどのように役立つかを説明する。さらに、集団的知性の役割と、それがグローバル化した世界の複雑さに対処する上でどのように役立つかを説明する。

したがって、経済、金融システム、世界貿易、輸送システムといった複雑なシステムの自己組織化されたダイナミクスを制御したり、それに対抗しようとしたりするのではなく、その根底にある力を私たちの利益のために利用することを学べばいいのだ。もちろん、そのためには、これらのシステムの構成要素の相互作用を局所的に適応させる必要がある。しかし、もしそれが達成できれば、望ましい結果を生み出すために自己組織化を利用することができ、それによって、秩序正しく、効果的で、効率的で、回復力のあるシステムを作り出すことができるだろう!

批評家は、自己組織化が複雑な技術システム(交通管制や工業生産ラインなど)で機能することが示されているからといって、それが社会経済システムでも機能するとは限らない、と反論するかもしれない。結局のところ、人の行動には驚くことばかりである。この反論を踏まえて、複雑な力学的システムを管理する際に、自己組織化が従来のトップダウン制御を凌駕できるかどうか、またどのような場合に凌駕できるかを探る。自己組織化システムの優位性を可能にする制度設定や相互作用ルールについても議論する。私たちは今、リアルタイム・データを使って適応的なフィードバック・メカニズムを可能にし、システムが有利に、かつ安定的に振る舞うようにすることができる。より具体的には、センサーの膨大なネットワークを基盤とする「モノのインターネット」が、社会経済の自己組織化を分散型かつボトムアップ型で可能にすることを提案する。しかし、重要な問題は、分散制御に基づくデータ指向のアプローチをどのように機能させるかである。後述するように、その解決策には「複雑性科学」が必要である。

よりスマートなデジタル社会へ

長い目で見れば、私は未来に自信を持っている。それは主に、デジタル時代におけるアイデアの力を信じているからだ。しかし、その過程で重大な過ちを犯す可能性には常に注意を払っておかなければならない。金融システムは破綻するかもしれないし、民主主義国家は意図的であれ偶然であれ監視社会に変わるかもしれない。したがって、私は本書で、私たちの前にあるチャンスとリスクを説明しようとしている。

変化の兆しはいたるところにある。情報技術は世界経済を急速なスピードで変革している。要するに、私たちは「第3の経済革命」18を経験しているのであり、「エコノミー4.0」につながっているのである。その影響は、少なくとも第1次(農業から工業へ)、第2次(工業からサービス業へ)の革命と同じくらい深刻なものになるだろう。ソーシャルメディア、スマートデバイス、モノのインターネット、人工知能など、デジタル技術のユビキタス化がデジタル社会を生み出している。私たちはもはや、この激震的な社会の変遷を受け身で傍観している余裕はない。それに備えなければならない。しかし、こうした変化を単に社会と世界の安定に対する脅威と考えるべきではない。実際、私たちは100年に一度のチャンスに直面しているのだ!

例えば、デジタル革命は、私たちの学習、行動、意思決定、生き方を変えているだけではない。デジタル革命は、私たちの生産と消費の方法、そして所有に対する概念をも変えつつある。情報は文化の基礎であり、好きなだけ共有できるという点で、非常に興味深い資源である。より多くの情報を得るために、他者から奪う必要はない。奪い合う必要もない。もちろんこれは、将来的に経済がどのように組織されるかにかかっている。特に、データ、情報、知識、創造的なデジタル製品の生産に対する努力にどのように報いるかによる。20世紀の時代遅れの原則を永続させるか、よりスマートな21世紀社会への扉を開くか。なぜ後者にしないのか?

現在、多くの人々が「スマートホーム」、「スマート工場」、「スマートグリッド」、「スマートシティ」について話している。近い将来、「スマート経済」や「スマート社会」が実現するのは道理にかなっている。ネットワーク化された情報システムは、世界の問題に対するまったく新しい解決策を可能にするだろう。つまり、デジタル時代の世界は大きく変わるということだ。しかし、未来を正確に予測することはできなくても、少なくともその一端を垣間見ることはできるのではないだろうか?少なくともある程度はできると思うし、いくつかの傾向はすでに現れている。明らかに、未来の世界の特徴は、それを形成する技術的、社会的、進化的な力によってもたらされる。技術的な推進力としては、ビッグデータ、モノのインターネット、人工知能などが挙げられる。社会的な推進力としては、情報量の増加やネットワーク化が挙げられる。さらに、新しい種類のインセンティブ・システムや意思決定につながる進化の力もある。私は、これらの力が持つ意味を評価し、それらがもたらす機会とリスクについて議論することを試みる。

これらの力は、私たちの「人為的システム」、すなわち人工的あるいは人為的影響を受けた技術社会経済環境システムの中で起こる相互作用によって生み出される。介入を有益なものにするためには、自然の力を利用することを学んだのと同じように、これらの相互作用、そしてそれらが生み出している力をどのように利用すれば有利になるかを理解しなければならない。

デジタル革命は私たちの社会経済制度をどのように再構築するのだろうか?そして、私たちはどのような準備ができるのだろうか?こうした疑問やその他の問題に取り組みながら、私は政治的に左でも右でもない、イデオロギーにとらわれないアプローチを追求し、斬新な機会を注意深く探っていきたい。来るべきデジタル時代の新たなロジックを理解することで、私たちの社会をより革新的で、より成功的で、より強靭なものにするために、デジタル革命をどのように利用できるかを説明しようと思う。また、新しいテクノロジーを使って、リアルタイムにシステムを適応させる方法についても述べる。さらに、すべての人に新たな雇用と機会を創出できる、情報とイノベーションのエコシステムを構築する方法についても概説する。

私たちは今、なぜこの世界が問題を抱えているのか、どうすればそれを解決できるのか、その詳細に飛び込む準備ができている。以下の章では、予測と制御、複雑性、自己組織化、認識と協調、責任ある意思決定、リアルタイムの測定とフィードバック、システムデザイン、イノベーション、報酬システム、共同創造、集合知といったテーマに焦点を当てる。新たなデジタル社会がもたらすチャンスとリスクを巡るこの旅が、私にとってそうであるように、あなたにとってもエキサイティングなものになることを願っている!

管理

この記事が役に立ったら「いいね」をお願いします。
いいね記事一覧はこちら

備考:機械翻訳に伴う誤訳・文章省略があります。
下線、太字強調、改行、注釈や画像の挿入、代替リンク共有などの編集を行っています。
使用翻訳ソフト:DeepL,ChatGPT /文字起こしソフト:Otter 
alzhacker.com をフォロー
Alzhacker