Next Civilization: Digital Democracy and Socio-Ecological Finance—How to Avoid Dystopia and Upgrade Society by Digital Means
ディルク・ヘルビング
第2版 2021年
プロローグ
われわれは、これらの真理が自明であることを確認する。すなわち、すべての人間は平等に創られており、創造主から不可侵の権利を与えられており、これらの権利の中には、生命、自由および幸福の追求が含まれていることを確認する。
トーマス・ジェファーソンによる米国独立宣言 1
安全のために自由を放棄する者は、どちらも手に入れることはできないし、手に入れる資格もない。
ベンジャミン・フランクリン 2
多くの人は、私を、とりわけ交通や歩行者の流れ、群衆災害について研究してきた科学者として知っている。まだ覚えている方もいらっしゃるかもしれないが、私はFuturICTプロジェクトの発案者であり、科学的コーディネーターでもあった3。
このプロジェクトは，Google，NASA，米国政府4，ロシア5，中国6などから強い関心を寄せられてた。FuturICTは，デジタル時代に向けた先見性のあるプロジェクトで，欧州の10億ドルの旗艦資金調達のポールポジションにあった7。要するに、何百人もの科学者が、世界に新しいパラダイムをもたらす準備をしていたのである。しかし、その後、競合他社も含めて誰もが驚いたことに、別の旗艦候補が選ばれたのである8。10億ユーロの「ヒューマン・ブレイン・プロジェクト」9で、ヨーロッパは現実的な脳をイン・シリコで構築しようとし、バラク・オバマは数十億ドルの「ブレイン・イニシアティブ」を発表した10。これにより、トランスヒューマニストの時代が始まったのである11。この本の中で、私たちはその心配な意味を理解することになる。
本来であれば、あるプロジェクトが勝ち、別のプロジェクトが負けて、人々は次の段階に進むのが普通のことである。しかし、ここでは、さまざまな理由から事態が大きく異なっていた。私がフォローしたいと思っていた「Nervousnet」(注12)などのプロジェクトが、ことごとく頓挫してしまったのだ。これは「デジタル・デモクラシー」13に関する仕事にも当てはまり、インターネットでアクセスすることさえできないことが繰り返された。さらに、私は何年もの間、永久に圧力をかけられ続けていたので、何が起こっているのかと思った…。
その間に、デジタルミラーワールド15が現実のものとなった16が、プライバシー、倫理、参加、民主主義は失われたようである。先見性のある、ほとんどユートピアのようなプロジェクトではなく、ディストピアが進行しているように見えるのは、この本の中で私が示すとおりである（デジタル革命の大きな可能性も含めて）。
私は2011年以来、デジタル技術の二重使用17の危険性について世界に警告してきた18。FuturICTの旗揚げが却下された後、私は懸念を抱き、世間に警告を発し始めた19。2013年からの数年間で、何百もの新聞記事が掲載された。また、何十ものブログを発表し（http://futurict.blogspot.com 参照）、その多くは『Thinking Ahead』21と『Towards Digital Enlightenment』という2冊の本に掲載されている22。
さらに、自費出版の書籍『The Automation of Society Is Next: How to Survive the Digital Revolution 』23は、哲学的、倫理的、プログラム的な考察にも門戸を開いた、科学的に関心のある読者に向けて書かれたものである。2015年に書かれた10章（第1章～第5章、第7章～第11章）は、『Next Civilization』というタイトルで本書の中核となっているが、2019年（第14章）と2020年に書かれた4章（第6章、第12章、第13章）を新たに追加した。歴史的な信憑性を高めるために、これまでの章はほぼそのままにした。
今日の視点から見ると、2015年版の本が大きな物議を醸したことは想像に難くない。当時は、グローバルなデジタル制御システムが誕生していた。分散型組織、調整、自己組織化、自己統治に基づいた私の代替的な未来像は、強力な人工知能（AI）によって制御されるデータ駆動型のパラダイムに根本的な疑問を投げかけてた。
当時、多くの人が「シンギュラリティ（特異点）」を期待していた。シンギュラリティの後には、大量の監視データに基づいて「慈悲深い独裁者」25のように世界を支配することができる超知能システムまたは「デジタル・ゴッド」24が現れるかもしれないと言われている。また、世界を持続可能なものにするという任務も与えられるかもしれない。残念ながら、人工知能システムは「過疎化戦略」が「問題の解決」につながると考えているかもしれない。後ほど、この恐ろしいシナリオが単なる理論上のものではなく、実際に起こりうる深刻な脅威であることがわかるだろう。
そこで私は、民主的な方法で世界をより持続可能にすることができるコンセプトに取り組み始めた。「デジタル・デモクラシー」、「シティ・オリンピック」、「デモクラティック・キャピタリズム」、そして循環型経済を促進する「社会生態学的金融システム」（「FIN4」）などである26。7-13. つまり、ディストピア的な未来の代わりになるものはきっとあるが、それは途中で持ってこなければならないということだ。
なぜなら、中国や「監視資本主義」の大企業など、多くの利害関係者が異なる計画を持っているように見えるからである。これらの人々は、「世界を救う」ことよりも、権力や利益を最大化することに関心があるように見えることが多いのである。また、「世界を救いたい」と主張する人たち（CERN27、国連28、世界経済フォーラム29など）でさえ、透明性が低く、民主的な参加を得られないまま、大量の監視に基づく中央集権的なアプローチを追求しているように見える。
結局、このことについておそらく詳しく知っている人の一人が、国連総会2019の前で心配な発言をした。
「私たちはまだ、政治やビジネス、国際組織に自信を持てるだろうか？これらは、私たちが総会で答えを見つけなければならない質問である」30。
実際、この数年間は、未来への道を模索する世界的な闘争を特徴とする厳しい時代であった。以下の出来事は、この数年間に起こったことのほんの一例である31。
たとえば、2015年9月25日には、イギリスの秘密情報部GCHQが運営する、大量の監視によってすべての人の人生の価値を判断する「カルマ・ポリス」プログラムについて、スノーデンの暴露情報が発表された32。信じられないかもしれないが、私は以前、『The Automation of Society Is Next: How to Survive the Digital Revolution』のプレプリントをローマ法王に送ったことがあるからだ。彼のスピーチの直前、2015年9月24日、そして9月11日に、サウジアラビアは双子の災害に見舞われた。それはイスラム教徒の巡礼史上最大の悲劇であり34、黙示録の一部のように感じられた。
国連総会のフォローアップとして、2015年11月30日から12月16日にかけて、気候変動と戦うための拘束力のある世界的な契約を道連れにしようとする「パリ協定」が取り組まれた35が、米国議会が協定に署名する前に、ドナルド・トランプ氏が米国大統領に選出され、後に国際的な気候変動対策を辞めてしまった36。
パリ協定の少し前に、私は科学者の学際的なチームと一緒にデジタル・マニフェスト（「Digital Democracy Rather than Data Dictatorship」）37を発表した。ドイツ語のオンライン版は2015年11月12日に登場したが、その1日後、気候サミットを前にしたパリでの衝撃的なテロ事件38に世界が気を取られてしまった。その翌週には英訳版が『Scientific American』誌に掲載される予定だった。しかし、それは1年以上も遅れてしまった（実際には、オバマ政権の終わりまで）。
オバマ大統領が退任する前から、中国は世界をリードする超大国の役割を奪おうとしていたようだ。2016年9月に杭州で開催されたG20サミットでは、オバマはいつものレッドカーペットの扱いを拒否された39。こうなる前の2016年4月30日、オバマは世界に警告していた40。
「…これは世界中で、自由民主主義の基本的な理想のいくつかが攻撃されている時期でもあり、客観性や報道の自由、事実、証拠といった概念が損なわれようとしている。場合によっては、完全に無視されることもある。このような状況では、人々にメガホンを与えるだけでは十分ではない。だからこそ、事実を調べ、疑問を投げかけ、歪曲や真実でないものに対抗するあなたの力と責任が、これまで以上に重要になるのである」。
これは、来るべきポスト真実の時代を示唆している41。2016年9月末にインターネットの管理権がICANNに委譲された後、この時代が到来したようである42。これにより、（私たち全員の監視データを利用した）高度にパーソナライズされたインターネットへの道が開かれたようである。この開発は、（反）プロパガンダを可能にする2つの法律によって補完された43。私は、それ以来、私たちは一種の情報戦争44に巻き込まれていると考えている。ケンブリッジ・アナリティカのスキャンダル45を見ても、このような動きが世界中の民主主義にどれほどの影響を与えているかがわかる。
世界がCOVID-19に見舞われ始めてから、この地球の未来をかけた戦いがさらに激化していることは、皆さんもご存じのとおりである46。次に何が起こるのか、何が代替手段なのかを理解したいのであれば、そろそろこの本を読んでみてはいかがだろうか。
2020年8月47日
スイス、チューリッヒ
目次
- 1 はじめに：デジタル社会
- 1.1 “ビッグデータ “の時代に生きる
- 1.2 最大規模の図書館よりも大きいデータセット
- 1.3 デジタル革命は私たちの問題を解決するか？
- 1.4 21世紀の石油をめぐるビッグデータのゴールドラッシュ
- 1.5 人工知能に追い越されるのか？
- 1.6 ビッグデータが私たちの生活を支配し始めるとき
- 1.7 電脳化社会
- 1.8 ビッグデータを利用した賢い王様と慈悲深い独裁者
- 1.9 私たちは個人の自由を犠牲にする必要があるのか？
- 1.10 誰が世界を支配するのか？
- 1.11 2つのシナリオ：強制か自由か
- 1.12 私たちの前にある、より良い未来
- 1.13 スマートなデジタル社会に向けて
- 参考文献
- 2 複雑性の時限爆弾
- 2.1 ファントム・トラフィック・ジャム
- 2.2 不況は世界経済の交通渋滞？
- 2.3 システムの不安定性
- 2.4 強く結合したシステムには要注意
- 2.5 複雑なネットワークにおけるカスケード効果
- 2.6 大規模停電
- 2.7 カスケード型倒産から金融危機へ
- 2.8 世界経済危機の結果
- 2.9 根本的な不確実性（ラジカル）について
- 2.10 爆発的な伝染病
- 2.11 システムの相互依存
- 2.12 人類は「複雑性の時限爆弾」を作ってしまったのか？
- 2.13 意図しない戦争と革命
- 2.14 革命的なシステムの変化
- 2.15 おわりに
- 2.16 付録1：無害な行動が危機的状況になるまで
- 2.17 付録2：階層型システムにおける同期性の喪失
- 参考文献
- 3 社会の力
- 3.1 世界2.0の測定
- 3.2 インフルエンザとその他の病気の監視
- 3.3 グーグルよりも優れたインフルエンザの予測
- 3.4 市民ウェブで惑星の神経系を作る
- 3.5 社会物理学：私たちの社会を支配する隠れた力を明らかにする
- 3.6 歩行者同士の社会的な力
- 3.7 歩行者対向流における一方向車線の自己組織化
- 3.8 人の壁を立ち止まらずに通り抜ける
- 3.9 力の測定
- 3.10 ほとんどの歩行者施設は非効率的である
- 3.11 群衆災害
- 3.12 群衆災害への対策
- 3.13 意見形成やその他の行動を記述する力
- 3.14 文化：鋼鉄よりも粘り強い
- 3.15 争いを減らす
- 3.16 エルサレムから学べること
- 3.17 罰は必ずしも有効ではない
- 3.18 「ソーシャル・キャピタル」が非常に重要である理由
- 3.19 信頼と権力
- 3.20 付録1 ナーバスネット：分散型デジタル神経システム
- 3.21 付録2：ソーシャルフィールドとソーシャルフォース
- 参考文献
- 4 神としてのグーグル？
- 4.1 「賢明な王」に力を与えるテクノロジー？
- 4.2 デジタルの「水晶玉」？
- 4.3 デジタルの「魔法の杖」：人間のためのリモートコントロール？
- 4.4 情報を基にした新しい世界秩序？
- 4.5 「ナッジング」：私たちの判断を国家が代行する時代へ
- 4.6 グーグルは神か？
- 4.7 エラー、第一種、第二種：良いことをするのは簡単ではない
- 4.8 「水晶玉」の限界
- 4.9 “魔法の杖 “の限界
- 4.10 複雑さこそが最大の課題である
- 4.11 付録1：民主主義と自由-時代遅れの概念？
- 4.12 付録2：水晶玉を作ることの限界
- 4.12.1 ラプラスの悪魔と計測問題
- 4.12.2 パラメータの感度
- 4.12.3 不安定性、乱流、カオス：世界中のデータが役に立たない場合
- 4.12.4 曖昧さ
- 4.12.5 情報過多
- 4.12.6 ヘディング
- 4.12.7 ランダム性とイノベーション
- 4.13 付録3：新しいテクノロジーは世界を予測可能にするか？
- 参考文献
- 5 ボトルから出てきた精霊
- 5.1 中国モデル
- 5.2 企業のコントロールは世界を修正できるか？
- 5.3 デジタル革命の到来
- 5.4 コンピュータは人間よりも賢いのか？
- 5.5 人工的な超知性や超人はいつ現れるのか？
- 5.6 すべてが変化する
- 5.7 第三次経済革命
- 5.8 繁栄とリーダーシップの新しい論理
- 5.9 レジリエントな社会の実現
- 5.10 新しいアプローチの時期
- 5.11 付録1：大量のデータ収集がもたらす副作用
- 5.11.1 犯罪
- 5.11.2 軍事的リスク
- 5.11.3 経済的リスク
- 5.11.4 社会・社会的リスク
- 5.11.5 政治的リスク
- 5.12 付録2：それでもプライバシーが必要とされる理由
- 参考文献
- 6 惑星規模の脅威とは
- 6.1 ビッグデータ
- 6.2 監視資本主義
- 6.3 デジタル水晶玉
- 6.4 プロファイリングとデジタルダブル
- 6.5 世界のシミュレーション（と「慈悲深い独裁者」)
- 6.6 アテンション・エコノミー
- 6.7 同調と気晴らし
- 6.8 検閲とプロパガンダ
- 6.9 ターゲティングと行動の操り方
- 6.10 市民スコアと行動制御
- 6.11 デジタルポリシング
- 6.12 キャッシュレス社会
- 6.13 心の読み取りとコントロール
- 6.14 ニューロキャピタリズム
- 6.15 ヒューマン・マシン・コンバージェンス
- 6.16 アルゴリズムに基づく死と殺戮
- 6.17 技術的全体主義とデジタルファシズム
- 6.18 シンギュラリティとデジタルゴッド
- 6.19 終末論的なAI
- 参考文献
- 7 デジタルによる自己組織化の支援
- 7.1 “魔法のような “自己組織化
- 7.2 トラフィックの物理学
- 7.3 トラフィックが最もよく流れるとき、容量低下が起こる
- 7.4 トラフィック・ジャムの回避
- 7.5 トラフィックの流れを助ける
- 7.6 有利な集団的効果を生み出す
- 7.7 集合知を持つ自動車
- 7.8 自己組織化された信号機
- 7.9 中央集権的な制御を凌駕する方法
- 7.10 パイロット・スタディ
- 7.11 学んだこと
- 7.12 インダストリー4.0：スマートで自己組織化された生産に向けて
- 7.13 “見えない手 “を働かせる
- 7.14 社会システムを支援する情報技術
- 7.15 付録1：Faster-Is-Slower効果
- 7.16 付録2：フェアネスへの挑戦
- 参考文献
- 8 社会のしくみ
- 8.1 協力への挑戦
- 8.2 みんなが欲しくても損をする場合
- 8.3 家族の関係
- 8.4 将来の “復讐 “に怯える
- 8.5 コストのかかる罰
- 8.6 道徳的行動の誕生
- 8.7 犯罪の抑制
- 8.8 集団の選択
- 8.9 成功者による移住の意外な役割
- 8.10 共通プール資源管理
- 8.11 グローバリゼーションはなぜ、どのように協力と社会秩序を損なうのか
- 8.12 「強制の時代」か「評判の時代」か？
- 8.13 コストのかかる信頼のおけるシグナル
- 8.14 評判の上に成り立つもの
- 8.15 多元的な社会的フィルタリングによる健全な情報生態系の構築
- 8.16 実力主義のマッチング：お金を払った人がより多くを得る
- 8.17 ソーシャルテクノロジー
- 8.18 デジタルアシスタント
- 8.19 付録1：より良い方向への流れを作るために
- 8.20 付録2：自己組織化に基づく分散型セキュリティに向けて
- 8.20.1 コミュニティベースのモデレーション
- 参考文献
- 9 ネットワーク化されたマインド
- 9.1 意思決定のモデル化：私たちの行動の隠れた原動力
- 9.2 セックス、ドラッグ、ロックンロール
- 9.3 情報への渇望
- 9.4 学んだこと
- 9.5 突然、「不合理な行動」が理解できるようになった
- 9.6 それぞれの欲求を満たす数十億ドルの産業
- 9.7 社交的であることは、やりがいでもある
- 9.8 “ネットワーク・マインド “の進化
- 9.9 間違いを犯すことも大切
- 9.10 「ネットワーク化された心」には “新しい経済的思考 “が必要だ
- 9.11 Netflixの挑戦
- 9.12 ベストではなく、ダイバーシティが勝つ
- 9.13 これからの意思決定の仕組み
- 9.14 いかにして集合知を生み出すか
- 9.15 IBMのワトソンから学べること
- 9.16 集団的知性と超知性の比較
- 9.17 まだまだ続く、新しい報酬、バーチャルワールド
- 9.18 付録1 人は本当はどれくらい利己的なのか？
- 9.18.1 アルティメイタムゲームと独裁者ゲーム
- 9.19 付録2：社会主義ではなく、よりスマートなインタラクションの方法
- 参考文献
- 10 エコノミー4.0
- 10.1 私たちはすべてを再発明することができる、しなければならない
- 10.2 個人化された教育
- 10.3 ビッグデータを活用した科学と健康
- 10.4 銀行と金融
- 10.5 ビッグデータの影響で、民主主義の柱が揺らいでいる
- 10.6 インダストリー4.0
- 10.7 生産、輸送、マーケティングの新たな可能性
- 10.8 私たちはどこに向かっているのか？ 新しい仕事の形
- 10.9 誰もがアントレプレナーになれる
- 10.10 プロシューマー、つまり共産主義の消費者
- 10.11 トップダウン型の組織とボトムアップ型の組織
- 10.12 多種多様なリソースを迅速に組み合わせる
- 10.13 よりレジリエントな社会を目指して
- 10.14 新しいタイプの経済の誕生
- 10.15 参加型市場社会の実現に向けて
- 10.16 集合知を支える
- 10.17 未来に向けての準備
- 10.18 付録1：イノベーションの再発明
- 10.18.1 マイクロペイメントがあればもっといい
- 10.19 付録2：多次元的な価値交換
- 10.19.1 私たちは皆、うまくやっているかもしれない
- 参考文献
- 11 自己組織化する社会
- 11.1 サイバネティック・ソサエティとシナジェティック・ソサエティ：トップダウン・コントロールが失敗する理由
- 11.2 全知全能は存在しない- それは幻想、専制主義である
- 11.3 新しいアプローチの時
- 11.4 “見えざる手 “を働かせる方法
- 11.5 自己組織化の秘密
- 11.6 目に見えない成功原則の集合体としての文化
- 11.7 宇宙の成功原則としてのローカリティ
- 11.8 変革の担い手としての都市
- 11.9 世界を良くする都市のオリンピック
- 11.10 ちょっと考えてみた：国家ではなく地域？
- 11.11 私たちの未来をどのように管理するか：早急な行動のためのいくつかの提案
- 11.12 さあ、始めよう
- 11.13 付録1：デジタル革命は私たちをどこへ連れて行くのか？
- 11.14 付録2：未来のガバナンス：妥協ではなく選択肢を
- 参考文献
- 12 デジタル・デモクラシー（デモクラシー2.0、3.0、4.0）について
- 12.1 「慈悲深い独裁者」は死んだ
- 12.2 デジタル・デモクラシーの概念
- 12.3 参加型レジリエンス
- 12.4 スマートシティを超えて
- 12.5 “シティ・オリンピック”
- 12.6 オープン・エブリシング、メイキング、シチズン・サイエンス
- 12.7 オープンソース・アーバニズム
- 参考文献
- 13 民主的資本主義
- 13.1 失敗した金融システム
- 13.2 民主的資本主義
- 13.3 よりよい税制度
- 13.4 ユニバーサル・ベーシック・インカム
- 13.5 すべての人のための参加型予算編成からクラウドファンディングへ
- 13.6 新しい通貨システム
- 13.7 参加型ステアリングボード
- 13.8 社会生態学的金融システム
- 参考文献
- 14 まとめ：AIの何が問題なのか？
- 14.1 台頭するAI
- 14.1.1 神としてのAI？
- 14.1.2 シンギュラリティ
- 14.1.3 トランスヒューマニズム
- 14.1.4 AIは本当に賢いのか？
- 14.1.5 意識とは何か？
- 14.2 AIは信頼できるのか？
- 14.2.1 ビッグデータ分析
- 14.2.2 相関関係と因果関係の比較
- 14.2.3 信頼できるAI
- 14.2.4 プロファイリング、ターゲティング、そしてデジタルツインズ
- 14.2.5 データ保護？
- 14.2.6 スコアリング、市民スコア、スーパースコア
- 14.2.7 自動化と自由の対立
- 14.2.8 死ぬことを学ぶ？
- 14.2.9 上からの革命？
- 14.3 価値観のためのデザイン
- 14.3.1 人間の権利
- 14.3.2 幸福と資本主義の比較
- 14.3.3 人間の尊厳
- 14.3.4 情報的自己決定（Informational Self-determination
- 14.3.5 価値観のためのデザイン
- 14.3.6 デザインによる民主主義
- 14.3.7 フェアネス
- 14.3.8 繁栄、平和、持続可能性のためのネットワーク効果
- 14.4 付録1：私たちの未来のための成功原則
- 参考文献
- 14.1 台頭するAI
- エピローグ
- 参考文献
- 著者について
- 参考文献
- 脚注
1. はじめに デジタル社会
より良い未来か、それとも悪い未来か？
ディルク・ヘルビング1
スマートフォン、タブレット、そして無限の可能性を秘めたアプリストアは、デジタル革命の象徴となっている。しかし、これらの技術革新は、私たちの生活をより快適で興味深いものにする一方で、より根本的な変革を告げるものでもある。デジタル技術の進歩は、私たちが学び、判断し、交流する方法に影響を与えている。ビッグデータ」、「モノのインターネット」、「人工知能（AI）」を活用することで、スマートホームやスマートシティを実現することができる。しかし、これは氷山の一角に過ぎず、私たちの経済や社会全体も劇的に変化するだろう。これに関連する機会とリスクは何だろうか？私たちはデジタル・スレイブ（奴隷）に向かっているのか、それともフリーダム（自由）に向かっているのか？どのような力が働き、それを利用してよりスマートな社会をつくることができるのか。本書は、これから始まる新しいデジタル時代を案内するものである。
工場の自動化、自動運転車の誕生の次は、社会の自動化が進んでいる。私たちがスマートフォンに夢中になっている間に、世界は私たちの背後で密かに変化しているのである。実際、私たちの世界は加速度的に変化しており、その変化の多くはICT（Information and Communications Technology）の発展によってもたらされている。ノートパソコン、携帯電話、タブレット、スマートウォッチなどのテクノロジーは、利便性を追求したものであった。これらの技術が登場したことで、私たちはこれまで以上に迅速かつ効率的に計算、通信、記録を行うことができるようになった。しかし、いつの日か、これらのテクノロジーが私たちの文化的な言説や制度を容易にするだけでなく、私たちの世界全体を再構築することになるという認識はほとんどなかった。大規模な集団監視、Uberタクシーの世界的な普及、暗号通貨BitCoinなどは、来るべきデジタル時代の刺激的な症状のほんの一部にすぎない。
1.1 “ビッグデータ “の時代に生きる
突然であるが、”ビッグデータ “についても大々的に宣伝されている。Dan Arielyが、ビッグデータに関する熱狂を10代のセックスに例えたのも不思議ではない。
「誰もが口にするが、誰もその方法を知らない、誰もが他の人がやっていると思っている、だから誰もが自分がやっていると主張する…」。
しかし、実際にやっている人もいる。実際、”ビッグデータ “は、リアルタイムの言語翻訳など、すでに多くの興味深いアプリケーションを生み出している。では、「ビッグデータ」とは何だろうか？技術的、社会的、経済的、環境的なシステムや活動について収集された膨大な量のデータのことを指す。ビッグデータとは、私たちのほとんどの行動が残しているデジタルの痕跡を想像してみてほしい。私たちは1分間に約70万件のGoogle検索を行い、50万件のFacebookコメントを投稿している。さらに、スマートフォンを使っている人の位置情報、物を買った人の消費データ、ネット上のすべてのクリックやタップを追跡するクッキーなどを加えると、「ビッグデータ」の巨大さが理解できるだろう。
2003年までの人類の歴史の中で収集されたすべてのコンテンツは50億ギガバイトと推定され、2015年頃には約1日に1回生成されていたデータ量になる。前世紀半ばから「情報化時代」と言われてきたが、デジタル時代が始まったのは2002年である。それ以来、デジタルストレージの容量はアナログのそれを上回っている。今日では、すべてのデータの95％以上がデジタル形式で利用可能である。クレジットカード取引、ソーシャルメディア、デジタル技術を避けても、インターネット上のデジタルフットプリントを完全に避けることはできなくなっている。
1.2 最大規模の図書館よりも大きなデータセット
私たちの生活、組織、文化のほぼすべての側面に関するビッグデータが入手可能になったことで、世界の問題を解決できるのではないかという期待が高まっている。私たちがインターネットで買い物をするたびに、私たちの好みや金銭感覚、位置情報などのデータが生成され、どこかのサーバーに保存され、さまざまな目的で使用される。携帯電話は私たちがどこにいるのかを開示し、プライベートなメッセージや会話は分析されている。すべての新生児が出生時にゲノム配列を決定される日もそう遠くはないだろう。書籍はデジタル化され、膨大な検索可能な単語のデータベースに照合され、データマイニングされて、歴史、社会、芸術、文化的傾向をレンズの下に置く分野である「キュルチュロミクス」を可能にしている。集約されたデータは、デジタル時代以前には考えられなかったような方法で、思いがけない事実を明らかにすることができる。例えば、Googleの検索結果を分析すると、インフルエンザの流行が迫っていることがわかる。
このようなデータの雪崩現象は、今も続いている。「Google Glass」のようなテクノロジーの登場により、人々は生活のほぼすべての側面を記録し、アーカイブするようになった。さらに、クレジットカードの取引、通信データ、Google Earthの画像、一般のニュース、コメント、ブログなどのデータも含まれている。これらのデータは「ビッグデータ」と呼ばれ、私たちの物理的・社会的な世界、そして世界経済の正確なデジタル画像をますます作り出している。
ビッグデータは私たちの世界を確実に変えていく。この言葉は15年以上前に作られたもので、標準的な計算方法では分析できないほど巨大なデータセットを意味している。ビッグデータの恩恵を受けようとするならば、データを “掘り下げ”、有用な情報や知識に “磨き上げる “ことを学ばなければならない。これは大きな課題である。
データ量が飛躍的に増加した背景には、4つの重要な技術革新がある。第一に、インターネットが電子機器間のグローバルなコミュニケーションを可能にしたこと。第2に、WWW（World Wide Web）は、HTTP（Hypertext Transfer Protocol）の発明によって生まれた、世界中からアクセス可能なウェブサイトのネットワークを構築した。第3に、Facebook、Google+、WhatsApp、Twitterなどのソーシャルメディアが登場し、社会的なコミュニケーションネットワークが形成された。最後に、テレビ、冷蔵庫、コーヒーメーカー、カメラ、さらにはセンサー、スマートウェアラブルデバイス（アクティビティトラッカーなど）や機械など、これまでオフラインで使用されていたさまざまな機器がインターネットに接続されるようになり、「モノのインターネット」（IoT）または「すべてのもののインターネット」（IoE）が誕生した。一方で、eBayやWalmart、Facebookなどの企業が収集するデータセットは、ペタバイト-1,000,000,000バイトの単位で計測する必要がある。これは、世界最大の物理的図書館である米国議会図書館に保管されている情報の100倍以上に相当する。
ビッグデータをマイニングすることで、プロセスの最適化、相互依存性の特定、十分な情報に基づいた意思決定を行うための新たな方法を生み出す可能性がある。しかし、ビッグデータは、少なくとも4つの主要な新しい課題（「4つのV」）を生み出す。第一に、前例のない大量のデータを処理するためには、膨大な処理能力とストレージ容量が必要になる。第二に、データを処理する速度が速くなっている。今では、連続したデータストリームをリアルタイムで分析しなければならないことが多くなっている。第3に、ビッグデータはほとんどが非構造化であり、その結果として生じる多様なデータを整理し、分析することが困難になっている。最後に、ビッグデータにはエラーが含まれることが多く、代表性や完全性に欠けるため、データの真実性を扱うことが難しい場合がある。
1.3 デジタル革命は私たちの問題を解決するか？
それでは、今日の豊富なデータを基にしたエビデンスベースのアプローチがどのような効果をもたらすのか見てみよう。かつては、何か問題を解決しなければならないときには、「専門家に聞く」のが最善の方法であった。専門家は図書館に行って最新の知識を集め、既存の知識のギャップを埋めるために博士課程の学生を指導していた。しかし、これには時間がかかる。今日では、人々は何か疑問があると、例えばGoogleに尋ねたり、Wikipediaを参照したりする。必ずしも決定的な、あるいは最良の答えが得られるわけではないが、迅速な回答が得られる。このようにして決定されたことは、平均して、過去に行われた多くの決定よりも優れているかもしれない。このように、すぐに答えが得られるビッグデータを政策立案者が好むのは不思議ではない。膨大な商機を感じ取ったビジネスマンも興奮している。
1.4 21世紀の石油をめぐるビッグデータのゴールドラッシュ
私たちの世界に関する情報が以前に比べて格段に多くなったことは、祝福であると同時に呪いでもある。社会経済的なデータの蓄積は、しばしば個人のプライバシーへの長期的な侵害を意味し、多くの重要な問題を提起する。しかし、ビッグデータが証拠に基づく意思決定を支える強力なリソースであり、ビジネス、政治、科学、市民にとってかつてない可能性を秘めていることは否定できない。最近では、ソーシャルメディアのポータルであるWhatsAppが、4億5千万人のユーザーを抱えていた頃、190億ドルでFacebookに売却された。この売却価格は、従業員一人あたりが5億円近い株式価値を生み出したことを意味する。
ビッグデータは、プロセスの最適化やマーケティングへの応用だけでなく、情報そのものがマネタイズされることで、非常に大きなチャンスを生み出すことは間違いない。仮想通貨BitCoinに代表されるように、ビットを貨幣価値に変えることも可能になっている。文字通り、「データを採掘してお金にする」という、これまではおとぎ話のようなことが可能になったのである。一時期、ビットコインは金よりも価値があると言われてた。
そのため、多くの専門家や技術の第一人者が、ビッグデータは「21世紀の石油」であり、お金を稼ぐための新しい方法、つまりビッグマネーであると主張しているのも不思議ではない。多くのビッグデータは専有されているが、コンサルタント会社のマッキンゼーは最近、オープンデータの潜在的な価値だけでも年間3〜5兆ドルに上ると見積もっている1。このように一般に公開されている情報の価値が世界の人口に均等に分配されるとしたら、地球上のすべての人が年間700ドルを追加で受け取ることになる。したがって、オープンデータの可能性は、現在秘密裏に交渉が行われている国際的な自由貿易協定やサービス協定の価値を大幅に上回っている2。このような数字を考えると、私たちは現在、正しい政治的・経済的優先順位を設定しているのだろうか？これは、私たちの未来を左右する問題なので、注意を払わなければならない。
ビッグデータの可能性は、人間の言語処理や金融資産の管理から、都市におけるエネルギー消費と生産のバランスまで、社会活動のあらゆる分野に及んでいる。また、環境保護の強化、リスクの検知と低減、見過ごされていた機会の発見なども可能になると期待されている。個別化医療の分野では、薬の効果を高めたり、副作用を減らしたりするために、患者に合わせて薬を調整することが可能になるだろう。また、新薬の研究開発を加速させ、必要な分野に資源を集中させることができるようになるだろう。
このように、ビッグデータの潜在的な用途は多岐にわたり、急速に広がっている。サービスや製品のパーソナライズ、生産・流通プロセスの最適化、スマートシティなどが可能になる一方で、私たちの活動の意外なつながりも明らかになるだろう。しかし、その先、私たちはどこへ向かおうとしているのだろうか？
1.5 人工知能は私たちを追い越すのか？
現在、平均的な携帯電話は、アポロロケットを月に送るために使われたコンピュータや、30年前に数トンの重さとビルの大きさを持っていたスーパーコンピュータ「Cray-2」よりも高性能である。この驚くべき進歩は、コンピュータの処理能力が指数関数的に増加するという「ムーアの法則」の結果である。しかし、「機械学習」という強力な手法により、情報システムもよりインテリジェントになっている。私たちよりも速く計算し、私たちよりもうまくチェスをし、私たちよりも長く情報を記憶し、これまで人間にしかできなかった仕事をどんどんこなしていく。彼らが人間よりも賢くなる日も近い？人間が「創造の冠」であった時代は数えるほどしかないのだろうか。有名な未来学者であるレイ・カーツワイル（※1948年生まれ、現在はグーグルのエンジニアリング・ディレクター）は、この重大な瞬間（いわゆる「シンギュラリティ」）が近いことを最初に主張した3。
数年前、人工知能（AI）が人類に深刻な脅威をもたらすかもしれないという記事を読んだとき、私はそれが想像しがたく、荒唐無稽にさえ思えた。しかし現在、専門家たちは、コンピュータが5〜10年後にはほとんどの作業を人間よりもうまくこなせるようになり、10〜25年後には脳のような機能に到達すると予測している。現在のAIシステムは、もはやコンピュータ科学者がプログラムしたエキスパートシステムではなく、学習し進化しているのである。この意味を理解するには、ディープラーニングと人工知能に関する目を見張るようなビデオをご覧になることをお勧めする4。これらのビデオは、今日、私たちがお金を稼ぐために行っている活動のほとんど（言語を読んだり聞いたり、さまざまなパターンを見分けたり、ルーティンをこなしたり）が、現在では人間と同じくらい、あるいはそれ以上にコンピュータでできることを示している。IBMのコグニティブ・コンピューティング製品に対するジム・スポーラーの見解は以下の通りである。5 最初の人工知能アプリケーションは、私たちのツールになるだろう。人工知能が賢くなれば、私たちの “パートナー “となり、私たちを追い越すようになれば、”コーチ “となるだろう。
今から数十年後、アルゴリズムやコンピューター、ロボットが私たちの上司になるのだろうか？マサチューセッツ工科大学では、このようなシナリオの研究を始めている6。したがって、デジタル革命は、単により強力なコンピューターや優れたスマートフォン、ファンシーなガジェットだけではないことを認識することが極めて重要だ。デジタル革命は、私たちの個人的な生活のすべてを変え、経済や社会全体を変革するものである。実際、今後20～30年の間に、私たちはいくつかの劇的な変化を目の当たりにすることになるだろう。多くの生産やサービスが自動化され、将来の働き方が根本的に変わるだろう。
今後20年ほどの間に、農業、工業、サービス業など、訓練を受けた仕事に就いている人の割合が50％以下になると言われており7、高度な技術を要する仕事でさえも危険にさらされるだろう。私たち一人一人について集められた大量の個人データは、その後どのように利用されるのだろうか。
1.6 ビッグデータが私たちの生活を左右するようになったら
突拍子もないと思われるかもしれないが、私たちはこう問いかけなければならない。「私たちはパーソナライズされた情報によって遠隔操作されるようになるのか、それともすでにそうなっているのか。GoogleやFacebookは、私たちが何に興味を持っているかをよく知っていて、私たちの興味や嗜好に合わせて個別に広告を出していることは明らかである。Google Nowは、サインアップした人に何をすべきかを教えてくれるスマートアプリの一例である。例えば、次の約束の場所に向かう途中で渋滞が発生した場合、Google Nowは時間に間に合うように15分前に出発するように提案する。同様に、Amazonは私たちが買いたいものを提案し、Trip Advisorは訪れるべき目的地や予約すべきホテルを提案する。Twitterでは、他の人が何を考えているか、そしておそらく自分も何を考えるべきかを教えてくれる。Facebookは、誰と友達になるべきかを提案してくれる。OkCupidのようなアプリは、誰と付き合うべきかを提案してくれる。
このようなサービスは確かに便利であるが、その結果どうなるのかと疑問に思うことがある。私たちは、デジタルの「黄金の檻」（Eli Pariserが言うところの「フィルターバブル」）の中で生活することになるのだろうか8？最新の学習ソフトウェアは、私たちが間違いを犯したときに修正してくれる。スマートリストバンドは、今日あと何歩歩けばいいかを教えてくれる。アイトラッカーは私たちが疲れているか、ストレスを感じているかを検知し、コンピュータは私たちのパフォーマンスが低下する時期を予測する。言い換えれば、私たちはますますコンピュータープログラムに見守られながら意思決定をしているのである。このままでは、私たちは一人で生きていくことができなくなってしまうのではないか？そして、私たちは発言権のない「乳母国家」へと移行していくのだろうか。私たちの意思決定や民主主義は「ハッキング」されているのだろうか？
なぜ私たちが気にする必要があるのだろうか？コンピュータが自分で計算するよりも早く計算してくれるのは素晴らしいことではなかろうか。スマートフォンが私たちの議題を管理するのに役立ち、Googleマップが私たちに行くべき道を教えてくれるのは素晴らしいことではないか？AppleのSiriにレストランを紹介してもらうのもいいかもしれない。もちろん、これらの機能に異論はないが、これはこれからの始まりであることを認識しておく必要がある。私たちは、自分の意思を決定する役割を少しずつ奪われている。次に来るのは、社会の自動化である。それはどのようなものだろうか。
1.7 サイバネティック・ソサエティ
この問いは、制御理論（サイバネティックス）の父として知られるノーバート・ウィーナー（1894-1964）9の古い概念にまで遡る。ウィーナーは、私たちの社会が巨大な時計仕掛けのようにコントロールされ、すべての企業や個人の活動が、社会を最適な方法で運営するための巨大な計画によって調整されることを想像した。
何十年も前に、ロシアをはじめとする共産主義国は指令経済を行ってた。しかし、自由な起業家精神に基づいた資本主義的なアプローチが成功したのに対し、競争力はなかった。当時の情報システムは、現在よりもはるかに限られた力と範囲しか持っていなかった。これが変わったのである。今では、共産主義と資本主義以外の第3のアプローチとして、データ主導で管理される社会経済システムがある。70年代初頭、チリは「サイバネティック・ソサエティ」を最初に試みた国であった10 。主要企業の最新の生産データを毎週収集するコントロールセンターを設立した。これはまさに革命的なアプローチであったが、明らかな利点があったにもかかわらず、政府は政権を維持することができず、サルバドール・アジェンデ（1908〜1973）という大統領は悲劇的な最期を遂げた11。
現在、シンガポールも中国も、多くのデータを用いてトップダウン的に社会・経済活動を計画しようとしており、欧米の民主主義国家よりも大きな成長率を享受している。そのため、多くの経済学者や政治家が「民主主義はもう古いのではないか」と問題提起している。民主主義は時代遅れなのか？壮大な計画に基づいてサイバーな方法で社会を運営すべきなのか？ビッグデータは私たちの未来を最適化してくれるのだろうか？
1.8 ビッグデータを活用した賢い王様と慈悲深い独裁者
データが蓄積されている現在、政府や大企業が「神のような」、ほとんど「全知全能の」情報システムを構築しようとすることは考えられるだろうか。「慈悲深い独裁者」や「賢明な王様」のような意思決定ができるのだろうか。調整の失敗や非合理性を回避することができるだろうか？一部の人々が提案しているように、すべてのデータをグローバルに収集し、未来を予測するデジタルの「水晶玉」を構築することで、最高の世界を創造することさえ可能になるのだろうか？もしこれが可能であれば、そして「知識は力」であることを考えれば、ある種のデジタルな「魔法の杖」を政府や企業が作り、慈悲深い独裁者のマスタープランを確実に軌道に乗せることができるのではないだろうか。
そのような強力なツールを作るには何が必要なのだろうか？それには、私たちのことをよく知っている情報システムが必要であり、適切にパーソナライズされた情報を私たちに与えることで、私たちの意思決定を操作することができるだろう。この本で紹介するように、そのようなシステムは実際に登場しているし、すでに存在している。
1.9 個人の自由を犠牲にする必要があるのか？
サイバネティックな社会の実現には、いくつかの重要な意味がある。たとえば、大量の個人データが必要になる。社会全体をコントロールするためには、人間が何を考え、何を感じ、何をしようとしているのかを理解することが重要だと考えられる。人工知能を搭載した機械が、人間の行動を決定する要因を知り、それに影響を与えるためには、大量の個人データが不可欠である。実際、大量の監視システムは、テロリズム12や児童虐待13の撲滅には驚くほど効果がないが、電脳社会の構築には非常に有効であると思われる。
しかし、どんなテクノロジーにも言えることであるが、重大な欠点がある。啓蒙時代以来、民主主義国家やその司法制度の基盤を形成してきた最も重要な権利や価値観のいくつかを失うことになるだろう。秘密やプライバシーは情報技術によって侵食され、それに伴い、安全性や、慈悲や許しといった人間の価値観も失われるだろう。予測的な取り締まりやその他の積極的な執行手段の出現により、「推定無罪」の原則から逸脱し、個人の権利を犠牲にして不吉な「公益」政策を実施することになるかもしれない。ビッグデータ先進国が、ロシアや中国を含む他のどの国よりも人口千人当たりの受刑者数が多いという事実を、私たちは心配する必要があるのだろうか14。
大量の監視システムの助けを借りれば、過剰に規制された社会の中で誰もが犯す小さなミスでさえも罰することが可能になっている15。自分の車で時速1キロのスピードを出しすぎたことで表示されたスピード違反の切符（図1.1参照）は、はるかに大きな規模でやがて可能になることについての警鐘である。公的機関による制裁に加えて、将来的には、保険会社が不健康な食事をすると罰せられるようになるのだろうか？銀行は、私たちが「間違った地域」に住んでいるという理由だけで、懲罰的な金利でローンを組むようになるのだろうか？特定の期待に応えられないと、製品やサービスの提供が制限されたり、より高い価格を支払わなければならなくなったりするのだろうか。ディストピア的なSFファンタジーのように聞こえるかもしれないが、このようなことはすでに多く起こっている。中国では現在、すべての国民の行動を、ネット上での行動も含めて、一次元の尺度で評価しようと計画しているほどである16。共産党の考えに合致した意見には報酬が与えられ、その結果、特定の仕事や融資を受けられるかどうかの判断材料となる。
図1.1社会的には全く無害な行為であっても、ちょっとした法律違反で市民が罰せられる可能性があることを示した図
原文参照
なお、交通局は、私の外国の住所を把握して、実際には私が運転していないのに、私の車で時速1キロのスピードを出しすぎたとして、このような切符を送ってきた（彼らは確認していない）….。
このような監視技術やデータに基づいたアプローチは、国を「完璧な時計仕掛け」に変えることができるのだろうか？そして、すべての国がグローバルな競争にさらされていることを考えると、すべての民主主義国家がこのようなアプローチを採用するのは時間の問題なのだろうか？このような考え方は、私たちが知っているような自由と民主主義をすぐに終わらせてしまう可能性がある18。もちろん、私たちの生活や社会の効率が上がるのであれば、なぜそれをしてはいけないのかという疑問を持つ人もいるだろう。歴史を見れば、社会は時間とともに進化していくものではなかろうか。企業や政府が私たちの面倒を見てくれるのであれば、私たちが心配する必要はないだろう。
重要なのは、企業や政府が私たちのニーズや利益を満たすために良い仕事をしているかどうかということである。しかし、金融・経済危機、サイバー犯罪、気候変動、その他多くの問題を考えると、政府がこの約束を果たすことは非常に難しいように思われる。同様に、シリコンバレーをビジネス主導の社会像と考えるならば、そこにいるすべての人が十分に配慮されていると主張することもまた、突飛なことのように思える。
1.10 誰が世界を支配するのか？
ビッグデータが全体主義的になる可能性を秘めていることは間違いない。しかし、原理的には、ビッグデータも人工知能もサイバネティクスも何の問題もない。問題は、それをどう使うかということだけである。例えば、これからの世界を支配するのは、大企業なのか、政府のエリートなのか、それとも人工知能なのか。市民や専門家は、もはや意思決定プロセスには関係ないのだろうか？強力な情報システムが世界と私たち一人一人を知っているとしたら、彼らは私たちに代わって投票したり、決定を下したりするのだろうか。パーソナライズされた情報によって、私たちに何をすべきかを教えたり、私たちの行動を誘導したりするのだろうか。それとも、パーソナル・デジタル・アシスタントの力を借りて、誰もが自律的に、しかし協調して意思決定を行う、自由で民主的な社会になるのだろうか。
1.11 2つのシナリオ 強制か自由か
世界をより効率的に統治するためには、私たちのプライバシー、自由、尊厳、情報的自己決定を犠牲にする必要があるのだろうか。私たちは今、この可能性について考えなければならない。2001年9月11日以降、私たちは、オンライン活動の大規模な監視を含め、市民の活動をコントロールしようとする試みが増えていることを確かに目の当たりにしてきた。デジタル革命は、私たちの人権を失うことを意味するのだろうか？私たちは自律性を失い、強力な情報システムの指示に従うだけになるのだろうか。私たちは検閲を受けることになるのだろうか？
デジタル革命は、大きなチャンスとリスクを意味している。デジタル技術は、未来の経済や社会を動かすさまざまな方法を可能にする。雇用、個人の自由、民主主義を失いたくないのであれば、デジタル技術を敵対するのではなく、私たちのために働かせる方法を慎重に検討しなければならない。社会の自動化には、少なくとも2つの可能性がある。強力な情報技術を使って、市民の意思決定や行動をコントロールしようとするトップダウンの方法で社会を運営するか、代わりに、分散制御に基づくボトムアップの自己組織化を支援するかである。後者の方が、個人の自由、創造性、革新性と相性が良いだろう（図1.2参照）。しかし、デジタル革命はその両方を可能にする。これから説明するように、ほぼ自律的な意思決定やプロセス、そしてそれらの調整を支援するためには、
- 参加の機会を作る。
- 情報的な自己制御をサポートする。
- 分散されたデザインとコントロールの要素を増やす。
- 信頼のために透明性を高める。
- 情報の偏りやノイズを減らす。
- ユーザーが制御できる情報フィルターを可能にする。
- 社会経済的な多様性をサポートする。
- 相互運用性と革新性を高める。
- 調整ツールの構築
- デジタルアシスタントの構築
- 集合的な（「群れ」）インテリジェンスのサポート
- 外部効果（「外部性」）を測定し、考慮する。
- 良好なフィードバックループの実現
- 公正で多次元的な価値交換をサポートする。
- デジタルリテラシーと意識の向上
図1.2 異なる2つのタイプのデジタル社会につながる2つの進化の道筋を模式的に示している
経路Aは、個人の自由、民主主義、そして私たちの多くの雇用を損なうものである。一方、Bは、自制心と参加型の情報システムに基づいて、すべての人の創造的・革新的な活動を支援する社会である。私たちはどちらを選ぶのだろうか？
この本で私は、より賢く、より強靭なデジタル社会に貢献できるコンセプトやアイデアを提供しようとしている。このようなフレームワークが必要なのは、多くの重要な点において、世界が非常に予測不可能で不安定なものになっているからである。これは、多くの場合、情報通信技術の進歩により、システムの相互依存性が高まっていることが原因である。では、大量のデータ、スピード、接続性を特徴とする世界では、どのようなアプローチが優れているのだろうか。それはトップダウンのガバナンスなのか、それともボトムアップの参加なのか。それとも、両方のアプローチを組み合わせるのがよいのだろうか。これは主に、私たちを取り巻くシステムの複雑さに依存していることがわかるだろう20。
1.12 より良い未来を目指して
多くの課題があるにもかかわらず、私は全体として長期的な未来を楽観視している。人類の歴史上、社会の変遷は何度か経験しており、今回の変遷もきっとうまくいくはずだ。
以下の章では、来るべきデジタル時代に向けて、2つの主要な社会的枠組みを提案することで、必要な公開討論に貢献したいと考えている。ひとつは、「慈悲深い独裁者」や「賢明な王様」のように決断を下す「大きな政府」という概念に基づくものである。この枠組みは、膨大な量のデータによって強化され、デジタルの「水晶玉」のようなものである。これは、トーマス・ホッブズ（1588-1679）の「リヴァイアサン」の未来版と言えるかもしれない。ホッブズは、強力な国家がなければ社会秩序は成り立たず、そうでなければ人間はみな野獣のように振る舞うだろうと考えてた21。
デジタル社会の代替フレームワークは、自己組織化システムの概念に基づいている。これは、アダム・スミス（1723-1790）が提唱した「見えざる手」の概念に関連するものである。彼は、社会の最良の結果は、市場原理に基づく自己組織化によって得られると考えた。しかし、金融危機や、環境汚染や有害な気候変動などの「コモンズの悲劇」22は、「見えざる手」が必ずしも頼りにならないことを示唆している。
しかし、将来の情報通信技術によって、分散型の意思決定と自己組織化によって、望ましいシステムの結果に到達できるようになるとしたらどうだろうか。リアルタイムの計測とフィードバックによって強化された分散型の制御・調整メカニズムは、「見えざる手」を機能させることができるのだろうか？この刺激的なビジョンの実現可能性については、本書の後半の章で、21世紀の成功と社会経済秩序を実現するための新しいパラダイムについて説明する。それは、創造性、参加、集合的知性、そして幸福の新時代へと私たちを導くものだろうか。
実際、交通管理や生産の分野の例を見ると、複雑なシステムをボトムアップで管理し、望ましい結果を効率的に生み出すことが可能であることがわかる。次の章では、このような「魔法の自己組織化」の一般的な原理を説明し、それが複雑な未来を生き抜くためにどのように役立つのかを説明する。さらに、集合的知性の役割と、それがグローバル化した世界の複雑さに対処するのに役立つことを説明する。
したがって、経済、金融システム、世界貿易、交通システムなどの複雑なシステムの自己組織化されたダイナミクスを制御したり、それに対抗しようとするのではなく、その根底にある力を私たちの利益のために利用することを学ぶことができるのである。もちろん、そのためにはシステムを構成する各要素の相互作用を局所的に調整する必要がある。しかし、もしこれが実現できれば、自己組織化を利用して望ましい結果を生み出すことができ、秩序のとれた、効果的で効率的な、弾力性のあるシステムを作ることができるようになる。
自己組織化が複雑な技術システム（交通管制や工業生産ラインなど）で機能することが示されているからといって、必ずしも社会経済システムにも機能するとは限らないという批判があるかもしれない。人間の行動には、驚くべきものがあるからだ。このような反論を踏まえて、複雑な動的システムの管理において、自己組織化が従来のトップダウン制御よりも優れているかどうか、どのような場合に優れているかを探っていく。また、自己組織化システムが優位に立つための制度的な設定や相互作用のルールについても議論する。現在では、リアルタイムデータを利用して適応的なフィードバックメカニズムを可能にし、システムが好ましい安定した動作をするようにすることができる。具体的には、膨大なセンサーのネットワークを持つ「モノのインターネット」が、社会経済の自己組織化を分散的かつボトムアップ的に可能にすることを提案する。しかし、肝心なのは、分散制御に基づくデータ指向のアプローチをどのように機能させるかということである。その解決には、これから述べるように、「複雑性の科学」が必要である。
1.13 スマートなデジタルソサエティへの道のり
長い目で見れば、私は私たちの未来に自信を持っている。主に、デジタル時代のアイデアの力を信じているからである。しかし、その過程で重大な過ちを犯す可能性があることには、常に注意を払っていなければならない。金融システムが破綻するかもしれないし、民主主義国家が意図的にせよ偶然にせよ監視社会に変わるかもしれないし、戦争をしてしまうかもしれない。だからこそ、私はこの本で、私たちの前にあるチャンスとリスクを説明しようとしている。
変化の兆しはいたるところにある。情報技術が世界経済を急速に変化させている。要するに、私たちは「第3次経済革命」23 を経験しているのであり、「Economy 4.0」につながるものである。その影響は、少なくとも第1次（農耕から工業へ）、第2次（工業からサービスへ）の革命と同じくらい深刻なものになるだろう。ソーシャルメディア、スマートデバイス、モノのインターネット、人工知能などのデジタル技術の普及は、デジタル社会を生み出している。私たちは、このような社会の激変を傍観している余裕はもはやない。私たちはそれに備えなければならない。しかし、この変化を単に社会や世界の安定に対する脅威と考えるべきではない。それどころか、私たちは100年に一度のチャンスに直面しているのである。
例えば、デジタル革命は、私たちの学習方法、行動様式、意思決定、生活様式を変えているだけではない。また、生産や消費の方法、所有権の考え方も変化している。情報は、文化の基礎であり、好きなだけ共有できるという点で、非常に興味深い資源である。より多くの情報を得るためには、他人から奪う必要はない。奪い合う必要もない。もちろん、これは将来的に経済がどのように編成されるかによる。特に、データ、情報、知識、創造的なデジタル製品の生産に対する努力に、どのように報いるかにかかっている。私たちは、20世紀の時代遅れの原理を永続させることも、21世紀のスマートな社会への扉を開くこともできる。私たちはなぜ後者をしないのだろうか？
今、多くの人が「スマートホーム」「スマートファクトリー」「スマートグリッド」「スマートシティ」などの言葉を口にしている。「スマートな経済」や「スマートな社会」が実現するのは当然のことである。ネットワーク化された情報システムは、世界の問題に対する全く新しい解決策を可能にする。したがって、ひとつはっきりしていることは、デジタル時代の世界は大きく変わるということである。しかし、未来を正確に予測することはできなくても、その一端を垣間見ることはできるのではなかろうか。少なくともある程度は可能だと思うし、すでにいくつかの傾向が現れている。未来の世界の特徴は、それを形成する技術的、社会的、進化的な力によってもたらされることは明らかである。技術的な原動力としては、ビッグデータ、モノのインターネット、人工知能などが挙げられる。社会的なドライバーとしては、情報量の増加やネットワーク化などが挙げられる。さらに、新しい種類のインセンティブシステムや意思決定につながる進化的な力もある。私は、これらの力の意味を評価し、それらがもたらす機会とリスクを議論することを試みる。
また、これらの力は、「人為的なシステム」、すなわち、人間が作った、あるいは人間の影響を受けたテクノ・社会・経済・環境のシステムの中で起こる相互作用によって生み出されている。介入を有益なものにするためには、自然の力を利用することを学んだのと同じように、これらの相互作用とそれらが生み出す力をどのように利用すればよいのかを理解しなければならない。
デジタル革命は、私たちの社会経済的な制度をどのように変えていくのだろうか。そして、私たちはどのような準備をすることができるのだろうか？私は、これらの疑問やその他の疑問を解決しながら、政治的には左でも右でもなく、慎重に新しい機会を探るという、非イデオロギー的なアプローチを追求する。私は、来るべきデジタル時代の新しい論理を理解することで、私たちの社会をより革新的で成功した、そして回復力のあるものにするために、デジタル革命をどのように利用できるかを説明したいと思う。また、新しい技術を用いて、システムをリアルタイムに適応させる方法についても説明する。さらに、すべての人に新たな雇用と機会を創出する情報とイノベーションのエコシステムを構築する方法についても説明する。
ここからは、なぜこの世界が問題を抱えているのか、そしてどうすればそれを解決できるのか、高度な「情報通信システム」をまったく新しい方法で活用することで、その詳細に踏み込んでいきたいと思う。以下の章では、予測と制御、複雑性、自己組織化、認識と協調、責任ある意思決定、リアルタイムの測定とフィードバック、システムデザイン、イノベーション、報酬システム、共創、集合知などのテーマを取り上げる。新興のデジタル時代がもたらす機会とリスクを巡るこの旅が、皆さんにとっても私にとっても刺激的なものになることを願っている。
2. 複雑性の時限爆弾 システムが制御不能になるとき
デジタル革命は、より多くのデータ、より多くのスピード、より多くの接続性、そしてより多くの複雑さを生み出す。新たな機会を生み出すだけでなく、これは私たちの経済や社会をどのように変えるのだろうか。相互依存性の高まるシステムをコントロールしやすくするのだろうか。それとも、システムの崩壊に向かっているのだろうか？世界の問題を解決するために何をすべきかを考えるためには、なぜ現状のように物事がうまくいかないのかを探る必要がある。問題は、なぜ私たちはその対処法を学んでいないのか、ということである。
昨今、私たちは経済的、社会的、政治的な危機、テロ、紛争、犯罪などに囲まれているように見える。このような地球規模の問題に対処するための従来の「薬」は、非効率的であったり、逆効果であったりすることが多くなっている。これらの問題に取り組む際、私たちはこの世界について古い認識を持っていることが明らかになっている。昔と同じように見えるかもしれないが、世界は目立たないながらも根本的に変化している。
私たちは、地震や火山噴火、ハリケーン、敵による軍事攻撃などの外的な脅威から社会を守らなければならないという考えに慣れている。しかし、最近では、金融不安、経済危機、社会的・政治的不安、組織犯罪やサイバー犯罪、環境変化、病気の蔓延など、システムの内部から発生するさまざまな問題に脅かされることが多くなっている。これらの問題は、人類にとって最大の脅威の一つとなっている。世界経済フォーラムが発表した「リスク相互接続図」によると、今日の社会が直面している最大のリスクは、社会経済的・政治的な性質のものである1。経済的不平等やガバナンスの失敗といった要因を含むこれらのリスクは、20世紀の知恵では解決できない21世紀の問題である。これらのリスクは、経済的不平等やガバナンスの失敗といった要因を含め、20世紀の知恵では解決できない21世紀の問題であり、かつてないほどスケールが大きく、今日の人為的なシステムの複雑な相互依存関係に起因している。そのため、複雑な動的システムの特徴をよりよく理解することが何よりも重要だ。そのために、不安定な力学、ネットワークの連鎖的な障害、システムの相互依存性など、物事がうまくいかない主な理由を説明する。そして、これらの問題を、交通渋滞、停電、金融危機、犯罪、戦争、革命など、さまざまな例を挙げて説明する。
2.1 幻の交通渋滞
地球規模の気象システムの乱流、意思決定プロセス、集団における意見形成、金融・経済市場、言語の進化と普及など、複雑系は私たちの身の回りに存在している。しかし、ここで注意しなければならないのは、「複雑系」と「複合系」の違いである。何千もの部品で構成されている自動車は複雑であるが、（正常に機能しているときは）制御が容易である。一方、交通流は多くの車の動的な相互作用に依存しており、複雑な力学系を形成している。これらの相互作用は、原因がないように見える「幻の渋滞」のような直感に反する現象を生み出す。このような現象は、ドライバーと車両という単一のパーツの特性だけでは理解できない。事故や道路工事など、特定の理由があって発生する渋滞も多いであるが、誰もが「何もないところから」「原因が見えないところから」車の列ができているような状況に遭遇したことがあるはずである2。
この「幻の渋滞」の真の理由を探るため、名古屋大学の杉山祐樹氏らは、多くの人に円形のトラックを運転してもらう実験を行った3。しかし、一台の車が交通流にちょっとした変化を起こしたことで、ストップ＆ゴー渋滞が発生し、トラックを逆走するような渋滞が発生したのである。
このような「幻の渋滞」は、他人の運転技術が悪いせいにされがちであるが、複雑系科学の研究により、実は車同士の相互作用によって必然的に生じる創発的な集合現象であることがわかっている。詳細に分析すると、交通密度がある臨界値を超えた場合、つまり車の平均離隔距離がある値よりも小さい場合、車の速度がわずかに変化しただけでも、増幅効果によって交通の流れが乱れてしまうことがわかった。先行車の速度変化に適応するまでに時間がかかるため、次のドライバーは遅れを取り戻すために少し強くブレーキを踏まなければならなくなる。後続のドライバーは、さらに強くブレーキを踏まなければならない、という具合である。このような連鎖反応によって、最初は小さかった車のスピードの変化が増幅され、最終的には渋滞が発生する。
2.2 不況-世界経済の交通渋滞？
ジョン・スターマンの「ビール流通ゲーム」4に示されているように、経済的なサプライチェーンも同じような行動をとる可能性がある。このゲームは、サプライチェーンマネジメントの課題をシミュレートしたもので、経験豊富なマネジャーでも、在庫を過剰に発注してしまったり、在庫切れになってしまったりする5。このような状況は、交通渋滞のように避けるのが難しいものである。実際、私たちの科学的研究によれば、景気後退は、世界のモノの流れ、すなわち世界経済における一種の交通渋滞とみなすことができる。これは、運転支援システムによって交通渋滞を緩和するのと同じように、景気後退を緩和するソリューションをエンジニアリングできるかもしれないということを意味している。この原理については、後ほど「デジタル支援による自己組織化」の章で説明する。しかし、これを実現するためには、世界の物資の流れと供給を詳細に示すリアルタイムのデータが必要である。
2.3 システムの不安定性
群衆災害もまた、システムの不安定性の悲劇的な例である。群衆の中の一人ひとりが平和的な心で他人を傷つけないようにしていても、多くの人が亡くなってしまうことがある。付録2.1では、なぜ通常の非攻撃的な行動からこのような極端なシステム的結果が生じるのかを説明している。
これらの例から何がわかるだろうか。私たちの経験や直感は、高度に相互作用するシステムの複雑さを説明できないことが多く、システムは予想外の行動をとる傾向がある。このような複雑な動的システムは、通常、多数の相互作用するコンポーネントで構成されており、これらのコンポーネントがお互いの行動に反応する。このような相互作用の結果として、複雑な力学系は自己組織化する傾向がある。つまり、システムの構成要素が互いに分離しているときの自然な行動（停車を好まないドライバーなど）とは異なる、ある集団的なダイナミクス（ストップ＆ゴーの交通など）が発生することがあるのである。言い換えれば、システム全体が、構成要素とは異なる新たな特性を示す可能性があるということである。その結果、例えば、「カオス」や「乱流」のようなダイナミクスが発生する。
群衆の中で自然発生的に起こる集団力学の代表例として、集団力学や大衆心理が挙げられる。群衆が「狂い」、「暴力的」、「残酷」になるのはなぜだろうか。例えば、2011年のロンドン暴動の後、教師や大富豪の娘など、犯罪者とは思えないような人たちが略奪行為に参加しているのはなぜか？警察の暴力に反対するデモが暴動になったことで、彼らは急に犯罪者の心を持つようになったのだろうか？可能性はあるが、必ずしもそうではない。
新しい性質の出現を理解するには、相互作用を重視した視点が必要である。
複雑な力学系の多くの構成要素が相互作用するとき、それらはしばしば自己組織化的に新しい種類の構造、特性、機能を生み出す。このように、システムの特性が新たに生まれることを「創発現象」と呼ぶことがある。例えば、水は濡れているように見えたり、火を消したり、特定の温度で凍ったりするが、水の分子1つ1つを見ているだけでは、このようなことは予想できない。
このように、複雑な力学系は意外な挙動を示すことがある。車のように操縦することはできない。上記の交通流の実験では、参加者はそれなりの速度で走り続けることを目的としているにもかかわらず、車同士の相互作用によって幻の渋滞が発生してしまった。車をコントロールするのは簡単であるが，多数の車が相互に影響し合う交通流の集合的なダイナミクスを，個々のドライバーがコントロールするのは不可能かもしれない．
2.4 強く結合したシステムには要注意
不安定性は、複雑な力学系で起こりうる問題のひとつである。不安定性は、システムの特性パラメータがある臨界点を超えたときに発生する。システムが不安定になると、正常な動作からの小さな逸脱が増幅される。このような増幅は、多くの場合、相互強化を引き起こすフィードバックループに基づいている。一つの増幅効果が他の増幅効果を誘発すると、連鎖反応が起こり、些細なランダムな変動が、止められないドミノ効果を引き起こすのに十分な場合がある。システムが不安定になると、「幻の交通渋滞」の例で示したように、どんなに防ごうとしても、遅かれ早かれシステムは制御不能に陥ってしまう。そのため、システムが不安定になる条件を特定し、回避する必要がある。
多くの場合、強く結合した相互作用は、災害やその他の望ましくない結果の原因となる7。通常、私たちの直感は、弱く結合したシステムに関する問題（システム全体が部品とその特性の総和として理解される）ではうまく機能するが、複雑な動的システムの挙動は、その構成要素間の相互作用が強い場合、劇的に変化する。つまり、直感に反するような挙動を示すことが多く、従来の常識では対処できないことが多い。意図しない結果や副作用が生じることもよくある。
強い相互作用は、さらにどのような違いをもたらすのだろうか。
- 第1に、特に強化や加速につながる「正のフィードバック」がある場合には、より大きな変動やより速い変化を引き起こす可能性がある。
- 第2に、複雑なシステムの挙動を予測することが難しく、将来の計画を立てることが困難になる。
- 第3に、強く結びついたシステムは、その構成要素（の一部）の行動の間に強い相関関係を示す傾向がある。
- 第4に、システムと内在する相互作用がより強い影響力を持つ可能性があるため、外部から、あるいは単一のシステム構成要素の挙動を通じてシステムを制御する可能性は限られている。
- 第5に、極端な事象が予想以上に頻繁に発生し、それがシステム全体に影響を及ぼす可能性がある8。
このような状況にもかかわらず、ほとんどの人はいまだにコンポーネント指向の世界観を持っており、集団や相互に依存する事象よりも個人を中心に考えている。そのため、「当たり前のこと」9 であるにもかかわらず、間違った結論を出してしまうことがよくある。例えば、物事がうまくいったときにはヒーローを賞賛し、何か問題が起きたときにはスケープゴートを探す。しかし、これまでの議論では、複雑な力学系の構成要素間の相互作用が強い場合、個人がその結果をコントロールすることがいかに難しいかが明らかになっている。この事実は、政治にも当てはまる。
なぜ政治家は、経営者と並んで、全職業の中で（平均して）最も評判が悪いのだろうか。それはおそらく、政治家が偽善者だと思われているからだろう。私たちは、彼らが公言するアイデアや政策に基づいて彼らを選ぶが、彼らはしばしば別のことをする。この明らかな偽善は、政治家が多様な視点を持つロビイストや利益団体と多くの強い相互作用にさらされていることの結果である。これらの団体は、政治家を様々な方向に向かわせる。多くの場合、政治家は自分の意見に合わない決断を迫られ、有権者にとっては受け入れがたい事実となっている。しかし、民主主義とは数年に一度の選挙だけではなく、市民と選挙で選ばれた代表者との間の継続的な連結であると考えるならば、政治家が自分の代表であるはずのシステムの中で、市民や企業の関心事よりも自分の個人的な信念を無遠慮に優先させることは、非民主的であると言えるかもしれない。企業の経営者も同じような状況に置かれている。彼らは、考慮しなければならない様々な要因にさらされている。このような相互作用に基づく意思決定は、取締役会や議会の場をはるかに超えるものである。家族における意思決定の力学を考えてみよう。もしそれが簡単にコントロールできるなら、おそらく離婚は減るだろう。
犯罪もまた、社会システムが制御不能に陥った例の一つである10。これは個人レベルでも集団レベルでも起こりえる。殺人を含む多くの犯罪は、キャリアを積んだ犯罪者ではなく、平均的な人々によって行われている（死刑制度のある国でもそうだ）11。詳しく調べてみると、多くの犯罪は、個人が置かれている状況と相関していることがわかる。例えば、集団の力関係が重要な役割を果たしていることが多い。また、多くの科学的研究が、社会経済的な状況が犯罪の強い決定要因であることを示している。したがって、犯罪に対抗するためには、より多くの人を刑務所に送るのではなく、このような社会経済的条件を変える方が効果的なのではなかろうか。囚人一人にかかる費用は、博士号を持つポスドク研究者の給料よりも高い。さらに気になるのは、刑務所や収容所が、犯罪組織の形成やテロ計画の立案の場となっていることである12。実際、私たちの研究では、多くの犯罪が模倣によって広がることが示唆されている13。
2.5 複雑なネットワークにおけるカスケード効果
さらに悪いことに、増幅効果による動的な不安定さに加えて、複雑な力学的システムはさらに大きな問題を引き起こす可能性がある。世界的な貿易、航空輸送、インターネット、携帯電話、ソーシャルメディアの普及により、あらゆるものが便利になり、つながるようになった。これにより、多くの新しい機会が生まれたが、すべてがより多くのものに依存するようになった。このような相互依存関係の高まりは、どのような影響を及ぼすのだろうか。今日、一つのツイートが株式市場を揺るがすことがある。また、Youtubeで話題になった動画が暴動を引き起こし、何十人もの人々が犠牲になることもある14。私たちの決断が地球の裏側にまで影響を及ぼすことが増えているが、その多くは意図しないものかもしれない。例えば、新興の伝染病が急速に拡大しているのは、今日の世界的な航空交通量の規模が大きく影響しており、これは世界の健康、社会福祉、経済システムに深刻な影響を与えている。
「地獄への道は善意で舗装されている」と言われている。世界をネットワーク化することで、私たちは知らず知らずのうちに、災害が発生・拡大しやすい状況を作り出しているのではなかろうか。2011年だけでも、世界経済危機、アラブの春、日本の地震・津波・原発事故という、世界の様相とパワーバランスを一変させるような、世界的な影響力を持つ連鎖的障害が少なくとも3つ発生した。2014年には、エボラ出血熱の蔓延、ウクライナ危機、「イスラム国」（IS）との紛争などが世界を脅かした。そこで、以下のサブセクションでは、カスケード効果のいくつかの例について、より詳しく説明する。
2.6 大規模停電
2006年11月4日、ドイツのエムスで、ノルウェー船の移送のために、一時的に送電線が遮断された。これにより、数分後にはドイツからポルトガルまで、ヨーロッパ中の多くの地域で停電が発生した。これは誰も予想していなかったことであった。遮断される前に、コンピューターによるシミュレーションでは、送電線がなくても電力網は十分に機能すると予測されていた。しかし、シナリオ分析では、別の線が自然故障する可能性を考慮していなかった。結果的には、ドイツ北西部で発生した局所的な過負荷が、ヨーロッパ全土の緊急スイッチオフを引き起こし、カスケード効果によって驚くべき結果がもたらされた。何千キロも離れた地域でブラックアウトが発生したのだ15。
このような奇妙な行動を理解することはできないのだろうか。実際、コンピュータを使った欧州の電力網のシミュレーション研究では、これとよく似た効果が再現されている16。スペインの電力網がまだ機能しているにもかかわらず、スペインのネットワークノードがいくつか故障すると、数千キロメートル離れた東欧で予期せぬブラックアウトが発生することが実証されている17 。さらに、電力網の一部の容量を増やすと、状況が悪化してさらに大きなブラックアウトが発生する可能性がある。したがって、システム内の弱い要素が重要な機能を果たす可能性がある。それは、故障のカスケードを中断させる「サーキットブレーカー」となることである。これは、覚えておくべき重要な事実である。
2.7 破綻カスケードから金融危機へ
2008年の突然の金融危機も、多くの企業や人々を不意に襲った危機の一例である。2003年にアメリカ経済学会で行われた会長講演で、ロバート・ルーカス（※1937年）は次のように述べている。
「うつ病予防の中心的な問題は解決された」。
同様に、米連邦準備制度理事会（FRB）の前議長であるベン・バーナンキ（※1953年）も、「経済は十分に理解されており、健全な財政状態にある」という信念を長年にわたって持っていた。2007年9月には、コロンビア大学ビジネススクールの教授であり、米国連邦準備制度理事会のメンバーでもあったリック・ミシュキン（1951年生まれ）が、当時の一般的な考え方を反映した興味深い発言をしている。
「幸いなことに、金融システム全体の健全性は高く、米国の銀行システムはストレスの多い市場環境にも耐えうる体制が整っている」。
後から考えればわかることだが、事態はまったく違ったものになった。銀行危機が発生したのは、それから間もなくのことであった。発端は、米国西部で形成された不動産バブルの崩壊であった。当時は地域的な問題だったので、多くの人は簡単に収束すると考えていた。しかし、この住宅ローン危機は、株式市場にも波及した。ある種の金融派生商品はほとんど売れず、「有害資産」となった。最終的には、アメリカ中の何百もの銀行が倒産した。なぜこのようなことが起きたのか。フランク・シュバイツァー教授らが制作したビデオでは、リーマン・ブラザーズ破綻後の米国における倒産の時系列を印象的に視覚化している18。どうやら、1つの銀行のデフォルトが引き金となって、金融部門で大規模な連鎖的破綻が発生したようだ。最終的には数千億ドルの損失を出した。
このビデオは、私がカスケード効果を説明するときによく使う別のビデオと驚くほどよく似ている19。これは、ネズミ捕りの上にたくさんの卓球ボールを置く実験である。この実験は、たった一つの局所的な混乱がシステム全体を混乱させることを印象的に示している。このビデオでは、原子爆弾や核分裂炉の基礎となる連鎖反応が描かれている。ご存知のように、このような連鎖効果は、ある臨界量（または「臨界相互作用強度」）を超えなければ、原理的には技術的に制御することができる。しかし、これらのプロセスは、時に思いがけない形で制御不能に陥ることがある。チェルノブイリや福島の原発事故は、そのよく知られた例である。したがって、カスケード効果を伴う可能性のある大規模システムには細心の注意を払わなければならない。
2.8 世界経済危機の結果
周知のように、前述の銀行の連鎖的な破綻は、さらに大きな問題の始まりに過ぎなかった。その後、世界的な経済・財政危機を引き起こした。最終的に、金融危機の被害額は世界全体で15兆ドル20を超え、当初の不動産問題の100倍の規模となった。この出来事は、ユーロ通貨やEUの安定性をも脅かした。ギリシャ、アイルランド、ポルトガル、スペイン、イタリア、米国などの国々が破産の危機に瀕した。その結果、多くの国が未曾有の失業率に苦しんでいる。一部の国では、若者の50％以上が仕事を持っていなかった。多くの地域では、これが社会不安、政治的過激主義を引き起こし、自殺、犯罪、暴力の割合が増加した。
残念ながら、この失敗の連鎖はまだ止まっていない。金融危機や過去数年間に蓄積された公的・私的債務から完全に回復するまでには、まだまだ長い道のりがある。この問題を早急に解決しなければ、2010年に私が手紙で指摘したように、平和、民主主義の原則、文化的価値を危険にさらす可能性さえある21。
2010年11月、トリシェ前欧州中央銀行総裁（※1942年）は、次のように述べている。
「危機が訪れたとき、既存の経済・金融モデルの深刻な限界がすぐに明らかになった。裁定取引は多くの市場で破綻し、市場は凍りつき、市場参加者はパニックに陥った。マクロモデルは危機を予測することができず、経済に何が起こっているのかを説得力のある形で説明することができないように思われた。危機の最中、政策立案者である私にとって、利用可能なモデルはあまり役に立たないものであった。それどころか、危機に直面したとき、従来のツールに見捨てられたと感じた」。
同様に、ベン・バーナンキも2010年5月に次のようにまとめている。
「株式市場で起こったことは、物事がどのように連鎖するか、あるいはテクノロジーがどのように市場のパニックと相互作用するかのほんの一例に過ぎない」。
一流の科学者でさえ、この危機を理解するのは難しいと感じていた。英国アカデミーは、2009年7月22日に英国女王に宛てた手紙の中で、次のような結論を出している22。
陛下が昨年11月にロンドン・スクール・オブ・エコノミクスを訪問された際、「なぜ誰も信用収縮が起こりつつあることに気づかなかったのか」という質問をされたが、まさにその通りである。では、どこに問題があったのか？誰もが自分の仕事をそれなりにきちんとこなしているように見えた。そして、標準的な成功の尺度によれば、彼らはしばしばうまくやっていた。しかし、それが全体として、どの機関も管轄していない一連の相互に関連した不均衡につながっていることに気づかなかった。個々のリスクは小さくても、システム全体のリスクは大きかったのである。つまり、危機の時期、範囲、深刻さを予見できなかったのは、主に多くの聡明な人々の想像力を結集して、システム全体のリスクを理解できなかったからである」。
結局、金融危機の責任は誰にもないのだろうか？それとも、これらの問題が膨大な数の個人の（相互）行動の集合的な結果であることを考えると、私たち全員が何らかの責任を負わなければならないのだろうか？また、個人や企業の責任の度合いをどのように区別すればよいのだろうか。これは確かに、考えるに値する重要な問題である。
また、複雑系科学が金融危機を予測できたかどうか、という問いも興味深い。実際、私は金融危機の前に株式市場をよく観察していたが、価格変動が激しいことに気づき、これは金融危機が迫っていることを示す警告信号だと解釈した。そのため、2007年末、空港のラウンジで乗り継ぎ便を待っている間に株式を売却した。リーマンショックの約半年前の2008年春、ジェイムス・ブレイディング、マーカス・クリステンと私は、金融システムを複雑系科学の観点から考察した論文を書いた。その結果、金融システムは不安定化の過程にあるという結論に達した。私たちは、金融システムの複雑さが増していることが大きな問題であり、後にイングランド銀行のチーフエコノミスト兼専務理事であるアンドリュー・ハルデン（＊1967年）が強調したように、金融システムがカスケード効果に対してより脆弱になっていると考えた。
2008年春、私たちはこれらの傾向を非常に心配し、一般の人々に警告しなければならないと考えた。しかし、私たちがコンタクトを取った新聞社は、どこも私たちのエッセイを掲載してくれなかった。「読者にとって複雑すぎる」というのがその理由であった。私たちは、「読者に理解してもらえないのであれば、金融危機を防ぐことはできない」と答えた。気のめいるような必然性をもって、金融危機はやってきた。しかし、その半年後、マッキンゼーの英国支社のマネージャーから、「今まで見た中で最高の分析だった」とのコメントが寄せられた。
もちろん、著名人の中にも金融危機を予見していた人はいる。例えば、伝説の投資家ウォーレン・バフェット（※1930年生まれ）は、金融派生商品への大規模な投資がもたらす破滅的なリスクを警告していた。2002年に彼はこう書いている。
多くの人々は、デリバティブはシステミックな問題を軽減すると主張している。それは、ある種のリスクを負担できない参加者が、より強い手にリスクを移すことができるからである。これらの人々は、デリバティブが経済を安定させ、取引を容易にし、個々の参加者の凸凹をなくす働きがあると信じている。ミクロの世界ではその通りだと思う。しかし、私は、マクロ的には危険であり、その危険性は増していると考えている。デリバティブの魔物は今や瓶から出ており、何かのイベントでその毒性が明らかになるまで、デリバティブ商品はほぼ確実にその種類と数を増やしていくだろう。中央銀行や政府はこれまでのところ、これらの契約がもたらすリスクをコントロールしたり、監視したりする効果的な方法を見つけていない。私の考えでは、デリバティブは大量破壊兵器であり、今は潜在的であっても、潜在的には致命的な危険性を秘めている。
ご存じのように、「投資の時限爆弾」が爆発するまでにはまだ5年かかったが、その後、何兆ドルもの損失を経済にもたらした。
2.9 根本的な不確実性
流動性の高い金融市場や、天候のように予測が困難な多くのシステムでは、近い事象の確率を、少なくとも近似的に決定することができる。例えば、「6ヶ月後に株を売って、資金の半分以上を失う可能性は5%だが、利益を出す可能性は60%である」といった確率的な予測が可能である。そして、可能性の高いアクションやイベントによって暗示される期待損失（または利益）を決定することができる。そのためには、起こりうる事象の損害や利益にその確率を乗じて、その数字を足し合わせることで、期待される損害や利益を予測する。原理的には、すべての行動に対してこの作業を行い、被害を最小化したり、利益を最大化したりする行動を決定することができる。しかし問題は、この確率を決定することが現実的ではないことである。データが増えれば、この問題は解決するかもしれないが、「極端な事象」の確率を求めることは難しい、あるいは不可能であることが多いだろう。稀なイベントは、その性質上、データポイントが少ないため、確率を決定するには経験則が少なすぎるからである。
また、大規模な（例えば地球規模の）システムで問題が発生した場合に予想される損害を計算することは、全く不可能な場合もある。このような「基本的」または「根本的」な不確実性は、一つの問題が他の問題を引き起こす可能性が高く、全体の損害が徐々に増加するというカスケード効果から生じることがある。原理的には、このような状況では全体の損失はまったく定量化できないかもしれない。つまり、実際の被害は、軽微なもの（最良のケース）から実質的に制限のないもの（最悪のケース）まで、あるいはその中間のものまで、様々な可能性があるということである。極端なケースでは、歴史上の帝国や文明の崩壊で知られるように、システム全体の崩壊につながるかもしれない23。
2.10 爆発的な疫病
病気の蔓延を研究する場合、その結果は、お互いに感染する可能性のある人々の間の物理的な交流の度合いに大きく依存する。疫病の連鎖効果の脅威は、初期の被害が後の問題に耐えるシステムの能力を低下させる場合、さらに悪化する可能性がある。例えば、財源や医療資源が、それを生産する健康な個人の数によって制限されている医療システムを想定してみよう。このような場合、病気を治すのに必要な資源をどんどん使い果たしてしまい、ついには爆発的に流行が広がってしまうということが起こり得る。ルーカス・ベッチャー、オリビア・ウーリー＝メザ、ヌーノ・アラウージョ、ハンス・ヘルマンと私がコンピュータを使って行った研究によると、このようなシステムのダイナミクスは劇的に、そして予想外に変化することがわかっている25。
2.11 システムの相互依存性
最近、Shlomo Havlin (*1942)らがさらに重要な発見をした。その典型的な例が、電気・通信ネットワークの相互依存関係である。また、自然システム、エネルギーシステム、気候システム、金融システム、政治システムなどが世界的に相互依存関係にあることを示す例として、2011年に日本で発生した東北地方太平洋沖地震がある。この地震は津波を引き起こし、それが連鎖反応を起こして、福島の複数の原子炉で核災害が発生した。その直後、ドイツとスイスは、今後10年以内に原子力発電から撤退することを決定した。しかし、欧州のガス供給が地政学的に完全に信頼できない地域に依存していることから、代替エネルギー源も問題となっている27。
同様に、欧州で計画されていた1,000億ユーロ規模の太陽エネルギーインフラへの投資であるDESERTECプロジェクトは、「アラブの春」というもうひとつの予期せぬ出来事によって、事実上断念された。この暴動は、食糧価格の高騰に端を発しており、その原因の一部はバイオ燃料の生産にあると言われている。バイオ燃料は、地球のCO2バランスを改善する目的で生産されていたが、その生産によって食料の生産量が減り、価格が高騰した。食料価格の上昇は、金融投機によってさらに増幅された。このように、エネルギーシステム、政治システム、社会システム、食糧システム、金融システムが相互に密接に依存しているため、世界は混乱に対してますます脆弱になっている。
2.12 人類は「複雑性の時限爆弾」を作ってしまったのか？
集団災害や金融危機などの問題は、長い間、人類を悩ませてきた。時には、それらを「神の御業」や「黒い白鳥」28とみなして、私たちは耐え忍んできた。しかし、このような問題は、単に「運が悪かった」というだけではない。このような問題は、複雑なシステムの直感に反する動作に対する理解が不十分であったために起こることが多い。致命的なエラーや過去の失敗の繰り返しは、時代遅れの考え方の結果であることが多い。しかし、複雑性の科学は、複雑な動的システムがいつ、どのようにして制御不能に陥るのかを理解することができる。
システムが不安定になると、増幅効果が現れ、局所的な問題が連鎖的な障害につながり、さらに多くの問題が発生することになる。そのためには、システムの構成要素間の相互作用の度合いが重要になる。複雑な動的システムは、構成要素間の相互作用が摩擦効果よりも強くなったり、システム構成要素の劣化によるダメージが回復よりも早く発生したりすると、全体として不安定になる。そのため、システム全体が安定しているかどうかは、プロセスのタイミングが重要な役割を果たす。つまり、適応プロセスが遅れると、システムが不安定になり、制御不能に陥ることが多い（付録2.2参照）。
さらに、不安定な複雑なシステムは、たとえ誰もが十分な情報を得て、十分な訓練を受け、高度な技術を使い、最善の意図を持っていたとしても、遅かれ早かれ制御不能に陥るということもわかった。そして最後に、強い内部相互作用や高度な連結性を持つ複雑な動的システムは不安定になる傾向があることを学んだ。相互依存が高まる世界は、無数のグローバルなつながりによって特徴づけられており、その潜在的な影響を議論する必要がある。つまり，人類は誤って「複雑性の時限爆弾」を生み出してしまったのではないか，つまり，制御不能に陥ることが避けられないグローバルシステムを生み出してしまったのではないか，ということだ。[6]
実際、ある種のネットワークでは、障害が連鎖的に発生する可能性は、核分裂のそれと不穏な類似性を持っている。このようなプロセスを制御することは困難である。壊滅的なダメージが現実的なシナリオである。爆発的なプロセスとの類似性を考慮すると、私たちのグローバルな人造システムも同様に、ある時点で制御不能に陥る可能性があるのではなかろうか？この可能性を考えるとき、破壊的なカスケード効果のスピードは遅く、爆発を連想させないかもしれないことを念頭に置く必要がある。しかし、そのプロセスを止めることは難しく、最終的にはシステムの崩壊につながる可能性がある29。
今日の複雑な社会が直面する可能性のあるグローバルな大災害にはどのようなものがあるだろうか。世界的な情報通信システムや世界経済の崩壊？世界的なパンデミック？持続不可能な成長、人口動態や環境の変化？世界的な食糧危機やエネルギー危機？文化の衝突？新たな世界大戦？技術革新をきっかけとした社会的変化？最も可能性の高いシナリオでは、これらの伝染性現象のいくつかが組み合わさって起こるだろう。世界経済フォーラムはこれを「パーフェクト・ストーム」と呼んでおり（脚注1参照）、OECDも同様の懸念を表明している。
2.13 意図しない戦争と革命
大規模な紛争や革命、戦争は、システムの相互依存性や不安定性がもたらす意図しない結果でもあることを認識することが重要である。幻の交通渋滞が相互作用の意図しない結果であったことを思い出してほしい。同様に、戦争や革命は、誰も望んでいなくても起こり得る。このような出来事は、特定の歴史上の人物が行ったことだと思われがちであるが、それでは現象が矮小化され、個人的なものになってしまい、本来のシステム的な性質から遠ざかってしまう。
複雑な力学的システムは、安定した平衡状態に近い場合には、通常、変化に抵抗するということを認識することが重要だ。この効果は、グッドハートの法則（1975年）、ル・シャトリエの原理（1850-1936年）、あるいは「制御の錯覚」として知られている。個々の要因やランダム性が複雑な力学系に影響を与えるのは、それが不安定になる「ティッピングポイント」30に追い込まれた場合のみである。
言い換えれば、歴史書の中で注目されている人物は、彼らがコントロールできないもっと大きなシステムがすでに決定的に不安定になっていたからこそ、歴史に影響を与えることができたのである31。さらに、第二次世界大戦の前には金融危機と不況があり、ドイツの経済・社会・政治システムが不安定になってた。最終的には、これにより、一個人が世界を絶滅の危機に追い込むほどの影響力を持つことが可能になったのである。残念ながら、現在の文明はまだ脆弱であり、大規模な戦争が再び起こる可能性がある。私たちが世界を管理する方法を早急に変えなければ、その可能性はさらに高まる。
一般的に、意図しない戦争への道は次のようなものである。まず、深刻な経済危機などの混乱により、資源が不足する。限られた資源をめぐる競争の結果、紛争、暴力、犯罪、腐敗などが増加する。人間の連帯感や相互の寛容さが失われ、社会が二極化する。これにより、さらなる不満や社会的混乱が生じる。人々はシステムに不満を抱き、リーダーシップと秩序を求める。政治的な過激派が現れ、社会的・経済的な問題を少数派に転嫁する。これは社会経済的な多様性を減少させ、イノベーションを減少させ、さらに経済を妨げる。最終的には、バランスの取れた「社会経済のエコシステム」が崩壊し、秩序ある資源配分のシステムが不可能になる。資源が乏しくなると、分裂した社会を統合するために、ナショナリズムや外敵を求める「必要性」が高まる。結局、さらにエスカレートした結果、戦争は危機を克服するための唯一の有効な「解決策」であるかのように思われるが、むしろ大規模な破壊をもたらすことがほとんどである。
2.14 革命的なシステム・シフト
革命もまた、システムの不安定性の結果として起こりうるものである。したがって、革命は必ずしも、政治的既成概念に挑戦する「革命的指導者」によって引き起こされるわけではない。旧ドイツ民主共和国（GDR）の崩壊や「アラブの春」の一部の革命は、明確に識別できる政治的敵対者がいなくても、反乱が始まることがあることを示している。一方で、このような革命は、少数の個人を殺害したり投獄したりすることでは止められない理由でもある。一方、「アラブの春」では、革命の指導者がいなかったために、世界中のシークレット・サービスが驚いた。革命を支援しようとする国にとっては、誰と国際的な支援関係を結べばいいのかわからないという複雑さがあった。
このような革命は、政府の代表者の利益と国民（あるいは特定の社会集団）の利益が離れてしまった状況の結果として起こると考えた方が良いだろう。このような不安定な状況は、地殻プレートの移動による緊張と同様に、遅かれ早かれ「地震」のような緊張の解放（革命）が起こり、力のバランスが取り直される。繰り返しになるが、革命的なリーダーが政治的な不安定さの原因であるとする従来の常識とは異なり、彼らが影響力を持つようになるのは、既存のシステムの不安定さに起因している。つまり、多くの場合、革命家が革命を起こすのではなく、システムの不安定さが革命を起こすのである。不安定さは、旧体制の政治が生み出したものである。したがって、私たちは、今日の社会がさまざまなグループの利益のバランスをどれだけうまくとっているか、また、人口動態、環境、技術の変化によって急速に変化している世界にどれだけうまく適応できているかを自問しなければならない。
2.15 結論
私たちの前には多くの問題があることは明らかである。それらのほとんどは、人間が作り出したシステムの複雑さに起因している。しかし、どうすればこれらすべての問題をマスターすることができるのだろうか。複雑さとの戦いは敗北したのか、それともまったく別の新しい戦略を追求しなければならないのか。あるいは、これまでの考え方を変える必要があるのだろうか。手遅れになる前に、どのようにしてイノベーションを起こすことができるのだろうか。次の章では、これらの疑問に答えていく。
2.16 付録1：無害な行動が重要になることもある
交通流の例では、相互作用の強さ（密度）が高すぎるとシステムが制御不能になることを見てきた。なぜ密度が変わると、正常で「無害」な動作が制御不能になってしまうのだろうか。このことを理解するために，Roman Mani，Lucas Böttcher，Hans J. Herrmannと私は，ニュートンのゆりかごに似た1次元32を移動する同じ大きさの粒子の系における衝突を研究した．
主な観察結果を以下にまとめる。隣り合う粒子の平衡点間の距離が十分に大きい場合，各粒子はその平衡点の周りを正規分布の速度で振動し，すべての粒子の速度のばらつきは同じように小さくなる．しかし，平衡点間の距離が粒子の直径に達すると，粒子間でカスケードのように運動量が伝達されることがわかる34．驚くべきことに，粒子速度の分散は境界に向かって急激に増大し，システムサイズが大きくなると無限大になることさえある．驚くべきことに、粒子の速度のばらつきは境界に向かって急速に大きくなり、システムのサイズが大きくなると無限大になることもある。分離中の各パーティクルは通常のダイナミクスを実行しており、それは決して過剰ではないが、それらの相互作用はシステムの極端な挙動を引き起こす。
2.17 付録2: 階層型システムにおける同期性の喪失
多くの社会経済的プロセスが相互にフィードバックしながら同時に起こっている場合、不可解な種類のシステム不安定性が発生する可能性がある。
まず、物理学における階層的なシステムについて説明しよう。物理学では、素粒子が原子を形成し、原子が化合物を形成し、それらが固体を形成し、それらが集まって惑星を形成し、惑星系を構成し、銀河系を形成することがある。同様に、生物学や社会科学の分野では、細胞が臓器を構成し、それらが集まって人体を形成していることが分かっている。また、人間は、集団、都市、組織、国家などの組織を形成する傾向がある。
重要なことは、このような階層が安定しているのは、2つの重要な原理に基づいているということである。第一に、力は下層で最も強く、第二に、変化は上層で最も遅いということである。言い換えれば、これらのシステムの調整プロセスは、上位の階層（惑星システムなど）に比べて下位の階層（原子など）の方が速い。つまり、下位の変数は上位の変数が設定した制約条件に素早く適応することができる。その結果、上位のレベルが下位のレベルを基本的にコントロールし、システムは安定した状態を保つことができる。同様に、社会集団は、その集団を形成する個人よりもゆっくりと意思決定を行う傾向がある。同様に、組織や国家は、それらを形成する個人よりもゆっくりと変化する傾向がある（少なくとも過去にはそうであった）。
このような「時間軸の分離」は、システムのダイナミクスが比較的少数の変数によってのみ決定されることを意味しており、これらの変数は通常、階層の上位に位置している。君主制や寡頭制がその良い例である。しかし、現代の政治・経済システムでは、上位の階層があまりにも速く変化し、下位の階層がそれに追いつくことが困難な場合がある。法律は、企業や人々が適応するよりも早く制定されることが多くなった。長期的には、時間軸の分離が崩れ、より多くの変数がシステムのダイナミクスに影響を与えるようになるため、システムの不安定性を引き起こす可能性がある。異なる階層で相互に調整しようとすると、乱流、「カオス」、同期の崩壊、システムの断片化などが起こる可能性がある。実際、適応の遅れがシステムを不安定にすることは知られているが、私たちは多くの問題（公的債務、人口動態の変化の影響、核廃棄物、気候変動など）を先送りにしている。これは、私たちの社会がいずれコントロールを失い、不安定になるという具体的な危険性を生み出す。
エピローグ
なぜ私がこの本を書いたのか、その経緯は？本書のベースとなっている私の研究活動には、3つの本質的なきっかけがあった。ドイツのゲッティンゲンで統計物理学を専攻していた私は、複雑系のモデル化を専門とし、当時起きていたネオナチと左翼学生の対立など、現実の問題を解決することに興味を持つようになった。
その後、ドレスデン工科大学の交通・経済研究所のマネージングディレクターを務めていたとき、2001年9月11日に衝撃を受けた。ちょうどその1年後、ドレスデンの美しい街はひどい洪水に見舞われた。これをきっかけに、私は災害とその対応策について研究するようになった。
最後に、スイスのチューリッヒ工科大学で社会学の教授として働いていたとき、2008年の金融危機によって、社会経済システムについてのまったく新しい考え方が必要であることが明らかになった。継続的な連鎖効果の結果として、新興の経済危機は最終的に政治的な過激主義と社会的な紛争の増加をもたらし、このシナリオは避けなければならなかった。
このプロジェクトは、情報技術分野のイノベーションを促進するための10億ユーロ規模の2つの “フラッグシップ “プロジェクトの提案を求める欧州の要請に応えたもので、ここでは多額の資金が必要になると考えている。FuturICTプロジェクトは、ますます複雑化する世界で私たちの未来を管理するための新しい科学技術システムを開発することを目的としている。特にFuturICTが目指したのは、私たちが取りうる意思決定によってもたらされる機会とリスクを探り、理解することができる「生きた地球シミュレーター」の開発である。このシミュレーターは、個人のプライバシー保護に配慮した、オープンで参加型のプラットフォームであることが意図されていた2。
FuturICTは，社会科学，自然科学，工学の各分野の優れた研究者が一堂に会した，非常に革新的なプロジェクトとして評価された（様々な側面で現在も評価されている）．最終的には、欧州25カ国以上、米国、日本、シンガポール、オーストラリア、その他多くの国を含む学際的な研究コミュニティのグローバルネットワークを構築した。また、100をはるかに超える学術機関と、同数の企業がこのプロジェクトのパートナーになることを希望した。その結果、最初の2.5年間で約9,000万ユーロの共同出資が約束された。
しかし、FuturICTプロジェクトの主導権を握ることは、冒険のようなものであった。世界中の大手企業がこのプロジェクトに興味を示したのである。アメリカでは、1億5,000万ドル以上のビッグデータ研究プログラムがすぐに開始された。中国は国営テレビでこのプロジェクトに関する映画を放送し、何億人もの人々が視聴した。ロシアは大規模なテレビチームを派遣し、このプロジェクトを取材した。さらに、2011年のサイエンティフィック・アメリカン誌のクリスマス版のタイトルページでは、FuturICTが世界を変えるアイデアのNo.1として紹介された3。
数ヵ月後、FuturICTプロジェクトは最終選考に残り、好成績を収めたが、皆の期待とは裏腹に資金調達には至らなかった。この時点で私は、FuturICTが提案したグローバルな参加型の情報通信システムを構築するのではなく、各国政府がデジタル軍拡競争に突入するのではないかと心配し始めた。また、プライバシーや情報の自己決定、民主主義や人権を無視して、強力な監視型のデジタル社会がもたらされるのではないかと心配になった。そこで私は、透明性を欠いた情報通信システムの潜在的な危険性を一般の人々に知ってもらうために、「神としてのグーグル？実際、デジタル革命は、社会全体や私たち一人ひとりをコントロールできるという恐ろしい可能性を生み出した。
その後、”Google as God? “をインターネットで検索したところ、”Church of Google “などの検索結果が出てきて驚いた。これらのサイトは真面目なものではないかもしれないが、興味深い考察の材料にはなるだろう。例えば、Googleが神であることを証明する “証拠 “が掲載されているページ4もある。例えば、「Googleは現存する全知全能の存在に最も近い」、「Googleは一度にどこにでもいる（Omnipresent）」、「Googleは『悪事を働かない』（Omnibenevolent）」などである。私の本では、これらの考えをさらに掘り下げ、そのような野望を実現することがどれほど現実的かを問いかけている。
私が「水晶玉」や「魔法の杖」、「賢い王様」、「慈悲深い独裁者」などと言ったのは、抽象的な概念を表すための言葉であった。例え名前を挙げたとしても、GoogleやNSA、人工知能を搭載した特定のコンピュータネットワークなど、特定の企業や機関を意味するものではない。とはいえ、私たちはどこに向かっているのかを自問しなければならない。ビッグデータを扱う企業や機関が最善の意図を持っていたとしても、意図せずにデジタルの悪夢を生み出してしまうのではないか？もしそうだとしたら、そのようなシナリオのリスクを最小限に抑えるために、私たちは何ができるのだろうか。言い換えれば、デジタル社会にはどのような制度や技術的ソリューションが必要なのか？インターネットのセキュリティを十分に確保するためには、どの程度の分散化と暗号化が必要なのか。デジタル啓蒙の時代に入るために、つまり「デジタル奴隷」を回避し、「デジタル自由」を確保するために、どれだけの透明性と情報の自己決定が必要なのか？
より多くのデータ、より速い処理速度、より多くの接続性を特徴とするこの世界を、私たちはよりよく理解しなければならない。私たちは今、誤った方向に進んでしまうかもしれない岐路に立っている。そうなれば、不安定さが増し、世界的な大災害につながる可能性もある。
史上最高のテクノロジー、膨大な量の情報、そして最善の意図をもってしても、私たちの世界をコントロールすることは不可能になるかもしれないことを忘れないでほしい。私たちが生きているハイパーコネクテッド・ワールドの良い例えは、原子爆弾かもしれない。原子爆弾は、ある「臨界質量」（臨界密度）に達したときに引き起こされる連鎖反応の結果、爆発する可能性がある。しかし、社会経済システムにおいても、同じような「爆発」が起こることがわかっている。例えば、政治革命や戦争、文明の崩壊などがそうである。私たちのグローバルシステムは、知らず知らずのうちに「複雑性の時限爆弾」になってしまったのだろうか。もしそうなら、それはすでに時を刻んでいたのだろうか？
確かに心配したくはないが、このような「爆発的」な社会経済的プロセスがどのような結果をもたらすかは、歴史が物語っている。それは、政治的な不安定さや、不公平で残酷な体制などである。このような事態を避けるためには、経済危機、犯罪、戦争などの社会問題の原因をより深く理解することが重要だ。私はこの本で、社会がどのように機能しているのか、そしてその知識を未来を支配するためにどのように使うことができるのかについて、新しく統合された視点を提供しようとした。むしろ、悲観的になりすぎてはいけないと思っている。なぜなら、私たちは社会をより危機に強くし、世界をより良い方向に変えることができるからである。
著者について
ディルク・ヘルビングは、デジタル革命の機会とリスクを想定する上で、おそらく世界で最も想像力に富んだ専門家の一人である。価値観を重視したデザインの提唱者であり、ビッグデータや人工知能をめぐる社会的な議論に大きく貢献している。また、FuturICTイニシアチブをコーディネートし、複雑性、コンピュータ、データサイエンスのインターフェースにおける専門家のグローバルな学際的コミュニティを構築した。世界的な問題や危機に立ち向かうことを目的としたこれらの活動は、サイエンティフィック・アメリカン誌で「世界を変えるアイデア」の第1位として取り上げられ、デルフト工科大学から名誉博士号を授与された。
ディルク・ヘルビングは、チューリッヒ工科大学の人文・社会・政治科学部で計算社会科学の教授を務めており、同大学のコンピュータサイエンス学部にも所属している。物理学の博士号を持ち、ドイツのドレスデン工科大学交通経済研究所のマネージングディレクター、ETHチューリッヒの社会学教授を歴任した。
また、ドイツ科学アカデミー「レオポルディナ」の会員でもあり、世界経済フォーラムの「複雑系に関するグローバル・アジェンダ・カウンシル」に所属していたこともある。また、ドイツ物理学会の社会経済システム物理学部門やチューリッヒ工科大学のリスクセンターの共同設立者でもある。さらに、ジュネーブの国際地球シミュレーションセンターや、デジタル革命の影響を評価するさまざまなハイレベル委員会のメンバーでもある。また、ブリュッセルにあるグローバル・ブレイン・インスティテュートの理事も務めている。
彼の研究の動機は、”複雑系科学と情報システムは人命救助に何を貢献できるか “ということに集約される。これは、犯罪や紛争を減らす上での群衆災害の回避から、伝染病の蔓延の抑制まで多岐にわたる。彼の研究では、理論研究、データサイエンス、実験を、エージェントが認知機能を持つ可能性のあるエージェントベースのコンピュータモデルと組み合わせている。さらに、グローバルにネットワーク化されたリスクに関する論文では、グローバル・システム・サイエンスの必要性を訴えている。
また、「モノのインターネット」を利用して、分散型デジタル神経システムの中核となるシチズンウェブの構築にも取り組んだ（nervousnet.info参照）。これは、世界のリアルタイム測定、状況認識、適切な意思決定、自己組織化をサポートする、オープンで透明性のある参加型の情報プラットフォームを目指したものである。このシステムの目的は、デジタル時代の新しい機会をすべての人に開放することであったが、このプロジェクトは大きく妨害された。