グローバルにネットワーク化されたリスクとその対応策
Globally networked risks and how to respond

www.nature.com/articles/nature12047#Ack1

PERSPECTIVE doi:10.1038/nature12047

ダーク・ヘルビング1,2

概要

今日の強く結びついたグローバルなネットワークは、私たちが理解できず、うまくコントロールできない高度に相互依存したシステムを生み出している。これらのシステムは、外的なショックがない場合でも、あらゆるスケールで故障しやすく、社会に深刻な脅威を与えている。ネットワーク化された世界の複雑さと相互作用の強さが増すにつれ、人工システムは不安定になり、意思決定者が十分なスキルを持ち、あらゆるデータと技術を駆使し、最善を尽くしても、制御不可能な状況を作り出す可能性がある。このようなシステムを管理可能なものにするためには、根本的な再設計が必要である。グローバル・システム・サイエンスは、そのための知識とパラダイムシフトを生み出すかもしれない。

図1｜リスク相互接続マップ2011私たちが生きている超連結世界におけるシステム的な相互依存性を示す。WEFの許可を得て文献82から転載。82よりWEFの許可を得て転載

序文

グローバリゼーションと技術革命は、私たちのプラネットを変えつつある。今日、私たちは、人、物、金、情報、アイデアの世界的な交流を実現し、人類に多くの新しい機会、サービス、利益を生み出している。しかし、同時に、基盤となるネットワークは、危険で有害な事象が迅速かつグローバルに拡散する経路を作り出した。このため、システミックリスクが増大している1（ボックス1参照）。関連する社会的コストは膨大である。今日の環境、健康、金融システム、あるいはサプライチェーンや情報通信システムを分析すると、これらのシステムが惑星規模で脆弱になっていることがわかる。地球温暖化、疾病の発生、食糧（流通）不足、金融危機、激しい太陽嵐、組織的（サイバー）犯罪、サイバー戦争などの破壊的な影響にさらされている。私たちの世界はすでに、財政危機や経済危機、世界的な移民、相容れない利害や文化の爆発的な混在といったグローバルな問題、社会不安、国際戦争や内戦、グローバルなテロといった結果に直面している。

本論では、システム障害や異常事態は、人間が作り出した高度に相互接続されたシステムとネットワーク化されたリスクの帰結であると主張する。ネットワークが相互依存している場合2,3、突発的な故障に対してより脆弱になる4-6。このような「ハイパーコネクテッド・ワールド」1における相互依存関係は、「ハイパーリスク」（図1参照）を成立させる。例えば、今日の新興感染症の迅速な拡大は、主にグローバルな航空交通の結果であり、私たちのグローバルな健康、社会、経済システムに深刻な影響を与える可能性がある6-9。また、グローバル化、ネットワーク密度の増加、資源の疎結合、複雑化、制度的意思決定プロセスの加速など、当初は有益なトレンドも、最終的には人為的（人工的または人為的）システム10をシステム不安定性-遅かれ早かれ制御不能になることが避けられない状態-に押しやるかもしれないと主張する。

人為的なシステムにおける災害の多くは、「不運」ではなく、不適切な相互作用と制度設定の結果と見なすべきである。さらに悪いことに、災害はしばしば、根底にあるシステムの振る舞いが直感に反しているために、間違った理解の結果となる。したがって、都合のいいように考えることは、運命的な決定や以前の失敗の繰り返しを引き起こす可能性がある。システムの不安定性は、コンポーネント指向から相互作用やネットワーク指向に視点を変えることで理解することができる。これはまた、複雑な動的システムの設計と管理における根本的な変化を意味する。

世界中の何千人もの科学者が参加するFuturICTコミュニティ11（http://www.futurict.eu参照）は、情報通信技術（ICT）と社会の密接な共進化を伴う情報社会をより良く理解するために、現在「グローバルシステム科学」の確立に取り組んでいる。この取り組みは、現在、地球の物理、化学、生物学を研究するための一般的なアプローチである「地球システム科学」10と連携している。グローバルシステム科学は、複雑系の理論を地球規模の問題の解決に適用できるようにしたいと考えている。これは、自然科学、工学、社会科学の本格的な協力の上に成り立つ、大量のデータを駆使したアプローチであり、知識の大統合を目指すものである。このような現実の技術・社会・経済・環境システム8へのアプローチにより、21世紀の多くの課題に対する新しい対応策が可能になると期待される。

BOX 1　リスク、システミックリスク、ハイパーリスク

ISO 31000（2009;www.iso.org/iso/catalogue_detail?csnumber543170)によると、リスクとは「目的に対する不確実性の影響」と定義されている。ある（有害な）事象の発生確率にその（負の）影響（損害）をかけたものとして定量化されることが多いが、リスクがあるステークホルダーにとっての機会など正の影響を生み出すこともあることを念頭に置く必要がある。

これに比べ、システミックリスクは、統計的に独立した故障だけではなく、N個の相互接続されたシステム構成要素のネットワークにおいて、相互依存的な、いわゆる「カスケード」故障が発生するリスクである。つまり、システミックリスクは、リスク同士のつながりから生じる（「ネットワーク化されたリスク」）。このような場合、局所的な初期故障（「摂動」）が悲惨な影響を及ぼし、原理的にはNが無限大になるにつれて無限の損害を引き起こす可能性がある。例えば、大規模な停電は何百万人もの人々を襲う可能性がある。経済学では、システミックリスクは、市場や金融システム全体の崩壊の可能性を意味する。この場合の潜在的な損害は、ネットワーク化されたシステムの規模Nによってほぼ決定される。

さらに高いリスクは、ネットワークのネットワーク4,5、つまり異なる種類のシステムの結合によってもたらされる。実際、エネルギー、食糧、水のシステム、グローバルサプライチェーン、通信・金融システム、生態系、気候などの相互依存性が高まっていることから、新たな脆弱性が生じている10。世界経済フォーラムは、この状況をハイパーコネクテッドワールドと呼んでおり1、そのため、関連するリスクを「ハイパーリスク」と呼んでいる。

私たちが知っていること

概要

カタストロフィー理論12は、災害は、パラメータの緩やかな変化に対応した不連続な遷移から生じる可能性があることを示唆している。このようなシステムの変化は、特定の「転換点」（つまり、パラメータの臨界値）で発生し、システムの特性が変化することが予想される。臨界現象の理論13は、そのような転換点では、事象の大きさのべき乗則（または他の大きく歪んだ）分布が典型的であることを示した。これらはカスケード効果4,5,14-20に関連しており、その大きさは任意である。したがって、「極端な事象」21は、予期せぬ外部事象というよりも、むしろ内在するシステムダイナミクスの結果である可能性がある。さらに、自己組織化臨界理論22は、ある種のシステム（例えば、雪崩を起こしやすい穀物の山など）が自動的に臨界点に向かって駆動される可能性があることを示している。また、ネットワークのエラー耐性や攻撃耐性23、ネットワークにおけるカスケード効果4,5,14-20,24についても研究されており、ノードやリンクの局所故障が、他のノードやリンクの過負荷や連続故障を誘発する可能性がある。さらに、ネットワーク間の相互依存性4-6や他のメカニズム25,26によって、突然のシステム障害が発生することがある。

複雑さによる意外な挙動

現在の人為的なシステムは、構造的、動的、機能的、およびアルゴリズム的に複雑化している。このことは、システムの設計、運用、信頼性、効率性に課題を投げかけている。ここでは、複雑な動的システム、すなわち、疎結合システムとは対照的に、構成要素の特性の総和では理解できないシステムに焦点を当てることにする。複雑系における非線形相互作用は、以下のような典型的な特徴を持つ27,28。(1)系は一つの平衡解を持つのではなく、それぞれの初期条件によって多数の異なる挙動を示すことがある。(2)複雑な力学系は制御不能に見えることがある。特に、外部からの制御やトップダウンの制御の機会は非常に限られている29。(3)自己組織化と強い相関がシステムの挙動を支配している。(4)複雑な力学系の（創発）特性は、しばしば驚きと直観に反するものである30。さらに、非線形相互作用、ネットワーク効果、応答の遅れ、ランダム性などが組み合わさって、小さな変化に対する感受性、独特の経路依存性、強い相関性などが生じることがあり、これらはすべて理解、準備、管理することが困難である。これらの要素はそれぞれ想像すること自体がすでに難しいが、その組み合わせではなおさらである。

例えば、構成要素の性質や相互作用の様式が一見小さく変化するだけで、システムの結果が根本的に変化することがある（図2参照）。このような小さな変化は、通常のネットワークやランダムなネットワークではなく、特定のネットワーク上で起こる相互作用、均一ではなく空間的に変化する相互作用や構成要素、決定論的な振る舞いではなくランダムな「ノイズ」に左右されるものなどが考えられる31,32。

強い相互作用によるカスケード効果

私たちの社会は、相互依存性、相互接続性、複雑性が高まり、リアルワールドとデジタル世界を切り離すことができない生活を特徴とする新しい時代-グローバル情報化社会-を迎えようとしている（Box 2参照）。しかし、構成要素間の相互作用が「強い」ものになると、システム構成要素の挙動が他の構成要素の機能や動作を大きく変化させたり、損なわせたりすることがある。上記のような意味での強結合システムの典型的な特性は以下の通りである。(1)動的な変化が速く、システムの特徴的な挙動を知ることができる速度や、人間が反応できる速度を上回る可能性がある。(2)ある事象が引き金となり、増幅効果やカスケード効果4,5,14-20が発生し、摂動や変動、ランダム故障に対して大きな脆弱性を持つこと。カスケード効果は、多くのシステム構成要素や変数が安定状態から不安定状態へ高度に相関して遷移し、システムを平衡状態から脱却させることを意味する。(3)極端な事象は、正規分布の事象サイズに対して予想以上に頻繁に発生する傾向がある17,21。

現実のシステムにおける確率的なカスケード効果は、しばしば特定、理解、マッピングが困難である。「原因」と「結果」の間に決定論的な一対一の関係があるのではなく、事象の経路には多くの可能性があり（図3参照）、効果は難解な遅延を伴って発生することがある。

直感を覆すシステムの不安定性

強く結合した複雑なシステムを制御しようとすると、なぜ失敗することが多いのだろうか？システム障害は、関係者全員が高度な技術と高いモチベーションを持ち、適切に行動していても発生する可能性がある。このことを2つの例で説明しよう。

群衆災害

群衆災害は、複雑なシステムにおける制御が最終的に失敗することを示す、目を見張るような例である。誰も他人を傷つけたくないと思っていても、致命的な被害を受けることがある。詳細な分析により、システムの不安定性を引き起こす増幅的なフィードバック効果が明らかになった33,34。相互作用の強さは、群衆の密度が高くなればなるほど、人々の距離が縮まるにつれて大きくなる。密度が高くなりすぎると、不用意な接触力がある身体から別の身体へと伝達され、それが積み重なる。その結果、力の方向や大きさが大きく変化し、人々を押しやり、「群衆震動」と呼ばれる現象が発生する。この乱流によって、人々がつまずき、その上に他の人々が倒れるというドミノ倒し現象が発生する。また、倒れた人がすぐに立ち上がれないと、窒息死することもある。多くの場合、このような不安定な状況は、個人の愚かな行動や悪意によるものではなく、臨界密度以上の小さな揺らぎが不可避的に増幅されることによって発生する。したがって、群衆災害は、「よりよい行動」を課すことを目的とした取り締まりによって、単純に回避することはできない。ある種の群衆統制は、状況を悪化させる可能性さえある34。

金融メルトダウン

ほぼ10年前、投資家のWarren Buffettは、金融デリバティブの大規模な取引が経済に巨大な破滅的リスクをもたらすと警告した。同じ文脈で、彼は投資の「時限爆弾」と金融デリバティブを「大量破壊兵器」と呼んだ（参照：http://news. bbc.co.uk/2/hi/2817995.stm,accessed 1 June 2012)。5年後、金融バブルが崩壊し、何兆円もの株価が破壊された。この間、クレジット・デフォルト・スワップをはじめとする金融派生商品の総量は、世界の国内総生産の数倍にまで膨れ上がっていた。では、その崩壊の原因は何だったのだろうか。という英国女王の問いかけに、英国アカデミーは次のように結論づけた。誰もが自分の仕事を自分のメリットできちんとこなしているように見えた。そして、標準的な成功の尺度によれば、彼らはしばしばうまくやっていた。しかし、それがいかに相互に関連した不均衡の積み重ねであるかを理解することができなかった。個々のリスクは当然小さいと見なされたかもしれないが、システム全体に対するリスクは膨大なものだったのだ」(http://www.britac.ac.uk/templates/asset-relay.cfm?frmAssetFileID58285,accessed 1 June 2012を参照). 例えば、銀行システムにおけるリスク分散はリスクを最小化することを目的としているが、ネットワーク密度が高くなりすぎると、システミックリスクを生み出す可能性がある20。

図2｜囚人のジレンマゲームにおける協力の拡散と侵食

コンピュータ・シミュレーションでは、ペイオフ・パラメータT 5 7、R 5 6、P 5 2、S 5 1を仮定し、成功駆動型移動を含んでいる32。協力は誰にとっても有益であるが、非協力者は協力者よりも高いペイオフを得ることができ、これが協力を不安定にする可能性がある。グラフは、100回のシミュレーションの平均で、協力的なエージェントの割合を、接続密度（実際のネットワークリンク数を、すべてのノードが他のノードに接続されているときの最大リンク数で割ったもの）の関数として示している。初期には、リンク密度が増加すると協力が促進されるが、ある閾値を超えると協力が損なわれる。(関連動画はhttp://vimeo.com/53876434)コンピュータシミュレーションは100のノードを持つ円形のネットワークに基づいており、各ノードは4つの最近接ノードとつながっている。n個のリンクがランダムに追加される。50のノードはエージェントによって占拠されている。青い円は協力，赤い円は非協力的な行動，黒い点は空の場所を表す。初期状態では、すべてのエージェントは非協力的である。彼らのネットワークの位置と行動（協力か離反か）は4つのステップでランダムに逐次更新される。(1)エージェントはネットワーク上の直接の隣人と二人用の囚人のジレンマゲームを行う。(2)エージェントは交流の後，誰も行動を変えないと仮定して、既存のリンクに沿って、架空のプレイステップで最も高い報酬を与える空のノードへ確率0.5で最大4ステップまで移動する。(3)エージェントは、ステップ1で最も高いペイオフを得た隣人の行動を模倣する（エージェント自身のペイオフより高ければ）。(4)突然変異率0.1で行動を自発的に変更する。

Cooperation in Small World Model from Lucas Boettcher on Vimeo.

システミックな不安定性の原動力

表1は、システム不安定の一般的なドライバー32と、それに対応するシステム挙動の理解を難しくしているものをリストアップしたものである。現在の世界的なトレンドは、これらのドライバーのいくつかを促進する。これらは、当初は望ましい効果をもたらすことが多いが、時間の経過とともに人為的なシステムを不安定にする可能性がある。例えば、(1)システムサイズの増大、(2)資源節約のための冗長性の低下（安全マージンの喪失を意味する）、(3)ネットワークの高密度化（ネットワークの重要部分間の相互依存性の増大をもたらす、図2および4参照）、(4)イノベーションの高速化35（不確実性または「未知数」の生成）などがある。これらの進展は、「グローバル時限爆弾」を生み出す可能性があるのだろうか。(ボックス3参照）。

知識格差

挙動不審

複雑な相互作用と強力なカップリングが組み合わさると、驚くべき、潜在的に危険なシステム挙動17,30を引き起こす可能性があるが、これはほとんど理解されていない。現在、大規模ネットワークの科学的理解のほとんどは、特殊な、疎な、あるいは静的なネットワークの場合に限定されている。しかし、動的に変化し、強く結合し、高度に相互接続され、人口密度の高い複雑なシステムは、根本的に異なっている36。規則的な相互作用ネットワークを不規則なネットワークに置き換えた場合、起こりうるシステムの挙動と適切な管理戦略の数は圧倒的である18。言い換えれば、複雑系に標準的な解はなく、「悪魔は細部に宿る」のである。

さらに、既存の理論の多くは、実際のグローバルなリスク、危機、災害にどのように対応すべきかについて、あまり実践的なアドバイスを提供しておらず、経験則に基づくリスク軽減戦略はしばしば定性的なものにとどまっている37-42。ほとんどの科学的研究は、均質な構成要素、線形、弱いまたは決定論的相互作用、最適かつ独立した行動、あるいはシステムをうまく振舞わせるその他の好ましい特徴（滑らかな依存関係、凸集合など）といった理想化された仮定を立てている。これに対し、現実のシステムは、異質な構成要素、不規則な相互作用ネットワーク、非線形相互作用、確率的挙動、相互依存的決定、ネットワークのネットワークなどで特徴づけられる。これらの違いは、結果として得られるシステムの挙動を根本的に、劇的に、そして、予測不可能な方法で変化させる可能性がある。つまり、実世界のシステムはしばしばお行儀が悪い。

BOX 2グローバルな情報通信システム

脆弱なシステムとして特に注意を払うべきは、情報通信技術（ICT）11のグローバルネットワークである。これらの技術はグローバルな課題の解決に中心的な役割を果たすが、同時に問題の一部でもあり、例えば、個人情報の自己決定的な利用をいかに確保するかといった基本的な倫理問題を提起している。新たな「サイバーリスク」は、私たちが信頼できる情報通信システムに多大な依存をするようになったことから生じる。これには、個人に対する脅威（プライバシー侵害、個人情報の盗難、個人情報による操作など）、企業に対する脅威（サイバー犯罪など）、社会に対する脅威（サイバー戦争や全体主義的統制など）が含まれる。

グローバルなICTシステムは、何十億もの多様なコンポーネント（コンピュータ、スマートフォン、工場、自動車など）を含む、これまでに作られた最大の人工物となっている。デジタルとリアルの世界はもはや分断されることはなく、相互に織り成す一つのシステムを形成している。この新しい「サイバーソーシャル世界」では、デジタルの情報が現実の出来事を動かしている。これらすべての技術的・社会的・経済的な意味はほとんど理解されていない11。これらのシステムの極端なスピード、ハイパーコネクティビティ、大きな複雑性、生成される膨大なデータ量は、しばしば問題視されている。さらに、構成要素が自律的に判断することが多くなっている。例えば、金融取引の大部分をスーパーコンピューターが行っている。2010年5月6日の「フラッシュ・クラッシュ」は、その結果として起こりうる予期せぬシステム上の挙動を示している（http://en.wikipedia.org/wiki/2010_Flash_Crash,accessed 29 July 2012)。金融市場が再び回復するまでの数分間に、市場価値は1兆ドル近くも消失してしまったのだ。このようなコンピュータシステムは、環境に関する情報から学習し、将来への期待を膨らませ、自律的に意思決定、対話、コミュニケーションを行うことから、「人工社会システム」とみなすことができる。このようなシステムを適切に設計し、人間のニーズに適切に対応し、協調の失敗、協力関係の崩壊、紛争、（サイバー）犯罪、（サイバー）戦争などの問題を回避するためには、社会的相互作用システムに対するより良い、基礎的理解が必要である。

行動ルールは変わるかもしれない

既存のリスクモデルの多くは、社会システムの特殊性、例えば、システム構成要素のミクロレベルの挙動や特定の情報入力に対するマクロレベルの創発的ダイナミクスのフィードバックの重要性を無視している（Box 4参照）。現在では、たった一つの動画やツイートが、地球の裏側で致命的な社会不安を引き起こすかもしれない。このようなマイクロダイナミクスの変化は、システムの構成要素の故障確率を変化させることもある。

例えば、相互に依存するシステム部品がある確率で故障するかしないか、また、局所的な損傷がさらなる損傷の可能性を高めるようなケースを考えてみよう。その結果、故障のカスケードが大きくなればなるほど、それが大きくなる確率が高くなる。このことは、合理的な保険がかけられないようなグローバルな壊滅的リスク（図4参照）が発生する可能性を示している。カスケード障害が進行すると社会経済システムの回復能力が低下するため（回復に必要な貴重な資源がなくなる）、被害がまだ小さく、問題が脅威と認識されていない初期の段階でカスケードを阻止する強い取り組みが必要である。この重要なポイントを無視すると、コストがかかり、回避可能な損害を引き起こす可能性がある。

可能なパス実現したパス

図3｜ネットワーク化されたリスクを持つシステムにおける確率的なカスケード効果の図解

オレンジと青のパスは、同じ原因が、それぞれのランダムな実現によって、異なる影響を及ぼす可能性があることを示す。青と赤のパスは、異なる原因が同じ効果を持つ可能性があることを示している。カスケード効果を理解するには、少なくとも次の3つの要因に関する知識が必要である：システム内の相互作用、文脈（制度や境界条件など）、そして多くの場合、必ずしもそうではないが、引き金となる出来事（すなわち、ランダム性がシステムの時間発展を決定する場合がある）である。トリガーとなる事象の正確なタイミングは予測できないことが多いが、トリガー後のダイナミクスはある程度（確率的な意味で）予見できるかもしれない。システムの構成要素がランダムに動く場合、カスケード効果はどこからでも始まる可能性があるが、システムの弱い部分から発生する可能性が高い（例：交通渋滞は大抵既知のボトルネックから始まるが、常にそうとは限らない）。

基本的な不確実性と人為的な不確実性

特定の事象（例えば、ある大きさの損害の発生）の確率が特定できない不確実性を伴うシステムは、おそらく最も理解されていないものである。不確かさは、校正手順の限界やデータ不足の結果である場合がある。しかし、その起源が根本的なものである場合もある。あるシステムの出力変数が別のシステムの入力変数であるようなシステム同士を想定してみよう。さらに、最初の系は振る舞いの良い成分で構成され、その変数は平衡状態の周りに正規分布していると仮定しよう。それにもかかわらず、両者を強く接続すると、カスケード効果が生じ、出力変数がべき乗分布になることがある13．関連する累積分布関数の指数が22から21の間であれば、標準偏差は定義されず、21から0の間であれば、平均値さえ存在しない。したがって、第二のシステムの入力変数は任意の値をとりうることになり、第二のシステムの被害は、入力変数の実際の予測不可能な値に依存することになる。そうなると、たとえ世界中のあらゆるデータがあったとしても、結果を予測したり制御したりすることは不可能である。このような状況では、システムを壊滅的な故障から守ることはできない。このような問題は、以下に述べるように、システムの適切な（再）設計と適切な管理原則によってのみ解決されなければならず、また解決することができる。

設計と運用の原則

自己組織化を利用した複雑性の管理

システムがあるサイズや複雑さに達すると、アルゴリズムの制約により、リアルタイム最適化による効率的なトップダウン管理ができなくなることが多い。しかし、「ガイド付き自己組織化」32,43,44は、複雑な力学系をボトムアップで管理する有望な代替方法である。その基本的な考え方は、自己組織化しようとする複雑系の内在的な傾向を、戦うのではなく、利用し、それによって安定した秩序ある状態を作り出すことである。そのためには、適切な種類の相互作用、適応的なフィードバック機構、および制度的な設定が重要である。システムの構成要素が自己組織化できるような適切な「ゲームのルール」を確立し、ルールの遵守を保証するメカニズムを含めることで、トップダウンとボトムアップの原則を融合させ、非効率なマイクロマネジメントを回避することができる。最適でない解決策やシステムの不安定性を克服するためには、相互作用のルールや制度的な設定を変更する必要がある場合がある。例えば、対称的な相互作用は、しばしば、バランスのとれた状況を促進し、最適なシステム状態へと発展させることができる32。

信号機制御は、複雑性を管理する上で進行中のパラダイムシフトを説明する良い例である。古典的な制御は「慈悲深い独裁者」の原理に基づいている。交通管制センターは都市から情報を収集し、最適な交通信号制御を行おうとしている。しかし、リアルタイムでの最適化には問題が大きすぎるため、制御方式はある曜日と時間帯の典型的な交通の流れに合わせて調整される。しかし、この制御は、車両の到着速度のばらつきが大きく、実際の状況に対して最適とは言えない。

そこで、交通流を柔軟に「自己制御」することで、交通時間の大幅な短縮と予測可能性を実現することができる45．これは、短期的に予測される車両の流れにリアルタイムで適切に対応し、それによって近隣の交差点を調整することに基づくものである。複雑性を管理するための分散化原理は、情報通信システムにおいても利用されており46，エネルギー生産においてもトレンドになりつつある（「スマートグリッド」47)．同様の自己制御原理は、物流や生産システム、あるいは行政プロセスやガバナンスにも適用できるだろう。

ネットワーク化されたリスクへの対処

ハイパーリスクに対処するためには、リスクコンピテンシーを開発し、起こりうるあらゆる種類の故障のカスケードに対するコンティンジェンシープランを準備し、実行することが必要である4,5,14-20。その目的は、レジリエントな（「寛容な」）システム設計と運用を達成することである48,49。

覚えておくべき重要な原則は、一次系と並行して稼働し、安全なフォールバックレベルを確保するバックアップシステムを少なくとも1つ持つことである。バックアップシステムは、同じ理由で両方のシステムが故障するのを避けるために、異なる原則に従って運用・設計されるべきであることに注意する。多様性は、システムのレジリエンス（衝撃を吸収し、あるいは衝撃から回復する能力）を高めるだけでなく、システムの適応性とイノベーションを促進する可能性がある43。さらに、多様性は、システムのすべての構成要素が同時に故障する可能性を低くする。その結果、弱いシステム構成要素の早期の故障（臨界変動）は、差し迫ったシステミックな不安定性の早期警告シグナルを発することになる50。

ハイパーリスクを減らすためのもう一つの原則は、起こりうる災害の規模に上限を設けるために、システムの大きさを制限することである。このような制限は、リアルタイム・フィードバックによって、他の部分がカスケード効果によって損害を受ける前に、システムの影響を受けた部分を分離することができれば、動的な方法で確立することもできるかもしれない。十分に迅速な動的結合解除が確保できない場合は、弱い構成要素（ブレークポイント）をシステムに組み込むことができる、できれば被害が比較的小さい場所に。例えば、電気回路のヒューズは、局所的な過負荷による大規模な損傷を避ける役割を担っている。同様に、自動車のクラッシュゾーンは、事故の際に人間を保護するために作られたものである。さらに、管理可能な状態を作り出すメカニズムを組み込むことも重要な原則であろう。例えば、システムダイナミクスがあまりにも急速に展開し、制御不能に陥る危険性がある場合、摩擦効果（金融市場が下落したときに発動する金融取引手数料など）を導入して、システムの動きを遅くすることができるだろう。

また、制御変数が、支配される構成要素が調整できる時間スケールに対してあまりに速く変化すると、システム内の動的プロセスが非同期化する可能性があることに注意する必要がある51。例えば、安定した階層型システムは、通常、上層部ではゆっくりと、下層部では非常に速く変化する。上層が下層に及ぼす影響が強くなりすぎると、階層構造の機能性や自己組織化が損なわれる可能性がある32．

図4｜カスケード拡散は障害が進行するほど回復が困難になる。

 

このシミュレーションモデルは、周期的な境界条件とランダムなショートカットリンクを持つ50 3 50の2次元グリッドにおいて、航空交通と治癒コストによる空間的な疫病の広がりを模倣したものである。色付きの挿入図は、N 5 2,500ノードのシミュレーションの初期スナップショットを示している。赤いノードは感染しており、緑のノードは健康である。ショートカットリンクは青色で表示される。接続性依存のグラフは、50回のシミュレーション実行における感染ノードの割合i(t)/Nの平均値と標準偏差を示している。ほとんどのノードは4つの直接の隣接を持つが、少数のノードは遠くのノードへの追加の有向ランダム接続を持っている。自然感染率は時間ステップあたり、s 5 0.001であり、感染した隣接ノードによる感染率は P 5 0.08である。

新たに感染したノードは他のノードに感染するか、次の時間ステップ以降に回復する可能性がある。回復のためのコストc 5 80を負担するのに十分な予算b. cがある場合，回復の割合は q 5 0.4である。回復に必要な予算は健康なノードの数h(t)によって作られる。したがって、時間tにおいてr(t)個のノードが回復している場合，予算は b(t 1 1) 5 b(t) 1 h(t) 2 cr(t)に従って変化する。予算が使い切られると同時に、感染が爆発的に拡大する。(http://vimeo.com/53872893の動画も参照)。

最後になるが、接続性を低下させることは、システムの結合強度を低下させることにつながる。これは密なネットワークから疎なネットワークへの変化を意味し、伝染性の拡散効果を低減することができる。実際、疎なネットワークは生態系に特徴的であるようだ52。

上記の安全原則は論理的に聞こえるかもしれないが、世界の金融システムのような強く結合した複雑なシステムの設計と運用では、これらの予防措置がしばしば無視されてきた20,53,54。

今後の課題

これまでの知見にもかかわらず、私たちの前にはまだ多くの課題がある。例えば、今回の金融危機は、私たちの理論的知見の多くが、まだ現実の政策に反映されていないことを示している。

経済危機

経済学の主流は、「均衡パラダイム」と「代表エージェントアプローチ」の2つの柱で成り立っている。均衡パラダイムによれば、経済は均衡状態に向かって進化するシステムであると見なされる。バブルやクラッシュは起こらないはずであり、それ故に予防措置も必要ない。急激な変化は外的ショックによってのみ引き起こされる。しかし、システム要素間の相互作用によって、たとえすべての構成要素が平衡状態まで緩和しても、カスケード効果が増幅されることは、あまり認識されていないようである55,56。

代表的な（平均的な）個人が最適な判断をするように企業が行動すると仮定した代表エージェントモデルは、より一般的であり、動的なプロセスを記述することができる。しかし、ランダムな事象、システムの構成要素の多様性、システムの歴史、変数間の相関が重要な場合、このモデルはプロセスをうまく捉えることができない。代表的なエージェントモデルは、全く同じ相互作用規則を仮定したエージェントベースコンピュータシミュレーションとは逆の予測をすることもある32(図2参照)。

BOX 3人類は「地球規模の時限爆弾」を作ってしまったのか？

長い間、群衆災害や金融危機は、不可解で無関係な、「神から与えられた」現象であり、ただ耐えなければならないものと思われていた。しかし、複雑なシステムが制御不能になるメカニズムを把握することは可能である。システムの構成要素の相互作用が摩擦効果よりも強くなったとき、あるいは障害を受けたシステムの構成要素が他の構成要素に与えるダメージが、正常な状態への回復よりも速く起こるとき、増幅効果が生じ、障害カスケードが促進される可能性がある。

ある種の相互作用ネットワークでは、関連するカスケード効果が核分裂の連鎖反応と類似していることが気になる（Box 3図参照）。このような過程は制御が難しいことが知られている。壊滅的な被害が現実的なシナリオである。このようなカスケードメカニズムの類似性を考えると、私たちの世界的な人為的システムは、遅かれ早かれ制御不能に陥る可能性があるのだろうか？つまり、人類は意図せずして「地球時限爆弾」のようなものを作ってしまったのだろうか？

もしそうだとしたら、複雑な社会に生きる人間は、どのような地球規模の破局的シナリオに直面することになるのだろうか。グローバルな情報通信システムや世界経済の崩壊？世界的な情報通信システムあるいは世界経済の崩壊？世界的なパンデミック6-9？持続不可能な成長、人口動態、環境の変化変化？世界的な食糧危機やエネルギー危機？有毒物質の大規模な拡散？文化的衝突83?別の世界規模の紛争84,85?

あるいは、より可能性が高いのは、これらの伝染現象のいくつかの組み合わせ（「パーフェクト・ストーム」1)か？このようなグローバルなリスクを分析する際には、そのスピードに留意する必要がある。このようなグローバルなリスクを分析する場合、破壊的なカスケード効果の速度は遅く、その過程は爆発のようには見えないかもしれないことを念頭に置く必要がある。とはいえ、このプロセスは止めるのが難しい。例えば、群衆災害の根底にある力学はゆっくりではあるが、致命的である。

今後のパラダイムシフト

平衡モデルも代表エージェントモデルも、基本的に確率的カスケード効果とは相容れないものであり、両者は異なるクラスのモデルである。カスケード効果によってシステムは以前の状態（平衡状態）を離れ、また、起こりうる事象の経路が全く異なるため、代表的なダイナミクスは存在しない（図3参照）。さらに、技術革新や製品の普及もカスケード効果を伴うことを考えると57,58、今日の経済では、カスケード効果は例外ではなく、むしろ原則であるとさえ言えそうである。このことは、新しい経済学的思考を要求している。現在適用されている多くの理論は、統計的に独立した最適な意思決定が行われることを前提としている。このような理想化された条件下では、金融市場は効率的であり、群れ効果は発生せず、規制のない、自己に関する行動がシステムのパフォーマンスを最大化し、すべての人に利益をもたらすことができると示すことができる。これらのパラダイムの中には、何世紀も前のものでありながら、いまだに政策決定者に適用されているものがある。しかし、経済的な意思決定が強く結合し、カスケード効果が頻繁に起こる世界では、このような概念に疑問を持たなければならない54,59。

BOX 4社会的要因とソーシャルキャピタル

21世紀の課題の多くは、社会的要素を含んでおり、テクノロジーだけでは解決できない86。社会的相互作用システムは、それが社会システムや経済システム、人工社会、あるいは私たちの仮想世界とリアルワールドのハイブリッドシステムであれ、いくつかの特殊な特徴を持ち、それはさらなるリスクを意味するものである。構成要素（たとえば個人）は（不確かな）将来予想に基づいて自律的な決定を下す。彼らは複雑でしばしば曖昧な情報を生成し、それに反応する。それらは認知の複雑さを有する。彼らは個人の学習履歴を持っており、したがって現実の異なる主観的な見方を持っている。個人の好みや意図は多様であり、利害の対立を意味する。行動は文脈に微妙に依存することがある。例えば、マクロスケールで出現する社会力学に呼応して、人々の行動や相互作用の仕方が変化することがある。これはまた、新しい種類の相互作用を通じて、意外な結果や「未知の未知」を生み出すかもしれない革新的な能力を意味する。さらに、ソーシャルネットワークの相互作用は、信頼、連帯、信頼性、幸福、社会的価値、規範、文化といった社会資本43,87を生み出す可能性がある。

システミック・リスクを十分に評価するためには、ソーシャル・キャピタルの理解を深めることが重要である。ソーシャルキャピタルは、経済的価値の創出、社会的福利、社会の回復力にとって重要であるが、環境のように毀損されたり、搾取されたりする可能性がある。そのため、人間はソーシャルキャピタルを定量化し、保護する方法を学ぶ必要がある36。警告的な例として、金融危機の際に株式市場で何兆円もの損失が発生したが、これは信頼の喪失が主因であった。今日のリスク保険は、社会資本へのダメージを考慮していないことを強調することが重要である。しかし、大規模災害が社会的に不釣り合いな影響を与えることは知られており、それは社会資本が破壊されることと関係している。リスク評価において社会資本を無視することは、合理的なリスクよりも高いリスクを取ることになる。

地球システム科学

長い間、人類はシステムの障害は「システムの外」に起因すると考えてきた。それ以外の方法で障害が発生することを理解することは困難だったからだ。しかし、人為的なシステムにおける災害の多くは、誤った考え方、ひいては不適切な組織やシステム設計に起因している。例えば、お行儀の良いシステムの理論を、お行儀の悪いシステムに適用してしまうことがよくある。

21世紀の問題の多くが社会経済的な問題を含んでいることを考えると、私たちは複雑系に関する知識と整合性のある経済システムの科学を開発する必要がある。世界が変化するペースに私たちの理解と能力が追いつけるように、科学とイノベーションを加速するための大規模な学際的研究努力が不可欠である（「イノベーションの加速」11)。

以下では、自然科学、工学、社会科学の知識を統合し、現実のシステムに適用することが、既存のどの分野にも属さない大きな課題であることを強調するために、グローバルシステム科学という用語を使用することにする。複雑なシステムの構造、ダイナミクス、機能的特性の相互作用については、まだ多くの未解決の問題がある。また、異なる種類のネットワーク間のグローバルな相互依存関係についても、十分な概観が得られていない。グローバルシステム科学の確立は、特に人間的、社会的要因の役割に関して、これらの知識のギャップを埋めるものである。

例えば、認知能力と進化する特性を持つ学習型エージェントのエージェントベースのコンピュータシミュレーション32,61-63を行うなど、計算社会科学60を進展させる必要がある。また、理論的・計算的手法と実証的・経験的手法との密接な統合が必要であり、これには対話型多人数シリアスゲーム64,65、労働実験やWeb実験、大規模活動データのマイニング11が含まれる。さらに、ネットワーク上のリスクを計算するための優れた手法もない。現代の金融デリバティブは、多くのリスクをパッケージ化している。もし、構成要素のリスク間の相関が時間的に安定していれば、コピュラ法66は合理的なモデリングフレームワークを提供する。しかし、相関関係は世界の金融システムの状態に強く依存する67。したがって、ネットワークにおけるリスクの相互依存と伝播の現実的な計算方法、リスクの吸収方法、モデルのキャリブレーション方法などを学ぶ必要がある（Box 5参照）。そのためには、確率論、ネットワーク理論、複雑系科学と大規模なデータマイニングの融合が必要である。

複雑系とシステミックリスクの理解を深めるためには、「ビッグデータ」（大量のデータ）の収集と、相互依存システムの現実的な説明モデルを開発・検証するための強力な機械学習技術の開発にも大きく依存する。詳細な活動データと安価でユビキタスなセンシング技術の利用可能性が高まることで、これまで想像もつかなかったようなブレークスルーが可能になるだろう。

最後に、新しい種類の構成要素、相互作用、相互依存関係をグローバルシステムに導入することは危険であることを考えると、統合的なシステム設計の科学が必要である。システムの構成要素がうまく機能するだけでなく、好ましいシステムの相互作用と結果を保証する適切な相互作用規則とシステムアーキテクチャを精緻化する必要がある。特に、意識と責任ある行動を促進する、価値に敏感な情報システムおよび金融取引システムを設計することが課題である11。誤用を最小限に抑えるオープンな情報プラットフォームを構築するにはどうすればよいのだろうか。プライバシーの侵害や個人を操作することを避けるにはどうすればよいのか。社会・経済・政治への市民の参加を促進するには？複雑で強く結合したシステムに適した設計と運用の原則を見出すことは困難である。しかし、生態系52、免疫系68、社会システム32からインスピレーションを得ることができる。社会的相互作用のあるシステムをうまく機能させる（あるいは機能させない）原理を理解することで、社会からヒントを得た設計・運用原理の発明を促進することができるだろう11。これには、評判、信頼、社会規範、文化、社会資本、集合知などが含まれ、これらはすべて、サイバー犯罪に対抗し、信頼できる未来のインターネットを設計するのに役立つ可能性がある。

BOX 5　現在のリスク分析を超えて

最先端のリスク分析88には、まだいくつかの欠点があるように思われる。

• (1）希少事象を記述する確率分布やパラメータ（パラメータの時間的変動も含む）の推定が不十分であることが多い。
• (2)複数の不幸な希少事象が重なる可能性が過小評価されがちである（ただし、重なる可能性は膨大である）。
• (3)古典的なフォールトツリーとイベントツリー解析37(http://en.wikipedia.org/wiki/Faultツリー解析とhttp://en.wikipedia.org/wiki/Event tree,both accessed 18 November 2012も参照)では、フィードバックループが十分に考慮されていない。
• (4)増幅効果や系統的不安定性を理解することが重要であるにもかかわらず、確率論的故障解析と複雑ダイナミクスとの組み合わせはまだ一般的でない。
• (5)過失，無責任あるいは不合理な行動，欲，恐怖，復讐，認識の偏り、ヒューマンエラーなどの人的要因の関連性が過小評価されがちである30,41.
• (6)社会資本の価値を含む社会的要因が一般的に考慮されていない。
• (7)既存の考え方の根底にある共通の前提が十分に問われず、不確実性や「未知なる未知」を特定する試みが不十分な場合が多い。最悪の災害のいくつかは、それが起こりうるということを想像せず、それに対して警戒しなかったために起こったものである42。
• (8)経済的、政治的、個人的な誘因が、リスクの推進要因として十分に分析されていない。

多くのリスクは、リスクテイク、過失、危機から利益を得る可能性のあるステークホルダーを探すことで、明らかにすることができる。システム的な変化を通じて新たな機会を創出しようとするリスク追求戦略は、主に不確実性の高い条件下で期待される。なぜなら、こうした条件下では議論の余地が多く、したがって規制が不十分であることが特徴であるからだ。

より良いリスク評価とリスク低減を実現するためには、個人や組織の意思決定者の透明性、説明責任、責任感、自覚が必要である11,36。現代のガバナンスは時に責任を希薄化させ、誰も責任を負えなくなり、その結果、破滅的なリスクが発生することがある。金融危機はその好例であろう。問題の一端は、クレジット・デフォルト・スワップやその他の金融派生商品が現代の金融保険商品であり、リスクを引き起こした個人や組織から他者に移転し、それによって過剰なリスクテイクを助長していることにあると思われる。従って、個人あるいは機関が、発生した損害に対して、それまでの（あるいはその後の）利益に比例して責任を負うという、集団責任の原則を確立することが必要ではないだろうか。

新たな探査手段

相互作用とグローバルな相互依存に強い焦点を当てたグローバルシステム科学を促進するために、FuturICTイニシアチブは、新大陸や宇宙を探査するために以前に開発された望遠鏡に類似した、新しい、オープンな探査装置（「ソシオスコープ」）を構築することを提案する。そのような装置のひとつは、「惑星神経システム」11と呼ばれ、地球規模の技術・社会・経済・環境システムの状態とダイナミクスを反映したデータを処理するものである。インターネットデータとセンサーネットワークによって収集されたデータを組み合わせることで、世界の状態をリアルタイムで測定することができる69。このような測定は、物理的・環境的な状況を反映するだけでなく、「ソーシャルフットプリント」11、つまり、人間の意思決定や行動が社会経済システムに与える影響も定量化する必要がある。例えば、一人当たりの国内総生産よりも優れた社会的福利の指標、すなわち環境要因、健康、人的・社会的資本を考慮した指標を開発することが望ましいだろう（ボックス4およびhttp://www.stiglitz-sen-fitoussi.fr、http://www.worldchanging.com/archives/010627.html参照）。また、惑星神経システムは、起こりうる問題や機会に対する集団的な認識を高め、それによって私たちが間違いを回避するのに役立つだろう。

惑星神経システムによって生成されたデータは、「生きている地球シミュレーター」11に利用することができる。このシミュレーターは、私たちの世界の関連する側面について、単純化されてはいるが十分に現実的なモデルをシミュレーションするものである。天気予報と同様に、人為的なシステムと情報に対する人間の反応をモデル化することを学ぶにつれて、私たちの世界とその起こり得る展開について、次第に正確なイメージが得られるようになるだろう。このような「政策風洞」は、what-ifシナリオを分析し、戦略的選択肢とその可能な意味を特定するのに役立つだろう。これは、政治的意思決定者、ビジネスリーダー、そして市民が、困難な問題をより良く、多角的に把握するための新しいツールとなることだろう。

最後に、「グローバル参加型プラットフォーム」11によって、これらの新しいツールは誰もがアクセスできるようになり、クラウドソーシングや共同アプリケーションのためのインタラクティブなプラットフォームを含む、オープンな「情報エコシステム」を構築することができるようになる。そこで生成される活動データによって、人間の意思決定や集団行動に関する統計的法則を明らかにすることもできるだろう64。さらに、可能性のある未来（都市部の代替デザイン、金融アーキテクチャ、意思決定手順など）を探求するために、インタラクティブな仮想世界65を作ることも考えられるだろう。

考察

私は、システムの構成要素が、分離された状態では無害で予測可能であっても、緊密に結合されると、予測不可能で制御不能なシステミック・リスクを引き起こす可能性があることを説明した。したがって、地球規模の人為的なシステムの不適切な設計や管理は、壊滅的な故障の可能性を生み出すのである。

今日、人災から身を守るために必要な多くの安全対策が、理論的な理解が不十分なため、そしてその結果、誤った政策決定がなされたため、実施されていない。人為的なシステムにおける危機や災害を「自然なもの」、つまり外部の混乱から生じる事故であると考えるのは危険である。また、複雑なシステムはうまく制御できるとか、社会経済システムは自動的に修復されるといった誤った考え方もある。

このような考え方は、社会に大きなリスクをもたらす。しかし、人災はシステム的なものであるため、誰かの責任にすることは難しい。したがって、古典的な自己調整メカニズムやフィードバック・メカニズムでは、起こりうる災害を回避するための責任ある行動を確保することはできない。また、問題が個人や企業の行動にあるのではなく、それらの間の相互依存関係にある場合、現在の法律ではうまく対処できないようだ。

「ビッグデータ」の利用可能性が高まるにつれ、世界をより予測しやすく制御しやすくすることができると期待されるようになった。確かに、リアルタイムマネジメントは、フィードバックの遅れや情報不足によって引き起こされる不安定性を克服できるかもしれない。しかし、そこには重要な限界がある。データが多すぎると、信頼できる情報とあいまいな情報、あるいは不正確な情報との区別が難しくなり、誤った情報に基づいた意思決定が行われる可能性があるからだ。

もし、ある国が世界中のコンピュータとデータをすべて手に入れたとしたら、政府は皆のために最善の決定を下すことができるだろうか。そうとは限らない。世界はあまりにも複雑で、トップダウンでリアルタイムに最適化することができないからだ。影響を受ける（近隣の）システム構成要素との分権的な調整により、地域のニーズに適合したより良い結果を得ることができる45。これは、地域の資源を活用した参加型アプローチが、より成功することを意味する。また、このようなアプローチは、擾乱に対してより耐性がある。

今日の人為的なシステムにおいては、予測は短期間かつ確率的な意味においてのみ可能であると思われる。世界中のすべてのデータを集めても、未来を予測することはできない。しかし、どのような条件下でシステムがカスケードを起こしやすいか、起こさないかを判断することはできる。また、システムの弱い部分を利用して、早期警戒信号を出すこともできる。しかし、安全対策を怠ると、自然発生的なカスケードが止められなくなり、壊滅的な被害を受けるかもしれない。つまり、予測可能性と制御可能性は、適切なシステム設計と運用の問題なのである。これをどう実用化するか、カスケード効果のプラス面をどう利用するかは、21世紀の課題であろう。例えば、カスケードは信号機45や車の流れ70の大規模な協調を生み出すことができるし、情報やイノベーション57,58、幸福71、社会規範72、協力31,32,59の普及を促進することができる。カスケード効果を抑制することで、今後100年の課題に対処するために必要な集団的努力を結集させることができるかもしれない。

2012年8月31日受領、2013年2月26日受理。