Contents
medium.com/@bcmark/complex-systems-part-1-old-beliefs-are-failing-in-a-complex-world-e7df1393676c
マーク・C・バランディーズ
4月5日
海面上昇、社会不安、銀行危機、軍事紛争など、世界はますます相互に関連した課題に直面しており、グローバル化した社会はその対応に効率的でなくなっているように思われる：
私たちの世界のレジリエンスは低下している。
特に、望ましい生活環境（例えば、大気中のCO2濃度を下げるなど）を実現するためのマネジメントができなくなっている。これは、変化する社会の中で、私たちがどのように意思決定をし、その実行をコントロールしているのか、その方法が時代遅れであることが主な原因だと思う。説明しよう。
コントロールへの挑戦
まず、ある例から見てみよう：ドイツ社会は、CO2排出量を削減することを規範的に決定したため、2つのトップダウン施策を導入した：第一に、バイオガスへの補助金、第二に、規制によってバイオ燃料の利用を促進することである。
しかし、このCO2排出量削減の善意は、設計時には予想もしなかった副作用をもたらした。例えば、ドイツでは大規模な単一栽培が行われ、現在では地域の環境の生物多様性、土壌肥沃度、地下水質が脅かされている。
この副作用は、連鎖効果によってさらに悪化した：ドイツでエネルギー作物を栽培する方が経済的に有利になったため、飼料生産は世界の他の地域に委託され、これらの地域の農業用地が増加することになった。その結果、アマゾンの森林伐採が進んだ。
つまり、直感に反する負のフィードバックループが起きているのである：CO2を削減しようとした結果、大気中のCO2が増加してしまったのだ（アマゾンは伝統的に最大の炭素吸収源のひとつであるため）。
ネットワーク化されたシステムにおける原因と結果最初のCO2削減は、副次的効果や連鎖的効果を経て、最初の意図とは矛盾するフィードバックループになる：CO2が環境中に放出される
これらのことから、社会を改善するために中央集権的なコントロールアプローチを用いることは、失敗していると考えられる。
この結論を受けて、現在、機械学習/AIによってシステムの望ましい状態を集中的に制御する「新しい」アイデアが登場している。しかし、このようなアイデアはいくつかの問題に直面している。実用的な課題（例えば、異なるアルゴリズムはしばしば収束しない、バイアスを含む、使用するデータセット/ハードウェアに敏感であるなど）のほかに、哲学的な課題もある。AI/機械学習アルゴリズムの学習対象となる）過去は、未来を予測することができるのか？
さらに、特にこのような機械学習/AIアルゴリズムを適用する場合、望ましい目標に対して制御しようとするとき、規範的な課題がある：
最適化・制御し、AIアルゴリズムが学習する正しい目標（機能）とは何か（例えば、CO2の削減）、どのように知ればよいのか。また、CO2の削減と生活水準の向上、幸福や自由の最大化など、さまざまな目標にどのような重み付けをすればよいのだろうか。
規範的な挑戦
例えば、大気中の二酸化炭素を減らすなど）、あるいは、安全保障と自由を両立させるなど、どのようなトレードオフを受け入れるか。
最適化・制御したい目標（機能）は何なのか？
従来は、この目標機能の決定を、社会の多かれ少なかれ中央集権的な存在に委ねていた：
- かつて教会は、聖典である聖書の解釈を通じて、司祭キャストを介して正しいゴール機能を決定していた。その結果、例えば同性婚が禁止されるなど、今にして思えば非常に物議を醸すような社会的なゴール機能が生まれた。
- その後、教会は時代とともに国家（場所によって多かれ少なかれ民主的である）に取って代わられた。国家は、善悪に関する知識の担い手となり、その知識を法律にまとめ、法学者によって解釈されるようになった。国家はその機関を通じて、社会にとって正しい目標機能を定義する知識を持つようになった。例えば、何が合法的な消費（例えばアルコール）で何が違法（例えば大麻）か、などである。
- 現在、国家は徐々に企業、特に大規模なIT企業に取って代わられつつあるようだ。これらの組織は現在、適切なゴール機能の知識を持ち、例えばヘイトスピーチとは何か、検閲とは何か、言論の自由とは何かを知っているプログラマーのカーストが書き、解釈した巧妙なアルゴリズムによって実装されている。
これらの異なるアプローチは、（自分や社会にとって）正しいゴール機能がどのようなものだろうかは中央集権的な存在は知ることができ、個人である自分にはそれを知ることはできないという共通の前提から導き出されている。しかし、これまでの例が示すように、このような中央集権的な考え方で意思決定を行うと、個人レベルでは愛する人と一緒にいられない、社会レベルでは麻薬戦争による刑務所人口の増加など、苦しみをもたらすような目標機能がしばしば発生する。
将来、IT企業はAI/機械学習によって、これらの目標機能を教師なし学習などで公正かつ公平に決定し、重み付けする立場になるだろうと、今（再び）主張するかもしれない。しかし、前節で述べた実用的・哲学的な課題に加えて、もう一つ、組み合わせ的な課題がある。この課題は、すでに述べたものと関連しており、実は、正しい目標関数を知り、その実装を制御する中央機関（AIなど）を信じることを根本的に損なう、より深い原因を持っている。
その原因は、私たちの世界は複雑であるということ
私たちの世界は、上図のように高度に相互接続されたグラフとして表すことができる複雑なシステムである。実際にはネットワークのネットワークである。そして、このネットワークの特徴は、システムの全体的な挙動を決定するのは、もはやシステム内のノードではなく、これらのノード間の接続であるという事実である。別の言い方をすれば、私たちの世界のような複雑系は、その部分の総和を超えるものなのである。
その結果、しばしば直感的でないと思われるシステム動作が発生する：例えば、因果関係は、複雑でない世界で慣れ親しんだようには機能しないようだ。これは、バタフライ効果で説明される：例えば、蝶の羽ばたきが竜巻を引き起こしたり、上記の例のように、バイオ燃料の導入が熱帯雨林の伐採につながったりする。しかし、その逆もあり得る。システムに大きな影響があっても、集合的なレベルでは何も変化していないこともある。
私たちの世界は複雑であるだけでなく、その複雑さは日を追うごとに増している。毎日、ノード間のリンクが追加され、その結果、複雑さは組み合わせ的に成長している。これは、実は指数関数的な成長よりも強い成長なのだ。
“多くの相互作用する構成要素を持つ複雑な力学系では、個々の構成要素の特性をすべて完璧に把握していても、構成要素が相互作用した場合に何が起こるかを必ずしも予測することはできない。実際、相互作用は新たな「創発的」なシステム特性を引き起こすかもしれない。” - ダーク・ヘルビング
さらに問題を複雑にするのは、複雑なシステムの個々のパーツ間の相互作用が、新たな創発的なシステム特性を導き出し、個々のパーツにフィードバック効果を与えて、さらに複雑さを増すことである。
既存の処理能力とデータ量と比較したシステム的な複雑性の成長により、複雑なシステムにおいて制御と決定を行うためにコンピューティングパワーを使用することの欠点が示されている。画像はHelbing, D.et al.(2019)から引用した。民主主義はビッグデータと人工知能を生き残れるだろうか？
処理能力もデータ量も同じペースで増えているわけではないので、計算機/アルゴリズム/AIによる解決方法では、正しい目標機能やそのトレードオフを特定するという規範的な問題を解決できない。なぜなら、利用するデータセットや近似/モデル化した複雑さについて妥協する必要があるため、先に例示したように個人/社会の苦痛をもたらす可能性のある体系的なバイアスがその解決方法でも存続するからだ。
ここから得られるのは、新たな特性、複雑さの組み合わせ的な増大、そして前述の現実的・哲学的な課題により、この複雑な世界の個々のノードやAI知能でさえも、物事が将来どうなるのか、将来の有益な状態がどのようなものになり得るのかを知ることはできず（規範的課題）、バタフライ効果などの効果によりそれを実行するためのステップがどのようになるべきかということ（コントロール課題）である。
（複雑な）システムを管理する唯一のメカニズムとして、中央集権的なコントロールと意思決定という古い信念を持っている人は、このことを憂鬱に感じるかもしれない。しかし、幸運なことに、私たちはこれらよりも多くのツールを利用することができる。
解決方法
この解決策には、トップダウンの管理・意思決定からボトムアップの調整・協力へと考え方を根本的に変える必要があり、いくつかのツールで構成されている。私の考えでは、これらのツールはすべて、ある非常に重要な要素に基づいている：
それは、あなただ。
世界をより良く変えるために、あなたは自分の力について学ぼうと思うか？もしそうなら、このミニシリーズの次のパートに乞うご期待：
複雑系 – 第2回：ボトムアップの解決方法で複雑性を管理する
第1回では、複雑なシステムにおける階層的な意思決定と制御の欠点について見ていた。このミニシリーズの第2部では、このようなシステムを効果的に管理するために証明されている3つの解決策を紹介する。これらの解決策は、非常に根本的な考え方の転換から生まれるものである：すなわち、トップダウンの制御と意思決定から、ボトムアップの調整と協力へというもので、その成功には非常に重要な要素が必要である：
それは、あなただ。
世界をより良く変えるために、この力を知りたいと思わないか？それなら、はじめよう。
解決方法1 ：意思決定のためのコレクティブインテリジェンス
1906年、数学者ガルトンは、牛の体重を当てる品評会で、最初の解答に目を留めた。ガルトンは、正確な重さを当てた人はいなかったが、すべての推測の平均が牛の重さをほぼ正確に表していることを発見した。この現象は再現性があり、「群衆の知恵」（相互作用がない場合）または「集合知」（行為者間の相互作用がある場合）と呼ばれている。
群衆の知恵/集合知の効果の説明図。
それは、集団内の個人が真実を知る必要はなく、その個人間の集団的な相互作用によって真実が出現しうるというものである。つまり、真実の知識は、複雑なネットワークのノード間のつながりの中にあるのである（第1回参照）。
集合知は、牛の体重を特定するような、より複雑な課題にも活用できる。
“インターネット接続だけで武装した3,000人の一般市民のグループは、しばしばCIAのアナリストよりも優れた世界的事象の予測を行っている。”
例えば、「Good Judgement Project」では、一般市民を対象に、「北朝鮮が次にミサイルを発射するのはいつか」「ヨーロッパの難民運動はどう展開するか」など、将来の世界情勢について質問した。すると、機密情報にアクセスできるCIAのアナリストよりも、こうした市民の方が将来の世界情勢をよく予測していることがわかった。
この結果は重要だ。
そのため、民主主義国家は機能するのだという意見もある：国民の多くを意思決定に参加させることで、独裁体制よりも未来を察知しやすくなり、環境の変化に対応するために必要な変化に火をつけることができる。
このような方向性の研究の中で興味深いのは、予測市場である。
では、集合知はどのように機能するのだろうか。それは、次の3つのステップが保証されていれば、複雑なシステムでも実際に出現させることができる：
- 透明で偏りのない情報源に自由にアクセスできることは、出発点として不可欠。
- 特に、イノベーションには、伝統的に「私的領域」と呼ばれる保護された環境の中で、実験や失敗をすることを可能にする文化的環境が必要。
- 情報発信源にフィードバックする自由な情報交換ができること。
集団的知性は、透明性のある情報への自由なアクセス、私的で独立した意見形成、自由な情報交換を必要とする。
興味深いことに、世界中の民主主義国家は、この集合知の異なる側面を強調しているようだ。例えば、アメリカは言論の自由を重視し、ドイツ語圏はプライバシーを重視し（これは「憲法」にも明記されている）、スカンジナビア諸国は透明な情報へのアクセスを重視する（例えば、他人の納税額を公開するほど（これは実際にドイツ人を憤慨させることがある。:) ）。
この3つの要素を組み合わせることで、新たなメリットが生まれる。
解決方法2 ：意思決定のためのデジタルデモクラシー
デジタル・デモクラシーは、複雑な世界から生じる課題にうまく対処するための民主主義システムのアップグレードとして現在議論されている。
うまくいけば、社会の集合知を利用し、それをデジタルツールと組み合わせることで、最高のアイデアを抽出し、組み合わせ、実行することができる。このコンセプトの紹介は、こちらとこちらとこちらで見ることができる。利用されているコンセプトは、例えば市民会議（例：市民議会）、領事プラットフォーム（例：vTaiwanやpol.is）、参加型予算編成などである。
一般に、デジタル世界で民主主義を機能させるためには、これまでの集合知の3つのステップに、さらに2つのステップが導入される：
- コレクティブ・インテリジェンス（集合知）：人々が情報、アイデア、解決策を共有する（コレクティブ・インテリジェンスの3ステップのアウトプット）
- 熟議：様々な解決策を、熟議によって革新的に組み合わせていく。
- 投票する：熟慮の結果、多数決に至らなかった場合、影響を受けた人々は、最良の解決策を決定するために投票する。ここで、多数決は「多数派の専制」を招き、様々な市民グループから予測できない反応が出る可能性があるため、しばしば最適とは言えない。（例：ブレグジットに見られるように）これは、複雑で利害関係の強い問題では、多数決が有権者にとって正当なものであると認識されないことが多いためと思われる。
そのため、2次投票や 修正ボルダカウントなど、別の投票形態が検討される。
つまり、デジタル・デモクラシーで活用される集合知は、実現に値する適切なアイデアの特定につながり、第1回で述べた規範的課題の解決につながる。
しかし、その成功は、どのように実行され、制御されるべきかという疑問が残る。特に、階層的な制御メカニズムは、複雑な世界では、たとえ望ましい状態が明確に定義されていたとしても（例えば、CO2削減）、しばしば失敗することがあることが分かっている。
解決方法3 ：制御のための自己組織化
鳥の群れや人体など、自然界の複雑なシステムは自己組織化する傾向があり、その結果、効率的で弾力性のある分散型システムが形成される。例えば、鳥の群れは、（i）捕食者からの保護と（ii）食料資源の局在化の両方を効率的にサポートすると同時に、（iii）本質的に自発的（どの鳥も強制されない）であり、また（iv）弾力的である。群れから1羽を排除しても、どの鳥も群れ全体をコントロールすることができないため、悪影響はほとんどない。
群れはむしろ、局所的なフィードバック機構によって制御されている：鳥が他の鳥に近づきすぎれば飛び去り、遠すぎれば戻ってくる。このような単純なメカニズムによって、群れは時間と空間を移動し、メンバーをサポートしている。実は、このような単純なメカニズムが、自己組織化の核心的な概念を示しているのである：複雑なシステムが自己組織化するためには、フィードバックが必要である。
鳥の群れ：自然界に存在する自己組織化する複雑なシステムで、私たちの研究にインスピレーションを与えてくれる（“Flock of BIRDs over lake at sunrise from cabin 5 Lake Anna State Park”byvastateparksstaffis licensed underCC BY 2.0)
自己組織化システムはどこにでもあるもので、私たち人間の体や免疫系もその一例だ。
疑問が湧いてくる：この自然界の成功メカニズムを、人工のインフラや社会に応用することはできるのだろうか？その答えは「イエス」である。例えば、交通信号制御システムの文脈で示されている：
従来、都市の交通信号制御システムはトップダウンで制御されていた：例えば、時間帯（朝夕の交通量）や特別なイベント（サッカーの試合など）に応じて、異なる交通の流れを優先させるなど、中央の交通当局が都市の信号機の切り替え方法を計画する。このような計画の結果は、世界中の人々が毎日観察することができる：渋滞である。もちろん、すべての渋滞が中央集権に起因するわけではないが、以下の証拠から、少なくともこの種のコントロールに関連するいくつかの大きな課題が存在することがわかる：
歩行者、自転車、公共交通、自家用車という異なるタイプの交通参加者に対し、ボトムアップ型の自己組織的な交通照明システムを活用した待ち時間の改善。出典： stefanlaemmer.de/en
すなわち、交通渋滞を緩和するために、中央集権的な交通管制機関に依存せず、自己組織化を利用した交通信号制御システムを開発した。ルツェルン市（スイス）などで導入されているこのシンプルなシステムでは、各交通信号は、隣接する交通信号からの情報（フィードバック）のみを考慮し、局所的に交通信号を最適化することができる。特に、どの信号機やオペレータもシステムの状態を完全に把握することはできず、ローカルな行動に干渉することはできなかった。この実験の結果は、すべての交通参加者の平均待ち時間が短縮されただけでなく、特定の利害関係者（例：公共交通機関）を柔軟に優先させることができたというものである。
この例は、自己組織化がテクノロジー主導の社会で有効に活用できることを示すものである。
では、自己組織化はどのように行われるのだろうか。実は、かなり単純なことなのだ：
自己組織化には、自律的な行動とリアルタイムのフィードバックが必要である。
アクターは（自由に／自律的に）行動することができなければならない。これらの行動は環境を変化させ、アクターに（リアルタイムの）フィードバックを与え、それに基づいてアクターが自分の行動を改善することができる。アクターの行動が妨げられたり、フィードバックが遅れ過ぎたりすると、自己組織化はうまくいかない。
結論と展望
私たちの世界は複雑なシステムであり、そのようなシステムでは、確立された階層的な制御や意思決定のメカニズムが機能しないことを見ていた（パート1）。このミニシリーズで紹介する3つの解決方法は、複雑な世界の課題をより効果的に管理するための道筋を形成するものであり、私たちに勇気づけられる希望の光であると同時に、深刻な義務も与えてくれる：
希望の光とは、集合知、デジタル民主主義、自己組織化の出現に必要なのは、私たち全員だからである：あなたや私のようなランダムな個人は、個人の偏見や能力、（ユニークな）視点にもかかわらず、しかしまさにだからこそ、これらのメカニズムの最も重要な核となる構成要素なのである。特に、複雑系理論では、小さな行動がシステム全体に大きな影響を与えることが知られており、私たち一人ひとりが世界をより良く変える力を持っている。
しかし、だからこそ、「個人の力」を知ることは、私たち一人ひとりが積極的に関わるべき重大な義務、すなわち、カントの洞察を21世紀に生かす責任、すなわち、自ら招いた未熟さから自らを解放する責任を生むのである。
この文脈で、Web3/ブロックチェーンが人気を博したのは、（少なくとも暗黙のうちに）個人に権限を与え、創造的な可能性と行動への動機を引き出すことによって、こうしたボトムアップの解決方法をうまく利用したためだと思う。例えば、分散型自律組織（DAO）は、デジタル民主主義国家のインスタンスであり、集合知を利用して望ましいシステム状態を特定し（例えば、MakerDAOやBanklessDAOで成功したように）、そのコミュニティを使って、しばしばトークンのインセンティブを介してその実現を制御する。一般に、トークンの形をしたこれらのブロックチェーンベースの暗号経済的インセンティブは、例えばファイナンス4.0で研究されているように、自己組織化を可能にするリアルタイムのフィードバックとして機能する（例えば、複雑なシステムのキャリブレーションを強化することができる）。
今後、DAOやトークンインセンティブの概念をより詳しく掘り下げ、この複雑系ミニシリーズで培った理論的基盤に裏打ちされるよう、ブログを更新していきたいと思う。
乞うご期待！