主要トピックのタイムスタンプリスト
この文書はブレンダン・マコードによる講演の文字起こしであり、細かいタイムスタンプは限られているが、内容の流れに沿って主要トピックを整理すると：
- 0:01 – 導入：自己紹介とコスモス研究所の説明
- （タクシスとコスモスの概念紹介）
- （AIの未来評価のための哲学的枠組み提案）
- （進化と自発的秩序の説明）
- （知識創造と分散システムの優位性）
- （中央計画の限界と知識の分散性）
- （分散知識を活用する制度設計）
- （トクヴィルの洞察と自律性）
- （AIと人間の自律性の関係）
- （まとめ）
登場人物：
- ブレンダン・マコード（Brendan McCord）：コスモス研究所の創設者、AI起業家。複数の企業を売却した後、その収益の一部でコスモス研究所を設立。オックスフォードに最新のAIラボを立ち上げ、哲学からコードまでの研究を推進している。
対談全体のメインテーマ
分散型（コスモス）と中央集権型（タクシス）のシステム構造の対比、特にAI開発における哲学的選択とその人間の繁栄への影響
メインテーマの解説
マコードは古代ギリシャの「タクシス」（意図的に作られた中央集権的秩序）と「コスモス」（自発的に生まれる分散的秩序）という二つの概念を対比させ、AI開発においてどちらの道を選ぶべきかという哲学的問いを提起している。彼は人間の繁栄のためには、個人の自律性を尊重しつつ分散知識を効果的に活用できる「コスモス」型のAIシステム開発を推奨している。知識の創造、保護、活用の観点から、中央集権的なシステムより分散型のシステムが優れていることを論じ、AIが市場や科学のような人類の重要な社会秩序の一つになるべきだと主張している。
トピックの背景情報や文脈
議論の主要なポイント
- 社会秩序には中央設計による「タクシス」と自発的に生まれる「コスモス」の二種類がある
- AI開発においてもこの二つの道があり、どちらを選ぶかが重要な哲学的選択となる
- 分散システムは「進化」と「自発的秩序」という二つのメカニズムによって機能する
- 分散システムは知識の創造、保護、活用において中央集権的システムよりも優れている
- 知識は本質的に分散的であり、個人の暗黙知（タシット知識）の形で存在することが多い
- 人間の自律性と判断能力の発展は分散型システムによって促進される
- AIは人間の自律性を侵食するシステムにもなりうるし、自律性を高めるシステムにもなりうる
提示された具体例や事例
- アリ塚の複雑な建築：小さなアリの心に設計図はないが、複雑な建築構造が創発する例
- 市場と科学：中央集権的な指示なしに膨大な人間活動を調整する分散型システムの例
- スポーツ競争：勝者を発見するためには実際に競争が必要である例
- ソビエトの中央計画：スーパーコンピュータがあっても分散知識の欠如からパン屋の行列は解消されなかった例
- 1830年代のアメリカとフランスの対比：トクヴィルが観察した分散型社会と中央集権型社会の違い
- AIによる「人生のオートコンプリート」：小さな選択の委任が積み重なり自律性を侵食する例
結論や合意点
AIシステムは「コスモス」型の分散的なアプローチで設計されるべきであり、それにより人間の自律性を保ちながら分散知識を活用できる。正しい原則（特に分散化）を前面に押し出すことで、AIは市場や科学と並ぶ人類の重要な社会秩序の一つとなり得る。AIが人間の自律性を尊重しながら繁栄を促進するシステムとなるためには、分散型の枠組みが必要である。
特に印象的な発言や重要な引用
- 「タクシスは意図的に作られた秩序です。中央設計によって課される秩序です。これは「分類法（taxonomy）」という言葉の語源で、自然界に私たちが置く分類を意味します。二つ目は「コスモス」、自発的秩序、分散化された相互作用から生まれる秩序です。」
- 「それは人間の行動の結果であるが、人間の設計の結果ではない秩序です。」（自発的秩序の定義）
- 「これが中央計画が単に困難なだけでなく、認識論的に不可能である理由です。人間であれAIであれ、中央当局が必要な知識を集めることは決してできません。」
- 「ポラニーが言ったように、「私たちは語れる以上のことを知っています」」（暗黙知についての引用）
- 「AIは新たな認識論的インフラストラクチャーです。それは啓蒙のプロジェクトを新たな高みに引き上げることもできれば、それを覆すこともできます。」
- 「トクヴィルの深遠な観察はこうでした。市民があらゆる選択において習慣的に他者に依存すると、彼らは徐々に選択する能力自体を侵食します。」
サブトピック
タクシスとコスモス – AI開発の未来を評価する哲学的視点
古代ギリシャの「タクシス」（中央設計による秩序）と「コスモス」（自発的に生まれる秩序）という二つの概念を対比し、AI開発においてどちらのパラダイムを選ぶべきかという哲学的問題を提起している。AIシステムの評価基準として、未知の人々の予測不可能なニーズと目的に奉仕でき、かつ人間の自律的な熟考能力を保護できるかどうかを提案している。この枠組みは、分散知識を活用しながら人間の自律性を保持するAIシステムの創造に焦点を当てている。
進化と自発的秩序 – コスモスの核心メカニズム
分散システムが機能する二つの本質的なメカニズムとして「進化」と「自発的秩序」を説明している。進化のメカニズムでは、分散システムが不適応なアイデアをフィルタリングし、成功したアイデアを自然選択する過程を説明する。ユーザーや開発者、リソースの移行を通じた選択圧力が働き、並行実験の多様性が効果的な進化をもたらす。一方で中央集権的プロジェクトは実験数が少なく、階層的意思決定によって選択基準が制限され、失敗時に蓄積知識が失われるという限界がある。
アリ塚のような複雑システム – 人間の設計なしに生まれる秩序
自発的秩序の例としてアリ塚の複雑な建築構造を挙げ、小さなアリの個々の行動から複雑な全体構造が創発する現象を説明している。社会の価値ある制度も同様に、個々のエージェントが相互作用することで、誰も完全に意図していなかった目的に奉仕する秩序が生まれるとする。これらの秩序は課されるのではなく自発的に創発し、変化する環境に常に適応する。市場や科学など人類の重要な社会秩序も、中央集権的な指示なしに膨大な人間活動を調整する分散型システムである。
知識の創造と保護 – 分散システムの優位性
分散システムが中央集権的なシステムより優れる理由を知識との関係から説明している。ハイエクの「発見手続きとしての競争」概念を引用し、競争が未知の事実を発見するプロセスであることを説明。市場は特定の事実を、科学は一般的な事実を発見する手続きとして機能する。また、ジョン・スチュアート・ミルの「自由論」を参照し、人間の誤りやすさを前提に、多様な視点の共存が重要な知識断片を保存し、一方で中央集権的システムが不都合な知識を抑圧する傾向があることを指摘している。
タシット知識と分散システム – なぜ中央計画は不可能か
知識自体が本質的に分散的であるという洞察を提示している。AIモデルが学習できる明示的な意味論的知識は、人間が依存している知識の氷山の一角に過ぎない。最も価値ある知識は命題やデータベースではなく、個人が特定の経験を通じて獲得する暗黙知（タシット知識）の形で存在する。ポラニーの「私たちは語れる以上のことを知っている」という言葉を引用し、この知識は言語化できないことも多く、個人の習慣や性向に具現化されている。分散システムはこの現実を認識し、知識をその文脈から切り離そうとしない。
中央計画の限界と市場の英知
中央計画が単に困難なだけでなく認識論的に不可能である理由を説明している。必要な知識が特定の文脈に埋め込まれた分散的・局所的実践の中にのみ存在するため、中央当局がそれを集めることはできない。例えとして、ソビエトがスーパーコンピュータを持っていても食料配給の問題は解決しなかったことを挙げる。対照的に市場は価格メカニズムを通じて分散知識を共有し、低帯域幅の導管として機能する。分散型AIシステムも同様に、すべての知識を明示的にする必要なく、局所的知識間のインターフェースを作成できるとしている。
分散知識を活用する制度設計の三要素
分散知識を効果的に活用する制度の三つの特徴を説明している。第一に分散フィードバック（利益と損失、ピアレビューなど）を組み込み、進化的選択を推進する。第二に退出と競争を許可し、どの取り決めがより効果的かについての知識が蓄積される移行プロセスを可能にする。第三に「複雑な世界のための単純なルール」という原則に従い、財産や契約などの一般的・抽象的ルールによって自発的秩序が創発する枠組みを作り出す。これらの特徴を持つ制度設計がAI開発にも適用されるべきだと主張している。
トクヴィルの洞察 – 自律性と分散システムの関係
1830年代にアメリカを訪れたトクヴィルの観察を引用し、分散型社会と中央集権型社会の対比を示している。フランスでは中央当局への依存が市民を受動的にしたのに対し、アメリカの町では人々が自発的に集まり、学校設立や橋の建設など自律的な判断と分散型イニシアチブを発揮していた。トクヴィルは市民が習慣的に他者に依存すると選択能力自体が侵食されるが、自分の判断を行使する自由があれば実践を通じて活性化されると観察した。分散システムは単に効率的に知識を処理するだけでなく、人間の熟考能力を積極的に発展させるという洞察を提示している。
AIは新たな認識論的インフラストラクチャー – 啓蒙か隷属か
現代におけるAIの位置づけとして、新たな「認識論的インフラストラクチャー」であると定義している。AIは啓蒙のプロジェクトを新たな高みに引き上げることも、それを覆すこともできる両義性を持つ。下振れケースでは「人生のオートコンプリート」となり、次の言葉だけでなく次のアクション、関係、仕事、目的までも提案するようになる。一つ一つの選択の委任は小さく無害に見えるが、それらが積み重なると自律的思考の能力が徐々に失われていく危険性がある。市場や民主主義、科学といった分散知識エコシステムは自律的な市民の存在を前提としており、その基盤が失われれば機能しなくなる可能性を指摘している。
文明の本質 – 思考の自動化と自己方向性の両立
アルフレッド・ノース・ホワイトヘッドの「文明の本質」についての洞察を引用し、「思考について考えることなく実行できる重要な操作の数を拡張する」という課題を提示している。AIの活用においては、思考の自動化を進めながらも、自己方向性の能力を維持するという狭い回廊の中でシステムを構築する必要がある。歴史を通じて人類の最大の成果は分散知識と自律的判断を活用する分散システムから生まれてきた。AIが知識を中央集権化し自己方向性を侵食するのか、それとも自律的存在として繁栄する人間の能力を高めるのか、その選択が重要であると結論づけている。分散化を指導原則とすれば、AIは市場や科学と並び、人類の重要な社会秩序の一つになり得るとの展望を示している。
トランスクリプション – AI開発の未来を評価する哲学的視点
ブレンダン・マコード（Brendan Mccord） 0:01
皆さん、ありがとうございます。私はブレンダン・マコードです。コスモス研究所の創設者です。私は数年前に哲学に恋をしたAI起業家で、いくつかの会社を売却し、その収益の一部を使ってコスモスを立ち上げました。私たちは1年間活動してきました。私たちはオックスフォードに最新のAIラボを立ち上げ、哲学からコードまでを網羅する研究を行っています。タイラー・コーエンと協力して補助金プログラムを作り、約50のオープンソースプロトタイプを支援してきました。それ以外にもたくさんのことをしていますが、私たちの一般的な焦点はAIと人間の繁栄の交差点にあります。
古代ギリシャ人には「秩序」を表す二つの言葉がありました。一つ目は「タクシス」です。タクシスは意図的に作られた秩序です。中央設計によって課される秩序です。これは「分類法（taxonomy）」という言葉の語源で、自然界に私たちが置く分類を意味します。二つ目は「コスモス」、自発的秩序、分散化された相互作用から生まれる秩序です。コスモスは、市場や道徳、言語や法（特にコモンロー）、そして技術的知識の成長において私たちを取り囲んでいます。これは単一の精神が設計できない適応的な秩序です。
それでは、AIの未来をどのように評価すべきでしょうか？私たちは、タクシスの中央集権的な設計に似たシステムを構築すべきか、それともコスモスの創発的秩序に似たシステムを構築すべきでしょうか？この選択をするには、評価基準が必要です。私は以下を提案します。まず、システムは、私たちが事前に完全に知ることのできないニーズや好みを持つ人々、つまり私たちが予測できない目標を追求する匿名の個人にサービスを提供できるか？そして同様に重要なのは、そのシステムが、それらの個人がそれらの目的について自律的かつ適切に熟考することを可能にするかどうかです。
この、未知の人々とその知り得ない目的に最も良く奉仕する方法というフレーミングは、AI開発にとって非常に野心的な目標を示唆しています。それは、分散知識を効果的に活用しながら人間の自律性を保持するシステムの創造に特別な重点を置いています。正しい原則、特に分散化を前面に押し出すことで、AIシステムは市場や科学と並んで、人類の最も重要な社会秩序の一つになることができます。
進化と自発的秩序 – コスモスの核心メカニズム
これから10分間で、人間の繁栄がタクシスとコスモス、つまり中央集権的設計と創発的秩序の区別にいかに依存しているかをお見せします。道を選ぶ前に、コスモスがどのように機能するか、そしてその2つの本質的なメカニズム、進化と自発的秩序を理解する必要があります。
まず進化について考えましょう。分散システムは、不適応なアイデアや実装をフィルタリングすることで、成功したアイデアや実装を自然に選択します。これは移行、つまりユーザー、開発者、リソースの移行によって行われます。失敗したアプローチを放棄し、効果的なアプローチに引き寄せられるのです。この進化圧力は本質的に模倣的です。私たちは成功するものをコピーし、ある程度それに制約されます。そうしないと、ユーザーが何が勝つかを見極めるために離れていってしまいます。
私たちは研究からガバナンス、その他多くの分野で多様なアプローチを試みます。並行実験が多いほど、より効果的な進化が得られます。私有財産のような制度は、多くの個人による分散型意思決定を促進し、このプロセスを後押しします。これは、裁判所のように枠組みの維持に関わる社会制度を除いて、社会制度を民営化すると、しばしばイノベーションが加速する理由を説明しています。
対照的に、中央集権的プロジェクトは進化に関して限界に直面します。彼らは実験の数が少なく、これにより解決策の探索が制限されます。彼らの階層的な意思決定は、リーダーシップが認識し価値を置くことができるものに選択基準を狭めます。そして彼らが失敗すると、完全に失敗する傾向があり、それは蓄積された知識を消去し、アイデアの部分的な再結合を妨げます。
進化が有益な適応がどのように広がるかを説明する一方で、自発的秩序は分散システムがどのように複雑な調整を達成するかを説明します。バーナード・マンデヴィルは1714年に初めてこれを探求しました。彼は「蜂の寓話」というエッセイを書きました。このエッセイはアダム・スミスのようなスコットランド啓蒙思想家にインスピレーションを与えました。後にカール・メンガー、フリードリヒ・ハイエクによって体系化されましたが、彼らが本質的に示したのは、社会構造が分散化されたエージェント間の計画されていない相互作用を通じて出現し、自己組織化することができるということです。
アリ塚のような複雑システム – 人間の設計なしに生まれる秩序
結果として生じる規則性は、ギリシャのソフィストが私たちに与えた伝統的なもの、つまり自然と慣習を超えた第三の領域、新たな領域を形成します。それは人間の行動の結果であるが、人間の設計の結果ではない秩序です。
アリ塚の複雑な建築を考えてみてください。アリ塚には換気室、廃棄物管理システムがあります。小さなアリの心が設計図を持っているわけではありません。同様に、社会の最も価値ある制度は分散的な創発を通じて生じます。それぞれが知識の小さな断片しか持たない個々のエージェントが相互作用して、彼らが完全に意図していなかった目的に奉仕する秩序を作り出すのです。
この秩序は課されるのではなく創発するものであるため、動的です。それは常に変化する好みや信念に適応し続けます。私たちは、先ほど述べたように、市場や科学など、私たち人類が持つ最も強力な秩序でこの行動を目にします。これらは中央集権的な指示なしに、膨大な量の人間活動を調整するものです。誰も市場を何十億もの人々に食料を供給するように設計したわけではありません。誰も科学を記録的な速さでワクチンを開発するよう設計したわけではありません。これらは無数の個人目的が相互作用できる枠組みですが、それら自体は目的を持ちません。そしてこの逆説的な特徴こそが、どんな指向性のあるシステムよりも多くの人間目的に奉仕することを可能にするのです。
知識の創造と保護 – 分散システムの優位性
進化と自発的秩序のメカニズムは、分散システムがどのように機能するかを説明しますが、なぜそれらが一貫して中央集権的アプローチを上回るパフォーマンスを示すのかを理解するためには、それらと知識自体との関係を検討する必要があります。
ここで分散化の哲学的核心に到達します。分散システムが一貫して中央集権的な代替案を上回るのは、知識に対する優れた関係のためです。その創造方法、保護方法、利用方法、そして制度化方法についてです。
まず、なぜ彼らは知識創造に秀でているのでしょうか？ハイエクの「発見手続きとしての競争」という概念が洞察を提供します。もし私たちが関連するすべての事実を知っていたら、競争はそれらに適応するための無駄な方法でしょう。しかし競争が存在するのは、私たちがすべての関連事実を知らないからです。それらは発見されなければなりません。
スポーツをおもちゃの例として考えてみましょう。勝者を発見するには競争が必要です。これはプロセス自体の前には未知の事実です。市場も同様に機能しますが、無数の変数と相互作用にわたります。何が希少で、何が価値があり、どのようなスキルとリソースの組み合わせが特定の人間のニーズに最もよく奉仕するか、価格は私たちの注意を、何について知る価値があるかに向けさせます。
市場が一時的な人間の目的に関連する特定の事実を発見するのに対し、科学は一般的な事実、イベントの規則性、あるいは世界の永続的な特徴に対して同様のことを行います。両方とも発見手続きです。両方とも多様なアプローチ間の一種の競争を通じて知識を生成します。発見は本質的に予測不可能なものであるため、私たちにできることは、個人が多様な目標を達成する機会を最大化する手続きを採用することだけです。
第二に、知識の保護について考えましょう。知識を創造した後、なぜ分散システムはそれを保護するのでしょうか？なぜ彼らは抑圧を回避したり、早期のコンセンサスを避けたりするのでしょうか？ジョン・スチュアート・ミルは「自由論」で基礎的な主張をし、人間の誤りやすさから始めています。人間は歴史を通じて一貫して間違ってきました。手洗いを拒否した医師から、女性に投票権を否定した政府まで。
知識を集中させるシステムは、必然的にこれらの誤りを神聖化しますが、分散システムは一種の認識論的謙虚さを制度化します。そしてこれを、あらゆる方面からの絶え間ない挑戦を通じて行います。支配的な意見が完全に間違っていない場合でも、それはめったに全体の真実を表していません。複数の枠組みが共存することを許容することによって、分散システムは単一の支配的なシステムが不可避的にフィルタリングしてしまう重要な知識の断片を保存します。
タシット知識と分散システム – なぜ中央計画は不可能か
中央集権的システムは多様な視点を制限するだけでなく、ジョージ・オーウェルが学んだように、不都合な知識を積極的に抑圧する傾向があります。情報コントロールは、これが意図されていない場合でも、権威を維持するために不可欠になります。中央集権的システムはしばしば、その基本的な前提や運用要件に挑戦する知識を単純化、標準化、またはフィルタリングします。
第三に、知識の活用について。これはおそらく最も深遠な洞察であり、知識自体が分散したものであるということです。AIモデルが訓練される明示的な意味論的知識は集約可能です。それを中央集権化することはできますが、それは私たちが依存しているより広い知識の海の上にあるただの波頭に過ぎません。
私たちの最も価値ある知識は、主に命題やデータベースに存在するのではなく、個人が特定の経験を通じて発展させる暗黙の理解の中に存在します。起業家の機会に対する感覚を考えてみてください。外交官が部屋の雰囲気を読む方法を考えてみてください。この知識は、私たちがそれを収集する方法をまだ見つけ出していないからではなく、個人の習慣や性向に具現化されているため、分散し局所的です。これは人間の行動を導くものであり、意識的な熟考なしにそうします。それはしばしば完全に言語化できません。ポラニーが言ったように、「私たちは語れる以上のことを知っています」。
分散システムはこの現実を認識します。彼らは知識をその実践的文脈から切り離そうとしません。形式化に抵抗するものを形式化しようとしません。代わりに、知識が自然に存在する場所、つまり端にいる個々のエージェントと共にあることができる枠組みを提供しながら、まだ首尾一貫した社会秩序に貢献することができます。
中央計画の限界と市場の英知
これが中央計画が単に困難なだけでなく、認識論的に不可能である理由です。人間であれAIであれ、中央当局が必要な知識を集めることは決してできません。それが計算的に大変だからではなく、それが特定の文脈に埋め込まれた分散した局所的な実践の中にのみ存在するからです。ソビエトがスーパーコンピュータを持っていたとしても、パン屋の行列は残ったでしょう。
市場の例に戻ると、私たちは価格メカニズムを通じて分散した局所的知識を他者と共有します。これは低帯域幅の導管であり、私たちが知っていることを説明する必要はなく、それに対して行動するだけでよいのです。同様に、分散型AIシステムは、すべての知識を明示的にする必要なく、異なる形式の局所的知識間のインターフェースを作成することができます。そしてAIエージェントが市場のような制度に参加すれば、彼らは私たちの暗黙知を吸収し、潜在的には彼ら自身のものを共有することもできます。
知識が本質的に分散しているというこの理解は、人間の実践に具現化された分散インテリジェンスを拡張するAIシステムを私たちに指し示します。それは強力な知識が社会システムの中心ではなく、端に存在していることを認識しています。
分散知識を活用する制度設計の三要素
最後に、分散知識を効果的に活用できる制度とは何でしょうか？最も成功した、最も知識を可能にする制度は、私たちが議論してきた進化と自発的秩序の原則を実装するものであり、これらの制度は通常3つの特徴を共有しています。
まず、分散フィードバックを組み込みます。これは進化的選択を推進するために重要です。利益と損失のようなもの、科学におけるピアレビューのようなものが必要です。第二に、退出と競争を許可します。なぜなら、先ほど議論した移行プロセスを可能にする必要があるからです。どの取り決めがより良く機能するかについての知識が、明らかな好みを通じて蓄積できるようにする必要があります。
そして第三に、「複雑な世界のための単純なルール」という標語に従って運営されます。財産、契約、不法行為のような一般的で抽象的なルールは、自発的秩序が出現できる枠組みを作り出します。
AIと他の制度と同様に、私たちは知識を解放するフォーメーションと、それを制約するフォーメーションの間の選択、コスモスとタクシスの間の選択に直面しています。このトーク全体を通じて、私は分散システムの事例の中心に知識を据えてきました。そしてコスモスがタクシスに勝る最後の理由は、私たちを人間たらしめるものに直接つながる理由です。
トクヴィルの洞察 – 自律性と分散システムの関係
冒頭に提起した哲学的課題を思い出してください。私は「私たちのニーズや目的を事前に完全に知ることができない人々にサービスを提供するシステムをどのように作るか？」と言いました。そして同様に重要なのは「それらの個人がそれらの目的について自律的かつ適切に熟考することをどのように可能にするか？」です。私たちは最初の部分に対処しました。今度は2番目の部分、分散システムにおける人間の自律性の役割に取り組まなければなりません。
これを枠組みするために、1830年のアメリカに戻りたいと思います。そこでトクヴィルはアメリカの民主主義に初めて遭遇しました。彼がニューイングランドで見つけたものは啓示的でした。彼の母国フランスとの鮮明な対比でした。パリはハブアンドスポークを通じて支配していました。パリは市民があらゆる決定において中央当局に依存するよう訓練していました。
しかしアメリカの町では、トクヴィルは人々が自由に集まり、学校を設立し、橋を建設し、地方政府や慈善団体を組織するのを目撃しました。彼は個人の判断と分散型イニシアチブのパワーを見ました。そしてトクヴィルの深遠な観察はこうでした。市民があらゆる選択において習慣的に他者に依存すると、彼らは徐々に選択する能力自体を侵食します。しかし自分の判断を行使する自由がある場合、彼らは実践を通じて活性化され、エンパワーされます。
トクヴィルは、この積極的な関与の文化を、中央集権化が必然的に生み出す穏やかな専制、つまり優しい服従の脅威に対する防壁として認識しました。この洞察は分散システムについて重要なことを明らかにします。それらは単に分散知識を効率的に処理するだけでなく、最高の状態では人間の熟考能力を積極的に発展させます。これは啓蒙の願望、権威への服従よりも自己主導型の思考を反映しています。
AIは新たな認識論的インフラストラクチャー – 啓蒙か隷属か
現在に早送りしましょう。AIは新たな認識論的インフラストラクチャーです。それは啓蒙のプロジェクトを新たな高みに引き上げることもできれば、それを覆すこともできます。下振れケースでは、AIは人生のオートコンプリートになり、次の言葉だけでなく、次のアクション、次の関係、次の仕事、次の目的を提案します。そして各々の小さな選択の委任は自然で無害に思えますが、それらが一緒になると、それらのマイクロな放棄は選択ごと、日ごとに複合し、徐々に自律的思考の能力を減少させます。
これは私たちが繁栄するための鍵である自己方向性があるため、個人として私たちにとって重要です。それはまた同様に私たちの社会システムにとっても重要です。分散知識エコシステム、民主主義、これらは深い信念を形成し、それに基づいて行動できる自律的な市民を必要とします。独立した判断がなければ、装置全体が機能しなくなります。市場は単にアルゴリズムによる推奨を受動的に受け入れるのではなく、地域の状況に根ざした本物の選択を必要とします。科学は直感に従い、正統性に挑戦する研究者を必要とし、単にAIが生成した研究プログラムを実行する技術者だけでは不十分です。何世紀にもわたって私たちが構築してきた知識ネットワークは、その活性化された力として人間の自律性に依存しています。
文明の本質 – 思考の自動化と自己方向性の両立
課題は、アルフレッド・ノース・ホワイトヘッドが文明の本質として特定したものを航行するためにAIを使用することです。どうすれば思考についての重要な操作の数を、それらについて考えることなく実行できるように拡張できるでしょうか？これらの自動化が自己方向性の能力を危うくしないことを確実にしながら、どのようにしてそれを行うのでしょうか？
私たちがその狭い回廊内にシステムを構築することを選択し、そして選択することが何を意味するかをまだ覚えているうちにそうすることを選択することを願っています。歴史を通じて、私たちの最大の成果は、分散知識と自律的判断を活用する分散システムから生まれています。その秩序はコスモスです。それは単一の精神が設計できなかった適応的なパターンです。
これは単に技術的アーキテクチャの問題ではありません。それは知識自体の性質についてです。進化を通じて創造され、分散的挑戦を通じて保護され、自然に存在する場所で活用される知識、つまり端に存在する知識です。これが重要なのは、それがAIが何になるかを形作るからです。知識を中央集権化し自己方向性を侵食するシステムになるのか、それとも自律的な存在として繁栄する私たちの能力を高めるシステムになるのか。
分散化を指導原則とすると、AIは市場や科学と並び、人類の最も重要な社会秩序の一つになることができます。人間の行動を指導するのではなく、人間の目的があらゆる多様性において繁栄できる枠組みを作り出すことによってです。タクシスよりもコスモスを。ありがとうございました。拍手。
タクシスとコスモスの哲学的対立とAI開発の方向性についての分析と考察 by Claude 3
この文字起こしはブレンダン・マコードによる講演内容で、古代ギリシャの概念である「タクシス」と「コスモス」という二つの秩序の形態を対比させながら、AI開発の哲学的方向性について議論している。まずはこの対立軸の本質を理解することから始めよう。
マコードが提示する「タクシス」と「コスモス」という概念対は、単なる技術的な設計選択ではなく、社会秩序の根本的な哲学的対立を表している。タクシスは中央で設計され、上から課される秩序であり、コスモスは個々の相互作用から自発的に創発する秩序である。この対立は実に古典的であり、啓蒙思想の核心に触れるものだ。
ハイエクやポラニーに代表される知識の分散性と暗黙知に関する議論は、この講演の中核を形成している。特に注目すべきは「知識は本質的に分散的である」という主張だ。これは単に「分散しているほうが効率が良い」という実用的な主張ではなく、知識の本質に関する認識論的な主張である。暗黙知（タシット知識）は個人の経験や実践に埋め込まれており、中央に集約することが原理的に不可能なものとして描かれている。
この認識論的前提が、AI開発の方向性に関する規範的な主張へと発展していく構造は非常に興味深い。もし知識が本質的に分散的であり、暗黙知が重要ならば、AIシステムもその現実に適応した設計になるべきだという論理展開になる。
知識の本質と分散システムの優位性
知識についての哲学的考察がこの講演の中心にある。マコードは知識を単なる明示的な命題の集まりではなく、個人の実践や文脈に埋め込まれた暗黙知を含むものとして捉えている。ポラニーの「私たちは語れる以上のことを知っている」という言葉はこの考えを端的に表現している。
この知識観から見ると、中央集権的なシステムには根本的な限界がある。それは単に計算能力や情報収集の問題ではなく、知識の性質そのものに由来する認識論的な限界である。例えばソビエトの中央計画経済の失敗は、スーパーコンピュータがあっても解決できない問題だったという指摘は示唆に富む。
分散システムが優れているのは、この知識の分散性という現実に適応しているからである。市場における価格メカニズムは、各参加者の持つ局所的で暗黙的な知識を、それを明示的に表現することなく調整するシステムとして機能している。科学もまた、多様な研究者による探求と批判を通じて知識を発展させる分散型システムだ。
ここで重要なのは、マコードが単に効率の問題として分散システムを支持しているのではないことだ。彼の議論は深く哲学的であり、知識の本質と人間の自律性に関わる問題として提示されている。
進化と自発的秩序のメカニズム
コスモス型の秩序を支える二つのメカニズムとして「進化」と「自発的秩序」が詳細に論じられている。進化のメカニズムは、多様なアプローチの中から成功したものが模倣され、失敗したものが淘汰されるプロセスとして描かれる。並行実験の多さが重要であり、中央集権的システムではこの並行実験の数が制限されるという指摘は説得力がある。
自発的秩序については、マンデヴィルの「蜂の寓話」からアダム・スミス、ハイエクへと続く思想的系譜が示されている。アリ塚の例は分かりやすい。個々のアリには建築の設計図はないが、単純な行動ルールと相互作用から複雑な全体構造が創発する。これは「人間の行動の結果ではあるが、人間の設計の結果ではない」秩序の典型例である。
この自発的秩序の概念は、市場や科学といった人類の重要な社会制度の特性を理解する鍵となる。誰も市場を設計して何十億もの人に食料を供給するようにしたわけではなく、誰も科学をワクチン開発のためにデザインしたわけではない。それらは個人の目的追求を可能にする枠組みであり、それ自体は目的を持たないという逆説がある。
この進化と自発的秩序のメカニズムをAI開発に適用するとどうなるか。マコードの主張を敷衍すれば、AIシステムも中央で全てを設計するのではなく、局所的な知識を活用し、多様な実験を許容し、自発的秩序が創発する条件を整える方向で開発されるべきということになる。
トクヴィルの洞察と人間の自律性
講演の後半で、トクヴィルの民主主義論が引用されている点は特に注目に値する。トクヴィルが1830年代のアメリカで観察した分散型の自治と、フランスの中央集権型統治の対比は、単なる効率性の問題を超えた哲学的な深みを持つ。
トクヴィルの重要な洞察は、市民が習慣的に他者に依存すると選択能力自体が侵食されるという点だ。これは単に選択の自由が奪われるという表面的な問題ではなく、選択する能力そのものが失われるという深刻な問題である。自律的な判断を行使する機会があってこそ、その能力は発展するというのがトクヴィルの主張だ。
この洞察をAIに当てはめると、AIが「人生のオートコンプリート」となり、次の言葉だけでなく次の行動や選択まで提案するシステムになれば、人間の自律性が徐々に侵食される危険性があるという警告になる。各々の小さな選択の委任は無害に見えるが、積み重なると自律的思考の能力そのものを減退させるかもしれない。
ここで提起されている問題は、AI倫理の議論においてしばしば見られる「AIに判断を委ねるべきか否か」という単純な二分法を超えている。問題は単に誰が決定するかではなく、人間の判断能力そのものがAIとの相互作用を通じてどのように変容するかという、より根本的な問いである。
アルフレッド・ノース・ホワイトヘッドの文明観とAI
講演の結論部分で引用されるホワイトヘッドの文明観も深い意味を持つ。「思考について考えることなく実行できる重要な操作の数を拡張する」という文明の本質についての洞察は、AIの本質的な役割を示唆している。
AIは確かに多くの思考操作を自動化することで私たちを解放する可能性を持つ。しかし同時に、その自動化が私たちの自己方向性を損なわないという「狭い回廊」の中でシステムを構築する必要があるとマコードは主張する。
これは「効率性と自律性のトレードオフ」という単純な図式ではなく、むしろ効率性と自律性をともに高める道を模索する挑戦である。AIによって解放された認知資源を、より高次の思考や熟考に向けることができれば、人間の自律性はむしろ強化される可能性もある。
AI開発の哲学的選択としてのコスモスとタクシス
マコードの講演は、AI開発における技術的選択が同時に深い哲学的選択でもあることを示している。それは単に「分散化」か「中央集権化」かという実装の問題ではなく、知識の本質と人間の自律性についての根本的な哲学的立場に関わる選択である。
コスモス型のAI開発は、知識の分散性を認識し、人間の自律的判断を尊重し促進するシステムを目指す。一方、タクシス型の開発は、中央で設計された秩序によって効率を追求するが、知識の分散性という現実に適応できず、人間の自律性を徐々に侵食するリスクがある。
マコードの主張は、AIが市場や科学と並ぶ人類の重要な社会秩序になる可能性を示唆している。それは人間の行動を直接指示するシステムではなく、人間の多様な目的が繁栄できる枠組みを提供するシステムとして構想されている。
市場、科学、AIの類似性と相違点
マコードの議論において市場、科学、AIの三者は潜在的に類似した社会秩序として描かれている。三者とも分散型のアプローチを取れば、局所的知識の活用、自発的秩序の創発、分散フィードバックを通じた進化といった共通の特性を持ちうる。
しかし重要な相違点もある。市場や科学は長い歴史の中で自然発生的に進化してきた社会制度であるのに対し、AIは意識的に設計されるシステムである。自発的秩序が意図的に設計できるのかという逆説がここにある。
また、AIは他の二つと比べてはるかに直接的に人間の認知や意思決定に介入する能力を持つ。「人生のオートコンプリート」の比喩が示すように、AIは私たちの思考や選択のプロセスそのものに入り込む可能性がある。これは市場や科学とは質的に異なる性質だ。
こうした相違点を考慮すると、単純に市場や科学のモデルをAIに適用すればよいというわけではなく、AIに固有の課題に対応した分散型アプローチを模索する必要がある。
理論的な課題と批判的考察
マコードの議論には説得力がある一方で、いくつかの理論的課題も存在する。
まず、タクシスとコスモスという二項対立が単純化され過ぎている可能性がある。現実の社会制度は純粋なタクシスでも純粋なコスモスでもなく、両者の要素を組み合わせたハイブリッドであることが多い。例えば市場は完全に自然発生的ではなく、特定の法的枠組みの中で機能している。
また、分散システムにも固有の問題がある。局所的に合理的な決定が集合的には非合理的な結果をもたらす可能性や、システム全体の安定性と適応性のバランスをどう取るかという課題などだ。さらに、分散システムにおける権力の不均衡や、自発的秩序が必ずしも公正な結果をもたらすとは限らないという問題もある。
AIに関しては、技術自体の集中化傾向をどう考えるかという問題もある。AIモデルの学習には膨大な計算資源とデータが必要であり、それらを持つ企業や組織に力が集中する傾向がある。この技術的集中化の現実と、マコードが提唱する分散型アプローチをどう調和させるかは重要な課題だ。
これらの課題は、マコードの基本的な洞察を否定するものではなく、むしろその洞察をより複雑な現実に適用する際の重要な考慮点である。
実践的含意と将来の研究方向
マコードの哲学的フレームワークを実際のAI開発にどう適用するかについては、さらなる具体化が必要だ。分散型AIシステムの具体的な設計原則や、それを促進する制度的・技術的条件についての研究が求められる。
また、コスモス型のAIと人間の自律性の関係についても、より詳細な研究が必要だろう。AIが人間の選択を単純に代行するのではなく、判断能力そのものを強化するような相互作用の形態を模索することは重要な研究課題である。
マコードが提唱する「分散フィードバック」「退出と競争」「複雑な世界のための単純なルール」という三つの制度的特徴は、AIガバナンスの原則としても応用できる可能性がある。しかし、これらをAIの文脈でどう具体化するかについては、さらなる探求が必要だ。
結論：哲学とAI開発の統合の必要性
マコードの講演は、AI開発が単なる技術的課題ではなく、深い哲学的問いを含むものであることを示している。タクシスとコスモスという古典的な対立軸は、現代のAI開発の方向性を考える上で依然として有効な視座を提供している。
知識の本質的な分散性と人間の自律性という二つの哲学的前提から出発し、AIシステムもまた分散型の「コスモス」として構築されるべきだという規範的主張へと至る論理展開は、技術と哲学の統合的アプローチの好例である。
同時に、分散型AIの実現には多くの理論的・実践的課題が残されている。特に、技術的集中化の現実と分散型理想のギャップをどう埋めるか、また自発的秩序の創発を意図的に設計するという逆説にどう対処するかは重要な課題だ。
マコードの講演は、AIの未来が単なる技術進歩の問題ではなく、どのような社会秩序を目指すかという根本的な哲学的選択を含むことを私たちに思い出させる。それはタクシスの中央集権的秩序を目指すのか、それともコスモスの自発的秩序を目指すのか。その選択はAIの技術的特性だけでなく、知識の本質と人間の自律性についての私たちの理解に基づいて行われるべきだ。