www.lesswrong.com/posts/NMxmGFhvncg9WfYkP/on-chesterton-s-fence
On Chesterton’s Fence
bytrentbrick 2020年9月11日
チェスタトンの「フェンス」は重要であり、それを見極め、評価するのは非常に難しい。限られた時間、豊富な愚かさ、膨れ上がったエゴの中で、既存の物事のやり方を十分に深く見ず、「修正」しようとする前になぜそうなっているのかを理解するのはあまりにも簡単なことなのである。「Secrets of our Success」と「Seeing Like a State」を読んで、私は、物事がなぜ行われるのかを深く掘り下げることと、それがどれだけ長い時間の試練に耐えてきたかに比例して、より強くなっていた。この作品を書くことで、チェスタトンの「フェンス」について考えるための枠組み（フィットネス・ランドスケープという形）ができた。
チェスタートンのフェンスでは、何もないところでフェンスに出会ったら、まず立ち止まって、なぜそこにフェンスが置かれているのかを理解してから、それを取り壊すべきだとしている。フェンスにはきっと、そこに存在するなにかの理由があるはずで、その理由が何かを見つけるのは本当に難しく、壊すと取り返しのつかないことになるかもしれない。チェスタトンの「柵」は、スレートスターコーデックスを作った当初の動機であり、最近「Secrets of our Success」や「Seeing Like a State」を読みながらよく考えている原則でもあるのである。
この2冊の本は、地元の専門家が説明し、素朴な部外者が自らの破滅の危険を冒して無視する、複雑さ、ニュアンス、意図しない結果に対する限りない感謝を伝えている。魅力的な例をいくつかピックアップしてみよう。
「キャッサバは生産性が高く、デンプンを多く含むため、乾燥しやすい熱帯の環境でも比較的密集して生息している。しかし、マンジョッカの品種や地域の生態条件によっては、塊茎にシアノゲニン・グルコシドを多く含み、食べると有毒なシアン化水素が発生する。
加工せずに食べると、急性および慢性のシアン中毒を引き起こす可能性がある。特に慢性中毒は、おいしいと感じるマンジョッカを何年も食べ続けた後に徐々に現れるため、神経障害、発達障害、足の麻痺、甲状腺障害（甲状腺腫など）、免疫抑制との関連が指摘されている。
これらのいわゆる「苦い」マニオク品種は、昆虫やその他の害虫に対するシアノゲン性の防御機能により、不毛の土壌や生態学的に限界のある環境においても高い生産性を維持している。
マンジョクが最初に家畜化されたアメリカ大陸では、何千年もの間、苦い品種に頼ってきた社会では、慢性的なシアン中毒の証拠がないそうだ。
例えば、コロンビアのアマゾンでは、先住民のトゥカノアンは、繊維、デンプン、液体を分離するために、根を削り、すりおろし、最後に洗浄するという多段階、多日の処理方法をとっている。分離された液体は煮沸して飲料となるが、繊維とデンプンはさらに2日間寝かせ、その後焼いて食べることができる。
図7.1は、この処理の各段階における液体、繊維、デンプン中のシアノゲン含有量の残存率を示したものである。
このような加工技術は、他の作物の栽培が難しく、生産性の低いことが多いアマゾンの多くの地域で生活するために欠かせないものである。しかし、その有用性にもかかわらず、一人の人間が無毒化技術を理解するのは難しいだろう。
この状況を、技術を学ぶ子供や青少年の立場から考えてみよう。彼らは、青酸カリ中毒になる人をほとんど見たことがないだろう。なぜなら、その技法は有効だからだ。また、仮に加工がうまくいかず、甲状腺腫（首の腫れ）や神経障害がよく見られるようになったとしても、これらの慢性的な健康問題とマニオクを食べることの関連性を認識するのは難しいだろう。
ほとんどの人は、何年もマンジョクを食べていても、明らかな影響はないだろう。シアノジェニックの低い品種は通常ゆでられるが、苦い品種の場合、ゆでるだけでは慢性的な症状を防ぐには十分ではない。しかし、茹でることによって苦味を取り除き、急性症状（下痢、腹痛、嘔吐など）を予防することはできる。だから、常識的に考えて、高シアノ品種のマンジョクを茹でれば、すべてうまくいきそうなものである。
しかし、マンジョッカの加工は何段階もの工程があり、時間も手間もかかるため、直感的でないのは確かだ。ツカノアンの女性は1日の約4分の1をマンジョクの解毒に費やすというから、短期的にはコストのかかる技術である。
*
17世紀初頭、ポルトガル人は南米から西アフリカに初めてマンジョクを運んだ。しかし、古くから伝わる土着の加工技術や、その技術を利用するための根底にあるこだわりは持ち込まなかった。
マンジョクは植え付けが容易で、痩せた土地や乾燥しやすい土地でも収穫できるため、アフリカ全土に急速に広まり、多くの人々の主食となった。しかし、加工技術は容易には再生されず、一貫して再生されることはなかった。数百年たった今でも、アフリカでは慢性的なシアン中毒が深刻な健康問題として残っている。
現地の加工技術を詳細に調査したところ、高濃度のシアン化合物が残っていることが多く、多くの人が血液や尿中に低濃度のシアン化合物を持ち、それがまだ症状として現れていないことがわかった。
場所によっては、加工がまったく行われていなかったり、加工によってシアノゲン含有量が実際に増加することもある。良い面としては、アフリカの一部のグループは、実際に文化的に効果的な加工技術を進化させているが、これらの技術はゆっくりとしか広まっていない」
[1]– Joseph, Henrich.私たちの成功の秘密(p.95-97).プリンストン大学出版局.
1970年代のタンザニアにおける強制村落化の例。
「ティグライの典型的な耕作者は、1シーズンに平均15種類の作物（テフ、大麦、小麦、ソルガム、トウモロコシ、キビなどの穀類、サツマイモ、ジャガイモ、タマネギなどの根菜類、ヒマメ、レンズ豆、ヒヨコマメなどの豆類、ピーマン、オクラなど多くの植物）を植えている。
もちろん、農民は数種類の作物について、いつ植えるか、どの程度深く蒔くか、どのように土を整えるか、どのように手入れをし収穫するかなど、それぞれの作物に精通していたことは言うまでもない。
このような知識は、どの品種をうまく育てるにも、雨量や土壌に関するその土地固有の知識が必要であり、農民が耕す区画ごとの特殊性も含まれるという意味で、場所固有のものであった。また、このような知識は、技術、種、生態系に関する情報など、その土地の集合的な記憶として蓄積されているという意味でも、土地固有のものであった」
*
農民が移動した先では、生態系が大きく異なるため、その土地の知識はほとんど役に立たなかった。ジェイソン・クレイが強調するように、「こうして、高地の農民がガンベラのような地域の入植キャンプに移送されると、彼はたちまち農業専門家から未熟で無知な労働者に変わり、中央政府に完全に依存して生きるようになる」のである。…
*
その地域の生態系や自給自足に合わせた再現性のない多様な集落の代わりに、また人口動態や気候、市場の変化に応じて絶えず変化する地域の対応の代わりに、国家は政治構造や社会階層から作付け技術まで、すべてにおいて均一な薄くて一般的な村を作り出したのであろう。
そうすれば、変動要因は最小限に抑えられる。このような村々は、完璧なほど見やすく、同じであることから、国家計画という建造物の中で理想的な、代替可能なレンガとなるであろう。しかし、それが機能するかどうかは別問題である。
– ジェームズ・C・スコット、Seeing Like a State (p. 250-255)。エール大学出版局。
この例と本書の文脈は、メタ・チェスタートン・フェンスを提示している。個々の部族、農民、そして土地の区画のレベルにおいて、文化的・農業的専門性が長い時間をかけて進化し、活用されるようになった独自の環境が存在するのである。
一見バカバカしいが、非常に効果的な可能性を秘めた狩猟戦略について。
「カナダ・ラブラドールに住むナスカピ族の人々は、カリブー狩りをするとき、どこに行くかを決めなければならなかった。常識的に考えれば、以前成功した場所や、友人や隣人が最近カリブーを見つけた場所に行くのが普通だろう。…ハンターはカリブーの居場所に合わせたいし、カリブーは撃たれたり食べられたりするのを避けるためにハンターとミスマッチになりたがっている。
もし、ハンターがカリブーを見たことのある場所に戻ろうとする傾向があれば、カリブーはその場所（人間を見たことのある場所）を避けることで利益を得る（よりよく生き延びる）ことができるのだ。このように、最適な狩猟戦略にはランダム化が必要なのである。
「文化的進化は人間の認知能力の不足を補うことができるのか？」
ナスカピの猟師たちは伝統的に占いで猟場を決め、カリブーの肩の骨が成功への道を示してくれると信じていた。この儀式では、まず肩甲骨を高温の炭火で熱し、ひび割れや焦げのような模様を作り出す。この模様は一種の地図として読み取られ、決められた方向に保持された。
骨、火、周囲の温度、加熱の過程など無数の要素に左右されるため、亀裂のパターンは狩猟の場所という観点からは（おそらく）本質的にランダムであったと思われる。
したがって、これらの占いの儀式は、狩猟者が自らの意思決定の偏りを回避するための粗い無作為化装置を提供したのかもしれない。”- ジョセフ・ヘンリック私たちの成功の秘密(p.104-105).プリンストン大学出版局。
人間がランダムになることがいかに難しいかについて、Scott Aaronsonから興味深い話があった。
バークレー校で教えていた授業で、「f」と「d」のどちらかをタイプさせ、次に押すキーを予測する簡単な小さなプログラムを書いて実験をした。70%の確率で正しい予測をするプログラムを書くのは、実はとても簡単なことなのだ。
ほとんどの人は、ランダムにタイプする方法をよく知らない。交互入力が多すぎたりするだろう。あらゆる種類のパターンがあるので、ある種の確率的なモデルを作ればいい。
非常に粗いものでもうまくいく。私は、自分のプログラムがどのように動くかを知っていても、それに勝つことはできなかった。人に挑戦してもらったところ、そのプログラムは70%から80%の予測率を得ていた。
すると、プログラムが正確に50%の確率で予測した生徒が一人いたのである。その秘訣を尋ねると、「自由意志を使っただけ」という答えが返っていた。– ここで自分で試してみてほしい、ソース、ハットチップ。
試行錯誤の末に獲得し、何世代にもわたって保持されてきた地元の専門知識を認めなかったことが、最適とはいえない結果を招いたのである。この最適でない結果は、例えば作物の収穫量という望ましい指標だけでなく、タンザニア人の作物がより脆弱になり、栄養的に多様でなくなり、彼らのコミュニティの絆が断ち切られるという、全体的な福祉にも及んでいるのだ。
この2冊の本には、妊娠中の母親がサメを食べてはいけないという儀式から、科学的林業の危険性、ブラジリアを地球上で最も住みにくい都市のひとつにしたハイモダニズムの計画思想など、チェスタトンのフェンスの興味深い事例がさらにたくさん紹介されている。
望ましい測定基準に対して最適ではない結果を生み出すだけでなく、この測定基準の作成そのものがグッドハートの法則を誘発する。「測定値が目標になるとき、それは良い測定値でなくなる」多くの場合、測定値が悪用されるからだ。Seeing Like a Stateから、面白いけれども悲劇的な例を紹介する。
フランスで1795年に制定され、1917年に廃止された「戸窓税」は、その顕著な例である。この税の発案者は、住居の窓とドアの数はその住居の大きさに比例すると考えたのだろう。
したがって、税務署員は家屋に入り、寸法を測る必要はなく、ドアと窓を数えるだけでよい。単純で実行可能な方式として、これは見事な一撃であったが、結果が伴わないわけでもない。
その後、農民の住居は、この方式を意識して、できるだけ開口部を少なくするように設計されたり、改築されたりした。財政的な損失は開口部あたりの税金を上げることで取り戻せたが、農村住民の健康に対する長期的な影響は1世紀以上続いた。
『- ジェームズ・C・スコット『国家のように見る』（47-48頁）。エール大学出版局。
チェスタートンの「フェンス」は、私たちが忘れがちな、とても有用な原則だと思う。しかし、社会的介入の失敗を何ページも読んでいると、自然界のあまりの複雑さと私たちの行動が意図しない結果をもたらすことの重大さに、「認識論的学習性無力感」の状態に陥り、自然への訴えの慰めにつながるような気がしてくる。では、人里離れた場所にあるこのフェンスを見つめ、その解体を考えるとき、私たちは何を心に留めておくべきなのだろうか。
チェスタートンのフェンスは、非常に非線形で高次元のフィットネス・ランドスケープにおける局所最適として認識するのが有効だと思うのである。進化は、主に私たちの文化の、そしてゲノムの、試行錯誤と改良を経て、この局所最適に収束していた。この局所最適は、外部の素朴な観察者が認識しているよりも、より深く、より最適であることが多い。チェスタートンのフェンスを解体すると、現在の解のパラメータがこの最適値からずれ、新しい最適値を探すのにコストがかかり、時間がかかり、後戻りできないより悪い新しい解になる可能性がある。
私がこのフィットネス風景画のフレーミングを気に入っているのには、いくつかの理由がある。
フィットネスランドスケープは、特定の解の評価にコストがかかりすぎるか、空間が大きすぎて効率的に探索できないため、最適化することが困難な場合が多い。私たちの生活や社会規範、あるいは社会を改変する場合、これらの両方の困難が存在する。その結果、私たちは状態空間を横断するステップを踏むことが基本的にできず、試行錯誤を行う必要があり、そのステップを非常に小さくすることで実行コストが安く、可逆的にすることができる。[これは，実験（理想的にはRCT）を行い、そこから得られた証拠を用いて、新しい解決策が古い問題に対してどのように作用しているかを常に診断し、さらなる改善を求める方向性を知らせることを意味する。]
しかし、RCTでさえ十分ではない。Seeing Like a Stateは、科学的農業の意図的な失敗を、十分に多様な環境で解決策をテストすることに失敗した結果であると強調している。どのような科学的実験であっても、実行可能なテストと制御が可能な変数は限られている。この数は、現実の世界で通用する知見を得るために必要な数よりもはるかに少ないことが多いだけでなく、このような多様な環境ではどのような解決策も一般化できない可能性が高い。このような背景から、Seeing Like a Stateは、科学は文化的慣習や暗黙知をより深く理解し、少なくとも仮説生成の一形態として利用すべきだと主張しているのだ。
例えば、伝統的な薬物療法は創薬に役立っている。西洋医学では、有効性を評価するためにRCTが用いられるが、なぜその薬が効くのかについてのメカニズム的な理解が欠けていることが非常に多いのである。アスピリンのメカニズムはまだ解明されていないし、最も成功した抗がん剤の一つであるパクリタキセルは、イチイの樹皮の成分をがん細胞に振りかけて発見されたが、そのメカニズムはまだ分かっていない。
フィットネス・ランドスケープがチェスタートンのフェンスのフレーミングとして有用であるもう一つの理由は、ランドスケープの決定に用いられる「フィットネス」が恣意的であるということである。No Free Lunch Theoremは、フィットネスのすべての可能な定義にわたって解の品質を平均化するとしたら、すべての解が等しいパフォーマンスを示すだろうと述べている。したがって、私たちはまずフィットネスを定義しなければならない。さらに、私たちの文化やゲノムが過去に最適化してきたフィットネスの風景は、進化によって定義されたものであり、現代の自由民主主義の理想を示すものではない。キャッサバ加工のように因果関係が不透明で生存に不可欠な儀式もあれば、女性の性器切除のように明らかに有害で不必要な慣習も存在する。
フィットネスの定義の問題について、私たちが最適化すべき最終目標や理想を知るために、ユートピアについてもっと議論してほしいと思う。ユートピアの読み物の提案が欲しいである。私が出会った最も説得力のある政治体制・ユートピアは：これだが、私のレファレンスクラスは非常に小さい[3]。
フィットネスが恣意的であることはさておき、私たちの物理的・社会的環境は、文化や進化が常に最適化している既存の局所的最適化に対して新しい尾根と谷を提示するため、風景は常に変化しているのだ。例えば、加速する技術の進歩は、オレオのように私たちの報酬経路をハッキングして中毒性を高め、「好きなものの数を増やし（…）、好きすぎるもの」にしている。この文脈では、新しい中毒に抵抗する努力がないのではなく、あることによってのみ現状が維持されるのである。
「国家のように見る」は、予期せぬ結果を伴う、より悪いローカル・オプティマムの追求に費用がかかることを確かに認めている。しかし、このような混乱は、国の介入をより大きくするために必要であり、その結果、素晴らしい成果を生み出すことができることも認識している。なぜなら、地域文化は、中央の意思決定機関から測定し、要約し、理解するには、あまりにも微妙なものだからだ。より大きな国家の介入は、ここ数世紀の公衆衛生、衛生、福祉の奇跡のための前提条件である。そのため、チェスタートンのフェンスを抜いて撤去することは、より良いウェルビーイングへの国家による長期的な投資となり、優れた地域最適をもたらすことになる。
チェスタートンの「フェンス」のコンセプトは強力だと思う。何か行動を起こす前に、より多くの情報を得ることは常に望ましいことだ。しかし、この情報収集はコストがかかりすぎたり、フェンスが怪しげなモラルに基づいていたり、すでに独立して変化していたりすることがある。このような状況下では、チェスタートンのフェンスは人間の繁栄の名の下に挑戦されるべきだが、それは大きな謙虚さと注意深い実験、そして避けられない予期せぬ結果に対する謝罪がなければならない。善意だけでは、Seeing Like a Stateが詳細に記録しているように、十分ではないし、劇的な変化を引き起こすので、本当に危険である。ユドコフスキーの言葉が思い浮かぶが、これは次のように修正することができる。「チェスタートンのフェンスに対するすべての変更がより良い結果をもたらすわけではないが、すべてのより良い結果はチェスタートンのフェンスに対する変更からもたらされる」したがって、No Free Lunch Theoremに脱帽しながら、昼食は無料ではないが、最大多数の人がより美味しいと感じるレストランを人類に見つけさせよう。
Joe Choo-Choyさん、Max Farrensさん、Miles Turpinさんには、この作品の原稿を読んでいただき、本当にありがとう。
元記事は、trentbrick.github.io/On-Chestertons-Fence/からクロスポストされている。