書籍：発明の倫理 | テクノロジーと人間の未来 2016

訪問者数： 1,769

The Ethics of Invention: Technology and the Human Future

タイトル
内容
第1章テクノロジーの力
第2章リスクと責任
第3章災害の倫理的解剖学
第4章自然を作り変える
第5章人間いじり
第6章情報のワイルド・フロンティア
第7章誰の知識か、誰のものか？
第8章未来を取り戻す
第9章民衆のための発明
謝辞
注釈
索引
シーラ・ジャサノフも執筆している
著作権について

第1章技術の力

私たちの発明は世界を変え、発明された世界は私たちを変える。今日の地球上の人間の生活は、わずか100年前とは全く異なっている。それは、この間に発明された技術のおかげでもある。かつては陸上では足と車輪、海上では船で移動していたのが、今では飛行機で移動するようになり、毎日800万人以上の乗客が数時間の飛行で大陸を横断している。ヴァージン・ギャラクティック社の創業者リチャード・ブランソン氏が、世界初の商業用宇宙船を建造するという夢を実現すれば、普通の人が宇宙飛行士になる日も近いかもしれない。通信もまた、時間と距離の束縛から解き放たれている。私がインドを離れた1950年代半ば、私が生まれたコルカタと、家族が最初に定住したニューヨークのスカースデールとの間を往復する手紙には3週間を要した。郵便はなかなか届かない。切手が盗まれたり、小包が届かなかったり。それが今では、夜中にアメリカ東部から電子メッセージを送ると、ヨーロッパやアジアの友人からすぐに返事が届き、その日のうちに一日が始まるのである。最後になったが、私たちは、ヒトゲノムの解読によって生物と非生物の秘密を解明し、新しい人造物質の世界を創造し展開することができるようになった。

スピード、接続性、利便性も重要だが、地球上の70億の人々の多くにとって、生活の質はより重要である。ここでも、加速する技術革新の1世紀が私たちを変えてきた。仕事はより安全になった。世界の多くの地域で、空気と水は驚くほどきれいになっている。私たちは明らかに長生きしている。世界保健機関（WHO）によると、「1955年の出生時の平均寿命はわずか48歳だったが、1995年には65歳になり、2025年には73歳に達するだろう」2という。技術革新により、衛生設備、飲料水、ワクチン、抗生物質、より豊富で健康的な食品などが改善されている。人々は長生きするだけでなく、旅行やレクリエーション、様々な食べ物、そして何よりもヘルスケアの向上により、より楽しく生活することができるようになった。1916年と2016年のどちらに住みたいかと問われれば、たとえ戦争がなかったとしても、100年前に住みたいと思う人はほとんどいないだろう。

第二次産業革命と呼ばれるように、この100年の技術の進歩は、豊かな国々を知識社会の地位に押し上げた。人々の遺伝的体質、社会的習慣、購買行動などに関するかつてないほどの量の情報を手に入れた、あるいは手に入れようとしている。これらのデータは、新しい形の商取引や集団行動を可能にすると期待されている。大量のデータを収集できるのは、もはや国の国勢調査局だけではない。GoogleやYahooなどの検索エンジンも、政府に匹敵するほど膨大なデータを収集するようになった。個人でも、FitbitやApple Watchのようなデバイスを使って、日々の活動をモニターし、大量の情報を記録することができる。デジタル技術は、これまで不可能だったデータの結合を可能にし、物理的記録、生物学的記録、デジタル記録の間に有用なコンバージェンスを生み出している。今日では、身長、体重、民族、髪の色といった身体的な特徴だけでは、その人について知ることはできない。また、住所や電話番号のような固定的な情報だけで、その人を特定することもできない。その代わりに、バイオメトリクス（生体情報）が普及している。例えば、パスポートは、国境を越えた人の指紋や虹彩スキャンから得られる情報とリンクしている。アップル社は2010年代、スマートフォンにデジタル指紋センサーを搭載し、暗証番号の代わりにセキュリティの強化を図った。

コンピュータ性能の飛躍的な向上による情報爆発が、経済や社会の発展を後押ししている。新薬や治療法を研究したい患者、安定した市場に参入しようとする中小企業経営者、地域の問題について知識を共有し、当局に行動を促す市民など、さまざまなレベルでインターネットは前例のない情報資源を人々の手元に置き、民主主義の一助として機能しているのだ。ハイテク社会では、人々の行動のほとんどすべてが情報的な痕跡を残し、それらを統合することで、人々の人口統計学的プロファイルや表現されていない願望まで、驚くほど正確に描き出すことができるのである。医療から商業まで、「ビッグデータ」の概念は、人々が何を知ることができるか、情報がどのように新しい市場を開拓し、より良い公共サービスを提供できるかについて、想像力を広げ始めている。この時代、多くの政府が認識しているように、知識そのものがますます貴重な商品となり、希少な天然資源のように採掘、保管、開発が必要になってきている。ビッグデータ時代はビジネスチャンスのフロンティアであり、若い技術系起業家が新たなゴールドラッシュを牽引する象徴的な存在となっている。

今日の情報通信技術は、新たに豊富になったデータソースを創造的に利用することができれば、誰にでも大きな可能性を与えてくれる。AirbnbやUberは、個人宅や自家用車の未使用のキャパシティを利用し、喜んで不動産を所有する人をホテル経営者やタクシードライバーに変えた。このシェアリングエコノミーがうまく機能すれば、未使用の能力が活用され、満たされていないニーズがより低いコストで効率的に満たされるため、誰もが利益を得ることができるのである。ホテル代を払う余裕のない家族も、お金をかけずに夢のような休暇を楽しむことができる。UberやZipcarのような企業は、道路を走る車の数を減らし、化石燃料の使用と温室効果ガスの排出を削減することができる。このように、世界の経済が停滞している地域でも、新たな希望を見出すことができるようになったのである。なぜなら、テクノロジーと楽観主義は、どちらも未知の未来に目を向け、現在の病からの解放を約束してくれるからだ。

しかし、技術文明はバラの花壇のようなものではない。発明の魅力的な約束を打ち消すのは、本書の残りの部分を構成する3つの困難でとげとげしい問題である。第一は、破滅的な規模のリスクである。今日、人類が人類存亡リスク、すなわち地球上の知的生命体を絶滅させかねない脅威に直面しているとすれば3、その原因は、私たちの生活をより快適で楽しいものにし、生産性を向上させてきたのとまったく同じ技術革新にある。特に化石燃料に対する欲求は、地球を温暖化させ、気象パターン、食糧供給、人口移動に大規模な破壊的変化が不気味なほど迫っている状態を生み出している。鉄のカーテンが崩壊して以来、全面的な核戦争の脅威は少し後退したが、壊滅的な局地的核戦争は依然として可能性の範囲にある。感染症対策は成功したが、抗菌剤に耐性を持つ菌が増殖し、パンデミックを引き起こす可能性がある。1980年代の英国初の「狂牛病」危機は、規制が不十分な農法が動物や人間の生物学と相互作用して病気を蔓延させる可能性があることを予感させるものであった4。特にヨーロッパでは、タクシー会社がUberに激しく反対しているが、これは、最近ボストンで深夜にタクシーに乗ったときに私に言われた、「タクシー運転手は絶滅危惧種だ」という不安を反映している。

第二の問題は、不平等である。テクノロジーの恩恵は不均等に配分されたままであり、発明によって格差が広がる可能性さえある。例えば、平均寿命。2013年の国連世界死亡率報告書によると、富裕国の出生時平均寿命は77歳以上だが、後発開発途上国では60歳であり、17歳も短くなっている5。インターネットとインスタント・コミュニケーションの時代に、米国国勢調査局は、マサチューセッツ州の80%がブロードバンド接続を持つのに対し、ミシシッピ州では60%未満であるなど、米国内のブロードバンド接続には大きな差があると報告している8。カンザスからカブールまで、同じテクノロジーがあっても、住む場所、収入、教育水準、生業の内容によって、人々は異なる体験をしている。

第三の問題は、自然の意味と価値、より具体的には人間の本質にかかわるものである。技術的な発明は連続性を乱す。この点でも、変化は必ずしも有益なものとは感じられない。ドイツの社会学者マックス・ウェーバーからアメリカの環境保護主義者ビル・マッキベンに至るまで、1世紀以上にわたって、テクノロジーによって機械化され、幻滅させられ、止めどなく続く進歩に脅かされる変性した世界に対して、私たちが驚嘆する力を失っていることを嘆いてきた。しかし、その可能性はさらに広がっている。特に生命科学やテクノロジーにおける限りない新しい発見が、人類を自己形成と制御の脚本に駆り立て、自然や人間性を操作可能な機械へと変貌させる。今日のディープ・エコロジストは、自然の本質的な価値を守ることに力を注ぎ、自動車や化学物質など、私たちに最も普及している発明品の時計の針を戻したいと考えている。環境保護活動家ポール・キングスノースが創設し、率いるイギリスのダーク・マウンテン・プロジェクトは、「進化し続ける食欲を満たすために、地球上の生物の多くを破壊する」という産業界の悪夢「エコサイド」をテーマに活動している9。この作家やクリエイティブアーティストの集団は、芸術や文学を通じて「未開」を推進し、人類をより破壊的ではない方向に導くよう努力している。

テクノロジーの進歩がもたらすより直接的な結果として、コミュニティの分断と喪失、つまり、人間の生活を有意義なものにしている社会的なつながりの弱体化があると主張する批評家もいる。ハーバード大学の政治学者ロバート・パットナムは、「一人ボウリング」のアメリカを嘆く10。彼の考えでは、人々は教会や市民活動に参加せず、家でテレビを見ている。また、平等と経済的自立を求める女性が、母親や学校の教師など地域社会を中心とした職業から、法律事務所や企業の役員室での高収入の仕事を求めているアメリカもそうだ。このような主張は、ソーシャルメディアを通じてますます多様化するコミュニティとのつながりを感じている今日の20代の若者にとっては、とんでもないことに思えるかもしれない。しかし、マサチューセッツ工科大学の心理学者シェリー・タークルは、今日のアメリカの若者を「alone together」11と表現し、スマートフォンやその他の通信機器による個人の孤独な世界に没頭し、そこから抜け出して有意義で多次元的なリアルワールドのつながりを形成することができないでいる、と述べている。

つまり、テクノロジーはここ数十年で飛躍的な発展を遂げたが、その発展は倫理的、法的、社会的な問題を引き起こし、より深い分析と賢明な対応を求めているのだ。最も顕著なのは、おそらくリスクに対する責任だろう。今日の複雑な社会では、テクノロジーがもたらす負の影響を予見したり、未然に防いだりすることは誰の義務なのか、また、私たちは被害を予見し防ぐために必要なツールや手段を有しているのだろうか。不平等も同様に緊急な問題を提起している。技術開発は既存の富と権力の格差にどのような影響を与えているのか、また、技術革新がこうした格差を悪化させないためにはどのような手段を講じればよいのだろうか。3 つ目の懸念は、自然や、とりわけ人間に対する道徳的に重要なコミットメントが損なわれることに焦点を当てるものである。技術開発は、大切な景観や生物学的多様性、さらには自然な生活様式という概念そのものを破壊するおそれがある。遺伝子組み換え、人工知能、ロボット工学などの新しいテクノロジーは、人間の尊厳を侵害し、人間であることの基本的な価値を損なう可能性がある。これらの懸念はすべて、主にテクノロジーの物理的・環境的リスクを規制するために作られた制度が、発明の倫理を深く考察する作業に適しているかどうかという現実的な問題にも通じている。技術、社会、制度の間の複雑な関係、そしてそれらの関係が倫理、権利、人間の尊厳に及ぼす影響を考察すること、それが本書の第一の目的である。

自由と制約

「テクノロジー」という言葉は、特定不可能であると同時に、非常に大きな意味をもっている。この言葉は、道具や器具、製品、プロセス、材料、システムなど、驚くほど多様なものを含んでいる。ギリシャ語のtechne（技術）とlogos（研究）の合成語である「テクノロジー」は、17世紀には熟練工の研究という意味で使われていた。今日、この言葉から最初に連想されるのは、コンピュータ、携帯電話、タブレット端末、ソフトウェアなど、ハイテク社会のケイ素世界を構成するチップや回路に支えられた電子機器の世界であろう。しかし、テクノロジーには、軍隊の武器庫、製造業の活力源、遺伝子組み換え生物の造形物、ロボット工学の巧妙な仕掛け、ナノテクノロジーの目に見えない製品、現代の移動手段の乗り物とインフラ、望遠鏡や顕微鏡のレンズ、生物医学の光線とスキャナー、私たちが触ったり使ったりするほとんどすべてのものが作られる複雑な人工材料の世界も含まれていることを思い出してほしい。

日常生活に追われていると、見るもの、聞くもの、味わうもの、嗅ぐもの、行うもの、さらには知るもの、信じるものを制御する無数の機器や目に見えないネットワークにほとんど気づかない。しかし、自動車、コンピューター、携帯電話、避妊薬などの高度な機器だけでなく、信号機のような普通のものも、私たちの欲望を支配し、ある程度、私たちの思考や行動を導いているのである。

現実的なものであれ理想的なものであれ、テクノロジーは統治の道具として機能しているのだ。本書の中心的テーマは、膨大な数のものからなるテクノロジーは、法律と同じように私たちを支配しているということである。テクノロジーは物理的な世界だけでなく、私たちが生活し、行動する倫理的、法的、社会的環境をも形成している。テクノロジーは、ある活動を可能にする一方で、ある活動を困難または不可能にしている。交通規則のように、テクノロジーは私たちが複雑な手続きを踏まずに行えることと、危険や高い社会的コストを伴うことを規定するのである。スタチンは血中コレステロール値を下げ、心臓血管の健康を改善するが、スタチン服用者はグレープフルーツとグレープフルーツジュースに近づかないように気をつけなければならない。マックユーザーは手軽さとエレガンスを買うが、PCユーザーのようにコンピュータに内蔵されたデザイン機能を簡単に支持することはできない。電気自動車の購入者は、より環境に優しい車を運転するが、ガソリン給油所に比べて充電スタンドが少ないという現実を直視しなければならない。豊かな国の食の雑食者は、世界中から調達した新鮮な農産物の想像を絶する豊かさを享受しているが、その食習慣は、貧しい人々や徹底したロカボの人々の食生活よりもはるかに多くの二酸化炭素排出量を残し、環境に負担をかけている13。

現代の技術システムは、社会を秩序づけ、統治する力において、法的な憲法に匹敵する。どちらも人間の基本的な可能性を可能にし、また制約するものであり、主要な社会的行為者の間に権利と義務を確立するものである。さらに、現代社会では、法とテクノロジーは徹底的に結びついている。例えば、赤信号は法律と物質のハイブリッドであり、その規制力は赤を停止と同一視する強制力のある交通法規に依存する。現代のテクノロジーは、契約、責任、知的財産など、法律によるサポートがなければ実現できないものが多い。例えば、スピード違反の車両や警察官の発砲を撮影するカメラなどである。しかし、何世紀にもわたる法学や政治学の理論に匹敵するような、テクノロジーが私たちを支配するための原理を明確に示す体系的な思想は、まだ存在しない。また、過去半世紀の間に発明された予測・規制手段は、テクノロジーが人類共通の未来をどのように定義するかを制御するのに十分な力を必ずしも持っていない。

テクノロジーが私たちを支配する方法

技術的な発明がいかに広く私たちの行動や期待を支配しているかを誇張するのは難しいだろう。ありふれた例を挙げれば、そのことがよくわかるだろう。2007年の夏まで、私はマサチューセッツ州ケンブリッジにあるオフィスの近くのT字路を信号なしで歩いて渡っていた。ハーバード・スクエアに出入りする大動脈である2本の道路を、車がひっきりなしに走っている。そのスピードと、安全に横断できる幅の道路を見極めなければならない。交通量が多くて何分も待たされることもあれば、マサチューセッツの運転手がどこからともなく現れるかもしれないと思いつつ、ほとんど間を置かずに道路に出ることもあった。私は、地元の道路とドライバーに関する知識だけを頼りに、いつ止まり、いつ行くかを個人的に判断していた。

今、その交差点は規制されている。歩行者用信号が出るまで信号が3回変わるのを待たなければならないが、その後19秒あれば安全に反対側まで行ける。その短い時間、予測可能な周期で繰り返される横断は、歩行者のものである。ドライバーは、赤が青に変わるのを待ちながら、刻一刻と迫る時間を見守っている。横断歩道は今や、ほとんど静寂に包まれているように感じられる。この由緒ある大学の町では、学生の特権である信号無視は、急いでいる人の選択肢として残っているが、以前は判断の問題であったものが、今ではほとんどモラルの問題になっている。法律を守って待つべきか？信号無視をして、車のスピードを落としたり、自転車にひかれたり、他の歩行者に危険な前例を作ってしまう可能性がある。目に見えない専門家と目に見えない電気回路に支えられた無生物の信号は、かつては危険で、個人的で、自由だった行動を律するために介入してきたのである。

信号機は、テクノロジーには専門家の判断と政治的な判断が含まれており、日常生活ではアクセスできないことを思い出させてくれる。この交差点に信号が必要だと判断したのは誰か、歩行者の安全と車のスピードを保つのに19秒という数字が適切だと判断したのは誰か。ケンブリッジ市の職員は市民に相談したのだろうか。それとも専門家に依頼したのか、あるいは信号機の設計を専門に行うコンサルティング会社に委託したのか。疑問は尽きない。専門家が誰であれ、どうやって交差点での交通行動をモデル化し、車と人の時間配分を決めたのか。どんなデータを使って、その情報の信頼性は？健常者と歩行者を同じように想定しているのか、それとも体の弱い人や障害者のために時間を余分に確保しているのか。通常、このような疑問を抱くことはないだろう。交差点で事故が発生し、専門家が悲しい過ちを犯していたことが明らかになり、誰かが責任を問われるようなことがない限りは。

テクノロジーを賢く民主的に管理するためには、機械の表面の裏側、つまり、何が許され何が許されないかという線引きを形作った判断と選択に目を向けることが必要なのである。不思議なことに、社会理論家は、信号機のような優れた技術的対象物を設計する方法よりも、優れた法律を作る方法について考えることに多くのエネルギーを費やしてきた。この非対称性は不可解である。民主主義社会では、権力の無秩序な委譲は自由に対する基本的な脅威と見なされている。立法も技術設計も、前者は法律家に、後者は科学者、技術者、製造者に委ねられる。しかし、歴史的に見ると、私たちは技術的なシステムよりも人間に権力を委ねることを重視してきた。もちろん、歴史は重要だ。哲学者や社会科学者は、何世紀にもわたって君主制権力の乱用について懸念してきた。テクノロジーの潜在的な強制力は、より最近の現象である。しかし、もし私たちが人間の自由を維持したいのであれば、私たちの法的・政治的洗練はテクノロジーとともに進化する必要がある。テクノロジーに支配された世界で人権を取り戻すためには、私たちはどのように力がテクノロジー・システムに委ねられるかを理解しなければならない。そうして初めて、秩序ある自由と情報に基づく自治を求める私たちの願いを満たすために、委任を監視し監督することができるのである。

法と技術の間の類似点が重要であるのと同様に、相違点もある。法は全体として人間同士の関係、そして人間と社会機構の関係を規制している。例えば、電話によってセールスマンやロビイストが、物理的な侵入を禁じられていたプライベートな空間に入り込むことができるようになったように、テクノロジーもまた対人関係に影響を与える。しかし、法律の効力が人間の行為と解釈に依存するのに対し、テクノロジーは、心ない無生物と心ある有生物の間に代理権を分けることで機能し、その結果、責任とコントロールに広範囲な影響を及ぼす。信号機の例で続けると、規制された交差点での死亡事故は、信号のない交差点での事故とは異なる過失と責任の問題を提起する。赤信号を無視することは、それ自体が悪事の証拠となる。なぜなら、私たちは赤という色に法的効力を持たせることを選択したからだ。信号のない交差点では、誰が悪いかを決めるには、誤りを犯しやすい人間の傍観者の判断など、他の種類の証拠が必要となる。このような強力な規制の対象への委任をいつ行うか、また行わないかは、依然として深い倫理的な問題である。

従来の常識に反する

新しいテクノロジーは、単なる無生物の道具の配列ではなく、また、物事を成し遂げることを容易にする相互に連結した大規模なシステムでもなく、自己と他者、自然と人工の間の境界線を描き直している。技術的な発明は、私たちの身体、心、そして社会的な相互作用に浸透し、人間であれ非人間であれ、他者との関わり方を変えてしまう。これらの変化は、単に自動車やコンピュータ、医薬品の改良という物質的なものにとどまらず、人間のアイデンティティや関係性を一変させるものである。存在の意義に影響を与えるのである。例えば、生物学的物質を操作できるようになったことで、生と死、財産とプライバシー、自由と自律性についての考え方が大きく変わった。1930年代にデュポンが掲げた「より良いものを、より良い暮らしのために-化学をとおして」という宣伝文句は、人間の体から生きた惑星環境まで、生命そのものがデザインの対象となった現代では、絶望的にナイーブに聞こえる。

本書は、このような変革の可能性を考慮し、技術と社会の関係について広く受け入れられているが、欠陥のある3つの考え方を否定している。それは、技術的決定論、テクノクラシー、そして意図せざる結果である。これらの考え方は、社会におけるテクノロジーの役割について人々が一般的に信じていることの多くを、単独または複数で支えている。どの考え方も、技術をうまく制御する方法を考える上で有用な指針を与えてくれるが、いずれも限界があり、最終的には誤解を招くものである。最も危険なのは、いずれもテクノロジーを政治的に中立で、民主的な監視の対象外であると見なしていることである。この点で、3つの概念はすべて、技術の進歩は不可避であり、それに抵抗することはおろか、停止、減速、方向転換を試みることも無益であると主張しているのである。言い換えれば、テクノロジーを民主主義のために取り戻すためには、これらの強力な神話を脇に置く必要がある。

決定論者の誤謬

「技術的決定論」という考え方は、技術的変化に関する議論に浸透している。この言葉自体は、従来の常識を共有するすべての人にとって馴染みがないものだろうかもしれない。これは、技術は一度発明されると止められない勢いを持ち、その飽くなき要求に合わせて社会を作り変えていくという理論である。技術的決定論はSFによく見られるテーマで、機械が人間の支配から逃れ、自らの意志を獲得する。HAL は、人間の言葉を読み取るには十分な知識をもっているが、人間的な思いやりに欠けており、プログラムされた非道徳的な精神を切断しようとする宇宙飛行士の計画を「聞いた」ときに、宇宙船で同行していた宇宙飛行士たちのほとんどを殺してしまう14。

2000年、Sun Microsystemsの共同設立者で元チーフサイエンティストのビル・ジョイは、『Wired』誌に「Why the Future Doesn’t Need Us」15という記事を書いて広く注目を集めた。彼は、21 世紀の非常に強力なテクノロジー、すなわち遺伝学、ナノテクノロジー、ロボティクス、または GNRと呼ばれるテクノロジーは、その消滅の可能性のために私たちの大半が取っているよりもはるかに真剣に考慮すべきであると主張した。ジョイは、この新しい時代と以前の時代との違いを、新しいGNR技術の自己複製可能性と、その製造に必要な材料の比較的平凡な点に見いだしたのである。その理由は、GNRの新技術が自己複製する可能性を持っていることと、それを製造する材料が比較的ありふれたものであることだ。正しい知識を持った個人の小さなグループが、「知識を利用した大量破壊」を可能にするのだ。ジョイは、究極のディストピアを想像していた。

「その可能性は、大量破壊兵器が国民国家に遺したものをはるかに超えて、極端な個人の驚くべき、そして恐ろしい力の増大へと広がっている」16。

一見したところ、ジョイのビジョンは、少なくとも「極端な個人」による人間の行動と意思の余地を残している点で、完全に決定論的とは言えないように思われる。しかし、より深いレベルでは、技術そのものに内在する特性が、そのような技術の開発を漫然と続ければ、「極悪の完成」を事実上確実なものにしてしまうと確信しているようだ。才能あるコンピューター科学者のこのエッセイを読むと、人間が機械をコントロールし続けるには、非人間的な抑制をする以外にない、つまり、私たちの破壊を脅かす魅力的な能力を開発しないことだ、と信じるのは難しい。しかし 2001年のHALの歪んだ知能には、自然なものも、定められたものも何もなかった。この殺人コンピュータは、人間の意図、野心、エラー、誤算の産物だったのだ。HALのような機器を自律的なものとして扱い、行動を起こしたり、行動を形成したりする独立した能力を持たせることは、それを設計した創意を軽んじ、この驚異的だが制御不能な機械を作った人間の責任を剥奪するものだ。

また、ジョイが懸念しているように、いったん技術革新という目まぐるしい冒険に乗り出したら、もう後戻りはできないというのは本当なのだろうか？責任ある倫理的な技術進歩のためには、奔放な熱狂と時代錯誤のラディズムの間に中間地点はないのだろうか？ジョイのエッセイはそのような場所を教えてはくれないが、私たちは進歩という滑らかな壁の上に他の手掛りを見出すことができる。

信号機の話に戻ろう。ゼブラゾーンを走る歩行者のように、ある行為者が常に他の行為者よりも先に進むことを認める原則的な通行権か、あるいは私のオフィス近くに新しく設置された信号機のように、異なる種類の交通に対して順次規制されるアクセス権のどちらかによって、今日の米国では、それぞれの交通が交差点に対して制御された権利を持っていると考えられている。イギリスのコモンローでは、道路利用者はすべて平等であると考えられていたが、自動車が都市景観を支配するようになると、歩行者は自動車に道を譲らなければならなくなった。自動車は渋滞を引き起こし、交差点以外の場所では自動車に道を譲ることでしか、渋滞を解消することができなかった。1920年代にテキサス州で始まった交通信号機は、コストのかかる人間の警察官に取って代わり、急速に世界中に普及した。このように、どこでも同じ意味を持ち、ほぼ同じ行動を強制する交通信号が世界中に急速に普及したことは、現代の技術革新の大きなサクセスストーリーの一つである。信号が設置されると、信号無視はどこでも危険で、アメリカのいくつかの州では厳しい罰金で処罰される目立つ行動となった。

しかし、信号機にも限界がある。交通量の多さに圧倒されたり、事故を防げなかったりするのだ。21世紀に入り、オランダの道路技術者ハンス・モンダーマンは、交通量の多い道路での混合交通の問題を根本的に解決するような方法を考え出した。それは、「シェアード・スペース」という概念である。つまり、信号や標識、バリアなどのわかりにくい目印を一切なくし、道路やインターチェンジをシンプルにすることである。その代わりに、道路や交差点は、利用者が自分や他人の安全に気を配れるような作りにすることを提案した。ライト、レール、ストライプ、そして縁石も、よりシンプルで村のようなデザインに変え、ドライバーに注意を促した。モンダーマンは、道路の利用者を分けるために物質的な構造を用いる代わりに、敬意と配慮という社会的本能を頼りにして交差点を落ち着かせた。

2004年の『Wired』誌のインタビューで、モンダーマンは、かつて自動車利用者以外にとって悪夢であったドラヒテンの町の交通環状道路について、次のようにコメントしている。

「私はこれが大好きだ。以前は歩行者や自転車がこの場所を避けていたが、今では見てもらったように、自動車が自転車に気を配り、自転車が歩行者に気を配り、みんながお互いに気を配っている。交通標識や道路標示がそのような行動を促すとは思えない。道路のデザインに組み込まなければならない」18。

モンダーマンの交通実験は成功し、ロンドンからベルリンまで、大都市のビジネス街で導入された。モンダーマンの交通実験は大成功を収め、ロンドンからベルリンまでの大都市ビジネス街で導入された。事実上、彼はすべての利用者が道路に対して平等な権利を有していた、より優しく穏やかな時代へと時計を戻したのである。これは、ある技術システムの根底にある仮定を熟考し、批判的に考察することで、その技術を利用する人々、たとえ内蔵された構造に対する代替案が想像可能かどうか尋ねることを止めなかった利用者にさえ、非常に大きな解放的効果をもたらすことができるという、小さな一例であった。

もし私たちが、設計され規制された生活様式を作り出した権力や意図に対してしばしば盲目になるとしたら、それは「テクノロジー」という言葉そのものが、人間の創意工夫による機械的生産物がその社会的・文化的基盤から独立していると考えるよう誘惑しているからかもしれない。アメリカの著名な文化史家であるレオ・マルクスは、技術の研究から技術の産物へと、この言葉の意味が変化したことは、後の思想に大きな影響を与えたと述べている。この言葉によって、テクノロジーは「表向きは独立した存在であり、事実上自律的で、すべてを包括する変化の主体になることができる」と考えられるようになったのである19。

しかし、そのような自律性の感覚は幻想的で危険なものである。より思慮深い見方をすれば、テクノロジーは人間の欲望や意図から独立しているどころか、終始社会的な力に従属しているのだ。技術的決定論の著名な批判者であるラングドン・ウィナーは、1980年のエッセイで「人工物には政治性がある」20と言っている。人間社会が生み出した技術に関して、厳格な決定論的立場に疑問を呈する多くの理由が提示されている。生産面では、私たちが作る技術は、社会が直面している、あるいは直面していると考えているニーズの種類を規定する歴史的・文化的状況から必然的に発展するものである。原子の内部構造に関する知識は、原子爆弾の製造につながる必要はなかった。戦争中の国家が物理学者の理論的知識を利用して、金で買える最も破壊的な兵器を作ったから、そのような結果になったのである。政治は、製品が市場に出た後でも、技術の使用や適応に影響を与える。2011年のアラブの反乱は、一時期ツイッター革命と呼ばれ流行したが、スマートフォンやソーシャル・ユーティリティが引き起こしたのではない。むしろ、野蛮なイスラム国を含む既存の抗議活動のネットワークが、この地域の権威主義的な宗派政治の蓋の下で何年も煮詰まっていた不満を声に出すために、電話やビデオカメラ、そしてTwitterのようなサービスを便利だと感じたのである。このような観察から、アナリストはテクノロジーを政治の現場と対象として捉え直すようになった。テクノロジーの設計には人間の価値が入り込む。そして、さらにその下流では、人間の価値観がテクノロジーの利用方法を形成し続け、時にはモンダーマンの交通渋滞緩和のように否定されることさえあるのである。

テクノクラシーの神話

「テクノクラシー」という考え方は、技術的な発明が人間の行為によって管理・制御されることを認めるが、専門的な知識と技能を持つ者だけがその任務に就くことができると仮定している。健康への影響に関する医学的知識なしに新薬を承認したり、工学的専門知識なしに原子力発電所を認可したり、金融や経済学の訓練なしに中央銀行を運営したりすることを誰が想像できるだろうか？19世紀初頭、フランスの貴族で初期の社会主義思想家であったアンリ・ド・サンシモンの思想にさかのぼる21。サンシモニズムと呼ばれる彼の哲学は、社会の運営に科学的アプローチが必要であり、それに応じて訓練を受けた専門家に権威ある地位が必要であると強調したのである。20世紀初頭の米国では、進歩主義時代において、科学技術に基づく進歩の必然性と、政府のあらゆるレベルにおいて専門家が顧問として必要な役割を果たすという、同様の信念が生まれた。しかし、第二次世界大戦が終わると、新たな動きが出てきた。戦時中の豊富な公的資金に育まれた科学者たちは、しばしば国政における自らの役割を喜び、より多くの、より優れた科学を公的な意思決定に反映させようと懸命に働きかけを行った。諮問機関や役職が急増し、従来の立法府、行政府、司法府の横に、実質的に政府の「第五の支部」が誕生し、専門家による規制機関という影響力のある「第四の支部」を補うことになった22。

しかし、テクノクラートへの信頼とその技術への依存は、懐疑と幻滅と隣り合わせのものであった。20 世紀の短い戦間期に影響力を持ったイギリスの経済学者、政治学者であるハロルド・ラスキーは、1931年のパンフレットで専門知識の限界について書き、後の疑念と反省を予見している。

（専門知識は）謙虚さを欠いていることがあまりにも多く、そのことが、専門知識の所有者に、まさに鼻の前にある明白なことを見落とさせるような、割合の失敗を生み出すのである。また、専門家にはある種のカースト精神があり、専門家は自分たちの階級に属さない人たちから得たすべての証拠を無視する傾向がある。とりわけ、おそらく、人間の問題に関わる場合、最も緊急なことだが、専門家は、純粋に事実に基づかない判断は、それについて特別な妥当性を持たない価値体系をもたらすことを理解できない23。

アメリカの進歩主義時代の友人たちを含む当時の他の知識人たちとは異なり、ラスキーは優生学や知能テストに頼りすぎることに先見的な注意を促している。最高裁判事のオリバー・ウェンデル・ホームズは、ラスキーとの手紙のやり取りによって、憲法修正第一条に関する見解をますますリベラルなものにしていったが、1927年のバック対ベル裁判では、優生学的不妊手術を支持したことは有名である24。ドイツの生物学者がナチの人種主義を科学的に支援したというホロコーストの行き過ぎは、ラスキの懐疑心が悲劇的に十分に根付いていたことを証明するものであった。

技術的な失敗に関する最近の多くの例は、後の章で詳しく説明するが、専門家が自分たちの立場の背後にある確実性の程度を過大評価し、自分たちの閉じた陣営の外から来る知識や批判に対して盲目になるという、ラスキが以前から主張していたことを裏付けるものである。1986年に起きたスペースシャトル「チャレンジャー号」の事故では、NASAが公開調査を行ったが、早期警告サインの発見と伝達を妨げていたNASA内部の問題は発見されなかった。2003年に2機目のシャトル、コロンビア号が失われた後、社会学者ダイアン・ヴォーン25と相談して初めて、NASAはその専門家の組織文化の欠陥を認めたのである。受賞歴のあるドキュメンタリー映画『インサイド・ジョブ』の中で、チャールズ・ファーガソン監督は、「疑いなく優秀な」26 ローレンス・サマーズを含む経済顧問の小集団が、金融規制緩和を提唱し、早期警告を「遅れたもの」として2008年の金融危機の前に却下したことを詳細に語っている。これらの例は、専門家の意思決定における透明性の向上と公的監視を強く主張するものである。

意図的な結果と非意図的な結果

技術的決定論やテクノクラシーとしばしば並行する第三の考え方は、「意図せざる結果」というものである。技術が失敗することはよく知られているが、誰がどのような状況で失敗を非難されるべきかは、あまり明らかではない。実際、失敗が劇的であればあるほど、その物やシステムを設計した人たちが意図していたことはおろか、想像していたことも受け入れられなくなる。トースターが壊れたり、凍えるような朝に車がエンストしたりすると、私たちは誰かを呼んで故障を修理してもらう。あるいは、人と同じように物にも寿命があることを知っているので、少し不平を言って、耐用年数が過ぎたものの代替品を購入する。保証期間や耐用年数内に動かなくなったものは、「レモン」と呼んでお金を返してもらう。その故障が深刻であったり、怪我をさせたりした場合は、消費者金融にクレームを入れたり、裁判を起こしたりして救済を求めることがある。しかし、人間と機械が共に生活している以上、その多くはごく当たり前のことであり、社会の基本的なリズムに大きな波紋を投げかけることはない。また、災難は自然現象であり、生物と同様に非生物をも苦しめる老化現象の結末として予測される。

技術的な誤作動や事故、災害が意図しないものに見えるとしたら、それは技術の設計過程が一般に公開されることがほとんどないからだ。製鉄所やチョコレート工場、食肉加工工場を見学したことがある人なら、見学者は限られた透明性と引き換えに厳しい規則を守らなければならないことを知っているだろう。見てはいけない場所、開けてはいけないドアがある。たまに、生産上のミスが表に出て、設計者が非常に恥ずかしい思いをすることもあるが、それは例外であって、ルールではない。2010年7月、アップル社が「iPhone 4」を発売し、わずか3週間で300万台を売り上げたときのことだ。ところが、このiPhone 4をある方法で保持すると、接続ができなくなり、電話として機能しなくなることが判明した。そのため、ブログなどでは、、「iPhone4が売れないのはおかしい」と大騒ぎになった。この出来事は、「アンテナゲート」と呼ばれ、揶揄された。しかし、アップル社の共同創業者であり、偉大なセールスマンであったスティーブ・ジョブズ氏が、その批評家たちを黙らせるために、見事な演出を施したのである。

ジョブズ氏は、公開ミーティングと広報用ビデオで、あるテーマを何度も繰り返し強調した。「私たちは完璧ではない」「携帯電話は完璧なものではない」27 完璧ではないが、人間が手に入れられるのと同じくらい良いものであり、iPhone 4の場合は、市場にあるどの競合製品よりもはるかに優れている、と彼は主張したのである。ジョブズは、この主張を裏付けるように、iPhoneアンテナの性能テストに費やされた膨大なデータを発表した。あるブロガーが指摘したように、「iPhone 4は、原始人が組み立てたものではない」と視聴者に確信させるための華麗なパフォーマンスだった28。もし不完全な部分が残っていたとしても、それは人間も機械も完全無欠で安全な世界では避けられない事態である。しかし、重要なことは、ジョブズが会社の責任を認め、Appleの社員が問題解決のために残業していることを強調し、Appleはすべてのユーザーの幸せを願っているという言葉を繰り返したことである。そして、iPhoneのカバーを無償で提供し、初期購入者の不便を補うという宥和策をとった。

「意図せざる結果」というテーマは、技術的な失敗を全く別の方向に紡ぎ出す。このストーリーラインは、スティーブ・ジョブズが告白した人間と機械の欠陥とは別物である。ジョブズは、アップルのエンジニアは、たとえ完璧なマスターベーションができなかったとしても、問題に対してできる限り一生懸命に考え、事前に解決しようと努力していると主張した。その一方で、万が一の失敗を想定して、設計を見直すこともある。これに対して、意図しない結果という言葉は、最終的にどのようなことが起こるかについて前もって考えることは不可能であり、また必要でもないことを意味している。例えば、数十年にわたる成層圏へのフロンガス放出によって引き起こされた「オゾンホール」の発見や、1984年にインドのボパールで発生し、数千人の犠牲者を出したガス漏れ事故 2008年の世界金融市場の崩壊のような大惨事の後、この言葉は通常、悲惨で破滅的な出来事の後に発せられる言葉である。これらの災害は、私たちを無力にし、どのように対応すればよいのか、また、どのように被害を軽減すればよいのか、まったく分からなくさせるものである。このような大規模な崩壊は意図的なものではなかったと主張することで、麻痺と罪悪感の集合的な感覚を和らげることができる。このような致命的な出来事を、自然災害、あるいは保険会社でいうところの神の御業になぞらえることができる。そうすることで、既知の関係者は、何が悪かったのか、また、何が起きたのかについての責任を暗黙のうちに免れることができる。

しかし、意図しない結果という考え方は、厄介な問題をはらんでいる。設計者の意図したとおりにならなかったという意味なのか、それとも、誰もその技術がどのように使われるかを事前に知ることができなかったために、設計者の意図の範囲外のことが起こってしまったという意味なのか。この2つの解釈は、法的にも道徳的にも全く異なる意味を持つ。例えば、ロバート・マーティン・サンチェス氏は 2008年9月にロサンゼルスで起きた列車事故において、仕事中のメール送信により、同氏と24人の死者を出すという重大な事故を引き起こした。電話の設計者は、高度な注意力を持続的に必要とする職業に就く人がこの発明を使用することを意図していなかったと考えるのが妥当であろう。救済措置としては、製造者だけでなく、使用者にもより高い注意基準を強制するための法律や規制の変更が考えられる。例えば、自動車が大量に普及した数十年後に気候科学者が、化石燃料を燃やす自動車からの排出ガスが気候変動の主な原因であることを発見したような場合である。この場合の失敗は、想像力、予期、監督、そしておそらく無制限の欲望であり、予防政策や技術設計の改善によって簡単に治るものではない。

残念ながら、この2つのシナリオは論理的には異なるものの、実際には切り離すことが困難な場合が多い。問題の一つは、「unintended」という言葉の曖昧さにある。結局のところ、ある技術が意図した結果とは何なのだろうか。その場合、起こりうる事故について積極的に考える必要のある設計者や規制当局にとって、その答えはあまり有益ではないだろう。また、この言葉の使い方には、良い結果は常に意図されたものと考えられ、悪い結果だけが後から意図されていないというレッテルを貼られるというような偏りがあるのだろうか。その場合、意図しない結果という言葉は、主に、技術革新が基本的に進歩的で有益なものであることを私たちに安心させるために使われる。つまり、人類に有益な役割を果たすはずの機器に、大惨事を引き起こす可能性を意図的に組み込むようなことはしない、という希望を表明しているのだ。

第二の問題は、「意図せざるもの」という言葉が、意図（少なくとも道徳的に適切な意図）をある特定の時点で固定してしまうように思われることである。メール送信の列車技師サンチェスの物語は、技術が世に出た後、いかに社会と複雑かつ変化する関係を獲得するかを物語っている。2008年に起きたロサンゼルスの通勤電車で起きた死亡事故の前もそうであったように、携帯電話と電車、メールと通勤は、ほとんどの場合、私たちにとって異なる概念的領域に存在しているのかもしれない。しかし、人間は、現代社会が手の届くところに置いた機器を、独創的、想像的、そしてクリエイティブに使いこなすものである。その変化する使い方を追跡する責任は誰にあるのだろうか。ロサンゼルスでの悲劇的な事故は、誰も事前に計画していなかったが、監督者が目を凝らせば、かなり広範囲に渡っていたかもしれない、ある種の相乗効果に注目させた。もし、ある技術者がそのような不注意を犯していたなら、他の技術者も同じようなことをしていた可能性がある。この事故の連邦調査委員会の委員長を務めたキャサリン・オリアリー・ヒギンズは、乗務員の携帯電話の使用を国家的な問題であると断言した。「これはある日、ある列車、ある乗務員の出来事であり、他に一体何が起こっているのかという疑問を私に抱かせるものである」29。

立場と方法

技術革新は、人間の多様性と同じくらい広範なものであり、それを分析的に理解しようとする試みには、いくつかの枠組みを選択することが必要である。私自身は、このような選択を、一部は学問的な訓練によって、また一部は個人的な世界の経験によって、行っている。本書で扱う実証的な資料の多くは、法律学者として、科学、技術、法律の接点で起こる論争に深く精通していることに由来している。また、科学技術の社会的実践が、法律など社会の他の制度とどのように関連しているかを理解するための比較的新しい学問分野である、科学技術研究（STS）の分野でも二次的な訓練を受けている。STSの分析では、特に、技術的・社会的な不確実性がどのように解決されるのか、また、信じられるような世界の説明をするために何が失われ、何が単純化されるのかに細心の注意を払う必要がある。STSが特に関心を寄せるのは、技術システムが十分に安全かつ効果的に機能すると宣言し、疑念を傍観するような決定である。このような観点から、リスク評価などの専門的プロセスに関する文献が数多く発表されており、本書で提起されている倫理的・道徳的問題に影響を与えている。

もう一つの方法論は、科学技術政策と環境規制の国際比較に長年携わってきたことに起因している。科学的根拠に基づく合理的な意思決定と公衆衛生や安全性の徹底的な保護を掲げる国々であっても、技術システムに対する規制の程度や種類が異なる場合があることが、こうした調査によって明らかになった30。ドイツは反原発に熱心だが、フランスは全体として好意的である。どちらも自国内に油田やウラン鉱山を持たず、政策の相違は経済的、地政学的な利益だけでは説明しきれない。このような相違は、技術的未来に関する倫理的推論において歴史と政治文化が重要であることを示唆しており、本書はそのような観点からも重要な示唆を与えている。

また、本書で取り上げた事例には、様々なレベルでの個人的な選択や経験が反映されている。なぜなら、これらの分野では、プライバシーや監視といった問題がまだ流動的なデジタル分野よりも、倫理的・法的問題が早くから明確にされていたからだ。また、個人的な関心と知的な関心が混在する南アジア、特にインドでの事例も取り上げている。インドと米国には、リスク、不平等、人間の尊厳というテーマに関わる顕著な類似点と相違点がある。両国とも技術開発に力を入れ、民主的な社会であり、社会動員や言論の自由といった立派な伝統を育んできた。しかし、インドは米国より明らかに貧しく、技術的な大失敗や災害が何度も起きている。両国の議論を並べると、不平等な世界における責任ある倫理的なイノベーションの課題が浮き彫りになる。

責任感の欠如

近代の環境を構成する人間が作り出した機器やインフラの利点を否定するのは、よく言えば愚か、悪く言えば危険なほど無邪気なことだろう。しかし、テクノロジーを人間の自由な選択に従って進化する社会の受動的な背景として扱うにせよ、テクノロジーに私たちの運命を形作る超人的な力があるとするにせよ、私たちの幸福を脅かす概念の誤りを犯す危険性があるのだ。数世紀にわたる発明は、人間の生活をより甘やかされ、自立し、生産的にしてきただけでなく、古典的な政治・社会理論にはほとんど名前がなく、ましてや善政の原則もないような抑圧と支配の形態を永続させてきたのである。テクノロジーが階層構造や不平等を含む社会的相互作用の基本的な形態にどのような影響を与えるかをもっと理解しない限り、「民主主義」や「市民権」といった言葉は、自由な社会の羅針盤としての意味を失ってしまう。

技術的決定論、テクノクラシー、意図せざる結果といった教義は、技術に関する議論から価値、政治、責任を排除する傾向がある。もし機械が独自の論理を持ち、社会を必然的な道筋に向かわせるのであれば、道徳的に重要なことはほとんど議論に残らない。その場合、テクノクラートは、専門家による統治が唯一の有効な選択肢であると主張する。なぜなら、私たちが望むのは技術がうまく機能することであり、工学設計や技術的リスクの評価は、普通の人々に任せるにはあまりにも複雑だからだ。さらに、すべての大規模な技術システムが複雑であることを考えると、予測できない脅威を含む不確実な未来と共存する現実的な選択肢はない。予期せぬ結果というレンズを通して見ると、テクノロジーの多くの側面は、事前に知ることも、効果的に防御することもできない。ヘンリー・フォードがT型を開発したとき、どうして気候変動を予見できただろうか？社会は創意工夫をし、創造的で、リスクを恐れず、悪いことが起きてもうまく対処できるようになる方がよいに違いない。

このような議論は、テクノロジーによって脅かされたり、制限されたりしている現代生活の側面について、宿命論や絶望をもたらす可能性がある。しかし、私たちは、従来の常識が誤りであることを見ていた。テクノロジーを本質的に非政治的あるいは非ガバナンス的なものとして表現する理論は、テクノロジーも技術者も政治、道徳的分析、ガバナンスの範囲外には存在しないという反証を生んだのである。現代社会の課題は、有意義な政治的行動と責任あるガバナンスの可能性がどこにあるのかを知るために、テクノロジーについて十分に強力で体系的な理解を深めることである。人間の能力を向上させるために行われる交渉は、盲目的な無知や還元できない不確実性の条件下で不平等な交渉相手との間で結ばれるファウスト的なものである必要はないのである。

しかし、テクノロジーが人間のコントロールから外れないようにするための最も有望な手段は何か。また、増殖する無生物の創造物を抑制するために、概念的あるいは実際的にどんなツールを展開することができるのだろうか。本書の残りの部分では、社会が技術的発明に対してより責任ある行動を取るためには、リスク、不平等、人間の尊厳といった問題に対処する必要があるとして、これらの問題を取り上げている。

第2章では、ほとんどすべての技術革新に付随するリスクについて、その発生源と管理のあり方を問う。技術的リスクはどのようにして生じるのか、誰が評価するのか、どのような証拠や証明の基準によって、またどのような種類の監督や管理のもとで、リスクは発生するのか。

第3章と第4章では、技術的に進歩した社会における不平等と不公正の構造的基盤というテーマを扱っている。第3章では、技術システムにおけるいくつかの劇的な失敗を検証し、リスクや専門知識が国境を越えて偏在し、予測や補償の責任を特定することが困難な世界において、より倫理的なガバナンスシステムはどのように考案され得るかを問うている。

第4章では、動植物の遺伝子組み換えをめぐる論争をたどり、科学者が地球規模で自然に手を加える際に生じる国境を越えた倫理的・政治的ジレンマを明らかにする。次の3つの章では、新たな技術システムにおいて個人の自由と自律が果たす役割の進化について、さまざまな角度から考察している。

第5章では、生物医学の科学と技術の変化がもたらす倫理的・道徳的意味を考察し、人間の生物学を操作することの限界について、どのような制度とプロセスによって意思決定がなされるのかを検証している。

第6章では、急速に拡大する情報とソーシャルメディアの世界を掘り下げ、デジタル革命の初期の数十年間に生じたプライバシーと思想の自由に対する挑戦をマッピングしている。

第7章では、知的財産の問題を取り上げ、自由な探求の理想と所有権のある知識の現実との間の緊張関係を支配するルールについて考察する。最後の2つの章は、コントロールとガバナンスの問題を探求している。

第8章では、技術的未来の設計と管理においてより積極的な役割を果たすよう、一般市民を巻き込むために考案されたさまざまなメカニズムについて検討する。

第9章は、本書の冒頭で述べた究極の問いに立ち戻る。あまりにも急速で、あまりにも予測不可能で、あまりにも複雑で、古典的な善政の概念を適用することができないと思われる技術的な力に対して、どのようにして民主的統制を回復できるのか。

第9章民衆のための発明

20世紀を通じて、「テクノロジー」という言葉は、第一次産業革命の汚く、錆びついた、臭い、目に見えないインフラを思い起こさせるものであった。ウィンストン・チャーチル（Winston Churchill）は、政府に助言を与える科学者について、こう述べたという。「蛇口はあるが、上にはない」と。しかし、今世紀に入ると、テクノロジーは社会を変えるダイナミックな力と見なされるようになり、テクノロジーは人間の存在の目的と条件を劇的に、そしておそらくは取り返しのつかないほどに変えることができるという認識が世界の人々に広まり、より大きな希望と恐怖をもたらすようになった。20世紀後半の技術革新は、世界の人々全体にとって、より良い健康、より迅速なコミュニケーション、よりクリーンな環境、そして想像を絶する豊かな知識と情報を約束するものであった。人間個人のレベルでは、ナノ、バイオ、情報、認知科学の進歩に支えられた同じテクノロジーが、自己を改造する広大な機会を生み出し、これまで想像もできなかったような生活の向上をもたらすとともに、そうしたパワーが誤って使われたり、使いすぎて人類に永遠の不利益をもたらすかもしれないという懸念が生まれた。

核兵器の消滅という脅威は、技術的リスクに対する新たな世界的注目を集める強力な原動力となったが、1980年代以降、内部関係者が「収束的破壊」と呼んだ技術は、人間の能力の向上に対する人々の期待を高める一方で、技術の支配と浸透の影響に対する新たな不安を呼び起こすようになった。バイオテクノロジーは生命と健康の奇跡を約束したが、環境の悪化とモラルの崩壊に対する根深い懸念を呼び起こした。最近では、ナノテクノロジー、合成生物学、認知科学、神経科学、そして何よりもコンピューティング能力の発展が、人間であることの意味を再定義するテクノロジーの巨大な可能性に注目するようになった。特に情報技術は、個人情報の利用が拡大し、人間がかつてないほど採掘や監視の対象となりやすくなり、ビッグデータとアルゴリズムが人間の裁量に代わって、一見無謬の統治手段となる時代を予見している。一方、旧来の工業生産の遺産である気候変動は、私たちの技術的進歩への欲求を抑制しない場合に何が起こり得るかを示す妖怪として、地球上に漂っている。地球を冷却する地球工学、汚染を伴わない成長を可能にする新しいエネルギー技術、あるいは人間の誤った管理によって破壊されていない惑星への逃避という究極のSFファンタジーなど、この極限の脅威に直面してもなお、テクノロジーは自らの毒に対する最高の解毒剤になると確信している人たちがいる。

一般に信じられているが欠陥のある3つの信念は、それぞれ技術が基本的に管理不可能であり、したがって倫理的分析や政治的監視を超えるものであることを示唆しており、技術の統治に関する体系的思考を長い間妨げてきた。第一は技術的決定論で、何世紀にもわたる歴史的経験に反して、技術には歴史の流れを形成し推進する勢いがあるとするものである。第二はテクノクラシーで、熟練した知識を持つ専門家のみが技術の進歩を管理する能力を有するとするものである。第三は意図せざる結果という概念で、テクノロジーによって引き起こされる害は意図や予見の範囲外であると暗に位置づけ、人間以外の機械や認識の協力者を人間の意味のあるコントロール下に置く可能性について宿命論を育んでいる。

私たちは本書を通じて、技術的なシステムが実際にはこうした従来の常識よりも可塑的で、倫理的・政治的な監視に従順であることを見ていた。テクノロジーを作り出し、展開することは、個人の価値観や信念をいかに守るか、また、独特の法的・政治的文化に支えられた国民国家の政策的直観をいかに尊重するかなど、さまざまなレベルで倫理的問題を生じさせているのだ。このような問題は、20世紀後半に技術が世界的に普及したことによって緊急性を増し、技術先進国である社会に対して、積極的な社会的考察と対応の義務を課している。例えば、かつて医薬品は、医学の知識と実践における奇跡的なブレークスルーであり、全人類に利益をもたらすと考えられていた。しかし、グローバルな市場において、医薬品は国内のみならず国境を越えた権利と義務に関わる多くの規範的な問題と絡んでくるようになった。例えば、ヒト生物試料の所有権、医療データのプライバシー、臨床試験への同意、被験者研究の倫理、ジェネリック医薬品の製造、実験薬および必須医薬品へのアクセス、先住民の知識の保護、その他多くの関連事項が含まれる。これらすべての問題において、利害関係や期待は、病める者と健やかなる者、富める者と貧しい者、生産者と消費者、先進国と発展途上国の国民など、観察者の社会経済的立場によって大きく異なる。つまり、医薬品は科学、医学、経済、法律、政策の対象として、国境を越えた空間で人体を再構築する。しかし、医薬品開発の政治と倫理に関する審議のプロセスは、国家レベルに比べて超国家レベルではまだ著しく不十分である。

グローバル化する世界の倫理的ニーズを満たすために、私たちの広範囲に及ぶ技術的発明はどのように管理されるべきなのだろうか。技術革新のリスクと利益を誰が評価するのか、特にその結果が国境を越える場合、誰の基準に従って、どのような影響を受けるグループと協議して、どのような手続き上のセーフガードに従って、そして決定が誤ったものであったり有害であったりした場合にはどのような救済措置があるのだろうか。技術的な誤謬や失策は、社会的、政治的、法的により深い分析の必要性を絶えず私たちに警告している。しかし、善悪に関する多くの基本的な問題は依然として深く争われており、それらを解決するための原則はせいぜい弱々しく地平線上にかすんでいるに過ぎない。本章では、これまでの数十年にわたる技術システムのガバナンスに関する国内および世界的な経験から得られた主要な洞察をレビューしている。そして、これらの歴史をつなぐ3つのテーマ、「予見」、「所有」、「責任」の下に、依然として待ち受ける課題をまとめていく。

期待：不平等な贈り物

技術に関するすべての政策言説を貫く糸があるとすれば、それは賢明な先読みの必要性である。1970年代から1980年代にかけての技術評価プログラムは、技術によって引き起こされる物理的・環境的な害を予見し、それを回避することへの関心から生まれた。同様に、新しい技術の倫理的意味を評価するプログラムは、耐え難い道徳的被害を予見し、それを回避したいという広く分散した願望を反映している。当然のことながら、現代社会では、物理的および道徳的な結果に対する予測は、専門家による起こりうる結果の予測と密接に結びついている。技術政策の線形モデルは、リスク評価から始まり、後になってから意思決定に価値を注入するもので、最初の予測段階は、技術がどのように作動し、どこで間違うかを最もよく理解していると考えられている専門家、つまりテクノクラートに委ねられる。しかし、これまでの章に散見されるように、専門家の想像力は、その専門性によって制限されることが多い。既知のものが未知のものよりも優先されるのだ。したがって、専門家による予測は、短期的で計算可能な、議論の余地のない効果に重きを置く傾向があり、思わせぶりな、突飛な、あるいは政治的に議論の余地のある効果を優先させる。そして、ブレイクスルー科学的洞察に長けているにもかかわらず、専門家はハイブリッドな社会技術システムの複雑さを過小評価しがちで、人間と人間以外の要素間の理解されていないダイナミクスやフィードバックが、実験室ベースの予想の正確さを混乱させるのだ。

誰が未来を想像するのか？

技術革新の初期の有望な段階においては、先見性はしばしば専門家の支持者の学問的能力によって形成され、制限される。アシロマーの分子生物学者たちは、生物学的大災害を防ごうと決意していたが、商業的バイオテクノロジーによって再構築された世界が、主要な遺伝子組み換え作物が日常的に野生作物に取って代わるとは想像もしていなかっただろう。サハラ砂漠からヨーロッパへの太陽エネルギー輸送を構想したドイツのエンジニアリング会社は、文化も経済も大きく異なるこのような大胆なトランスナショナル・プロジェクトの政治的管理について考えていなかった。

また、制度的な保守性も、先見の明を阻む。例えば、裁判所は法律の安定性を確保しようとするが、その代償として技術の変容がもたらす価値を無視することになる。ジェネンテック社は、アナンダ・チャクラバーティ氏のバクテリアを単なる物質とみなし、ジェレミー・リフキン氏のバクテリアの特許から高等動物の特許への滑り台という一見根拠のない懸念よりも、バイオテクノロジー企業の段階的なビジョンを優先したコモンロー高裁に勝利したのだ。しかし、今にして思えば、リフキンは、ジェネンテックや科学界におけるその著名な擁護者よりも、生命特許化の起こりうる軌跡をより正確に予見していたように思われる。カナダの最高裁がオンコーマウスの特許を否定し、米国の最高裁がヒトの遺伝子の特許を退けたことは、生命を特許化することの極端な意味合いを遡って（遅きに失したとも言える）否定するものであったと言える。

専門家の思考においても、isとoughtの間にしばしば暗黙の乖離が生じ、倫理的懸念の端緒が鈍ることがある。科学者の常識から逸脱することは、不合理、虚構、幻想と見なされ、（まだ）できないことは心配する価値がないとされる。これまで見てきたように、発明はそれ自体が善とみなされる傾向があり、倫理的な監視は主に、約束された善が無謀な利益欲によって狂わされないことを保証するために発動されるのだ。技術的にありえないという予測は、潜在的に「非現実的」な倫理的憶測や早まった大衆の不安を防ぐバリアとして機能するのだ。例えば、サイエンス誌が2013年に発表した「ブレイクスルー・オブ・ザ・イヤー」の次点リストに掲載された簡単な項目を考えてみよう。同誌は「ついに実現したヒトクローン」という見出しで、「今年、研究者たちはヒト胚のクローンを作り、長年の夢だった胚性幹（ES）細胞の供給源として利用することを発表した」と報じているのだ。同誌はさらに、この開発の倫理的意味を軽視し、社会が心配する必要がない理由として、道徳的嫌悪感よりも可能性が低いことを挙げている：「この偉業は、クローン赤ん坊に対する懸念も引き起こす。しかし、今のところその可能性は低いと思われる。オレゴン大学の研究者によれば、何百回と試したが、サルのクローン胚が代理出産で妊娠した例はない」（強調）1と言うのである。仮に、妊娠が成立し、クローン赤ん坊の可能性が高まったとしよう。私たちのような無限の創造力を持つ社会が、人間の尊厳に対する脅威がドアをノックした後に、このような広範囲に及ぶ技術的実験の倫理的意味について考えるのは適切なことなのだろうか。

サイエンス誌が想像する技術革新の世界では、クローンベビーについて一般大衆が懸念を表明することが適切であるとすれば、それはいつになるのだろうかと疑問に思う。オレゴンかどこかの研究者がクローン胚の妊娠に成功したと発表した後であろうか？しかし、その段階までには、新しい「is」が、より微妙で予防的な「ought」の可能性を圧倒してしまうだろう。例えば、倫理的に議論のある妊娠を誘発するために「何百回も試みる」前に、研究者によく考えさせる、あるいは人前で声を出して考えさせるような規則のようなものが考えられる。さらに、ヒト胚のクローニングを「長年の悲願」と表現することは、胚がどこで終わり、赤ん坊がどこで始まるかについて、国によって争われ、異なる道徳的決着があることを見落としている。たとえばドイツでは、研究の過程でアメリカよりもさらに上流で懸念が生じるかもしれない。これは、倫理的思考がどちらの場合も「西洋」の伝統に根ざしている二つの国において、功利主義的議論とは対照的に擁護主義的議論を好む傾向が異なることを示している。倫理的な推論に対する基本的なコミットメントにこのような格差があることを考えると、人類という種全体にとって重大な決定を、技術的に一流の国々が単独で行うことは、果たして適切なのだろうか。

専門家の自信に満ちた主張が道徳的分析のベースラインである以上、倫理的評価はいずれにせよ、起こりうるシナリオのコストと便益に関する功利主義的分析に陥りがちである。米国の2つの大統領倫理委員会がそれぞれヒトクローンや合成生物学を評価したときがまさにそうであった。いずれのケースでも、倫理委員会は、この技術はまだ十分に安全ではないため、現時点では倫理的な懸念はないと結論付けている2。このような失望するほど制約の多い活動は、構成的技術評価（第8章参照）のような手続きによって実現される先見的ガバナンスが、「技術科学の長い弧をより人道的な目的へと曲げることに貢献できる」という一部の民主主義理論家の期待に反している3。

トリクルダウン・イノベーション

現代社会は、技術的に不利な未来を予測し、潜在的な悪影響を回避するために、資金や専門知識といった膨大なリソースを投入しているが、それらのリソースは国や技術領域によって偏在している。2013年にバングラデシュで起きたラナプラザ工場の崩壊のような出来事は、貧しい人々の生活が、豊かな国では耐えられないとみなされるような方法で危険にさらされているグローバルな政治経済を物語っている。1984年、ボパールのユニオン・カーバイド工場からイソシアン酸メチルの死雲が放出され、何も知らずに眠っていた街に降り注いだときと同様、繊維産業で過去最悪の災害が起きた2013年も、驚くことに責任の所在を明らかにすることは困難だった。ソヘルラナの容疑が正式に固まるまで、2年以上を要した。バングラデシュの労働者を雇用する多くのアパレル企業が補償基金への拠出を約束したものの、責任の所在を正式に明らかにし、主要な多国籍企業が公に責任を負うようなグローバルな場は存在しなかった。リスクアセスメントがこのような恐ろしい事故を予見し、防止するためのものである限り、それは深刻なグローバル経済、政治、情報の不平等の状況下での予見と保護という課題にまだ追いついていないのである。

リスク評価の失敗は、歴史的に広く使われてきたこの予測技術を支えてきた狭い因果関係の枠にも起因している。「科学」としてのリスク評価は、常に社会的要因を軽視し、リスク創出に対するより捉えどころのない経済・制度・文化的貢献に対して、定量化可能な変数を過度に強調してきた。米国の事故専門家が、NASA内の組織的な状況がこれらの悲劇を可能にしたと指摘し始めるには、コロンビア号とチャレンジャー号の2つのスペースシャトル事故が必要であった。ボパール事故は、それに匹敵するような清算の瞬間を生み出さなかった。ボパール事故は、多くの人々が時期尚早で不当な和解と見なし、富と専門知識が同等でない国家間で非常に危険な技術が移転されたときに起こったすべての問題の公正な裁定を妨げてしまったのである。

ガバナンスの道具としての限界はあるにせよ、予期はどの社会にとっても無くてはならない価値である。歴史上、人間は現在の恐怖や試練を打ち消す手段として、現世であれ来世であれ、未来を予見することに目を向けてきた。蒸気機関、綿繰り機、電球から、今日の遺伝子組み換えジャガイモ「イネイト」に至るまで、より良い世界のビジョンが発明家たちを動かし、新しい道具を想像し、創造してきた。4 解放のビジョンが、カリフォルニアに拠点を置くシンギュラリティ大学の、一度に10億人の生活を飛躍的に改善するという野心につながっている。投資家は、研究開発の長い道のりのどこかで利益が上がることを期待して、設立間もないテクノロジー企業の株式を購入する。消費者もまた、アップルの最新の動きに注目し、洗練された機能、多様性、スピードなど、想像を絶する進歩を期待して、その役割を担っている。近代化の恩恵のひとつは、アイデアと現実化の間のギャップが縮まったことだ。知識を発明に結びつける能力は、科学的、経済的資源とともに成長した。人類の歴史上、優れたアイディアが素早く注目され、ベンチャーキャピタルや、グローバル市場に投入するために必要な法的・政治的支援を、使いやすい形でリアルタイムに受けられるようになった時代は、かつてないほど長く続いた。

しかし、今のところ、ポジティブな期待を抱くことができるのは、すでに多くのものを手に入れ、さらに多くのものを手に入れることを夢見ることができる人たちに限られているのが実情である。スティーブ・ジョブズの有名な主張、「消費者が何を欲しがっているか、彼ら自身よりも先に知っている」というのは、「欲しい」ではなく「たくさんある」という経済の中で生まれた言葉だ。ジョブズは、自分が夢見た美しいガジェットを、人々が欲しいだけでなく購入する資源も持っていると仮定していたのだ。しかし、世界の大衆の多くは、テクノロジーの進歩がもたらす直接的な利益や長期的な展望を自ら予測することはできない。彼らは、技術のフロンティアに近いところで、大規模な変化をもたらす資本とノウハウを持つ起業家が、別の場所で設計した発明によって自分たちの生活が改善されるという善意の部外者の約束を受け入れるしかないのである。このように、技術革新の公正なガバナンスを阻む未解決の倫理的・政治的障壁として、アクセスだけでなく、予見に関する不平等が浮かび上がってくるのだ。

技術的・経済的に恵まれた社会が享受する不公平な想像力の優位性を相殺するために、「質素なイノベーション」あるいは「質素なエンジニアリング」という考え方が定着してきた。ここでいう倹約とは、裕福でない人々の手段によりよく適応した技術を作ることを意味する。2005年にマサチューセッツ工科大学のニコラス・ネグロポンテが始め、前国連事務総長のコフィ・アナンが受け入れた100ドルノートPCプロジェクトはその典型である。その目的は、不必要な装飾を取り除き、発展途上国の多くを悩ませる不安定な電力供給のような不利な条件下でも動作するように装備することで、世界中に簡単に配布できる手頃な価格のコンピュータを作ることであった。インドのタタ・グループが開発した世界一安い自動車「ナノ」や、携帯電話「ノキア1100」、ユニリーバが開発した使い捨てのトイレタリー製品など、「質素な技術革新」は、あらゆるものを包含している。さらに、「余分な」部屋、車、ペットまでもが余剰資本となる「共有経済」の台頭は、「持てる者」の余剰財を「持たざる者」の利益のために利用する可能性のある一種の倹約的イノベーションであると考えることもできるであろう。

共有経済は、豊かさの経済学で確立されたものではあるが（他にこれほど多くの余剰物資があるだろうか）、間違いなく、ムハマド・ユヌスによる影響力のあるマイクロクレジットという概念と同系列のものであり、この概念も、人は多くを持つ必要がなく、共有できるため、すべての人に多くの利益を生み出すという原理に基づいている。さらに、無煙調理器、コンポストトイレ、簡易浄水器など、貧しい人々のための物質的なイノベーションは、北欧のエンジニアや科学者の注目を集め、大きな利益をもたらす可能性がある。しかし、全体として、貧困層を対象とした生活革新と、裕福な社会の収束技術におけるブレイクスルー開発を推進するような先見の明との間のギャップは、相変わらず驚異的である。

つまり、富裕層が達成した技術的な成果が、恵まれない人々の将来の見通しを決定してしまうのである。富裕層が自分たちの状況に合うように発明したものが、貧困層が必要とし、欲しがるべきものの金字塔であり続けている。イノベーションの問題が逆に問われることはほとんどない。1日2ドル未満で生活する世界人口の5分の2かそこらの人々にとって、どのような技術的未来が最も理にかなっているだろうか。7 彼らが少ない収入の50日を子供用ラップトップに費やすべきか、それとも技術がより有利に修正できるもっと緊急の需要があるのだろうか。いずれにせよ、ラップトップがあれば、富裕層が容易に想像し、満喫できるような、遊び心と生産性を兼ね備えたつながり（Facebook、Reddit、Pinterest、Instagram）への扉が開かれるのだろうか。

テクノロジーの未来設計に浸透している力の差は憂慮すべきものだが、それは人類にとって唯一の倫理的関心事ではない。実際、大量消費型のライフスタイルが持続不可能であることをこれまで以上に意識する時代にあって、金持ちが思い描く未来が貧乏人の想像力よりも優先されるべきかは不明である。ダウンサイジング、緑化、簡素化、さらには「フリーガニズム」（他人の不要なゴミで生活すること）が若者の間で人気を集めているように、地球上でより軽やかに生きるためのより良いアイデアは、下層から生まれる必要があるかもしれない。それは、生物および非生物の絶えざる帝国主義的搾取よりも、社会の結束と責任という価値観に注目したアイデアなのである。

所有と発明

過去数世紀にわたる技術開発は、財産や私的利益に関する考え方と同様に、集合的利益に関する予見に負うところが大きい。新しい技術には新しい採掘方法が含まれることが多く、以前は利用されていなかった資源にアクセスし、分配する方法を発見した人々には莫大な利益がもたらされる。探鉱や採掘がその例だが、テクノロジーは他の多くの資源利用を可能にし、しばしば国家や帝国の拡張計画と結びついてきた。19世紀半ばにカリフォルニアは近代的な州となったが、それは新発見の金のために何十万人もの移民が押し寄せたからだ。ダイヤモンド鉱山は南アフリカでセシル・ローズの帝国的野心を支え、ゴムと象牙の取引はコンゴでのレオポルド2世の残忍な政権を支えた。搾取、残虐行為、権力の悪用はこれらの事業に影を落としているが、それらが生み出す商品に対する需要がある限り、技術、経済、政治が一体となって圧政を維持することができたのである。

初期の採掘技術が、岩石、土、植物、海洋から、人々がすでに価値を認めていたものを採取したのに対し、今日の多くの技術は、歴史的に商品として扱われていなかったものに価値を与えている。遺伝子から、癌になりやすいハーバード大学のオンコーマウスのような研究所で作られた新しい存在まで、あらゆる生物学的素材がこのカテゴリーに含まれる。炭素市場や生態系サービスといった仕組みは、自然の一部を取引可能な商品へと変えてしまったが、金を使うように自然を所有したり利用したりすることはできない。ソーシャルメディアは、大規模な集積によって、人々の習慣や嗜好、記憶や願望を商品化している。フェイスブックは、10億人以上の人々が「友達」とつながることを望み、その友達とつながり、彼らの近況を知る見返りとして、大量の個人情報を私企業に提供することをいとわないという事実を利用している。Twitterは、140字の文字と添付された画像で、人々の過ぎ行く思いを利用する。インターネットが、精神的または視覚的な一瞬の印象を世界中のオーディエンスに広めることを可能にするまで、共有することに適していると考える人はほとんどいなかっただろう。ピンタレストは、結婚式、旅行、家の改築など、人々が予想される未来に迎え入れたいと思う夢を共有することで繁栄している。消費者向け検査会社は、自発的に提供された遺伝子情報をデータベース化し、医薬品の研究開発のための商業的な可能性を持っている。これらの技術システムはすべて、新しい方法で人々から利益を得ている。人々の思考、言葉、習慣、身体、感情を資源として採掘し、新しい市場性のある商品を作り出している。

HeLa細胞株に関する苦難の物語は、人々が自らの身体、そしておそらくはそれ以上に心に対して抱いている支配意識が、既存の法律や政策に組み込まれた所有権の推定と大きく乖離する可能性があることを明らかにした。レベッカ・スクルートが受賞したヘンリエッタ・ラックスの物語の再構築は、現代生物学の最も有用な研究ツールの一つと、アメリカの長年にわたる悩ましい人種と貧困の物語とが、不安定に混ざり合ったものに火をつけた。国立衛生研究所は、生物医学倫理の過去の失敗と密接に結びついた歴史的に排除された集団の道徳的主張が放置されれば、広報上の災難になることを認識していた。NIHの当面の問題は、ラックス家に先祖の生物学的遺産に関わる意思決定に参加する権利を与えるという、一回限りの手続きで解決された。しかし、HeLa細胞は、そのユニークな歴史的、政治的背景を除けば、Henrietta Lacksを二度目の死に追いやることになり、失敗に終わったであろう。このような特別な例は、科学とその研究対象が対称的でない交渉関係を享受する状況において、説得力のある前例となるとは考えにくい。

技術革新を支配する知的財産権制度は、ほとんどの場合、200年ほど前に近代産業界で生まれた所有権と資本に関する考え方を支持し続けている。もちろん、こうした考え方は、欧米諸国であっても完全に同質なものではない。欧州特許法は、米国特許法とは異なり、公序良俗に反する発明を禁止する明確な規定がある。また、特許商標庁が一時期、実用性が証明されていない単離されたDNA断片に特許を認めたように、欧州法は、最も寛容な段階にある米国法よりも「進歩性」を構成するものの立証に高いハードルを設定している。しかし、全体として、知的財産は、集団的努力よりも個人の起業家精神を優先させるなど、その規範的基盤を技術的中立のベールの下に隠しているのだ。グリベック事件（第7章参照）において、インドの最高裁判所は、特許法は経済発展の手段であり、その保護の範囲と性質は「国の経済状況」を反映すべきであると明確に述べている9。知的財産権の規範的基礎と権力の非対称性を強調するこうした表現は、欧米の法的判断ではほとんど見受けられない。

しかし、自律性、プライバシー、生命、あるいは健康についての公共の関心事と絡み合う所有権の主張を、法律が確認したり、不安定にしたりすることもできる。2013年に米国最高裁がヒト遺伝子の特許取得を中止する判決を下し、何十年にもわたり特許商標庁の方針を覆して、法的な力が顕著に表れた。公益団体である米国自由人権協会による長年の活動は、ヒトゲノムの一部を私有化することの正当性に関して、暗黙のうちに広く保持されている公共の価値観を侵害する商品化の動きを取り消した。国際的な場においても、このような事態は起こりうる。ただし、この場合の推進力は、人間性の政治学というよりはむしろ政治経済学である傾向がある。生物多様性条約は、先住民の知識保有者の所有権の主張を認めることで、何世紀にもわたって無秩序に行われてきた生物学的海賊行為を覆そうとしたのである。この条約は、地域社会と、地元の知識や材料を用いて新しい治療用化合物を開発するバイオプロスペクティング企業との間で利益を共有することを規定している。2001年のドーハ宣言で、知的財産権の貿易関連の側面に関する協定（TRIPS協定）が改正されたのは、医薬品の生産よりも流通における経済格差が動機となったからだ。TRIPSは、エイズ危機のような緊急事態において、必須医薬品への迅速なアクセス拡大が必要な場合、各国が医薬品の特許権を回避することを可能にする。発明が、以前は不可能だった地政学的境界を越えた人、アイデア、材料の流通と相乗効果にますます依存するようになった今、知的財産の分散所有権をどのように認めるか、といった将来への未解決の問題がある。

責任：公的責任と私的責任

技術の進歩は個人の自律性や公的な審議の機会だけでなく、おそらくより重大に、個人と集団の責任の規範に影響を与える方法で、公的空間と私的空間の間の区分を作り変えることができる。カール・マルクスからハーバート・マルクーゼに至るまで、社会理論家は工業的労働慣行や大衆文化の普及を通じて、テクノロジーが人間の精神を平坦化し、標準化し、鈍化させることに警鐘を鳴らしてきた。大規模な技術システムの鉄の檻の中で、組立ラインと生産割当の専制に従うと、解放と自己への責任が宇宙的なジョークに聞こえるかもしれない。新しい生物学的技術と情報技術は、特に遺伝性疾患からの解放を大きく約束する。しかし、それらはまた、身体と精神への前例のないアクセスを可能にし、『1918年宇宙の旅』のオーウェル的悪夢さえ凌ぐ社会統制の可能性を作り出す。

デジタル時代には、ある程度、人々自身がプライベートの境界を狭めることに加担していることが証明されている。セルフィー（携帯カメラで撮影した自画像）文化の台頭と、他人の視線を集めたいという人々の無限の欲望は、軽率な行動が雇用の見通しを狂わせ、政治的キャリアを台無しにし、かつて有名人でさえ自分だけのものにしていた領域に侵入しうる、酔わせる空間を生み出している10。データ・オリガルヒは現在、グーグルとフェイスブックのプライバシー・ポリシーのような、国家がスポンサーとなり、また自ら課した規制のパッチワークの下で運営されており、異なる規範的コミットメントを反映している。情報の荒々しいフロンティアを組織的な統制に近づけるには、EUの「データ主体」のような概念をより広く採用し、人々が自分の好みや個人に関するデータの流通について何を知り、期待し、許容するのかを持続的に議論することが必要かもしれない。

市場原理と新自由主義的な統治形態が支配する時代において、「公共性」という概念そのものが縮小していることから、別の種類の倫理的な心配が生じる。大金がさまざまな経路を通じて世論に圧力をかけることができる時代には、代表民主制の伝統的な場である議会の存在意義がますます薄れているように思われる。企業家は、法律が常に科学技術に遅れをとっているため、イノベーションを阻害すると主張し、立法に激しく抵抗している（特に米国において）。World Wide Webの発明者であるSir Timothy Berners-Leeやヒトゲノムの共同解読者であるCraig Venterなどのカリスマは、インターネットの成功とバイオテクノロジーの普及を、自由放任の技術開発の利点の典型例として挙げる。一方、立法府はしばしば反撃する勇気と専門知識を欠いており、理論的には抑制することが約束されている利益団体に政治的に肩入れしている場合がある。

バイオメディシン、ナノテクノロジー、合成生物学、神経科学など、特定の技術開発に特化した倫理機関の爆発的な増加は、公的な政策決定機関が私的に支配されるのを防ぐ効果があるはずだが、実際にはこうしたしばしば目に見えない委員会が、倫理的懸念をさらに増大させることになるのである。研究事業と密接に結びついた場合、人間を対象とした研究を監督する機関審査委員会のような組織は、所属機関や科学界のスターに過度の負担をかけないよう暗黙の了解のもとに運営される傾向がある。これまで見てきたように、より目立つ国の倫理委員会でさえ、新しい研究分野の長期的な公共利益について厳しい質問をするよりも、差し迫った技術的未来についての費用便益分析という安住の地を好むのである。例えば、英国のワーノック委員会は、14日以前の胚を研究目的のために非人間とすることで、現代の生物医学に大きな貢献をしている。イギリスでは、この明瞭な線によって、胚組織を用いたフロンティア研究に寛容な空間が生まれ、病気の子供に適合する組織を提供するための「救世主兄弟」の利用や、母親のミトコンドリア遺伝病を取り除くための3人胚の作成など、新しい倫理的拡張が初めて承認されるに至ったのである。しかし、このような閉鎖的な倫理団体内部での公共道徳の相対的私物化を放置すれば、公衆の疎外と規範的拒絶を産み出すかもしれない。幹細胞研究のような問題をめぐる現在進行中の論争は、倫理専門家による規範的な線引きの政治的脆弱性を明らかにするものである。

結論

現代社会は、過去100年の間に、多くの奇妙で素晴らしいものを発明し、移動、コミュニケーション、計算、生命と健康の維持において、想像を絶する障壁を打ち破ってきた。テクノロジーによって、私たちは飢餓を余剰に変え、殺人的な病気をなくし、海や成層圏を掘り起こし、宇宙を人間の想像力の及ぶ範囲に収め、人間の心の奥底を目標とする探索のために開放してきた。ロボットが火星や彗星に着陸したとき、世界の多くの人々は喜ぶ。それは、ロンドンからハンマーを投げてニューデリーの釘を打つようなものだとも言われるほど、精度の高い偉業なのである。2015年12月、米国の技術起業家イーロン・マスクが率いる企業が、人工衛星を軌道に打ち上げた後、地球に帰還するロケットの着陸に成功し、再利用可能なロケット建設の夢が現実となった。同時に、技術活動が健康や環境、社会に与える影響のモニタリング、モデル化、測定も大きく進展している。19世紀の工場が手つかずの風景に煙やほこりを吐き出し、有毒な染料が無秩序に川に流れ込み、企業がアスベストにさらされた労働者が何千人も肺病で死んでいるという証拠を隠していた頃のように、技術文化はもはや自然に対して無頓着ではなくなっているのである。

しかし、これまでの章で見てきたように、制度的な欠陥、不平等な資源、自己満足的な語り口が、テクノロジーと人間の価値の交錯と相互影響に関する深い考察を妨げているのが現状である。注意や予防を促すような重要な視点は、時に新しいものへの無頓着な突進のように感じられ、脇に追いやられてしまう傾向がある。その結果、テクノロジーが持つ解放、創造性、エンパワーメントの可能性が満たされないまま、あるいはせいぜいうまく分配されないままになっている。ゲノム革命や情報革命のような、慎重な先見性と持続的な世界的関心を必要とする問題は、部分的に経路に依存する日和見的なデザインの選択によって非政治化されるか、あるいは見えなくなり、将来の創造性と解放が挫折させられるのだ。

20世紀で最も成功した技術的発明の一つであり、今なお世界中の富のフェチである自動車の歴史は、人間の先見性の限界を示す模範的なケーススタディであり続けている。自動車は個人の自由と生産性に計り知れない可能性をもたらしたが、それは同時に、誰も想像しなかった、あるいは適時に規制することのできなかった社会への劇的な影響ももたらした。毎年世界中で100万人を超える交通事故死、殺伐としたルーチンワークの蔓延、都市の大気汚染、コミュニティの分断、かつて巨大だった製造拠点の衰退、そしてついには世界を脅かすほどの気候変動。現在の責任あるイノベーションと先見的なガバナンスの実践は、自動車の歴史が悲劇的な道をたどる前に、その流れを変えることができただろうか。大量に普及し、経済的・社会的に莫大な影響を及ぼす技術については、国民国家が指揮する局所的かつ一時的なガバナンスのプロセスは、悲しいほど不十分であるように思われる。さらに、時折の動員では、予見の非対称性の核心に迫ることはできない。あらゆる実際的な目的のために、テクノロジーを支配するためのゲームのルールを設定する権限は、資本と産業界にあり、労働し、消費し、あまりにも頻繁に苦しんでいる大衆の政治的代表にはないのである。

この深い民主主義の欠陥は、手続き的な応急処置で治すことはできない。最近盛んに行われている公開協議、建設的技術評価、倫理審査などの実験は害を及ぼすものではなく、確実に継続されるべきものである。これらの試みは、日常生活に関わる決定に人々を関与させるという利点があり、やがて技術による支配に対する社会の嗜好を明らかにするかもしれない。しかし、このようなアドホックなプロセスは、テクノロジーとのグランド・バーゲンが事実上要求しているような憲法会議の代用にはならないのである。民主的想像力の可能性を解き放つために、現代社会はまず、テクノロジーが自走するものでも、価値のないものでもないことを認識しなければならないだろう。控えめな技術改良であっても、かつては規制されていなかったケンブリッジの交差点を信号機の監視下で横断しなければならないときのように、新たな規範的権利と義務を生み出している。このように、テクノロジーと法律の類似性は、前者が後者に劣らず、私たちの集合的な未来を形作る強力な道具であることを明らかにしている。この認識は、テクノロジーのガバナンスに倫理的・政治的に深く関与することに拍車をかけるはずだ。テクノロジーが私たちの心や精神、そして集合的な信念や行動を形成する力を認めてこそ、ガバナンスの言説は宿命論的な決定論から自己決定の解放へと移行するのだ。そうして初めて、先見性のある平等な権利の倫理が、私たちの壊れやすく負担の大きい惑星における人類の文明の基礎として受け入れられるのだ。

謝辞

本とは旅の終わりを意味し、良い旅は仲間と共にするものである。この本は、当初の予定よりも長い道のりを歩んできた。当初は現代技術のリスクに関するシンプルなモノグラフとしてスタートしたが、出版社のシリーズ構想の変さらに伴い、人類の技術的未来を作り上げる上での政治的包摂と排除に関するより複雑な考察へと変化していったのである。このような変化を着実にサポートしてくれたノートン社の編集チームに感謝したい。アンソニー・アピアは、私にこのプロジェクトを引き受けるよう促し、事態を進展させた。また、Roby Harringtonは、原稿が止まっている間、辛抱強く対応してくれた。Brendan Curryのスマートで丁寧な読みは、時に説明的になりがちな原稿の主要なメッセージを明確にしてくれるのに役立った。また、編集と出版を円滑に進めてくれたソフィー・デュヴェルノワとナサニエル・デネットにも感謝している。

本書で扱った実証的な資料の一部は、法と技術に関する新しい研究であり、残りの多くは、新しい分析的文脈で見直された過去の研究に由来するものである。その結果、この本は特定の個人やプロジェクトによるものというよりも、私がハーバード・ケネディスクールで指導している「科学技術研究プログラム」で培われた集団的な思考法や作業方法によるものとなっている。過去数年にわたる同プログラムのフェローたちとの毎週のミーティングは、テクノロジーを管理することの倫理的・政治的側面に関する私の考えを深め、研ぎ澄ます場を提供してくれた。会話のパートナーとして、3人の名前を挙げることができる。Rob Hagendijk、Ben Hurlbut、そしてHilton Simmetである。近代におけるテクノロジーと民主主義の構成的、憲法的役割について本書が語ることの多くは、彼らとの継続的な交流を反映したものである。

また、本書の主題に関連する全米科学財団（NSF）の2つの助成金に主任研究員として携わったことも、非常に有益であった。「福島原発事故と日米における原子力の政治」（NSF 賞番号 1257117）と「イノベーションの旅するイマジナリー」（NSF 賞番号 1257117）である。また、「Traveling Imaginaries of Innovation: The Practice Turn and Its Transnational Implementation」（NSF賞番号：1457011）。NSF は私のキャリアの発展において、また科学技術研究の分野を構築するための努力において、極めて重要な役割を担っており、改めてその支援に感謝したいと思う。また、過去6年間、私のすべてのプロジェクトを成功に導いてくれたシャナ・ラビノウィッチにも感謝の念を捧げたいと思う。

[/passster]

第9章民衆のための発明

私たちは本書を通じて、技術的なシステムが実際にはこうした従来の常識よりも可塑的で、倫理的・政治的な監視に従順であることを見ていた。テクノロジーを作り出し、展開することは、個人の価値観や信念をいかに守るか、また、独特の法的・政治的文化に支えられた国民国家の政策的直観をいかに尊重するかなど、さまざまなレベルで倫理的問題を生じさせているのだ。このような問題は、20世紀後半に技術が世界的に普及したことによって緊急性を増し、技術先進国である社会に対して、積極的な社会的考察と対応の義務を課している。例えば、かつて医薬品は、医学の知識と実践における奇跡的なブレークスルーであり、全人類に利益をもたらすと考えられていた。しかし、グローバルな市場において、医薬品は国内のみならず国境を越えた権利と義務に関わる多くの規範的な問題と絡んでくるようになった。例えば、ヒト生物試料の所有権、医療データのプライバシー、臨床試験への同意、被験者研究の倫理、ジェネリック医薬品の製造、実験薬および必須医薬品へのアクセス、先住民の知識の保護、その他多くの関連事項が含まれる。これらすべての問題において、利害関係や期待は、病める者と健やかなる者、富める者と貧しい者、生産者と消費者、先進国と発展途上国の国民など、観察者の社会経済的立場によって大きく異なる。つまり、医薬品は科学、医学、経済、法律、政策の対象として、国境を越えた空間で人体を再構築する。しかし、医薬品開発の政治と倫理に関する審議のプロセスは、国家レベルに比べて超国家レベルではまだ著しく不十分である。

期待：不平等な贈り物

技術に関するすべての政策言説を貫く糸があるとすれば、それは賢明な先読みの必要性である。1970年代から1980年代にかけての技術評価プログラムは、技術によって引き起こされる物理的・環境的な害を予見し、それを回避することへの関心から生まれた。同様に、新しい技術の倫理的意味を評価するプログラムは、耐え難い道徳的被害を予見し、それを回避したいという広く分散した願望を反映している。当然のことながら、現代社会では、物理的および道徳的な結果に対する予測は、専門家による起こりうる結果の予測と密接に結びついている。技術政策の線形モデルは、リスク評価から始まり、後になってから意思決定に価値を注入するもので、最初の予測段階は、技術がどのように作動し、どこで間違うかを最もよく理解していると考えられている専門家、つまりテクノクラートに委ねられる。しかし、これまでの章に散見されるように、専門家の想像力は、その専門性によって制限されることが多い。既知のものが未知のものよりも優先される。したがって、専門家による予測は、短期的で計算可能な、議論の余地のない効果に重きを置く傾向があり、思わせぶりな、突飛な、あるいは政治的に議論の余地のある効果を優先させる。そして、ブレイクスルー科学的洞察に長けているにもかかわらず、専門家はハイブリッドな社会技術システムの複雑さを過小評価しがちで、人間と人間以外の要素間の理解されていないダイナミクスやフィードバックが、実験室ベースの予想の正確さを混乱させるのだ。

誰が未来を想像するのか？

技術革新の初期の有望な段階においては、先見性はしばしば専門家の支持者の学問的能力によって形成され、制限される。アシロマーの分子生物学者たちは、生物学的大災害を防ごうと決意していたが、商業的バイオテクノロジーによって再構築された世界が、主要な遺伝子組み換え作物が日常的に野生作物に取って代わるとは想像もしていなかっただろう。サハラ砂漠からヨーロッパへの太陽エネルギー輸送を構想したドイツのエンジニアリング会社は、文化も経済も大きく異なるこのような大胆なトランスナショナル・プロジェクトの政治的管理について考えていなかった。

専門家の思考においても、isとoughtの間にしばしば暗黙の乖離が生じ、倫理的懸念の端緒が鈍ることがある。科学者の常識から逸脱することは、不合理、虚構、幻想と見なされ、（まだ）できないことは心配する価値がないとされる。これまで見てきたように、発明はそれ自体が善とみなされる傾向があり、倫理的な監視は主に、約束された善が無謀な利益欲によって狂わされないことを保証するために発動される。技術的にありえないという予測は、潜在的に「非現実的」な倫理的憶測や早まった大衆の不安を防ぐバリアとして機能する。例えば、サイエンス誌が2013年に発表した「ブレイクスルー・オブ・ザ・イヤー」の次点リストに掲載された簡単な項目を考えてみよう。同誌は「ついに実現したヒトクローン」という見出しで、「今年、研究者たちはヒト胚のクローンを作り、長年の夢だった胚性幹（ES）細胞の供給源として利用することを発表した」と報じているのだ。同誌はさらに、この開発の倫理的意味を軽視し、社会が心配する必要がない理由として、道徳的嫌悪感よりも可能性が低いことを挙げている：「この偉業は、クローン赤ん坊に対する懸念も引き起こす。しかし、今のところその可能性は低いと思われる。オレゴン大学の研究者によれば、何百回と試したが、サルのクローン胚が代理出産で妊娠した例はない」（強調）1と言うのである。仮に、妊娠が成立し、クローン赤ん坊の可能性が高まったとしよう。私たちのような無限の創造力を持つ社会が、人間の尊厳に対する脅威がドアをノックした後に、このような広範囲に及ぶ技術的実験の倫理的意味について考えるのは適切なことなのだろうか。

サイエンス誌が想像する技術革新の世界では、クローンベビーについて一般大衆が懸念を表明することが適切であるとすれば、それはいつになるのだろうかと疑問に思う。オレゴンかどこかの研究者がクローン胚の妊娠に成功したと発表した後であろうか？しかし、その段階までには、新しい「is」が、より微妙で予防的な「ought」の可能性を圧倒してしまうだろう。例えば、倫理的に議論のある妊娠を誘発するために「何百回も試みる」前に、研究者によく考えさせる、あるいは人前で声を出して考えさせるような規則のようなものが考えられる。さらに、ヒト胚のクローニングを「長年の悲願」と表現することは、胚がどこで終わり、赤ん坊がどこで始まるかについて、国によって争われ、異なる道徳的決着があることを見落としている。たとえばドイツでは、研究の過程でアメリカよりもさらに上流で懸念が生じるかもしれない。これは、倫理的思考がどちらの場合も「西洋」の伝統に根ざしている二つの国において、功利主義的議論とは対照的に擁護主義的議論を好む傾向が異なることを示している。倫理的な推論に対する基本的なコミットメントにこのような格差があることを考えると、人類という種全体にとって重大な決定を、技術的に一流の国々が単独で行うことは、果たして適切なのだろうか。

専門家の自信に満ちた主張が道徳的分析のベースラインである以上、倫理的評価はいずれにせよ、起こりうるシナリオのコストと便益に関する功利主義的分析に陥りがちである。米国の2つの大統領倫理委員会がそれぞれヒトクローンや合成生物学を評価したときがまさにそうであった。いずれのケースでも、倫理委員会は、この技術はまだ十分に安全ではないため、現時点では倫理的な懸念はないと結論付けている2。このような失望するほど制約の多い活動は、構成的技術評価（第8章参照）のような手続きによって実現される先見的ガバナンスが、「技術科学の長い弧をより人道的な目的へと曲げることに貢献できる」という一部の民主主義理論家の期待に反している3。

トリクルダウン・イノベーション

テクノロジーの未来設計に浸透している力の差は憂慮すべきものだが、それは人類にとって唯一の倫理的関心事ではない。実際、大量消費型のライフスタイルが持続不可能であることをこれまで以上に意識する時代にあって、金持ちが思い描く未来が貧乏人の想像力よりも優先されるべきかは不明である。ダウンサイジング、緑化、簡素化、さらには「フリーガニズム」（他人の不要なゴミで生活すること）が若者の間で人気を集めているように、地球上でより軽やかに生きるためのより良いアイデアは、下層から生まれる必要があるかもしれない。それは、生物および非生物の絶えざる帝国主義的搾取よりも、社会の結束と責任という価値観に注目したアイデアなのである。

所有と発明

責任：公的責任と私的責任

技術の進歩は個人の自律性や公的な審議の機会だけでなく、おそらくより重大に、個人と集団の責任の規範に影響を与える方法で、公的空間と私的空間の間の区分を作り変えることができる。カール・マルクスからハーバート・マルクーゼに至るまで、社会理論家は工業的労働慣行や大衆文化の普及を通じて、テクノロジーが人間の精神を平坦化し、標準化し、鈍化させることに警鐘を鳴らしてきた。大規模な技術システムの鉄の檻の中で、組立ラインと生産割当の専制に従うと、解放と自己への責任が宇宙的なジョークに聞こえるかもしれない。新しい生物学的技術と情報技術は、特に遺伝性疾患からの解放を大きく約束する。しかし、それらはまた、身体と精神への前例のないアクセスを可能にし、『1918年宇宙の旅』のオーウェル的悪夢さえ凌ぐ社会統制の可能性を作り出す。

結論

しかし、これまでの章で見てきたように、制度的な欠陥、不平等な資源、自己満足的な語り口が、テクノロジーと人間の価値の交錯と相互影響に関する深い考察を妨げているのが現状である。注意や予防を促すような重要な視点は、時に新しいものへの無頓着な突進のように感じられ、脇に追いやられてしまう傾向がある。その結果、テクノロジーが持つ解放、創造性、エンパワーメントの可能性が満たされないまま、あるいはせいぜいうまく分配されないままになっている。ゲノム革命や情報革命のような、慎重な先見性と持続的な世界的関心を必要とする問題は、部分的に経路に依存する日和見的なデザインの選択によって非政治化されるか、あるいは見えなくなり、将来の創造性と解放が挫折させられるのだ。

20世紀で最も成功した技術的発明の一つであり、今なお世界中の富のフェチである自動車の歴史は、人間の先見性の限界を示す模範的なケーススタディであり続けている。自動車は個人の自由と生産性に計り知れない可能性をもたらしたが、それは同時に、誰も想像しなかった、あるいは適時に規制することのできなかった社会への劇的な影響ももたらした。毎年世界中で100万人を超える交通事故死、殺伐としたルーチンワークの蔓延、都市の大気汚染、コミュニティの分断、かつて巨大だった製造拠点の衰退、そしてついには世界を脅かすほどの気候変動。現在の責任あるイノベーションと先見的なガバナンスの実践は、自動車の歴史が悲劇的な道をたどる前に、その流れを変えることができただろうか。大量に普及し、経済的・社会的に莫大な影響を及ぼす技術については、国民国家が指揮する局所的かつ一時的なガバナンスのプロセスは、悲しいほど不十分であるように思われる。さらに、時折の動員では、予見の非対称性の核心に迫ることはできない。あらゆる実際的な目的のために、テクノロジーを支配するためのゲームのルールを設定する権限は、資本と産業界にあり、労働し、消費し、あまりにも頻繁に苦しんでいる大衆の政治的代表にはないのである。

[/passster]