アンドラ・キー
ヘンリエッタ・ラックスが末期がんの治療を受けていた1951年当時、彼女も、現在も生計を立てるのに苦労している家族も、「HeLa」細胞が医学における最も重要なツールのひとつになるとは想像もしていなかった¹。 我々は自分の身体、人生、そして物語をどれだけコントロールできるのだろうか？生涯フェミニストである私は、アンドロセントリックな家父長制の世界観を中心からずらしさえすれば、きっと女性の居場所ができると思ってた。
今こそ、ポスト・コペルニクス的革命、すなわち、「基準となる人」から「基準となる多くの人」への社会的シフトを始める時なのである。何千年もの間、ほとんどの世界観では、我々人間が宇宙の中心に位置している。ダ・ヴィンチの「ヴィトルヴィアン」は、宇宙の中心に位置し、両手を惑星の軌道に向けて伸ばして立っている。ダ・ヴィンチの正統な数学的証明によれば、宇宙の中心は地球だけではなく、人間の臍であった²。コペルニクス革命によって地球が脇役に格下げされても、人間の主役が疑われることはなかったし、女性の脇役も疑われなかった。
トフラーの『フューチャー・ショック』は、それ自体が「基準となる人間」の証であり、その神がかり的な語り口や、描かれているすべての男女や子供が、たった一人の「基準となる人間」とまったく同じように振る舞うことに疑問を抱くことはない。基準人」とは、健康な若い白人男性への影響を測定して決められた、許容できる放射線量の基準のことでもある。³ もちろん、子供、女性、小柄な男性、高齢者、病人などは、「基準人」の基準よりもはるかに少ない放射線量でも影響を受ける。
この欺瞞に満ちたリファレンスマンは危険である。2011年、チェルノブイリは、周辺の植物や動物が健康そうに見えるという理由で、観光地に指定された。⁴ 大人も元気そうだった。しかし、この地域の子供たちは、癌の発生率が増加しており、これはほぼ確実に初期の環境放射線被曝によるものである。
この他にも、単一の基準人間を使用することで、個人や集団全体に害が及んでいる例は数多くある。女性には月経周期があり、薬や治療法の影響を評価するのが難しいため、新薬は男性か男性の研究動物でしかテストされない。⁶ 現在、男性に有効な化合物の多くが、女性やテスト仕様外の民族には効果がないか、最悪の場合、全く異なる効果があることが分かっている。例えば、すべての人種の女性の心臓発作を識別するために、医師は再教育を受けているが、それは症状が教えられたものとあまりにも違うからである。また、ビヨンセやセリーナ・ウィリアムズのような有名で健康で裕福な女性を含めて、なぜ多くのアメリカ黒人女性が妊娠中に死亡したり、深刻な合併症を起こしたりするのかについては、現在のところ答えが出ていない。
問題があって市場から撤去された10種類の薬のうち8種類は、実験室でのテストでは示されなかった女性への悪影響があった。女性は体脂肪率が高いので、脂肪と水で代謝される薬の影響は性別によって大きく異なる。Ambienが販売承認されてから21年後、FDAはAmbienに黒旗の警告を出し、推奨用量を半分にした。なぜだろう？安全でマイルドな睡眠導入剤として販売されたAmbienは、女性の体内での吸収率が非常に異なることが判明し、女性は予想以上に強く、長く影響を受けることになったのである。
製品のインダストリアルデザインの分野では、いまだにサイズが第一の基準であり、それも一種類のサイズしかデザインできない。自動車の安全ベルト、エアバッグ、衝突試験用ダミーは、少なくとも白人の若い男性にとっては、自動車の安全性向上に大きな役割を果たした。しかし、女性や子供、高齢者を守ることができないことは1970年代からよく知られてた。しかし、アメリカの規制により、自動車の試験には2つ目の衝突試験用ダミー「リファレンス・フェミール」を使用することが義務付けられた。そして、すべての女性ドライバーに警告する。アメリカでは、女性の衝突試験用ダミーは助手席にしか使われていない。
大柄な男性を守るために作られた技術は、他のグループには効果がないどころか、危険の原因にもなる。⁹ 大柄な男性を守るための技術は、他のグループには効果がないだけでなく、シートベルトやエアバッグの使用に関する研究で明らかになったように、危険、死亡、または傷害の原因となることがある。背の低いドライバー（主に女性）は、ペダルエクステンダーやその他のメカニズムを使って、安全性がテストされた「典型的な」ドライビングポジションに移動させない限り、エアバッグのために軽微な事故でも死亡または重傷を負う可能性が著しく高くなる¹⁰。
テクノロジーは我々を救うかもしれないが、その影響は不平等に分配される。しかし、これは魔物を瓶に戻せと言っているのではない。テクノロジーは新たな問題を引き起こす一方で、世界に新たな価値を生み出し、人類がこれまで経験したことのないような豊かで平和な時代へと導いてくれるのである。50年前にトフラーが危惧した変化の速度も、数世紀という時間軸で見れば、ほんの一過性のものに過ぎない。
このような壮大なレンズを通してみると、「Reference Man」から「Reference Many」への移行を求める声は、時宜を得たものであり、十分に達成可能なものであると思われる。我々は今、ビッグデータと「定量化された自己」の時代にいる。我々は、自分のすべての測定値を詳細に追跡している。あるいは、少なくとも初期の技術導入者は、それによって他の人類の基準を設定している人々である。少数の人間に、人類の定義を決める権利があるのだろうか。あるいは、私が望む「基準となる多数の人々」とは何だろうか？
社会を変えるような決定は、データの収集と分析、深層学習、その他のアルゴリズムを駆使した新しい手法によって、すでになされている。そしてすでに、神経の多様性を守ること、民族や性別によるステレオタイプ化を避けることに失敗している兆候がある。テクノロジーが常に我々を助けてくれるという素朴な考えは、急速に現実のクラッシュテストにぶつかっている¹¹。
現在、深層学習は、人間の偏見の上にアルゴリズムの偏見をもたらし、そのプロセスを継続させるフィードバックループを生み出している¹²。そして、我々はその偏見をロボットやスマートデバイスに具現化し、効果を増幅させている。ギル・プラット博士がDARPAロボティクス・チャレンジを主導した際に説明したロボット工学の「カンブリア紀の爆発」を継続しながら¹³、センサー技術と思考・行動能力を生活の中のあらゆる新しいデバイスに組み込んでいる。ロボットはどこにでもある。そして、新しいロボットの支配者には武器は必要ない。我々は、自分の生活へのアクセスとコントロールを喜んで引き渡す。
「我々は、神経の多様性を守り、民族や性別によるステレオタイプ化を避けることに失敗している兆候がある。テクノロジーは常に我々を助けてくれるという素朴な考えは、急速に現実の衝突テストを受けることになる」。
しかし、我々が今直面している最大の問題は、新しいテクノロジーの固有の性質が、社会における価値の単位である個人を追いやってしまうことである。我々は、技術社会の指数関数的な成長の根拠として、ムーアの法則（チップ上のトランジスタの数が18ヵ月ごとに倍増すること）があると考えがちである。その根拠は、実は「メトカーフの法則」なのです¹⁴。
メトカーフの法則とは、「ネットワークの価値は、ネットワーク利用者の数の二乗に比例する」というものである。1台の電話機やファックスを想像してみてほしい。しかし、価値の増加は直線的なものではなく、指数的なものである。個々のノードとしての我々は、他の人と接続されたり集約されたりしたときの重要性には遠く及びません。
我々のアイデンティティは、コンピューティング技術と密接に結びついている。1880年代、アメリカの国勢調査局は人口データに圧倒され、データの収集と集計を高速化できる機械やプロセスを探すコンペを開催した。ハーマン・ホレリスが開発したパンチカード・タビュレーターは成功を収め、1950年代にコンピューターに取って代わられるまで国勢調査局で使用された¹⁵皮肉なことに、ホレリスのタビュレーター会社が製造したコンピューターに取って代わられた。1924年、Hollerith’s Tabulator CompanyはInternational Business Machines (IBM)と改称された。
我々の多くがインターネットを利用している今、人々からのデータ収集はさらに容易になっている。2020年には、世界に40ゼタバイトのデータが存在すると言われている。これは40兆ギガバイトのデータであり、世界のデータ量は毎年倍増している。2013年の調査でIBMは、世界のデータの90%が過去2年間に作られたものであることを明らかにした¹⁶そして、このデータは経済的価値を生み出している。例えば、2019年のFacebookのアクティブユーザーは27億人で、Facebookの価値は約5500億円、ネット広告を販売することで年間80億円の利益を得ていると言われている。
世界のトップ10企業のすべてが、我々のオンラインでのやり取りから収集したデータを活用している¹⁷ ポートフォリオやプロセスに広範な物理的な商品を持つAmazonやBerkshire Hathawayでさえ、デジタル的に需要と供給を集約する方法で利益を上げている。我々の社会における集約は、我々がより多くの個別化やパーソナライゼーションを要求することによって、さらに増大していく。
資本主義は歴史の中で大きく進化してきた。最初は、土地や資源を売買する際に、自然環境から価値の単位を取ってた。その後、労働者が土地や資源を改良したものが取引された。また、機械の導入により、同じ労働力でも生み出す価値の量が増えた。しかし、機械の能力を高めることで、労働と連動して生み出される価値が増えるだけだと考えるのは間違い。初めて技術だけで付加価値を生み出すことができるようになったのである。
情報資本主義の時代は、表計算ソフトから始まった。表計算ソフトは、電卓の役割を果たすだけでなく、データの並べ替えやフィルタリングによって新たな価値を付加することができた。現在では、単に計算するだけの表計算ソフトはほとんどないから、情報資本主義は産業資本主義とは質的に異なる。そして今、我々は、ビジネス哲学者のショシャナ・ズボフが言うように、監視資本主義という新たな時代に突入している¹⁸今日、価値の単位は単なるデータではなく、アルゴリズムや予測である。データにアクセスできる多くの関係者が作り出す情報なのである。
昔の人は「望むものには気をつけろ」と警告する。かつて我々は、マスメディアが社会を支配することを恐れてた。インターネットは、国家や企業の支配から解放され、コミュニケーションのコントロールを個人に取り戻す方法だと考えられてた。今にして思えば、マスメディアの危険性は、その公共性ゆえにはるかに低いものであった。公共の場では、事実を確認することができ、いくつかの基本的な真実が存在していた。ケンブリッジ・アナリティカのスキャンダル以来、我々は社会制度がいかに脆弱であるかを実感している。我々の社会は公的な説明責任という考えに基づいて構築されているが、この監視資本主義の時代には、目に見えない存在によって決定された我々のパーソナライズされたプロファイルに基づいて、アルゴリズムが我々の情報摂取を誘導している¹⁹匿名性とプライバシーは、大きく異なることがわかった。
「計算が政治の代わりになり、統計が市民の代わりになり、人口が社会の代わりになることを許せば、我々が知っている民主主義を破壊することになるからである。民主主義を破壊すれば、残るのはこのようなコンピュータによる統治であり、それは新しい形の絶対主義である」（Shoshana Zuboff IV, NYMAG Intelligencer²⁰より
コーヒーメーカーでも自動車でも、産業用ロボットでもスマートホームアシスタントでも、すべてのスマートテクノロジーにはセンサーが必要である。これは、監視資本主義の下での我々の新しい生活の最初の特徴である。そして、人間が何を公開し、何を公開しないかについての慣習を確立しているのに対し、デバイスにはそのような区別はない。Alexaは常に耳を傾けている。そうでなければ、目覚めの言葉を聞くことはできない。テスラは常にカメラで周囲の状況を記録しており、そうでなければナビゲーションができない。また、これらのデバイスの多くにはセンサーが搭載されており、通りから見える家のWi-Fiアクティビティなど、我々がプライベートだと思っているものを検知することができる。
2010年、Google社はStreetViewマッピングカーを使用して、30カ国以上の家庭や公共のWi-Fiネットワークに関する情報を抽出していたことが発覚し、オーストラリアの通信大臣（当時）は「プライバシー史上最大の侵害」と称した。
一方、家族の歴史に興味のある人は、DNA家系図サービスを利用したことがあるだろう。自分のDNAが他にどんな用途に使われるか想像もつかないので、我々は喜んでDNAの商業的権利をすべて放棄してしまう。私は、あなたが利用規約のページを読むことをお勧めする。
テクノロジーは決して中立ではない。²² テクノロジーの構造そのものが、ある行為を他の行為よりも可能にし、異なる価値提案を生み出す。技術的に媒介された社会では、我々の個性は、つながっているときにのみ価値を持つようになった。そして、つながればつながるほど、我々の個性の価値は飛躍的に高まっていく。それなのに、我々の力はどんどん弱まっている。
ユヴァル・ハラリとフェイフェイ・リーは、AIやロボティクスの社会的倫理についての最近の議論の中で、個人を保護して力を与え、個人が所有し、社会にとっての善の文脈の中で個人を優先するようなテクノロジーの開発を始めようと呼びかけた²³ しかし、今日の社会では、個人はもはや価値の単位ではない。価値があるのは、データであり、アルゴリズムであり、予測なのである。
トフラーは『フューチャー・ショック』の中で、「骨の中に未来がある」新しい人間を教育するために、多様なデータを必要としている²⁴その新しい人間とは、我々の「リファレンス・メニー」であり、その骨やビット、生物学的な違い、ネット上のバイアスや行動などが、すでに未来を動かしているのである。
我々は、コペルニクス革命と同じくらい大きな社会的変化を迎えているが、基準となる人間はもはや我々の宇宙の臍の中心ではない。リファレンス・マンはもはや我々の宇宙の臍の中心ではなく、リファレンス・メニーを誕生させることで、我々はその臍を切ったのである。我々の宇宙は今や星の多重性である。Reference Manyとして、そしてReference Manyから利益を得ている者として、我々の生態系が健全であり続けるための十分な多様性を確保することが我々の責任である。私の願いは、我々の多様性の価値がようやく評価されるようになることである。
アンドラ・キーは、ロボット技術の革新と商業化を支援する非営利の業界団体であるSilicon Valley Roboticsのマネージング・ディレクターである。アンドラは、世界的なスタートアップコンテスト「Robot Launch」、メーカースペース「Robot Garden」、「Women in Robotics」の創設者でもあり、社会的にポジティブなロボットやAIの商業化に強い関心を持ち、スタートアップ、アクセラレーター、シンクタンクのメンター、投資家、アドバイザーを務めている。