デジタル全体主義 | アルゴリズムと社会
Digital Totalitarianism; Algorithms and Society

Digital Totalitarianism; Algorithms and Society

「デジタル全体主義。アルゴリズムと社会」は、コンピュータ・レジームがもたらす民主主義的価値への重要な挑戦、すなわち探求の自由の取り締まり、思考の個人的自律性へのリスク、人間の創造性に対するネオリベラルな管理、そしてソーシャルメディアが煽る陰謀論の台頭に伴う批判的思考の崩壊に焦点を当てる。

デジタル・ネットワークは、政府や企業によるモニタリングのきめ細かさと広範さを可能にする。このことが権力の非対称性を生み、市民一人ひとりの日々の「データの排出」が、強力な組織的アクターによる操作と支配の目的のために利用されることになる。本書は、政府による図書館活動のモニタリング、認知機能強化の議論、芸術学校のビジネス志向の高まり、ネットワーク・メディアにおける陰謀論の普及などを取り上げ、自由な社会と関連する人間の基本的価値における主要な侵食を探求する。

本書は、コミュニケーション、レトリック、図書館学、アート、ニューメディアなど、様々な分野の研究者、学生、政策立案者、ジャーナリスト、一般読者を対象とし、全体主義的傾向の問題に対する学際的なアプローチを提示する。

Michael Filimowicz サイモン・フレーザー大学インタラクティブ・アート・テクノロジー学部 (SIAT）シニア・レクチャラー。コンピュータを介したコミュニケーション、オーディオビジュアル制作、ニューメディア・アート、クリエイティブ・ライティングのバックグラウンドを持つ。ゲーム、没入型展示、シミュレーションなど、さまざまなアプリケーションのコンテキストにおいて、新しいマルチモーダルディスプレイの技術と形態を開発し、新しいフォームファクターを探求する研究を行っている。

アルゴリズムと社会

シリーズ・エディター

サイモン・フレーザー大学インタラクティブ・アート・アンド・テクノロジー学部 (SIAT）シニア・レクチャラー。

アルゴリズムとデータの流れが私たちの生活のあらゆる側面に浸透するにつれ、情報機器や環境を人間らしくするための十分な理論的レンズとデザインアプローチを開発することが不可欠となっている。政府、資本、犯罪ネットワーク、あるいはソーシャルメディアに集う一般大衆に至るまで、計算機的な効率や性能に負けてしまいそうな社会の人間的側面が危機に瀕している。

『アルゴリズムと社会』は、情報化時代を広くとらえた新しいシリーズである。各巻とも、ソフトウェア研究やクリティカルコード研究などの新しい分野から、技術哲学や科学技術研究などの確立された分野まで、重要なテーマ領域に焦点を当てている。本シリーズは、新しい技術の発展とともに生まれる新しい論争や社会問題に遅れをとらないことを目的としている。

目次

• 寄稿者リスト
• シリーズ序文 アルゴリズムと社会
• 巻頭言
• 謝辞
• 1 急進的な抵抗。図書館、反抗、そしてデータモニタリング
• 2 認知機能拡張の議論における緊急の倫理的問題：自律性、精神的プライバシー、そして思想の自由
• 3 非人間的コンピューティング。アートスクールからビジネスハブまで　40年の間にハブ化
• 4 プランデミックとその使徒たち。パンデミック・モードにおける陰謀論
• 索引

寄稿者

アマンダ・C・ロス・クラークは、アラバマ大学で図書館・情報学のMLISと博士号を取得した。現在、ワシントン州スポケーンにあるウィットワース大学の図書館・特別プログラム学部長を務める。建築史、神学を専攻し、MBAの取得を目指す。

Eleanor Dare：ケンブリッジ大学教育学部勤務。ゴールドスミス大学のコンピュータ学部で芸術とコンピュータ技術の博士号と修士号を取得。以前は、ロイヤル・カレッジ・オブ・アートのデジタル・メディアの講師とデジタル・ディレクション修士課程のプログラム責任者だった。

Sophia E. Du Valは、ニューヨークのPratt InstituteでMSLISを取得し、Archives and Museum Librariesの上級認定を2つ取得している。現在は、ワシントン州スポケーンにあるウィットワース大学の学術コミュニケーションライブラリアンとして、同大学のデジタルコモンズプラットフォームを監督し、著作権やリソースへのアクセスをサポートしている。現在の研究テーマは、ジンやアーティストブックのコレクション開発、メメント・モリ、歴史的物語としての収集などで、主に美術史のバックグラウンドが生かされている。

Raúl Rodríguez-Ferrándizは、スペインのアリカンテ大学のマス・コミュニケーションとトランスメディア制作の記号論の正教授である。同大学のコミュニケーション・クリエイティブ・インダストリー修士課程のアカデミック・コーディネーターも務める。著書に「Magics of fiction（フィクションの魔術）」。Spoiler Warning! (国際エッセイ賞「ミゲル・デ・ウナムーノ」、ビルバオ、2019年、viii Contributors Madrid、Devenir、2020)、Masks of Lying(嘘の仮面)。新しいポスト真実の障害 (XXXV国際エッセイ賞「シウダー・デ・バレンシア」、2017年、バレンシア、プレテキストス、2018）、The Venal Muse（毒舌ミューズ）。Industrial Cultureの生産と消費 (International Essay Prize ‘Miguel Espinosa’, Murcia, Tres Fronteras, 2010);およびApocalypse Show: Apocalypse Show: Intellectuals, TV and End of the Millennium (Madrid, Biblioteca Nueva, 2001)がある。また、The Controversy on Mass Culture in the Inter-War Period（戦間期マス・カルチャー論争）のコーディネートも行っている。A Critical Anthology (University of Valencia, 2012)がある。

Özüm Üçok-Sayrak, PhD. デュケイン大学コミュニケーション・修辞学部の准教授。コミュニケーション倫理と文化、身体性とアイデンティティ、マインドフルネス、美的コミュニケーションに関する論文を発表している。研究テーマは、コミュニケーション倫理、コミュニケーション哲学、倫理学と認識論、観照的教育、アイデンティティのコミュニケーション的構築など。Review of Communication, Journal of International and Intercultural Communication, Human Studies, Atlantic Journal of Communication, Symbolic Interactionなどの学術誌に掲載されているほか、いくつかの編集書籍にも収録されている。著書に『Aesthetic Ecology of Communication Ethics』（コミュニケーション倫理学の美的生態学）。Existential Rootedness（実存的根源性）』がある。

シリーズ序文

アルゴリズムと社会

マイケル・フィリモヴィッチ

本シリーズは、アルゴリズムとは何かというよりも、計算モデルが「誤りを犯しやすい人間による選択に基づく」（オニール、2016,126頁）「自動化された意思決定」（ノーブル、2018,141頁）という「事象的」 (Bucher、2018,48頁）形態を通じて世界でどのように作用しているかについて述べるものである。

かつては人間の反省に基づいて行われていた意思決定が、今では自動的に行われる。ソフトウェアは、何千ものルールと命令を数分の一秒で計算して符号化する。(Pasquale, 2015, loc. 189)。

工業時代には、自動化の約束は手作業を置き換えることだったが、情報化時代には、主体性、自発性、リスクを先取りすることである：起こりうる未来を事前に地図化し、好ましくないものは封じ、望ましいものを選択できるようにする。(アンドレイエヴィッチ, 2020, p. 8) [M]私たちの将来の傾向を予測する機械学習アルゴリズムは、私たちが代替的な政治的未来を可能にする機会を深刻に脅かしているのだ。(Amoore, 2020, p.xi)

アルゴリズムは、実用的には「問題を解決するための方法」 (Finn, 2017, loc. 408)と定義され、「ある分野から次の分野へ飛躍する」 (O’Neil, 2016, loc. 525)ものである。それらは「ハイパーオブジェクト：人間主体の現象学的地平を超えるほど広い時間的・空間的到達点を持つもの」 (Hong, 2020, p.30)である。巻頭トピックとして取り上げる技術システムは、商業市場や組織化されたコミュニティ、マイケル・フィリモヴィッチや国家利益の主張が存在する問題に対するデザイン・ソリューションであるが、そのパワーと偏在性は、探求すべき新たな問題を生み出している。本シリーズは、その巻全体にわたってこの領域の流動性を追跡し、批評と調査を通じて、その「秘密の論理」 (Pasquale, 2015, loc.68)、「難読化」（loc.144)に異議を申し立てる役割を果たすだろう。

生成されたこれらの新たな社会的（厳密には計算論的というよりも）問題は、今度は多くの批評的、政策的、思索的な言説によって取り上げられることができる。アルゴリズムによる実装は、しばしば「認識論の純粋さ、不確実性と人間の当て推量を取り除いた知識への欲求」 (Hong, 2020, p.20)を反映するため、最も生産的であれば、こうした議論は私たちの情報アーキテクチャとインフラストラクチャのアルゴリズムを運用する環境の倫理、法律、さらには想像力のパラメータを変える可能性がある。このシリーズは、こうしたしばしば「ブラックボックス化」された技術をめぐる会話への一般的な介入を促進し、社会に浸透しているその影響を追跡することを目的としている。

現代のアルゴリズムは、定着した社会的規範を侵すというよりも、善と悪の新しいパターン、正常と異常の新しい閾値を確立し、それに対して行動が調整されている。(Amoore, 2020, p. 5).

このシリーズでは、市民科学者や活動家，趣味の人たちによる市民分野での利用など、あまり「ホットボタン」ではないアルゴリズムに関するトピックにも関心を寄せている。私的、国家的、市民的な利害を超えて、アマチュアであれ高度に組織化されたものであれ、ますます洗練されたテクノロジーに基づく犯罪者の活動は、今や誰もが自分のデジタル・アイデンティティを守る必要があるため、より広い注目に値する。企業や国家の情報システムは、一般的な形の「環境モニタリング」 (Pasquale, 2015, loc.310)を行っており、誰もがハッキング作戦の標的になりうる。

『アルゴリズムと社会』は、このように、幅広い学問的背景を持つ研究者に開かれた学際的なシリーズであることを目指している。各巻にはその範囲が定められているが、社会学、コミュニケーション、批判的法学、犯罪学、デジタル人文科学、経済学、コンピュータ科学、地理学、計算メディアとデザイン、技術哲学、人類学など、多くの分野からの貢献が期待されている。アルゴリズムは「日常生活の条件を形成している」 (Bucher, 2018, p.158)し、「計算空間、文化システム、人間の認知の交差点で」 (Finn, 2017, loc. 160)活動しているので、多領域の地勢は実に広大である。

このシリーズは、より短いRoutledge Focusの形式に基づいているため、急速に変化する技術領域とその社会文化的影響における新たな議論領域に対して、機敏に対応することが可能である。

巻頭言 マイケル・フィリモヴィッチ

本書では、デジタル全体主義について、名目上民主的な社会における人間の知的・創造的自由に対する具体的な劣化効果を通して調査している。

第1章「ラディカル・レジスタンス」Amanda C. Roth ClarkとSophia E. Du Valによる第1章「過激な抵抗：図書館、防御、データモニタリング」は、「過激で戦闘的な図書館員」というミームイメージを取り上げ、政府機関がますます侵害する訪問者の検索・貸出履歴のプライバシー保護に関して、図書館が果たす新しい役割にハイライトを当てている。図書館学倫理の核心である、情報への自由なアクセスという市民の基本的な権利が危機に瀕している。

第2章「認知機能強化の議論における緊急の倫理的問題」Özüm Üçok-Sayrakによる「自律性、精神的プライバシー、思考の自由」は、埋め込み型デバイスとブレイン・コンピュータ・インターフェイスに関連する認知機能強化の重要な議論を取り上げている。神経レベルにインストールされるこうした技術は、単に強化するだけでなく、感覚的、身体的、精神的能力を変化させ、思考の自由と自律性、精神的プライバシーに関する従来の概念に新しい疑問を投げかけている。

第3章「非人間的コンピューティング」40年間でアートスクールからビジネスハブへ」（エレノア・デア）は、ネオリベラルの変革と管理モデルのもと、ビジネススクールのアプローチを取り入れることによって、美術教育を長年にわたって確立された教育伝統から遠ざけている北半球のアートスクールの動向についてレビューしている。これらの新しい教育的圧力の中心には、コンピュータサイエンスとビジネスの概念の相互関係があり、STEMとSTEAMの応用創造性の構成が優先されている。

第4章「プランデミックとその使徒たち」Raúl Rodríguez-Ferrándizによる「パンデミックモードにおける陰謀論」は、ソーシャルメディアで世界的に広まったCOVID-19パンデミックに関連する陰謀論と「陰謀論」を分析している。カール・ポパーの考えに基づき、陰謀論は「近代の神話」として理解される。この神話は、何世紀も前の他の陰謀論と顕著な連続性を持つ一方で、私たちの一般的な情報障害の一部として、新たなアルゴリズム主導の効力を発揮する。

1 ラディカル・レジスタンス

図書館、デファンス、データモニタリング

アマンダ・C・ロス・クラーク、ソフィア・E・デュ・ヴァル

急進的、戦闘的なライブラリアン

2001年、ツインタワーが破壊された直後、あるFBI捜査官は、利用者の記録を連邦捜査局に渡すという要求に応じない「過激で過激な図書館員」に対する憤りを一連のメールに書き込んだ。このときの批判は、FBIが米国愛国者法第215条に基づいて許可された秘密令状を使って図書館利用者のデータを取り出していることに関するものだった。これらのいわゆる「過激な戦闘的図書館員」の努力は、利用者のために、そして国家によるモニタリングや詮索から安全に好きなものを読む彼らの権利のためになされたものであった。全国の図書館職員の相当数の側でのこのような行動は、その後、「米国愛国者法の更新に関する議論を延長するための投票において議会に影響を与えるのに役立った」（www.ala.org, January 17, 2006)のである。「過激派、戦闘的な図書館員」という呼称はインターネットを席巻し、今日に至るまでネット用語として定着している。図書館員は、この称号をあしらったバッジをつけ、コーヒーカップを持ち、トートバッグを持つことを誇りにしていた。過激で戦闘的な図書館員たち」が戦っていたのは、検索や貸し出し、突飛な話題への好奇心が国家の疑惑や調査につながり、違法行為への関与が疑われるような、可能性のあるデータの横領 (Gellman & Dixman, 2011, p. 10)であった。つまり、図書館のコミュニティが何十年にもわたって優先事項としてきたこと、つまり利用者のプライバシーと、モニタリングや反響なしに好きなものを読む権利は、まさに図書館という職業の精神と仕事の中心であるということを、この捜査官は特定した。図書館員は、プライバシー、著作権、モニタリング、データマイニング、自由に関する権利の保護について、自分たちが他の分野のトレンドセッターであると認識していた。本章では、こうした問題をはじめ、重要かつ論争の的となっている諸問題を取り上げる。

書庫には目がある：米国愛国者法と図書館における政府によるモニタリング

図書館利用者のプライバシーに対する最近の記憶で最も悪名高い脅威は、おそらく米国愛国者法 (Uniting and Strengthening America by Providing Appropriate Tools Required to Intercept and Obstruct Terrorism)であろう。9.11の直後の2001年に制定されたこの法律は、特に215条と505条において、連邦捜査官に図書館利用者の個人情報、閲覧習慣、貸出記録などを要求・収集する権限を強化した。米国政府によるこの拡大した権限は、図書館員の倫理基準、すなわち知的自由、情報リテラシー、アクセス、表現の自由に対する普遍的権利、および米国図書館協会 (ALA）の倫理規定（1994）および図書館権利章典（1939年に採択、2019年に最終更新）の中心となる他の幅広いテーマのホストに対する違反のために、図書館員に直ちに警告を与えた（ www.ala.org, August 19, 2021)。

さらに、PATRIOT法には、図書館職員がFBIから情報提供を求められたかどうか、あるいはいつ求められたかについて話すことを禁止する非公開規定が含まれていた。ほぼすべての州が図書館利用者の秘密を守る法律を以前から制定していたにもかかわらず、州法は「連邦機関が図書館の記録を求めることを可能にする連邦法によって上書きされるか、切り捨てられる」という現実がある。図書館記録のプライバシーを保護する連邦法や判例法はない」（ランバートら、2015年、3頁）。愛国者法の下では、連邦捜査官が図書館利用者の記録を入手するために召喚状は必要ではなくなった。その代わり、外国情報保全法 (FISA）の裁判所命令で十分であり、公然のテロ捜査と直接関係がなくても、どんな理由でも記録を入手することができるようになった。弁証法的に言えば、愛国者法は中央集権的な観点から、テロリストの脅威からアメリカ国民を保護し守るために作られたものであるが、この点については学界で議論が続いている (Whitehead et al,2002)。

図書館を、利用者の研究が収集され、利用者に不利に利用されうる疑惑の場所とすることによって、PATRIOT法は、図書館がその上に築かれているプライバシーと知的自由という倫理的枠組みを侵食した。ALAは20世紀までに確固たる地位を築いたが、19世紀にはすでに、協会の仕事である司書業務が一般市民の目には科学として位置づけられていた (Lugya, 2014)。20世紀までに、図書館員は、何を収集するか、利用者コミュニティをどのように分析するか、それらの利用者グループの情報ニーズをどのように評価するかを決めるために社会科学の手法を採用しており、そのすべてが今日も続き、図書館員が利用者にどう関わり、奉仕するか、また、何を守り支援することを選択するかに情報を与えている。今日の図書館学は、社会科学の伝統に支えられ、さらにテクノロジーの有用性と促進との結びつきがある。今日の図書館は、データセット、統計、分析、そして定量化可能な結果によって裏付けられた議論に焦点を合わせている。テクノロジーに対する図書館員の姿勢は、疑念を抱くよりもむしろ自由で開放的なものである。図書館員や書籍収集家は、記録物の管理者であり、「言葉の番人」である。..とJesse Sheraは書いている。シェラは「図書館を『社会の記憶』、社会的皮質と定義している」 (Shera, 1973, p.91)。この社会的皮質へのアクセスを守ることは、図書館員の自己認識において最も重要である。図書館は情報へのアクセスを維持し、促進する。したがって、図書館は人間の情報とその情報への自由なアクセスの容器であり、促進者であると見なすことができる。このような知識の貯蔵庫へのモニタリングされたアクセスや利用がなければ、社会的リスクは膨大なものになる。この神聖な世界観を念頭に置けば、図書館員がなぜPATRIOT法の攻撃的で侵襲的な腕に警戒したかは明らかであろう。今にして思えば、このことは、まもなく紹介する現在の米国移民税関捜査局 (ICE）業務とは比べものにならないように思われる。

匿名性を守る。ALAの元会長であるNancy Kranichは、USA PATRIOT Actに対する同協会の懸念について、特に、彼女が書いているように、「意見を述べ、情報を求め、受け取ることは、繁栄する民主主義の本質」 (Burns, 2007, p. 158)として、市民に安全で自由に考えを探求できる場所を提供する上で図書館が米国においてユニークな役割を演じているかどうかについて、詳しく述べている。このような信念のもと、多くの図書館員が精力的にパトリオット法との戦いに身を投じてきた。利用者に対する政府の脅威を和らげようと（あるいは逆らおうと）、これらの図書館員は、個人を特定できる利用者情報がどのように収集され、そしてそれが図書館でどのように保管されアクセスされるかを再評価した。librarian.netのウェブサイトに掲載された図書館員の中には、個人情報の収集について利用者に知らせる図書館の看板を作成することによって、愛国者法の非開示規定を回避する手段を講じた人もいる。「FBI」はここに来ていない。（この看板が撤去されるまで注意深く見守ってみよう）」と書かれたものがある(Foerstel, 2004, p.79)。別のものはこう告げた。「申し訳ございない。ナショナル

このような例から、ウィットとユーモアが共存していることがわかる(Foerstel, 2004, p. 79)。これらの例は、利用者の匿名性を重視する図書館員が、その匿名性への脅威に直面したときの機知とユーモアの両方を強調している。プロの図書館員」と「パラプロフェショナル」に分かれがちなこの分野で、図書館コミュニティは、この国家的侵害の問題に対する懸念という統一された旗印のもとに結集している。

この懸念は2001年になって初めて生じたものではなく、FBIの図書館啓蒙プログラムが公開された1980年代にはすでに生じていた (Rosen, 2000, p.167)。図書館啓蒙プログラムは1960年代に始まり、連邦捜査官が図書館員に、特にテロ活動の可能性がある分野で「疑わしい」利用者の記録をモニタリングするよう依頼するものであった。全米の図書館員たちは、利用者の勝手なモニタリングに参加することを拒否した。コロンビア大学数学科学図書館の司書、ポーラ・カウフマンは1988年7月、下院市民権憲法小委員会で次のように発言している。

彼らは、誰が何を読んでいるのかを報告するよう求めたが、私は彼らに協力することを拒否した。彼らは、私たちのような図書館はKGBや他の諜報員が勧誘活動のためにしばしば利用すると説明した。..私は読者をスパイすることを拒否しつづけた。(フォアステル 2004年、13頁)

いわゆる「文化の使徒」 (Garrison, 1979)である図書館員のDNAには、正義の反抗が長い間埋め込まれてきた。

図書館が利用者の情報を渡さなければならないことから図書館を保護する最近の州法と、コンピューティング全般における倫理的な課題について論じた教科書には、「図書館員は読者のプライバシーを守ることに非常に強い信念を持っている」 (Baase、1997、p. 44)という文章が掲載されている。インターネットがブームになる前の1993年の時点でさえ、図書館員は「コンピュータ、自由、プライバシー」(Baase, 1997, p. 80)といったテーマの会議を組織していた。図書館員の分野では、情報とコンピュータのハイブリッド文化は、専門職のスチュワードにとって最大の関心事であるべきで、コンピュータ化されたインターフェースがユーザーの経験を操作するため、最も重要であるとしてきた (Emerson, 2014, pp.32-33)。マーシャル・マクルーハンの予言的格言「媒体はメッセージである」は、物理的な本が持続的で複雑なコミュニケーション体験である一方で、コンピュータとデジタル・インターフェースも同様に、人間がデータにアクセスし内面化する方法を再形成することを思い出させる (McLuhan & Fiore, 1967)。コンピュータも本も情報の伝達者である。デジタルとアナログの体験は、単なる言葉や情報を超えて、内容を超えていくのである。デジタルブックはコンテンツの受信と解釈に影響を与える。図書館員は長い間、デジタルの発展、その長所と短所の両方に注意を払ってきた。また、今日の図書館は、例えばポルノコンテンツのネットサーフィンなどのために、施設内での一般的な端末の使用を制限したり管理したりするのではなく、むしろ賞賛することがあるが、図書館は利用者が政府や組織のモニタリングなしにあらゆるトピック領域を閲覧し研究する必要性を支持し続けている。また、図書館は、データのプライバシーやプロフト主導の過度なアクセス制限や共有制限に関してベンダーと交渉している間でも、著作権や管理に関する独自の指定を超えるよう努力している。

プライバシー セキュリティと（認識された）権利

説得力のある作家であり図書館の友人でもあるNicholas Carrは、「古い世代が死ぬとき、彼らは失われたものについての知識を持っていく」 (Carr, 2008, p.233)と主張している。私たちは、クーポンや容易さ、「知られている」という幻想の感覚と引き換えに、プライバシーを失い、容易なモニタリングに進んで屈するときに何を失うのか、尋ねることが賢明であろう。カーが私たちに問いかけ、思い出させるのは、いったん記憶が消去されたり、妨害されたりすると、私たちはもはや、自分が認識できなかったことに疑問を持ったり、挑戦したりすることができなくなるということだ。自律性を放棄したとき、私たちは権威を批判的に問う能力を失うことになる。なぜなら、図書館という機関は、人間の記憶を保存し、共有することを根本としており、それによって、過去と現在から学んだことが、意思決定や政策立案に反映され、研ぎ澄まされたものになるのだから。

プライバシーに関する権利やその認識は、西ヨーロッパ地域やイギリス諸島に由来する文化において長い歴史を持っており、古代における自然法に関する考察の中で主に表現され、トマス・ホッブズ、ジョン・ロック、ジョン・スチュアート・ミルの著作の中で文化的力を持って表面化した (Glenn, 2003, pp.16-18)。現代のプライバシーに関する議論は、プライバシーの権利の価値と、その価値が内在的（それ自体のために評価される）か道具的（目的を達成するためにどのように使われるかで評価される）かを中心に行われている (Himma & Tavani, 2008, p.158)。Herman T. TavaniはThe Handbook of Information and Computer Ethics (Himma & Tavani, 2008)の中で、フリードとムーアの理論を支持し、プライバシーは内在的かつ道具的なものとして同時に考えなければならないことを示唆している。フリードの考えるプライバシーは人間的であり、個人間の信頼を築くために必要であることを強調している。「Friedの構想では、私たちは単に人間の重要な目的を達成するためにプライバシーを重視するのではなく、むしろプライバシーなしにはそれらの目的は考えられない」 (Himma & Tavani, 2008, p.157)。Moorも同様に、プライバシーは安全保障の価値を明確にすることで、道具的かつ本質的なものであると主張している。セキュリティは社会の繁栄に不可欠であるとしながら、「情報技術が私たちの日常生活にますます入り込んでくるにつれて、私たちのプライバシーをますます脅かすようになる」 (Himma & Tavani, 2008, p.157)と断じている。2021年のデジタルの世界では、図書館員は常にテクノロジーと利用者の間の仲介役という立場に置かれている。プライバシーと自由の擁護は、1955年に出版された「読む権利」に記されているように、図書館によって長い間支持されてきた。この本には、図書館権利章典における検閲に対する初期の図書館員の戦いが回想されており、「党派や教義の不評を理由に本を禁じたり図書館棚から排除してはならない」（ブランシャード、1955、P69)ことが述べられている。さらに、図書館で何を学ぶかについての懸念は、米国の歴史の多くの局面で、特に戦後の米国で、当局の関心事となってきた (Blanshard, 1955, p.113)。社会の他の部門とは異なり、図書館員は、図書館内での読書や検索習慣に基づいて、利用者が犯罪を犯す可能性があると判断することに抵抗がある (Ahia & Martin, 1993, p.9)。他の職業とは異なり、当事者間には書面または不文書の契約が存在するが、図書館と利用者の間のプライバシーの権利は、契約の外で、契約を超えて守られるものである (Ahia & Martin, 1993, p.10)。それは図書館員という職業そのものに文化的、倫理的に埋め込まれている。

図書館利用の原則としてのバランスは、プライバシーと情報の開放を保護する中心的な問題である (Forester & Morrison, 1995, p.131)。冒頭の、今や伝説となったFBI捜査官の苛立ちを取り上げた例では、利用者の記録は、そこに潜在する情報のために望まれ、利用者を守るために保護されたのであった。本の記録は、利用者が読んだ本を思い出すのに便利な道具であると同時に、利用者の関心分野や、その関心分野がテロや違法行為を支援するものかどうかを判断するために、法律事務所が利用することもある。プライバシーは、公共の安全や個人の利益よりも大きな利益の議論に関連しているように見えるとき、依然として論争の的となるトピックである。ドナルド・ノーマムが指摘するように、「障害は政治的なものである。..自分の個人情報を他人から守りたい人々と、組織犯罪、テロリスト、その他の悪人によるこれらの同じ技術の使用を懸念する政府との間の政治的緊張につながる」（ノーマン、1998,257ページ）。一般的に、図書館員はアクセスの権利を擁護し、しばしば言われるように、情報は自由であることを望むので、制限の側に立つことを選択しない (Wagner, 2010)。Right to Privacyの著者が述べるように、「プライバシー」は憲法に直接言及されていないにもかかわらず、米国の人々はそれを基本的権利と考えているだけでなく、分野としての図書館員はプライバシーを支持することを重要視している (Alderman & Kennedy, 1995, p. xiii)。米国の法律は、サイバーセキュリティが進化するスピードに遅れをとっており、現在も遅れをとっている (Alderman & Kennedy, 1995, p.xvi)。本書は20世紀に書かれたものであるが、当時も地平線上に迫っていた懸念を先取りしている。執筆当時、携帯電話にはセキュリティがなく、固定電話だけが安全であると指摘されていた。著者は、人々は「私たちがプライベートを保つことを合理的に期待できるものについての考えを変えなければならない」 (Alderman & Kennedy, 1995, p.332)と結論付けている。安全性のため、あるいは広告や利便性のためにプライバシーが侵害されることを許すべきか、プライバシーが売られることをどの程度歓迎し、許容すべきか、そして利便性とナルシシズムの祭壇で自らのアイデンティティを喜んで手放すべきか、という問題である。26年後、このような懸念はますます大きくなっている。

ビッグデータと利用者情報の販売 データの保存とプライバシーは、図書館員にとって最大の関心事である。膨大な数のデータをコンピュータ上に無期限に保存し、それを転送したり検索したりする能力が高まっているため、プライバシーに関する懸念はより深刻になっている (Barger, 2008, p.9)。生まれながらのデジタル・データは、すべての電子情報と同様に、「所有権に抵抗しているように見える」 (Lanham, 1993, p.19)と言えるかもしれない。手書きで書かれ、少部数で出版され、人から人へ配布されたものは、あらゆる段階で所有権の概念と結びつき、手から手へ、人から人へと受け継がれていった。デジタルデータ、そしてデジタルメディアは、所有権を曖昧にし、しばしば匿名でオンライン上に書かれ、投稿された後、「シークレット」モードで誰にも見られずに一人で読み、使用後にキャッシュを消去する。このような特徴から定義されるデジタル情報は、「所有」されるもの、あるいは「主張」されるものという舞台から遠ざかっていくように見える。最近のフェイクニュースの台頭と、その衝撃的な破壊力は、まさにこの点を物語っている。ミシェル・フーコーは、「言説が作者を必要とせずに流通するような文化を容易に想像することができる」と仮定している。言説は、その地位、形式、価値が何であれ、また私たちがそれをどのように扱うかにかかわらず、広範な匿名性の中で展開されるだろう」 (Foucault, 1969, p.314)。このようにフーコーは、インターネットの匿名性、ビッグデータのキュレーション、そして「所有者のいない」情報を予言的に表現している。一見、匿名に見える情報の拡散は、フェイクニュースの氾濫につながる。この虚偽、無知、そして陰謀論が横行する時代において、読書家はテキストの真実や嘘を見分ける能力が私たちの先達よりも低いように見える (Sullivan, 2018)。

プライバシーの制限、開放性、自由、権利に関するこの議論の多くは、「所有権」の定義にかかっており (Brown, 1990, pp.115-116)、図書館員は図書館機関が利用者のデータを一切「所有」しているとは考えず、むしろ利用者と情報の仲人として、利用者が自らの知識と、最終的には知恵を獲得できるようにしている。かつては門番と考えられていた司書は、今日では人々と考えを結びつける専門家として想定され、図書館に収蔵されている書籍、電子書籍、ジャーナルでさえも「所有」ではなく「管理」されている。統合図書館システムは、利用者データ保護のためのアルゴリズムを備えたソフトウェアを生み出している。しかし、現在の難問は、情報を収集する機械にあるのか、それとも収集したデータを利用しようとする団体にあるのかを問わなければならない (Kearns & Roth, 2020, pp.190-192)。あるいは、ジェフ・シャイブルが警告しているように、私たちは、私たちが採用するテクノロジーとその使用方法をよりよく理解し、最も複雑な人間の課題を解決するためにデジタル発明を期待するという罠を避けなければならない（シャイブル、2015,138頁）。むしろ、時にはこれらのスマートな技術がそれらの問題をさらに完成させるだけだと思われる。ローリ・エマーソンが著書『リーディング・ライティング・インターフェイス』で主張しているように、「道具が本質的に中立で、良くも悪くもないというこの仮定は、まさに20世紀のコンピューター生成の文章と20-20世紀のリーディング・ライティングを分けるものだ」（エマーソン、2014,177頁）、そしてここで考えるところの、パトロンデータ収集のそれ、情報収集の誤った中立性にますます注意すべきかもしれない。

C・A・ピックオーバーの『未来のビジョン』などの書籍は、ありそうなものもあれば空想的なものもあり、多くの可能なデジタル未来を想定している（ピックオーバー、1994年参照）。私たちのソーシャルメディアのプロファイルにある情報は、マーケティング担当者が私たちに製品を売ろうとするために利用されている。アルゴリズムが私たちの「いいね！」を判断し、より多くの製品を、そして最終的には誰かが利益を得る方向に導く。しかし、私たちが「コンピュータの中」にいるとき、私たちの個人情報は私たちに対して利用される可能性がある (Tehranian, 1990, pp.130-131)。ビッグデータのマイニング、毎晩のアップロード、過剰モニタリングソフトウェアなど、テクノロジーの進化に伴い、利用者の記録を保護することは新たな課題となっている。利用者がオンラインでチェックアウトし、閲覧したものは捕捉され、ICEのような団体に収穫され、販売されることが分かっている。図書館員は長い間移民の権利の擁護者であり、つい最近も目録の指定として「不法滞在者」という言葉を削除することを決議した。したがって、難民を求める人々の強制送還に参加することは、この職業の包括的目標にとって忌まわしいことであると考えるだろう。

残念ながら、ユーザーデータの商品化は今に始まったことではない。1980年代にはすでに、ビッグデータ・グループのLexisNexis（1994年に学術出版社Reed Elsevierの親会社RELX Groupが10億ドル以上で買収）が、数百万人のアメリカ人の信用情報と社会保障番号を購入、包装、販売していたことが明らかになり、集団訴訟に巻き込まれた (Henderson, 1999, p.24)。同社は、要求に応じてデータベースから名前を削除し、すべての社会保障番号を削除することに同意した。

最近では、RELX Groupと同じデータコングロマリットのThomson Reutersが、同意なしに消費者データを販売した罪に問われているが、自社の製品から得たユーザーデータをICEのような政府機関に販売することで利益を得ている。これらの企業は、メディアや出版に関わりながら、デジタル時代の利益を最大化するために、本来の事業利益からデータ収集に軸足を移してきた。「トムソン・ロイターは、ICEのモニタリングから利益を得ることにRELX以上に成功している」と、ニューヨーク市立大学 (CUNY）法学部教授で法律研究図書館員のサラ・ラムダンは指摘し、「（同社は）ICEにモニタリングサービスを提供する契約を少なくとも3件結び、総額4600万ドルを超える」と述べる（ラムダン、2019b、277頁）。レクシスネクシスのThreatMetrix (RELXグループ所有）やトムソン・ロイターのConsolidated Lead Evaluation and Reporting (CLEAR）など、コンテンツとモニタリングサービスが単一のベンダーのもとに集約されていることは、個人のプライバシー権を侵害し、マイノリティや移民に対して行われる差別的取り締まり行為を促進するシステムを資金で支えるようになった図書館に、倫理的ジレンマをもたらす (SPARC、2021）。これらの業者は、利用者が必要とする高品質の法律やニュースのコンテンツを提供する一方で、政府機関が独自に編集する権利を持たないような個人データを政府機関に提供している (C. Hill, personal communication, July 19, 2021)。RELXとトムソン・ロイターがどのようにデータ仲介を行っているかについてのサラ・ラムダンの説明を長く引用する価値がある。

商業データブローカーとして、RELXグループとトムソン・ロイターは個別データを集約し、再販している。情報サプライチェーンの最初の段階で、個人は様々な政府機関に個人情報を提供し、オンライン消費者データや位置情報をソフトウェア会社と共有し、ソフトウェア会社はデータ追跡に特化したFRMにバンドルされたデータを販売する。トムソン・ロイターやRELXグループのような強力なデータアグリゲーターは、個々のデータトラッキング会社が保有する情報を購入・統合し、さらに公的記録から得たデータを加えて、数百万人の異なる人々を詳細に描写した情報のモザイクを作成する。トムソン・ロイターとRELXグループは、このサプライチェーンを通じて、地方、州、連邦政府が保有する公的記録、ソーシャルネットワーク、ブログ、チャットルーム、親戚や仲間のリストを含むオンラインデータ、その他購入または収集できるあらゆるデータなどの個人データを保有している。そして、これらのブローカーは、これらの詳細な個人別データベースを企業や法執行機関に販売する。(ラムダン、2019b、275頁)

モニタリング、特に移民のモニタリングは、「印刷物の資料やオンラインの事例データベースの販売が儲からなくなったため、トムソン・ロイターとRELXグループに新たな収入源を提供している」 (Lamdan, 2019b, p.255)のである。図書館員コミュニティからの世論の反発やボイコットにもかかわらず、図書館のデータベースにはデータモニタリングの影が根付いている。”モニタリング研究者のWolfe Christlは、ThreatMetrixのトラッキングコードがScienceDirectのウェブサイトに埋め込まれていると報告し、どんな利用者の情報がどんな目的に向かって収集されているのかについて深刻な疑問を投げかけている”(SPARC, 2021, n.p.). さらに、図書館ベンダーの統合により、データベース製品の導入に関して、図書館員の選択肢は少なくなっている。このレバレッジの欠如により、図書館はRELX GroupやThomson Reutersの製品を購入する以外に選択肢がなくなっているとLamdanは言う (Lamdan, 2019a, n.p.)。増え続ける略奪的な情報資本主義の脅威に抵抗して利用者のプライバシーを守るか、図書館の研究コレクションに意図的に穴を空けて利用者の情報ニーズを傍観するか、悲惨な苦境に立たされている。図書館関係者は、業界内で拡大するベンダーの独占にますます巻き込まれ、利用者が望むリソースを提供したいと願う一方で、しばしばコンテンツのほぼ独占的な権利を保有するベンダーの倫理（あるいはその欠如）を懸念し、そのコンテンツはその後急速に増加し強奪された価格で販売されるという狭間に置かれている。

検閲 モニタリングと忍び寄る無関心

モニタリングとプライバシーの侵害に抵抗することに加えて、図書館員が抵抗するものの中に、検閲がある。定義するのがやや難しい言葉だが、検閲は「常に私たちの偏見に関わり、私たちのマナーとモラルが形成される薄暗い領域にまで浸透し、法の支配に対する私たちの態度を形作る (McCormick & MacInnes, 1962, p. xiii)考え」なのである。しかし、なぜこれが図書館員の特別な関心事なのだろうか。マコーミックとマッキネスは「その複雑さにおいて、検閲の多様な装いは私たちを無関心に陥れる」 (McCormick & MacInnes, 1962, p. xix)ことを示唆している。全体として、図書館員はそのような無関心を拒否し、利用者のモニタリングに対して一貫した抵抗を示している。

ジョージ・オーウェルの予言的な小説『1984』が発表されて以来、多くの人が「ビッグブラザー」のようなレッテルを貼られることを嫌がり、知的自由とプライバシー権の侵害に無関心であると見られてきた (Forester & Morrison, 1995, p. 152)。しかし、個人的なテクノロジー・デバイスがアルゴリズムによる利便性を提供するにつれ、モニタリングに関する基準や懸念が徐々に失われてきているように思われる。役に立つものは、より寛大に許容されることが多い。連邦通信委員会 (FCC）は歴史的に、無線や有線による通信を規制する能力を持っており、電子書籍やその他のデジタル・コンテンツに関する問題を切り開いてきた (Paxton, 2000, p.130)。モニタリングに関するさらなる議論については、Glenn Greenwald, No Place to Hide: Edward Snowden, the NSA, and the U.S. Surveillance State. ニューヨーク メトロポリタン・ブックス、2014 年。モニタリングされることの倫理と名前だけのプライバシーは、図書館員コミュニティにとって中心的な関心事であり続けている。「モニタリングは情報を生み出し、それはしばしば記録システムに保存され、新たな目的に利用される」とダニエル・ソロヴは警告している。「モニタリングされ、自分の行動を抑制されることは問題の一部でしかない。もう一つの側面は、データが将来の未知の用途のために保管されることである」 (Solove, 2004, p. 42)。図書館員は、データを消去することによって、将来の未知の利用から身を守る。一般的には、毎晩自動的に情報を消去し、利用者が読んだり検索したりした過去の情報を消し去る。Reg Whitakerは、モニタリングの拒絶は「隠すべきもの」があるという恐怖から生まれるのではなく、むしろ隠れる場所がないという恐怖から生まれるという説得力のある議論を展開している (Whitaker, 1999, p.158)。基本的な前提が反転することで、カフカの悪夢となる。

著作権やアクセスとの交錯

この章では著作権に関する重複する問題や、一般的な権利に対するより大きな理解について取り上げることはできないが、著作権とアクセスの分野では豊富な文献が存在する。例えば、Philip Doty,「Privacy, Reading, and Trying Out Identity」(Aspray & Doty, p. 2001)を参照されたい。マイケル・リンチは、利用者の間でモニタリングされていないインターネットアクセスを保護しようとする一部の図書館員の動機の核心に迫っている。なぜなら、認識論的資源として「アクセスを制限し始めると、認識論的不平等に貢献するだけでなく、不平等に貢献することになるからである」（リンチ、2017、p. 145)。危機に瀕しているのは、プライバシーや権利だけでなく、アクセスの基盤である情報そのものである。

ゲイリー・ホールは、善いことをしようと努力している組織であっても、プロフト主導の法律に基づく出版モデルを前提とした前提の中で活動している場合は、精査する必要があると主張している。たとえば、クリエイティブ・コモンズは、資本主義的なコピー「権」モデルから始まる受動的な構造の中にある。これに対抗するために、ホールは「コピーレフト」のようなより急進的な出発は、「コピーファーレフト」または「コピーギフト」であることにさらに努力するべきだと提案している (Hall, 2016)。ホールは、査読付きジャーナルのネクサスを標的とし、ジャーナルは、昇進、資金調達、ひいては継続的な雇用のための学者の吟味を中心に回っていると指摘する。彼は、個人データの収益化（米国では年間10億ドル規模の産業）を攻撃しているが、これは、データ分析が営利目的のために採掘されることと、学術界の出世主義のために採掘されることの両方と絡み合っている。学術界はこのようなシステムに凝り固まり、依存しているため、オープンアクセスモデルを推進する人々でさえ、多くは利益誘導型、法律重視型の産業が課す制限に囚われている。図書館員はビッグデータによって集約されたパターンを収集し解釈することを望んでいるが、誰がそのようなデータにアクセスし、それをどのような目的で使用したいのかを一旦考えてみる必要がある。

図書館員は、図書館において包括的で公平な環境を育むことに尽力していることを誇りに思っている。ALAによって概説された図書館権利章典に記述されているような価値観に導かれ、図書館員のギルドは、そのコミュニティのメンバーにサービスを提供するすべての方法において、積極的に公平性を追求する。アクセスの公平性は、米国における図書館員としての歴史において特に影響力のある価値観であり、知的自由の繁栄を保証するものである。「図書館員の歴史的連続性」は、著者であるJaeger、Green Taylor、Gorhamの3人の意見を引用している。

図書館の歴史的な連続性は、図書、コンピュータ、電子書籍といった情報を格納するモノに縛られるものではない。連続性は、情報へのアクセスを提供すること、利用者が情報を利用し理解できるようにすること、そして利用者の満たされていないニーズを擁護することにある。(イェーガー他、2015年、4頁)

公共図書館は、商品化と消費主義の社会におけるユニークな空間である。無料で、誰にでも開かれており、弱い立場の人々に重要な社会サービスを提供することができる。図書館員はコミュニティのニーズを満たすのに苦労することもあるが、図書館のサービスや技術へのアクセスが妨げられず、公平で、安全であることを保証するためにたゆまぬ努力を続けている。

作家活動家であるゲイリー・ホールは、作者にもアクセスを求める読者にも真の力を与えないシステム化された著作権に対して闘うことを読者に勧めている。ホールは、「私がおそらく海賊の哲学者のように行動することを提案しているのはこのためである。なぜなら、道徳主義とは対照的に、責任ある倫理的なアプローチで海賊行為を行うには、それが何であるかを事前に知っていると仮定しないからである」（ホール、2016,141頁）と述べている。つまり、彼は、個人を支援するのではなく、搾取する時代遅れの支配体制に抵抗することを促している。さらにホールの助言は、不可能な決断に直面したとき、彼が示唆するように「責任を持って、できるだけ注意深く、考えながら」行動した「過激で戦闘的な司書」がとった行動を支持している（ホール、2016年、117頁）。図書館コミュニティにおける長年の懸念は、強力な分析によって煽られたプロフト主導、あるいは権力主導のデータ収集によって、利用者がますます力を失い、犠牲になっているという不幸な現実を中心に展開されている。

結論

2013年、Michael Zimmerは「図書館2.0のファウストバーゲン」 (Zimmer, 2013, p.46)に関連した課題を説明した。彼は、「利用者のプライバシーやプロの図書館員が守るべき価値を損なうことなく、…有用なWeb 2.0技術を図書館の領域に統合するにはどうすればよいか」 (Zimmer, 2013, p.46)と問いかけた。Web 2.0という言葉は 2000年代半ばにTim O’ReillyとDale Doughertyによって作られ、インターネットの新しい「データリッチ」な時代、つまり双方向性、コラボレーション、高度なユーザー体験の時代を特徴付けた (Zimmer, 2013, p.46)。しかし、よりパーソナライズされたインターネットの夜明けは、以前よりも多くのユーザーの個人情報を譲り受けることを必要とした。私たちの考え、意見、写真、職歴、趣味は、新しいインターネットの社会的景観の中であっという間に究極の通貨となり、図書館員は、利用者のプライバシーを損なうことなく倫理的に利用者と図書館の交流を促進するために、オンラインの人と人とのつながりの力をどう利用すればよいかと考えていた。Zimmerは、「概念的に、図書館員の倫理観の中で、政策を推進すべき主要な価値は何か、それはアクセスかプライバシーか？(Zimmer, 2013, p.53)と述べている。

図書館員は、アクセスとプライバシーの間の境界線を決定的に意識している。21世紀の無数の技術革新は、利便性と接続性を提供するかもしれないが、消費者のデータ保護は保証されていない。TavaniがThe Handbook of Information and Computer Ethicsでまとめているように、現代の技術開発から生じるプライバシーに関する4つの懸念には、クッキー技術に関連するリスク、データマイニングによる個人識別情報への脅威、職場モニタリング技術、RFID（無線周波数識別）によるジオロケーションプライバシー侵害がある (Tavani 2008,151～156頁）。図書館員は、アルゴリズムの時代に大きく立ちはだかるこれらやその他のプライバシーに対する脅威を強く意識し、ベンダーと協力してデジタル製品における利用者のプライバシー保護を強化し、契約している製品のセキュリティリスクを特定し、家庭でのデータプライバシーを最大限に高めるための指導を行うことによって、利用者のプライバシーに対する危険の軽減に努めている (Pedley、2020,145-151ページ）。

入門者にとっては、本章の内容は驚くに値しないだろう。Marilyn Johnsonが指摘するように、図書館員は権利と知識、つまり自由になりたい情報に関して、長い間過激な態度をとってきた (Johnson, 2010, p.12)。ステレオタイプを避け、あるいは楽しむ一方で、図書館員は、一部弁護士、一部ハッカー、そしてすべてサイバースルースとなるような冷徹な熱意と一途な事実収集をもって、自らが選んだ目的の背後に集結している。図書館員が利用者のプライバシーをかたくなに守り、図書館のモニタリングに反対するのも不思議なことではない。この眼鏡をかけ、用心深く、よく読み、刺青をした批判的思想家の軍団は、今日他の職業にはあまり見られないように真実を守ることに腐心しており、彼らはそれをほとんど過剰な利益や賞賛や祝賀なしに行っている。

スティーヴンズ=ダヴィドウィッツが「インターネットの時代には、図書館カードを持たないことはもはや恥ずかしいことではない」（スティーヴンズ=ダヴィドウィッツ＆ピンカー、2017,106頁）と主張するのは誤りである。本章の著者たちは、IPアドレスの足跡や民間や政府のモニタリングがある時代に、図書館に入って匿名の端末を使ってネットを閲覧し、本を借りられる（その記録はほとんどすぐに消されるだろう）ことは世界的に重要で、単なる社会の「恥ずかしい」問題ではない、と示唆している。その逆である。

[/passster]

2 認知機能拡張の議論における緊急の倫理的課題

自律性、精神的プライバシー、そして思想の自由

Özüm Üçok-Sayrak

このエッセイは、現在進行中の認知機能拡張に関する議論や研究に関して生じるいくつかの倫理的疑問について、一旦立ち止まって考えることを促すものである。特に、埋め込み型脳デバイスやブレインコンピュータインターフェース (BCI）が自律性、精神的プライバシー、思考の自由に及ぼす潜在的影響に焦点をあてる。まず、Rushkoff (2019)の「人間の発明における運命・境遇の逆転」に関する議論とLanier (2010)の「デジタル技術の設計と構造が人々の認識、アイデンティティ、相互作用に深く変容する効果」に関する警告を通じて、このエッセイのフレームとなる背景文脈を提供することから始める。次に、認知機能強化の多面的な戦略や技術について、その違いや副作用、意味合いを明らかにし、認知機能強化という熱く危険なテーマについて情報に基づいた議論を行い、脳インプラントなどの技術的強化の形態が矮小化されないようにする。第3に、侵襲的な脳インプラントやBCIなどの新しいバイオテクノロジーによる認知機能強化戦略について論じる。この戦略は、技術的手段によって生物学的境界を越えることにより、人間の感覚的・身体的能力を強化するだけでなく、変化させる。私は、テクノサイエンス的に可能でありながら殺人を犯すかもしれない新しいものに飛び込む前の重要な予防策として、「無思慮」 (Arendt, 1958)に抵抗するために、すでに埋め込まれているデジタル内で間を取ることができる人間の能力の命を救う重要性を強調して、結論とする。

デジタルメディア環境における図/地面の反転

『チーム・ヒューマン』の中で、ラッシュコフ（2019)は、人間の発明に関する図/地反転について書いている。発明が人間に奉仕するのではなく、その逆が起こり始め、人間が発明に奉仕し始める。つまり、人間はfgureとgroundを見失い、自分たちが発明したシステムの奴隷になってしまうのである。「fgureとgroundを見失うと、誰が誰のために何をしているのか、その理由を忘れてしまう。人をモノとして扱う危険性がある」 (Rushkoff, 2019, p.44)。最近の例では、ソーシャルメディアとともにスマートフォンの利用が関連している。スマートフォンやそのアプリケーションが人間に役立つというよりも、多くの人がスマートフォンが提供する様々なサービスに夢中になり、あるいは中毒になり、ほとんどバーチャルな生活を送ることで、うつ病や孤立、共感力の低下、特に若年層に影響する自殺の増加といった重大な結果を招いている。

Rushkoff（2019)は、fgure/groundの逆転を説明するためにいくつかの例を挙げている。例えば、貨幣は「もともと価値を貯蔵し、取引を可能にするために発明された。..今日では、貨幣の獲得そのものが中心的な目標となり、市場はその目標を実現するための手段に過ぎない」 (Rushkoff, 2019, p.44)。近年、デジタルメディア環境では、強力で危険なfgure/groundの逆転が起こり、コミュニティとつながりに対して破壊的な結果をもたらしている。人間の役割と機器・機械の役割が入れ替わるのである。

「もし私たちが、何かが何をするようにプログラムされているのか本当に知らないなら、チャンスは、それが私たちをプログラムしていることだ」 (Rushkoff, 2019, p.50)。ラッシュコフ（2019)が提示する一見シンプルかつ強力な例はミームで、これは単なるキャッチーなスローガンではなく、コードの一形態である。ミームの機能は、興奮、パニック、怒り、または他の激化した感情的な反応を喚起することによって、それを共有する人間を刺激することによって再生産されることである (Rushkoff, 2019)。ミームは「人間の心に感染し、その人をウイルスの複製者にするように設計されている」 (Rushkoff, 2019, p.50)のである。ミームが再生産を命じ、人間がそれに従うことで、人間を道具に変えてしまう。人間が持つ自律性や選択肢を強調したこの発言に疑問を抱く人もいるかもしれない。次節と本エッセイの残りの部分では、デジタル時代において人間が進んで、あるいは進んで放棄する自律性の問題を探り、このコンプライアンスが認知機能強化の議論や、精神的プライバシーと完全性、思考の自由、意思決定に関する問題にどのような影響を与えるかを探ることを目的とする。

デザインによる断片化

バーチャルリアリティ技術のパイオニアであるJaron Lanierは、デジタル技術の開発者として、「デジタルデザインの細部における小さな変化が、それを使って遊んでいる人間の体験にいかに深い予期せぬ影響を及ぼすか」を常に思い知らされていると警告している (Lanier, 2010, p. 4)。Lanier (2010) は、ボタンの使いやすさのような一見些細な変化が、時に行動パターンの大きな変化をもたらすと説明している。スタンフォード大学の研究者であるYeeら(2009)は、自分のアバターの身長を変えることで、オンラインとオフラインの両方で自尊心と社会的自己認識が変化することを実証した例からLanierは提案している。

ラニアー（2010)は、デジタル技術の発明者やプログラマーのソーシャルエンジニアとしての役割について、非常にわかりやすく書いている。

私たちは、遠隔の目や耳（ウェブカメラや携帯電話）、拡張された記憶（オンラインで検索できる詳細の世界）のように、あなたの存在を拡張するものを作り上げている。これらは、あなたが世界や他の人々とつながるための構造体となる。これらの構造によって、あなた自身や世界に対する考え方も変わってくる。私たちは、議論を通じて間接的にではなく、あなたの認知経験を直接操作することで、あなたの哲学をいじくり回すのである。(p. 6)

ラニアー（2010)は、人々の認識、アイデンティティ、相互作用を形成するデジタル技術の設計や構造の作成に直接関わるプログラマーとして、人間と技術の相互作用に関する議論の重要性を強調している。ラニアーは、デジタル技術やメディアのデザインが「人間の本性におけるさまざまな可能性」 (Lanier, 2010, p.5)を刺激するさまざまな種類の影響について重要な問題を提起し、人間の経験の未来全体を形成することについて警告を発している。

「断片的で非人間的なコミュニケーションの普及は、対人関係を卑下させた」 (Lanier, 2010, p.4)のである。デジタル技術が促進する非人間的で断片的なコミュニケーション形態を常態化し、採用した新しい世代は、「人が何になれるか、そして各人が誰になれるかに対する期待が低下している」（p. 4)のである。具体的な例として、多くの人、特に若い世代が多くの時間とエネルギーを費やして管理しているSNS上の自己と人間関係のデジタル表現がある。自分自身や自分の人生について最も成功したオンライン上の表現を作ることができた人は、この幻想的な世界の勝者となり、このデジタル・トンネルで間違った方向に進んだ人は、恥をかかされ、キャンセルされ、荒らされる危険がある。それは、特に青年や若年成人の人生において、孤立、疎外、不安、うつ、自傷、自殺に関連する深刻な結果をもたらす容赦ない世界となりうる (Jacobら、2017、Kelesら、2020、Krossら、2013、Tobinら、2015、Twenge、2019)。

人間を情報の断片に、コミュニケーションのプロセスと経験を情報交換に還元した結果に関する実例として、文字数の制限により簡素化を求めるツイッターというプラットフォームがある。オット（2017)は、文字数制限のために「ツイッターは構造的に複雑なコンテンツを扱うことができない」（p.61)と書いている。さらに、ツイートには、ほとんど努力や予見、考察が必要ない。「ツイートは、しばしば感情的な電荷によってスパークし、ソーシャルネットワークを通じて伝達される。..」 (Ott, 2017, p.61)、ユーザーは衝動的に話すよう訓練される。単純さと衝動性に加えて、Twitterの非公式で非人格的な側面が組み合わされると、Twitterでトレンドとなっているキャンセルのしやすさを含め、Twitter上で礼節を損なう不寛容、卑劣、攻撃的、損傷的な言説形態が見られることは驚くことではなくなる。こうした相互作用のパターンは、対面での相互作用を含む他のコミュニケーション領域にもおよび、公共空間を形成している。

私は、認知機能強化に関する進行中の議論に関する以下の検討のための文脈として、上記の導入的な議論を提供する。人間の発明におけるfgure/ground reversalsに関するRushkoff（2019)の議論や、デジタル技術の設計や構造が人々の認識、アイデンティティ、相互作用に与える変容的効果に関するLanier（2010)の警告は、以下の認知機能強化関連の調査に移る際に留意すべき重要な参照点として機能する。

認知機能拡張の戦略と緊急の倫理的質問

Hacking the brain（脳をハッキングする）」と題する最近の論文で、Dimensions of cognitive enhancement（認知機能強化の次元）と題する論文がある。Dimensions of cognitive enhancement」Dreslerら(2019)はこう書いている。「複雑化する情報社会において、認知機能に対する要求は確実に高まっている」Dreslerら（2019)は、変化の激しい世界でパフォーマンスを向上させるために認知能力を獲得し維持するという課題に対応するために、人間の認知能力の自然な限界を克服する戦略を試す人が増え始めたと説明している。エンハンスメントとは、「良好な健康を維持または回復するために必要なものを超えて精神機能を改善することを目的とした人間への介入」 (Dreslerら、 2019; Juengst, 1998)を。す$2Dreslerら（2019)は、精神的能力を向上させる薬理学的手段と非薬理学的手段の両方をエンハンスメントの一部として論じ、複数の認知機能向上介入を3つの主要クラスターの下に分類している。生化学的戦略、物理的戦略、行動的強化戦略。

生化学的戦略には、アンフェタミン、メチルフェニデート (MPH）などの合成覚醒剤、メマンチンなどの抗認知症薬などの薬理学的エンハンサーが含まれるが、これらの医薬品に限定されるものではない。Dreslerら（2019)は、生化学的戦略のもとで認知力を高めることが示されているカフェイン、グルコース、ココアに含まれるフラボノイドなどの栄養成分、葉酸、オメガ3脂肪酸を含んでいる。

物理的な認知力強化戦略は、電気、磁気、音響、または光刺激法などの様々な脳刺激技術だけでなく、全身振動、記憶と持続的注意を改善する可能性を有する異なる形態のニューロフィードバック介入など、より間接的に脳のプロセスを標的とする他の方法からなる（詳細については、Dreslerら、2019を参照されたい）。最近では、拡張現実ガジェット、ウェアラブル電子記憶補助装置、または心と機械を融合させるより永続的な身体インプラントが開発されている。

最後に、睡眠、身体運動だけでなく、音楽トレーニング、ダンス、第二言語の学習などの文化活動など、認知増強剤として一般的に認識されていない行動戦略が、認知機能を改善することが示されている (Bialystokら、2012;Coubardら、2011;Feld & Diekelmann、2015;Schlaugら 2005)。興味深いことに、瞑想トレーニングは、注意のプロセスやマインドフルネスなどの特定の認知プロセスを意図的に強化するために開発された古来からの行動戦略の一つと考えられている (Chiesaら、2011; Sedlmeierら、2012)。

Hildt（2013)は、「強化」という言葉は「治療」とは異なり、健康な個人における人間の能力やパフォーマンスを向上させることを目的とした方法や技術を特定するものであると説明している。この違いから、例えば、注意欠陥多動性障害 (ADHD）の治療にリタリンのようなMPHを使用することは、エンハンスメントとはみなされないだろう。治療とエンハンスメントの区別は、必ずしも単純明快ではないかもしれない。しかし、認知機能強化という熱く危険なテーマについて十分な情報を得た上で議論を行い、脳インプラントなどの技術的な強化形態が矮小化されないよう、それらの違い、副作用、意味合いを明確にした上で、多面的な戦略や技術を探求することが極めて重要なのである。

技術的なエンハンスメントの矮小化は、人類がいかに常に様々な方法で自らを向上させようと努力してきたかというレトリックを通じて行われる。

文字や印刷、インターネットを通じて脳を強化する。…..。そして、十分な運動、栄養、睡眠によって脳を強化することができることを誰もが知っている。脳刺激や人工脳チップなどの新しいテクノロジーは、教育、健康習慣、情報技術と同じカテゴリーで捉えられるべきである (Greely et al., 2008, p. 702)

脳インプラントのような技術的強化は、意味合い、リスク、倫理的懸念の点で、従来の戦略とは根本的に異なる。人間は常に自分自身を向上させようと努めてきたという一般的な議論は、認知機能強化の倫理に関するリスク、原則、政策に関して行われるべき重要な議論を矮小化するものである。Jotterand（2008)がMcKenny（1997)と共に述べているように、テクノサイエンスの新しい革新 (BCIなど）がもたらすパラダイムシフト（後述）の可能性を前に、私たちの生活における医学と技術の役割について賢明な選択をするためには、慎重さを行使することが最も重要なのである。Jotterand（2008)は、BCIによる脳への介入は、人間の感覚や身体能力を高めるだけでなく「変えてしまう可能性がある」（p.18)とし、人間の本質に対する理解を変え、代理性や人格、自由意志、身体と心の関係などの側面で重要な問題を提起していると書いている。Jotterand（2008)は、治療（回復）と強化（データ処理、推論、記憶などの精神的・生物学的能力の向上）に焦点を当てたBCIは、依然として生物学的世界の境界線（種典型）内にあり、その性質は人間のままであると説明している。しかし、神経科学における新興技術の次の応用レベルでは、神経生物学的機能の改変に焦点が当てられ、「技術的手段によって生物学的境界を超え、人間の能力を改変する（非定型種）」 (Jotterand, 2008, p.17)ことが目標とされる。このように、改変のレベルでは、技術的手段による生物学的境界の越境があり、これは些細なことでは済まされない憂慮すべき問題なのである。

例えば、神経改変では、インプラントやマイクロチップなどのハードウェアによって、脳の機能に新しい機能を追加する (BCI、脳間インターフェース、ウェブアクセスなど）ことが行われる。移植可能な脳デバイスは、リアルタイムで脳活動をモニタリングし、特定の神経細胞イベントを予測することができる (Gilbert, 2015)。BCIの特定の形態は、感情状態を検出し、マッピングし、刺激することができる (Steinert & Friedrich, 2020)。Brain-to-brain interfacing (BTBI）は、2つの脳間で情報を直接転送することができる (Trimper et al.、2014)。これらの新興バイオテクノロジーによる認知機能強化戦略はすべて、プライバシー、自律性、精神・感情状態の操作、精神的完全性、道徳的意思決定と責任、強制的支配の可能性に関する主要な倫理問題を提起している。

Trimperら（2014, p.3)が明確に強調しているように、倫理的言説は「技術の進歩に追いつかなければならない」し、「倫理学者と科学者が協力して、最高の倫理基準で技術が開発されることを保証しなければならない」。しかし、バイオメディカル技術、特にBCIの神経技術は急速に発展しており、BCIが（特に治療用途を超えて）人間の神経能力を強化・変化させることの道徳的意味や許容性、またその規制に関する焦点は、遅れをとっているのが現状である。2020年の最近の事例がそれを物語っている。人工知能との共生の未来を構想するニューロテクノロジー企業、ニューラリンク社の新しい脳インプラントのデモンストレーションのライブ質疑応答では、神経科学者、エンジニア、プログラマー、チップデザイナーからなるチームメンバーと、同社の共同創設者イーロン・マスクがツイッターを通じて観客から質問を受けた。質問と議論は、デバイスの設置、速度、帯域、有効利用、機能、アルゴリズムなど、脳内チップの技術的な側面に集中した。この製品の開発・使用に関する倫理的、社会的、文化的、意味合い、受容性、将来の潜在的リスクなどに関する質問や懸念は一切なかった。

さらに、脳インプラントに関する聴衆からの質問に対して、ニューラリンクのチームメンバー数名が次のような表現をしていたことが気になった。「ロボットは人間の親友」 (CNET、33:53)、「身体は優しい場所ではない」（インプラントについて）、「非常に腐食性の高い環境だ」（「それ」は脳を指し、チップと脳をつなぐ電極を腐食させる）。脳チップの移植という観点から、友好的な生息地ではない強化すべき「それ」として身体を客観視することや、人間をロボット以下の存在や（友人として、あるいはパフォーマンス全般において）欠陥があると決めつける反人間的レトリックは、非常に問題があり精査する必要があるだけでなく、人間としての自分、他人との関係における自分の位置、幸福についての理解において、危険でもあり得るのである。ラシュコフ（2019)が『チーム・ヒューマン』の中で書いているように。

私たちは、人間や自然の摂理における自分の居場所について、非常に古くて軽蔑的な観念を、未来の技術インフラに埋め込んでいる。私たちをリードする技術系FRMや大学のエンジニアは、人間を問題視し、技術を解決策とみなす傾向がある。(p. 5)

人間を問題とし、技術を解決策とすることは、本章の冒頭で述べた「地と図の逆転」の究極の例であり、慎重さと知恵と批判的思考をもって臨むべき、きわめて問題の多い挑発的な例といえるかもしれない。

次章では、植込み型脳機器が自律性、精神的プライバシーと完全性、思想の自由に及ぼす影響について検討した3つの論文について紹介する。

自律性、思想の自由、精神的プライバシー

自律性への脅威？「The Intrusion of Predictive Brain Implants」Gilbert（2015)は、予測・助言型の埋め込み型脳機器が、手術後の患者の自律の感情に及ぼす影響を検証している。Gilbert（2015)は、予測・助言型の脳技術への過度な依存が患者の自律性を脅かすのではないか、と疑問を投げかけている。この文脈における自律性とは、具体的には「個人が自分の意思決定や選択をコントロールすることを必要とする」意思決定や選択に焦点を当てている (Gilbert, 2015, p.6)。植え込み型予測・助言脳デバイスのような新しい侵襲的生物医学技術は、「植え込まれた患者に、これから起こる症状を前もって助言したり、治療反応を自動的に排出するようにプログラムできる」 (Gilbert, 2015, pp.4-5)。これらの脳インプラントの助言機能とは、「特定の神経細胞事象を回避するために患者がどのように行動すべきかを事前に知らせるデバイスの能力を指し、ある程度、これらの機能性は実施すべき処方的措置を提供する」（p.5)。このように、植え込み型デバイスを装着した個人の自律性に関する問題は、予測・助言型インプラントの影響下での意思決定における制御と自由の度合いに関わる。

Gilbert（2015)の予備的な観察によれば、てんかん発作を予測できる実験的なアドバイザリー脳内装置の最初の移植を志願した患者への半構造化インタビューに基づいて、「アドバイザリー機能は、ほとんどあるいは全く警告なしにいつでも発作が起こるという不確実性を減らすのに役立ち、彼の自律感覚を高めた」 (P7)ことが示されている。しかし、Gilbert（2015)は、予測・助言型脳インプラントのパラドックスに関して留意すべき重要な点を強調している。それらは患者に制御の程度を高めるものであるが、「ひいては、これがある点で患者の自律性を低下させないかどうかは明らかではない：特に患者に対する制御の程度を高めることによって」（p.7)。Gilbert（2015)が説明するように、永続的にモニタリングし、情報を与え、助言してくれる装置への（過）依存は、患者に誤った安心感を与え、信号故障や読み取りエラー、あるいは（薬の飲み過ぎや飲み足りないという）害のリスクを高めるかもしれない他の機能不全の可能性を考慮させない可能性がある。さらに、患者は、アドバイザリーブレイン装置がデータそのものではなく、アドバイスとして脳波データを使用し、提示することを念頭に置くのではなく、装置が常に正確に何が起こるか、起こらないかをアドバイスしてくれると期待するかもしれない。持続的な脳のモニタリングにより、より自信、安全、安心感を感じ、患者はインプラントなしではしないような行動をとるよう促されると感じるかもしれない (Gilbert, 2015)。全体として、Gilbert (2015) は次のように警告している。

このように助言型脳内装置に過度に依存すると、患者に意思決定の脆弱性が生じ、受けた助言をどのように進めるかについて、自由に情報を得た上で意思決定する能力が脅かされる可能性がある。装置の持続的な影響力のもとでは、患者は意思決定の主権を欠くことになりかねない。患者の意思決定能力が助言用脳内装置によって強く影響される場合、患者は受動的になり、受けた助言を受け入れる能動性が低くなるかもしれない。(p. 8)

予測・助言装置が患者に与える恩恵と可能性にもかかわらず、これらの脳内技術の意図しない、予期しない意味合いと、これらの医療モニタリング・ニューロテクノロジーが引き起こす可能性のある害を認識し理解することが極めて重要である。次世代の予測・助言型脳インプラントは、薬物の投与や電気刺激などの治療反応を行うことができるようになる。これらの自動化された予測装置は、治療のたびに患者と相談し、同意を得る必要なく作動する能力を持つようになる。このことは、インフォームド・コンセント、患者が自動設定を変更したり解除したりする権利、患者の自律性の感覚、自分の身体とのつながりの感覚、疎外、客観化、断絶の潜在的リスクに関するさらなる倫理的問題を提起するものである。

Wired emotions”では Steinert and Friedrich (2020) は、「感情的な状態を検出し、影響を与え、刺激することができる」（p.351)最近出現したBCIに関する倫理的な問題を論じている。情動状態には、感情や気分が含まれる。「感情BCIとは、神経生理学的な信号を用いて、感情状態に関連する特徴を抽出するシステムである」 (Steinert & Friedrich, 2020, p.352)。脳信号を計測する技術には、侵襲的（脳の表面に電極を設置する）なものと非侵襲的（頭の外に置く）なものがある。情動BCIは、人をある特定の情動状態から別の情動状態に移行させるために用いることができる (Daly et al.、2016;Ehrlich et al.、2017)。治療への応用では、情動BCI技術は、情動障害を持つ人やトラウマを経験した人に役立つ可能性がある (Steinert & Friedrich, 2020)。

非常に個人的で繊細な領域である人の感情状態に関するデータを収集することは、精神的なプライバシー、セキュリティ、インフォームドコンセント、自律性について大きな疑問を投げかける非常に議論の多い問題である。affective BCIを使用して感情状態をモニタリングし影響を与えることは、Mecacci and Haselager（2017)が「精神状態に関する洞察を得ることを目的とした脳の構造および/または活動の観察」を容易にする「脳リーディング」技術に関する論文で検討した精神的プライバシーに関する同じ倫理的懸念を含んでいる（p.444)。感情BCIと脳読取技術の両方は、臨床や医療の文脈で有益である可能性がある一方で、実際に「収集した個人データの潜在的な使用と乱用 (Ienca & Haselager 2016)から、人々の自由が危険にさらされ、心が強制的または密かにモニタリングされることができるオーウェルのシナリオまで、多くの倫理的懸念を生み出している」 (Federspiel 2007; Mecacci & Haselager, 2017, p. 445)。まだ開発の初期段階にある脳読取技術の技術的な課題や限界はあるものの、この技術の潜在的な意味合いや倫理的な課題について議論し、社会的な認識を促すとともに、その開発を誘導したり、一時停止や停止させたりすることは非常に重要である。

これに沿って、ラバッツァ（2018)は、最新の神経科学的技術やデバイスの開発により、精神／脳のプライバシーやインテグリティを危険にさらす可能性がかつてないほど高まっていると論じている。メンタルインテグリティとは、「個人が自分の精神状態と脳のデータを支配することで、本人の同意なしに、誰もそのような状態やデータを読み取ったり、広めたり、改変したりして、個人を何らかの形で条件付けることができないようにすること」 (Lavazza, 2018, p. 4)であるという。Lavazza（2018)が提唱する精神的完全性は、プライバシーの問題と認知の自由の両方を含み、「関連すると考えられる他のすべての自由を持つために、個人が与えられなければならないfrstかつ基本的な自由である」（p.4)。Lavazza（2018)は、思考の自由の基礎として精神的完全性を強調しており、これには自身の意識と思考過程を制御する権利と自由が含まれる。Lavazza（2018)は、メンタルインテグリティを保護するための技術的原則を提案している。「具体的には、新しい神経人工器官は、（a)脳データの不正な検出、改ざん、拡散を発見し、信号を送ることができるシステムを組み込むこと、（b)脳データの不正な検出、改ざん、拡散を停止できること」（5)である。これらの原則は、新しい神経技術の開発とともに行われるべき学術的、公的な議論に重要な参考点を提供するものである。

強化され、かつ時代遅れになった人間　絶え間ない更新の必要性

倫理的問題と人間強化に焦点を当てた神経技術開発の意味についての議論に加え、Sparrow（2015)は、人間強化技術の急速かつ継続的な改良に伴う陳腐化のリスクについて警告している。人間強化の技術が、現代の家電製品（携帯電話やパソコンなど）のペースに多少近い形で向上するかもしれないと仮定すると、5年後には最先端の強化が時代遅れになり始め、10年後には維持に必要なインフラのために使えなくなるかもしれないとSparrow（2015)は論じている。

もし、カメラやコンピュータではなく、私たちの身体や脳がすぐに時代遅れになり、事実上時代遅れになってしまうとしたらどうだろうか。強化によって私たち自身の能力を向上させることができる一方で、私たちの数年後に生まれた人々が私たちの能力を凌駕する力を持っていると知っていたらどうだろう？(スパロー、2015,232頁）。

その結果、強化された個人の各グループは、次の強化されたグループによって競争される危険にさらされ、「強化されたラットレース」 (Sparrow, 2015, p.232)を引き起こすかもしれない。人々は単に強化を更新することができると主張する人もいるかもしれない。

しかし、脳インプラントのような侵襲的な（手術を必要とする）強化の形態では、更新は非常に困難、危険、あるいは不可能かもしれない。また、アップデートにかかる費用はどうなるのだろうか？次のアップデートを買う余裕がない人がいたら、どうするのだろう？

自分の脳や体が、強化人間の世界で時代遅れになるかもしれないというのは、大変なことだ。身体を客観視し、人々を（時代遅れの）身体から疎外するための完璧なシナリオである。関連性と有用性を維持するために、人は更新を続ける必要があるため、この不穏な問題をさらに複雑にする別のレイヤーが追加される。スパロウ（2015)は、強化の追求から生じるであろう社会秩序の種類について書いている。

私たちの強化が陳腐化するのであれば、強化の恩恵を受けても、人々は人生の大半を、増え続ける人口の割合に実質的に劣る能力で過ごすことになる。私たちの強化が数年以上経過すれば、若い人たちは私たちよりも大幅に優れた能力を持つようになる。..もちろん、私たちが陳腐化すれば、私たちより早く強化を確保した人たちがよりそうなっていくだろう。(p. 239)

スパロウが鮮やかに描く「強化されたラットレース」では、現代の資本主義社会にすでに存在する競争、不平等、不安もまた強化されることになる。スパロー（2015)は、子どもへの影響も含め、強化されたラットレースに関する複数の懸念を詳細に検討した上で、最初は刺激的に見えるかもしれないが、私たちの状況や幸福を悪化させるような強化を拒否するのが合理的であろうと結論付けている。

スパロウ（2015)の、幸福や私たちの共存条件の観点から強化の意味を問う主張とともに、アープら（2014)は、学習、記憶、注意など特定の能力の増強に焦点を当てた機能増強的アプローチに挑戦している。代替案として、Earpら（2014)は、「与えられた一連の状況において良い人生を送る可能性を高める、人の生物学や心理学におけるあらゆる変化」という観点で強化の理解を強調する、強化に対するウェルファリスト的アプローチを提案している（p.2)。さらに、Earpら（2014)は、個人の福祉や良い生活の実現に貢献しうる特定の能力や機能を弱める介入を強調する増強とは対照的に、増強として減弱という概念を導入している。強化に対するウェルファリスト的アプローチは、記憶力や集中力の強化など、より多いことが常に良いという仮定に挑戦するものである。Earpら（2014)が挙げる例としては、兵士の戦時中の記憶に関する想起の減退や、虐待を受けた配偶者の加害者への感情的執着が弱まることを強化として挙げることができる。

一旦、変更される特定の能力や機能から、変更自体の全体的な規範的目標に焦点を移すと、「強化」はより広く、幸福と関係するものとして理解されるかもしれないことがわかり始める-ウェルファリストの定義が明確にする目標である。(Earp et al., 2014, p. 4).

この議論は、「強化」の理解を特定の機能の増強を超えて、システム全体への影響を考慮するように拡大し、本章の冒頭で強調された議論に部分-全体/根本の枠組みを再び導入するものである。ウェルファリストのアプローチでは、介入が個人の全体的な幸福（特定の機能ではなく）と良い人生を送る可能性を高めるのであれば、それは増強と見なされるべきであると強調する。

Earpら（2014)は、「良い生活」および／または「幸福」を構成するものの議論に関与しておらず、エンハンスメントに関する議論に対する彼らのwelfaristアプローチの一環として、個人を超えた集団生活および集団幸福に関する関連性や含意を提示していないが、彼らの要点は明確である：増強に重点を置いて組み立てられた機能エンハンスを、幸福度のエンハンスメントと区別することである。これは、通常、全体ではなく部分（特定の機能の増強）に焦点を当て、増強を望ましい、魅力的な、さらには必要な選択として問答無用で提示する人間の増強に関するあらゆる議論の中心に据えておくべき重要なポイントであり基準である。Savulescu et al. (2011)は、個人の幸福の増進が、より大きな不公正につながるため、より大きな社会にとって有益でない可能性があることを強調している。人間の強化に関する議論では、個人レベルでの部分と全体について考えるだけでなく、個人が組み込まれたより大きな集団的文脈と結びついた個人の強化、そしてそれが他者にもたらす結果についても考えることが不可欠である。

岐路に立つ　ポストデジタル時代と思慮深さの緊急性

人間のアルゴリズムの中で 『How Artificial Intelligence is Redefining Who We Are』で、コールマン（2019)は、私たちは新しい時代へと移行しつつあり、それを「インテリジェント・マシン・エイジ」と呼んでいる（p.xiii)。「私たちは、完全に人間が主導する技術開発の最後のサイクルの終わりに生きている」 (Coleman, 2019, p.xv)のである。コールマン（2019)は、私たちの生活がコンピュータや機械とますます絡み合うようになると、私たちはより多くの意思決定や問題解決を彼らに委ね、人間の記憶をあまり使わず、個人情報を渡し、その結果、私たちの決定や行動を予測し導くアルゴリズムにどれだけの力を与えているかを認めないようになると警鐘を鳴らしている。機械が人間の再プログラミングを必要とせず、人工知能アルゴリズムによって自ら学習するようになれば、機械もまた人間のコントロールなしに学習し、行動するようになるだろう。このことは、人間生活の未来に多くの懸念と脅威をもたらす。しかし、研究や議論の焦点は、それが人類に与える影響よりも、むしろテクノロジーの進歩に置かれている。

こうした流れに沿って、マギー・サヴィン=バーデン（2021)は、「ポストデジタルな未来」と「ポストデジタルな人間の開発と利用」（p.xv)に関連して浮上する懸念と倫理的問題を強調している。

2020年代のポスト・デジタル・ヒューマンという考え方は、人間であることの意味について異なる理解を示唆しているが、デジタル時代の人間であるという考え方全体に対する批判的な姿勢として「ポスト」という考え方も反映している。私たちは、Virilio（1997)が予言したように、肉体を動かさずに普遍的にテレプレゼントされる世界にいる。したがって、私たちはしばしば、実際にそうすることなく、空間や出会いから到着し、出発しているという感覚がある。

ポスト・デジタル人間は、さまざまな空間において、不在のプレゼンス、あるいは実体のないプレゼンスを維持することができる–このモードをプレゼンスと呼ぶことができるならば、である。ポスト・デジタルは、関係性、身体性、他者への責任に関する従来の境界と理解を中断させる。それは、人間とは何か、人間と機械の相互作用、人工知能、人間の強化、死亡率／不死、ロボット工学とロボット工学の倫理など、さまざまな問題を含む多層的な概念である。

しかし、未来を推測せずとも、スマートフォンが多くの人々の生活に影響を与え、形成してきたことを観察するのは難しいことではない。スマートフォンは、つながっているという錯覚を起こさせる一方で、うつや不安をもたらす断絶や孤立のテクノロジーとして有効に機能している。しかし、ほとんどの人は、スマートフォンが作り出す「メディア環境」 (Rushkoff, 2019, p.81)に、その影響力に適合することで参加し続けている。ラシュコフ（2019)は、メディア環境を以下のようなものとしている。

例えば、スマートフォンは、私たちのポケットの中にあるそのデバイス以上のものである。他のすべてのスマートフォンとともに、スマートフォンは環境を作り出している。誰もがいつでも連絡が取れる世界、人々がプライベートな泡の中で公共の歩道を歩く世界、そして私たちの動きがGPSによって追跡され、将来の分析のためにマーケティングや政府のデータベースに保存される世界である。こうした環境要因が、今度は、追跡されることへのパラノイア、常に気が散っている状態、見逃してしまうことへの恐れなど、特定の心の状態を促進させるのだ。(p. 82)

明らかに、人間が設計し創造するテクノロジーは、今度は、人々が存在する外的条件を設計し創造するだけでなく、優先順位、リズム、価値観、心の状態を形成する。ある種のメディアが私たちの注意を引きつけ、人間関係を形成し、心を揺さぶる方法を認識することは、メディア環境の支配に自分の自律性を明け渡すのではなく、自分の人生を（個人的にも集団的にも）どう導くかについて賢い選択をするために極めて重要である。しかし、娯楽や刺激、中毒、ある種の恐怖や欲望によって人々がメディア環境の虜になると、この識別能力が低下してしまうのである。

次のセクションでは、テクノサイエンス的な革新（先に述べた強化技術を含む）の影響を見分ける能力の低下と、それが人類個人と社会に及ぼす有害な影響に対抗するために必要な行動の欠如が、アーレント（1963)が述べ、警告したように「無思想」を醸成すると論じている。

無思慮に抗う。人間を情報処理に、コミュニケーションを情報処理に還元すること

アーレント（1958)は、『人間の条件』の中で、1957年に地球初の人工衛星スプートニクが打ち上げられたときの反応について、「『地球に閉じ込められていた人間からの脱出』への最初の一歩に対する安堵感」（p. 1)を表現している。アーレント（1958)は、このようなありふれた反応は、「人間が努力することなく、人工物なしに動き、呼吸できる居住空間を提供するという点で、宇宙で唯一の存在かもしれない」（2頁）地球の贈り物を無視したものだと批判している。このような地球を人間の牢獄とみなす考え方は、科学技術の知識をどのように利用したいかということを考えず、優れた人間を作り、その大きさや形、機能を変えようとする科学的な試みにも現れている、と彼女は説明している。

もし、知識（現代的な意味でのノウハウ）と思考が永久に袂を分かつことが真実であると判明したならば、私たちは本当に無力な奴隷となり、機械というよりもノウハウの、技術的に可能なあらゆる小道具に翻弄される思考停止の生き物となるだろう、それがいかに殺人的であろうとも、だ。(Arendt, 1958, p. 3) (イタリック体付加)

科学的知識と思慮深さが互いに離れると、人間はどのような道をたどるのか、という63年前のアーレントの警告は、今私たちが歩んでいる道と重なるようだ。人間強化の議論は、人間の脳をコンピューターにアップロードし、デジタルな死後の世界を実現するところまで、人間の特定の性能を増強することのすばらしさを讃えつつ急速に進んでいるが、必ずしも批判的考察のための休止の必要性を真剣に考える必要はないだろう。

例えば、「誰のための、誰のための、何のための認知機能拡張なのか」という問いかけから始めてもいいかもしれない。ますます複雑化する情報社会の課題に対応する上で、認知機能の強化が必要、必要、良いと自動的に決めつけるのではなく、この章が序論で始めたフグレ/地面の逆転 (Rushkoff, 2019)を避けるために、そもそも「ますます複雑化する情報社会」の限界、コスト、リスクを問い、探究するために一歩踏み出すかもしれない。誰が誰に奉仕しているのか？ますます複雑化する情報社会において、私たちはいつ境界線を引き、人間の繁栄と幸福にとってコストがかかりすぎるかもしれないものを見極めるのだろうか。人間を欠陥のある存在とみなし、より速く動作するロボットにはかなわないという反人間的なレトリックに、私たちはいつ疑問を投げかけ、抵抗するのだろうか。技術や科学がさらなる効率性、スピード、生産性に向けた次のステップを促進するからといって、私たちは自動的に「進歩」というワゴンに飛び込み、反省と識別のために自らを止める方法を知らず、数年後には時代遅れとして無視される「強化されたラットレース」 (Sparrow, 2015, p.232)の一部となるのだろうか。

上記のような質問、とりわけ他の多くの質問は、簡単に回避されスキップされるように見える議論の重要なステップを構成し、人は、この問題に関する基本的な前提がすでに整っている認知機能強化の議論の真っ只中にいることに気づかされる。認知機能の向上は人類の進化に必要な次のステップであり、それは避けられないものである。すでにレースは始まっているのだから、質問をするのは遅すぎるとさえ感じるかもしれない。このような考え方、あるいは考え方の欠如は、先ほど申し上げた「地球は人間にとっての監獄であり、そこから脱出しなければならない」という考え方に近いだろうか。

マギー・サヴィン・バーデン（2021)は、「ポスト・デジタルな人間であることに向かって批判的な姿勢をとり、私たちがポスト・デジタルな世界に取り込まれつつある方法を認識できるようにするために」不可欠な「間という贈り物」を想起する（p.13)。私たちがすでに埋め込まれているデジタルの中で間を取ることができる能力は、「無思慮」 (Arendt, 1958)に抵抗し、テクノサイエンス的に可能になった新しいものに飛び込む前の重要な予防策を提供するものである。このような反省的、批判的な立ち止まりは、人間を複雑な情報システムにおけるプロセッサーに還元し、いずれはコンピューターと比較して時代遅れになるという反人間的なレトリックに抵抗するために不可欠である。私たちは、「人間はポストデジタルの中心であると同時に、その形成、中断、（再）創造において重要な役割を果たす」 (Maggi Savin- Baden, 2021, p.4)ことを手遅れになる前に認識する必要がある。