パノプティコンは、収容者を望ましい行動に律するために監視を採用している。ベンサム自身の言葉を借りれば
厳しく監視されればされるほど、私たちはより良い行動をとるようになる。
監視は、監視される側を規律づけることに貢献する（Haidt2012) 。監視とそこから得られる情報には、規律という形の権力が伴う（Foucault1979) 。監視と登録は、望まれる行動と望まれない行動に対する報酬と制裁と組み合わされ、行動修正の 効率的な手段となる。監視が刑務所、学校、病院、職場、軍隊といった施設で行われようと、社会全体に一般化されようと、その目的は同じである。
ソーシャル・クレジット・システム は、監視に基づく規律という、このパノプティカル・パワーの手法を採用している。このシステムは、望ましい行動を監視し、登録し、社会的信用ポイントをクレジット・スコアに加算して報酬を与える。一方、好ましくない行動は、ポイントを失い、スコアを下げることになる。自発的な社会奉仕活動、家族の世話、慈善事業への寄付、紙おむつ購入のような責任ある消費は、ポイント報酬となる。一方、例えばコンピューターゲームに時間とお金を使いすぎたり、禁煙区域でタバコを吸ったり、タバコの蕾を落としたり、チケットを持たずに旅行したり、無謀な運転をしたり、請求書の支払いに間に合わなかったり、ソーシャルメディアでフェイクニュースを流したりすると、減点され点数が下がる。社会的信用システムの1つであるセサミ・クレジットでは、ソーシャルメディア上のオンライン・フレンドもカウントされるのが特徴だ。彼らのスコアは自分自身のスコアに反映され、信頼に足ると判断された模範的な市民だけに交際を制限する動機付けとなる。2014年の計画では、他人の背信行為を「報告」することも報われることになっている。
社会的信用スコアは、他の市民が公に評価できるものであり、その人の人格を評価するものである。例えば、ローンを組めるかどうか、仕事に就けるかどうか、子供を良い学校に入学させられるかどうか、公共サービスを受けられるかどうかなどが決定的になる。社会的制裁が適用されることもある。スコアが低い市民は、広告塔やソーシャル・ネットワーク・サイトで、道徳的に欠陥のある人間として公に晒され、恥をかかされるリスクがある一方、スコアが高い市民は、模範的な市民として紹介・宣伝され、パートナーを見つけやすくなる。また、このスコアは移動の自由をも左右する。低得点の中国人約900万人は、国内線や高速鉄道のチケットの予約を拒否され、大変な思いをした。 公式のキャッチフレーズにはこうある：
信頼に足る者が天下のあらゆる場所を歩き回れるようにする一方で、信用されない者が一歩も踏み出せないようにする。
うまくいっているようだ。現地でテスト版が運用されているところでは、人々の行動や社会環境が良い方向に変化したことが報告されている。行動の変化は、最初のうちは意識的な計算と費用便益分析から生じる。しかし、しばらくすると、ルールや規則、規範は無意識の習慣として内面化される。ある市民は言う：「最初は失点を心配するだけだったが、今では慣れた」。
この制度がうまく機能すれば、人間の本性そのものを変えることができ、より誠実でより優れた人間や市民を新たに生み出すことができる、という野心と希望を持っている人さえいる。上海で導入の責任者を務める趙柳玲は、このシステムが最終的には刑罰の必要性だけでなく、非社会的な思考をもなくすことを想定している：
私たちは、誰も信頼に背くことをあえて考えないような境地に達するかもしれないし、誰もコミュニティを傷つけることを考えないような境地に達するかもしれない。この境地に達すれば、私たちの仕事は終わる。
この目標が達成されれば、社会の秩序は間違いなく保たれ、もしかしたら「調和」が生まれるかもしれない。一方、代償として支払わなければならないのは、市民の行動を監視し、登録し、完全な服従へと再プログラムする全体主義的なビッグブラザー国家の実現 であり、望まない思考をする余地すら残されていない。思想犯罪さえも 根絶されるこのような結果は、小説『1984年 』の党の主要メンバーでさえ少し嫉妬することだろう。
ビッグ・ブラザーの支配方法は更新された。たとえ中国が犯罪に甘くないとしても、社会信用システムは、旧態依然とした全体主義の恐怖や恐怖、暴力ではなく、報酬や幸福や成功への欲望という権力テクニックを採用している。人間の顔をした全体主義は、『1984 』の残虐さよりも『ブレイブ・ニュー・ワールド 』に似ている。従順で順応的な市民を生み出すには、恐怖や恐怖によって抑圧するよりも、条件づけや動機づけをする方がはるかに効率的な方法かもしれない。砂糖でコーティングされたデジタルコントロールの新手法は、批判的思考、自律性、自己決定を弱体化させるほどの効果を示すかもしれない。中国だけではない。
全面的な監視と統制を夢見る全体主義者は、中国国務院だけではない。全体主義的状況に到達するためには、社会秩序と調和を原動力とする権威主義国家が必ずしも必要なわけではない。データとユーザー情報の規制のない市場と利益追求で十分かもしれない。グーグルは、私たちの生活のあらゆる側面を植民地化し、商品化し、収益化するという競争と使命の先頭に立っている。
7.3 監視資本主義
中国が社会信用システムの構築に着手したのと同じ2014年、太平洋を隔てた対岸のシリコンバレーでは、グーグルのチーフエコノミスト、ハル・ヴァリアンが、膨大な処理能力と組み合わせたデータの抽出が可能にする大きなチャンスについて演説を行った。このスピーチでは、中国ほどプライバシーの余地がない監視資本主義社会の未来像が明らかにされた。バリアンによれば、プライバシーの排除は、社会の秩序や調和のためではなく、グーグルがユーザーに提供する製品やサービスの機能性、効率性、利便性のために支払う（公正な）代償なのだという。ユーザーに関する 情報を収集・分析することは、ユーザー向けに 製品をパーソナライズするための条件である。プライバシーは、ユーザーエクスペリエンスの向上と、パーソナライズされた最適化および個々のユーザーに自動的に合わせた製品のカスタマイズによって可能になる利便性と引き換えとなる。グーグルは、少なくともユーザーの位置情報、予算、食事の好みを把握している場合にのみ、夕食をとるのに適した近くのレストランを提案することができる。グーグルがより多くの個人情報を持っていれば持っているほど、より効率的かつ便利に個人のニーズや要求に応えることができる。これが監視の基本的な正当性である。しかし、巨大企業のビジョンを実現するためには、さらに多くの監視、データマイニング、情報収集が必要だ。その野望とは、グーグル製品がユーザーにとって非常にスムーズかつ便利に動作し、グーグルへの 質問すら不要になることだ。創業者のラリー・ペイジの言葉を引用しよう：
[Googleは）あなたが質問する前に、あなたが何を望んでいるかを知り、それを教えてくれるはずだ。
グーグルは、私たちが欲求を明確にする前に、私たちの欲求を予測することができるはずだ。それができるようになるには、グーグルは私たち自身を知る以上に私たちのことを知る必要がある。それには多くの 情報が必要だ。それはまた、プライバシーの完全な排除を意味する。それは、私たちが自分自身で欲求を表明する前に、私たちの欲求を知り、予測し、それに対応するのに十分な量のデータを採掘するための必要条件である。グーグルのような企業にとって、プライバシーの権利は彼らの野心と公言した使命の障害となる。世界の情報を整理し、普遍的にアクセス可能で有用なものにする」（注10 ）ことは、文字どおり、私たちの私的領域や生活のあらゆる部分を植民地化し、奪い取ることを意味する。プライバシーの権利にとって、グーグルCEOエリック・シュミットの監視行為に対する弁明は、示唆に富み、冷ややか：
誰にも知られたくないことがあるのなら、そもそもやるべきではないのかもしれない。
グーグルは、中国の監視社会のように、データを収集し、オンラインとオフラインの違いをオンライフへと 事実上崩壊させる監視カメラの拡張ネットワークを持っていない。また、グーグル製品を使うことが義務付けられているわけでもない。とはいえ、モノのインターネットを通じて 、必要な膨大なデータにますますアクセスできるようになるだろう。「インテリジェント」な衣服、家電製品、フィットネス機器、玩具、パーソナルアシスタント、学習デバイスなどの「スマート」製品によって、私たちのライフワールド全体が、私たちの言動すべてを監視・登録できるセンサーのきめ細かなネットワークにますます組み込まれるようになる。 デバイスごとに、私たちはプライバシーのためのスペースが残されていない、私たち自身の個人経営の商業的なパノプティコンを構築しているのだ。たとえそれが義務ではなく、誰も何かを買うことを強制しないとしても、オプトアウトする ことはできないだろう。すでに今日、インターネットは私たちの社会と社会的、コミュニケーション的、経済的、政治的インフラに深く組み込まれている。教育を受けること、就職して収入を得ること、クレジットカードや銀行口座を持つこと、政治に参加すること、デジタル・インフラに属さずに社会的なコミュニケーションや交流を行うことは、控えめに言っても困難である。モノのインターネットと「スマート・シティ」の発展により、荒野に行くことは完全な監視に代わる唯一の選択肢かもしれない。
グーグルもそのひとつだ。グーグルが開拓したデータマイニングに基づくビジネスモデルは、新しい新興企業の標準的なビジネスモデルとなり、ユーザーデータと引き換えにサービスや娯楽、ユーティリティ、情報を提供する基準となっている。19世紀のゴールドラッシュに匹敵するデータフィーバーが起こっている。脚注13 さまざまなアクターが新たなアクションの一端を手に入れようと競争し、この商業主義と商品化の新たなフロンティアでデータ資産が採掘され、流用されることで、私たちは自分の行動が生み出す情報を奪われる。私たちはデータが生み出す価値から疎外され、コントロールを失う。データは予測を可能にし、予測はコントロールを可能にする。私たちが提供するデータは、私たちをコントロールするために使われるのだ。
7.4 予測は利益
データがプールされ、ビッグデータに集約されたときに価値がある主な理由は、将来の予測が可能になるからである。データは過去の行動パターンを提供し、将来起こりうる行動を示す可能性がある。データに基づいたリスク、将来の売上、利益と費用、マーケティングの効果、コミュニケーション戦略、またコミュニケーション、マーケティング、デザインを最適化する方法の計算が可能になる。将来起こりうる行動を計算することができれば、そこから利益を上げることができる：
彼女は将来ローンを返済できるのだろうか–。仕事に出てきて生産性に貢献するのか、それとも単なる。「高コスト」従業員なのか。彼女は病気がちで、保険契約が成立した場合、保険会社は保険料収入を上回る医療費を負担しなければならないのだろうか？どのコマーシャルがこの人を説得し、商品を買わせたり、候補者に投票させたりするだろうか？もしボタンが赤なら、あと何人のユーザーがボタンを押し、貴重な注意を払うだろうか？彼は今日、どの製品やサービスを望むだろうか？2分後？この特定のオンライン・マーケティング刺激が彼のスマートフォンを通じて提供された10秒後？
これらの疑問はすべて、「どうすれば将来の利益を生み出し、最大化できるのか」という点に帰着する。売上と利益のためにデータを駆使して行動を予測することは、監視資本主義を代表するビジネスモデルの本質である。 予測は利益である。
有益な予測は、市民の自己決定を束縛し、損なう鎖となるかもしれない。効果的な市民保護法に拘束されない自由なデータ市場では、伝統的な金融 信用格付けスコア社会 信用格付けスコアのように見え始めるかもしれない。
ビッグデータの抽出と分析により、米国の消費者情報と信用情報の市場は西部開拓時代となった。かつて規制された領域で活動していた伝統的な信用情報機関は、市民の権利を犠牲にして法律を回避する意思と能力を持つデータブローカーへと変貌を遂げた。 個人レベルの情報は法律で規制されているが、データマイニングによって抽出できる情報は規制されていない。十分なデータがあれば、個人レベルの情報と同様にセンシティブな情報を算出することも可能なのだ。データ・ブローカーと化したアメリカの旧信用情報機関、FICOとEquifaxの2社が2011年に行ったイベントのタイトルがそれを物語っている：「このような何でもありの アプローチでは、プロフィール・データ、オンライン・ソーシャル・フットプリント、使用しているデバイス、サイトをスクロールする速さ などが、信用スコアに反映される可能性がある。フェイスブックはそれをさらに推し進め、自分のソーシャルネットワークに基づいてクレジットスコアを計算する方法の特許を取得したため、自分の友人の平均クレジットスコアが自分の決め手となる（Hurley and Adebayo2017) 。アメリカのような資本主義国では、富と収入の上位1%の人以外は、クレジットを利用できるかどうかが明暗を分ける。家を買うには住宅ローンが必要であり、車を買うにはローンが必要であり、自分や子供が大学の学位を取得するには、クレジットや学生ローンを利用できるかどうかにかかっている。雇用主も雇用の際に信用度のスコアを考慮するし、不動産所有者もテナント候補を評価する。データの収集と使用に関する効果的な法的規制がないため、保険会社が健康状態や習慣に関するデータを収集する門戸が開かれており、保険商品におけるリスク・プールの考え方全体が損なわれ、最も必要としている人の保険に加入できなくなる。信用格付けのスコアは、あなたが手にする機会と直面する制限にとって決定的である。もし信用スコアに何が含まれ、それが債権者や銀行、家主やレンタカー会社、雇用主や保険会社によってどのように使われるかに制限がなければ、中国における金融信用格付けと社会的信用格付けの差はますます小さくなっていくだろう。
7.5 予測は力なり
予測は力である。未来を予測することができれば、未来に影響を与え、変えることができるかもしれない。変化を予測することは、ターゲット・マーケティングの核心である。マーケティングの成功とは、クライアントにとって商業的あるいは政治的に有益な方法で人々の行動を変えることに成功することである。行動を予測することができれば、適切なタイミングで適切な刺激を提供することによって、行動を変化させ、修正することが可能になる。 人々が何をいつ欲しがるかを予測できれば、それを購入するように的確に誘導することができる。知れば知るほど、より的確な予測が可能になり、より的確な予測ができればできるほど、よりうまく影響力を行使し、コントロールすることができる。すでに人口統計学的プロファイリングは、この種の力を与えている。 自宅の住所、性別、民族性、雇用、収入、消費パターン、政治的関心、家族や友人の社会的ネットワークなどのデータから予測することで、痛いところを突くような広告のターゲティングや調整が可能になる。人々の行動に影響を与えるための効果的な捕食方法である。脚注17 しかし、プロファイリングが皮膚の下に移動し、人々の精神的な構成や感情的な生活の心理的なプロファイリングになると、それはさらに強力になり、潜在的に抑圧的になる。
スキャンダル以前、ケンブリッジ・アナリティカは、科学的心理学研究の手法と結果を統合し、ユーザー／消費者／有権者／市民の心理的 プロファイルを作成するプロファイリングで、さらに一歩進んだことを行っているとも自慢していた。性格タイプや精神的な構成によって人々を分類することができれば、標的を絞ったマーケティングの砲撃が、より正確かつ効果的に行われるようになるかもしれない。心理的プロファイリングは、感情管理と感情コントロールの可能性を広げる。例えば、恐怖心の強い性格タイプとしてプロファイリングされた人に恐怖心を煽るメッセージを採用することで、ターゲットの痛いところを 突くことができる（図7.3 ）。
図73.
ケンブリッジ・アナリティカの 元CEO、アレクサンダー・ニックスは、心理的プロファイリングの可能性を示している。武器を携帯する権利は売り込むべきメッセージであり、もしあなたが恐怖心の強いタイプ（神経症のスコアが高い）なら、広告は空き巣への恐怖をあおり、武器を携帯する権利は「保険」（左）というフレーミングになる。しかし、あなたが「閉鎖的」あるいは伝統に縛られているが「お人好し」であるとプロファイリングされた場合、政治的マーケティングはこのプロファイリングに合わせられ、武器携帯の権利は狩猟の比喩、愛国心、家族の価値観でフレーミングされる ：「父から子へ」。「わが国が誕生して以来」（右）。(Wozniak, K. (2017)：”Did Big Data Win the Election for Trump?”,Misciwriters , April 18, 2017.Verified June 14, 2017:misciwriters.com/2017/04/18/did-big-data-win-the-election-for-trump/) .
たとえケンブリッジ・アナリティカがスキャンダルで摘発されたとしても、心理的プロファイリングによって可能になる感情的影響や感情コントロールの野望を抱いているのは同社だけではない。フランスのデータブローカー企業ブルームのアレクサンダー・ポロンスキーによれば、これは非常に強力だという：
以前なら夢にも思わなかったようなことができる。情報を共有するだけではない。この情報の背後にある考え方や感情を共有することであり、それは非常にパワフルなことなのだ。
誰にとって 強力なのかと問われれば、そうではない。効果的に影響され、操作されるように心理的にプロファイリングされたユーザー、消費者、市民ではない。データブローカーの夢は、市民にとっては悪夢に変わるかもしれない。1960年代にサブリミナル的な影響力によって私たちを密かに操った『隠された説得者たち 』（パッカード1960 ）の恐怖は、ビッグデータとサイコグラフィックの時代には完全に正当化されることになるかもしれない。 心理学的プロファイリングは、知識という力を次のレベルに引き上げる。私たちの生活や行動の大半は、私たちの注意や意識から逃れられる、高速で自動的、不随意的、無意識的な精神プロセスに支配されている（Kahneman2011) 。人間は理性的な存在というよりむしろ感情的な存在であり、感情をコントロールするよりも感情に支配されている（Haidt2012) 。私たちの精神の 暗い地下室で起こっているプロセスや連想、影響、感情に影響を与えることができれば、私たちを多かれ少なかれコントロールすることができる。人々の心の奥底にある恐怖につけ込んだり、怒らせたり、あるいは基本的なパーソナリティ特性を感情的に利用したりすれば、それは個人の自己決定、合理的な主体性、自律性を損なうことになる。もし企業や国家が、私たち自身よりも私たちのことをよく知っているとしたら、私たちの知識や同意なしに私たちを支配する「感情独裁」がすぐそこまで来ていることになる。韓国生まれのドイツ人哲学者であり作家であるハン・ビョンチョルが考えたように：
「ビッグデータ」は人間の反応や未来を予測し、それに応じて操作することができる。ビッグデータには、人々を操り人形に変える能力がある。ビッグデータは、支配力を可能にする知識を生み出す。そして、ビッグデータによって、影響を受けた人が気づかないうちに人間の精神にアクセスし、操作することが可能になる。ビッグデータは本質的に、自由意志の終焉を告げている。
データ主導で自由意志や個人主権、自律性が完全に排除されるという極端な状況に到達すれば、それは解放とは正反対のことになる。完全な予測可能性は完全なコントロールを可能にする。不確実性からの自由は、まったく自由ではない。それどころか、全体主義が生み出すものなのだ。
7.6 全体主義への道
ハンナ・アーレントによれば、全体主義の目的は完全で無制限の権力である。この種の権力は、誰もが「生活のあらゆる面で支配される」ことを要求する（Arendt1951 : 456）。その野望に対する最大の障害は、人間の自発性、創造性、自由による予測不可能性である。予測可能な被験者を作り出すためには、それらを排除しなければならず、人間は刺激によって制御可能な条件反射の束に還元され、望ましい、予測された反応を提供しなければならない。このように、全体主義の目的は、行動主義の決定論的人間理解のリアルワールドでの実現と同じである。加速度的に新しいデジタル技術が開発され、行動科学やデザインと統合され、私たちはデジタル全体主義、つまりデータ主導の行動制御による自律性と自己決定の完全排除 に向かっているのかもしれない。
デジタル革命のはるか以前から、アーレントは、歴史的傾向が私たちを解放や自由の実現へと導くのではなく、その反対へと導いていると懸念していた：
現代の行動主義理論の問題点は、それが間違っていることではなく、それが真実になる可能性があること、つまり、現代社会におけるある明らかな傾向の、可能な限り最善の概念化であることなのだ。前代未聞の有望な人間活動の爆発で始まった現代が、歴史が知る限り最も致命的で不毛な受動性で終わる可能性は十分に考えられる。(アーレント1951 : 345)
勇敢な新しいデジタル世界とユーザーデータの市場化によって、この心配は少なくなったわけではない。
伝統的に、全体主義は国家 全体主義と同一視され、国家と市民社会との間のあらゆる区別の廃止によって特徴づけられる。脚注20 「全体国家」は、その提唱者であるカール・シュミットによれば、「あらゆる領域を包含」し、その結果、あらゆるものが「潜在的に政治的」である（Schmidt1932 : 22）。政治と社会、国家と社会の相互浸透の 総体である。
全体主義的な結果を得るためには、全体主義的な野心を持つ国家は 必要ない。私たちの生活と行動を全面的に監視し、改変するという野望は、ハイテク産業における大企業の 野望である。シリコンバレーで学習アプリケーションを開発する企業が、企業使命をこう述べている：
私たちが行うすべてのことの目標は、人々の実際の行動を大規模に変えることです。人々が私たちのアプリを使用するとき、私たちは彼らの行動をキャプチャし、良い行動と悪い行動を識別し、良い報酬と悪い罰を与える方法を開発することができます。私たちは、私たちの合図が彼らにとってどれだけ実用的で、私たちにとってどれだけ有益かをテストすることができる。
ゲーミフィケーションと報酬と罰のインセンティブを手段として、リアルタイムで行動を規制することは、中国国務院とシリコンバレーの工作員が共有する使命である。中国では「信頼」、規範への適合、社会秩序、調和のために、シリコンバレーでは利益のために。データ経済における規制、制限、市民保護がなければ、企業全体主義の新たな変種が現れるかもしれない。
企業の全体主義とは、社会と利益の完全な相互浸透、市場と社会の同一化と定義することができる。あらゆるものが潜在的に利益を生む。市場の外に価値はなく、市場価値以外に価値はない。私たちの生活のあらゆる側面が市場化され、利益を生み出す原料として商品化されるなら、市場と商品の商業的領域は、外部に存在するものも価値を持つものもなく、すべてを包括するものとなる。 ランドやロン・ポールのようなリバタリアンが、市場規制の緩和を個人の自由と自己決定の増大と同一視しているのとはまったく逆に、 ビッグデータの時代に現実化したこの種の市場原理主義は、全体主義的な結果をもたらすかもしれない。市民の視点から見れば、データと情報の規制のない市場で、さまざまなアクターが内部で競争することで、中央集権的な中国のシステムと根本的に変わらない情報体制が生まれるかもしれない。もし人がすることすべてが見られ、登録され、評価され、それに応じて報酬や制裁を受けるのであれば、その結果は、全知全能の神が裁きを下し、誰もが見たとおりに刈り取れるようにする、倒錯した代理人となる。ビッグ・アザーは、少なくともビッグ・ブラザーと同じくらい強力で抑圧的かもしれない：
ビッグ・アザーとは、トースターから身体、コミュニケーションから思考に至るまで、日常的な経験を記録し、改変し、商品化する、ユビキタスなネットワーク化された制度体制のことである。ビッグ・アザーは、法の支配によって達成された自由を消滅させる近未来の主権的権力である。(ズボフ2015 : 81）。
技術の進歩は必ずしも人類の進歩ではない。ネット上の「タダで手に入るもの」は、特にその代償を知らなければ、非常に高価なものであることが判明するかもしれない。私たちの民主主義、自己決定、そして最終的には自由を犠牲にしてしまうかもしれないのだ。
