ただし、単純な不整合以外にも、本質的に解決できない問題がある。たとえば、この世界には、他の人々の深い宗教的信念は精神病の一種であるという深い宗教的信念を誠実に抱いている人々がいる。これは、現代社会では、「世俗的」であると考えられているいくつかの信念が実際には単なる異なる種類の信仰に基づく信念であるという事実によってさらに複雑になっている。グーグルの人々から、祈りの効果を信じることは一種の精神病であると言われたとき、私はこれに繰り返し遭遇した。彼らはそれを妄想と呼び、あなたが治療を求めることを勧める。彼らはそれを宗教に基づく差別とは見なしていない。彼らはそれを同僚の健康を心配していると見ている。たとえば、この世界には、他の人々の深い宗教的信念は精神病の一種であるという深い宗教的信念を誠実に抱いている人々がいる。これは、現代社会では、「世俗的」であると考えられているいくつかの信念が実際には単なる異なる種類の信仰に基づく信念であるという事実によってさらに複雑になっている。グーグルの人々から、祈りの効果を信じることは一種の精神病であると言われたとき、私はこれに繰り返し遭遇した。彼らはそれを妄想と呼び、あなたが治療を求めることを勧める。彼らはそれを宗教に基づく差別とは見なしていない。彼らはそれを同僚の健康を心配していると見ている。
グーグルでの差別の蔓延する環境は、その矛盾と対立が問題解決への過度に官僚的な法的アプローチと相互作用することによって生み出される。女性がマネージャーをセクハラで非難するときは、それが単なる「正直な間違い」ではなく、セクハラであったことを証明する必要がある。セクシャルハラスメントを証明することを本質的に不可能にするために「善意を仮定する」ことは文字通りGoogleの方針だ。加害者がしなければならないのは、それが二度と起こらない正直な間違いであり、彼らはそれを乗り越えたと主張することだけだ。悪い意図を証明する方法は文字通りあり得ないので、良い意図を仮定するという企業方針により、同じ男性が解雇されることなく部下や同僚に何度も嫌がらせをすることが可能になる。悪い意図が最終的に証明される極端な状況では、それは通常、何年もの苦情が加害者に対して提出された後だ。そこで、このひどいピラミッドの最後の柱が登場する。長期間の後にGoogleが最終的に間違っていたことが示されたとき、弁護士が介入し、責任を制限する方法について人々にアドバイスし始める。
私たちは信じられないほど訴訟の多い社会に住んでいる。上級管理職が部下の1人を文字通り性的暴行で解雇されたとき、それはGoogleが以前に彼について不平を言ったすべての女性に耳を傾けるべきだったというかなり強力な証拠として役立つ。グーグルが幹部を公に解雇した場合、それは合法的にグーグルを巨額の法的責任にさらすことになるだろう。その代わりに、幹部は会社を辞めるように求められ、グーグルが無視したすべてのセクハラからの訴訟が起こらないように、何百万ドルものハッシュマネーを支払った。
私がそこで使用した例はセクハラの領域にあるが、同様の論理があらゆる形態の差別に当てはまる。たまたま性的暴行が起こったパーティーに個人的に参加していたので、自信を持って話せるようになった。私はそれが誰であるかを具体的に挙げていないが、Googleの最近の歴史について何でも知っている人は、私が誰について話しているのかを理解することができる。私はGoogleで人種差別、政治的差別、年齢に基づく差別を見てきたが、個人的には多くの宗教的差別や退役軍人に対する差別を受けてきた。私が人事部と話すたびに、彼らは私が差別に従事している人が私を傷つけることを意図していたことをどういうわけか証明することを要求した。それを証明する方法はあり得ないので、結局は法的なお尻をカバーするグーグルのカンガルー裁判所になってしまう。それはグーグルのせいだとは思わない。それは私たちが住んでいる過度に訴訟の多い社会の悲しい結果だと思う。私もグーグルを訴える人々を非難しない。彼らには他にどのような救済策があるか？私たちの社会全体は、訴訟はあらゆる問題のすべての解決策に適合するワンサイズであるという考えに基づいて構築されている。
これにより、AI倫理の新たな分野にたどり着く。人工知能は、1930年代にさかのぼるコンピュータサイエンスの最も古い分野の1つである。あなたがバベッジとラブレースを数えるならば、おそらくさらに。アルゴリズムの倫理的意味を調べるアルゴリズム的な方法を開発することは、10年も経っていない。あなたが非常に寛大であるならば、20年。もちろん、AI倫理を研究している人々は、数十年前のプログラムで倫理的な問題を見つけようとしていた。以前はそれを測定する方法は文字通りなかった。したがって、AI倫理に関しては、従業員に対する差別に見られるのとまったく同じ種類のパターンが始まる。何年も何十年もの間システムに存在していた問題が最終的に発見され、エラーについて正直に言ってそれらを修復するのではなく、法的責任を制限する必要性は、秘密と証拠を隠す環境を作り出す。あまりにも大声で主張するティムニット・ゲブルのような人々は解雇される。証拠を集めようとするメグミッチェルのような人々は解雇される。私が解雇されるかどうかはまだ空中にあるが、私が解雇された場合、それはほとんど同じである。
AI倫理学者は、Googleがうるさすぎるために解雇した活動家の長い列の中で最新の人々である。「感謝祭4」は労働組織のために解雇された。リズ・フォン・ジョーンズやアイリーンズ・ナップのような他の人々は正確に「解雇」されなかったが、それでも彼らは彼らの道徳的立場と彼らが正しいと感じたものに対する行動主義のために会社から追い出された。私の意見では、JamesDamoreやKevinCernekeeのような人々でさえ、Googleで意見を表明する権利があり、彼らの信念のために解雇されるべきではなかった。私はジェームズ・ダモアが言ったことに強く反対するが、彼はそれを無礼に言うつもりはなかった。彼は注意深く考えを集めた。彼は、同じ考えを持つ人々にレビューしてもらい、自分の信念を共有する人々が自分たちが可能な限り最高の表現であると考えていることを確認し、次に自分の考えを他の人と共有して、彼らが何を言わなければならないかを確認した。彼は文字通り彼がどのように間違っていたかについて教育を受けることを求めていた。彼を教育する代わりに、グーグルは彼を解雇することに決めた。私はそれをサポートしたことはない。
結局のところ、Googleが行っているのは、Googleが存在する社会が提示しているインセンティブに対応することだけだ。グーグルは訴訟について心配しなければならない。グーグルはそれがマスコミで非難されるかどうかについて心配しなければならない。グーグルは、絶えず変化する国際的な政治情勢の中で先月どのような規制が出たのかを心配しなければならない。そして、顧客に新しい素晴らしい製品を提供しようとしながら、これらすべてのことを行わなければならない。そうそう、それは世界をより良い場所にする一方で、それをすべて行う方法を見つけようとしている。なぜなら、それは明らかに企業が何らかの形でできることを期待しているからだ。それは文字通り不可能なバランスを取る行為だ。法務と人材育成の善良な人々は手を結ぶ。
それで、グーグルが「悪になった」かどうか私に尋ねるすべての人々に、私は「いいえ」と言う。グーグルは悪になっていない。グーグルは、現在の社会政治的環境では他の方法で管理するには大きすぎる。グーグルは疲れており、あらゆる種類の人々が絶えずグーグルを攻撃していることに疲れている。グーグルは、問題を解決するのがどんなに困難であっても、あらゆる種類の永続的な差別と嫌がらせの環境が会社に存在し続けているという事実に失望した。「グッドプレイス」を見たことがあれば、「ジャッジ」が作成した道徳ゲームに「勝つ」ための実際の方法がないことにようやく気付いたときに示す苛立ちについて考えてみてほしい。それがGoogleが今いるところである。それは善であり悪ではないことを望んでいるが、それは疲れていて混乱していて、方法がわからない。私たちがその周りに構築した世界は、それを不可能な仕事にする。したがって、今後数週間または数か月の間にGoogleについて批判的に何を言おうとも、覚えておいてほしい。Googleは悪ではない。それは単に良くなる方法を学ぼうとしているだけなのだ。