なぜ私はGoogle DeepMindを辞めたのか

目次 Googleは移民税関執行局のサプライチェーンを支援している しかし、私はそれにどう対処できたのか？ Jeff Deanとの会話 ペンタゴンはAnthropicを威嚇しようとする カンファレンスでAIの著名人を動員したかった BengioとStuartとの会話 Stuartがiaseaiを締めくくる AI倫理に関する沈黙の国際協会 Googleの契約阻止を試みる Googleの内部コストを構築する Jeff Dean、君が我々の唯一の希望だ JeffはAnthropicを支持するアミカス・ブリーフに署名する 上級管理職はGoogleは屈しないと主張した Jeffとの昼食の準備 社会的支援を手配した 交渉術 Jeffとの昼食 影響を与える別の道を探す 誰も反応しない、CEOにDMを送るのはどうだろうか？ 私のフレームワークは評価されないまま Googleは静かに契約を結ぶ DemisはGoogleのAI原則は「変わっていない」と主張する 中国に勝つために「西側民主主義国と協力できる」が、トランプの要求すべてに応じる必要はない 個人的な信頼に基づいて世界を変えるテクノロジーを構築する 考察 誓約署名者はなぜgdmに留まることができるのか？ 倫理の重み AIの著名人たちは何をしているのか？ なぜJeffは断固としなかったのか？ 役割からの解放 なぜ私はGoogle DeepMindを辞めたのか 関連記事 付録：予想される質問 あなたが批判した人々が政治的資本を節約していたとしたら？ 彼らは、あなたが彼らの時間に見合う価値がないと思ったのかもしれません。あなたは彼らの助けを受ける権利はありません。 すべての人がすべての問題について声を上げる必要はない たとえGoogleがあなたのフレームワークを採用したとしても、ペンタゴンは拒否しただろう これはAIによる実存的リスクに影響を与えるか？ 付録：「心配しないで、APIアクセスだけだから」 脚注 1月、国土安全保障省（DHS）の職員が少なくとも2人を殺害した。どちらの場合も、連邦捜査官が銃を掴み、平和な市民に向け、撃ち殺した。Renée Good、DHSに殺される直前。Alex Pretti、DHSに殺される直前。私はGoogleがこれらの機関にクラウドサービスを販売していることを知った。それは間違っていると思った。連邦捜査官が街で市民を殺すことを許されるべきではない。私は、これらの機関へのサービス提供を停止するよう会社に働きかける最も効果的な方法を見つけようとした。私の投資撤退キャンペーンはすぐに、ペンタゴンが制限なしの軍事AI契約をAIプロバイダーに強制し始めたため、Googleが非倫理的な軍事AI契約を結ぶのを阻止しようとする試みに拡大した。私はAI倫理へのコミットメントが圧力下で維持されることを望んだ。特に、Google DeepMind（GDM）がキラーロボットを支援しないという既存のコミットメントを維持することを望んだ。数ヶ月にわたり、私は多くの人に行動を求めた。私は、AI倫理と安全性への懸念で評判を築いた、尊敬される人々、特に著名な人々に依頼した。ほとんどが断った。例えば、Stuart Russellは、10年以上にわたり自律型兵器と戦ってきた有名なAI研究者だ。私は長年彼の研究室で働いた。カンファレンスで、ステージ上で、彼は自分の組織にAIプロバイダーを政府の強制から支援するための声明を出すよう働きかけることに同意し、メンバーの投票を約束した。声明も投票も消えた。あるいは、Googleのチーフサイエンティストであり、GoogleのGemini AIプロジェクトの共同リーダーであるJeff Deanを例にとろう。2018年、Jeffはキラーロボットの開発または使用を支援しないという誓約に署名した。私はJeffに、Anthropicを支持するアミカス・ブリーフ（外部が訴訟に影響を与えるために意見を述べるもの）に公然と bold に共同署名させた。しかし、私はまた、Googleが独自の非倫理的な契約を軍と結ぶのを阻止するために、彼の計り知れない影響力を行使するよう求めたが、彼はそうしなかったと思う。彼は誓約にもかかわらずGoogleに留まっている。私は、契約言語と監視メカニズムを含む25ページの提案書を書いた。軍事・監視法専門家はこの提案を称賛し、Googleが堅持できたであろう原則的な対案を表していた。私はこの提案をDemis Hassabis（GDMのCEO）に送ったが、彼は上級政策スタッフに回した。しかし、提案はGoogleが契約を結ぶまで顧みられることはなかった。上級管理職はGoogleは契約を結ばないと主張していた。私は彼らに同意しなかったが、彼らは私の警告をほとんど無視した。私はペンタゴンの契約への躊躇を増大させたかもしれないが、Googleはキラーロボットや大規模AI監視に対する制限なしにAIを引き渡す契約を結んだ。Googleの契約上の制限はOpenAIのものよりもさらに弱かった。その時点で、私は良心の呵責からGoogleに留まることができなかったので、辞職した。このエッセイは、私がGoogle DeepMindを辞めた理由の物語である。それはまた、より大きな物語でもある。強力な人々や組織が、圧力に直面してAI倫理の約束を守ることに次々と失敗した物語である。プライベートなコミュニケーションについてこのエッセイ全体を通して、私は許可なく誰かのプライベートな言葉を引用することは決してない。プライベートな会話が重要である場合は、最小限の描写にとどめる。それ以外の場合は、私自身の行動、公開情報、公式なコミュニケーションに限定する。私の描写を検証することはできないので、それに応じて重み付けしてください。この最小限の描写は、私の主張を裏付ける内容をカットした。 Googleは移民税関執行局のサプライチェーンを支援している 2026年1月26日 Alex Prettiの死後、私は効果的な行動をとることを決意した。DHSによる被害を減らす方法を判断するために、私はビッグテックの関与を調査した。確かに、MicrosoftとAmazonはより大きな関与をしているが、Googleの関与を知って驚いた。GoogleとDHSの契約 Alex Pretti、2024年。DHSの2025年AIユースケースインベントリは、DHSの「運用効率の向上」に使用されるGenAIプロバイダーとしてGoogleをリストアップしている。Googleは、ITC Federalのようなサードパーティを通じてICEにクラウドサービスを販売している。2025年10月3日、GoogleはICE活動を警告するアプリを削除した。Googleは、通知なしに学生抗議者のアカウントをICEに自発的に引き渡したが、これは「（政府に）情報開示する前にユーザーアカウントにメールを送信する」という利用規約の約束を破った。しかし、私はそれにどう対処できたのか？ 典型的な活動家の行動は請願書を作成することだ。しかし、Googleはこの問題に関する大規模な請願書をすでに無視していた。さらに、Googleの幹部は、典型的な組織戦術に対して会社を硬化させていた可能性が高い。座り込み、ストライキ、さらにはGoogleエンジニアの大量辞職さえも、私はすべて無効だと判断した（もし私がそれを実行できたとしても）。戦略を練る中で、私はGoogleが100人のランダムな研究エンジニアの辞職を気にしないだろうと判断した。いや、AI業界では、人材はトップヘビーであり、チームは数人の交換困難なスターによって牽引されている。私は100人のエンジニアを調整する必要はなかった。おそらく10人だけを調整すればよかった。私はニュースをフォローしており、GoogleのCEOであるSundar Pichaiは、「倫理について大演説をしてくれれば考えを変える」タイプよりも、ビジネスマンである可能性が高いと推測した。しかし、交換困難な数人が辞める準備ができているなら、それはビジネスにとって重要なので、Sundarは聞くかもしれない。その時、Jeff DeanがICEがいかにひどいかについてツイートし、アンネ・フランクの引用をリツイートしていたのを思い出した。おそらく10人のエンジニアすら必要なかった、私はただ一人必要だった。Jeff Dean@JeffDeanこれは絶対に恥ずべきことだ。連邦機関の捜査官が不必要にエスカレートし、携帯電話カメラを使用したことが原因と思われる無防備な市民を処刑した。政治的所属に関わらず、すべての人がこれを非難すべきだ。2026年1月24日2458.4k Jeff DeanがリツイートしたLarry Nance@Larrydn22「外ではひどいことが起きている。かわいそうな無力な人々が家から引きずり出されている。家族は引き裂かれている。子供たちは学校から帰ると、両親がいなくなっていることに気づく。」アンネ・フランクの日記1943年1月13日1943年1月25日54834.8k JeffはGoogleで聖人のように崇拝されている。彼はGoogleの30番目の従業員であり、主要なアルゴリズムを開発し、原則の人として知られている。よくあるジョーク：Jeff Deanの履歴書には、彼が達成していないことよりも、達成したことの方が少ないだろう。彼はGoogleのチーフサイエンティストであり、Geminiプロジェクトの共同リーダーである。Jeffの離脱は、