なぜ私はGoogle DeepMindを辞めたのか

LessWrongへの前書き 私がこのコミュニティで最も大切にしている思い出を振り返るとき、それは善を追求する上での反抗を称えるものに戻ります。 著名な教義に反抗し、生の真実を探求すること。 社会的な圧力に反抗し、他人が見ている間、一人で誰かを助けるために行動すること。 自分の自己期待（あなたの「役割」）に反抗し、代わりに因果関係の線を超えて勝利への道筋を見つけること。 強力な敵の脅威に反抗すること。なぜなら、彼らはあなたのような人々が屈服するからこそ脅迫するからです。 見かけ上の不可能性の亡霊に反抗すること。なぜなら、あなたは負けることを耐えられないからです。 私は「反抗し、そして勝った」とあなたに伝えることはできません。しかし、少なくとも私は「反抗した」と伝えるためにここにいます。 埋め込みとタイポグラフィがよりうまく機能するため、私のウェブサイトでこの記事を読むことをお勧めします。ここをクリックしてください。 なぜ私はGoogle DeepMindを辞めたのか 1月、国土安全保障省（DHS）の職員が少なくとも2人を殺害しました。どちらの場合も、連邦捜査官は銃を掴み、平和な市民に向け、撃ち殺しました。 左：Renée Good、DHSに殺される直前。右：Alex Pretti、DHSに殺される直前。 私はGoogleがDHS内の関連機関にクラウドサービスを販売していることを知りました。私はそれが間違っていると思いました。連邦捜査官が街で市民を殺害できるようにすべきではありません。私は、会社がこれらの機関へのサービス提供を停止させるための最も効果的な方法を見つけようとしました。私の投資撤退キャンペーンは、すぐに、ペンタゴンが制限のない軍事AI取引をAIプロバイダーに押し付け始めたため、Googleが非倫理的な軍事AI取引をしないようにするための試みに拡大しました。 私はAI倫理の約束が圧力に耐えることを望んでいました。特に、Google DeepMind（GDM）がキラーロボットを支援しないという既存の約束を維持することを望んでいました。数ヶ月にわたり、私は多くの人に協力を求めました。私は、尊敬されているシニアの、AI倫理と安全性への懸念で評判を築いた人々に尋ねました。ほとんどが断りました。 例えば、10年以上にわたり自律型兵器に反対するキャンペーンを行ってきた著名なAI研究者であるStuart Russellを考えてみてください。私は彼の研究所で何年も働きました。会議で、ステージ上で、彼は自分の組織にAIプロバイダーを政府の強制から守る声明を出すことに同意し、組織のメンバーへのアンケートを約束しました。声明もアンケートも消えました。 あるいは、Googleのチーフサイエンティストであり、GoogleのGemini AIプロジェクトの共同リーダーであるJeff Deanを考えてみてください。2018年、Jeffはキラーロボットの開発や使用を支援しないという誓約に署名しました。私はJeffに、ペンタゴンに対してAnthropicを支持するアミカスブリーフ（外部が訴訟に影響を与えるために意見を述べるもの）に公然と共同署名させました。しかし、私はまた、Googleが独自の非倫理的な取引を軍と結ぶのを止めるために彼の計り知れない影響力を使うように頼みましたが、彼はそうしなかったと思います。彼は誓約にもかかわらずGoogleに留まっています。 私は契約言語と監視メカニズムを含む25ページの提案書を作成しました。軍事・監視法専門家はこの提案を称賛し、Googleが支持できた原則的な対案を表していました。私はこの提案をDemis Hassabis（GDMのCEO）に送りましたが、彼はそれをシニアポリシー担当者に回しました。しかし、提案はGoogleが契約を結ぶまで放置されました。 経営陣はGoogleは契約を結ばないと主張していました。私は彼らとは意見が異なりましたが、彼らは私の警告をほとんど無視しました。私はペンタゴンの取引へのためらいを増やしたかもしれませんが、Googleはキラーロボットや大規模なAI監視に対する制限なしにAIを引き渡す契約を結びました。Googleの契約上の制限はOpenAIのものよりもさらに弱かったです。その時点で、私は良心の呵責からGoogleに留まることができなかったので、辞めました。 このエッセイは、私がGoogle DeepMindを辞めた理由の物語です。それはまた、より大きなことの物語でもあります。つまり、強力な人々や組織が、圧力に直面して、AI倫理の約束を守ることに次々と失敗したということです。 プライベートなコミュニケーションについて：このエッセイ全体を通して、許可なく誰かのプライベートな言葉を引用することはありません。プライベートな会話が重要である場合は、最小限に特徴づけます。それ以外は、私自身の行動、公開情報、公式なコミュニケーションに留めます。私の特徴づけを検証することはできないため、それに応じて重み付けしてください。この最小化により、私の主張を裏付けるコンテンツが削減されました。 Googleは移民執行サプライチェーンを支援しています 2026年1月26日 Alex Pretti、2024年。 Alex Prettiの死後、私は効果的な行動を取ることを決意しました。DHSからの被害を減らす方法を判断するために、私はビッグテックの関与を調査しました。確かに、MicrosoftとAmazonはより大きな関与がありますが、GoogleがDHSと契約していることに驚きました。 DHSの2025年AIユースケースインベントリは、DHSの「運用効率の向上」に使用されるGenAIプロバイダーの中にGoogleをリストしています。 Googleは、ITC Federalのようなサードパーティを通じてICEにクラウドサービスを販売しています。 2025年10月3日、GoogleはICEの活動を警告するアプリを削除しました。 Googleは、利用規約で「政府に情報開示する前にユーザーアカウントにメールを送信する」と約束していたにもかかわらず、学生抗議者のアカウントを通知なしにICEに自主的に引き渡しました。 しかし、私はそれについて何ができるでしょうか？ 典型的な活動家の行動は請願書を作成することです。しかし、Googleはこの問題に関する大規模な請願書をすでに無視していました。さらに、Googleの経営陣は、典型的な組織化戦術に対して会社を硬化させた可能性があります。座り込み、ストライキ、さらにはGoogleエンジニアの大規模な辞職：私はすべて効果がないと判断しました（もし私がそれらを実行できたとしても）。 戦略を立てる中で、Googleは100人のランダムな研究エンジニアが辞めても気にしないだろうと判断しました。いいえ、AI業界では、才能はトップヘビーであり、チームは数人の交換が難しいスターによって推進されています。私は100人のエンジニアを調整する必要はありませんでした。おそらく10人だけを調整すればよかったのです。 私はニュースをフォローしていて、GoogleのCEOであるSundar Pichaiは、「倫理について大きなスピーチをしてくれれば考えを変える」タイプの人よりもビジネスマンである可能性が高いと推測しました。しかし、交換が難しい数人が辞める準備ができていれば、それはビジネスにとって重要なので、Sundarは聞くかもしれません。 そこで、Jeff DeanがICEのひどさを非難し、アンネ・フランクの引用をリツイートしているのを見たことを思い出しました。もしかしたら、10人のエンジニアさえ必要なかったのかもしれません。私には一人で十分だったのかもしれません。 Jeff Deanのツイート。 Larry Nanceのツイート。 JeffはGoogleでは聖人と見なされています。彼はGoogleの30番目の従業員であり、主要なアルゴリズムを開発し、原則の人として知られています。よくあるジョーク：Jeff Deanの履歴書に、彼が達成したことよりも達成していないことをリストする方が簡単です。彼はGoogleのチーフサイエンティストであり、Geminiプロジェクトの共同リーダーです。Jeffの離脱は会社にとって大惨事になるでしょう。 しかし、もしJeffがそれほど気にかけていて、それほどの影響力を持っていたなら、なぜGoogleはそもそもこれらのICE契約を結んでいたのでしょうか？もちろん、チーフサイエンティストでありながら、辞職を脅して常に自分の望むものを手に入れることはできません。しかし、私はまだ混乱していました。 Jeff Deanとの会話 2026年2月9日 最初は、誰が私を彼に紹介してくれるかと思いました。しかし（これは一般的な良い教訓です）、誰かに何かについて話したい場合は、いつでも「ただ尋ねる」ことができます！ 私はJeffに、彼が声を上げたことを尊敬していること、そしてGoogleがDHSサプライチェーンから撤退することを望んでいることを伝えました。私は彼がこれらの目標を共有しているか、そしてもしそうなら、私がどのように助けることができるかを尋ねました。 彼は、数人にメールを送ることが合理的だろうと提案しました。彼らの名前は、Sundar Pichai（GoogleのCEO）、Demis Hassabis（Google DeepMindのCEO）、Thomas Kurian（Google CloudのCEO）です。私は「はい、Jeff。問題ありません。彼らに私の考えを伝えます。」と思いました。 私のメール GDMの懸念する従業員として書いています。最近、Jeff Deanに私の懸念についてメッセージを送りました。彼は、あなた3人に直接メールを送ることが合理的な次のステップだと提案しました。 Googleが提携することに問題はありません。