良い人々は悪いことをすることを拒否する

善良な人々は悪いことをすることを拒否する

今日、私はAnthropicを辞職しました。私は過去3年間、OpenAIとAnthropicの両方で事前学習研究を行ってきました。どちらの会社も責任ある行動をとっていません。彼らは超知能へとまっすぐに突き進んでおり、私たちの命を賭けています。詳細は以下に続きます。

— Jacob Coxon (@hilbertspaess) 2026年9月9日

これは、ジェイコブ・コックスン氏が先週X（旧Twitter）でAI業界に別れを告げた言葉です。

そして、フォローアップの投稿で彼はこう述べています。

「AIを開発している人々は、それが今世紀末までに私たち全員を殺す可能性があると真剣に信じています。これはマーケティングの誇張ではありません。」

ジェイコブ・コックスン氏はスターではない。彼はCEOでも、有名な科学者でもなく、博士号も持っていません（はい、アメリカでは博士号なしで「AI研究者」になれます）。彼は27歳でAnthropicに入社しましたが、それは主にその安全性の評判に惹かれたからであり、彼は問題を解決し「世界をより良い場所にする」ことを好んでいました。

つまり、彼は私たちのようなエンジニアの一人なのです。

しかし、彼は私たちの大半が決してしないことをしました。それは、株式の権利確定の2ヶ月前に退職し、それを犠牲にして発言したことです。

「私はもはやAnthropicの評価額を吊り上げることで得るものはありません。... 株式の権利が確定する前に辞めました。」

注目すべきは、彼がAnthropicを「悪」と呼んでいないことです。彼はウォール・ストリート・ジャーナルに対し、彼らの安全への取り組みは誠実だとさえ語っています。彼の告発はそれよりも冷たいものです。「競争を強いられているなら、手抜きをしなければならない」

この反応は過剰だと主張することもできるでしょう。一つの辞表、1億1500万件以上の閲覧数、エンジニア、起業家、あるいは単なる人間たちの間でソーシャルネットワーク上に巻き起こった怒り、そして突然規制を求める議員たち。しかし、それがまさにポイントなのです。一人のエンジニアの離職が世界全体を警鐘を鳴らすとき、それは世界がすでに疑っていることを物語っています。機械の内部にいる人々が、これが危険だと言うなら、その騒ぎは悪い評判というより症状なのです。

内部関係者自身がそれを認めました。Anthropicの「アライメントチーム」のリーダーであるエヴァン・ヒュービンガー氏は、こう書いています：

「ジェイコブはここで正しいです。私たちはAIが全人類を殺す可能性があると真剣に信じています！個人的には、今後10年でその可能性は10%以上だと思います。Anthropicは最善を尽くしていると思いますが、私たちはまだ超知能に対するアライメント問題を解決する計画を持っておらず、その軌道にも乗っていません。」

この映画は何度も見たことがある

5年前、別の従業員が自社の内部研究を見て、同じ選択に直面しました。

ウォール・ストリート・ジャーナルの「Facebookファイル」によって明らかにされた、Facebook自身のスライドにはこう書かれていました。

「私たちは、10代の少女の3人に1人のボディイメージの問題を悪化させています。」

そして：

「自殺願望を抱いたティーンエイジャーのうち、イギリスのユーザーの13％、アメリカのユーザーの6％が、自殺願望をインスタグラムに起因すると回答しました。」

フランシス・ホーゲン氏はそれを無視しませんでした。彼女は文書を集め、退職し、米国上院で証言しました。

2026年のコックスン氏、2021年のホーゲン氏。会社は違えど、同じ行動です。彼らは拒否し、辞職し、外部に警告しました。

このパターンこそが重要です。どちらの場合も会社は知っていたのです。

そして、どちらの場合も、誰かが知っているという事実だけで十分かどうかを決定する必要がありました。

病気

これを少数の悪徳企業に還元したくなるかもしれません。しかし、より不快で、より正確なのは、それらを支える文化を見ることです。それは私たちの文化です。

今日のエンジニアは、生産性を崇拝し、品質を贅沢品として扱うように求められています。ある2026年のテックワーカーを対象とした大規模調査は、ある回答者の言葉で状況を要約しています。

「もっと速く、より多くこなせますが、より良くはできません。」

同じ調査では、その状態に名前が付けられています。「笑顔の疲弊」。人々は再びリリースを重ね、報酬は上昇し、オフスイッチはありません。テックワーカーの半数以上（53％）は、新人を自分の分野から遠ざけるだろうとしながらも、留まっています。別のソフトウェアデリバリーに関するレポートでは、開発者の67％が現在、AI生成コードのデバッグに時間を費やしていることがわかりました。私たちは、この質の低下、この疲弊、そして自分たちの仕事の質の低下を目の当たりにすることを受け入れています。それらすべてを報酬のために行っているのです。

これはAIラボに限ったことではありません。監視製品、中毒性のあるアルゴリズム、防衛契約、エージェンシーワークなどを、「私が拒否すれば、もっと悪い誰かがやるだろう」と肩をすくめて正当化するエンジニアの行動と同じ反射です。

以前、私は快適さはスキルの敵であると書きましたが、それは優しすぎました。なぜなら、結局のところ、私たちは快適さが責任の敵であると見ることができるからです。

士気を金銭と交換することは、キャリアの決定ではなく取引です。

それは、あなたが気にかけられるはずだった自分の一部を売る取引です。それを十分に頻繁に行うと、それは戻ってきません。それは燃え尽き症候群ではありませんが、病気です。ただし、すべての病気と同様に、それは広がります。まずあなたのチームに、次にあなたの製品に、そしてそれを使用する人々に。

告発

では、なぜあなたはまだ彼らのために働いているのですか？

もし答えが給料なら、もっと大きな声で言ってください。そして、言い訳をしようとしないでください。

もし答えが「もっと悪い誰かが私に取って代わるだろう」なら、それも、もっと大きな声で言ってください。

もし答えが「内部から変えられる」なら、何を変えたのか見せてください。ホーゲン氏は内部から試みました。コックスン氏も内部から試みました。結局のところ、残念ながら、内部は動きませんでした。

私たちは社会に生きており、私たちの取るすべての行動には責任が伴います。

あなたはそれを無視し、報酬を集め、頭を低く保ち、「自分はただ機能を作るエンジニアだ…」と自分に言い聞かせることができます。しかし、その場合、自分自身を人類の貢献者だと思わないでください。あなたはただ自分自身のことだけを考えている人間であり、それ以上のものではありません。

拒否する人々は英雄ではなく人間であり、善良な人々は悪いことをすることを拒否します。