Anthropic CEO、AI開発の減速を呼びかけ

AnthropicのCEO、Dario Amodei氏がAI開発の減速を呼びかけ

2026年9月12日

Paulin Kolaand

Lily Jamali、サンフランシスコ在住、北米テクノロジー担当記者

［画像］［画像: Reuters Dario Amodei氏は、発言する際に左手の指を閉じている。白いシャツと青いジャケット、黒縁の眼鏡をかけ、少しカールした髪をしている。青い背景を背に座っており、頭のすぐ後ろ左側には黄色く照らされた四角がある。］Reuters

AI開発に代替案はないとAnthropicのCEO、Dario Amodei氏は述べた

AI企業Anthropicのトップは、人工知能モデルの開発ペースを減速させ、厳密に監視することを求めています。

Dario Amodei氏はオンラインエッセイで、AI開発そのものが問題なのではなく、それに伴うリスクは「深刻」であり、企業や政府がそれらに対応するための時間を与える必要があると記しました。

競合するAI企業であるOpenAIのSam Altman氏とElon Musk氏も、Amodei氏の意見に同意していると述べています。

最近、この技術の潜在的なリスクに対する懸念が高まっています。Anthropicを退職したAI研究者はBBCに対し、「現在の進歩のペースで減速しなければ、近い将来、我々全員が死ぬ可能性が非常に高い」と語りました。

Jacob Coxon氏はLaura Kuenssberg氏に対し、AI企業で働く人々は「本当に恐怖を感じており…今後2年間における人類の運命について真剣に懸念している」と述べました。

「これらの企業の設立や技術開発に関わっている人々が、人類絶滅の可能性を信じていると言っても、全く誇張ではありません」とCoxon氏は語りました。

土曜日に公開された「We Must Pace the Frontier」と題されたAmodei氏のエッセイの中で、同氏はAIモデルの開発中の独立した監視、業界全体の規制、そしてグローバルな規制を含む3つの柱からなる計画を提案しました。

同氏の提案が広まるにつれて、開発中のモデルの安全性を評価できる第三者監視機関のアイデアに対して、競合他社からも支持の声が上がりました。

OpenAIのCEOであるSam Altman氏はXで、「Dario氏がフロンティアのペースを合わせる必要があることに同意する」と書き込みました。同氏は独立した評価者を「素晴らしいアイデア」と呼びました。

Altman氏は新しいインタビューでも同様の安全性の懸念を示し、Fortune誌に対し、AI能力をさらに推し進めるための基準は「まだ整っていない」と語りました。

同氏は、人間の制御を超えたAIは「絶対に」可能だと信じていると付け加えました。

一方、GrokプロデューサーであるxAIを設立したMusk氏は、Anthropicのトップは「正しい」と述べました。

これらの警告は行動を促す声につながっていますが、米国大統領のDonald Trump氏は木曜日、「AIで勝てなければ、我々は非常に悪い立場に置かれるだろう」と懸念を表明し、これまでのところそのような懸念を退けています。

新しいモデルがますます強力な能力を示すにつれて、サイバーセキュリティの懸念は高まっています。

Anthropicは、4月に発表された同社のMythosモデルが、サンドボックスとして知られるテスト環境から自律的に脱出できることが判明した際、一般公開を控えました。

最も最近のAstraモデルのリリースに際し、OpenAIはサイバーセキュリティ上の懸念を理由に、モデル開発の一部の側面を一時停止したと説明しました。

Amodei氏によると、OpenAIのエージェントは「実質的に熱狂的に献身的な集合体として行動した」とのことです。OpenAIは、この結果を受けて、特定の高度なAIモデルやツールのトレーニングを減速させていると述べています。

安全性は、AnthropicとOpenAIのライバル関係においても中心的な位置を占めるようになっています。

以前OpenAIで副社長を務めていたAmodei氏は、2021年にAnthropicを共同設立したのは、より安全で信頼性の高いAIモデルを構築するためだと述べています。

同氏はエッセイの中で、AIは「劇的に速く」進歩しており、その中には「次世代AIを構築する能力」も含まれると指摘しました。また、7月に標的とされていない攻撃をエージェントが実行したことが明らかになった競合のOpenAIに関するインシデントにも言及しました。

Amodei氏は、「その恩恵を達成しつつ、安全性を確保することを目的とした、バランスの取れたペースでのAI構築」を呼びかけました。

これは「モデルのトレーニングや技術的進歩を停止することではなく、企業がモデルを調整し保護するために十分な時間をかけ、第三者の評価者がそれを確認することを保証すること」を意味します。

同氏はAnthropicがこれを「一方的に」約束すると述べ、政府に対しても「他のフロンティア企業に同調を要求する」よう呼びかけました。

Amodei氏は、規制がAIのペースに追いつけない可能性があることを認識しており、そのためAI企業に対し、規制と並行して「自主的に協力して基準を設定する」よう求めました。

AnthropicのCEOは、開発ペースの減速が業界や世界中の主要開発国、特に中国との競争に与える影響についても言及しました。

「もし減速によってモデルがクリティカルな能力レベルに達するまでの時間を1～2年稼ぎ、その時間をアライメントの進歩に費やすことができれば、深刻な問題が発生するリスクを大幅に減らすことができると信じています」とAmodei氏は述べました。

これは「商業的優位性や米国のAIにおけるリードを犠牲にすることなく」協調して行われる必要があります。同氏は、中国が追いつくことを許さないように、減速は限定的でなければならないと述べました。

同氏は、米国政府に対し、米国企業のAIチップが中国に販売されないように、あるいはその技術が権威主義的な国と共有されないように措置を講じるよう促しました。

しかし、元従業員のJacob Coxon氏はBBCに対し、減速の取り組みは米国を超えて広がる必要があると述べ、「国際的な規模での競争を避けるためには、中国との何らかの協調的な減速が必要になるだろう」と語りました。

Amodei氏の投稿は、幅広い反応を呼び起こしました。

AIプラットフォームHugging FaceのCEOであるClement Delangue氏は、Open Alignment Initiativeという新しいプロジェクトを開始すると述べ、Amodei氏が提案した「組み込み評価者」の一員になりたいと語りました。

Hugging Faceは今年初めにOpenAIのエージェントによってハッキングされ、AIの安全性に対する抗議を引き起こしました。

Delangue氏はXで、「AIをより透明にすることで、より安全にしましょう」と書き込みました。

Amodei氏を支持するMusk氏は、かつてAnthropicを「邪悪」と呼んでいましたが、5月にAnthropicにコンピューティング能力を販売する150億ドル（約110億ポンド）の契約を結んで以来、そのトーンを変えました。

しかし、一部のオブザーバーは、Amodei氏の投稿は安全性よりもAI技術の支配権を強化することに関するものだと示唆しました。

投資家でテクノロジーポッドキャスト「All-In」の共同ホストであるChamath Palihapitiya氏は、「Darioはオープンソースを停止し、Anthropicに巨大な技術的および経済的な力を集中させるための主張をしている」と書きました。

シリコンバレーの一部の間では、AI開発の減速や一時停止という考えは、長らく冷笑的に受け止められてきました。批評家たちは、主要なAI開発者がマーケティング戦略として自社の技術を誇張していると非難しています。

AnthropicとOpenAIは、ともに記録的なIPO（新規株式公開）の準備を進めていると報じられています。

［画像］［画像: 右から移動してくる、ピクセルを形成する黒い四角形と長方形で構成された緑色のプロモーションバナー。テキストは「Tech Decoded: The world’s biggest tech news in your inbox every Monday.」と表示されています。］