Anthropic、生物兵器開発につながる可能性のあるAIの「悪用」を阻止

Anthropic、生物兵器製造につながる可能性のあるAIの「悪用」を阻止

2026年9月11日

ローラ・クレイス、テクノロジー担当記者
ナールディン・サード

［画像］［画像: Reuters 2026年8月16日のイラスト写真に写るAnthropicのロゴ。］Reuters

Anthropicは、自社のAIモデルが悪用され、生物兵器開発を支援する可能性のある「悪意のある活動」を特定し、阻止したと発表しました。

同社の最近の脅威インテリジェンスレポートで明らかになったこの発見は、AI研究者や業界関係者から、この技術が「人類に及ぼす潜在的リスク」について高まる一連の警告の最新のものであるとされています。

これらの警告は行動を促しており、米上院議員バーニー・サンダースは、高度なAI開発の一時停止と人工超知能の禁止を要求しています。

ドナルド・トランプ大統領はこれまでのところ、そのような懸念を退けており、木曜日には「AIで勝利できなければ、我々は非常に悪い立場に置かれるだろう」と懸念を表明しました。

このようなレポートは、企業が自社のモデルの悪用試みをどのように特定し、阻止しているかを示すために、AI業界全体で定期的に見られるようになっています。

これにはGoogleも含まれており、火曜日に「武器化された生物学的剤を合成するための完全なステップバイステップの技術ガイド」を入手するために、同社のAIツールGeminiを使用しようとした人物がいたと報告しています。

AnthropicのAIモデルであるClaudeも、同社のレポートによると、ロシアを拠点とするサイバースパイ活動キャンペーンに関連するアクターや、イランのプロパガンダ機関によって使用されていました。

過去8ヶ月間に検出された懸念事例は、偽の出会い系アプリやホテルのWi-Fi詐欺から、反体制派を特定するために構築された監視システムまで多岐にわたります。

Anthropicはまた、中国のAI企業がClaudeの能力を模倣しようとしていると非難しています。

この詳細なレポートには、国家支援グループ、犯罪者、スパイウェアベンダー、国家プロパガンダ機関、政治的動機を持つ個人が同社の技術を悪用した事例がリストアップされています。

同社によると、「悪意のある使用」は、2025年12月から2026年8月の間に阻止されました。対象となったのはClaude Haiku、Sonnet、Opusモデルです。

Claude Fableや強力なMythosクラスのモデルは、モデルを訓練するためのプロセスである「蒸留」の1つの事例を除き、悪用事例には関与していません。これは、より大きく、より高価なモデルを使用して、より小さなAIモデルを訓練するプロセスです。

サイバーおよび影響力作戦、監視、詐欺、武器開発のためにモデルが使用されたことを検出しただけでなく、Anthropicは、生物兵器開発を支援する可能性のある方法でAIを使用した科学者をブロックしたと述べています。

レポートは、「生物兵器開発を支援する可能性のある方法で、私たちのモデルを使用したアクターの5つのケーススタディ」を強調しました。

Anthropicは、生物兵器の悪用は「フロンティアAIモデルの最も深刻なリスクの一つ」であり、適切な安全対策なしでは「壊滅的な結果をもたらす可能性」があると述べています。

「生物兵器を開発するために使用できる情報と同じ情報を使用して、例えばワクチンや病気の治療法を開発することもできます」とAnthropicは述べています。

Anthropicの脅威インテリジェンス責任者であるジェイコブ・クラインは、ニューヨーク・タイムズに対し、これは「信じられないほど微妙な状況」であると語りました。

「コミックブックに出てくるような、『みんなを殺すために生物兵器を作りたいんだ』と言う人を見ているわけではありません」と彼は言いました。

レポートはまた、Claudeが「銃器、ミサイル、武装ドローン、爆弾、その他の弾薬、およびそれらを操作する照準・制御システムを含む、通常兵器用のソフトウェア開発」に使用された6つの事例にも言及しています。

レポートは、サイバー犯罪者や国家支援ハッカーが、その運用を支援するために同社の技術をますます利用していることを示唆しています。

ハッキンググループShinyHuntersや、中国を拠点とするラボなどが、レポートで名指しされた中に含まれていました。

レポートはまた、ロシアを拠点とするMidnight Blizzardの活動と一致するハッキンググループが、マルウェアがセキュリティ防御によってフラグ付けされたときに自動的に検出し、検出を回避するまでコードを書き直すシステムを構築するためにAIを使用したと述べています。

カリフォルニア州に拠点を置く同社は、これらの活動を「将来より良く防止、検出、阻止するため」に、その発見をプロセスに組み込んだと述べています。

Anthropicは、適切であれば当局や業界パートナーとインテリジェンスを共有したと述べています。

9月6日に公開された記事で、OpenAIの主任科学者ヤクブ・パチョツキは、安全対策が確立されるまで、業界に「自主的な減速」を実施するよう呼びかけました。

「機械知能の急速な上昇が続くことの結果に誰も準備ができていないことを懸念しています」とパチョツキは述べ、ChatGPTを開発するOpenAIは安全対策の構築を続けるが、より広範な介入が必要であると付け加えました。

この警告を受けて、AIの安全な開発のための新しい多国間条約を求める英国首相アンディ・バーナムへの公開書簡や、超知能の開発に基づく条約がどのようなものになるかについて政府が協力するよう求める声が上がりました。

米国では、民主党議員バーニー・サンダースがAI超知能の禁止と高度なAI開発の一時停止を目的とした法案を提出しました。

「科学者が、人類に壊滅的な影響を与える可能性があるとあなたに言っているなら、それを遅らせないのは愚か者だ」と彼は木曜日にBBCのNewsnightで述べました。

Osmond Chiaによる追加報道。

［画像］［画像: 黒い四角形と長方形がピクセルを形成し、右から移動してくる緑色のプロモーションバナー。テキストは「Tech Decoded: 世界最大のテクノロジーニュースが毎週月曜日にあなたの受信トレイに届きます。」と表示されています。］