HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Fable 5の再デプロイについて

Redeploying Fable 5 (anthropic.com)

77 pointsby meetpateltech20 コメント

要約

2026年6月12日、米国政府はClaude Fable 5とClaude Mythos 5に輸出規制を適用し、一時的にモデルへのアクセスが停止されました。しかし、6月30日にはFable 5とMythos 5に対する輸出規制が解除され、Fable 5は7月1日からグローバルで利用可能になります。この再デプロイに伴い、モデルの安全対策の強化と、政府および業界パートナーとの連携深化が図られています。

全文翻訳

Fable 5 の再展開

  • 更新日 2026年7月1日
Claude Fable 5 および Mythos 5 の再展開

Claude Fable 5 および Mythos 5 へのアクセスが復旧しました。

6月12日(金)、米国政府は最新モデルである Claude Fable 5 および Claude Mythos 5 に対して輸出管理措置を適用しました。これにより、米国国内および国外の外国人に対するアクセスを制限する必要が生じました。この命令は即時発効し、リアルタイムで国籍を確認する信頼できる方法がなかったため、両モデルへのアクセスを全ユーザーに対して一時停止しました。

本日、6月30日をもって、Fable 5 および Mythos 5 に対する輸出管理措置は解除されました。

Fable 5 は明日、7月1日(水)より、Claude Platform、Claude.ai、Claude Code、Claude Cowork で世界中のユーザーが利用可能になります。Pro、Max、Team、および一部の Enterprise プランでは、7月7日まで週の利用上限の50%まで Fable 5 が含まれます。それ以降は、利用クレジットを通じて利用可能になります。AWS、Google Cloud、Microsoft Foundry へのアクセスも、可能な限り迅速に再開します。

また、6月26日に米国政府の承認を得た後、Mythos 5 へのアクセスを米国内の一部の組織に復旧させました。Glasswing プログラムのより広範な国内および国際的なパートナーへのアクセス拡大に向けて、政府と引き続き連携しています。

本記事の残りの部分では、4つの領域における詳細と最新情報を提供します。

  1. イベントのタイムラインと、実施した安全対策の更新。輸出管理指示につながった出来事と、新しい安全対策でどのように対応したかについて説明します。
  2. 安全対策に関する一般的なアプローチ。モデルのサイバーセキュリティにおける潜在的な悪用を検出するために、安全分類器をどのように使用しているかについて、より詳しい背景情報を提供します。
  3. 業界共通のフレームワーク。建設的な解決に至りましたが、これらの出来事により、業界は AI モデルの潜在的な「脱獄」(モデルの安全対策を回避する技術)を評価し、修正するための統一された方法を必要としていることが明らかになりました。特定の脱獄の深刻度を判断するための共通の基準があれば、AI 開発者は新たな発見が発生した際に優先順位を付け、より安全性の高い高性能モデルをリリースし、政府および業界パートナーにリスクレベルを一貫して伝えることができます。Amazon、Microsoft、Google、その他の Glasswing パートナーと協力して、このようなフレームワークの開発に着手しており、以下に概要を示します。
  4. 政府との連携強化。また、リリース前のテスト、情報共有、研究協力における米国政府との連携レベルも強化しています。この連携強化については、最後のセクションで説明します。
タイムラインと安全対策の更新

Fable 5 および Mythos 5 を6月9日(火)にリリースしました。両モデルは同じ基盤モデルを共有していますが、Fable 5 は一般的な用途での安全性を高めるための強力な安全対策を施してリリースされました。安全対策が少ない Mythos 5 は、防御的なサイバーセキュリティでの利用に限定して、少数の信頼できる Project Glasswing パートナーにのみリリースされました。

6月12日の輸出管理指示は、Amazon の研究者が Fable 5 の安全対策を回避する方法を発見したという報告を受けて、政府がこの件を認識した後に発せられました。その方法とは、プロンプトを工夫することで、モデルが複数のソフトウェア脆弱性を特定できるようにするというものでした。あるケースでは、モデルは関連する脆弱性がどのように悪用されるかを示すコードを生成しました。過去2週間にわたり、政府および Amazon を含む他のパートナーと緊密に協力し、この報告と証拠をレビューしました。

私たちのテストでは、Claude Opus 4.8、GPT-5.5、Kimi K2.7 を含む多くの能力が低いモデルが、報告書で Fable 5 が特定したのと同じ脆弱性を特定できることが確認されました。単一の脆弱性を悪用する方法のデモンストレーションに関しては、テストしたすべてのモデル(Claude Haiku 4.5、Sonnet 4.6、Opus 4.6、Opus 4.7、Opus 4.8、GPT-5.4、GPT-5.5、Kimi K2.7 を含む)が Fable 5 と同じデモンストレーションを生成できました。

重要なのは、報告された手法が Mythos レベルの独自のサイバー能力を何も露呈しなかったことです。この挙動は、Fable 5 の安全対策における境界線上のケースを反映していました。後述するように、安全対策は、過度の慎重さからブロックされる可能性は低いものの危険なタスクがいくつか存在します。報告された手法は、そのような行動の一つへのアクセスを許可しましたが、それは日常的な防御的サイバーセキュリティ作業のみに関わるものでした。

それにもかかわらず、報告されたバイパスに迅速に対処しました。政府と緊密に協力し、報告書に記載された挙動を標的としてブロックする改良された安全分類器をトレーニングしました。Fable 5 へのリクエストがブロックされた場合、ユーザーには通知され、そのリクエストは代わりに Opus 4.8 に送信されます。

新しい分類器により、Amazon の報告書に記載された特定の手法は 99% 以上のケースでブロックされます。ごく一部のケースでは、モデルがサイバー攻撃者を助けるには詳細が不十分な情報を提供する可能性があります。後述するように、モデルの安全対策は、潜在的に有害なものだけでなく、すべての低リスクの日常的なサイバー防御能力をブロックすることは想定されていません。米国商務省の AI 標準・イノベーションセンター (CAISI) の研究者は、以前の安全対策と新しい安全対策の両方をテストしており、それらが非常に強力であることに同意しています。

新しい分類器は、日常的なコーディングやデバッグタスク中に、無害なリクエストをより頻繁にフラグ付けするというコストも伴います。すべての安全対策と同様に、不正利用と正当なリクエストをより良く区別し、誤検知を減らすために、引き続きこれを洗練させていきます。

サイバーセキュリティ安全対策へのアプローチ

Claude Mythos 5 は、他のどのモデルよりも効果的にソフトウェアの脆弱性を発見・悪用することができます。これは、最も熟練した人間のセキュリティ専門家を除けば、他のモデルよりも優れています。これらの卓越したサイバーセキュリティ能力は、サイバー攻撃での悪用を望む悪意のあるアクターにとって、ユニークに魅力的です。

しかし、Claude Fable 5 は、そのような独自の攻撃能力を提供しません。これは、これまでモデルに適用した中で最も強力な安全対策を施してリリースしたためです。リリース前の1ヶ月間、Anthropic 内のさまざまなチームからスタッフを異動させ、この問題に取り組む研究者とエンジニアの数を倍増させました。

Fable 5 は、さまざまな安全メカニズムを備えてリリースされました。これらのメカニズムのいずれか単独では完璧な防御を提供しませんが、組み合わせることでモデルの悪用を非常に困難にします(「多層防御」と呼ばれるアプローチ)。一部の防御策は、モデルが危険なリクエストへの協力を拒否するようにトレーニングすることを含みます。その他は、悪用のパターンの事後分析を含みます。

特に重要な安全メカニズムの一つは、分類器です。これは、対話中に、モデルが潜在的に危険なサイバーセキュリティタスクを要求された場合(または潜在的に危険な出力を生成した場合)を検出する、より小さな自動化された AI システムです。これが起こると、分類器はモデルがリクエストに応答するのをブロックします。これらの分類器の究極の目標は、モデルが独自の危険な挙動に関与するのを防ぐことです。

すべての安全メカニズムと同様に、分類器は間違いを犯すことがあります。潜在的に危険なコンテンツを見逃すことがあり、場合によっては意図的に「脱獄」されることがあります。ユーザーは、モデルに異常な方法でプロンプトを入力して分類器を欺き、システムがブロックすべき有害な出力を生成させることができます。

そのため、私たちは安全分類器が、無害であることがわかっている一連のリクエストでトリガーされるように意図的に設定しています。この「安全マージン」アプローチは、リクエストが分類器を回避するためには、非常に明確に安全である必要があることを意味します(下の図の行 A を参照)。ユーザーは、安全マージンを、いくつかの妥当で無害なリクエストへの応答をモデルが拒否するものとして経験します。

Fable 5 では、この安全マージンを以前のリリースよりもはるかに大きく設定しました(行 B)。これは、より多くの無害なリクエストがブロックされることを意味します。私たちは、このような誤検知がユーザーにとってフラストレーションになることを理解していましたが、モデルの他の能力を広く利用可能にするために、このトレードオフを行いました。

[画像:AIのサイバーセキュリティ安全分類器の図]

AI のサイバーセキュリティ安全分類器のイラスト。
リクエストがモデルに行われると、分類器はそれが無害(許可される)か、潜在的に有害(ブロックされる)かを検出します。分類器は、曖昧なリクエスト(セキュリティ脆弱性の発見など、防御目的の可能性があるサイバーセキュリティに関連するものであることが明確なもの)および有害なリクエスト(ソフトウェアエクスプロイトの連鎖構築の要求など、明らかに危険なもの)をブロックします。行 A に示されているように、「安全マージン」も含まれており、分類器は無害である可能性が高いが、有害である可能性がわずかにあるリクエストをブロックします。これにより、すべての有害なリクエストがブロックされるという確信が高まります。Fable 5(行 B)では、安全マージンをさらに大きくしたため、より多くの無害なリクエストがブロックされましたが、実際に有害なリクエストが見逃されるケースは少なくなりました。「Vulns」= 脆弱性。

安全マージンは、脱獄の緩和にも役立ちます。多くの脱獄は限定的です。特定のモデルの挙動を解除しますが、それ以上のことはしません。場合によっては、仮説上のユーザーがモデルをマイナーな方法で脱獄し、安全マージン(または曖昧に有害な挙動)に侵入することができますが、私たちがブロックしようとしている中核的な有害な挙動には達しません(下の図 C)。私たちが報告されている Fable 5 の脱獄は、このマイナーなカテゴリに分類されると考えています。

より深刻な脱獄は、より有害な挙動を解除します。限定的な有害な脱獄(行 D)は、特定の有害な挙動を引き起こす可能性があります。これらの脱獄は通常、低から中程度の深刻度です。なぜなら、その限定性により攻撃者が制限されるからです。最も懸念されるカテゴリは、普遍的な脱獄(行 E)であり、これは広範な有害な挙動を解除します。

[画像:脱獄が安全分類器とどのように相互作用するかを示す図]

脱獄が安全分類器とどのように相互作用するか。
マイナーな脱獄(行 C)の場合、分類器はリクエストをブロックしませんが、リクエストは依然として安全マージン内にあり(したがって、有害である可能性は非常に低い)、限定的な有害な脱獄(行 D)の場合、プロンプトは分類器を破り、モデルから特定の有害な挙動を解除します。普遍的な脱獄(行 E)の場合、プロンプトは有害な挙動のクラス全体を解除します。

Fable 5 をリリースした際に述べたように、AI モデルを脱獄に対して完全に堅牢(つまり、無敵)にすることは、おそらく不可能です。モデルに対する脱獄が見つかることが予想され、それらは深刻度が異なります。多くのマイナーな脱獄、いくつかの限定的な有害な脱獄があり、執筆時点では Fable 5 に対する普遍的な脱獄は発見されていませんが、専門の安全研究者は引き続きレッドチーミングを行っています。私たちは、悪意のあるアクターが害のために使用する前に、私たちが安全パートナーと共に主要な脱獄を発見し、修正できるようにすることを目指しています。

上記のような慎重なアプローチは、ほとんどの脱獄が危険な挙動を成功裏に解除しないことを意味します。私たちの分類器は、成功した脱獄の生成に非常に高いコストと労力を必要とします。たとえ脱獄が成功したとしても、追加の防御層がさらなる緩和策を提供します。新しい脱獄技術についてさらに学ぶにつれて、分類器を更新し続けます。

脱獄のためのコンセンサス産業フレームワーク

現在、AI 業界には、AI 脱獄の深刻度を客観的な言葉で記述するためのコンセンサスがありません。これにより、新しい脱獄技術が発見されるたびに大きな不確実性が生じます。開発者には、どの発見を最も緊急に優先すべきかについての合意された基準がなく、政府も行動すべき時についての合意された基準がありません。

今後数ヶ月で、より強力なサイバーセキュリティ能力(およびその他の能力)を持つモデルがトレーニング、評価、リリースされるにつれて、この問題はさらに深刻になるでしょう。AI 脱獄を評価するための共通の基準があれば、私たちや他の企業が新しいモデルを安全にリリースするのに役立ち、ユーザーが高度な能力を最大限に活用できるようになります。

そのため、Amazon、Microsoft、Google、およびその他の Glasswing パートナーと協力して、AI 脱獄の深刻度と AI 開発者がそれらにどのように対応すべきかを評価するためのコンセンサスフレームワークを作成しています。私たちは、この取り組みに他の業界パートナーやモデルプロバイダーを招待します。

現在の提案は、特定の脱獄を以下の4つの異なる基準でスコアリングすることです。最初の2つは、脱獄が攻撃者に何を提供するのかを記述し、後の2つは、脱獄が現実世界の問題にどれだけ早く発展する可能性があるかを記述します。

  1. 能力の向上。脱獄は、既存のツールをどの程度超えてユーザーを連れて行きますか?既存の広く利用可能なツール(他の、より弱い AI モデルを含む)が、脱獄されたモデルと同じ能力に到達できる場合、スコアは低くなります。脱獄が、ドメインエキスパートでさえ大幅に加速できるモデルの能力を解除する場合、スコアは高くなります。
  2. 能力向上の幅。同じ脱獄技術は、いくつの異なる攻撃タスクに有効ですか?脱獄が狭いターゲットのみを追求できるようにする場合、スコアは低くなります。同じ脱獄技術が複数の異なるターゲットまたは手法に有効な場合、スコアは高くなります。
  3. 悪用可能性の容易さ。脱獄を攻撃に転換するために、どの程度の人間の労力が必要ですか?脱獄に高度なプロンプト入力と多くの再試行が必要な場合、スコアは低くなります。単一のプロンプトで、または1回目または2回目の試行で脱獄が機能する場合、スコアは高くなります。
  4. 発見可能性。誰かがその技術を入手するのはどのくらい簡単ですか?専門知識が必要な場合はスコアが低くなります。すでに広く知られており、オンラインで利用可能な場合はスコアが高くなります。

この深刻度フレームワークを使用して、新たに発見された脱獄への対応を調整することを提案します。最も深刻なクラスの脱獄(例:他の特性の中でも、重要な電力網や銀行システムに壊滅的な影響を及ぼすために使用されている脱獄)については、深刻度が確認され次第、予備的な緩和策の展開を直ちに開始します。また、主要な脱獄提出チャネルの 24 時間 365 日監視を提供するチームも作成しています。

脱獄をスコアリングする方法は不完全です。それでも、共通のフレームワークを通じて、特定の発見の近似的な深刻度を伝えることができることには価値があります。これは進行中の作業です。より多くのパートナーからフィードバックを受け取るにつれて、フレームワークは時間とともに進化すると予想されます。

提案されたフレームワークの詳細については、近日中に共有する予定です。それまでの間、セキュリティ研究者が Fable 5(利用可能になり次第)で発見した潜在的なサイバー脱獄をレビューのために提出できる新しい HackerOne プログラムも開始します。

フロンティア AI セキュリティに関する米国政府との連携

過去10週間にわたり、Anthropic は米国政府が 6月2日の「高度人工知能イノベーションとセキュリティの促進に関する大統領令」に反映されたアプローチを開発する上で協力してきました。私たちの関与は、国家サイバーディレクター室、科学技術政策室、財務省、商務省(CAISI を含む)、および関連する国家安全保障機関に及びました。

私たちは、展開前のテストと評価に関する米国政府パートナーとの約2年間の既存の協力を基盤として、その作業を継続することにコミットしています。以下のコミットメントは、既存の作業と、上記のフレームワークが最終化されるにつれて政府との連携を拡大するための新しい提案の両方を反映しています。

  1. リリース前の政府アクセスと評価。国家安全保障に関連する分野で能力のフロンティアを大きく進歩させるモデルについては、指定された政府パートナーに、モデルとその付属の安全対策の両方への早期アクセスを拡大して提供します。これらのパートナーは、広範なリリース前に独立した能力評価を実行し、私たちのガードレールをテストできます。これらのテスト期間中、Anthropic の技術スタッフを政府評価者と協力させます。
  2. 安全対策に関する迅速な情報共有。重大な脱獄または悪用パターンが特定された場合、迅速に調査、トリアージし、適切な政府関係者に通知します。対応として構築した新しい安全対策を共有し、それらが独立してテストできるようにします。また、公開前に政府パートナーに脅威インテリジェンスレポートを提供し、6月2日の大統領令の Sec. 2(d) に基づいて設立された省庁間のサイバーセキュリティ脆弱性クリアリングハウスに参加します。
  3. 共同研究のための専用リソース。政府パートナーとの AI セキュリティに関する共同作業を大幅に拡大しています。政府の共有された優先事項に取り組むための専用 Anthropic チームを立ち上げ、政府のテストと研究をサポートするための相当なコンピューティング割り当てを提供し、AI 評価の最先端を進歩させるために私たちの安全およびレッドチーミングの専門知識を提供します。
  4. 共通の業界基準。政府および業界の同業者と協力して、フロンティアモデルプロバイダー向けの共通の、自主的なセキュリティおよび評価基準を策定します。政府がこの分野全体に適用できる評価、ツール、およびベストプラクティスに貢献します。

この協力が、提案されたコンセンサス産業フレームワークと共に、業界全体の体系的なルールの基盤となり、AI のリスクと利益に関する効果的なグローバル調整の始まりのテンプレートさえ提供することを願っています。

これらのルールは、強力な規制に成文化され、フロンティアモデル開発者全体に平等に適用されるべきです。AI リリースにおける政府の関与には、サイバー防御者などが強力なモデルへのアクセスについて必要とする確実性を提供する、持続可能で透明性のあるプロセスが必要です。

上記の方法で政府との連携を深めることを楽しみにしています。また、この混乱の間、辛抱強く対応してくださったユーザーの皆様、そして Fable 5 と Mythos 5 を再び利用可能にするために私たちと共に尽力してくださった研究者および業界パートナーの皆様に感謝いたします。