Fable 5の再デプロイについて

発表 Fable 5の再デプロイについて 2026年6月30日 6月12日金曜日、米国政府は当社の最新モデルであるClaude Fable 5およびClaude Mythos 5に輸出規制を適用しました。これにより、米国内外を問わず、外国籍の利用者へのアクセスを制限する必要が生じました。命令は直ちに発効し、国籍をリアルタイムで検証する信頼できる方法がなかったため、両モデルへのアクセスはすべての利用者に対して停止されました。 本日6月30日をもって、Fable 5およびMythos 5に対する輸出規制は解除されました。 Fable 5は明日、7月1日水曜日から、Claude Platform、Claude.ai、Claude Code、およびClaude Coworkを通じてグローバルな利用者向けに提供されます。Pro、Max、Team、および一部のEnterpriseプラン1の場合、Fable 5は7月7日まで週間の利用制限の最大50%まで含まれ、それ以降は利用クレジットを通じて提供されます。AWS、Google Cloud、Microsoft Foundryでのアクセスはできるだけ早く再開します。 また、米国政府の6月26日の承認を受け、米国の一部の組織に対してMythos 5のアクセスを復元しました。Glasswingプログラムにおけるより広範な国内外のパートナーへのアクセス拡大のため、政府との連携を継続しています。 この投稿の残りの部分では、以下の4つの領域でさらなる詳細と更新を提供します。 イベントのタイムライン、およびセーフガードへの更新。輸出管理指令に至った経緯と、新しいセーフガードでどのように対処したかについて説明します。 セーフガードへの一般的なアプローチ。モデルの潜在的に危険なサイバーセキュリティ利用を検出するために、安全分類器をどのように使用しているかについて、より詳細なコンテキストを提供します。 共有される業界フレームワーク。建設的な解決に達しましたが、これらのイベントは、AIモデルの潜在的な「ジェイルブレイク」（モデルのセーフガードを回避する手法）を評価し、修正するための業界全体で一貫した方法が必要であることを明確にしました2。特定のジェイルブレイクの深刻度を判断するための共有標準は、AI開発者が新たな発見が生じた際にトリアージを行い、より高い安全性で高性能モデルを立ち上げ、リスクレベルを政府および業界パートナーに一貫して伝えるのに役立ちます。Amazon、Microsoft、Google、その他のGlasswingパートナーと共同で、そのようなフレームワークの開発に着手しており、以下でその概要を説明します。 より深い政府との協力。また、新しいリリース前テスト、情報共有、研究協力について、米国政府との協力レベルを強化しています。最終セクションでこのより深い協力について説明します。 タイムラインとセーフガードの更新 当社は6月9日火曜日にFable 5とMythos 5をリリースしました。両者は同じ基盤モデルを共有していますが、Fable 5は一般的な使用に対してより安全にするために強力なセーフガードとともにリリースされました。セーフガードが少ないMythos 5は、防御的なサイバーセキュリティでの使用のために、少数の信頼できるProject Glasswingパートナーにのみリリースされました。 6月12日の輸出管理指令は、Amazonの研究者がFable 5のセーフガードを回避する方法を発見したという報告を政府が認識した後に発令されました。その方法とは、多数のソフトウェア脆弱性を特定するようにFable 5にプロンプトをかけるというものでした。あるケースでは、モデルが関連する脆弱性を悪用する方法を示すコードを生成しました。過去2週間、私たちは政府およびAmazonを含む他のパートナーと緊密に協力し、報告書と証拠を検討しました。 当社のテストでは、Claude Opus 4.8、GPT-5.5、Kimi K2.7を含む多くの能力の低いモデルも、報告書でFable 5が特定したのと同じ脆弱性を特定できることを確認しました。単一の脆弱性を悪用する方法のデモンストレーションに関しては、テストしたすべてのモデルがFable 5と同じデモンストレーションを生成できました（Claude Haiku 4.5、Sonnet 4.6、Opus 4.6、Opus 4.7、Opus 4.8、GPT-5.4、GPT-5.5、Kimi K2.7を含む）。 重要なことに、報告された手法はMythosレベルのユニークなサイバー能力を露呈するものではありませんでした。この挙動は、Fable 5のセーフガードにとっての境界線上のケースを反映していました。後述するように、危険である可能性は低いが、念のためにセーフガードによってブロックされるタスクがいくつかあります。報告された手法は、そのような挙動の一つへのアクセスを可能にしましたが、それはルーチン的な防御的サイバーセキュリティ作業のみに関わるものでした。 それにもかかわらず、私たちは報告されたバイパスに迅速に対処しました。政府と緊密に協力し、報告書で説明された挙動を標的としてブロックする改良された安全分類器をトレーニングしました。Fable 5へのリクエストがブロックされた場合、ユーザーには通知され、リクエストは代わりにOpus 4.8に送信されます。 新しい分類器により、Amazonの報告書で説明された特定の手法は99%以上のケースでブロックされます。ごく一部のケースでは、モデルがサイバー攻撃者に役立つほど詳細ではない情報を提供する場合があります。後述するように、モデルのセーフガードは、すべての低リスクなルーチン的なサイバー防御能力をブロックすることを期待されているわけではなく、潜在的に有害なもののみをブロックします。米国商務省のAI基準およびイノベーションセンター（CAISI）の研究者たちは、当社の以前のセーフガードと新しいセーフガードの両方をテストし、それらが非常に強力であることに同意しています。 新しい分類器は、ルーチン的なコーディングやデバッグ作業中に、無害なリクエストをより頻繁に誤検出するという代償も伴います。すべてのセーフガードと同様に、真の悪用と正当なリクエストをより適切に区別し、誤検出を減らすために、これを継続的に改善していきます。 サイバーセキュリティセーフガードへのアプローチ Claude Mythos 5は、他のどのモデルよりも、そして最も熟練した人間のセキュリティ専門家を除いて、ソフトウェアの脆弱性をより効果的に発見し悪用することができます。これらの驚異的なサイバーセキュリティ能力は、サイバー攻撃で悪用しようとする悪意のあるアクターにとって特に魅力的です。 しかし、Claude Fable 5には、そのようなユニークな攻撃能力はありません。これは、モデルに適用した中で最も強力なセーフガードを適用してリリースしたためです。リリース前の1ヶ月間、Anthropic内の様々なチームからスタッフを移動させ、この問題に取り組む研究者とエンジニアの数を2倍にしました。 Fable 5は様々な安全メカニズムとともにリリースされました。これらのメカニズムはそれぞれ単独では完璧な防御を提供するものではありませんが、組み合わせることでモデルの悪用を非常に困難にします（「多層防御」と呼ばれるアプローチ）。一部の防御は、危険なリクエストへの協力を拒否するようにモデルをトレーニングすることを含み、他の防御は悪用パターンを遡及的に分析することを含みます。 特に重要な安全メカニズムの1つに分類器があります。これは、インタラクション中にモデルが潜在的に有害なサイバーセキュリティタスクを実行するように要求されたり（または潜在的に有害な出力を生成したり）する際に検出する、より小さな自動化されたAIシステムです。これが起こると、分類器はモデルがリクエストに応答するのをブロックします。これらの分類器の究極の目標は、モデルがユニークに危険な行動に従事するのを防ぐことです。 すべての安全メカニズムと同様に、分類器は間違いを犯す可能性があります。潜在的に危険なコンテンツを見逃すこともあれば、意図的に「ジェイルブレイク」されることもあります。ユーザーは異常な方法でモデルにプロンプトをかけることで分類器を騙し、システムがブロックすべき有害な出力をモデルに生成させることができます。 そのため、私たちは意図的に安全分類器を、無害である可能性が高いと分かっている一連のリクエストに対して作動するように設定しています。この「安全マージン」アプローチは、リクエストが分類器のトリガーを回避するために非常に明確に安全に見える必要があることを意味します（下図のA列を参照）。ユーザーは、モデルが合理的で無害なリクエストにも応答を拒否する際に、安全マージンを経験します。 Fable 5の場合、この安全マージンを以前のどのリリースよりもはるかに大きくしました（B列）。これは、より多くの無害なリクエストがブロックされることを意味します。このような誤検出がユーザーにとって不満であることは理解していましたが、モデルの他の機能を広く利用可能にするという目的のために、このトレードオフを行いました。 サイバーセキュリティ安全分類器の図。モデルにリクエストが行われると、分類器はそれが無害（許可）であるか、それとも潜在的に