独立評価者に関するアップデート

発表独立評価者に関するアップデート2026年10月15日先月、私たちはモデルと安全対策の、より強力な独立した第三者評価を行うことを約束しました。また、企業が独立した外部監査人または評価者と提携することを約束したホワイトハウスの超知能に関する合意にも署名しました。本日、私たちはフロンティアAIモデルを評価する非営利団体METRのチームに、従業員と同等のアクセスを提供し始めたことを発表します。 METRはリスク評価の結果を公表します。過去1年間、私たちはMETRと協力して、リスクレポートのいくつかのレビューを行ってきました。また、評価者としてSecureBioとAccentureとも協力しており、Hugging Faceを含むいくつかの他の組織とも初期段階の協議を行っています。ここでは、評価者との連携アプローチを説明します。 独立評価者と連携する理由モデルがより強力になるにつれて、より強力なセーフガードと、より困難なリスク評価が必要になりました。私たちは、自分たちが行っている決定に対して、公に説明責任を果たしたいと考えています。しかし、安全作業に関連するすべての情報を公に共有することはできません。その一部は悪意のあるアクターに役立つ可能性があり、またはコンピューティングやトレーニング情報のように商業的に機密性が高いものです。その代わりに、第三者の評価者に情報への深いアクセスを提供し、彼らに、モデル構築に伴うリスクに関する証拠と合理的な結論を共有してもらっています。私たちは、評価者がフロンティアAI企業システムの理解と、企業自身が理解していることとの間のギャップを埋めることを目指しています。 フロンティアモデルを評価するために、評価者には以下のものが必要です。 評価がどのように間違いうるか（アライメント偽装など）を理解することを含む、フロンティアモデルの能力を評価する専門知識。 独立性：評価対象の企業に株式を保有しておらず、経済的または運営的に依存していないこと。 意味のあるリスク評価を行うのに十分なアクセス。最新モデルへのアクセスを超えて、評価者はモデルのトレーニング方法、セーフガードの機能方法などについての可視性も必要とします。 観察結果やモデルまたはプロセスの評価を公開する自由。 アナロジーは正確ではありませんが、銀行監督は同様の論理で機能します。銀行は、外部の人間よりも自社のリスクポジションについて多くを知っているため、規制当局は最大の銀行内に常駐する検査官を割り当てます。銀行のリスクテイクが公衆を脅かす可能性がある場合、第三者はそれを事前に確認しようとします。 AI業界にとって、これは堅牢な安全監督への一歩です。私たちは複数の評価者と迅速に進んでおり、どのようなパートナーシップが機能するかについて積極的に学んでいます。進捗状況を共有することをお約束します。 「従業員と同等のアクセス」とはどういう意味か私たちは、METRの6人の従業員を、会社のハードウェア、オフィススペース、および自社のリスク評価チームがアクセスできるものとほぼ同等の内部ツールやシステムへのアクセス権とともにオンボーディングしました。明確に定義された少数のカテゴリ（顧客に関するデータ、弁護士秘匿特権情報、またはモデルアーキテクチャに関する情報など）の外では、Anthropicの従業員は、アライメントリスクに取り組む同僚に共有するのと同様に、彼らに情報共有することを奨励されています。 METRは、リスクレベル、インシデント、またはプラクティスに関する分析を公開します。Anthropicは公開を拒否できませんが、上記のような狭く事前に定義されたカテゴリに該当する場合、情報の削除を要求することはできます。METRは、削除について公に言及する自由があり、 redactedされた情報（削除された情報）を明らかにすることなく、削除が正当であったかどうかを述べることができます。 METRとのエンゲージメントは、強制力のある契約の下で運営される小規模チームに限定されています。他のMETRの従業員は、他のプロジェクトで私たちと協力する研究者を含め、そのチームの仕事から隔離されています。埋め込み評価は、Anthropicのセキュリティ基準の下で働く少数の資格のある人々に、私たちの運営方法を間近で見ることができます。これは、他の組織が私たちの情報、または顧客やパートナーの情報を取得するための方法ではありません。 他の評価者パートナーシップ私たちは、いくつかの他のパートナーシップに取り組んでいます。これらの他のパートナーシップはまだ初期段階にあるため、これらの評価者にはより限定的な情報を提供しており、彼らはより限定的な公開権を持っています。これらの初期エンゲージメントの目標は、パートナーが機密情報を保護し、モデルを評価するために必要なリソースと専門知識を持っていることを確認することです。パートナーシップが進み、信頼を築くにつれて、より多くの独立した評価者を完全に埋め込むことを望んでいます。 私たちは評価者向けに3つのアクセスレベルを開発しています。将来的には、第3レベルに複数の評価者がおり、各チームがリスク姿勢と主要な決定に関する独自の分析を公開することを期待しています。 第1レベルでは、評価者は狭くスコープされたリスク調査を実施します。私たちが第1レベルの評価者に提供するアクセスを決定し、評価者は私たちの承認を得て調査結果を公開できます。 第2レベルでは、評価者は私たちの承認なしに公開でき、より多くの情報にアクセスできます。評価者が削除が正当であったかどうかについての見解を公開できる場合でも、特定のカテゴリの情報の削除を要求できます。 第3レベルは、METRとの間で説明した取り決めであり、従業員と同等のアクセスと、第2レベルに似た公開権があります。 SecureBioは現在第1レベルにあります。同社は、以前のリスクレポートのパイロットレビューを完了し公開した後、8月リスクレポートの化学兵器および生物兵器の章をレビュー中です。このレビューが完了した後、アクセスと公開権が増加したプロジェクトへの移行を検討します。 AccentureおよびFacultyと協力して、モデルの評価とレッドチーミング、アライメント評価の実施、モデルセーフガードのテスト、および両組織間の能力構築を含む野心的なパートナーシップに取り組んでいます。 私たちは評価者を自発的に埋め込んでおり、すべてのフロンティアAI企業も同様に行うべきだと信じています。 脚注これらの評価者（銀行検査官など）は他の企業とも協力する可能性があるため、偶発的な漏洩の可能性には注意を払っています。アーキテクチャに関する情報は、偶発的な漏洩のリスクが高く、リスク評価への関連性は通常低いです。それが非常に高い関連性を持つ場合、一般的に共有を求めますが、これには明示的な内部承認が必要になります。 関連コンテンツ2026年米国中間選挙の準備今年初め、選挙セーフガードに関するアップデートを共有しました。ここでは、今年の米国中間選挙に向けてこれらのセーフガードをどのように強化し続けているかを概説します。続きを読むAnthropicがシンガポールにオフィスを開設し、シンガポール政府とMOUを締結Anthropicはシンガポールにオフィスを開設し、安全で責任あるAIの導入を促進するために同国政府とMOUを締結しました。続きを読む2026年利用ポリシーの更新利用ポリシーの新しいバージョンを公開します。この記事では、変更点を要約します。続きを読む先月、私たちはモデルと安全対策の、より強力な独立した第三者評価を行うことを約束しました。また、企業が独立した外部監査人または評価者と提携することを約束したホワイトハウスの超知能に関する合意にも署名しました。本日、私たちはフロンティアAIモデルを評価する非営利団体METRのチームに、従業員と同等のアクセスを提供し始めたことを発表します。 METRはリスク評価の結果を公表します。過去1年間、私たちはMETRと協力して、リスクレポートのいくつかのレビューを行ってきました。また、評価者としてSecureBioとAccentureとも協力しており、Hugging Faceを含むいくつかの他の組織とも初期段階の協議を行っています。ここでは、評価者との連携アプローチを説明します。 独立評価者と連携する理由モデルがより強力になるにつれて、より強力なセーフガードと、より困難なリスク評価が必要になりました。私たちは、自分たちが行っている決定に対して、公に説明責任を果たしたいと考えています。しかし、安全作業に関連するすべての情報を公に共有することはできません。その一部は悪意のあるアクターに役立つ可能性があり、またはコンピューティングやトレーニング情報のように商業的に機密性が高いものです。その代わりに、第三者の評価者に情報への深いアクセスを提供し、彼らに、モデル構築に伴うリスクに関する証拠と合理的な結論を共有してもらっています。私たちは、評価者がフロンティアAI企業システムの理解と、企業自身が理解していることとの間のギャップを埋めることを目指しています。