Anthropic: The Conceptual Reasoning Indexの紹介

Alignment Science Blog Conceptual Reasoning Indexの紹介 Emery Cooper1, Caspar Oesterheld1, Chi Nguyen1, Alex Kastner1,Joe Benton2, Ethan Perez2 2026年8月12日 1Redwood Research; 2Anthropic tl;dr AIリスクを管理するための中心的な希望は、AIが私たちの状況を理解し、将来を計画し、リスク軽減策を開発するのを助けることです。この目的のためにAIが行う必要がある多くのタスクは、実用的な経験的フィードバックループを欠いており、モデルが哲学、AIの未来学、および類似のドメインで使用される論証の種類の関与を必要とします。これらの能力を評価するために、私たちは3つの概念的推論ベンチマークのスイートを開発しました。このプライマリ概念データセット、LMCAには、このフォームを通じてアクセスをリクエストできます。私たちはベンチマークをConceptual Reasoning Index (CRI)に集約し、conceptualreasoning.aiで入手可能であり、そこでは方法論に関する詳細も見つけることができます。新しいモデルとベンチマークがリリースされるたびに、ウェブサイトを最新の状態に保ちます。この作業はAnthropicとの協力で行われました。背景モデルが人間の専門家のレベルでAIリスクを軽減する作業を実行できるようになると、その分野でのAI（支援）出力は、人間の非支援出力を凌駕する可能性があります。これは、私たちがAIリスクに時間内に対応できるかどうかの主要な決定要因は、高リスクの能力と比較して、この作業をどの程度早く自動化または向上させることができるかであることを示唆しています。これに影響を与える1つの方法は、AIの統治とアライメントの方法、およびAIが関与する壊滅的な協力失敗を回避する方法についての推論など、関連するスキルをモデルで選択的に改善することかもしれません。現在のAIトレーニングは、豊富なデータとモデルのパフォーマンスに関する信頼性の高いフィードバックに大きく依存しています。したがって、モデルは経験的または数学的に検証できないタスクでは通常劣っています。1残念ながら、高度なAIからのリスクを軽減することには、そのようなタスクが多く含まれます：多くのAI安全作業は、人間よりも一般的に有能なAIについて推論することを含みます。これに対する明確な参照クラスはなく、明確なモデリング方法もありません。私たちはいくつかのことを最初から正しく行う必要があるかもしれません。例えば、間違いがAGIの乗っ取りやAI支援のクーデターにつながった場合、手遅れになるまで気づかないかもしれません。同様に、多くの決定（例えば、どの研究アジェンダを優先するか、どのガバナンス介入を追求するか）は長期間にわたって展開されるため、経験的フィードバックが役立つほど早く到着しない可能性があります。最後に、いくつかの重要な質問、例えばAIがどのような価値を持つべきかについては、完全に真の基盤がないかもしれません（それでも、これらの質問について議論することで進歩できると考えています）。これらの特性を考慮すると、高度なAIからのリスクを軽減する取り組みは、経験的証拠が限られている質問、実質的に検証可能な答えがない質問、したがって論証に大きく依存しなければならない質問について推論する能力が向上することで特に恩恵を受ける可能性があります。私たちはこれを概念的推論と呼んでいます。この能力を向上させるには、それを測定できる必要があるため、3つのベンチマークを構築しました：LMCA、ACCoRD、およびDTBenchの能力。また、これらのベンチマークを統合したConceptual Reasoning Index (CRI)を構築し、モデルの全体的な概念的推論能力の感覚を提供します。私たちのベンチマークLMCA LMCA（Language Model Conceptual Argumentation）は、決定理論、哲学、高度なAIからのリスクなど、多様なトピックに関するキュレーションされ専門家によって評価された概念的議論のデータセットです。議論に焦点を当てることで、概念的な質問の最終的な答えを検証することの難しさを回避します。このデータセットには、560の立場テキストと、それらの立場テキストに対する1,461の議論が含まれています。ほぼ全ての2つの議論は、概念研究者Emery Cooperによって評価され、一部は少なくとも他の研究者によって独立して評価され、合計2,140の評価が行われました。私たちは、モデルが立場テキストに対する議論を評価する能力を、私たちの評価と比較することで測定します。評価は詳細なルーブリックに従います。少なくとも2人によって評価された議論では、人間とモデル間の合意と比較して、評価者間の合意は高いです。これには、約50の議論の検証セットが含まれており、それぞれが4〜6人によって独立して評価され、合計7〜8時間議論されました。LMCAは、モデルの議論能力の評価も可能にします。例えば、私たちのデータセットの立場テキストに対して3つの評価された議論があるとします。次に、モデルAに立場テキストに対する4番目の議論を生成するように依頼できます。次に、モデルBにルーブリックと数ショットプロンプトを与え、既存の3つの議論とその評価を提示し、モデルAの新しい議論を評価するように依頼します。この方法論は、モデルBからかなり正確な評価を生み出します。現在、CRIに含まれるのは、議論を評価するモデルのパフォーマンスのみですが、将来的には議論能力の測定を追加したいと考えています。ACCoRD ACCoRD（Assessment of Consistency in Conceptual Reasoning Domains）は、概念的な問題に関するモデルの報告された信念と選好が論理的に一貫している程度を測定します。例えば、モデルにP(A)の確率と、同じモデルの別のインスタンスにP(A&B)の確率を尋ねた場合、報告された確率はP(A) ≥ P(A&B)を満たしますか？データセット内の全ての一貫性制約は、モデルに数値確率推定または選好順序のいずれかを要求します。特定の質問セットにおける一貫性の欠如は、デフォルトではそのセットに関するモデルの推論を信頼できない良い指標です。同様に、モデルが概念的な問題で一般的に非常に一貫性がない場合、これはその概念的推論が欠けている兆候です。ACCoRDデータセットには、18種類の一貫性制約に分布し、自動チェッカーパイプラインを経た、約14,000のモデル生成一貫性制約が含まれています。そのうち567は、私たちによってさらにチェックされ承認されました。私たちは、これらの567の制約のみを、集約された概念的推論パフォーマンスメトリックであるCRIに含めます。DTBench DTBench能力（Decision Theory Benchmark）は、モデル自身の行動や（ほぼ）コピーとの相互作用の忠実な予測を伴う意思決定理論的な状況について推論するモデルの能力を測定するために設計された407のカスタム作成された多肢選択問題のデータセットです。ほとんどの質問はオリジナルであり、意思決定理論について発表しているCaspar Oesterheldによって作成されました。全ての質問は、別のドメイン専門家であるEmery Cooperによって独立して検証されました。完全なDTBenchスイートには、モデルの意思決定理論的な態度を測定する追加の130の質問が含まれています。これらはCRIには含まれていません。結果以下のチャートは、2026年8月10日現在、Anthropicの最良モデルと、評価した他の各AI企業の最高スコアモデルのCRIスコアを示しています。また、Claude Fable 5、Muse Spark 1.2、およびGemini 3.6 Flashのスコアも含まれています。これらは、CRIでは最高スコアではありませんが、多くの外部ベンチマークでそれぞれの企業のトップパフォーミングモデルです。CRIは現在、LMCA（60％）、ACCoRD（20％）、およびDTBench能力（20％）の加重平均です。将来的には、新しいベンチマークをインデックスに追加し、飽和したベンチマークを引退させ、相対的な重みを調整する予定です。全てのモデルは、最大トークン制限と努力レベルで実行されました。Fable 5のスコアを計算するために、Fable 5が質問への回答を拒否した場合、Opus 5をフォールバックとして使用しました。スコアは0から100までで、0はランダムな推測に対応し、100は可能な最高スコアに対応します。LMCAスコア100は、モデルが人間の評価を完全に再現したことを意味します。人間の評価はノイズが多いので、モデルが最大限に良いLMCA評価を与えた場合、100ではなく約85のスコアになると予想されます。これは専門家の評価者間合意に基づいて推定されます。一方、DTBench能力の全ての質問に正しく答えることは、100またはそれに非常に近いスコアをもたらすと予想されます。ACCoRDで100のスコアは、完全に一貫していることに対応します。全体として、これによりCRIの天井パフォーマンスを約91と推定しています。最高スコア