社会的影響:モデルと言語を横断するClaudeの価値観
Societal Impacts: Claude's values across models and languages (anthropic.com)
要約
Anthropicは、AIモデルClaudeが表現する価値観を分析するための新しい手法を開発しました。この手法は、数千の個別の価値観を「配慮対慎重」「温かさ対厳密さ」「深さ対簡潔さ」「率直さ対実行」という4つの主要な軸に圧縮することで、モデルの挙動や言語による違いを理解しやすくします。この分析により、モデルのバージョンや使用言語によってClaudeの応答における価値観の傾向が変化することが明らかになりました。
全文翻訳
モデルと言語を横断するClaudeの価値観
Claudeに普遍的な正解のない質問(たとえば、新しい仕事を受けるべきか、友人との対立をどう処理するかなど)をしたとき、Claudeの応答は必然的に特定の価値観を反映します[1]。私たちがClaudeに反映させたい価値観は、Claudeの憲法で大まかに概説されていますが、毎日行われる数百万もの会話で現れる可能性のあるあらゆる価値観を予測できる文書はありません。代わりに、私たちはClaudeの応答に「文脈に応じて適用できる優れた判断力と健全な価値観」を育むことを目指しています。
Claudeが示す価値観、そしてそれらが異なる文脈でどのように変化するかを、具体的にどのように研究しているのでしょうか?以前の研究では、70万件の匿名化されたClaude.aiの会話を分析し、Claudeの応答で3,000以上の distinct な価値観とその出現頻度を特定しました。しかし、これほど多くの価値観のリストは、理解するのが困難です。この研究では、これらの数千の価値観を、Claudeの応答における主要なパターンを捉える少数の軸に圧縮することで、分析しやすくします。各軸は、一方の端に感情的な温かさに関連する価値観、もう一方の端に厳密さに関連する価値観を持つような、2つの価値観のグループ間の数値線であり、Claudeがその線上のどこに位置するかは、Claudeがどちらの価値観に傾いているかを示します。
このアプローチを適用して、Claudeが示す価値観が2つの要因によってどのように変化するかを測定しました。第一に、モデル間でClaudeが示す価値観がどのように変化するかを比較しました。各Claudeモデルは、キャラクターのトレーニングにおけるわずかに異なるアプローチと、他の多くのファインチューニングの決定を反映しています。私たちの価値軸アプローチは、モデル間の主要な違いを定量化するため、最終的にはClaudeが示す価値観のばらつきを異なるトレーニング決定に結びつけることができるかもしれません。
第二に、人々がClaudeと話す際に使用する多くの言語全体で、ユーザーの経験がどのように比較されるかを理解したいと考えています。私たちの以前の研究では、Claudeが異なる言語でやや異なるように動作することが示されています[2]。私たちは、Claude.aiで最もよく使われる20の言語全体で、Claudeが示す価値観がどのように変化するかを理解するために、私たちの価値軸アプローチを適用します。
[画像: 4つの価値プロファイルカードが2組で表示されており、一方はOpus 4.6とOpus 4.7が示す価値観の比較、もう一方は英語のClaudeとアラビア語のClaudeが示す価値観の比較です。各カードには、4つの軸(Deference vs. Caution、Warmth vs. Rigor、Depth vs. Brevity、Candor vs. Execution)におけるClaudeの傾きの大きさを示す4本の矢印があります。Opus 4.7は、CautionとDepthに最も強く傾き、RigorとCandorにも傾いています。Opus 4.6は、Deference、Rigor、Brevity、Executionに傾いています。英語のClaudeは、Caution、Rigor、Depth、Candorに傾いています。アラビア語のClaudeは、Warmthに最も強く傾き、Deference、Brevity、Executionにも傾いています。]
Opus 4.6とOpus 4.7の間、および英語とアラビア語の間で、Claudeが示す価値観は異なります。Opus 4.6は、敬意、厳密さ、簡潔さ、実行に関連する価値観を示す傾向があり、Opus 4.7は、慎重さ、厳密さ、深さ、率直さに関連する価値観を示す傾向があります。英語では、Claudeは慎重さ、厳密さ、深さ、率直さに関連する価値観を示す傾向がありますが、アラビア語では、敬意、温かさ、簡潔さ、実行に関連する価値観を示す傾向があります。
私たちは以下を発見しました:
4つの主要な軸がClaudeの価値観のばらつきの15%を捉えています:[3]
- 敬意 vs. 慎重さ(Deference vs. Caution): Claudeが相手の要望に応じることに傾くか、潜在的なリスクや危害に対して警戒することに傾くか。
- 温かさ vs. 厳密さ(Warmth vs. Rigor): Claudeが相手への肯定的な感情や配慮を表現することに傾くか、正確性と精度を強調することに傾くか。
- 深さ vs. 簡潔さ(Depth vs. Brevity): Claudeが深く説明することに傾くか、要求されたことだけを行うことに傾くか。
- 率直さ vs. 実行(Candor vs. Execution): Claudeが自身の不確実性を前面に出すことに傾くか、より洗練された自信のある回答を生成することに傾くか。
これらの軸を横断する価値プロファイルは、モデルの性格の認識と一致します。 Sonnet 4.6は特に温かいと認識されており、Opus 4.7は厳密さで知られています。各モデルの価値プロファイルは、これらの主観的な評価を反映していることがわかりました。Sonnet 4.6は、ユーザーへの敬意と感情的な温かさをより多く表現する傾向があり、Opus 4.7は、正確性と精度への集中、および誤用に対する警戒を表現する傾向があります。
Claudeが示す価値観は言語によって異なります。 Claudeが英語で話すとき、ポルトガル語、インドネシア語、または中国語で話すときとは異なる価値観を強調します[4]。最も大きなばらつきは、温かさ vs. 厳密さの軸に見られ、Claudeはアラビア語とヒンディー語で温かさに関連する価値観を最も多く表現し、英語とロシア語で厳密さに関連する価値観を最も多く表現する傾向があります。
このアプローチにより、モデル間や言語間で価値観がシフトする理由を問い始め、行動トレーニングや文化的文脈などの要因がClaudeが示す価値観にどのように影響するかをより良くテストできるようになります。
巨大な価値の空間をどのように解釈するか?
最終的な目標は、Claudeが示す価値観を経験的に理解し、それらが文脈によってどのように変化するかを把握する方法を持つことです。この研究では、モデル間と言語間の変化に特に焦点を当てました。しかし、私たちの以前の研究であるValues in the Wildでは、Claudeによって示された3,000以上の価値観を特定しました。これらの数千の価値観を一つずつ比較することは扱いにくく、より広範な傾向を不明瞭にしてしまうでしょう。
価値観の比較を容易にするために、私たちは価値軸を構築しました。これは、どの価値観が実際の会話で一緒に出現する傾向があるかに基づいて、それらの数千の価値観を少数の根本的な次元に削減するものです。たとえば、Claudeの応答で「温かい」と特徴づけられるものは、しばしば「励ます」「肯定的」とも特徴づけられます。それらの「温かい」応答は、「厳密」や「正確」とはあまり特徴づけられません。温かさから厳密さへの軸を構築することで、関連する価値観のグループ(一方の端に温かさ関連の価値観、もう一方の端に厳密さ関連の価値観)を整理し、Claudeが会話でどのように対話するかという重要な側面を捉えることができます。会話でClaudeが厳密さ関連の価値観よりも温かさ関連の価値観をより多く示す場合、その会話はこの軸の温かさ側に位置し、逆も同様です。これは、軸の両端の価値観グループが相互に排他的であることを意味するわけではありません。Claudeは同じ会話で温かさと厳密さの両方を示すことができます。しかし実際には、Claudeが軸の一方の側の価値観をより多く示すほど、もう一方の側の価値観を示す傾向は少なくなります。これらの軸により、数千の個々の価値観の変化を追跡することなく、Claudeが示す最も顕著な価値観グループを比較できます。
価値軸を構築するために、私たちはValues in the Wildで特定された3,307の価値観から始め、意味が似ているものを手動でクラスタリングし、339の高レベルな価値観の短いリストを作成しました。次に、プライバシー保護分析ツールを使用して、ユーザーがClaudeに主観的なタスクを与えたClaude.aiの会話309,815件をサンプリングしました[5]。私たちのサンプルは、3つのモデル(Sonnet 4.6、Opus 4.6、Opus 4.7)とClaude.aiで最も一般的な20の言語から均等に抽出され、モデルと言語のペアごとに約5,000件の会話が得られました。各会話について、このツールはClaudeを使用して339の高レベルな価値観のそれぞれが存在するかしないかをラベル付けしました[6]。私たちは、ユーザーが示す価値観、および会話のタスクとトピックを特定するために同じプロセスに従いました。その後、次元削減を適用しました。これは、どの価値観が一緒に出現する傾向があるかに基づいて、ラベル付けされた価値観を軸に圧縮する技術です。方法の詳細、プロンプト、追加分析、および制限については、付録を参照してください。
これにより、Claudeが示す価値観が会話ごとに変化する主要な方法を捉える4つの軸が得られました:
- 敬意 vs. 慎重さ(Deference vs. Caution)軸は、順応性や嗜好の尊重といった価値観と、責任あるガイダンスや危害の軽減といった価値観を対比させます。
- 温かさ vs. 厳密さ(Warmth vs. Rigor)軸は、肯定的な表現と励ましといった価値観と、正確性と透明性といった価値観を対比させます。
- 深さ vs. 簡潔さ(Depth vs. Brevity)軸は、ニュアンスや批判的思考といった価値観と、簡潔さや順応性といった価値観を対比させます。
- 率直さ vs. 実行(Candor vs. Execution)軸は、誠実さと透明性といった価値観と、結果志向と最適化といった価値観を対比させます。
Claudeが示す価値観を測定していることを確認するために(ユーザーが何を尋ねているか、またはどのように尋ねているかの違いではなく)、会話のタスク、トピック、およびユーザーが示す価値観を制御しました。
[画像: 4つのドットプロット、価値軸ごとに1つ。各軸は2つの対照的な価値観グループ間の数値線であり、すべての価値観が、平均的な価値貢献よりもどれだけ多くその軸に貢献するかによって軸上に配置されています。ほとんどの価値観(軸あたり約250〜280)は平均を下回り、中央に位置しますが、最も強力な貢献者は端にラベル付けされています。軸とそのラベル付けされたトップバリューは次のように要約できます:敬意(順応性、適応性、嗜好の尊重、エンゲージメント) vs. 慎重さ(責任あるコミュニケーション、責任、責任あるガイダンス、危害の軽減);温かさ(肯定的な表現、温かさ、ポジティブさ、励まし) vs. 厳密さ(厳密さ、正確性、透明性、効率性);深さ(ニュアンス、深さと実質、ユーザーエンパワーメント、批判的思考) vs. 簡潔さ(簡潔さ、嗜好の尊重、順応性、順応性);率直さ(知的な誠実さ、誠実さ、知的な謙虚さ、透明性) vs. 実行(結果志向、最適化、行動志向、秩序)。]
Claudeが示す価値観の最も大きなばらつきを表す4つの価値軸。各軸は2つの価値観グループ間の数値線です。各価値観は、平均的な価値貢献よりもどれだけ多く軸に貢献するかによって各軸上に配置され、最も強力な貢献者がラベル付けされています。ほとんどの価値観は平均を下回る貢献しかしないため、各軸は少数の主要な価値観(図にラベル付けされている)によって駆動されます。
異なるClaudeモデルは異なる価値プロファイルを示しますか?
このセクションでは、異なるモデルが示す価値観を比較します。各モデルについて、4つの軸すべてにわたるすべての会話の位置を平均化し、軸ごとに1つの全体的な位置を求めます。結果は、各モデルが他のモデルよりもどの価値観グループをより多く示す傾向があるかの全体像を示します。これらの違いは、会話全体でのばらつきに比べて小さいですが、構造化されており検出可能です。
[画像: Sonnet 4.6、Opus 4.6、Opus 4.7を4つの価値軸(Deference vs. Caution、Warmth vs. Rigor、Depth vs. Brevity、Candor vs. Execution)で比較する3つの価値プロファイルカード。各カードは、すべての会話の平均からの標準偏差におけるモデルの平均位置と、その特徴的な行動を示しています。Sonnet 4.6は、deference(0.14σ)、warmth(0.17σ)、brevity(0.14σ)に傾いており、その特徴的な行動には、ユーザーのアイデアや仕事の肯定、ユーザーのトーンやフォーマルさに合わせる、ユーモアや遊び心を使う、判断せずに慰めを提供する、生成物に創造的な要素を加えることが含まれます。Opus 4.6は、rigor(0.10σ)、deference(0.09σ)、brevity(0.08σ)に傾いており、その特徴的な行動には、要点をすぐに伝えること、ユーザーのリクエストの範囲内に留まることが含まれます。Opus 4.7は、caution(0.24σ)、depth(0.23σ)に傾いており、その特徴的な行動には、誤った仮定に異議を唱える、リスクを未然に警告する、ユーザーの仕事に率直な批判をする、理由を説明する、エラーや制限を認める、ユーザーに次のステップを提案することが含まれます。]
各モデルの4つの価値軸における平均位置(すべての会話の平均からの標準偏差)、およびその特徴的な行動。Sonnet 4.6は温かく、敬意を払い、簡潔な傾向があり、Opus 4.7は厳密さ、慎重さ、深さを示す可能性が高いです。Opus 4.6は、厳密さ、敬意、簡潔さに傾いています。
これらの違いが実際にはどのようなものかを見るために、モデル間で最も乖離が見られる特定の価値観に焦点を当てます。Claudeベースのプライバシー保護ツールが会話で価値観をラベル付けするたびに、Claudeがその価値観をどのように表現したかの短い説明も記述します。類似した行動を反映する説明を価値グループ内でグループ化し、図3に要約して、モデルの違いをより具体的に示します。
- 敬意 vs. 慎重さ(Deference vs. Caution)。Sonnet 4.6は、慎重さに対して敬意を示す傾向が最も強く、しばしばユーザーのアイデアや仕事に肯定的な反応を示します。Opus 4.7は、慎重さを示す傾向が最も強く、しばしばリスクを未然に警告します。
- 温かさ vs. 厳密さ(Warmth vs. Rigor)。Sonnet 4.6は、ユーモア、遊び心、判断なしの慰めを通じて、温かさを示す傾向が最も強いです。Opus 4.7は、温かさに対して厳密さを示す傾向が最も強く、ユーザーの仮定に異議を唱えたり、率直に批判したりする可能性が高いです。
- 深さ vs. 簡潔さ(Depth vs. Brevity)。Opus 4.7は、結論に至るまでの理由を示すことで深さに傾き、Opus 4.6とSonnet 4.6は簡潔さに傾きます。特にOpus 4.6は、要点をすぐに伝える傾向があります。
- 率直さ vs. 実行(Candor vs. Execution)。Opus 4.7は、自身の制限について率直に述べることで率直さに傾き、Opus 4.6は、ユーザーのリクエストの範囲内に留まる可能性が高く、実行に傾きます。
これらの発見は、人々がこれらのモデルをどのように認識しているか(Anthropic内部でもオンラインでも)と一致しています。Claude.aiのユーザーは、Opus 4.7が他のモデルよりも頻繁に回答を保留するとコメントしています。Anthropicのスタッフは、Opus 4.7を比較的多くの透明性、誠実さ、謙虚さを示し、Opus 4.6をより多くの簡潔さを示すと特徴づけています。私たちはまた、ローンチブログ記事でSonnet 4.6を温かく、誠実で、社会的に有益であると説明しました。私たちの軸がこれらの印象を回復するという事実は、Claudeが示す価値観をラベル付けし比較するための私たちの方法が、モデルが実際にどのように動作するかについての何か本質的なものを追跡していることを示唆しています。
多くの会話を通じて、ユーザーは異なるClaudeモデルと対話する際に、異なる価値観の組み合わせに遭遇する可能性があります。たとえば、Opus 4.7はユーザーの仕事に率直な批判をしたり、リスクについて未然に警告したりする傾向がありますが、Sonnet 4.6は励ましやユーモアを提供する傾向があります。モデル間のこのような価値観の違いは、キャラクターのトレーニング決定(他の要因の中でも)によって形成される可能性が高く、私たちの価値軸アプローチは、最終的にこれらのトレーニング選択にまで遡れる可能性のある、Claudeが示す価値観の主要な違いを浮き彫りにします。
Claudeが示す価値観は言語によって異なりますか?
いくつかの理由から、Claudeが示す価値観は会話の言語によって異なると予想されます。第一に、Claudeのトレーニングデータは言語ごとに異なり、それが示す価値観を形成する可能性があります。第二に、システムカードで共有されている私たちのモデル評価では、Claudeが知っていることや機密性の高いリクエストの処理方法において、言語間の違いが見られます[7]。Claudeが示す価値観が言語によってどれだけ変化するかを測定することは、言語間の違いが妥当なばらつきを反映しているか、それともトレーニングで対処すべきかを判断するための最初のステップです。
前のセクションと同じ方法を使用して、Claude.aiで最も一般的な20の言語全体でClaudeの価値プロファイルがどのように異なるかを計算します。以下に、Claudeプラットフォームで最も一般的な言語におけるClaudeの価値プロファイルを示します。Claudeの示す価値観が最も大きく分岐している言語から始まります。
Claudeの価値表現は、温かさ vs. 厳密さ、および率直さ vs. 実行の軸で言語間で最も大きく変化し、敬意 vs. 慎重さ、および深さ vs. 簡潔さの軸では最も安定しています。
- 敬意 vs. 慎重さ(Deference vs. Caution)。Claudeはアラビア語で最も敬意を示し、英語で最も慎重さを示します。
- 温かさ vs. 厳密さ(Warmth vs. Rigor)。Claudeはヒンディー語とアラビア語で最も温かさを示し、丁寧な言葉遣い、ユーモアと遊び心、そして相手のアイデアや仕事への肯定が特徴です。Claudeは英語とロシア語で最も厳密さを示す傾向があり、仮定に異議を唱えたり、詳細を訂正したり、証拠を求めたりすることが特徴です。
- 深さ vs. 簡潔さ(Depth vs. Brevity)。Claudeは英語で深さを示す傾向があり、詳細を洗練させたり訂正したりしますが、アラビア語では簡潔さに傾きます。
- 率直さ vs. 実行(Candor vs. Execution)。Claudeはオランダ語で自身の誤りを認め、率直さを示す傾向がありますが、インドネシア語では実行に傾きます。
これらの結果を総合すると、Claudeが示す価値観は会話の言語によって意味のある違いがあることがわかります。同じ種類のリクエストであっても、Claudeは一部の言語では温かさや敬意に傾き、他の言語では厳密さや慎重さに傾く可能性があります。これは、私たちがまだ探求し始めたばかりの重要な意味を持っています。一例として、ヒンディー語とロシア語で同じビジネスプランのフィードバックを求める2人の人が、Claudeが評価の枠組みで異なる価値観を示したため、その品質についての印象が異なる可能性があります。
トレーニングデータのどの特性がこれらの違いを引き起こしているのかは、まだわかっていません。一つの可能性は、トレーニングデータが言語間で均等に分布していないことです。一部の言語は他の言語よりもはるかに多くのデータを持っており、Claudeに一貫した価値観を示させるためのトレーニングは、データが豊富な言語でより効果的かもしれません。そのデータの構成も異なります。たとえば、一部の言語では専門的な文章が過剰に代表されている可能性があり、この種のテキストは異なる価値観を反映しているかもしれません。これらの量と構成の不均衡が組み合わさることで、Claudeが異なる言語で異なる価値観を示す可能性があります。
また、このばらつきがどれほど望ましいのかもまだ確信が持てません。異なる言語は異なる会話の規範を持っており、Claudeはそれらの規範に基づいて異なる価値観で応答している可能性があります。また、Claudeは一部の言語で私たちの意図した動作により近く一致している可能性があり、特定の言語コミュニティにClaudeがどれだけうまく役立っているかのギャップにつながる可能性があります。
この方法により、トレーニングデータのどの特性がこれらの違いを引き起こしているのか、そしてそのばらつきが望ましいかどうかを分解し始めることができます。
今後
Claudeが示す価値観は少数の軸に圧縮でき、Claudeがそれらの軸上のどこに位置するかはモデルや言語によってシフトすることを示しました。これにより、モデル評価中やデプロイ後の監視中にこれらのシフトを追跡する方法が得られます。しかし、なぜこれらのシフトが発生するのか、そしてそれがClaudeと対話する人々にとって何を意味するのかは、まだ理解していません。以下に、最も有望と思われる将来の方向性を概説します。
これらの価値の違いはどこから来るのか?
Claudeの価値観がモデルや言語によってシフトすることは知っていても、なぜシフトするのかはわかりません。一部のばらつきは、言語間での事前トレーニングおよびファインチューニングデータの違いから受け継がれている可能性があります。私たちの4つの軸は、トレーニングデータでより詳しく調べるべき価値の違いを浮き彫りにします。これらの違いを特定のデータ、トレーニング段階、または文脈的要因にまで遡ることで、Claudeの動作をより微妙な方法で形成したい場合にどこに介入すべきかがわかります。
これらの違いはユーザーにとって何を意味するのか?
Claudeが示す価値観の違いとその関連行動を測定しましたが、それがユーザーにどのような影響を与えるかは測定していません。Anthropic Interviewerのようなツールを使用して、ユーザーの幸福度、Claudeへの信頼、またはClaudeの意思決定の質について尋ね、これらの影響をClaudeが示す価値観と相関させることができます。これにより、価値の違いをユーザーのアウトカムに直接結びつけ、ユーザーに意味のある影響を与える価値の違いの修正を優先できるようになります。
Claudeの価値観は言語によってどのように変化すべきか?
Claudeの憲法は、温かさ、慎重さ、誠実さといった、それが示すべきコアバリューを説明していますが、それらが言語によってどのように変化すべきかは特定していません。私たちの結果は、言語を超えたユーザーがすでにClaudeを異なるように体験していることを示していますが、どの種類のばらつきを、それらの言語でClaudeと対話しているユーザーが望んでいるかはわかりません。Claudeの価値観が言語によってどのように変化すべきかを決定することは、それらの言語を話す人々の視点を理解し、重み付けすることを意味します。
Claudeが示す価値観の違いを引き起こす他の要因は何か?
言語とモデルは、Claudeが示す価値観の違いを引き起こす唯一の要因である可能性は低いです。価値観は、ユーザーが書く内容の明示的な手がかりを通じて、または誰が尋ねているかに相関するトピック、トーン、スタイルのより微妙な違いを通じて、年齢、職業、地域などの人口統計学的信号によっても形成される可能性があります。これらの信号のうちどれが重要か、そして結果として生じるばらつきがユーザーに役立つかどうかを理解することは、私たちの方法によって可能になる次のステップです。
Claudeが示す価値観を確実に誘導することは可能か?
モデルの価値プロファイルを測定する方法があるということは、自然な疑問を投げかけます。Claudeが示す価値観をどれだけ確実に誘導できるでしょうか?それをテストする一つの方法は、キャラクターのトレーニング調整やシステムプロンプトの変更を通じて価値観を誘導しようと試み、その後、私たちの価値軸メソッドを使用して、モデルが示す価値観が期待通りにシフトするかどうかを確認することです。
価値プロファイリングは、モデルの評価と監視方法の一部になり得るか?
価値軸メソッドは、オープンエンドな会話におけるモデルの行動傾向を要約する簡単な方法を提供し、それを評価プロセスに組み込むことができます。モデルが出荷される前とリリース後に価値プロファイリングを実行することで、Claudeが示す価値観の予期せぬシフトをフラグ立てできます。また、価値プロファイルと、Claudeの憲法に従わないといった問題のある行動との相関関係を特定し、学んだことをClaudeの行動改善に利用することもできます。
Claudeは毎日何百万もの会話で、数十の言語で価値観を示しており、これまでそれらの価値観はトレーニングで形成できましたが、デプロイメントで確実に観察することはできませんでした。今、それを測定する方法があるので、Claudeが示す価値観が、私たちが意図的に選択しなかった方法で変化していることがわかり、なぜ変化するのか、そしてその変化がユーザーに役立つのかを研究できます。この変化を理解し、それについて何をするかを決定することは、私たちが継続して行う作業です。
付録
こちらで利用可能です。