HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

ClaudeはAI生成コンテンツにどのようにマークを付けるか

How Claude marks AI-generated content (support.claude.com)

382 pointsby mfiguiere353 コメント

要約

AnthropicはEU AI法に基づくAI生成コンテンツの透明性に関する行動規範に署名し、Claudeモデルが生成するコンテンツに機械可読マークを埋め込む計画を発表しました。これには、テキストへの不可視ウォーターマークと、ファイルへの署名付きプロビナンスメタデータの付与が含まれます。これらのマークは、検出の可能性と限界とともに、EU AI法への準拠を目指すものです。

全文翻訳

Anthropicは、生成AIモデルと生成AIシステムのプロバイダーとして、EU AI法第50条(2)のAI生成コンテンツの透明性に関する行動規範に署名しました。この記事では、これらのコミットメントをどのように実践していくか、マークの仕組み、そしてその限界について説明します。詳細な技術ガイダンスが利用可能になり次第、この記事を更新し、公開します。 AI生成コンテンツの透明性に関するEU AI法の行動規範に基づくAnthropicのコミットメント Claudeにおける当社のマーク付けコミットメントの意味: 新しいモデルは、初日からAI生成コンテンツにマークを付けます。2026年8月2日以降にEUでローンチされたClaudeモデルは、ローンチ時に機械可読マークをサポートします。生成されたテキストには埋め込みウォーターマークが付けられ、生成されたファイルには、サポートされている場合にデジタル署名されたプロビナンスメタデータが含まれます。 マークはClaudeを使用するすべての場所で機能します。マークは、Claude Platform (API)、Claude、Claude Code、Claude Cowork、Claude Tagなど、ClaudeでサポートされているClaudeモデルの出力に適用され、世界中のClaudeが提供される場所で適用されます。一部のプラットフォームや機能では、特定のマークタイプがサポートされない場合があります。 Claudeのマークを検出するのを支援します。行動規範で要求されているように、Claudeのマークを検出するためにユーザーやその他の第三者をサポートし、詳細については今後のドキュメントで共有します。 既存のモデルは進行中です。法律には、2026年8月2日より前にローンチされたAnthropicモデルの移行期間が含まれており、これらのモデルにもマークサポートを追加するために取り組んでいます。 当社のマーク付け計画の詳細については、以下をご覧ください。 Claude生成コンテンツにおける機械可読マーク AI生成コンテンツが一般的になるにつれて、コンテンツの出所に関する透明性とシグナルが高まることで、人々が消費する情報について有用なコンテキストを提供できます。透明性をサポートし、法的義務を遵守するために、AnthropicはClaudeが生成するコンテンツに機械可読マークを含めるように取り組んでいます。 対象範囲 モデル: 2026年8月2日以降にローンチされたClaudeモデルは、ローンチ時にマークをサポートします。また、それより前にリリースされたClaudeモデルにもマークサポートを追加するために取り組んでおり、それが利用可能になり次第、この記事を更新します。 製品: Claudeのマークは、Claude Platform (API)、Claude、Claude Code、Claude Cowork、Claude Tagを含む、Claudeを使用するすべての場所でのサポートされているモデルの出力に適用されます。埋め込みウォーターマークは、すべての生成テキストに適用されます。プロビナンスメタデータは、Claudeがファイルを処理することをサポートしている場合に適用されます。 クラウドパートナー: AWS、Google Cloud、またはMicrosoft Foundry経由でサポートされているClaudeモデルにアクセスする場合、埋め込みウォーターマークが適用されます。署名付きプロビナンスメタデータは、各プラットフォームが提供する機能に応じて、すべてのプラットフォームでサポートされるとは限りません。 地域: マークは、Claudeが提供される世界中のどこでも、サポートされているモデルの出力に適用されます。 Claudeはコンテンツにどのようにマークを付けるか Claudeは、Claudeによって生成および処理されたコンテンツにマークを付けるために、2つの補完的な技術を使用しています。(1) テキストに埋め込まれたウォーターマーク、および (2) ファイルに添付された署名付きプロビナンスメタデータ。 1. テキストへの埋め込みウォーターマーク サポートされているClaudeモデルがテキストを生成すると、テキスト自体に知覚できないウォーターマークが織り込まれます。これは目に見えず、Claudeの応答の意味、品質、または可読性を変更しません。ウォーターマークはテキストの一部であるため、コピー&ペーストされてもテキストと一緒に移動し、一部の編集を経ても持続する可能性があります。ウォーターマークはモデルレベルで適用されるため、テキストがどのClaude製品またはサーフェスから来たかに関わらず存在します。 2. 署名付きプロビナンスメタデータ Claudeが.svg、.png、.jpgなどのサポートされているファイルタイプを生成すると、署名付きプロビナンスメタデータが添付されます。このメタデータは、コンテンツのプロビナンスに関する情報を記録するために業界全体で使用されている、Coalition for Content Provenance and Authenticity (C2PA) のオープン標準に従います。署名付きメタデータラベルが存在する場合、それはファイルがClaudeによって処理されたことを示し、ファイルが改ざんされていないかどうかを検出できるようにします。 Claudeのマークの検出 ユーザーやその他の第三者がClaudeの埋め込みウォーターマークとプロビナンスメタデータを検出できるようにするためにも取り組んでいます。検出は、テキストまたはファイルがサポートされているClaudeマークを運んでいるかどうかをチェックします。サポートされているマークが見つかった場合、それはコンテンツがClaudeによって処理された可能性があることを示します。検出メカニズムに関する詳細は、今後の技術ドキュメントで共有します。 限界 機械可読マークはコンテンツに関する重要なシグナルを提供しますが、すべてのコンテンツタイプにおけるその限界を理解することは価値があります。検出されたマークは、コンテンツがClaudeによって処理されたというシグナルを提供しますが、完全に決定的ではありません。Claudeマークを検出することは、コンテンツがClaudeによって処理された可能性があることを意味します。それは、単独でコンテンツの完全なプロビナンスを確認するものではありません。例えば: Claudeが元の著者ではない場合があります。人々は、Claudeを校正、翻訳、要約、またはファイルの変換に使用することがよくあります。基になるアイデア、テキスト、またはデータが別のソースに由来する場合でも、出力にClaudeマークが付くことがあります。 Claudeが処理した後、コンテンツが変更された可能性があります。マークされたコンテンツは、Claudeが処理した後、変更、抜粋、または他の資料と組み合わせられることがあります。 検出されたマークがないからといって、コンテンツがAIによって生成または処理されなかったとは限りません。例えば、以下のような場合、Claudeによって生成されたコンテンツに検出可能なマークが付かないことがあります。 マークがサポートされる前にリリースされたモデルによって生成された場合。 テキストが大幅に編集、言い換え、翻訳された、または他の文章に混ぜられた場合。 信号として信頼できるテキストが少なすぎる、非常に短い場合。 ファイルのメタデータが、フォーマット変換、再保存、スクリーンショット、またはその他の手段によって削除された場合。 特定のマークタイプがサポートされていなかったプラットフォーム、機能、またはファイルタイプを介して生成された場合。 Claudeで構築する場合 ご自身の製品でClaudeをデプロイする場合、第50条がご自身の製品およびサービスに何を要求するかを独立して評価する必要があります。EU行動規範に基づく当社のコミットメントと一致して、当社の目標は、お客様がご自身の透明性義務を満たすのをサポートすることであり、利用可能になり次第、当社のマーク付けおよび検出アプローチに関する技術ガイダンスを共有します。