HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Claudeのテキスト透かし(ウォーターマーク)の仕組み

How Claude's text watermarking works (anthropic.com)

33 pointsby surprisetalk34 コメント

要約

Anthropicは、EU AI法への準拠のため、Claudeモデルが生成するテキストに透かし(ウォーターマーク)を埋め込むことを発表しました。この技術は、単語選択のランダム性に微細なパターンを適用することで、読者には感知できないものの、特定のキーを持つことでClaudeによる生成の可能性を検出できるようにします。この透かしは出力の品質や内容に影響を与えず、個人に追跡されることもありません。

全文翻訳

Claudeのテキスト透かし機能の仕組み

将来のClaudeモデルは、透かし(ウォーターマーク)を含むテキストを生成するようになります。これは、Claudeがテキストの作成に関与した可能性を判定する方法であり、EU AI法への準拠のため、当社は他の主要なAIプロバイダー数社と共にこの変更を実施します。

この記事では、私たちが選択した透かし方法の仕組み、Claudeの出力に影響を与えるかどうか、そしてなぜこの変更を行うのかについて、寄せられた質問にお答えします。要約すると以下の通りです。

  • 私たちが使用する透かし方法は、Claudeの出力の品質や内容に実質的な影響を与えません。
  • 透かしありと透かしなしのテキストの違いは、読者には区別できません。
  • テキストに追加されるものはありませんし、隠された文字もありません。
  • 透かし機能は追加のトークンを必要とせず、コストも増加しません。
  • 透かし機能には識別情報は含まれておらず、特定の個人、組織、またはチャットに追跡されることはありません。
  • 透かし機能はClaude固有のものではありません。8月2日現在、EUは市場にサービスを提供するAIプロバイダーに対し、AI生成コンテンツにマークを付けることを義務付けています。他の主要なモデル開発者も同じ行動規範に署名しており、独自の透かし機能を実装する予定です。

透かし(ウォーターマーク)とは何か?

Claudeのような大規模言語モデルは、一度に一つの単語を生成することで機能します。モデルが次の単語を決定するたびに、候補リストの中から選択し、最終的には先行するテキストに基づいて最も妥当または可能性の高い単語を選択します。「今日の天気は寒くて…」という文の場合、次の単語が「甘い」である可能性は非常に低いですが、「曇り」や「どんより」である可能性はかなり高いです。ほとんどの場合、モデルがこれらの後者の2つの単語のどちらを選択しても、読者にとって大きな違いはありません。文の意味はどちらにしてもほぼ同じです。このような場合、選択は乱数によって決定されます。

透かし機能は、生成されたテキストの多くの箇所で発生する、このような低リスクの選択を利用して、Claudeの応答にパターンを残します。そのパターンは読者には検知できませんが、それをエンコードするキーを持つ人には検知可能です。透かし機能が使用される場合、選択は依然としてランダムに行われますが、そのランダム性の源泉が異なります。次の単語を選択するために任意の乱数ジェネレーターを使用する代わりに、透かし機能はキーと先行するいくつかの単語を使用して、モデルが選択すべき単語を決定します。つまり、Claudeが選択する単語は依然としてランダムですが、その単語のシーケンスをチェックすることで、キーを使用してClaudeが行うであろう選択と一致するかどうかを確認できます。一致する場合、そのテキストがClaudeによって生成された確率を割り当てることができます。

重要なのは、モデルが常に曇りやどんよりといった単語に偏るわけではないということです。透かしなしのテキストと同様に、先行する単語によって、ある文では曇りが選択され、次の文ではどんよりが選択される可能性があります。また、透かし機能がClaudeに、通常では考えられないような単語(例えば、「曇り」の難解な同義語で、通常の状況ではClaudeがまず使用しないであろう「nubilous」のような単語)を選択させるわけでもありません。

透かし機能はClaudeの出力にどう影響するか?

透かし機能はClaudeの出力の品質に影響を与えません。読者にとって、透かしありの応答は透かしなしの応答と区別がつきません(この点で、AIの透かしは紙幣、他の物理的なオブジェクト、一部のデジタルドキュメントに見られる透かしとは大きく異なります。それらは肉眼で見えるものです)。

内部テストでは、透かし機能がClaudeのテキストのコンテンツ、創造性、または可読性に影響を与えていないことを確認しました。私たちが使用する技術を紹介したSynthID-Text論文では、Google DeepMindがこの影響を、透かし機能を使用したモデルをGeminiトラフィックの一部に提供し、サムズアップとサムズダウンの評価を比較することでテストしました。彼らは、透かしなしモデルと比較して統計的に有意な差は見られませんでした。また、管理された研究では、透かしありと透かしなしの回答を並べて比較した人間の評価者も、品質の違いを見ませんでした。

A useful analogy is to imagine you’re playing a game like Monopoly. On each turn, each player moves a random number of spaces around the board according to the roll of a die. Suppose that, instead of rolling the die to get this randomness, we decided to use a book of the digits of pi.2 We start from a randomly-chosen digit (say, the 1,012,845th after the decimal place, which happens to be a 6), and from that point on each player simply uses the next digit in the sequence as their next “roll." For all intents and purposes, the moves are still random: it makes no difference to the players—or to the outcome of the game—whether the randomness comes from pi or from dice rolls each time. But if we could see the sequence of all the moves after the game (and we knew the value of pi), we could work out whether this was a game that likely used pi to determine its moves. The game that used pi is, in a sense, “watermarked."

これはClaude生成テキストについても同様です。透かし機能は、それを読んでいる人にとっての意味や体験を変えるものではありませんが、後でそのテキストがClaudeによって生成された可能性が高いかどうかを確認したい場合、透かし機能があればそれが可能になります。

どの特定の透かし方法を使用していますか?

Claudeのテキスト透かしは、2024年にNature誌で発表されたGoogle DeepMindのSynthID-Textアプローチのバージョンです。これは2022年のScott Aaronsonによる提案に遡る一連のアプローチに属しており、それらはすべて上記で説明したのと同じ設計原則を共有しています。つまり、透かし機能は単語の選択に使用されるランダム性の源泉を変更するだけです。

透かし機能には有効性の限界があります。私たちのキーを使用すると、「これはClaudeによって部分的に書かれた可能性はどのくらいか?」という質問にしか答えられません。テキストが人間によって書かれたかどうかを確認することはできませんし、別のAIによって書かれたかどうか(たとえその別のAIが透かし機能を使用していても、キーが異なるため)もわかりません。また、透かし機能の検出は、単語の選択肢が少なく情報が少ない短いサンプルではうまく機能しません。パッセージが長くなるにつれて、Claudeの関与に関する信頼度も高まります。

事実に基づいたパッセージでは、テキストの精度を低下させることなく行える選択肢が少ないため、透かし機能はより疎になります。例えば、「アイザック・ニュートンの最も有名な作品は『プリンキピア』と呼ばれていました…」という文を考えてみましょう。次の単語が「マテマティカ」であることは(それが唯一の正しい答えです)、非常に重要なので、透かし機能は何も作用できません。校正の場合も同様です。Claudeに文章を渡し、文法と句読点のみを編集するように依頼した場合、透かし機能は修正の数少ない箇所にしか存在できず、登録するには少なすぎる可能性があります。Claudeが書けば書くほど、より多くの決定を下す必要があり、透かし機能のためのスペースが増えます。

Claudeが人間のテキストを校正または編集した場合のケースは?

透かし機能はClaudeが選択した単語にのみ適用されます。Claudeが人間によって書かれたテキストを校正する場合、返されるものは一般的に軽く編集されたものです。単語のほとんどがその人のものであるため、透かし機能が適用できる部分はほとんど(あるいは全く)ありません。テキストの長さとClaudeの編集の度合いによっては、その変更だけではClaudeの関与を検出するのに十分ではない場合があります。Claudeが書けば書くほど、より多くの決定を下す必要があり、透かし機能のためのスペースが増えます。

コードについてはどうですか?

前述のように、AIの透かし機能は、どちらの単語を選択しても同等に良いという意思決定を利用します。正確な出力が必要な場合、つまり選択肢がなく、異なる用語を選択すると事実上間違っているか、コードが壊れてしまうような場合、透かし機能は適用されません。

例えば、モデルが「2 + 2 =」と書いた後、次のトークンとして非常に明確な最良の選択肢があります(モデルが合計を完了している場合、「4」と同じくらい良い答えはありません。ジョージ・オーウェルの『1984年』について話している場合、「5」と同じくらい良い答えはありません)。ここで透かし機能の「後押し」は適用されません。同じ理由で、多くの場合正確でなければならないコードは、他の種類のテキストよりも透かし機能が少ない傾向があります。

ただし、コード内の特定の単語または用語の間に任意の選択肢がある領域では、コード内のコメントのように、透かし機能を使用できます。しかし、定義上、生成される実際のコードへの影響は無視できる程度です。

ユーザーにとっての意味は?

モデルの速度が低下したり、コストが高くなったりしますか?

いいえ。透かし機能はモデルの速度にほとんど影響を与えず、追加のトークンを生成しないため、モデルの提供と使用のコストは同じです。

透かしは私や私の組織に追跡できますか?

いいえ。透かし機能はClaudeとその出力に適用されます。個々のユーザーに関するいかなる情報も識別しません。透かし機能またはそのキーには、ユーザー、その組織、またはClaudeとのチャットに関する情報を復元できるものは何も含まれていません。

なぜClaudeの出力を透かし機能で処理するのですか?

EU AI法への準拠のために透かし機能を実装しています。Anthropicは、他のいくつかの主要なAIモデルプロバイダーと共に、約190の署名者と共に、2026年7月にAI生成コンテンツの透明性に関するEU行動規範に署名しました。これにより、AIシステムプロバイダーはAI生成テキストに「マークを付ける」方法を使用することが義務付けられています。現時点では地域別にスコープを絞る耐久性のある方法がないため、グローバルで透かし機能を適用しています。しかし、さまざまなアプローチを引き続き評価し、更新があれば共有します。

その他の質問

テキストがClaudeによって書かれたかどうかを確認するにはどうすればよいですか?

プライベートプレビューで検出APIをリリースしています。現在、EU法(規制当局、法執行機関、メディア、ファクトチェッカー、独立系研究者、教育機関、EU市民社会グループなど)の下で義務付けられている適格な組織に提供されています。また、同様に法律への準拠のために独自の透かし機能の検証を義務付けられているエンタープライズにも提供されています。検出APIへのアクセスは、時間とともに拡大する予定です。こちらから関心登録できます。

画像やその他のファイルについてはどうですか?

Claudeがサポートされているタイプのファイル(.png、.jpg、.svgなど)を生成する場合、ファイルメタデータに、Claudeで作成または処理されたことを示す、小さく暗号化された署名付きのメモという形式でコンテンツ認証情報を添付します。これは、カメラメーカーや写真編集ソフトウェアで使用されている、画像の出所を記録するためのオープンな業界標準であるC2PAです。C2PA対応のツールであればどれでも読み取ることができます。ファイルをドロップして確認できる独自のツールも提供する予定です。

このメタデータラベルは、透かしとは大きく異なります。ファイルに変更はありません。埋め込まれたり隠されたりすることはありません。テキストと同様に、認証情報はClaudeがファイルの生成に関与したことを示すだけで、識別情報は含まれていません。

テキストを編集すれば、透かし機能を回避できますか?

ある程度は可能です。軽い編集では透かし機能が完全に削除されない可能性が高いです。すべての単語が置き換えられるような完全な書き直しでは削除されます。もちろん、後者の場合、そのテキストをAI生成と呼べるかどうかは議論の余地があります。

透かし機能は何を証明しますか?

透かし機能は、Claudeがコンテンツの作成に何らかの形で関与した可能性を判断できるだけです。「Claudeがこれを書いた」と「Claudeがこれを大幅に編集した」を区別することはできません。

翻訳にも透かし機能は適用されますか?

はい。Claudeによって生成された翻訳は、この場合すべての単語がClaudeによって選択されているため、透かし機能を持ちます。

古いClaudeモデルについてはどうですか?

EU法には、2026年8月2日より前にリリースされたAnthropicモデルの移行期間が含まれており、これらのモデルにも透かし機能を実装する作業を進めています。これは今後数ヶ月で展開される予定です。

これはPangramのようなAI検出ソフトウェアとどう異なりますか?

AI検出ソフトウェアは異なる方法を使用します。なぜなら、それを提供する企業は私たちのキーを持っていないからです。とりわけ、これらのサービスは、テキストの側面、例えばAIの言い回しによく見られる微妙な(そしてそれほど微妙でない)「兆候」などを調べます。例えば、AIモデルは「これはXではなく、Yです」という構文を好むようで、「静かに」という単語を予想よりも多く使用するようです。これらのパターンを拾うことは、透かし機能をチェックすることとは根本的に異なります。

これは、特定の出力の所有権や法的責任を変更しますか?

いいえ。透かし機能は、Claudeがコンテンツを生成または処理した可能性があるかどうかをテストするのに役立つだけです。所有権や著作者については何も述べておらず、利用規約に基づくユーザーの権利を変更するものではありません。Claudeがコンテンツまたはファイルの処理に関与した場合にのみ、透かし機能を適用します。

更新日 2026年9月1日: 透かし検出APIに関する最新情報を提供しました。