HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

AIテキストウォーターマーキングの仕組み

How AI text watermarking works (declaude.org)

83 pointsby padolsey52 コメント

要約

この記事は、AIによって生成されたテキストに隠された目に見えないウォーターマークの仕組みを、統計的なアプローチを用いて視覚的に解説しています。ウォーターマークはテキストの文字自体ではなく、単語選択の確率的な偏りとして埋め込まれ、特定のキーを持つ者だけがそれを検出し、カウントすることができます。編集によってマークは弱まりますが、完全な書き換えでない限り、ある程度の痕跡は残ります。検出はプライベートかつ確率的であり、 authorship ではなく処理に焦点を当てています。

全文翻訳

AIテキストのウォーターマーキングはどのように機能するか。

プレーンテキストにウォーターマークを付けるというのは不可能に聞こえます。テキストにはデータを隠すためのピクセルがなく、コピー&ペーストでメタデータが失われるため、文字はすべてそのまま表示されます。どこにマークを付けることができるのでしょうか?

しかし、そのマークは実在します。Googleは2024年からGeminiのテキストにウォーターマークを付けており、2026年8月からは新しいClaudeモデルがモデルレベルでテキストにマークを付けるようになり、以前のモデルも追随する予定です。これらのマークは不可視で、コピーしても消えず、文字自体には存在しないため機能します。それらは「単語間の選択肢」に存在します。

1. 文章作成は小さな選択の連続である

このステップの唯一のアイデア:モデルは、どれも問題ない複数の単語の間で重み付けされたサイコロを振って文章を作成します。

モデルが文の途中にいるとき、「次の単語」を知っているわけではありません。オートコンプリートのように、好みを持つ候補リストを持っています。以下は、文末から1単語前の実際の状況です。

the sentence being written

The results of the study were quite 

各サイコロの目は候補リストをスキャンし、1つの単語(確率が棒グラフに対応)に着地し、それを上の文に挿入します。ドットはサイコロの目がどこに着地したかを記録します。×20で試して、山が確率の形をとるのを見てください。決して変わらないことに注意してください:どの着地でも完璧に良い文章ができます。

1ページのテキストには、このような小さな分岐が数百個あり、単語ごとに1つずつ、多くの分岐で複数の選択肢が同等に良いです。その余裕が原材料です。サイコロの目がどのように着地するかを操作できる人は、テキストの内容を変えずにパターンを隠すことができます。

2. 秘密の鍵がそれらの選択肢に影響を与える

このステップの唯一のアイデア:鍵は候補リストを秘密裏に色付けし、1つの色にわずかな影響を与えます。テキストは通常通り読めます。

ここに古典的なレシピがあります(Kirchenbauer et al. 2023; GoogleのSynthIDは、より微妙なトーナメント形式で同じ結果に到達します)。各分岐点で、秘密の鍵付き数学が候補単語を緑と赤に分割します。これは鍵の所有者だけが再現できる任意の配色です。次に、サイコロは緑の方へ少し傾けられます。

the sentence being written

The results of the study were quite 

鍵なし:これらはモデル自身の好みです。鍵がオンになると、破線の輪郭が以前の確率を示します。

これが巧妙な理由は2つあります。影響はわずかです:赤い単語が勝つこともありますが、単に可能性が少し低くなるだけです。そして、その配色は単語の固定された特性ではありません:鍵は直前の単語の短いシーケンスからそれを計算するため、同じ候補が前の単語によって緑になり、別の前の単語によって赤になります。

鍵によって、6つの異なるプレフィックスの後に色付けされた、同じ4つの候補単語。

鍵は直前の単語を見ます。広いテキスト内の位置は鍵からは見えません。緑への全体的な傾きだけが蓄積され、鍵の所有者だけがどの単語がどこで緑だったかを知っています。

(2つの兄弟、同じ原則。GoogleのSynthID — 実用化されているもの — は、影響をわずかな秘密のトーナメントに置き換えます:モデル自身の確率からいくつかの候補が描画され、鍵がそれらにスコアを付け、ブラケットは鍵の描画で平均化されるように配置され、各単語の確率はモデルが意図したとおりに保たれます。OpenAIで構築されたAaronsonのスキームは、それさえもスキップし、サイコロの目を鍵から直接導き出します。異なる数学、同じ原則:マークは選択肢に存在します。)

3. 鍵を持つ者は数えることができる

このステップの唯一のアイデア:鍵があれば、任意のテキストを再配色して数えるだけで済みます。マークされたテキストは、運ではありえないほど頻繁に緑になります。

検出はテキストを読んだり、スタイルを判断したりしません。検出器は鍵の所有者の配色を単語上で再現し、いくつ緑になったかを数えます。マークがない場合(または正しい鍵がない場合)、緑は約半分の確率で勝つはずです。コイン投げです。ここに普通の段落があります。両方の鍵で試してみてください。

緑:– 55個中

コイン投げ:50%

塗りつぶされた下線付きのチップは緑、破線の輪郭は赤です。どちらの場合も単語は同じように読めます。配色は鍵の所有者の数学にのみ存在します。間違った鍵では、分割は無意味になり、カウントは偶然になります。

(このデモの傾きは、あなたが見やすいように強く描かれています。実用化されているマークははるかに穏やかに傾いており、それに応じてより多くのテキストが必要です。このデモの50/50モデルでは、1,500語の文書はわずか約55%の緑でフラグが立てられます:わずかな傾きは長さによってのみ説得力を持つため、短いテキストの判断は実際には困難です。)

4. 編集がマークに与える影響

このステップの唯一のアイデア:マークは、変更されていない単語の連続部分に存在します。編集は、連続部分が壊れた場所で正確にマークを消去し、それ以外の場所では消去しません。

各単語の配色は、その直前の単語の短いシーケンス(スキームによるが、1つから数個)から導き出されます。したがって、位置が証拠としてカウントされるのは、元の単語の短いウィンドウ(単語とその隣接語)がそのまま残っている場合のみです。

ステップ3の同じ段落を、5つの編集深度で示します。スライダーをドラッグして、ハイライトされた連続部分が縮小するのを見てください。 ハイライトは、その単語の連続部分が元のテキストと正確に一致していることを意味するため、検出器はそこでカウントできます。フェードアウトしたすべては新しい単語であり、カウントできるのはコイン投げのノイズだけです。

タイポ修正 · 生存ウィンドウ:–%

判定は、ハイライトから測定された生存率を1,500語の文書に投影して読み取ります。注目すべき点は2つあります。「重い編集」がどれだけ残るか、そして証拠が実際に消えるまで、完全な書き直しにどれだけ近づける必要があるかです。

実際のインプリメンテーション(オープンモデルでのMarkLLMのKGWおよびEXPスキーム、declaudeのフルリライトルートによる洗浄)では、約0.5%のウィンドウが生存し、検出器の精度はほぼ確実からコイン投げに低下します。公開されている文献もこの形状で一致しています。軽い編集や1パスの言い換えは、マークを削除するのではなく希釈します。Kirchenbauer et al.の実験では、十分なテキストがあれば検出器は回復し、人間の言い換えでさえ約800トークン(約600語)後に再び検出可能になります。マークを削除するのは、元の単語の連続部分を共有しない再構成です。

だからこそ、意味から書き直すツール(declaudeのフルリライトルートのようなもの)がこの種のマークを実際に消去するものであり、フレーズの大部分を保持する軽いパスはそうしない理由です。

明確に述べられた一つの境界線:これらの数値は、測定可能なオープンインプリメンテーションから来ています。Anthropicのプロダクションスキームは非公開であるため、Anthropicの外部の誰もClaude自身のマークに対してこのテストを実行することはできません。

5. 実践における意味

このステップの唯一のアイデア:検出はプライベートであり、確率的であり、作成者ではなく処理に関するものです。

  • 鍵の所有者だけがチェックできます。 あなたの教師、編集者、またはお気に入りの「AI検出器」ウェブサイトはこのテストを実行できません。実際のチェックには、プロバイダーの秘密鍵、またはプロバイダーが実行するチェックサービスが必要です。GoogleはSynthIDの早期アクセス検出器ポータルを実行しています。Anthropicは、検出ツールが近日中に利用可能になると述べています。
  • ウォーターマークチェックは「AI検出器」ではありません。 GPTZeroのようなツールはスタイルから推測し、しばしば信頼性が低いことで知られています。ウォーターマークはその逆です:意図的で、鍵で保護された統計的テストです。この2つを混同しないでください。
  • マークが見つかったということは、「書いた」ではなく「処理された」を意味します。 Anthropic自身のドキュメントは、人間が書いたテキストをClaudeで校正または翻訳しただけでマークが付くことに言及しています。そして、不在はさらに証明しません:古いモデルや重い編集は、実際のAIテキストでもクリーンな結果をもたらします。
  • 短く選択肢の少ないテキストは、マークがほとんどありません。 証拠は長さとともに増加し、正しい継続が1つしかないテキスト(コード、引用、事実のリスト)は、サイコロにパターンを隠す余裕がほとんどありません。
  • 特定のマークは書き直し後も残ります。 隣接語ではなく単語自体に鍵がかけられたスキームは、はるかにうまく持ちこたえます:同じ意味の書き直しは、単語の大部分を保持するため、マークの多くが残ります。(それらの弱点は異なります:どこでも再利用される配色は、十分な出力から逆エンジニアリングされる可能性があります。)他のものは意味の中に隠れ、同じ意味の書き直しはそれらを部分的に保持します。私たちが知っている唯一の答えは、アウトラインレベルの再生成です。

James Padolsey が Declaude by Stylometrics のために執筆しました。インタラクティブな図は教育用モデルで、例示的なパラメータを使用しており、プロバイダーの実際のスキームではありません。

出典とさらなる資料。 Kirchenbauer et al., A Watermark for Large Language Models (ICML 2023) · Dathathri et al., Scalable watermarking for identifying LLM outputs (SynthID-Text, Nature 2024) · Aaronson & Kirchner, Watermarking GPT outputs (2022) · Kirchenbauer et al., On the Reliability of Watermarks for Large Language Models (ICLR 2024) · Sadasivan et al., Can AI-Generated Text be Reliably Detected? (2023) · Zhao et al., The Mark Fades: Adaptive Evolutionary Paraphrase-based Attack (ACL Findings 2026) · Anthropic, How Claude marks AI-generated content (ヘルプセンター、2026年8月) · 私たちの既知の鍵による実験:再構成はKGW/EXP検出を偶然に崩壊させる(AUC 0.99 → ≈0.5)、コンテキストフリーのユニグラムマークは生存する(0.73–0.84);意味空間マークに対する唯一の解決策はアウトラインレベルの再生成です。

専門家向け:ステップ4の判定の背後にある残差証拠モデルは z ≈ f·√N·z₁ (生存率 f、文書長 N、トークンあたりの強度 z₁)です。図は単語を数えます。実際の検出器はモデル自身のトークナイザーでトークンを数えます。形状は同じです。