AnthropicのClaudeにおける「透かし」テキスト改変は執筆の冒涜である
Anthropic's 'Watermark' Text Adulteration in Claude Is a Perversion of Writing (daringfireball.net)
要約
この記事は、AnthropicがEU規制遵守のためにClaudeモデルに導入したテキストの「透かし」機能について批判しています。著者は、この機能が単語の選択に影響を与え、テキストの品質や意味を損なう可能性があることを問題視しており、AI生成コンテンツの信頼性と執筆の本来の目的に反すると主張しています。
全文翻訳
Anthropicの「透かし」テキスト改変は執筆の冒涜である
2026年8月16日 日曜日
今週、Anthropicが全てのClaudeモデルで生成するテキストに「透かし」を入れることを発表した際、それがどのように機能するのかについては、EUの規制に準拠するためだという理由以外、ほとんど推測の域を出ませんでした。Anthropicは、発表のタイトルが「ClaudeはAI生成コンテンツをどのようにマークするか」という、ばかばかしくも侮辱的なものであったにもかかわらず、その仕組みについて曖昧な説明すら提供しませんでした。
私の最初の推測は、非表示のUnicode文字をテキストに埋め込むのではないかということでした。単なる思いつきです。しかし、そうではありませんでした。彼らが採用するのは、推論時に単語(または他のトークン出力)の選択が、後で確率的に検出できる指紋を残すような、一種のステガノグラフィーです。
私が最初に「非表示文字」を推測したのは、意味論的な単語選択のテクニックを思いつかなかったからではなく、Anthropicの言葉をそのまま信じてしまったからです。彼らの元のサポートドキュメントにはこう書かれています。
サポートされているClaudeモデルがテキストを生成する際、知覚できない透かしをテキスト自体に直接織り込みます。あなたはそれを見ることはなく、Claudeの応答の意味、品質、または読みやすさを変えることはありません。
彼らは「知覚できない」と「意味、品質、または読みやすさを変えない」と言っています。彼らの言葉です。ほとんど知覚できないわけでも、意味、品質などをわずかに変えるわけでもありません。それは私にとって理にかなっていました。なぜなら、私がツールに求めるもの、いや、要求するものはまさにそれだからです。ツールが、その出所を示唆する隠し手がかりをテキストに埋め込む目的で、明瞭さ、一貫性、意味、品質などのわずかでも犠牲にすることは許容できません。それが私が要求するものであり、今後も要求し続けることです。そして、Anthropicの(元の)サポートドキュメントは、そのシステムがそれを可能にすると明確に主張しています。もしそれが真実なら、テキスト内に非表示文字を隠す以外の方法はないと考えました。
私の誤りは、Anthropicがそのシステムによって生成されるテキストの意味論を改変・破損しないと信じたことです。実際、彼らが計画しているのはまさにそれです。AI生成コンテンツを「どのようにマークするか」というタイトルでありながら、ClaudeがAI生成コンテンツを(または今後マークする)方法を全く説明していないドキュメントを、一言でも信じてしまった自分を診察してもらうべきです。
実際にはどう機能するのか
昨日、Anthropicは、元の「ClaudeはAI生成コンテンツをどのようにマークするか」という記事(全く仕組みを説明していなかったもの)とは全く異なるウェブサイトで、「Claudeのテキスト透かしはどのように機能するか」という記事を公開しました。この記事では、それがどのように機能するのかを一般の人にも理解できる言葉で説明しています。私は後で、Anthropicの新しい、非常に婉曲的でわずかに誤解を招く説明に戻ります。
このトピックに関する研究は数多くあり、そのいくつかは以下にリンクしています。しかし、この技術の背後にある一般的なアイデアを最もよく説明しているのは、James Padolseyによるインタラクティブエッセイ「AIテキスト透かしはどのように機能するか」です。これは非常に的確な読み物であり、インタラクティブな要素が主要な概念を素晴らしいイラストで示しています。A+の出来です。これに少しでも興味があるなら、Padolseyの記事を読む(そして実際に触ってみる)ことを強くお勧めします。
しかし、ここでは、一般向けのハイレベルな要約を試みます。コインをN回投げ、その結果を記録すると、コインが公平か偏っているかをある程度の確実性で判断できます。LLMは、その一般的な形態では非決定論的です。同じモデルに同じ質問をしても、しばしば少なくともわずかに異なる答えが得られます。意味は同じかもしれませんが、表現が異なります。次のトークンを生成するための各決定点で、モデルは選択を行います。これらの意味論的な透かし技術では、単語リストを「グリーン」と「レッド」と呼ぶことができるものに基づいて、一部のトークンで異なる選択を行います。各決定点で、レッドリストの単語よりもグリーンリストの単語を選択する可能性がわずかに高くなります。これは、レッドリストの単語を選択しないという意味ではありません。単に、改変されたマーキング技術が導入されていない場合よりも、それらを選択する可能性が低いということです。(51対49で偏ったコインでも、平均して100回中49回は「間違った」面で着地するのと同じです。)
単語や単語のフレーズは、各「次のトークン」生成ポイントで、その場で決定論的にグリーンとレッドのリストにソートされます。そのため、特定の単語がグリーンリストにあることもあれば、レッドリストにあることもあります。秘密鍵を持つ人は、各トークン生成ポイントで単語がどのリストにあるかを判断できます(これが透かしが検出される方法です)。秘密鍵を持たない人はできません。これは、Claudeが好む、あるいは避ける単語のリストが永遠に存在しないことを意味します。
コイン投げでは、Nが高いほど、つまりコインを投げる回数が多いほど、コインが公平か偏っているかについてより確信を持てます。この意味論的な透かしも同様です。テキスト内の単語が多いほど、そのテキストが特定のAIモデルによって生成されたものかどうかを分析する精度が高くなります。コイン投げの回数が少なすぎると、コインの公平性について全く確信を得られません。単語(またはトークン)が少なすぎると、テキスト文字列がAIによって生成されたものかどうかについて、確信を得る方法はありません。
特定の透かしシステムの兆候がないか調べるテキスト文字列が与えられた場合、本来期待されるよりも多くの単語がグリーンとしてタグ付けされ、レッドとしてタグ付けされた単語が少ない場合、そのテキストは、特定の秘密鍵透かしシステムによって生成された、または単に修正されたものであると、ある程度の確信度でフラグを立てることができます。決定の確信度は、テキスト文字列のサイズと、グリーンおよびレッドリストの単語に与えられるランダムな重みに大きく依存します。しかし、Claudeによって生成されたと思われるテキストかどうかを判断できるのはAnthropicだけであり、AnthropicはClaudeによって適用された透かしのみを検出できます。ClaudeはGeminiによって生成された隠し透かし信号を検出できませんし、GeminiもClaudeによって作成された隠し透かし信号を検出できません。なぜなら、各実装はLLMプロバイダーのみが持つ秘密鍵に基づいているからです。
技術的根拠への異議
この問題に対する私の根本的な問題の一つは、二つの同義語でさえ全く同じ意味を持つことはないということです。「彼はそのチャンスに飛びついた」と「彼はその機会に飛びついた」は、同じ一般的な感情を表現する非常に似た文ですが、同じではありません。私たちが執筆時に選ぶ正確な単語は重要です。私が使用するLLMには、あらゆる決定点で最も適切で正確な単語を選択してほしいと願っています。私が受け入れる明らかな制約は、時間と計算量です。推論を迅速に、そしてトークンあたりの一定コストで実行するという制約の中で、私は最良の単語を求めています。この制約は人間の執筆と一致します。時間をかければ、より良いコラムを書くことができるでしょう。私は、各単語や句読点の選択にどれだけの注意を払うべきかという感覚を持って書いています。直感がそう言うとき、私は特定の段落、文、あるいは個々の単語の選択により多くの時間を費やします。
言い換えれば、これらは必要なトレードオフです。これらの要因はすべて私の利益になります:速度、コスト、品質。理想的には、完璧な文章を、瞬時に生成され、ゼロコストで得たいです。それらのどれも不可能ではありません。計算は無料ではありません(そして、主要なモデルでのクラウドベースのLLM推論は実際には高価です)。推論は瞬時ではありません。そして、自然な文章であれ人工的な文章であれ、偉大な文章は完璧に近づくことしかできません。
私にとっての私のニーズ以外の何かが、私のために生成されるテキストに影響を与えるという考えは、明らかに不快です。
これは、自分の自然な作品として通用させる意図で生成するテキストだけの問題ではありません。LLMによる手書きの作品の校正の問題でさえありません。Anthropicは、全ての新しいClaudeモデルが、200トークン(約150語)を超える生成テキスト全てに、統計的に予測可能な方法でその出所をマークするという名目で、単語の選択を改変すると言っています。これは、ユーザーとClaudeとのプライベートな会話であっても、ユーザー以外には決して読まれないものであっても、Claudeがその出所をマークするという名目で、明瞭さと精度を最大化するのではなく、統計的に予測可能な方法で単語の選択を行うようになるということです。
今日のいわゆる最先端モデルでさえ、すでに明瞭さに欠けています(2026/08/11の日記)。Claude、ChatGPT、Grokなどは、ほとんどの人間よりも「優れた書き手」であり、平均的な人間よりも優れた文章を生成します。しかし、それは当然です。ほとんどの人はひどい書き手です。「平均的な人」はかなり愚かで、全ての人の半分はそれよりも愚かです。そして、多くの賢く興味深い人々が、ひどい書き手です。だから、LLMがどれほど印象的であっても、ハードルは低いのです。これらのモデルから出てくる最高の文章は、私が娯楽のために読みたいと思うどんなものよりも劣っています。そして今、Anthropicは、私には全く利益にならない目的のために、意図的にそれをさらに悪くすると言っているのですか?たとえわずかに悪くなるだけでも?
ふざけるな。
EU規制への異議
異議といえば、これら全てを引き起こしている関連EU規制、「AI生成コンテンツの透明性に関する行動規範」は、官僚主義的で過干渉な夢物語です。今週のBen Thompsonによる有料のStratecheryアップデートからの要約です。
- この規制は200トークンを超えるテキストに適用されます。
- プロバイダーは、利用規約で、ユーザーが透かしを削除しないことを義務付けなければなりません。
- ソリューションは、スクリーンショット、スキャンとOCR、コピー&ペースト、翻訳などの「一般的な処理ソリューション」を回避する上で堅牢であるべきです。
文字通りに解釈すると、準拠するLLMの利用規約は、この規制に準拠するモデルからの出力をユーザーが言い換えることを禁止しなければなりません。なぜなら、単語の選択がマークだからです。しかし、世界中にその不合理で非現実的で、魔女狩りを煽るような規制を課そうとしているのは欧州連合ではありません。それはAnthropicの責任です。
これに準拠することは、特にテキストに関して、正直なユーザーに問題を引き起こすだけです。AI生成テキストを自分の作品として偽装しようとする不正なユーザー(学生、従業員など)は、非準拠のAI言い換えツールを通じて検出を回避するだけでしょう。
私が前述した、これらのスキームがどのように機能するかをインタラクティブに視覚的に説明しているJames Padolseyは、「Anthropicの弱い透かしは弱い法律をなだめる」というタイトルの投稿でこれを説明しています(もし聞き覚えがあれば、今日、独立した投稿でリンクしました)。
この法律につながったのと同じ考えが、電卓が登場した時に電卓にも適用されたかもしれません。もし電卓の出力がアーティファクトを通して現れるとしたら。幸いなことに、脳から生まれた合計は、電卓によって生成されたものと何ら変わりなく扱われます。スペルチェッカーも同様です。ツールが文章全体を構成できるほど能力が高まってから初めて支援を疑わしいものにするのは、原則的な境界線ではありません。それは困難そのものに道徳的なプレミアムを置くことです。
それにもかかわらず、Anthropicは、法律の最小要件よりも広範に見える、モデルレベルの包括的な実装を選択しました。それは便利なコンプライアンスエンジニアリングかもしれませんが、法律が明確に維持しようとした区別を捨てています。その結果、無害で支援的な利用を巻き込むには広すぎる信号でありながら、意欲的な人物によって大幅な再構成によって削除されるには脆いものになっています。それは、通常の利用者や支援的な利用者に疑いを集中させるリスクがあり、一方で意図的な詐欺に対しては最も弱いままです。
PadolseyはDeclaudeの作成者です。これは、あなたが「AI風のテキストを貼り付けて、同じコンテンツをプレーンな文章で取得する」ことができる、非常にシンプルなウェブアプリです。Declaudeの本来の目的は、Claudeまたは他のLLMによって作成されたかどうかにかかわらず、テキストから甘ったるいClaudeの個性の臭みを取り除くことですが、AnthropicがClaudeが生成する全てのテキストを改変するという表明された計画を続けるならば、Declaudeはそれらのマークを排除するためのコピー&ペーストで完了する単一のステップとしても機能するでしょう。Declaudeはすでに興味深く有用ですが、それがこのEU規制が文章に関してはどれほど不適切で無益であるかを示しています。
Google SynthID
GoogleにはSynthIDと呼ばれる透かしシステムがあり、AI生成の画像、ビデオ、音声、テキストに適用しています。この記事ではテキストのみに関心があります。マルチメディアでは、埋め込み透かしはファイル内のメタデータであり、視聴または聴取時の体験品質に実際には影響しません。テキストに関しては、選択される実際の単語について話しています。Google DeepMind自身のSynthIDの説明の「AI生成テキスト」セクションから:
Geminiアプリとウェブエクスペリエンスによって生成されたテキストの透かしと識別のためにSynthIDを拡張しました。大規模言語モデルは、一度に一つの単語(トークン)ずつテキストを生成します。各単語には、次に生成される可能性に基づいて確率スコアが割り当てられます。例えば、「私の好きなトロピカルフルーツはマンゴーと…」という文では、「バナナ」という単語は「飛行機」という単語よりも高い確率スコアを持つでしょう。SynthIDはこれらの確率スコアを調整して透かしを生成します。これは人間の目には気づかれず、出力の品質に影響しません。
グループチャットで、友人が上記の引用を共有し、私が「もしチャットボットが『私の好きなトロピカルフルーツはマンゴーと飛行機です』と書いたら、私はそれに気づくと思うよ」と返信しました。別の友人は次のように返信しました。
[画像: パイナップルか何かで彫られた飛行機のAI生成画像、トロピカルビーチにて。](https://daringfireball.net/misc/2026/08/tropical-fruit-airplane.jpeg)
数日経っても、それは私を笑わせます。
しかし、Googleのばかげた説明は、それが気づかれないという彼ら自身の主張に嘘をついており、これらの生成テキストの指紋作成スキームの背後にいる人々が、実際の執筆技術をどれほど軽視しているかを示しています。もちろん、「バナナ」は「飛行機」よりも高い確率スコアを持つでしょう。なぜなら、飛行機は果物ではないからです。しかし、「パイナップル」はどうでしょうか?文は「マンゴーとバナナ」で終わるべきか、それとも「マンゴーとパイナップル」で終わるべきか?それは良い質問であり、LLMが「パイナップル」ではなく「バナナ」を選択する理由の唯一の許容できる答えは、それがテキストの意図された意味、トーン、感情に最も適合すると判断したからでしょう。それは、「バナナ」が透かしの「グリーン」リストにあり、「パイナップル」が「レッド」リストにあるからではありません。たとえ「パイナップル」の方がより良い適合性を持つとしてもです。Google自身の、一見冗談めかしたSynthIDの仕組みの説明は、実際にはそのスキームがいかにテキストを歪曲するかを捉えています。
彼らは、あなたが気づかないと言うでしょう。なぜなら、もしそれが指紋作成の目的で「パイナップル」よりも「バナナ」を選択するだけであれば、どちらもトロピカルフルーツであり、誰が気にするのか、と。しかし、それが人間の目には「気づかれない」というのは全くのナンセンスです。バナナとパイナップルの意味論的な違いは、人間の舌でそれらを味わうのと同じくらい、人間の目には気づかれます。
もし「私の好きなトロピカルフルーツはマンゴーと飛行機です」という結果になったら、それは信じられないほど愚かですが、不快ではありません。なぜなら、何かが完全に的外れになったと誰もが認識するからです。不快なのは、SynthIdのようなシステムでは、指紋作成の決定が秘密鍵によって動機付けられているため、それが「マンゴーとバナナ」で完了したのが、バナナが次のトークンとして最も良いと判断されたからなのか、それともバナナが「グリーン」バケットの単語に含まれているからなのか、私たちには全く分からないことです。それは、あらゆる単語の選択に疑問を投げかけます。
Natureに掲載された論文では、SynthIDの背後にあるGoogleのチームが、Gemini(旧Bard)で本番稼働させた後、その研究を発表しています。
私たちは約2000万件の透かしあり・なしの応答を分析し、サムズアップとサムズダウンのレート(両方とも受け取ったサムズアップとサムズダウンフィードバックの総数に対する割合として計算)を計算しました。私たちは、2つのモデルのサムズアップレートは0.01%(透かしありモデルの方が高い)で異なり、サムズダウンレートは0.02%(透かしありモデルの方が低い)で異なると発見しました。これらの両方の違いは統計的に有意ではなく、95%信頼区間内に十分収まっていると判断しました。
この実験から、広範な実際のチャットボットのやり取りにおいて、人間によって判断された応答の品質と有用性の違いは無視できるほど小さいと結論付けました。その後、非歪曲的なSynthID-Textは本番稼働し、現在GeminiとGemini Advancedで応答に透かしを入れています。私たちの知る限り、この評価は、大規模な本番システム内でのこの種の最初の体系的な透かし調査を表しています。
これに対して私はこう言います。
-
Gemini/Bardのサムズアップ/サムズダウンボタンは、品質への影響を評価するための良い実験ではありません。チャットボットが「マンゴーとパイナップル」の代わりに「私の好きなトロピカルフルーツはマンゴーとバナナです」と言った場合、選ばれた果物のせいでその応答にサムズダウンを付けません。「飛行機」と言ったらサムズダウンしますが、それはストローマンです。(Natureの論文でさえ、「私の好きなトロピカルフルーツは…」を例として使用していますが、論文では、確率分布の順序で考慮される次の4つのトークンは、マンゴー、ライチ、パパイヤ、ドリアンです。飛行機はありません。そして、都合の良いことに、論文の例では、透かしの「トーナメント」の「勝者」は、透かしがなくても最良として選択されたであろうマンゴーにすぎません。)
-
「人間によって判断された応答の品質と有用性の違い」が「無視できるほど小さい」ということは、知覚できないという意味ではありません。彼らが本当に意味しているのは、それがわずかに悪いだけで、誰もそれに気づくほど愚かであるか、または気にするほど無関心ではないということです。
-
Geminiは品質においてChatGPTやClaudeに劣ると広く考えられています。おそらく、SynthID-textを本番稼働させたことが、その理由の一つかもしれません。個人的にも、Geminiの文章は劣っていると思います。SynthIDの使用が、私や一般的な世論がGeminiを二流のチャットボットと見なしている事実と全く関係がないのかもしれませんが、その場合、Geminiが二流のチャットボットであるという事実が、GoogleがSynthIDを動機とするトークンを結果に混ぜ始めたときに「無視できるほど小さい」違いを生んでいるのかもしれません。あなたのレストランの顧客は、あなたがいつものコーヒーをFolgers Crystalsに置き換えたことに気づかないでしょう。なぜなら、いつものコーヒーがもともと二流だからです。
Anthropic
さて、ようやく、昨日公開されたAnthropicの新しい「Claudeのテキスト透かしはどのように機能するか」に戻ります。いくつかコメントがあります。
要約すると:
私たちは、Claudeの出力の品質や内容に実質的な影響を与えない透かし方法を使用しています。
透かしありと透かしなしのテキストの違いは、読者には区別できません。
翻訳:特定の単語は重要ではなく、誰も文章を注意深く読んでいないと私たちは考えています。
- テキストに追加されるものはありませんし、隠し文字もありません。
これは最初から明確にすべきでした。
- 透かしはClaude固有のものではありません。8月2日現在、EUは市場にサービスを提供するAIプロバイダーに対し、AI生成コンテンツにマークを付けることを要求しています。他の主要なモデル開発者も同じ行動規範に署名しており、独自の透かしを実装する予定です。
EU域外で、生成された全てのテキストを改変するようなマーキングを適用すると述べているAIプロバイダーは他にありません。
「今日の天気は寒くて…」という文を考えてみましょう。次の単語が「甘い」である可能性は非常に低いですが、「曇り」や「どんより」である可能性はかなり高いです。ほとんどの場合、モデルが最終的にこれらの後半の2つの単語のどちらを選択するかは、読者にとってそれほど重要ではありません。文の意味はどちらの場合でもほぼ同じです。このような場合、選択は乱数によって決定されます。
「曇り」対「どんより」が「読者にとってそれほど重要ではない」と主張することは、この全事業が、書くこと、あるいは読むことの意味の冒涜であるという私の議論の核心です。それがいくつかの点で微妙であるということは、それがより冒涜的であるということです。なぜなら、それはこそこそしているからです。
社内テストでは、透かしがClaudeのテキストの内容、創造性、または読みやすさに影響を与えていないことを確認しました。SynthID-Text論文では、私たちが使用する技術を紹介した際に、Google DeepMindは、モデルの一部に透かしを使用したモデルをGeminiのトラフィックに提供し、サムズアップとサムズダウンの評価を比較してこの影響をテストしました。彼らは、透かしなしモデルと比較して統計的に有意な差がないことを発見しました。そして、管理された研究では、透かしありと透かしなしの回答を並べて比較した人間の評価者は、品質に違いがないことを見ました。
上記の、このサムズアップ/サムズダウンデータが、SynthIDスタイルの単語バイアスの透かしがテキストを悪化させるかどうかを評価する上で全く無価値であるという私の議論を参照してください。定義上、それはテキストを悪化させなければなりません。なぜなら、透かしアルゴリズムの性質上、悪い単語選択の確率を上げ、モデルの最良の選択の確率を下げる必要があるからです。問題は、どれだけ悪くなるかだけです。Googleのサムネイルカウントデータが示しているのは、Geminiユーザーがサムズダウンボタンをクリックするほど悪くはないということです。
透かしは、それを読んでいる人にとっての意味や体験を変えませんが、後でテキストがClaudeによって生成された可能性が高いかどうかを確認したい場合、透かしによってそれが可能になります。
いいえ、それはできません。なぜなら、スキーム全体がAIプロバイダーのみが持つ秘密鍵に結びついているため、「あなた」ではなくAnthropicだけが確認できるからです。
Claudeが人間の書いたテキストを校正する場合、返されるものは一般的に軽く編集されたものだけです。なぜなら、ほとんど全ての単語がその人のものであるため、透かしが付着する余地はほとんど(あるいは全く)ありません。テキストの長さとClaudeがどれだけ重く編集したかによって、それらの変更はClaudeの関与を検出可能にするのに十分ではないかもしれません。Claudeが書けば書くほど、より多くの決定を下す必要があり、透かしのためのスペースが増えます。
翻訳:私たちは、自分の文章の校正にClaudeを使用することを、それが全体としてClaudeによって生成されたとフラグ付けされるリスクを負うことを厭わない限り、二度と使用できなくなります。
例えば、モデルが「2 + 2 =」と書いた後、次のトークンには非常に明確な最良の選択肢があります(モデルが合計を完了している場合、それに匹敵するほど良い答えはありません。「4」です。ジョージ・オーウェルの『1984年』について話している場合、それに匹敵するほど良い答えはありません。「5」です)。透かしの「ナッジ」はここでは適用されません。同じ理由で、コードは、多くの場合正確でなければならないため、一般的に他の種類のテキストよりも透かしが少なくなっています。
とは言え、コード内の特定の単語や用語の間で任意に選択肢がある領域では、コード内のコメントのように、透かしを使用できます。しかし、定義上、実際のコード生成への影響は無視できるほど小さいでしょう。
翻訳:私たちはプログラミングコードの精度を重視しますが、散文の精度は重視しません。
そして、ジョージ・オーウェルの『1984年』を、単語の選択が重要ではないという考えに基づいたテキスト改変スキームを正当化する文脈で、称賛して引用するのは、非常に皮肉です。私の言いたいことは、一体全体どういうことでしょうか?オーウェルが?
最後に、なぜ彼らがこれを行っているかについてです。
私たちはEU AI法に準拠するために透かしを実装しています。Anthropicは、他のいくつかの主要なAIモデルプロバイダーや、約190の署名者と共に、2026年7月にEUのAI生成コンテンツの透明性に関する行動規範に署名しました。これは、AIシステムプロバイダーにAI生成テキストを「マーク」する手法を使用することを要求しています。私たちはまだ地域別にスコープを絞るための耐久性のある方法を持っていないため、ローンチ時にグローバルに透かしを適用しています。
これは、Financial Timesが最近報じたところによると、2兆ドルの評価額を目指すIPOの数週間前であり、世界で最も評価額の高い企業トップ10に入る可能性があります。これは今日の時点で7位に位置し、TSMC(2.2兆ドル)とBroadcom(1.9兆ドル)の間にあります。
これにより、以下のいずれかが真実であると信じるしかありません。
-
AmazonやTSMCと同等の評価額を持つテクノロジー企業が、EU域内でのみEUの地域法に技術的に準拠できないというのは、全く問題ないことです。全く心配する必要はありません。
-
Anthropicは手に負えない状況にあり、自社の技術スタックを驚くほどほとんど制御できておらず、差し迫ったIPOは、世界的なAIバブルの新たな最高値を記録したものとして記憶されるだけかもしれません。
また、他の主要なグローバル市場が、AIが生成テキストに秘密裏に透かしを入れることを違法とした場合、どうなるのでしょうか?
OpenAI
OpenAIのサポートドキュメント「OpenAI生成コンテンツにおけるプロビナンスシグナル(コンテンツクレデンシャル、SynthID)」より:
欧州委員会のAI生成コンテンツの透明性に関する行動規範の下での私たちのコミットメントに沿って、私たちの目標は、標準とツールが成熟し続けるにつれて、顧客と開発者が自身の透明性義務を満たすための明確な方法を持てるように、テキストを含む全てのモダリティにプロビナンスシグナルを拡張することです。
この短い声明には多くの曖昧さがあり、OpenAIモデルが顧客や開発者が要求した場合にのみ、フィンガープリントマーカーでテキストを改変する可能性もあります。あるいは、EUのユーザーにのみ義務付けられる可能性もあります。もし私がOpenAIにいたら、この点について強く主張し、ChatGPTはあなたがそれを要求しない限り、生成するテキストに透かしを入れることは決してないだろうと公に言うでしょう。そして、あなたが知らない方法であなたの言葉にフラグを立てる秘密裏に機能するツールを望むなら、Claudeを使えばいい、と。
さらなる読書
ArXivの3つの論文:
- 「大規模言語モデルのための透かし」、最終改訂2024年5月。
- 「砂の中の透かし:生成モデルのための強力な透かしの不可能性」、最終改訂2025年5月。
- 「デュアルセマンティック埋め込みによる大規模言語モデルのための堅牢なテキスト透かし」、最終改訂2026年6月。
個人的には、生成または処理するテキストにそのような透かしを残そうとするツールの使用を深く不快に思いますが、その背後にある数学は魅力的であることは認めます。
Michael Lopp、Rands in Reposeにて、「RIP Claude」:
過去にEU規制と格闘しなければならなかった人間として、私は煩雑な官僚的プロセスに何が含まれているかを十分に理解しています。Anthropicが直面している脅威を推測できます。しかし、これは彼らの透かし戦略における、時代錯誤で、不器用で、そして憂慮すべき最初の攻撃です。[...] 私の文章は私の仕事であり、Anthropicの現在の戦略は、作家に対して積極的に敵対的です。
Jeff Gamet、「AnthropicのClaude透かしはAI毒薬に等しい」:
明確にしておくと、透かしはClaudeが扱うほとんど全てのテキストに埋め込まれています。Claudeが生成するテキストに加えて、校正や要約など、処理するテキストにも適用されます。私は、内容が人間によって書かれたものであるにもかかわらず、AIによって校正されたと不正確に非難されるケースが多すぎると予想しています。
透かしはコピー&ペーストでも文書に残ります。ブログ記事やメールからテキストをコピーしただけで、あなたが書いたものがAI生成としてタグ付けされることを想像してみてください。実際、この投稿でも起こり得ます。私は個人的にAIツールを使わずに全てのコンテンツを書いていますが、この記事の冒頭の引用はAnthropicのウェブサイトから直接コピーしました。それは、私がここで書いたものがAI生成として表示されることを意味するのでしょうか?もし彼らが自社のモデルを使用して私が引用したものを生成または編集した場合、答えは非常に高い確率で「はい」になります。
私が上記で引用したArXivの論文の一つは、そのような透かしは、元々英語で生成されたテキストの記事がドイツ語に翻訳された場合でも持続すると主張しています。
秘密がここでの毒です。Anthropicだけが、透かしを生成し、それらのマークの確率的検出を実行する秘密鍵を保持している場合、私たちは皆、疑問に思うことになります。読んでいるものが秘密裏に透かしされているのか、引用しているものが秘密裏に透かしされているのか、そして私たち自身が書いているものが、私たちが知らない、見ることのできない秘密に基づいて不当にAI生成と非難されるのではないか、と。毒のあるというのはまさに正しい言葉です。
あるいは有害と言うべきでしょうか?それとも飛行機?
- これは著名な賢人ジム・クレイマーが支持する側です。↩︎