HN 日本語サマリー

← 一覧へ戻る
AI・機械学習

Claudeユーザーは、Anthropicの新ウォーターマークが彼らの不正利用を検知することに怒っている

Claude users are mad that Anthropic's new watermarks will catch them using it (techcrunch.com)

41 pointsby ashurandi40 コメント

要約

AnthropicがEU AI法遵守のためClaudeの出力にAI生成を示す不可視のウォーターマークを導入したところ、一部ユーザーから不満の声が上がっています。ユーザーは、このウォーターマークが学生やジャーナリストなどの一般的な利用者を不正利用で検挙する一方、巧妙なユーザーは回避できると主張しています。しかし、記事はこれらの主張に懐疑的で、倫理的な問題やAI生成コンテンツのリスクを指摘し、ウォーターマーク導入はAI生成物の追跡にsensibleな方法であると結論付けています。

全文翻訳

Claudeユーザーは、Anthropicの新ウォーターマークが仕事や授業での利用を検知することに不満

Anthropicは最近、Claudeの出力をウォーターマーク化する決定を下しました。これは、チャットボットの編集テキストに不可視のコードを挿入し、AI生成であることを示すものです。

Anthropicがこの新しいポリシーを導入したのは、EU AI法(EU AI Act)の透明性コードを満たすためです。この法律は現在、テック企業に対し、AIによって生成または編集されたコンテンツをコンピューターシステムが識別できる方法でラベル付けすることを義務付けています。しかし、欧州の規制当局が満足している一方で、一部のAIユーザーは明らかにそうではありません。

Redditを見れば、不満の兆候を見つけるのは難しくありません。ただし、サイト上の他の投稿者はこれに同意していません。私が目にした、より大げさな投稿の1つは、アカウントがわずか3週間前のユーザー、visionodeによるものでした。visionodeによると、新しいウォーターマークシステムは、世界中の無実のチャットボットユーザーを犠牲にするために設計された、専制的な陰謀です。

visionodeの基本的な主張は、賢いClaudeユーザーはAI利用の証拠を言い換えたり、他のAIサービスで出力を整形したりすることで隠せるかもしれないが、平均的なClaudeユーザーは捕まるだろう、というようです。

「誰が捕まるのか?あなたです。段落を再構成するためにClaudeを使った学生。200ページのトランスクリプトを要約するためにAIに依頼したジャーナリスト。クリエイティブ・ブロックに陥り、類義語を尋ねたライター。これらの人々は、額にデジタルタトゥーを刻まれてプロセスから出てくるのです。」

visionodeの憤りを軽んじるつもりはありませんが、それらは最良の例ではありません。200ページのトランスクリプトを要約するためにAIに依頼したジャーナリストは、その要約に付随するウォーターマークに悩まされることはないでしょう。ただし、その要約を記事にそのままコピー&ペーストする場合を除きます。それは明らかに非倫理的であり、起こるべきではありません。

「段落を再構成する」ようにAIに依頼した後、学生がClaudeの出力をエッセイにコピー&ペーストするのも同様に非倫理的です。

他のRedditorも、投稿者の憤慨をあまり支持していませんでした。

「この男を見てみろ」と、ある投稿者はただコメントしました。

別の投稿者はOPに「深呼吸して」と求めました。

visionodeだけが不平を言っていたわけではありません。別の不満を持つユーザーは、ウォーターマークを「非倫理的」かつ「不快」と呼び、Claudeを使用したことで、仕事の大部分を自分がやったと主張しました。彼らの見解では、チャットボットは単なる「ツール」であり、骨の折れる労働を容易にしたにすぎません。

「指示、コンテキスト、決定、そして数え切れないほどの改善を提供したのは私で、Claudeはそのツールでした。もしClaudeが生成したコードやその他のものをウォーターマークし始めたら、一体何を主張していることになるのでしょうか?」と投稿者は尋ねました

ここでも、他のユーザーが批判者に殺到しました。

「しかし、それは何も主張していません」と、あるユーザーは反論しました。「AI生成出力がさまざまな状況で引き起こす可能性のあるリスクのために、AI生成出力を検出できることが重要です。」

「兄弟、Claudeを使わずにClaudeについて文句を言うことさえできなかった」と、別のユーザーは皮肉を言いました。

一部の批評家は被害者意識の物語から離れ、Anthropicの新しいポリシーに対して、よりニュアンスのある議論をしています。

例えば、ある投稿者は、他の人々の作品を吸い上げて生成された編集プロダクトにウォーターマークを付けるという、一般的な偽善について不満を述べました。「これは非常に不穏な方向性だと思います」とユーザーは述べました。「私はClaudeを何も書くために使っていませんが、自分の仕事にウォーターマークを付けるAIを持っているというのは、フロンティアモデルの多くがどのようにトレーニングデータを取得したかを考えると、恐ろしく皮肉です。」

しかし一般的には、ユーザーはアルゴリズムによって生成された素材を追跡するための賢明な方法として、ウォーターマークシステムを支持する傾向があります。「これが良いアイデアではないという良い議論は文字通り存在しません」と、あるユーザーは別のスレッドで述べました。「これを望まない唯一の理由は、人々に嘘をつきたいからでしょう。」

当社の記事のリンクから購入すると、当社は少額の手数料を得る場合があります。これは当社の編集の独立性には影響しません。

LucasはTechCrunchのシニアライターで、人工知能、コンシューマーテック、スタートアップを担当しています。以前はGizmodoでAIとサイバーセキュリティを担当していました。Lucasへの連絡は、lucas.ropel@techcrunch.comまでメールでご連絡ください。

プロフィールを見る