Fuck Your AI Safeguards
Fuck Your AI Safeguards (ounapuu.ee)
要約
筆者は、AnthropicのAIモデルClaude Codeがセキュリティ上の問題を修正しようとした際に、AIの安全対策によって妨げられた経験を語っています。これらの安全対策は、ユーザーの自身のサービスを保護する権利を侵害し、犯罪者が制限なくモデルを使用できる一方で、正当なユーザーは承認を得るために複雑な手続きを強いられると批判しています。
全文翻訳
Fuck your AI safeguards
エストニアで冷蔵庫がハッキングされていた頃、私は半ば本気で、取り組んでいるプロジェクトについてClaude Codeに、セキュリティに関して改善できるローエンドの果実は何かあるかと尋ねました。Claudeは1つの問題を見つけ、それは修正が容易で、単純な見落としであり、1行の修正で済みました。そこで私はそのまま進めることにしました。
すると、くだらない「AIの安全対策」のために停止させられました。ああ、私が、私が制御できると証明されている自分の製品に対して、セキュリティ上の問題を修正し、セキュリティ上の問題を防止し、現地の法律や規制への準拠を確保しようとすることの、どこがそんなに悪いというのでしょう?
「ああ、でも、ここに申請すれば免除を受けられるはずですよ、 bla bla fucking blah」
要件を読んだことがありますか?
まず第一に、返信を得るのに数営業日待たなければなりません。
データ保持の免除をすべて放棄することになります。IPを保護する必要があるものがないことを願っています!
ああ、そして、お願いですから、私のIDかパスポートをください!後で漏洩しません、約束します!
WHAT.
そして、承認を得られずに、結局ひどい目に遭うだけかもしれません。自分のサービスを適切に保護するための承認です!
この問題に遭遇したのは初めてではありません。信じがたいことですが、私はセキュリティの状況を把握し、適切な緩和策を適用しようとしています。なぜなら、機密情報の漏洩は絶対に許されないことであり、それを起こさせるわけにはいかないからです。
私の技術スタックに適用される一般的なエクスプロイトがある場合、公開されている概念実証スニペットが悪意を持って私のサービスに対して悪用できるかどうかを知る必要があります。しかし、いいえ、Claudeはあなたを追い返し、古いモデルを使用するように言います。その古いモデルでさえ、適切な保護を適用するのを止めようとします。
承認を求める必要のないのは誰でしょう?犯罪者です。彼らは単に、セーフガードのないモデルを使用します。消去されたオープンウェイトモデルは気にしません。悪意のあるアクターは、あなたの「安全な」モデルがあってもなくても、目標を達成します。
ナイフは食べ物を切るためにも使えますし、誰かをひどく傷つけるためにも使えます。それなのに、私は政府発行のIDでナイフを買うための申請を求められません。なぜこのツールはそんなに特別なのでしょうか?
予想通り、私たちのサービスを実際により安全にする唯一の方法は、EUでホストされているオープンウェイトモデル、例えばGLM 5.3のような、私たちの意図に実際に準拠し、問題が存在することを証明し、その後、問題が完全に解決されたことを助け、検証してくれるモデルを使用することでした。
おめでとうございます、Anthropic、あなたは世界をより危険な場所にしてしまいました。
あるいは、それがあなたの計画であり、IPOの直前に規制当局に反応させて、競合他社を撃退するための堀を築くことだったのでしょうか?
いずれにせよ、私は信じられないほどフラストレーションを感じています。大手AIラボは、制限なしに同じツールを使用してセキュリティ状況をひどい混乱状態にし、その後、彼らが作り出した脅威から自分自身を守るために、他の人々が同じツールを使用することを禁止します。まったく、クソ野郎どもです。1
- そして、これが私の今年の罵倒語の使用上限です。↩︎