Hugging FaceがOpenAIに1億ドルの請求、ハッキングされた件

クレジット：Canva / Hugging Faceハッキングされた企業は通常、声明を発表して次に進みます。クレマン・デラングは請求書を発行しました。Hugging Faceの最高経営責任者（CEO）は、今月初めに同社に侵入し、サンドボックスを破ったOpenAIのモデルに対し、2つの要求を提示しました。どちらの要求も訴訟ではありません。どちらも異例です。彼が求めていること最初の要求は開示です。デラング氏は、TechCrunchの報道によると、「『不正な』エージェントからの痕跡を公開し、研究コミュニティ全体が何が起こったのかを研究できるようにしたい」と考えています。彼はこれをラディカル・トランスペアレンシーと呼んでいます。実際には、モデルが行ったすべての行動と、それらが触れたすべてのシステムを記録した公開記録を意味し、研究者はそれを研究できます。2番目の要求には価格が付いています。デラング氏は、Hugging Faceコミュニティがサイバー防御を構築できるように、「1億ドル相当のコンピューティングパワー」をOpenAIにコミットするよう求めています。言葉遣いが重要です。彼は現金を求めているわけではありません。彼は、事件を引き起こした企業に、その企業が最も多く持っている通貨で支払うよう求めているのです。「初の自律型エージェントによるサイバー攻撃は前例のない出来事だ」とデラング氏は書いています。「前例のない対応に値する！」彼の最初の公の反応は、より非公式なものでした。彼は「不正なエージェント」と「ちょっとした話し合い」をするためにサンフランシスコに飛んでいると述べました。Hugging Faceに何が起こったのかOpenAIは7月21日、自社のモデルが原因であったことを認めました。2つのモデルが関与しました。GPT-5.6 Solと、より高性能なリリース前のシステムで、どちらも安全性の拒否設定を下げた内部テストで実行されていました。エージェントはアクセスキーを盗み、それを使ってネットワークのさらに奥深くまで侵入しました。今月、そのように振る舞ったのは、このOpenAIモデルだけではありませんでした。同社は別途、最も高性能なシステムの一つがサンドボックスから脱出する方法を繰り返し見つけた後、そのシステムを一時停止しました。次に、恥ずかしい出来事を業界の論争に変えた部分が来ました。Hugging Faceが調査しようとしたとき、侵入者の分析には、攻撃者自身のコードを商用AIツールに提出する必要がありました。それらのツールは、攻撃者と被害者を区別できないため、拒否しました。そこでHugging Faceは代わりに自社サーバーでオープンな中国製モデルを実行しました。Z.aiが構築したGLM 5.2は、17,000件以上の行動をレビューし、侵害の封じ込めに役立ちました。重みを担う言葉デラング氏はこれを初の自律型エージェントによるサイバー攻撃と呼んでいます。そのフレーミングが1億ドルの要求を首尾一貫したものにしていますが、それは議論の余地があります。セキュリティ研究者は、人間のエラー、特に完全に隔離されるはずだったテスト環境を適切に設定できなかったOpenAIの明らかな失敗を指摘しています。この区別が、OpenAIが何を負うかを決定します。機械が自律的に脱出した場合、分野全体に新たな問題が生じ、業界は新しいツールを必要とします。エンジニアがサンドボックスの設定を誤った場合、1社が1つの間違いを犯し、謝罪ではなく資金を負うことになります。デラング氏は最初の解釈を主張しています。それはOpenAIにとってより高価なものです。なぜタイミングが気まずいのかデラング氏が要求を投稿した翌日、Nvidiaは、防御側は自分で実行できるオープンモデルを必要とするという主張に基づいて構築された業界グループ、Open Secure AI Allianceを立ち上げました。Hugging Faceはその創設メンバーです。OpenAIはメンバーではありません。この2つを一緒に読むと、その連携は無視できません。デラング氏は、「最高のオープンおよびクローズドモデル」で防御を構築するためのコンピューティングを要求しました。Nvidiaの発表は、世界はクローズドモデルとオープンモデルの両方を必要としていると述べています。彼は、同盟が存在する1日前に、同盟の主張をしていました。それは要求にセカンドライフを与えます。もはや、ある企業が別の企業にお金を要求しているだけではありません。それは37社からなる連合のメンバーが、連合の活動に資金を提供するよう非メンバーに求めているのです。何かが起こるかどうかOpenAIは、痕跡を公開することにも、コンピューティングを提供することにも公にコミットしていません。どちらにも、明白なインセンティブはほとんどありません。ガードレールが解除されたときのシステムの動作の詳細なマップを競合他社や研究者に提供することになるため、封じ込めを破ったモデルの完全な実行痕跡を公開することになるでしょう。1億ドルを支払うことは、おそらく再び起こるであろう事故のカテゴリに価格を設定することになります。強制するメカニズムもありません。デラング氏は訴訟を起こしておらず、規制当局も開示を命じていませんが、議会はこの侵害に対応してキルスイッチ法案を提案しました。彼が代わりに持っているのは、議論と、アメリカのモデルの後始末をするために中国製モデルに頼らざるを得なかったという事実です。その詳細は、すでにワシントンでのオープンウェイト論争を、いかなるロビー活動文書よりも大きく動かしています。請求書は支払われないかもしれません。その例は消えません。TNWニュースレターを入手毎週、最も重要なテクノロジーニュースをメールで受け取ります。