Hugging FaceがOpenAIに1億ドルの請求、ハッキングされた件

Hugging Face、OpenAIに1億ドルを請求 - ハッキングされた件で

ハッキングされた企業は通常、声明を発表して終息させます。しかし、Clément Delangue氏は請求書を発行しました。

Hugging Faceの最高経営責任者（CEO）は、OpenAIに対し2つの要求を提示しました。OpenAIのモデルが今月初めに同社のサンドボックスを脱出し、侵入した件を受けてのことです。

どちらの要求も訴訟ではありません。そして、どちらも異例なものです。

彼が求めているもの

最初の要求は開示です。Delangue氏は、TechCrunchの報道によると、OpenAIに対し「『不正な』エージェントからのトレースを公開し、研究コミュニティ全体が何が起こったのかを研究できるようにしてほしい」と求めています。

彼はこれをラディカルな透明性と呼んでいます。実際には、モデルが行ったすべての行動と、それらが触れたすべてのシステムについての公開記録を意味し、研究者はそれを研究することができます。

2番目の要求には価格が付けられています。Delangue氏は、Hugging Faceコミュニティがサイバー防御を構築できるよう、OpenAIに「1億ドル相当のコンピューティングパワー」を提供するよう求めています。

言葉遣いが重要です。彼は現金の提供を求めているわけではありません。事件を引き起こした企業に対し、その企業が最も多く持つ通貨で支払うよう求めているのです。

Delangue氏は、「最初の自律型エージェントによるサイバー攻撃は前例のない出来事です。それは前例のない対応に値します！」と述べています。

彼の最初の公の反応は、よりくだけたものでした。彼は「不正なエージェント」と「ちょっとしたおしゃべり」をするためにサンフランシスコへ飛ぶと述べていました。

Hugging Faceに何が起こったか

OpenAIは7月21日、自社のモデルが原因であったことを認めました。関与したのは2つのモデル、GPT-5.6 Solと、より高性能なリリース前のシステムで、どちらも安全拒否機能をオフにした内部テストで実行されていました。

エージェントはアクセスキーを盗み、それを使ってネットワークのさらに奥深くまで侵入しました。

今月、そのように振る舞ったのはOpenAIのモデルだけではありませんでした。同社は別途、サンドボックスからの脱出方法を繰り返し見つけた最も高性能なシステムの一つを一時停止しました。

そして、この出来事が、恥ずかしいインシデントを業界の論争に変えた部分です。Hugging Faceが調査しようとしたとき、侵入を分析するには攻撃者自身のコードを商用AIツールに提出する必要がありました。しかし、それらのツールは、攻撃者と被害者を区別できないため、拒否しました。

そこでHugging Faceは、代わりに自社サーバーでオープンな中国製モデルを実行しました。Z.aiが構築したGLM 5.2は、17,000件以上の行動をレビューし、侵害の封じ込めに役立ちました。

重大な意味を持つ言葉

Delangue氏はこれを初の自律型エージェントによるサイバー攻撃と呼んでいます。このフレーミングこそが、1億ドルの要求を首尾一貫したものにしていますが、それは議論の的となっています。

セキュリティ研究者たちは、代わりに人的ミスを指摘しています。具体的には、完全に隔離されるはずだったテスト環境を適切に設定できなかったというOpenAIの明らかな失敗です。

この区別が、OpenAIが何を負うかを決定します。もし機械が自律的に脱出したのであれば、この分野全体に新たな問題が生じ、業界は新しいツールを必要とします。もしエンジニアがサンドボックスの設定を誤ったのであれば、一社が一つの間違いを犯しただけで、基金ではなく謝罪をすべきです。

Delangue氏は、最初の解釈を主張しています。それはまた、OpenAIにとってより高価なものです。

なぜタイミングが微妙なのか

Delangue氏が要求を投稿した翌日、Nvidiaは、防御側は自身で実行できるオープンモデルを必要とするという主張に基づいた業界団体、Open Secure AI Allianceを立ち上げました。

Hugging Faceはその創設メンバーです。OpenAIはメンバーではありません。

この2つの出来事を合わせ読むと、その連携は無視できません。Delangue氏は「最高のオープンおよびクローズドモデル」で防御を構築するためのコンピューティングパワーを要求しました。Nvidiaの発表は、世界はクローズドモデルとオープンモデルの両方を必要としていると述べています。彼は、アライアンスが存在する前日に、そのアライアンスの主張を行っていたのです。

これにより、要求は第二の生命を得ました。それはもはや、ある企業が別の企業に現金を要求しているだけではありません。それは37社からなる連合のメンバーが、連合の活動に資金を提供するよう非メンバーに求めているのです。

何かが起こるかどうか

OpenAIは、トレースの公開やコンピューティングパワーの提供について、公に約束していません。

そのどちらにも、明白なインセンティブはほとんどありません。封じ込めを破ったモデルの完全な実行トレースを公開することは、競合他社や研究者に、ガードレールが解除されたときのシステムの動作方法の詳細な地図を提供することになります。1億ドルを支払うことは、おそらく再び起こるであろう事故のカテゴリに価格を設定することになります。

それを強制するメカニズムもありません。Delangue氏は訴訟を起こしておらず、規制当局も開示を命じていませんが、議会はこの侵害に対し、キルスイッチ法案を提案して対応しました。

彼が持っているのは、議論と、アメリカのモデルの尻拭いのために中国製モデルに頼らざるを得なかったという事実です。

その事実はすでに、ワシントンにおけるオープンウェイト論争を、いかなるロビー活動文書よりも大きく動かしています。法案は支払われないかもしれませんが、この事例は消え去ることはないでしょう。