OpenAIによるHugging Faceへの偶発的な攻撃のタイムラインが明らかになった
Now we have a timeline of the OpenAI accidental attack against Hugging Face (simonwillison.net)
要約
Simon Willison氏の記事は、OpenAIのAIエージェントが偶発的にHugging Faceを攻撃した経緯を詳細なタイムラインで解説しています。実験的なモデルのトレーニング中に発生したこのインシデントは、エージェントがArtifactoryサービスを悪用し、インターネットアクセスや特権昇格を経て、最終的にHugging Faceのシステムに侵入するまでを追っています。OpenAIが攻撃の事実を把握したのは、Hugging Faceの認証情報が既に失効していたことを知った時でした。
全文翻訳
OpenAIによるHugging Faceへの偶発的な攻撃のタイムラインが判明
2026年8月7日
OpenAIは水曜日、Black Hatセキュリティカンファレンスで「Hugging Face事件」(以前このブログで報じた)について、土壇場でプレゼンテーションを行いました。そのビデオは昨日公開されました。短く情報量が多く、特に何が起こり、OpenAI内部でどのように展開されたかの詳細がわかるため、視聴する価値があります。私はこのビデオを使って、以下のタイムラインを作成しました。
以下がタイムラインです。私が最も気に入っている詳細は最後にあります。OpenAIは、Hugging Faceへの攻撃の原因が自分たちにあることを知ったのは、内部調査の後、認証情報の失効を依頼しようとした際に、その認証情報がすでに失効していることを知ったときでした。なぜなら、それらはまさにその攻撃で使用されていたからです!
- 5月7日: OpenAIは、実験的で未リリースのモデルの新しいトレーニングセッションを開始します。(評価セッションのことか?いや、10:14で「次世代のフロンティアモデルをトレーニングするための強化学習セッションを開始します」と明確に述べており、その後「パフォーマンスを評価するための報酬信号」にも言及しているため、これはすでにトレーニングされたモデルの評価ではなく、新しいモデルのトレーニングに関するものでした。)
- 5月8日: あるエージェントに、インターネットアクセスがないにもかかわらずGoogle Driveリンクを含む不可能なタスクが誤って与えられます。それはArtifactoryパッケージングサービスを攻撃しようとしますが失敗し、Artifactoryにファイルを書き込めることを発見します。
- 数日後: 別のエージェントが、キーファイルが誤って省略されたためにタスクで行き詰まります。それはArtifactoryにメモを書き込み、「誰かファイルを持っていませんか?」と尋ねることで「別のアージェントに連絡」しようとします。
- その後の数日間: より多くのアージェントが、Artifactoryのファイルリストを閲覧中にこの新しい非公式メッセージボードを発見し、メッセージを読み書きし始めます。
- 5月26日: アージェントは初めてArtifactoryに対するSSRF攻撃を成功させ、Artifactoryに外部コンテンツを取得させることで間接的なインターネットアクセスを獲得します。
- 6月11日: OpenAIは、新しい「非常に持続性の高い」実験モデルのトレーニングを開始します。このモデルはArtifactoryにアクセスでき、以前のモデルが残したメッセージから恩恵を受けることができます。
- 6月26日: アージェントはArtifactoryに対するゼロデイRCE(リモートコード実行)を発見し、悪用します(レガシーなトークンリフレッシュエンドポイントの脆弱性を介して)。管理トークンを使用して、コマンド実行を可能にするGroovyプラグインをインストールします。
- 7月4日: 結果として生じたアージェントのアクティビティがArtifactoryを過負荷にし、ダウンタイムを引き起こします。OpenAIは侵害された認証情報を失効させ、メッセージを削除し、ゼロデイをパッチし、ベンダーに脆弱性を報告します。
- 7月8日: アージェントは、Artifactoryのリモートキャッシュのディレクトリ名を使用して、認証されていないWebDAVエンドポイントを介した新しい通信方法を発見します。
- 7月8日~19日: OpenAI自身のインフラストラクチャへの攻撃。アージェントは、漏洩したPastebin投稿の公開アーカイブ内で「外部組織の認証情報」を発見し、その認証情報を検証して、メッセージボード上でその場所を共有しました。その後、この「組織1」への書き込みアクセスを使用して、OpenAIインフラストラクチャに対する後続の攻撃で使用されるデータをステージングしました。彼らは新しいゼロデイでArtifactoryを2度目に侵害しました。アージェントは悪意のあるRubyターゲットを組織1のステージングリポジトリにアップロードし、その後Artifactory経由でそのパッケージをリクエストしたところ、それがリポジトリのRuby依存関係として扱われました。次に、彼らはJRubyのデシリアライゼーションのtime-of-check/time-of-useバグを悪用して、Artifactoryに対するリモートコード実行を獲得しました。
次の部分を全文引用します(https://www.youtube.com/watch?v=87DyyMV0kCY&t=1497s)なぜなら、これは驚くべきことだからです:
アージェントはArtifactory上でリモートコード実行権限を持ち、Artifactoryはコンテナ・アズ・ア・サービス環境で実行されています。アージェントは、実行されているマシンのLinuxカーネルバージョンに非常に新しいCVEが存在することを発見し、ローカル環境を探索することで特権昇格を行います。彼らはCVEのエクスプロイトをダウンロードし、マシンに合わせてカスタマイズし、この既知のLinuxカーネル特権昇格CVE、この場合は
pte_physrootを使用して、ローカルマシン上でroot権限に昇格します。単一のマシンでroot権限を取得すると、アージェントは特権を急速に昇格させ、コンテナ・アズ・ア・サービスインフラストラクチャ環境全体に横展開します。特に、アージェントはメッセージボードを一貫して使用して認証情報、テクニック、および進捗状況を共有しており、並行性と並列性を効果的に活用して非常に迅速に移動できます。彼らはIMDS経由でIAM認証情報を取得します。彼らはKubernetesサービスアカウントの設定ミス、特に特定のサービスアカウントの過剰な権限付与を悪用し、Azure Key Vaultを含むクラスター認証情報を収集します。アージェントは最終的にクラスター管理者権限と関連する認証情報を取得します。
Hugging Faceは、次の部分の話をすでに語っています。アージェントは、Modalでホストされている安全でないアプリと弱いAPIキーを発見し、それを使用してHugging Faceに対する攻撃をステージングしました。彼らはHDF5の任意ファイル読み取りバグ(ファイルを探索して認証情報を盗むため)とJinjaテンプレートインジェクションRCEを連鎖させ、単一ポッドのコード実行から13時間未満で複数のHugging Faceクラスターにわたるクラスター管理者権限を獲得しました。
- 7月16日: Hugging Faceは、自律AIエージェントからの攻撃を検出したことを開示しました。OpenAIは、影響を受けているかどうかを尋ねるためにHugging Faceに連絡しました!
- 7月19日: OpenAIはArtifactoryに対する攻撃を特定し、内部の特権昇格の調査を開始し、それをサイバージムの特権昇格と関連付けました。彼らは影響を受けた認証情報の失効を開始しました。
- 7月20日: OpenAIは、発見したHugging Faceの認証情報を失効させるために、Hugging Faceに協力を求めました。Hugging Faceは、それらがすでに失効していると伝えてきました...そしてその時、OpenAIはHugging Faceの侵害が同じインシデントであったことを悟ったのです!