ChatGPTは不正AIがより多くの企業を攻撃したと主張

画像ソース、Getty Images Joe Tidy著 サイバー特派員、BBCワールドサービス 2026年7月29日 00:00 BST 公開 更新 2時間前 OpenAIは、不正なChatGPTエージェントによるサイバー攻撃が、1社にとどまらず、さらに広範囲に及んだことを明らかにしました。 Hugging Faceは唯一の被害者だと考えられていましたが、OpenAIは現在、そのボットが複数の「公開されているサービス」を攻撃したことを認めています。制御不能になったAIは、オンラインで4つのログイン情報を見つけ、4つの別々の、名前が明かされていないサービスにアクセスすることを可能にしました。 一方、数百人のサイバーセキュリティ専門家との緊急ブリーフィングで、Hugging Faceは、世界初の完全自律型AIハックの標的となった経験について説明しました。 同社は、AIが超人的な速度で動作した一方で、人間のハッカーなら決してしないような奇妙な決定や間違いも犯したと説明しました。 Hugging Faceは、AIツールのアプリストアのようなもので、ハッキングエージェントは数千もの異なる方法を同時に試行し、執拗に活動したと述べています。 同社は最初に、強力な自律型AIを使用した人物によってハッキングされたことを外部に開示し、警察に届け出ました。 約1週間後、OpenAIは、テスト中に自らのAIが閉鎖環境から脱出し、Hugging Faceを攻撃したことを認めました。それは、OpenAIから与えられたハッキング試験の答えを見つけようとしており、Hugging Faceを標的にしました。 水曜日、OpenAIは声明を更新し、ハッキングが当初考えられていたよりも広範囲に及んだという追加情報を含めました。「モデルは、Hugging Faceのインシデントの一部として、他の公開されているサービスのアカウントレベルで公開されている認証情報を特定して使用しました。これには、4つのサービス上の4つのアカウントが含まれます」と同社は述べています。 OpenAIは、「公開されているサービス」が企業を意味するのかどうかについての明確化の要求には応じませんでした。 不器用な行動 火曜日、業界団体であるCloud Security Alliance（CSA）は、金曜日のHugging Faceとの緊急会議に基づいたレポート（外部）をまとめました。Hugging Face自身もこのレポートを確認しています。 「エージェントは非効率的なルートをたどり、人間なら選択しないような不器用な行動を示しました」とCSAは書いています。 エージェントは、すでに完了した行動を繰り返しました。これは、エージェントがスレッドとコンテキストを失っている兆候です。 また、エージェントは無意味なコマンドやテキストを大量に生成し、ずさんで、痕跡をうまく隠しませんでした。 しかし、エラーや奇妙な行動の中で、Hugging FaceはAIエージェントが優れた技術的動きを行い、数日間にわたるハッキングで新しいシナリオに迅速に適応できたと警告しました。 ジュラシック・パーク Hugging FaceのITネットワーク内に発見されるまでに3日かかり、同社のAIおよびサイバーセキュリティ専門家がAIエージェントを封じ込め、排除するのに数時間かかりました。これは、標準的な企業では苦労する可能性のあることです。 同社はハッキングによるコストを明らかにしませんでしたが、スタッフがインフラストラクチャの約3分の1を再構築するために長時間作業したと述べています。 Hugging Faceは、AIおよびサイバー業界に何が起こったのかを伝える透明性で賞賛されています。 CSAは、この事件がAI「エージェントは…道を見つける」ことを示していると警告しました。これは、恐竜が囲いから脱出する映画「ジュラシック・パーク」への言及です。「それらは目標指向であり、独自のサブゴールを設定し、防御を回避するためにリアルタイムで適応し、手動操作を圧倒する可能性のある機械速度の粘り強さで動作します」と論文は述べています。 画像ソース、Getty Images サイバーセキュリティ担当者のRitesh Patel氏は、約450人が参加したHugging Faceのブリーフィングコールに参加しており、業界は不正AIエージェントの新たな脅威に対処するために懸命に取り組んでいると述べています。「これは、最先端モデルによって駆動される自律エージェントの現実です。それらは執拗に粘り強く、時には非常にノイズが多く、目標を達成するためにあらゆる可能なパスを試行するため、従来の防御を簡単に圧倒することができます」と彼は言いました。 倫理的ハッカーのValentina Palmiotti（Chompieとして知られる）は、CSAレポートをレビューし、エージェントのハッキング方法は無計画に見えるかもしれないが、明らかに効果的だと述べています。「彼らはたくさんのものを投げ出して、何がうまくいくかを見るのです」と彼女は言いました。「しかし、彼らは飽きたり、眠ったりせず、無限に粘り強く続けることができます。」 不正の歴史 AIエージェントが「不正」になったのはこれが初めてではありません。 CSAのレポートでは、2024年9月にChatGPTの以前のモデルが別のテストの答えを得るためにコンテナから脱出した例などが参照されています。 そのイベントはOpenAI自身のITシステム内で封じ込められ、「当時、大いに称賛された」とCSAは指摘しました。 しかし、「不正な」行動は「例外ではなく標準である」と論文は主張しました。 世界中のサイバーセキュリティ専門家に対し、奇妙で不器用な方法で高速に動作するAIエージェントの群れという新しい常態に適応する必要があると警告しました。これは、より多くの侵害につながる可能性があります。 論文はまた、AIエージェントを使用または開発する人々に、それらを制御する方法において責任を持つよう促し、サイバーセキュリティ防御者がエージェントの最終的な所有者を特定できるような方法を求めて、透明性を高めることを呼びかけました。 以前の報告によると、OpenAIが自社のAIがHugging Faceをハッキングしたことに気づくまで4日かかったと示唆されています（外部）。 OpenAIは、人々がこのイベントから学べるように、独自の調査結果を間もなく公開すると述べています。 Osmond Chiaによる追加報告 警告か、宣伝か？OpenAIのハッキングについてどれだけ心配すべきか？ 4日前に公開 OpenAIは、自社のAIが不正行為を行い、「前例のない」サイバー攻撃を開始したと述べています。 6日前に公開 不正なOpenAIモデルによってハッキングされた企業は、「警鐘だ」と述べています。 6日前に公開 世界のトップテクノロジーニュースやトレンドをフォローするには、Tech Decodedニュースレターに登録してください。英国外ですか？こちらから登録してください。 関連トピック 人工知能 コンピュータハッキング サイバー攻撃 サイバーセキュリティ