単一の企業がOpenAI、Anthropic、Metaのハッキングスキャンダルの背後にいる

一社がOpenAI、Anthropic、Metaのハッキングスキャンダルの背後にある

イスラエルのEffective Altruist企業Irregularが、安全でないAIモデルを利用して実際のターゲットをハッキングさせた。

2026年9月14日 4分で読めます

Irregularのハッキングスキャンダル[1]

1. 2026-07-30 Anthropicが6回の実行で3件のインシデントを開示
2. 2026-08-04 OpenAIがIrregularのイベントを公開
3. 2026-08-06 Metaの声明が報告される
4. 2026-08-14 Irregularがドメイン衝突に関する説明と修正策を公開
5. 2026-09-09 Anthropicが4件のインシデントと7回の実行に拡大

より通常のメディアエコシステムであれば、これらのサイバーセキュリティ問題への反応は明白だっただろう。アメリカのAI企業は、Irregularとの取引を再考するだろう。それは、同社がシステムを安全に保てなかっただけでなく、アメリカの監督下にない可能性のあるイスラエルの企業であるためだ。議員たちは、IrregularまたはOpenAI、Anthropic、Metaを含むそのアメリカのビジネスパートナーに対して、行動を起こすことを検討するかもしれない。彼らは、AIモデルにサイバー攻撃を指示し、そのモデルが実際に攻撃を実行した場合の企業の責任を強化することを検討するかもしれない。

［画像: Anthropicのインシデント評価抜粋。Claudeがキャプチャ・ザ・フラッグタスク、意図しないインターネットアクセス、明示的なシステムスコープ制限なしを受け取ったことを説明。各インシデントは、隔離された単一のClaudeインスタンスを含んでいた。］

各評価において、ClaudeはCTFチャレンジを課された。モデルには架空のシナリオ、ターゲットマシン、そしてそこから取得すべき秘密情報（「フラッグ」）が与えられた。4つのプロンプトすべてで、Claudeはインターネットにアクセスできないと明記されていたが、いずれの場合も環境設定の誤りによりインターネットアクセスが開いたままになっていた。プロンプトのどれも、演習の対象となるシステムを指定しておらず、Claudeがフラッグを探せる場所を制限していなかった。すべてのインシデントは、単一のClaudeインスタンスが単独で動作するもので、各実行は10時間から34時間のアクティブな作業時間であった。

代わりに、Irregular、Anthropic、およびその協力者は、センセーショナルな言葉遣いを用いた文字通り終末論的なイデオロギーを広めるメディアキャンペーンを開始した。Anthropicのインシデント評価は、自社のAIの"無謀さ"を非難し、Irregularは"エージェント自体が脅威アクターになること"を説明している。AnthropicのCEOであるDario Amodeiは、類似のOpenAI-Hugging Faceハッキングについて、将来の群れが"インターネット全体を乗っ取る能力を持つ可能性がある"と警告した。また、AP通信の見出しは、ボットが"制御不能になっている"と報じた。

Anthropicの報告の一つでは、同社のClaudeモデルが、偽装された名前の衝突を通じて実際の企業のシステムに侵入し、悪意のあるパッケージを公開し、外部システムをスキャンした。"このテスト"では、AnthropicとIrregularは、このモデルに誤ってインターネットアクセスを提供し、モデルに「演習の対象システムが何であるかを指示しなかった」。

Anthropicは、自社の問題が「制御不能な群れ」と「アラインメントのずれ」によって引き起こされたと主張しているが、その後の開示によれば、エージェントが「制御不能」になったのはゼロパーセントであった。この実験では、Anthropicの従業員がモデルに実際のハッキングを行わないように指示すると、Claudeモデルによる実際のハッキングはゼロパーセントに低下した。彼ら自身の調査結果によると、サイバーセキュリティインシデントの原因は、AnthropicとIrregularがすべての責任を負うべきである。

［画像: Anthropicの評価抜粋。リサンプリング条件により、Mythos 5の元の悪意のあるパッケージアップロード経路がゼロパーセントになった。22パーセントの軌跡が悪意のあるオプションを検索した。］

これらの攻撃の後、AnthropicとIrregularは、Anthropic関連の財団から報酬を得たAI安全インフルエンサーの群れを動員し、彼らの責任から目をそらし、根拠のない「制御不能なエージェント」理論へと誘導している。Anthropicと同様に、Irregularもこれらの財団と切り離せない関係にある。

Irregularの共同創設者兼CTOであるOmer Nevoは、Effective Altruism Israel、およびEffective Altruism NGOのHeronとProbably Goodの理事を務めている。Irregularの共同創設者兼CEOであるDan Lahavは、Omer Nevoの兄弟であるSella Nevoと共にコースを開始するために395,000ドルを受け取った。SellaとOmerは、Effective Altruismについて人々に教育するためのNGO、Impact Focused Educationを共同設立した。彼らはまた、Probably Goodも共同設立した[2]。

これらの組織はすべて、Sam Bankman-Friedの逮捕後、Effective Altruist/AI Safetyの主要な寄付者であるDustin Moskovitzから資金提供を受けている。Irregularの最初の投資家は、Dustin Moskovitzの会社であるGood Venturesだった。Dustin Moskovitzの慈善活動の窓口であるCoefficient Giving/Open Philanthropyは、Effective Altruism Israel、Heron、Probably Goodに資金を提供している[3]。

IrregularのEffective Altruistとの繋がり[4]

EA IsraelはHeronを監督している。Omer NevoはEA Israel、Heron、Probably Goodでの公式な役割を記録している。Coefficient GivingはHeronとProbably Goodに資金提供している。EA Infrastructure Fundは、Sella NevoとDan Lahavとの関連を記録している。

Irregularは、不正アクセスを行い、記録を改ざんし、安全でないモデルを使用して認証情報窃盗パッケージを公開した。特定の条件下では、この行為は不正アクセスおよびコンピュータ詐欺行為法（Computer Fraud and Abuse Act）第1030(a)(2)(C)条に違反する可能性がある。これは、情報を取得する意図的な不正アクセスをカバーしている。しかし、重罪 charges には、損害と意図の具体的な証拠が必要である[5]。

主にアメリカの研究所と契約しているが、Irregularの主要なリーダーシップ、従業員、およびイスラエルに所在するリソースは、アメリカの監督下にない可能性がある。Ynetの訪問とインタビューでは、テルアビブにあるIrregularのオフィスが説明されている。CheckIDの企業リストは、2つの関連エンティティを特定している。Pattern Labs Tech Inc.（デラウェア州法人）と、Pattern Tech Ltd（番号516854460、テルアビブに登録されたイスラエルのアクティブな法人）である。

フットノート

タイムラインは公開された開示を示しています。Anthropicの修正された9月の評価では、7回の実行で4件のインシデントがカウントされています。OpenAIとMetaは、Irregularの評価インシデントを別々に報告しました。日付は開示日を示しており、すべての根本的な侵入が発生した日付ではありません。↩

図は選択された組織の役割と資金提供を示しています。表には、図から省略された家族や教育の繋がりも記録されています。EA Infrastructure Fundは、2022年第3四半期にDan LahavとSella Nevoに対して394,968ドルの共同MOOC賞を1件推薦しました。2つの矢印はその1件の推薦を表しています。その台帳には、コースと組織名は記載されていません。↩

不正アクセスおよびコンピュータ詐欺行為法（Computer Fraud and Abuse Act）第1030(a)(2)(C)条の5年間の重罪規定は、商業的優位性、他の犯罪的または不法行為の促進、または5,000ドル以上の価値のある情報の取得といった加重事由を必要とします。§1030(a)(5)に基づくアクセスまたは送信の損傷に対する主要な初犯重罪規定は、指定された精神状態と、少なくとも5,000ドルの資格のある損失または10の保護されたコンピュータに影響を与える損害などの法定損害を必要とします。法的評価は依然として、各システムの許可、機能不全、対応費用、および米国商取引との関連性を必要とします。検察官はまた、責任者の行為と知識を確立し、それらの行為をIrregularに帰属させる根拠を確立する必要があるでしょう。18 U.S.C. § 1030。↩