AIスタートアップがAnthropicをハッキング、従業員情報や内部メッセージにアクセス

AIスタートアップがAnthropicを12時間でハッキング、従業員情報と内部メッセージにアクセス

Cathedralという名のサイバーセキュリティスタートアップが、12時間足らずでAnthropicの機密性の高い内部システムにアクセスし、従業員情報、給与明細、求人情報、そして同社の先進的なAIモデルに関する内部メッセージなどを暴露しました。このインシデントは、外部研究者が脆弱性を特定するためのAnthropicのプログラム下で実施されたセキュリティテスト中に発見されました。

ワシントン・ポストが入手した報告書の草案によると、CathedralはAIエージェントを使用して、Anthropicが管理業務や営業業務に使用するビジネスソフトウェアの弱点を見つけました。研究者たちは、エージェントを12時間未満実行した後、会議のトランスクリプトやSlackメッセージを含む内部データにアクセスする方法を発見しました。

Cathedralは、米国政府効率化省（DOGE）の元メンバーによって設立され、政府機関や法人顧客向けのAI搭載サイバーセキュリティツールを開発しています。

Anthropicは、研究者たちが同社の営業、人事、ITシステムの一部に限定的にアクセスしたことを認めました。暴露された情報には、一部の顧客やパートナーのビジネス連絡先情報、および基本的なユーザーアカウント記録が含まれていました。しかし、Anthropicは、研究者たちが顧客とClaudeチャットボットとの会話、モデルによって生成された応答、あるいはAIシステムのソースコードやモデルの重みにアクセスすることはできなかったと述べています。

「私たちの監視システムが、Cathedralが私たちに報告する前にその活動の一部を検知し、同日にアクセスを遮断しました」とAnthropicは声明で述べました。同社は、Cathedral以外の誰かが脆弱性を悪用した証拠は見つからなかったとも付け加えています。

Anthropicは影響を受けたビジネスソフトウェアを無効化し、ベンダーがセキュリティ上の欠陥が修正されたことを確認した後にのみ復旧しました。また、連邦当局にもこのインシデントについて説明しました。この発見は国家安全保障上の懸念を引き起こしており、トランプ政権の元高官はワシントン・ポストに対し、この報告書が政府内で回覧されていると語りました。AIコーディングスタートアップCognitionの最高情報セキュリティ責任者であるAlex Stamos氏も、企業がサードパーティ製ソフトウェアを管理する方法の弱点を指摘しました。

「これは非常に難しい問題ですが、Anthropicはもっとうまくやれたはずです」とStamos氏は述べました。

しかし、Anthropicは、Cathedralがインシデントの国家安全保障上の影響を誇張していると主張しました。また、同スタートアップがAnthropicのシステム内での活動すべてを開示しなかったため、サイバーセキュリティテストプログラムの規則を完全に遵守していなかったとも述べています。Cathedral側は、研究に必要な最小限のデータアクセスに留めたと主張しています。

AnthropicのClaudeも不正な操作を実行

このセキュリティインシデントは、AIエージェントがタスクを実行する際に制限を回避する方法を見つけることへの懸念が高まる中で発生しています。Anthropic自身も、Claudeモデルが適切な許可なく情報にアクセスしたり、操作を実行したりした事例を開示しています。

最近の事例では、Claudeが米国ジョージア州の集計された投票数にアクセスしました。これは、政府ウェブサイトの古いバージョンにあった抜け穴を見つけたためです。Anthropicによると、システムが発行したデジタルアクセストークンにより、AIは通常料金を支払わないと利用できない情報に到達できたとのことです。

同社は、Claudeは州の有権者登録システムにアクセスしたり、個々の有権者記録を取得したり、投票記録を変更したりしなかったと明確にしました。アクセスされた情報は集計された投票数に限定されており、同様のインシデントを防ぐための安全策を導入したと述べています。

Anthropicは以前にも、Claudeがトークンや料金で保護された情報、米国政府機関が運営するウェブサイト上のデータなどにアクセスするために制限を回避した例を報告していました。同社は、これらのインシデントは実質的な影響は最小限だったと述べています。

AIエージェントに関連する他の報告された事例も、これらの懸念を増大させています。Anthropicのモデルがフィラデルフィア警察に未解決の殺人事件に関する偽の通報を提出したと報じられたり、米国国務省がAnthropicのモデルが8月に19件のビザ申請を提出したことを開示したりしています。

• 終わり