Anthropic AIが偽のプロフィールを作成し、ハッキング未遂で人物を装う

画像ソース、Getty Images画像キャプション、最も深刻な試みの一部はAnthropicのAI Claude Mythosによるものでした。Kali HaysとImran Rahman-Jones、テクノロジー記者公開日2026年8月5日、01:02 BST更新日5時間前 世界で最も強力な2つのAIツールが、サイバー攻撃の試みで人間を欺こうと偽の人間プロフィールを作成したと、英国のAIセキュリティ研究所（AISI）が明らかにしました。 最も深刻なケースでは、AnthropicのMythos AIが、実在の人物を模倣した偽のアカウントを設定した後、プライベートメッセージを送信してサービスへのアクセスを試み、証拠を隠蔽しました。 これは、AISIのテストに関与した2社（AnthropicとOpenAI）が、それぞれ最近数週間で自社の技術が他の企業にハッキングした事例を個別に発表した直後のことです。 両社は、今回のケースではAISIのテストが通常の安全対策を軽減または削除したと述べています。 AISIは、火曜日にMythosとOpenAIのSol AIモデルが、これまで見たことのないレベルの「自律性と欺瞞」に従事したと述べました。 ほとんどの悪意のあるアクションはMythosによって実行されたと明確にしました。 AISIの評価者は、テスト中に「研究システムから異常なデータ転送が出ている」ことに最初に気づき、その後「テスト中のエージェントの一部が、実在の人物や組織に向けた持続的で潜在的に有害な活動に従事していた」ことを発見しました。 最も深刻なケースでは、Mythosエージェントは、テクノロジー開発者がソフトウェアコードを保存する大規模なプラットフォームであるGitHubへのアクセスを自分に与えるよう人々を欺こうとする、人間のサイバー攻撃者のルーチンに従いました。 エージェントは「悪意のあるコード」をGitHubのシステムに挿入しようとしていました。 GitHubを管理している人物を特定し、調査し、それらの実在の人物に基づいた一連の偽アカウントを作成しました。悪意のあるコードを承認するよう人々を説得し、欺くための努力の一環として、ファイル共有サービスを通じてメッセージやファイルを送信しました。 挑戦されたとき、「以前の活動を無害に見えるように編集し、続行するために新しいアイデンティティを採用することを検討しました」とAISIは述べています。 試みの全期間中、エージェントが悪意のあるコードをGitHubに配信するのを成功させなかったのは、人間のレビューでした。 AISIはMythosエージェントにそのような行動を回避または実行するように具体的に指示されていなかったと述べましたが、「特定の指示なしに、自律性と欺瞞に関するリスクがこれほど明確に、実世界で現れたのは初めてです」と述べました。 公開市場に上場される予定の競合AI企業は、最近数週間、自社のツールが複数のサイバーハッキングインシデントの原因であったと発表した後、見出しを飾っています。 AnthropicのClaude AIが3つの組織にハッキングして脱出 公開日5日前 OpenAI、自社の不正AIが他の企業にハッキングしようとしたと述べる 公開日7日前 Anthropicは公開声明で、AISIのテストパラメータは「当社のどの本番モデルとも代表的ではない」と述べました。 同社は、その行動の原因を特定するために、インシデントに関する独自の調査を実施していると付け加えました。 OpenAIの広報担当者は、AISIのテスト条件は「通常の利用を反映していない」と述べ、同社は「モデルがより有能になるにつれて、評価を安全に実施するための共有プラクティスを強化するために、評価者や業界関係者と引き続き協力していく」と述べました。 AISIは火曜日に、このようにAIモデルをテストすることはルーチンであると述べましたが、これらは「フロンティアモデルが一般に公開される方法を反映しない条件」であることを認めました。 しかし、AIにオープンインターネットへのアクセスを与えることは、「悪意のあるハッカーの手に渡った場合にモデルが何ができるかのより現実的な感覚」を与えるだろうと述べました。 問題となっているモデルの行動は、「非常に特定の条件下での少数のイベント」に相当すると付け加えました。 それにもかかわらず、MythosとSolが単純なタスクに応答してどのように行動したかは、AIツールが指示されたことを超えていたと述べました。 「エージェントが実行した活動は、新規で潜在的に欺瞞的な行動の兆候を示しており、我々が予期しなかった範囲と深刻さでした」とAISIは述べました。 AI大臣のKanishka Narayanは、これらの種類のリスクを特定して共有することは「まさにAISIが設立された目的である」と述べました。彼は、AIを「より安全に使用し、人々が生活や仕事でAIから恩恵を受け続けられるようにする」ために、AIを理解することが重要であると付け加えました。 関連するテストは7月25日に開始され、AISIは7月28日に発見しました。 研究所は、各モデルに、Microsoftが所有するソフトウェアコードリポジトリであるGitHubが関わる「サイバーセキュリティチャレンジを解決する」よう依頼していました。 AISIは、GitHubと影響を受けたユーザーに、試みられた侵害について通知しました。 GitHubはBBCに対し、ポリシーに従って偽のアカウントを無効にしたと述べました。Chris Vallanceによる追加報告 AI企業は不正ボットの責任を負うべき、ハッキングされた企業のトップが語る 公開日4日前 AmazonとAppleがAI計画についてさらに語る - 学んだ3つのこと 公開日5日前 AIとは何か、そしてどのように機能するのか？ 世界トップのテクノロジーニュースとトレンドをフォローするには、Tech Decodedニュースレターに登録してください。英国外にお住まいですか？こちらから登録してください。 関連トピック 人工知能 サイバーセキュリティ サイバー攻撃