AIが幻覚的な情報報告に使用され、米軍が危機一髪

速報：AIによる誤情報報告で米軍が危機一髪、情報筋が語る

この春、イランとの戦争の最中に米軍全体に回覧された情報報告は、直ちに警鐘を鳴らした。中東にいる中国の船舶が核兵器プログラムの部品を輸送しているというのだ。

情報筋4名によると、米軍は当該船舶を拿捕する計画で迅速に行動を開始した。情報筋2名によれば、武装した米軍兵士が船舶に乗り込む準備をしていたという。情報筋1名と事件に詳しい別の情報筋によれば、軍用機も空中に待機していた。

計画されていた作戦の直前になって、当局者は特殊作戦コマンドのアナリストが作成した報告書をさらに深く調査し、人工知能（AI）の助けを借りて生成されたものであり、アナリストが使用したチャットボットが船舶が運んでいた物質を不正確に特定していたことを発見した。CNNは、誤認された貨物が何であったかを知ることはできなかった。

情報筋の1人によれば、この報告書は「完全に虚偽」であった。しかし、その情報筋は「戦争寸前だった」とも語った。中国の船舶に対する米軍のいかなる作戦も、両国間の武力紛争へとエスカレートするリスクをはらんでいた。

米軍および情報コミュニティ全体で、当局者は、米国が収集する膨大な量の生の情報分析から攻撃目標の選定、さらには予算管理、ロジスティクス、サプライチェーンといったより日常的な応用まで、ほぼあらゆる業務にAIを織り込むことを推進している。

しかし、この一件は、戦争の最中に標的設定のためにこの強力で新しく、比較的理解度の低い技術を使用することの深刻なリスクを浮き彫りにしている。アナリストたちは、国家が不十分または破損したデータに依存している場合、AIが壊滅的な誤算につながる可能性があり、それは米国が不正確な情報に基づいて中国の船舶を攻撃するような誤算につながるかもしれないと長年懸念してきた。

この特定の場合、アナリストは、ハワイに拠点を置く米特殊作戦コマンド太平洋から発信された船舶のマニフェストに関する情報報告について、チャットボットに問い合わせた。チャットボットが市販のものか、米国政府製かは不明だった。

「内部ツールは、ほとんどが口紅を塗ったような市販品のコピーだ」と、軍および情報アナリストが使用するAIシステムに詳しい元米高官は述べた。

ボットは、オープンソースインテリジェンスと、政府が保有する秘密の信号インテリジェンスを融合させ、船舶が運んでいた物質に関する決定的な結論に達した。

その後、アナリストは再びAIを使用して、軍関係者が信頼する標準的な情報報告書に調査結果をパッケージ化し、それを配布した。

米特殊作戦コマンド太平洋および国防総省は、コメントの求めに応じなかった。

AIを急速に採用する理由は、軍が、どの目標を攻撃するか、どの軍事資産をどこに移動させるかといった、戦場での意思決定をより迅速に行うのに役立つからだ。当局者は、米国がいつか中国や、潜在的に米国の一歩先を行く可能性のある敵と戦うことになった場合に備えて、AIの統合で遅れをとる余裕はないと述べている。

1月には、ピート・ヘグセス国防長官が、軍のAI利用を加速させるための国防総省の「人工知能加速戦略」を発表した。

「我々は実験を解き放ち、官僚的な障壁を排除し、投資を集中させ、軍事AIをリードするために必要な実行アプローチを実証する」と、ヘグセス長官は戦略発表の演説で述べた。

［画像: 2026年7月21日、ワシントンDCのキャピトル・ヒルにあるディルクセン上院歳出委員会公聴会で証言するピート・ヘグセス陸軍長官］

この戦略は、軍全体での広範な利用も推進しており、国防総省に対し、米国の世界をリードするAIモデルを、あらゆる分類レベルの300万人の文民および軍人担当者の手に直接届けることを目指し、「国防総省全体でのAI実験と変革を民主化する」ための複数のプログラムを通じてAIを利用可能にするよう命じている、と戦略を発表した覚書は述べている。

しかし、複数の米当局者がこの状況に詳しいところによると、この取り組みは分散化されており、政府の異なる部門が異なる命令と安全基準の下で異なるツールを使用しているという。これらのツールによって生成された情報を米国がどのように検証するかについての単一の基準セットは存在しない。軍および情報コミュニティの様々な部門によって展開されている異なるAIシステムの集合体は、相対的な信頼性と機能性が大きく変動することを意味する。

ワシントンの政策立案者たちは、ここ数週間、シリコンバレーのエンジニアやテクノロジーCEOから、AIが人間の制約から解放され、文明を終わらせる可能性のある結果をもたらす可能性についての数々の悲観的な警告を受けて、AIについて集中的に議論してきた。

しかし、中国の船舶をめぐるこの一件は、別の、より差し迫ったリスクを浮き彫りにしている。それは、AIまたはその他の自動化システムによって生成された不正確または誤解を招く情報に基づいて、人間が破滅的な決定を下すことである。情報筋によると、軍は標的設定に役立つAIに急速に転換しており、致命的な間違いのリスクが明白である分野だ。

軍の現在の政策に詳しい別の情報筋は、「標的設定におけるAIは間違いなく増加しており、人間の関与が民間人の死傷者や友軍誤射をどのように防ぐかについての実際のガイダンスはない」と述べた。

情報筋の1人によると、このケースでアナリストが使用したツールが作り出したような「幻覚」は、これらのツールが政府全体に普及し始めて以来、情報コミュニティ全体で孤立した事件ではないという。

一部のベテラン情報担当者、たとえ軍内でのAI利用を広く支持している人々であっても、AIはアナリストに情報をより速く作成・配布するよう圧力をかけ、間違いのドアを開いていると見ている。特に若いアナリストは、これらのツールに慣れており、無批判に信頼する可能性が高いと複数の情報筋は述べている。

「AIは、悪いアイデアに素早くたどり着くことを可能にする」と、情報筋の1人は述べた。