AIが幻覚的な情報報告に使用され、米軍が危機一髪

米陸軍兵士が2026年4月に無人航空機システム訓練を実施している。Spc. Alva Gonzalez/US Army 国家安全保障 AI 全トピックを見る Facebook Tweet Email Link Threads Link Copied! フォロー この春、イランとの戦争の最中に米軍全体に回覧された情報報告は、中東にある中国の船舶が核兵器計画の部品を輸送していると直ちに警鐘を鳴らした。このエピソードに詳しい4人の情報筋によると、米軍は船舶を拿捕する計画で行動を開始した。情報筋のうち2人によると、武装した米軍関係者が船舶に乗り込む準備をしていたという。情報筋のうち1人と、事件に詳しい別の情報筋によると、軍用機が空中にあったという。計画された作戦の直前に、当局者が特殊作戦コマンドのアナリストによって作成された報告書をさらに深く掘り下げたところ、それが人工知能（AI）の助けを借りて生成されたものであり、アナリストが使用したチャットボットが船舶が運んでいた物質を不正確に特定していたことが判明した。CNNは、誤って特定された積荷が何であったかを学ぶことができなかった。情報筋の1人によると、その報告書は「完全に虚偽」であった。しかし、情報筋の1人は「戦争を始めかけた」とも述べた。中国の船舶に対するいかなる米国の作戦も、両国間の武力紛争に発展するリスクをはらんでいた。米軍および諜報機関全体で、当局者は、収集した膨大な量の生の諜報情報の分析、攻撃目標の選定から、予算編成、ロジスティクス、サプライチェーンの管理といったより日常的な応用まで、仕事のほぼあらゆる側面にAIを織り込むことを推進している。しかし、このエピソードは、戦争の最中に標的設定のために、この強力で新しく、比較的十分に理解されていない技術を使用することの深刻なリスクを強調している。アナリストたちは、国家が不十分または破損したデータに依存している場合、AIが壊滅的な誤算につながる可能性があると長年懸念してきた。それは、米国が不正確な情報に基づいて中国の船舶を攻撃するような誤算につながる可能性がある。この特定の事例では、アナリストは、ハワイにある米特殊作戦コマンド太平洋から発信された船舶のマニフェストに関する情報報告について、チャットボットに問い合わせた。チャットボットが市販のものか、米国政府の製品かは不明であった。「内部ツールは、ほとんどが市販のものを化粧したようなものだ」と、軍や諜報機関のアナリストが使用するAIシステムに詳しい元高官は述べた。ボットは、オープンソースの諜報情報と、政府が保有する秘密の信号諜報情報を融合させ、船舶が運んでいた物質に関する決定的な結論に達した。その後、アナリストは再びAIを使用して、軍関係者が信頼する標準的な情報報告書にその調査結果をパッケージ化し、配布した。米特殊作戦コマンド太平洋および国防総省は、コメントの要請に応じなかった。AIの急速な採用の根拠は、それが軍が、どの目標を攻撃するか、どの軍事資産をどこに移動するかといった、戦場での意思決定をより迅速に行うのを助けることができるということである。当局者は、米国が中国や、いつか米国の一歩先を行く可能性のある他の敵と戦う必要がある場合に、AIの統合で遅れをとる余裕はないと述べている。1月、ピート・ヘグセス国防長官は、軍のAI利用を加速させるための省の「人工知能加速戦略」を発表した。「我々は実験を解き放ち、官僚的な障壁を排除し、投資に焦点を当て、軍事AIで我々がリードすることを保証するために必要な実行アプローチを実証する」とヘグセスは戦略を発表するスピーチで述べた。ピート・ヘグセス国防長官は、2026年7月21日にワシントンDCの国会議事堂にある上院歳出委員会の公聴会で証言している。Anna Moneymaker/Getty Images この戦略は、軍全体での広範な利用も推進しており、国防総省に対し、米国の世界をリードするAIモデルを、300万人の文民および軍人の手に、あらゆる分類レベルで直接提供することにより、「部門全体でのAI実験と変革を民主化する」ことを目的としたいくつかのプログラムを通じてAIを利用可能にするよう命じている、と戦略を発表した覚書は述べている。しかし、複数の米当局者は、この取り組みは分散化されており、政府の異なる部門が異なる命令と安全基準の下で異なるツールを使用していると述べている。これらのツールの生成情報を米国が検証する方法について、単一の基準セットはない。軍や諜報機関の様々な部門によって展開されている異なるAIシステムの集合体は、相対的な信頼性と機能性が大きく変動することを意味する。ワシントンの政策立案者は、数週間にわたり、AIが人間の制約から解放され、文明を終わらせる可能性のある結果をもたらす可能性について、シリコンバレーのエンジニアやテクノロジーCEOからの数々の深刻な警告の後、AIについて集中的に議論してきた。しかし、この中国の船舶に関するエピソードは、別の、より差し迫ったリスクを強調している。それは、AIまたは他の自動化システムによって生成された不正確または誤解を招く情報に基づいて、人間が壊滅的な決定を下すことである。情報筋によると、軍は標的設定を支援するために急速にAIに頼っており、この分野は明白な致命的な間違いのリスクをはらんでいる。軍の現在の政策に詳しい別の情報筋は、「標的設定におけるAIは間違いなく増加しており、人間の関与が文民の死傷者や友軍誤射をどのように防ぐかについての実際のガイダンスはない」と述べた。この事件でアナリストが使用したツールが作り出したような「幻覚」は、これらのツールが政府全体に普及し始めて以来、諜報機関全体で孤立した事件ではない、と情報筋の1人は述べた。一部のベテラン諜報員、たとえ軍内でのAI利用を広く支持している人々であっても、AIはアナリストに諜報情報をより速く作成・配布するよう圧力をかけ、間違いのドアを開いている。特に若いアナリストは、これらのツールに慣れており、無批判に信頼する可能性が高いと複数の情報筋は述べた。「AIは、悪い考えに早く到達することを可能にする」と情報筋の1人は述べた。国家安全保障 AI 全トピックを見る Facebook Tweet Email Link Threads Link Copied! フォロー