アメリカのCNNテレビが報じたところによりますと、アメリカ軍の当局者は、AI＝人工知能の誤情報が原因で、中国の船舶に対する軍事作戦を実行する直前で中止したと発表しました。
今年春、軍用機がすでに離陸したあとに、作戦の根拠となる情報がAIの「ハルシネーション（もっともらしいウソ）」によるものだと判明し、中国との武力衝突を間一髪で回避したということです。
この事態は、軍の当局者や専門家の間で高まる懸念を裏付けるものとなっています。意思決定においてAIへの依存度が高まるなか、システムが生成した誤情報が疑われることなく指揮系統の上層部まで伝わってしまう危険性が指摘されています。
イランとの対立のさなかに共有されたこの情報報告書では、中国の船舶が核兵器開発のための部品を運搬しているとされていました。
誤情報のきっかけは、アメリカ特殊作戦軍の分析官が、公開データと機密の通信傍受情報を統合するためにAIチャットボットを使用したことでした。AIが積荷目録を誤って認識したにもかかわらず、分析官は再びAIを使用して公式文書のような形式にまとめ、これが指揮系統を通じて共有されたということです。
アメリカ軍は現在、意思決定を迅速化し、中国に対する優位性を維持するため、AIの導入を急ぐ方針です。アメリカ国防総省は、AIが攻撃手順の迅速化に大きく貢献し、指揮官のタイムリーな対応を可能にするとしています。しかし、その一方で、人間の監視が不十分なままAIの誤情報が見過ごされるリスクもはらんでいるということです。
AIの政策などを研究する機関の専門家で、アメリカ陸軍の元将校であるジェイク・ステックラー氏は、「軍の要員は大規模言語モデルに内在する不確実性を理解することが重要だ」と指摘しています。そのうえで、「標的の選定や情報分析、作戦計画など、武力行使につながる意思決定においては特に重要であり、人命に関わる結果をもたらす」としています。
また、ステックラー氏は、今回の事態はAIの導入を避ける理由ではなく、安全対策を強化する契機とすべきだとしています。「適切な状況下で安全対策が講じられていれば、これらのツールは有用だ。しかし、導入のスピードを最優先すれば、結果的に軍の要員がシステムへの信頼を失い、導入を遅らせることになる」と強調しています。
