内容管家
评论0字数 527阅读1分45秒阅读模式
美军AI情报幻觉差点引爆中美冲突
事件经过
今年春季，美军战机已升空执行任务，就在最后时刻，官员们发现驱动此次武装行动的情报竟来自AI聊天机器人的凭空捏造——所谓「中国船只载有核武器零件」完全不存在。行动紧急撤销，一场几乎无法挽回的对抗暂时避免。
原因分析
虚假情报的源头是特种作战司令部（Special Operations Command）的一名分析员。他向AI聊天机器人输入开源数据与机密信号情报的合成查询，机器人错误识别了船只的货单。随后分析员再次使用同一工具，将这份错误结论格式化一份正规简报，随即在指挥体系中流传。
专家指出，这只是冰山一角：随着决策层对AI的依赖加深，这类系统生成的错误往往一路畅通无阻地传递上指挥链，中间几乎没有人提出质疑。
军方立场与专家警示
五角大楼将AI视为加速「杀伤链」（kill chain）的核心优势，宣称能让指挥官在关键时间窗口内快速响应。然而正是这种速度，在人类监督不足的情况下，也可能让错误情报以同样快的速度扩散。
GovAI研究员、退役美军军官Jake Steckler明确表示：「服务成员必须了解大型语言模型固有的不确定性——在涉及武力使用的决策中，如目标锁定、情报分析或作战规划，这种不确定性事关生死。」 但Steckler也强调，此次事件应被视为加强AI安全防护的警钟，而非放奔AI的理由：「这些工具在适当场景和充分保障下是有价值的。但如果把采用速度置于一切之上，只会让官兵对这些系统失去信任，最终反而延绶AI的落地。」
评论