曝美军AI曾误判中国货船险些惹大祸 零审查信任埋隐患
9月19日,美国CNN报道了一则离谱的新闻。一名特种作战司令部的情报分析员使用AI工具撰写了一份报告,错误地将一艘中国货船搭载的商品清单识别为核武器,并认为该船只正前往伊朗。这份情报引起了美军的高度警觉,甚至制定了拦截计划。已有美军飞机在商船周围盘旋,武装人员也在准备登船。幸运的是,在行动之前,美军官员检查了报告,发现其由AI编写且存在明显错误,最终叫停了相关行动。这名分析员首先向一个聊天机器人查询了关于该船货物清单的情报报告,该报告来自夏威夷的美国太平洋特种作战司令部。随后,AI将开源情报与美国政府的秘密信号情报结合,得出了“致命结论”——这艘船在运送核武器零件。更令人震惊的是,分析员再次使用AI整理调查结果,生成了一份标准格式的情报报告并传阅。经过两次加工,这一错误信息被包装成了专业权威的情报产品。

目前尚不清楚这款AI是商业产品还是美国政府自行开发的。一位前高级官员透露,这些内部工具大多是商业产品的翻版,只是改了个外观。今年春天的美伊战争被称为“第一场真正意义上的人工智能战争”。美军中央司令部司令布拉德·库珀上将在社交媒体上表示,AI已成为选择袭击伊朗目标的重要工具,帮助筛选海量数据,使决策更加迅速和明智。

据《华盛顿邮报》报道,美国和以色列都使用了帕兰蒂尔公司开发的“梅文智能系统”,该系统嵌入了Anthropic公司的AI模型“克劳德”,能够分析卫星图像、无人机视频、雷达数据和通信情报,快速生成打击方案。据说在开战最初24小时内,美军依靠AI辅助打击了伊朗境内超过1000个目标,效率显著提高。然而,代价同样沉重。一次误判导致“战斧”导弹击中了伊朗南部一所小学,造成170多人丧生。美国方面承认这是“错误情报叠加AI决策的双重失误”。

训练数据偏见、情报陈旧以及模型缺陷,任何一个环节出问题都可能引发致命误判。今年1月,国防部长赫格塞斯发布了国防部的“人工智能加速战略”,旨在通过实验、消除官僚障碍和集中投资确保美国在军事AI领域的领先地位。但推进方式分散,不同部门在不同指令和安全标准下使用不同的工具,缺乏统一的标准来验证AI生成的信息可靠性。熟悉军方政策的消息人士指出,年轻分析人员对这些工具非常熟悉,更容易不加批判地信任它们,而缺乏指导方针来防止平民伤亡或误伤。

