【文/观察者网 尧云栖】

据美国有线电视新闻网（CNN）当地时间9月18日报道，消息人士称，在使用AI生成的虚假情报报告后，美军险些发生事故。

据报道，今年春天，在与伊朗的战争期间，一份在美军间传阅的情报报告引起警觉，该报告声称，一艘中国船只正在中东运输核武器计划的部件。

四名了解该事件的消息人士称，美军迅速开始行动，计划拦截该船只。

其中两名消息人士表示，美军武装人员正准备登船。其中一名消息人士和一名知情者称，美国军用飞机已经升空。

而就在计划的行动即将开始时，美国官员们深入核查了这份由美国特种作战司令部分析师整理的报告，发现它是借助AI生成的，该分析师使用的聊天机器人错误地识别了货物。

CNN称无法得知被错误识别的货物是什么。

其中一名消息人士称该报告是“完全错误的”，并声称，它“几乎引发了战争”。

据悉，美军与情报界的官员正推动将AI融入几乎所有工作环节，从分析美国收集的海量原始情报、选择打击目标，到更日常的应用，如管理预算、物流和供应链。

CNN称，这一事件凸显，在战争期间将这项强大、新兴且相对未了解充分的技术用于锁定目标，蕴藏巨大风险。分析人士长期以来一直担心，如果国家依赖质量差或损坏的数据，AI可能导致灾难性的错误——这种错误可能导致美国基于不准确的信息而向中国船只开火。

据报道，在这起事件中，分析师询问聊天机器人有关载货清单的情报报告，这些报告源自位于夏威夷的美国太平洋司令部。尚不清楚该聊天机器人是商业产品还是美国政府的产品。

一位熟悉美军方与情报分析师所用AI系统的美国前高级官员称：“内部工具大多只是商用产品换了个包装。”

据报道，该聊天机器人整合了开源情报与美政府内部的机密信号情报，得出了关于船上货物的决定性结论。随后分析师再次使用AI，将发现整理成标准情报报告——这类报告受到美军方官员的信任——并发布。

美国太平洋司令部和五角大楼没有回应置评请求。

美国陆军士兵进行无人机系统训练。美国陆军

CNN称，快速接受AI的理由是，它可以帮助军方更快做出战场决策，例如选定打击目标或是调派军事资产。美官员们称，美国不能在集成AI方面落后，以防有朝一日要与中国或其他对手作战时，对手可能领先美国一步。

1月，美国国防部长赫格塞思发布了《人工智能加速战略》，旨在加快军队对AI的应用。

赫格塞思当时表示，“我们将放开试验、消除官僚壁垒、集中投资，并展示确保我们在军事AI领域处于领先地位所需的执行方法。”

一份公布该战略的备忘录提到，该战略推动AI在军队的广泛应用。

多名熟悉情况的美国官员表示，美政府不同部门使用不同工具，遵循不同指令与安全标准。目前没有一套标准体系来验证这些工具生成的信息。由于美军方和情报界的不同部门部署了多种不同的AI系统，这意味着其相对可靠性和功能表现大不相同。

硅谷工程师和科技公司高管接连发出严厉警告，称AI可能突破人类的约束，可能带来终结文明的后果。此后的数周以来，华盛顿的政策制定者一直在激烈讨论AI问题。

CNN认为，此次发生的事件凸显了另一类更为紧迫的风险，即人类基于AI或其他自动化系统生成的不准确或误导性信息，做出灾难性的决定。消息人士称，美军方正迅速借助AI锁定目标，而该领域显然存在致命误判的风险。

另一名消息人士称，AI在目标锁定方面的应用无疑正在逐步增加，但对于如何通过让人类介入来避免平民伤亡或自相残杀，目前尚无明确指导。

一名消息人士指出，自这类工具在美政府内迅速增加以来，本次事件中分析师所使用AI工具产生的这种 “幻觉”，在整个情报界并非个案。

多名消息人士称，年轻分析师尤其熟悉这类工具，更容易不加鉴别地信任AI输出的结果。

其中一名消息人士说：“AI会让你更快得出一个糟糕的想法。”