AI都会幻觉，你还敢坐eVTOL吗？

一份由聊天机器人写成的军情报告，差点在海上引爆一场战争。

据CNN 9月18日引述四名消息人士的报道，美军今年初美伊战争期间，误信AI生成的虚假情报，计划在海上强行拦截一艘被指运送核武相关组件的中国船只。军机已升空、人员待登船，直到深入核查才发现——情报「完全错误」，源头是分析员使用的聊天机器人错误识别了船上货物。

这事发生在军队，但教训绝不止于军队。当AI开始替人类做判断，它的每一次幻觉，都是一次对物理世界的试探。对正在起飞的低空经济来说，这不是远方的警报，而是贴脸的教材。

🕳️ 一份聊天机器人写的军情报告

先把事件还原一遍。

今年初美伊战争期间，位于夏威夷的美国太平洋司令部获取了一份关于某中国船只载货清单的情报。分析员拿到情报后，做的第一件事不是人工核查，而是询问聊天机器人。这个机器人整合了开源情报和美国政府内部的机密信号情报，输出判断：船上运载的是与核武器计划相关的敏感组件。

分析员随后再次使用AI，把这个「发现」整理成一份标准情报报告，经美国特种作战司令部渠道发布出去。美军随即启动应急机制，计划拦截。就在军人准备强行登船、军机升空戒备的紧要关头，官员们回头核查报告来源，才确认情报完全基于AI生成——报告是「完全错误的」，且按消息人士的说法，「差点引发一场战争」。

用一张表看这次事件中失守的四道关卡：

四道关卡，没有一道拦住幻觉。如果美军当时对中国船只采取任何强制行动，极可能导致事态升级，甚至两国直接武装冲突。一份AI报告，牵动的是大国博弈级别的后果。

🧩 幻觉是怎么一路绿灯混进作战计划的

这次失误最值得玩味的地方，不是AI「错了」，而是AI错了两次，还没有一个人喊停。

整个链路长这样：

看清楚了吗？分析员不是被一个AI骗了，而是被一条AI套娃链骗了：第一次用AI整合多源情报做判断，第二次用AI把判断写成报告。每一层都「看起来很专业」，每一层都在给上一层的不确定性盖合法性的章。

消息人士透露了两个关键背景。其一，AI给分析员带来了速度压力——他们必须更快地生成和传播情报，而提速天然增加出错概率。其二，年轻分析员尤其熟悉这类工具，更容易不加鉴别地信任AI输出的结果。

说白了，这是一场效率对审慎的碾压。在战争状态下，「快」本身就是KPI，AI恰好是提速神器，于是质疑AI成了不合时宜的事。幻觉不是技术bug，是组织行为的必然产物。

⚠️ 没有统一标准，AI工具各自为战

更让知情官员头疼的是系统性问题。

多名美国官员指出：政府各部门使用不同的AI工具，遵循不同指令与安全标准，目前没有一套标准来核实这些工具生成的信息。军方和情报界部署了多种不同的AI系统，可靠性和功能表现存在巨大差异。

而在最要命的「目标锁定」环节，AI的应用正日益增加，但消息人士明确表示——对于如何通过人类介入来避免平民伤亡或误伤友军，目前尚无明确的指导方针。

把风险点拆开看：

要注意，美军推动AI的逻辑本身没错——用AI加快战场决策，选定打击目标、决定资产调动，甚至管理预算、物流和供应链。问题是应用跑到了规则前面。先上了桌，才想起没人定过牌规。

业内私下流传一句话：现在的AI应用是「先开枪，后画靶」。这次没打出事，纯属运气。

🚁 别以为只关军队的事，低空经济才是高危区

看到这，低空经济从业者也别急着吃瓜。把「中国船只」换成一架物流无人机，把「夏威夷司令部」换成城市低空运行管理中心，这条链路几乎是平移的。

低空经济正在把AI塞进几乎所有关键环节：空管系统的多源感知融合、无人机物流的路径规划、eVTOL 的冲突探测与避让（DAA）。链路长这样：

对比一下，你会发现民用低空的风险结构比军事情报更苛刻：

军情报告错了，好歹还有「军机升空戒备」这个缓冲期供人回头核查。低空场景里，一架城市上空120米高度的eVTOL面对幻觉数据，留给「深入核查」的时间可能是零。感知融合系统如果把一个不存在的障碍物当成真的，触发错误避让，后果直接写在物理世界里。

更麻烦的是，低空AI同样面临「工具碎片化」问题：不同厂商的无人机管理系统、不同城市的空管平台、不同的感知算法，各说各话。军方的教训是前车之鉴——没有统一核实标准的多AI系统并存，本身就是一种系统性风险敞口。

💡 三条启示：人、源、验

从美军这起未遂事故里，低空产业至少能带走三条可落地的原则。

第一，人在回路不是口号，是红线。 目标锁定这种生死攸关的决策，必须有明确的人类介入规则——这是美军用一场「差点发生的战争」换来的认知。低空领域同理：eVTOL的避让决策、物流无人机的应急处置，凡是涉及物理安全的关键节点，AI只能是建议者，不能是终审法官。适航认证的底层逻辑本来就是「可预测、可复现、可归责」，一个会幻觉的黑盒系统，在现有认证框架下根本过不了关。

第二，数据要有溯源。 这次事件里，报告的致命伤在源头——聊天机器人错误识别了货物。低空感知系统吃进去的每一帧雷达数据、每一条ADS-B信号，都必须可追溯、可审计。 poisoned or 低质数据进系统，AI只会把错误放大得更「像真的」。

第三，标准要跑在应用前面。 军方现在的困境是「各部门不同工具、不同标准、无核实机制」。低空经济正在复制这个路径——各城市低空试点一哄而上，空管平台各家自建。趁产业规模还小，把AI输出的验证标准、跨系统互认机制先立起来，成本最低的窗口期就是现在。

小结

一场没有打响的拦截，暴露的不是AI不够聪明，而是人类把判断权交出去时有多随意。对低空经济而言，这次事件的启示再直白不过：地面上AI幻觉烧的是token，天空中AI幻觉烧的是飞机和信任。随着空管系统、物流网络、载人飞行器全面AI化，谁能先把「人类介入规则+数据溯源+统一验证标准」做扎实，谁才配得上规模化运营那张门票。低空经济拼到最后，不是比谁飞得快，是比谁错得起。