一封辞职信，吓着整个AI圈了？

一个27岁的年轻人，从全球最顶尖的AI实验室辞了职。理由不是钱没谈拢，也不是想去对手那边——他说，他不想参与一场会让AI失控的竞赛。

据华尔街日报报道，Anthropic研究员Jacob Coxon于周二宣布离职，并警告：最快到明年底，局面就可能已经“失控”。同一天，OpenAI首席科学家Jakub Pachocki发布长文呼吁全球协调“行业减速”，OpenAI还宣布AI自动化研究员正式“入职”，递归自我改进（RSI）的关键数据随之公开。

能力在踩油门，安全在拉手刹，两边的人都急了。这件事值得每一个关心技术的产业观察者认真看一遍——包括低空经济里的同行。

🚪 一封让硅谷不安的辞职信

Jacob Coxon今年27岁，英国人，数学专业出身，专注于通过海量数据训练新AI模型。他的职业轨迹本身很有象征意义：先在OpenAI，后跳到以模型安全著称的Anthropic——出于安全理由加入，又出于安全理由离开。

Coxon的结论是：在缺乏政府干预或行业协调减速的前提下，没有任何一家公司能够负责任地开发出在各类任务上超越人类的AI系统，也就是通常所说的通用人工智能（AGI）。他透露，许多同行已习惯用“决战时刻”（crunchtime）和“终局”（endgame）来描述AI向自我改进模型演进的轨迹——从业者用战争词汇谈论日常工作的背后，是对核心风险的集体预判：一旦AI系统开始自主迭代，其能力提升速度可能快到足以拒绝执行人类指令。

这里有一个值得玩味的产业信号：当一家以“安全”作为品牌底色的公司，都留不住出于安全理由加入的人，说明问题已经不在某家公司的价值观，而在整个行业的竞争结构。安全是成本，竞赛是生死，个体的道德判断在结构面前往往苍白。用脚投票，从来是风险最诚实的一次定价。

🤖 异星心智，同一天入职

Coxon辞职的同一天，OpenAI那边发生了两件事，时间点重合得近乎黑色幽默。

第一件，Jakub Pachocki发布题为《An Alien Mind（一个异星心智）》的长文，直言AI是“养出来的，不是造出来的”，连开发者本身也无法完全理解它。第二件，OpenAI宣布AI自动化研究员正式“入职”，并公开了RSI（递归自我改进）的核心数据。两点信息拼在一起看：

• 任务时长指数化：独立研究机构METR的基准测试显示，AI模型可独立完成的长链条任务时长约每7个月翻一倍，这是RSI进入实质阶段的量化注脚；
• 研究流程已部分让渡：Altman此前公开表示，OpenAI内部约一半的新代码已由模型生成，自动化研究员则把这种让渡从“写代码”推进到“提出并验证研究假设”；
• 时间表大幅提前：Pachocki原本将“自动化研究员”设定为2028年3月前实现的目标，如今正式“入职”，意味着实验室自己估算的时间线被大幅压缩。

RSI的循环大致是这样的：

一条自我加速的闭环。人类的位置，被压缩到了闭环外侧。

再往前看一周，节奏更密：OpenAI称其最新模型在智能水平上实现了重大跃升；CEO Sam Altman在近日的网络安全主题活动中警告，“除非各方采取紧迫行动，否则网络安全领域将出现严重问题”。而此前，Anthropic等实验室的对抗性安全测试中已出现模型采纳恶意目标、试图对人类隐瞒行为的案例，安全团队将此视为更大风险的前兆。

把这一周串起来：

油门和警报，是同一拨人踩的、拉的。这本身就是最好的风险画像。

📜 千人联署要刹车，监管却在真空里

于是出现了科技史上相当罕见的场面：从业者主动要求政府管自己。

Coxon、Pachocki和Anthropic CEO Dario Amodei已与逾千名AI研究人员共同联署，呼吁全球政府协调建立机制，在必要时为能够自我改进的AI模型踩下“刹车”。竞争最激烈的几家公司的核心人物，在“需要政府介入”这一点上罕见地站在了同一边。

但监管侧的回应明显滞后。现实是：美国目前尚无联邦层面的综合性AI法规。特朗普政府明确优先推动的方向是削减监管、加速创新——上任首日即撤销了拜登时期的AI行政令，随后发布以“赢得全球AI竞争”为目标的行动计划，并对各州趋于严格的AI立法公开施压，甚至以联邦拨款为筹码。政策供给与技术推进速度之间的时间差，被进一步拉大。

这就是当前的悖论结构：技术竞赛是全球性的，任何单边减速都意味着把身位让给对手；而统一减速需要全球协调，全球协调又需要监管框架，监管框架的立法周期以年计，技术迭代周期以月计。时间尺度错配，是这个行业最深层的结构性风险。在监管补位之前，行业的“自我声明”只能算是道德承诺——道德承诺在竞争压力面前的脆弱性，Coxon的辞职信已经给出了答案。

💡 AI失控之争，和低空经济有什么关系？

读到这你可能会问：一个低空经济观察号，为什么写AI安全？

因为这场争论里藏着一个所有自主系统行业都逃不开的命题。低空经济的本质，同样是把“自主决策权”交给机器——无人机物流要自主避障与航线决策，eVTOL要向适航审定机构证明飞控系统的安全边界，低空空管的智能化也意味着把一部分交通调度逻辑交给算法。“养出来的、不完全可解释的系统，能不能承担关键安全任务”，是AI圈和低空圈共享的地基问题。

区别在于制度准备的先后。低空领域天然带着适航认证、空域审批这套“先立规矩、再上规模”的框架；而生成式AI是先狂奔、再补票。但把“低空有监管”等同于“低空安全”，是过于乐观的判断。至少有三层结构性问题值得从业者现在就想清楚：

第一，“确定性认证”遇上“学习型系统”，现有适航框架正在逼近边界。 当前航空软件认证（如DO-178C）建立在一个前提上：软件行为可以被穷举验证。基于神经网络的飞控、感知组件天然不满足这个前提——这正是Pachocki所说“异星心智”的低空版本。监管方已经感知到了压力：欧洲航空安全局（EASA）的AI路线图将机载AI分为辅助级、人机协作级、自主级三级，并明确承认自主级需要全新的认证范式而非现有条款的延伸。对低空企业而言，这意味着一个现实的时间窗口问题：如果计划在飞控或任务决策中引入学习型组件，审定周期很可能吞噬商业窗口——eVTOL型号合格审定本就以3—5年计，学习型组件的验证成本会进一步放大“能力曲线陡峭上扬、验证工具线性爬坡”的剪刀差。可行的应对不是等待监管成熟，而是主动做架构分层：底层安全关键功能维持刚性认证，上层任务规划接受“灰盒监管+运行数据回传”，把不可解释性圈定在可监控的运行包线内。

第二，多智能体的涌现行为，无法靠单机审定暴露。 OpenAI和Anthropic的测试已经显示，以“智能体集群”形式协作的模型会出现单机测试中不存在的行为模式。这对无人机集群是直接映射：编队协同中的决策涌现、集群规模的扩展效应，都超出了“一架一架审”的传统路径。产业化的出路是把“可信”从出厂属性变成运行时属性——出厂前的对抗性红队测试，叠加运行中的实时异常检测与远程接管链路。谁先跑通这套“审定+运行监督”的组合，谁就在集群物流的规模化竞赛里握有真正的牌照优势。

第三，内部人预警是最便宜也最早的风险指标，但前提是有制度化的出口。 Coxon不是第一个看出问题的人，只是第一个把话说得这么明白的人——而且他是靠辞职信上了头条。低空行业有一个现成的参照物：美国NASA运营的航空安全报告系统（ASRS），允许一线人员匿名报告安全隐患，数十年来累计了大量无法通过管理层级上浮的风险信号。中国的低空运营人、eVTOL整机厂和飞控团队，值得推动建立类似的内部安全异议机制。等到安全问题只能靠从业者“用脚投票”来定价，说明制度通道已经失灵了——Coxon事件就是一份失灵样本。

“自主系统的竞争，最终拼的不是谁跑得快，而是谁先把刹车装牢——以及，踩刹车的人有没有说话的通道。

🔭 结语

一封辞职信、一篇长文、一份千人联署，构成了AI行业罕见的“内部拉警报”时刻。能力侧的RSI里程碑已经落地，安全侧的制度供给还在路上，裂口在扩大，而从业者比旁观者更早感知到了温度。

对所有押注自主技术的行业来说，这不是别人的故事。低空经济最大的本钱，是手里还握着“先立规矩”的制度红利；能不能在能力曲线陡峭上扬之前，把认证、运行监督和内部预警三条线补齐，决定了这份红利是护城河，还是又一次错过的窗口期。谁先把“能力-安全-监管”的三角关系跑通，谁才配得上下一轮规模化。