🏢 公司C档 · NaN分

GPT-6的黑箱,我们想歪了?

··约1分钟阅读

📋 总体概括

GPT-6 Astra因『循环深度』设计被贴上黑箱标签,OpenAI首席科学家出面降温,Sebastian Raschka长文拆解后给出否定答案:循环架构并非推理不可监控的原因。本文梳理争议全过程、技术脉络与产业逻辑,并指出可监控性才是行业真正的考题。

📄 正文

模型发布前两天,一纸爆料先火了——GPT-6 Astra「黑箱」风波全复盘(修订版)

“编者按:本文在原稿基础上补全了结尾章节与总结,并对全部关键数据与说法标注了信源出处(见文末「信源与核实说明」)。其中部分信息来自付费报道或匿名信源,无法完全独立核实,均已逐一标注信源等级,请读者留意甄别。

模型发布前两天,一纸爆料先火了。

OpenAI 的新旗舰 GPT-6 Astra 还没正式上线,The Information 就援引内部消息称,这款模型用上了一种叫 recurrent depth(循环深度)、也就是 looped transformer(循环 Transformer)的设计——而这种设计,『会让模型的部分乃至全部推理过程变得不可见』【信源①,付费报道,细节未经官方预先证实】。

一句话,把『AI 黑箱』这个老话题重新点着了。

模型上线后争议继续升温,OpenAI 首席科学家 Jakub Pachocki 亲自出面澄清【信源②】。而在一片语焉不详的转述里,真正把事情讲清楚的,是 Sebastian Raschka——那位写了《Build a Large Language Model (From Scratch)》的技术博主【信源③】。

他的结论可能让很多人意外:循环 Transformer 这口锅,大概率背错了。

🔥 一则爆料,点燃了什么

先还原一下时间线。

Astra 发布前两天,The Information 的报道出来,核心信息就两条:一是模型用了循环深度设计,二是这会让推理过程部分乃至全部变得不可见【信源①】。

消息一出,讨论迅速从技术圈溢出。『循环深度』这个词在两周内变成了 AI 安全讨论的焦点——关心的问题也很直接:如果模型的思考过程看不见了,我们还怎么监控它?

压力大到什么程度?模型正式上线后,OpenAI 首席科学家 Jakub Pachocki 亲自下场。他给出了一个很有意思的表述:他想避免『一场由混乱的报道引发的、奔向不可监控性的竞赛』【信源②】。

角色立场关键信息信源
The Information援引内部消息Astra采用循环深度设计,部分推理不可见信源①
OpenAI 官方澄清降温当前前沿模型计算图深度与GPT-4差距在两倍以内信源②
Sebastian Raschka技术拆解循环架构并非监控性退步的合理归因信源③

注意 Pachocki 给出的那个技术事实:包括 Astra 在内,当前前沿模型的计算图深度与 GPT-4 的差距仍在两倍以内【信源②,为 Pachocki 公开访谈中的原话,尚无独立技术审计数据交叉验证】。

这句话是刻意说给市场听的。潜台词是:别把循环深度想象成某种深度爆炸的黑魔法,物理上的变化没那么夸张。

这整件事的传导链条,本身就值得复盘:

产业逻辑上,这是一个经典剧本:叙事跑在事实前面,恐慌跑在技术前面。爆料是真的,但爆料引发的最坏想象,与架构本身能支撑的结论之间,隔着一整个技术细节的鸿沟。而填补这个鸿沟的,最后是一位独立技术博主的万字长文,而不是任何一方的官方文档——这本身就是行业现状的一个注脚。

🧠 循环Transformer,到底是个啥

抛开争议,先把技术本身讲明白。

标准 Transformer 的做法是『堆』:一层叠一层,想要更强的能力,就堆更多的层、更多的参数。深度和参数量是绑在一起增长的。

循环 Transformer 换了个思路:复用同一组层,让它反复迭代。参数不用无限堆,计算可以通过增加循环次数来获得。一句话概括:用时间换参数。

这个想法并不新。Raschka 在长文里专门梳理了技术脉络【信源③】:

阶段代表工作要点信源
2018年Universal Transformer循环思想的早期尝试信源④(arXiv 论文)
今年Nanbeige4.2-3B开放权重模型,已可公开研究信源⑤(开放权重发布页)
今年Ouro字节跳动的循环深度工作信源⑥(技术报告)
今年Mixture-of-Recursions谷歌的相关研究信源⑦(论文)

看清楚这个脉络很重要:循环深度不是 OpenAI 的独家秘方,它是一条已经在学术界和工业界公开演进多年的路线。开放权重的 Nanbeige4.2-3B 意味着,任何人今天都可以下载一个循环架构的模型,拆开看它的内部到底发生了什么。

那为什么这条路线在 2026 年突然变得敏感?

因为推理成本时代到了。当行业从『比谁的参数大』转向『比谁的 token 便宜』,循环架构的价值就被放大了——在固定参数规模下获得更强的推理能力,直接对应更低的部署成本。有开放权重模型在前面趟路,各家跟进是再自然不过的选择。

技术本身是公开的,敏感的从来不是技术,而是顶尖产品用它做出来的效果。

⚖️ 黑箱的账,该不该记在架构头上

接下来是最核心的问题:推理过程『不可见』,是不是循环架构造成的?

Raschka 给出了否定回答,而且他的论证方式相当扎实【信源③】。

他先摆出一个参照系。GPT-5.6 家族里,Luna 要比 Sol 多用 80% 的 token 才能达到相近性能【信源⑧,Raschka 转述自 OpenAI 官方模型文档,原始出处为 GPT-5.6 家族的官方性能对比数据,编者未能直接核对原始表格】:

模型token用量达到的性能
Sol基准水平与Luna相近
Luna比Sol多80%【信源⑧】与Sol相近

关键来了:没有任何人因为 Sol 用更少的 token,就说它的可解释性更差。

这个类比很锋利。它指向一个更合理的解释:能力更强的模型,犯错更少、回溯更少,因此不需要那么长的草稿纸。思维链变短,可能不是『过程被藏起来了』,而是『过程本来就变短了』。前者是监控问题,后者是效率进步——把两者混为一谈,就是这次舆论风暴里最大的认知错位。

但 Raschka 也没有全盘洗地。他明确提到,Astra 的系统卡确实承认了推理轨迹的可监控性出现了退步【信源⑨,Astra 官方系统卡,编者已核对相关章节表述】——这是官方文档承认的事实,不是媒体杜撰。

他只是强调:没有证据表明可以把这笔账记在循环架构头上【信源③】。

这就是这次争议里最需要分清的两件事:

  • 可监控性退步是真的【信源⑨】——系统卡白纸黑字写着,安全研究者有理由关切;
  • 归因于循环架构是没有证据的【信源③】——相关不等于因果,把架构变化直接等同于『故意藏起思维链』,中间缺了完整的论证链条。

产业逻辑上,这提醒所有从业者:评估一个模型的安全性,要看系统卡和监控基准,而不是看架构名词引发的联想。架构是工程选择,可监控性是工程结果,两者之间的映射关系需要证据,而证据需要时间去积累。

💰 OpenAI图什么:从聊天到操作系统

争议之外,Raschka 长文里更有产业价值的部分,是他作为重度用户给出的第一手观察【信源③】。需要说明:以下三点均为 Raschka 的个人使用体验与公开信息的综合判断,非 OpenAI 官方口径。

第一,Astra 在 3D 渲染和图形任务上的领先不成比例。一个通用模型在某个垂直能力上拉开异常大的差距,通常说明训练侧有针对性的投入,而不是 scaling 的自然溢出。

第二,Astra 可以通过 Codex / ChatGPT 应用直接操作本地软件【信源③,基于 Raschka 的实测描述】。这一点的信号意义可能比渲染更强——模型的输出对象,正在从『文本』转向『对真实软件环境的操作』。

第三,也是最耐人寻味的:OpenAI 采购了数万台 Mac 作为强化学习环境【信源⑩,此说法经供应链媒体与多位匿名人士转述,OpenAI 未官方确认,具体规模数字无法独立核实】。Raschka 在文中专门分析了这背后的训练逻辑。

把这三条观察串起来,一条产品路线隐约浮现:

一个合理的推演是:Agent 时代的模型,需要在长程任务上做大量试错。操作本地软件意味着每一步都可能出错、需要回溯,这类训练需要海量真实且一致的操作系统环境——数万台统一硬件的 Mac 集群,本质上是一套标准化的『练手车间』。

而循环深度在这条路线上的位置也就清晰了:Agent 任务是长程计算密集型的,如果循环架构能让模型在有限参数下通过更多迭代获得更强的逐步推理能力,那它服务的就是这条 Codex 路线,而不是什么神秘的隐身术。

据多位接近头部实验室的人士的普遍判断【信源⑪,匿名访谈综合,属行业共识性判断而非可引用的硬数据】,推理成本与 Agent 能力的平衡,是当下各家竞逐的核心命题——循环架构只是这个命题下的一种解法,而且是一种已经摆在明面上的解法。

⚠️ 真正的考题:别让监控输给竞赛

回到 Pachocki 那句话:他担心的是『一场奔向不可监控性的竞赛』【信源②】。

这句话值得细品。它的反面含义是:如果行业真的开始比赛谁的推理过程更短、更便宜、更难看懂,那才是真正的危机。

产业逻辑上有这个风险吗?有,而且结构性存在。当商业竞争的三大指标是性能、延迟、token 成本时,『可监控性』是唯一一个不直接出现在财报上的指标。思维链越短,监控工具能抓到的信息就越少——这不是哪一家的道德问题,而是激励机制的结构性问题。

这次的争议提供了一个难得的样本,也留下了三个值得持续跟踪的观察点:

  • 系统卡会说真话。Astra 系统卡主动承认监控性退步【信源⑨】,这种披露机制本身比结论更有价值,值得全行业效仿;
  • 开放权重是透明度的安全阀。Nanbeige4.2-3B【信源⑤】、Ouro【信源⑥】这类开放权重模型,让循环架构的研究可以在阳光下进行,封闭旗舰的能力优势与开放社区的研究透明度,会形成一种对冲;
  • 归因要靠后续研究。Raschka 在文章最后介绍了几项新研究【信源③】——监控性退步的真实原因,最终要靠这些工作给出答案,而不是靠发布会和爆料稿。

一句话:可监控性是一个工程问题,不该被当成一场舆论战的机会。

📌 给从业者的三问(新增)

在情绪降温之后,这篇文章希望每个读者带走三个可以立刻执行的动作:

1. 下次看到『某某架构导致某某风险』的标题,先问一句:系统卡里写了吗? 没有官方文档支撑的因果论断,一律按假说处理,不按事实传播。

2. 如果你是模型使用方,把可监控性写进采购评估项。 性能、成本之外,要求供应商提供推理轨迹的监控基准数据——这是把『不可见』问题从舆论议题变成工程议题的最短路径。

3. 如果你是研究者,监控性退步的真实归因是一个值得做的题。 Raschka 文末提到的那几项新研究【信源③】只是开始,开放权重的循环架构模型【信源⑤⑥】就是现成的实验平台。

结语

GPT-6 Astra 的这场风波,本质上是三件事的叠加:一项公开多年的技术路线(循环 Transformer)、一个真实存在的工程事实(监控性退步)、一次跑在事实前面的舆论恐慌。

Raschka 的长文最大的贡献,是把第一件和第二件之间的错误因果链剪断了——Luna 比 Sol 多用 80% token 才打平的例子说明【信源⑧】,思维链变短未必是黑箱,也可能只是模型变聪明了。

但别急着松口气。系统卡承认的退步是真的【信源⑨】,Pachocki 担心的竞赛也是真的【信源②】。接下来值得盯的,不是哪家又用了循环架构,而是监控基准和披露机制能不能跟上模型变快的速度。

黑箱不可怕,可怕的是没人再愿意解释黑箱。

而这次风波留下的最积极的遗产或许是:一位首席科学家愿意出来回应,一份系统卡愿意主动承认退步,一位独立博主愿意用万字长文拆解归因。透明度从来不是靠某一方恩赐的,它是爆料、澄清、拆解、复核这一整套机制反复拉扯出来的。让这套机制继续运转下去,比争论循环 Transformer 本身重要得多。

📎 信源与核实说明

编号信源内容来源核实状态
①Astra 采用循环深度设计、推理过程部分不可见的爆料The Information 付费报道(发布前两天)付费墙内,细节未经 OpenAI 预先证实;发布后官方口径未直接否认采用该架构
②Pachocki『避免奔向不可监控性的竞赛』及『计算图深度与 GPT-4 差距两倍以内』表述Pachocki 模型发布后的公开访谈有公开记录可查;『两倍以内』为口头表述,尚无独立技术审计数据交叉验证
③Raschka 对循环架构的技术梳理、Luna/Sol 类比、Mac 集群分析、文末新研究介绍Sebastian Raschka 博客(Ahead of AI)长文已核对原文;其中转引 OpenAI 的数据(见⑧)依赖其转述
④Universal Transformer(2018)Dehghani et al., arXiv:1807.03819公开论文,已核实
⑤Nanbeige4.2-3B 开放权重模型模型官方发布页(开放权重)可公开下载验证,已核实
⑥Ouro(字节跳动循环深度工作)字节跳动技术报告公开技术报告,已核实
⑦Mixture-of-Recursions(谷歌相关研究)谷歌研究论文公开论文,已核实
⑧GPT-5.6 家族中 Luna 比 Sol 多用 80% token 达到相近性能Raschka 转述自 OpenAI 官方模型文档转述信源,编者未能直接核对原始官方对比表格,引用时请注意
⑨Astra 系统卡承认推理轨迹可监控性退步Astra 官方系统卡已核对系统卡相关章节表述
⑩OpenAI 采购数万台 Mac 作为强化学习环境供应链媒体报道+多位匿名人士转述未经官方确认,『数万台』为量级表述,具体数字无法独立核实
⑪『推理成本与 Agent 能力平衡是各家竞逐核心命题』多位接近头部实验室人士的匿名访谈综合匿名信源,属行业共识性判断,非可引用的硬数据

核实原则说明:本文对可直接核实的公开资料(论文、系统卡、开放权重发布页)标注为已核实;对依赖单一转述的数据(⑧)和匿名信源(⑩⑪)均已在正文中作出标记。凡标注为转述或匿名的信息,建议读者在正式引用前自行查证原始出处。

利益声明:本文作者与 OpenAI、The Information、Sebastian Raschka 及文中提及的各模型团队均无利益关联。

本文由本站 AI 辅助聚合生成,原始来源如下:

🔎 本文基于以下资讯(素材溯源 · 信息来源)

📰 相关阅读推荐(与本文相关的其他资讯)