万字详解GPT-6 Astra,Sebastian Raschka带你读懂循环Transformer与隐藏的思维链
万字详解GPT-6 Astra,Sebastian Raschka带你读懂循环Transformer与隐藏的思维链过去两周里,「循环深度」这个词变成了 AI 安全讨论的焦点。
来自主题: AI技术研报
6437 点击 2026-09-15 14:33
搜索
过去两周里,「循环深度」这个词变成了 AI 安全讨论的焦点。
GPT-6 Astra采用循环深度技术带火循环Transformer,阿里早在11个月前便布局MeSH和SpiralFormer两篇论文,分别针对循环内部的计算冗余和信息粒度问题提出解决方案,为下一代高效大模型架构探路。
据《The Information》报道,OpenAI 最强新模型 Astra 被曝采用「循环深度」(recurrent depth)技术,使模型在输出 Token 前完成多轮潜在空间计算并显著提升网络安全能力,但这一「少说多想」的推理方式因思维链可能被压缩到难以读取的内部状态而引发 AI 安全专家对监管失效的担忧。