能量推理器,效率真有385倍?

Energy-Based Reasoners 用能量梯度重写循环推理,在极限数独上以更小模型取得 99.9% 准确率;但热传的“385 倍”与论文正式数据并不一致。
Energy-Based Reasoners:用能量模型重做推理,效率真有 385 倍?
Energy-Based Reasoners 最近在开发者社区走红,原因是一句足够抓眼球的标题:推理效率提升 385 倍。
但先纠正一个关键数字:截至 2026 年 11 月 18 日,论文和官方项目页给出的正式结论是“最高减少 345 倍推理 FLOPs”,不是 385 倍。“385x more efficient inference”来自当天流传的 Hacker News 帖子标题,论文正文、摘要和实验章节均写作 345 倍。这个差异不影响方法本身值得关注,却提醒我们不要把社区标题直接当成实验结论。(arxiv.org)
更值得讨论的是,Energy-Based Reasoners(EBR)并不是又一个靠输出更长思维链来换准确率的语言模型,而是在重新定义循环推理模型内部的“下一步应该往哪里走”。
**Energy-Based Reasoner 是一种在隐状态上学习标量能量函数,并通过能量梯度下降逐步逼近答案的循环推理模型。**它不直接预测下一个推理状态,而是给当前状态打一个“离正确答案还有多远”的分数,再沿着能量下降最快的方向更新。
论文由杜克大学、伊利诺伊大学厄巴纳-香槟分校和哈佛大学研究者完成,arXiv 编号为 2611.08977,初版提交于 2026 年 11 月 6 日。官方代码已经以 MIT License 发布,不过仓库仍标注为建设中,ARC-AGI 的训练配置与检查点尚未完整开放。(arxiv.org)

循环推理缺的不是更多循环,而是一个方向盘
传统循环推理模型的问题是,它知道要继续迭代,却不一定知道迭代是否正在接近答案。
Looped Transformer、HRM、TRM 以及后来的固定点推理模型,都在尝试用同一组网络模块反复处理隐状态。这样做的好处很直接:模型参数不用增加,但有效深度可以随着循环次数增长。
它有点像让一个只有两层网络的模型重复思考 64 次,从而获得接近 128 层网络的计算深度。
问题在于,普通循环模块通常直接输出新的隐状态:
- 当前状态是否比上一步更好,没有显式指标;
- 简单问题是否已经解决,模型未必知道;
- 继续循环是否会改善答案,也没有保证;
- 多次采样得到不同答案后,还需要额外验证器决定相信哪个;
- 为了避免提前停止,部署时往往只能跑完预设循环次数。
**固定循环预算本质上是在让每道题都使用同样的思考时间。**一道接近完成的数独和一道极难数独都跑 64 轮,就像让所有考生无论是否已经答完,都必须坐满三个小时。
EBR 的改变看起来很小:让 Transformer 模块输出一个标量能量,而不是直接输出下一状态。
模型学习的是 Eθ(z;x):输入题目是 x,当前隐推理状态是 z,输出能量越低,代表这个状态越接近模型学到的有效解。
每轮推理不再是“网络告诉我下一个状态是什么”,而是“计算能量对隐状态的梯度,然后向降低能量的方向走一步”。论文将其写成沿 -∇zEθ 更新隐状态,本质上是把推理变成连续空间中的优化问题。(arxiv.cnoctave.top)
一个能量函数,同时做三份工作
EBR 最有价值的地方不是换了一种更新公式,而是一个能量函数同时承担了推理、停止和验证三项任务。
第一项工作是引导状态更新。能量梯度相当于地形坡度,告诉模型从当前位置朝哪个方向移动,才能最快进入低能量区域。
第二项工作是判断何时停止。当投影能量梯度的范数低于阈值时,状态已经接近稳定点,模型可以提前结束,而不是继续执行剩余循环。
第三项工作是选择候选答案。EBR 可以从多个高斯噪声初始化出发,得到多条独立推理轨迹,最后直接选择能量最低的结果,不必再训练一个单独的 verifier。
这套设计把循环推理里原本分散的组件压缩到同一个目标函数中:
| 推理环节 | 常规循环推理器 | Energy-Based Reasoner | |---|---|---| | 状态更新 | 网络直接预测下一隐状态 | 沿能量负梯度更新 | | 进度指标 | 通常没有显式指标 | 能量值、梯度范数与残差 | | 提前停止 | 固定轮数或额外停止头 | 梯度范数低于阈值 | | 候选选择 | 多数投票或外部验证器 | 选择最低能量候选 | | 初始状态 | 常用固定或确定性状态 | 从高斯噪声采样 | | 多解任务 | 容易集中到单一模式 | 多条下降轨迹探索不同低谷 |
**如果把推理比作下山,普通循环模型学习的是每一步怎么迈腿,EBR 学习的则是一张地形图。**地形图不仅能告诉你往哪里走,还能告诉你是否到达谷底,以及多个终点中哪个位置最低。
99.9% 准确率是五次采样,不是单次结果
EBR 在 Sudoku-Extreme 上的核心结果是单样本 99.4%、五样本 99.9%,两者不能混为一谈。
Sudoku-Extreme 包含 1000 个训练题,每个题通过保持有效性的变换扩增 1000 次,测试集则有 422786 道题。评估使用严格的 exact match:81 个格子只要错一个,整题就算失败。
在单次采样设置下,1.8M 参数的 EBR 达到 99.4% 准确率;在运行五条轨迹并选择最低能量答案后,准确率达到 99.9%。同一表格中的 Looped Flows 为 97.9% 单样本、99.3% 五样本,EqR 则需要 128 个样本才达到 99.8%。(arxiv.org)
| 模型 | 参数量 | Sudoku-Extreme 单样本 | 多样本结果 | 使用样本数 | |---|---:|---:|---:|---:| | TRM | 5M–7M | 87.4% | — | 1 | | EqR | 5M–7M | 93.0% | 99.8% | 128 | | FPRM | 7M | 94.2% | — | 1 | | Looped Flows | 5M–7M | 97.9% | 99.3% | 5 | | EBR | 1.8M | 99.4% | 99.9% | 5 |
真正拉开推理成本差距的不是单次梯度计算更便宜,而是 EBR 需要的样本和实际循环次数更少。
单个 EBR 下降步骤需要对能量网络执行前向和反向传播,理论上并不天然比一次普通循环更新便宜。论文也明确承认,训练还要对下降步骤进行二阶求导,这是不可忽略的额外成本。
但 EqR 的主结果使用 128 个样本、每个样本 64 次迭代,作者估算每道 Sudoku-Extreme 题约需 210 TFLOPs;EBR 只用少量轨迹就能达到相近甚至更高准确率。论文所谓“最高减少 345 倍 FLOPs”,比较的是特定准确率下的完整推理预算,而不是宣称每一步计算快了 345 倍。(arxiv.org)
这一区别非常重要。更准确的表述应当是:
在 Sudoku-Extreme 的特定模型、采样数量和准确率对比中,EBR 依靠更高的样本效率与自适应停止,将总推理 FLOPs 最多降至 EqR 的约 1/345。
它不是通用硬件加速比,也不是语言模型生成速度提升 345 倍,更不代表所有任务都能复现同样收益。
自适应停止比“345 倍”更值得关注
EBR 最可能影响真实推理系统的能力,是模型能够根据题目难度动态分配计算。
论文在 Sudoku-Extreme 上最多运行 64 次迭代,但当梯度范数阈值设置为 0.2 时,平均只需要 5.6 次迭代。此时单样本准确率仍为 99.41%,八样本准确率仍为 99.92%,每题计算量从 6.60 TFLOPs 降到 0.61 TFLOPs,相当于减少 10.8 倍。(arxiv.org)
| 停止阈值 | 平均迭代次数 | Pass@1 | Pass@8 | 每题计算量 | 相对节省 | |---:|---:|---:|---:|---:|---:| | 不提前停止 | 64.0 | 99.41% | 99.92% | 6.60 TFLOPs | 1.0× | | 0.1 | 7.6 | 99.41% | 99.92% | 0.82 TFLOPs | 8.0× | | 0.2 | 5.6 | 99.41% | 99.92% | 0.61 TFLOPs | 10.8× | | 0.5 | 3.6 | 99.42% | 99.86% | 0.39 TFLOPs | 17.1× | | 1.0 | 3.5 | 99.41% | 99.88% | 0.38 TFLOPs | 17.4× |
这组数据说明,训练出来的能量地形不只是一个用于排序答案的分数函数,它确实能够提供有用的收敛信号。
但它也暴露了风险:**梯度变小只代表模型到达了稳定点,不代表这个稳定点一定是正确答案。**能量模型可能掉进伪极小值,就像下山的人进入了一个局部洼地,却没有抵达整座山最低的山谷。
论文因此没有只看梯度范数,而是结合能量值选择多条轨迹中的最终答案。正确轨迹通常能到达更低能量区域,而错误轨迹即使暂时稳定,最终能量仍相对较高。
SXM 解决的是“别让所有轨迹走向同一个答案”
State-Based Explorative Modeling(SXM)是一种让多条隐状态轨迹探索不同有效解的训练方法。
多解任务是能量模型最容易说得漂亮、做起来困难的部分。如果能量地形只形成一个特别深的谷底,无论从哪里初始化,所有轨迹最终都会收敛到同一个答案。
对于唯一解数独,这不是问题;对于 N-Queens、图着色、规划和生成任务,这意味着严重的模式坍塌。
EBR 在训练时并行运行多个下降轨迹,并监督其中最匹配有效答案的轨迹。其反向 SXM 还会避免重复分配同一个目标解,迫使不同轨迹学习不同的低能量区域。
实验中,EBR 在 10×10 N-Queens 上将 20 次采样的有效解覆盖率从 GRAM 的 57.5% 提升到 92.0%;在 8×8 N-Queens 上达到 98.1% 覆盖率,同时保持 100% 有效性。在两个图着色任务中,EBR 的单样本冲突数均为 0。(arxiv.org)
这说明 EBR 不只是更会找到一个答案,也更有可能覆盖同一道题的多个可行解。
这还不是能替代大模型推理的新范式
EBR 当前证明的是“能量优化适合结构化算法任务”,而不是“能量模型已经重做了通用语言推理”。
四个实验基准分别是极限数独、迷宫、N 皇后和图着色,它们都具有清晰约束、离散答案和容易验证的有效性条件。这样的任务非常适合构造低能量解空间,也适合用准确率、冲突数和解覆盖率进行评估。
自然语言推理要复杂得多。一个回答是否正确、完整、有帮助,通常无法压缩成像数独约束一样干净的能量地形。长文本还涉及事实性、风格、逻辑一致性和用户偏好等多个目标,它们可能互相冲突。
Maze-Hard 的结果已经给出警告。EBR 单样本为 87.4%,只比部分基线略高;论文还指出,该数据集只有 1000 个训练迷宫,SXM 没有带来明显收益。迷宫评估本身也只把标注的某一条最短路径视为正确,即使另一条路径同样短,也可能被判错。(arxiv.org)
训练成本同样不能忽略。EBR 在数独上的训练 FLOPs 比 GRAM 少约 15%,但在 N-Queens 和图着色任务上,由于需要运行多条 SXM 候选轨迹,总训练 FLOPs 高出约 1.2 倍至 3.7 倍。它不是所有维度都更省,而是在部分任务上用更重的探索训练换取更高的推理效率与解多样性。(arxiv.org)
为什么这项工作仍然值得追踪
EBR 给推理模型带来的真正启发,是让“思考进度”成为模型内部可测量、可优化的变量。
过去两年的推理扩展主要围绕三条路线展开:生成更多 token、采样更多候选答案,以及训练独立验证器。它们都有效,但推理成本通常随着输出长度或采样数量近似线性增长。
EBR 提供了另一种可能性:模型在连续隐空间里迭代,不必把每个中间步骤都展开成文本;能量值判断候选质量,梯度范数判断是否继续计算。简单任务可以很快停下,困难任务再投入更多步骤。
这比“固定让模型思考 32000 个 token”更接近理想的推理系统:计算预算由问题和当前状态共同决定,而不是由开发者提前写死。
不过,开发者短期内不必把现有推理栈全部推倒重来。官方仓库仍在建设,当前训练和评估集中在四个算法基准,推荐环境也包括 CUDA 12.x、PyTorch 2.6 以上和 bf16 GPU。ARC-AGI 数据构建脚本已经出现,但训练配置和检查点仍待发布。(github.com)
**我们的判断是,EBR 是一个思路比结果更重要的研究。**345 倍是特定比较条件下的漂亮数字,不能直接外推到大语言模型;而“用同一个能量函数完成更新、停止和候选验证”才是可能被后续模型吸收的核心设计。
如果能量地形未来能够扩展到 ARC-AGI、代码搜索、组合优化乃至语言模型隐空间,EBR 可能成为测试时计算扩展的新分支。如果它只能在约束明确的谜题上工作,那么它依然会是一种优秀的专用求解器,但很难成为通用推理模型的下一代底座。
至少现在,所谓“385 倍效率提升”应该改写为一个更克制的结论:Energy-Based Reasoners 在极限数独上以 1.8M 参数取得 99.9% 五样本准确率,并在与 EqR 的特定等准确率比较中将推理 FLOPs 最多降低 345 倍。
参考来源
- Energy-Based Reasoners 官方 GitHub 仓库:包含模型实现、训练配置、数据构建脚本和预训练检查点说明。
- Reddit 上的 Hacker News 话题镜像:记录“385x”标题在社区中的传播。
- 知乎:EBT,能量模型与 Transformer:用于理解能量模型如何进行测试时优化与不确定性建模。



