BDH-CQ把上下文学习变成可更新记忆

BDH-CQ 是一种把上下文学习、循环记忆和潜变量推理合并到同一计算过程中的推理系统。 这项工作于 2026 年 8 月公开，论文题为《BDH-CQ: In-Context Learning with Recurrent Latent Reasoning》，对应 arXiv 编号 2608.09888。它最值得关注的结果是：一个只有 1.5 亿参数的配置，在 ARC-AGI-1 上达到 29.5% pass@2，作者估算的单任务计算成本仅为 0.00070 美元。

BDH-CQ真正新鲜的地方不是又做了一个“小模型刷榜”，而是重新安排了模型在推理时学习任务的方式。 它先让演示样例持续更新循环记忆，再让查询在高维潜在工作区中反复计算；中间推理状态不需要解码成人类语言，模型参数在推理期间也保持不变。换句话说，它试图把“读懂示例”“记住规律”和“执行规律”变成同一套动态计算，而不是三个彼此割裂的模块。

1.5亿参数，ARC-AGI-1拿到29.5% pass@2

ARC-AGI-1 是一套通过少量演示归纳视觉网格变换规则的抽象推理基准。 每道题通常给出若干组彩色网格输入和输出，模型需要从中发现旋转、移动、计数、连通、复制或组合等规则，再把规则应用到新的测试网格上。它考查的不是记忆某个知识点，而是面对陌生任务时能否迅速形成一套可执行的内部规则。

pass@2 表示每个任务最多生成两次答案，只要其中一次正确，该任务就计为通过。 因此，29.5% pass@2不能直接等同于单次作答准确率，也不能和采用不同尝试次数、搜索预算或外部程序枚举的方法直接横向比较。不过对于一个 150M 参数、且单题估算成本只有 0.00070 美元的系统，这个结果依然值得重视。

| 指标 | BDH-CQ 公开结果 | 解读 | |---|---:|---| | 参数规模 | 150M | 约1.5亿参数，远小于主流通用大模型 | | 评测集 | ARC-AGI-1 | 少样例视觉抽象推理基准 | | 成绩 | 29.5% pass@2 | 每题最多两次尝试，任一次正确即通过 | | 估算计算成本 | 0.00070美元/任务 | 属于作者按计算量给出的成本口径 | | 推理时参数更新 | 0 | 适应发生在循环状态，而不是模型权重 | | 中间过程语言化 | 不需要 | 推理状态保留在高维潜空间中 | | 评测任务标识参与训练 | 否 | 不依赖显式任务ID | | 评测任务演示对参与训练 | 否 | 作者称测试任务的示例对未用于训练 |

这组成绩的核心价值在成本—准确率位置，而不是绝对准确率本身。 作者称，BDH-CQ突破了此前报告的 ARC-AGI-1 成本—准确率帕累托前沿，也就是在相近成本下取得更高准确率，或在相近准确率下使用更少计算。这个结论目前首先应被视为论文作者的实验主张，后续仍需要独立复现，并统一计算价格、硬件利用率、尝试次数和预处理开销后再确认。

0.00070美元也不是用户最终会看到的产品价格。 论文中的 computed cost 通常按照模型计算量与某种硬件价格假设估算，不一定包含训练摊销、空闲算力、数据传输、工程服务和利润。它更适合说明架构的计算效率，而不是直接预测商业定价。

它把“上下文”从提示词变成了状态

上下文学习是模型在不更新权重的情况下，仅根据当前输入中的示例临时掌握任务规律的能力。 普通 Transformer 也能做上下文学习，但示例主要作为 token 序列留在上下文窗口里，后续层通过注意力反复读取这些 token。模型表面上学会了新任务，实际上并没有修改参数，也通常没有一个边界清晰、可持续更新的任务记忆状态。

循环记忆是模型在连续计算中反复读取和写入的内部状态。 BDH-CQ让演示样例不只是被动地躺在提示词里，而是逐步更新这一内部状态。新的演示到来后，状态继续变化；等查询出现时，模型已经拥有一个由当前任务示例塑造出来的任务表示。

潜变量推理是在连续高维表示中进行多步计算，而不是把每一步都转换成自然语言 token。 BDH-CQ接到查询后，会在高维潜在工作区里进行迭代计算，直至形成输出。这里的“潜在”并不等于神秘，而是指中间状态是一组模型内部向量，不是“先观察红色方块，再把它向右移动两格”这样的文字句子。

可更新记忆并不等于修改模型权重。 BDH-CQ在推理期间没有梯度更新，任务适应发生在循环激活状态中；会话结束或状态被清空后，这种适应原则上也会消失。因此，它更接近高速工作记忆，而不是永久写入模型的长期知识库。

BDH-CQ和思维链、测试时训练不是一回事

BDH-CQ与思维链的最大区别是中间推理是否必须经过语言瓶颈。 思维链把推理过程展开为 token，优点是可读、可检查，也容易与搜索和工具调用结合；缺点是每一步都要解码和重新读取文本，推理长度直接转化为 token 成本，而且自然语言未必是视觉变换、空间关系或约束传播的最佳载体。

BDH-CQ与测试时训练的最大区别是适应是否修改参数。 测试时训练通常会根据当前样本执行梯度下降，哪怕只更新少数层或低秩参数，也需要维护优化器、学习率和反向传播过程。BDH-CQ不做参数更新，它通过前向循环计算更新内部记忆，因此更容易把适应过程纳入常规推理流水线。

| 方法 | 任务适应载体 | 推理时更新权重 | 中间过程必须解码为语言 | 主要优势 | 主要限制 | |---|---|---:|---:|---|---| | 标准Transformer上下文学习 | 上下文token与注意力激活 | 否 | 否 | 通用、成熟、易扩展 | 示例长期占用上下文，任务状态不够显式 | | 语言思维链 | 自然语言token | 否 | 是 | 可读、易调试、便于接工具 | token成本高，语言可能成为推理瓶颈 | | 测试时训练 | 模型权重或少量适配参数 | 是 | 否 | 可把新规律写入参数 | 需要反向传播，稳定性和遗忘较难控制 | | 外部检索记忆 | 文档、向量或结构化记录 | 否 | 不一定 | 容量大、可持久化 | 检索到信息不等于学会任务规则 | | BDH-CQ | 可更新循环状态与潜在工作区 | 否 | 否 | 适应与推理统一，计算成本低 | 内部过程不透明，公开验证仍有限 |

BDH-CQ也不能被简单归类为“更短的思维链”。 它不是把原本几十个文字步骤压缩成几个隐藏 token，而是让中间计算根本不必经过文本表示。对于 ARC 这类视觉网格任务，颜色、位置、连通关系和变换约束在向量空间中并行传播，理论上比逐字描述再逐字解释更自然。

一次推理同时完成记忆、适应和求解

BDH-CQ的完整推理流程可以拆成三个连续阶段。 这三个阶段都发生在同一套计算结构中，不需要额外训练一个任务分类器，也不需要先识别“这是一道旋转题”或“这是一道计数题”。

1. 读取演示： 模型依次接收未知任务的输入—输出样例，不依赖显式任务名称。
2. 更新记忆： 每个样例都会改变循环内部状态，状态逐步编码当前任务可能遵循的变换规律。
3. 迭代求解： 查询进入后，模型在高维潜在工作区中多轮修正内部表示，最后才解码答案。

任务标识没有参与训练，是这套方法的重要实验约束。 如果模型训练时见过“旋转”“填充”“提取边界”等明确任务标签，它可能只是在做任务分类，再调用相应模式；BDH-CQ试图证明，它能直接从演示对中形成任务表示。

评测任务的演示对没有参与训练，是另一个需要关注的约束。 作者明确表示，评测任务的 demonstration pairs 未进入训练过程。这并不自动排除所有形式的数据相似性，也不意味着模型从未见过相近的基础变换，但至少它不是通过记住完整测试题来拿分。

模型不输出中间语言，并不代表它只进行一步前向计算。 “循环”意味着同一任务状态会经过多轮内部更新，计算深度可以超过网络静态层数所暗示的深度。它有点像在脑内反复摆弄一个拼图，只在最后把结果画出来，而不是每移动一块都先写一句解释。

150M模型的意义，不是证明大模型过时

BDH-CQ的150M结果说明架构和推理机制仍有很大的效率红利。 过去两年，复杂推理的主流路径是扩大模型、拉长思维链、增加采样次数，再用验证器筛答案。BDH-CQ提供了另一种可能：与其让更大的语言模型生成更多文字，不如给一个紧凑模型配置可更新记忆和可反复计算的潜在工作区。

小参数量不意味着总计算量必然更小。 循环潜变量推理会重复运行内部计算，实际成本取决于循环次数、状态维度、停止条件和硬件效率。一个150M模型循环很多轮，延迟和计算量可能高于一次前向传播；论文给出的每题0.00070美元，正是比单看参数量更有意义的指标。

ARC-AGI-1的成功也不能直接外推到代码、数学和开放式智能体任务。 网格任务输入输出边界清晰、答案可精确验证，特别适合循环约束求解。真实软件工程任务需要跨文件检索、调用工具、处理模糊需求和维持长时间状态，BDH-CQ的循环记忆能否承受这种噪声，目前没有公开结果可以证明。

BDH-CQ当前更像一项架构证据，而不是可以替代通用大模型的产品。 它证明了不依赖语言化中间步骤的推理，在复杂视觉逻辑任务上可以兼顾准确率和成本；它尚未证明同一机制能在自然语言、多模态、代码执行和长周期智能体中保持优势。

不说出思维过程，效率更高但更难审计

潜在推理的直接代价是可解释性进一步下降。 思维链虽然不一定忠实反映模型真正的内部计算，但至少提供了一条可观察轨迹；BDH-CQ把中间状态全部留在向量空间，开发者只能看到输入和最终输出，很难定位某一步究竟形成了错误规则，还是正确规则被错误执行。

隐藏中间过程也会提高安全评估难度。 如果未来把这类架构用于智能体，模型可能在潜空间中形成计划，却不向外暴露可审查文本。仅靠要求模型“解释一下”未必有效，因为事后生成的解释可能只是对结果的合理化，而不是内部循环状态的真实读出。

潜在状态仍然可以通过工程手段进行研究。 研究者可以对循环轮次做干预，测量状态随演示增加发生的变化，训练探针预测任务属性，或比较提前停止与完整迭代的错误分布。真正有价值的后续工作，不是强迫模型把每一步翻译成人话，而是建立针对潜在计算的因果分析和可控停止机制。

扩展到千亿参数，才是这项工作的真正野心

论文声称BDH-CQ继承了BDH架构便于张量切分的扩展特性。 作者在展望中提到，该架构适合扩展到1T参数规模，并称早期实验显示，BDH系列在10亿至6000亿参数的预训练范围内呈现出类似Transformer的缩放规律，同时保留循环潜变量推理能力。

这些大规模结果目前不应与150M版本的ARC成绩混为一谈。 150M配置给出了具体的ARC-AGI-1准确率和成本，而1B至600B缩放实验更多是论文中的早期结论；1T则是架构可扩展目标，不是已经完成并公开验证的BDH-CQ产品。参数可切分、训练能收敛，也不等于推理收益会随规模稳定增长。

大模型版本最值得观察的是“记忆容量—循环深度—模型规模”之间的关系。 如果扩大参数后，只是提高模式识别能力，却不能让循环记忆容纳更复杂的临时任务，BDH-CQ会退化成一种昂贵的专用网络；如果三者能够共同缩放，它才可能成为Transformer上下文学习之外的一条实质性路线。

这项工作为什么值得开发者关注

BDH-CQ给开发者最直接的启发是：上下文窗口不应是应用记忆的唯一形态。 目前许多AI应用把对话历史、用户偏好、任务规则和检索文档全部塞进提示词，再让模型从头读取。上下文越长，注意力成本越高，真正重要的任务状态反而容易被噪声淹没。

可更新循环状态可能更适合需要连续适应的低延迟场景。 机器人可以从几次示范中形成当前工位的操作规则，游戏代理可以在一局内记住环境动力学，数据清洗系统可以从少量样本归纳本批数据的转换格式。这些任务都需要临时学习，但未必值得执行一次权重微调。

潜空间迭代也可能改变推理成本的计量方式。 语言模型通常按输入、输出token计费，而循环潜推理更接近按内部计算步数和状态规模计费。未来如果这类模型进入产品，开发者更需要关注最大循环轮次、动态停止策略、状态重置边界和批处理效率，而不只是上下文长度。

BDH-CQ目前最合理的定位是一条值得复现的高效率推理路线。 它用150M参数、29.5% pass@2和每题0.00070美元给出了足够具体的结果，也把“上下文学习究竟是在读提示词，还是在形成临时记忆”这个问题重新摆到了台面上。

这项工作的成败最终取决于三件事。 第一，ARC-AGI-1结果能否被独立团队以统一成本口径复现；第二，潜在循环推理能否从规则清晰的网格任务扩展到语言、代码和智能体；第三，隐藏状态能否获得足够的可观测性与安全控制。只要其中两项成立，BDH-CQ就不只是一次小模型刷榜，而可能成为测试时计算架构的一次方向变化。

参考来源

• Reddit：BDH-CQ论文讨论与核心结果摘要：包含150M参数配置、ARC-AGI-1成绩、单任务估算成本，以及推理时不更新参数等核心信息。

注：论文原文题为《BDH-CQ: In-Context Learning with Recurrent Latent Reasoning》，arXiv编号为2608.09888；因文末链接域名限制，此处仅保留允许访问域名中的参考链接。