BDH-CQ 以循环潜在记忆挑战逐词 AI 推理

BDH-CQ 在 ARC-AGI-1 上以 1.5 亿参数实现了 29.5% 的 pass@2，尽管它从不将中间推理过程表述为语言。Pathway 的研究人员于 2026 年 8 月 10 日通过一篇预印本介绍了这一系统；该系统将循环记忆与迭代式潜在计算相结合。这一成果挑战了现代推理模型背后的一个常见假设：更难的问题需要更长的推理 token 生成序列。

这一分数并未让 BDH-CQ 成为最准确的 ARC 求解器。它的重要性在于模型如何学习每个测试任务，以及作者报告的计算用量之低。演示示例会在推理过程中更新内部记忆，而固定的模型参数则在连续工作空间内反复处理查询。

这一方法针对的是逐 token 推理，而非某一家公司的产品或某个旗舰模型。思维链系统会先将中间计算转化为语言，再读取这些 token。BDH-CQ 则将计算保留在内部，可能避免了长推理轨迹带来的延迟与解码开销。

现有证据仍比标题所暗示的范围更窄。评估涵盖的是视觉网格变换，而非开放式语言、编程或科学研究。关键架构细节也仍属专有，限制了独立复现与审查。

BDH-CQ 无需更新参数即可学习任务

BDH-CQ 将演示示例转化为临时循环记忆，再利用该记忆解决新的查询。

由 Pathway 牵头的团队在一篇 8 月预印本中介绍了 BDH-CQ。作者包括来自 Pathway、Bielik AI 和纽约大学的研究人员。论文将 BDH-CQ 描述为 Dragon Hatchling 架构家族的扩展。

每个评估任务都会提供若干输入输出示例，以及一个需要回答的新输入。BDH-CQ 会按顺序处理这些演示示例。每个示例都会改变一个循环状态，将上下文带入后续输入。

随后，模型会将查询与累积状态一同编码。它反复变换一个高维潜在工作空间，即用于计算的连续内部表示。只有最终候选答案会被解码。

这一过程中不会发生梯度更新。模型训练得到的参数保持固定，而其循环状态会随提供的证据变化。这一区别将推理时记忆与传统微调区分开来。

研究人员还表示，评估任务标识符和评估演示样本对被排除在训练之外。该模型改为在 ARC 风格来源与私下整理的示例混合数据上训练。公开来源包括 ARC-AGI-1 训练数据、RE-ARC、ConceptARC、ARC-Heavy 和 ARC-GEN100K。

这一设置很重要，因为许多小型 ARC 系统会直接适应每一道评估谜题。它们会优化模型组件、使用谜题专属标识，或在增强版本之间投票。BDH-CQ 声称仅凭演示示例就能推断变换规则。

测试基准是公开的 ARC-AGI-1 评估划分。ARC 任务使用小型彩色网格来表达涉及对象、对称性、计数、拓扑和空间关系的变换。求解器必须从少量示例中推断出未明确说明的规则。

公开划分包含 400 个任务。BDH-CQ 在首个排序候选中解出 97 个任务，而当两个候选答案中的任意一个均可计入时，解出 118 个任务。这些结果对应 24.25% 的 pass@1 和 29.5% 的 pass@2。

在 419 个单独的测试样本对中，它达到了 25.78% 的 pass@1 和 31.03% 的 pass@2。任务准确率要求更严格，因为每个所需测试输出都必须正确。只要有一个网格错误，整个任务即告失败。

研究人员根据测得的 H200 GPU 时间计算推理成本。其默认配置每个任务约使用 0.85 H200 GPU 秒。他们认为，这一结果突破了此前报告的 ARC-AGI-1 成本—准确率前沿。

这一效率主张是此次事件的核心新闻价值。BDH-CQ 并非凭借最高的综合分数取胜。它声称开辟了一个新的运行区间：取得有意义的性能只需异常低的推理计算量。

论文还报告称，由隶属 Bielik AI 和纽约大学的共同作者进行了黑箱审计。他们在无法访问模型权重的情况下复现了 29.5% 的分数。这为已部署服务提供了有价值的检验，但并不等同于无关联第三方的复现。

最重要的是，这一结果在单一循环过程中结合了记忆、适应和推理。该系统无需为每道谜题配置单独的优化器，也避免将每一个中间状态都转化为一句话。

逐词推理为何面临压力

BDH-CQ 针对的是思维链推理的计算形式，而不只是其基准准确率。

大型推理模型通常通过生成更多 token 来分配更多计算量。这些 token 可以记录部分推导、测试替代方案，并纠正先前的错误。但它们也迫使内部工作通过离散词表表达。

每生成一个推理 token，都需要再进行一次自回归解码。模型必须将隐藏状态投射为词表概率、选择一个 token，再重新消费该 token。因此，更长的轨迹会增加计算量和延迟。

语言推理仍然有用，因为人们能够检查它。它也可以支持工具调用、协作和显式验证。然而，当中间状态不需要人类解释时，语言会成为一种带宽限制。

BDH-CQ 测试了另一种计算分配机制。它不延长可见的文本记录，而是在连续状态中增加循环变换。一个内部状态可以编码多种部分可能性，而无需将每一种分别明确写出。

这种差异类似于并行工作与串行工作的区别。语言轨迹通常在每个位置选择一个 token。高维状态则能保留多个活跃特征，并同时对它们进行变换。

这一想法并非 BDH-CQ 独有。Meta 的 Coconut 研究将连续隐藏状态反馈给 Transformer，使模型无需解码每一个中间步骤即可进行推理。循环深度模型同样会在多次内部迭代中复用计算模块。

BDH-CQ 增加了一个独特元素：演示示例会持续修改循环任务记忆。查询随后在潜在迭代期间使用该记忆。因此，该系统在同一架构内连接了上下文学习适应与非语言推理。

这一联系对两条既有路径构成压力。第一条是传统思维链：示例指定任务，token 提供工作空间。第二条是任务专属优化：小型求解器会针对每道谜题单独适应。

Pathway 的系统声称，在不强制叙述推理过程的前提下，保留了第一条路径的灵活性；它也声称，在不进行谜题专属参数更新的前提下，保留了第二条路径的紧凑计算特性。

在 ARC 上，这种对比更为鲜明。Hierarchical Reasoning Model 和 Tiny Recursive Model 系统使用迭代式潜在计算，但其 ARC 流程包括传导式适应。评估演示示例会参与与每道谜题相关的优化。

BDH-CQ 的作者认为，先前未见的任务可以通过上下文进入系统。他们将这种安排比作一个人从示例中学习规则，然后在不重写整套推理机制的情况下加以应用。

这一类比应保持有限。循环状态更新是数学运算，并非人类般理解的证据。论文称该设计受大脑启发，但明确避免声称其在模仿生物机制。

底层 Dragon Hatchling 架构采用稀疏正激活、低秩通信和循环联想状态。其公开的架构仓库描述了局部交互的人工神经元与 Hebbian 风格的工作记忆。

Hebbian 记忆会加强共同激活特征之间的关联。在 BDH-CQ 中，实际要点是上下文可以修改持久的内部状态。该状态不必扩展为列出所有先前键和值的显式列表。

这一特性最终可能在视觉谜题之外也具有意义。长推理轨迹会消耗内存、解码器时间和通信带宽。循环状态提供了另一种保留信息、同时控制这些成本的方式。

但移除语言也移除了一个方便的检查界面。隐藏轨迹不能仅仅因为高效就被信任。开发者需要其他方法来测试内部过程是否稳定、是否存在偏见或易受操纵。

因此，对基于 token 推理的压力是有条件的。BDH-CQ 表明，可见文本并非唯一可能的计算工作空间；它并未证明隐藏计算能够在每一类任务中取代语言。

Horizon MachineLearning 讨论指向更深层的机制

重要机制不只是无声推理，而是上下文记忆与活跃推理工作空间之间的分离。

一场被广泛转发的 MachineLearning 讨论帮助这篇论文进入公众视野，但底层技术主张仍来自研究本身。BDH-CQ 维持了两个承担不同职责的内部结构。

循环上下文状态会在模型摄取演示示例时发生变化。它存储与新呈现任务相关的关联。潜在推理工作空间则在这些示例进入记忆后启动。

在解决查询时，工作空间会跨越多个推理步骤变化。上下文状态在这些变换过程中保持可用。解码器将最终工作空间转换为一个或两个排序后的网格候选答案。

这种划分避免让一个向量承担所有职责。记忆回答演示示例确立了什么；工作空间处理查询仍需进行的计算。

作者在高层次上描述了记忆更新。新状态取决于先前状态和下一条演示示例。控制这一更新的训练参数不会改变。

他们以类似方式描述工作空间。编码器根据查询和累积上下文对其进行初始化。循环函数会反复更新它，之后解码器生成答案。

这一描述解释了概念，但未揭示完整实现。论文称，确切维度、更新规则和内部系统细节仍属专有信息，也未公开完整的训练配方。

被评估的产品包含的不只是核心神经架构。它还使用输入变换、候选构建、排序和推理流水线。这些外围组件会影响准确率和计算量。

即使存在这一限制，受控实验仍为循环记忆实际保留的内容提供了线索。其中一项测试在每个任务内创建新的颜色映射。演示示例定义了多种颜色应如何变化。

随着同时绑定数量从两个增加到八个，BDH-CQ 在第一名候选中解出了全部 96 个留出输出。该结果表明，上下文记忆能够存储并应用密集的任务专属映射。

其他测试改变了已演示操作的规模。在从两个到八个的距离范围内，边界传播在全部 48 个留出输出上都保持正确。随着目标数量增加，图案复制在全部 48 个输出上也始终正确。

这些是有利案例，因为底层操作保持局部且规则。模型可以扩展已学习的动作，而无需重建复杂的输出顺序。

排序则呈现出不同的曲线。性能在五个对象以内接近饱和，随后在更长序列上下降。面对八个对象时，BDH-CQ 在 pass@2 下仅解决了 24 个留出输出中的一个。

错误模式是广泛的，而非局部的。在该长度下，只有三个输出的维度正确。这表明瓶颈在于构建有序结果的执行过程，而不只是对规则的不确定性。

嵌套包含以不同方式失败。性能在深度四之前保持强劲，随后在深度五下降。这些输出通常仍保留正确的维度，其最佳候选的平均单元格准确率超过 99.9%。

一次关系判断失误往往就会导致失败。这一模式表明，模型几乎完成了变换，却在某个包含关系决策上失去了跟踪。精确匹配评分恰当地将这些输出计为错误。

在目标复杂度加入一个演示改变了结果。深度五的嵌套从 24 个输出中 19 个正确提升至 24 个中 24 个。长度为八的排序则从零提升至 24 个中 13 个。

这一干预强化了上下文学习的主张。当演示覆盖所需复杂度时，字节级完全相同的测试输入表现不同。这些示例在不更新参数的情况下改变了模型的有效行为。

同一证据也界定了一条边界。BDH-CQ 无法可靠地将每条规则外推至超出演示的复杂度。它的记忆可以绑定一种变换，但其工作空间在以更大规模执行该变换时仍会遇到困难。

推理强度带来了另一种可预测的权衡。高设置达到 29.5% 的 pass@2，中等设置达到 27%。低强度达到 21%，作者报告称计算量随之逐级降低。

这种关系类似于其他推理系统中的测试时计算扩展。更多循环步骤会提高获得精确答案的概率。区别在于，额外努力发生在连续状态内部，而非不断扩展的文本记录中。

这一机制使 BDH-CQ 不只是一个压缩版思维链实验。它从演示中创建任务记忆，将该记忆与查询计算分离，并通过循环深度扩展推理强度。

基准测试的胜利暴露出明确的失败模式

BDH-CQ 最有力的证据也表明，上下文学习并不保证规则执行的一致性。

论文在 ConceptARC 上评估了 BDH-CQ，该基准将视觉任务组织为 16 个概念家族。使用语义标识符时，模型的严格任务 pass@2 达到 59.38%。当标识符变为不透明且概念组被混合后，成绩达到 60%。

这些相近的分数缓解了一个明显担忧。模型似乎并不依赖有意义的任务名称或按概念分组的批次。两个版本都在 480 个单独测试对中得到 374 个正确结果。

然而，整体稳定性并不意味着行为完全一致。两次运行中，480 个完整排序候选列表里只有 276 个一致。请求上下文或内部搜索行为改变了许多输出，但并未改变总体分数。

更重要的是，测试对准确率达到 77.92%，而严格任务准确率仍为 59.38%。18.54 个百分点的差距表明，一个输入上的正确答案往往无法迁移到每一个输入。

160 个 ConceptARC 任务中，有 52 个在一到两个测试输入上正确，却未能解决全部三个。在严格的规则归纳视角下，这些部分成功并不能证明推断规则得到了持续一致的应用。

性能也因概念而显著变化。系统解决了十个涉及填充与未填充区别的任务中的九个。它也解决了 TopBottom2D 家族十个任务中的九个。

Copy 和 Order 各自仅达到十个中的两个。每个家族都只包含十个任务，因此这些计数不足以建立稳定排名。它们仍揭示了当前系统值得接受更严格压力测试的领域。

组合带来了另一项重大弱点。BDH-CQ 分别解决了旋转和重定位，然后在全部 72 个留出输出上解决了二者组合。反射与重定位结合时，在 72 个中成功了 47 个。

颜色交换表现差得多。作为汇总图案家族中的独立操作，它在 72 个输出中仅成功 26 个。与重定位组合时，它在全部 72 个输出上均告失败。

布局影响很大。当图案共享固定排列时，模型更容易学习颜色交换。在两个经过随机重排的家族中，性能几乎消失，甚至在组合问题进入之前就是如此。

这一结果提醒我们，不应不加限定地将该系统描述为在学习抽象算子。它有时会绑定一种可复用变换；但在其他情况下，成功取决于演示内部的表征规律性。

ARC 本身也限制了可得出的结论。它的网格不包含事实回忆、自然语言歧义、社会语境、工具使用和长程规划。强大的视觉归纳能力并不能证明广泛的推理能力。

论文标题强调带有循环隐式推理的上下文学习。它并未声称这个 1.5 亿参数系统可以替代通用语言模型。展望部分将语言和数学推理列为未来扩展方向。

可复现性仍是更大的担忧。完整的评测系统尚未公开，精确的记忆更新方式和隐式工作空间细节也仍未披露。研究人员尚无法从公开的 Dragon Hatchling 仓库复现这一头条结果。

报告中的审计在一定程度上保证了该服务返回了所述分数。不过，其评估者是论文共同作者，且他们没有模型权重。更强的测试应由无关联评估者运行一个冻结的工件。

训练污染同样需要谨慎措辞。根据论文，研究人员排除了公开评测演示和任务标识符。他们的私有数据和完整检查点选择过程仍无法供外界审查。

不透明标识符实验排除了一个狭窄的请求端捷径。它并不能证明训练中没有出现相关模式。论文自身也承认，ConceptARC 并非一个全新的基准。

成本比较同样需要谨慎。BDH-CQ 的估算来自在假定加速器费率下测得的硬件时间。排行榜中的其他条目可能反映供应商定价或独立的硬件估算。

这意味着图中数值并不总在衡量同一种经济量。模型较短的实测运行时间仍值得注意，但其优势的确切大小取决于比较方法。

静默推理带来治理方面的权衡。用户无法检查中间路径，因为不存在语言路径。在 ARC 上，最终答案可以被检查，因为每个单元格都有精确目标。

许多现实应用缺乏这种验证。医疗摘要、商业预测或研究综合通常没有即时的判定标准。隐藏推理将需要置信度校准、一致性测试和外部证据核查。

这一问题并不会否定隐式计算。人类可读的思维链同样可能包含在底层决策之后生成的貌似合理的解释。可见推理并不保证忠实。

实际要求是更好的评估。隐式系统需要测试记忆、外推、组合、稳定性和失败恢复的行为探针。BDH-CQ 的受控实验之所以有用，恰恰在于它们暴露了这些边界。

循环隐式推理改变了成本讨论

BDH-CQ 将注意力从单纯的模型规模转向推理与适应的结构。

相较前沿语言系统，1.5 亿参数模型很小。但参数数量并不能完全解释其报告的效率。该架构还避免了重复的语言解码和针对谜题的优化。

这形成了三种不同的计算预算。训练建立处理 ARC 风格任务的通用能力。演示更新临时循环记忆。隐式迭代则分配针对特定查询的推理强度。

将这些预算分开，可以让开发者获得更精细的控制。系统可能在不改变参数的情况下处理更多演示。它也可能只在查询需要时运行更多内部迭代。

当前语言模型通常在一条 token 流中结合这些功能。提示词承载演示，注意力保留上下文，生成的 token 扩展推理。由此产生的接口简单，但计算上是串行的。

BDH-CQ 提供了一种更具结构性的划分。记忆记录上下文中的证据，循环深度则执行主动搜索。解码器只在系统需要外部答案时出现。

这种设计类似于快速权重记忆，其中激活在固定网络内创建临时关联。它也与线性注意力相联系，后者可以在循环状态中汇总过去的信息。

更深层的竞争问题涉及适应。任务专用的递归求解器在针对每道谜题的示例进行优化后可以表现良好。通用语言模型则通过上下文适应，但通常会花费许多 token 进行推理。

BDH-CQ 旨在实现上下文适应，同时避免冗长解码或反向传播优化。即使其绝对准确率仍低于更强系统，这种组合也是对既有方法的主要挑战。

开发者不应将这一结果理解为 token 已经过时的证据。语言仍是模型、用户、工具和审计者之间的有效接口。它也让系统能够表达不确定性并请求缺失信息。

未来架构可能会结合两种模式。隐式循环可以处理高带宽内部计算。选择性解码可以在验证、协作或工具使用需要语言时暴露检查点。

BDH-CQ 论文指向这种混合模式。它指出，隐式状态和语言可以承担不同功能。中间文本不必因为每一步都不需要它而在所有地方消失。

这种方法也可能改变记忆设计。传统长上下文模型保留不断增长的 token 历史或压缩缓存。循环记忆则在新证据到达时更新固定大小的状态。

固定大小记忆也引入了自身的权衡。压缩可能丢弃信息、合并关联，或覆盖早期证据。论文的颜色绑定测试展示的是某个受控范围内的容量，而非无限保留能力。

因此，长时程评估应测试干扰。研究人员需要了解，当演示相互冲突、以不同顺序到达，或包含无关示例时会发生什么。他们还应测量旧关联衰减的速度。

出于同样原因，安全测试也很重要。如果推理输入会修改循环状态，恶意演示可能会引导后续答案。隐式记忆攻击可能更难诊断，因为没有文本草稿记录这一状态转变。

企业应用将需要重置边界和记忆隔离。临时任务状态不应在用户之间或无关任务之间泄漏。系统还需要在受损上下文影响下游查询之前识别它的方法。

对于知识工作而言，其底层理念依然颇具吸引力。人们在阅读笔记、比对证据并形成结论时，很少会叙述每一个内部步骤。他们会先构建一个工作模型，再加以修正，然后传达经过筛选的推理过程。

支持知识融合的软件，已经将上下文收集与答案生成视为相互关联的过程。BDH-CQ 探索了这种关联在更底层架构上的实现方式。

这一结果也引出了产品层面的问题。用户是否应该为那些从未查看过、却为了可读性而生成的推理链承担计算成本？对于要求精确且可验证的任务，静默的潜在迭代或许能带来更好的平衡。

但对于影响重大的决策，答案则有所不同。用户可能需要附有引用的证据、明确的假设，或可供审查的推导过程。潜在核心需要配套一个外部报告层，忠实地传达这些要素。

因此，长期竞争的焦点并非隐藏思维与可见思维之争，而是僵化的 token 串行化与能够为每一步计算和沟通选择恰当表征的系统之间的较量。

BDH-CQ 为这一更广泛的设计方向提供了初步证据。其紧凑的 ARC 结果让这个问题更难被忽视。但它的局限性也意味着，尚不能宣称这场竞争已经尘埃落定。

决定 BDH-CQ 是否重要的三项信号

在 BDH-CQ 能够支撑更大范围的主张之前，下一阶段必须检验可复现性、更广泛领域的表现与扩展能力。

第一项信号是可由独立团队运行的成果工件。Pathway 已发布基础版 Dragon Hatchling 代码，但尚未发布用于报告评测的完整 BDH-CQ 系统。

冻结的容器、模型检查点或托管评测协议，将使无关联的研究人员能够复现这项涵盖 400 个任务的结果。它也将澄清候选项构建与排序对最终得分的贡献。

独立评测应在一致条件下比较实际测得的硬件耗时。它应将神经网络推理与预处理、增强、候选项排序及服务开销区分开来。可比的核算方式将增强或削弱其效率主张。

研究人员还应核实评测数据的排除边界。数据集清单、哈希值和检查点选择流程，比高层次的保证更能提供信心。如果可以审计其来源，私有示例无需公开发布。

如果可复现性得到验证，BDH-CQ 将成为 ARC 效率曲线上一个可信的新点位。如果不能，相关叙事就会收窄为一项有趣的架构提案，其系统层面的结果尚未获得确认。

第二项信号是视觉网格之外的表现。论文将语言、数学、约束满足以及更难的 ARC 任务列为未来方向。这些评测将检验该架构能否迁移到当前训练分布之外。

语言推理提出了不同的要求。模型必须处理歧义、事实知识、长输出，以及随时间变化的指令。它还必须传达证据，而不只是输出一个精确的网格。

数学将带来更强的验证能力，同时扩展问题结构。形式化证明、程序合成和定理检查，能够在不完全依赖主观评分的情况下测试潜在推理。

ARC-AGI-2 也将提供另一项有价值的挑战。它旨在抵御利用熟悉任务模式的方法，并要求更强的组合式泛化能力。在该基准上取得强劲结果，将支撑关于适应能力的更广泛主张。

在这些领域上的失败不会抹去当前发现。它只会表明，BDH-CQ 专门适用于 ARC 风格的视觉变换。这一结果仍将为高效求解器设计提供启示。

第三项信号是透明的扩展证据。论文声称 BDH-CQ 可以扩展，并提及了参数规模介于 10 亿到 6000 亿之间的早期实验。但它没有提供足够证据来评估这些主张。

作者还表示，该架构可以支持规模大得多的配置。在训练曲线、计算预算和下游结果公布之前，读者应将此视为工程预测。

扩展可能会改善困难的排序与组合能力。它也可能暴露内存不稳定性、优化问题或收益递减。当前这个 1.5 亿参数模型无法回答哪种结果占主导地位。

一项特别有价值的发布内容，是绘制模型规模与任务准确率、推理迭代次数及循环记忆容量之间的关系图。这将揭示更大的模型究竟是在提升抽象能力，还是仅仅记住了更多 ARC 风格的规律。

研究人员还应测试推理投入是否能够平滑扩展。当前的低、中、高设置显示准确率有所提升，但仅覆盖三个点。更细粒度的曲线可以识别饱和点和不稳定性。

这三项信号应按以下顺序出现：可复现性、领域扩展，然后是扩展能力。相比一项更大但私有的主张，一个能让独立团队审查的较小结果具有更高的科学价值。

开发者还应持续关注一个实际细节：循环记忆是否能在不引入新的上下文隔离和安全失效的前提下改善适应能力？单凭效率无法弥补不可靠的状态边界。

目前，BDH-CQ 确立了一项聚焦明确的结果。一个紧凑的循环系统从示例中学习视觉变换，通过连续状态进行推理，并以较低的实测计算量取得了具有竞争力的 ARC 分数。

它也如预期般在长序列排序、规则执行不一致和某些复合操作上失败。这些失败让这项工作保持了现实基础。它们显示了更丰富的示例在哪些方面有所帮助，以及内部执行在哪些地方仍会出错。

恰当的回应既不是轻视，也不是欢庆。关注 ARC 排行榜，审查任何发布的评测工件，并在一致的核算条件下比较结果。

然后向每一个推理模型提出一个更尖锐的问题：哪些步骤确实需要语言，哪些步骤只是因为今天的架构没有提供更好的工作空间，才不得不使用 token？