Latent Recurrent Thoughts: Recurrent Refinement of Proposed Latents for Reasoning with Frozen LLMs

📄 arXiv: 2609.01117v1 📥 PDF

作者: Zhaoliang Chen, Jie Fu

分类: cs.AI, cs.CL

发布日期: 2026-09-01

💡 一句话要点

提出潜在递归思维以提升冻结LLM的推理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 潜在递归思维 冻结LLM 推理机制 自然语言处理 符号推理 递归推理器 多步精炼 深度学习

📋 核心要点

  1. 现有的推理方法在离散的标记空间中容易导致错误传播，限制了推理的有效性。
  2. 本文提出的潜在递归思维（LRT）通过递归精炼潜在状态，解耦计算深度与模型规模。
  3. 在多个推理任务中，LRT显著优于传统的冻结解码器连续空间推理方法，提升效果明显。

📝 摘要（中文）

链式思维推理在离散的标记空间中展开，每一步都以文本形式提交，错误会传播，并且引导良好轨迹的前提是有可模仿的轨迹。本文提出在模型的连续表示空间中进行推理，避免了这些限制，但如何计算这些潜在状态仍然是一个挑战。我们的方法包括保持大型语言模型（LLM）不变，利用其在建模和解码序列方面的优势，同时使用小型辅助网络提供连续的潜在思维。通过递归方式生成这些潜在状态，微小的递归推理器在多个步骤中对其进行精炼，从而将计算深度与模型大小解耦。实验结果表明，LRT在符号推理和自然语言推理任务中显著超越了现有方法。

🔬 方法详解

问题定义：本文旨在解决现有推理方法在离散标记空间中导致的错误传播和推理效率低下的问题。现有方法依赖于单次前向传播，限制了推理的深度和灵活性。

核心思路：我们提出通过保持大型语言模型（LLM）不变，利用其强大的序列建模能力，同时引入小型辅助网络生成连续的潜在思维。通过递归推理器对潜在状态进行多步精炼，提升推理的准确性和深度。

技术框架：整体架构包括三个主要模块：任务专用的潜在状态生成器、递归推理器和冻结的LLM解码器。潜在状态生成器提供初始潜在状态，递归推理器通过多次迭代精炼这些状态，最后由LLM进行解码。

关键创新：最重要的创新在于将递归推理与冻结LLM结合，形成了一种新的推理机制，使得推理过程不再依赖于单次前向传播，而是通过多次迭代优化潜在状态。

关键设计：在设计中，我们设置了适当的损失函数以指导递归推理器的学习，同时优化了网络结构以确保其在计算资源有限的情况下仍能有效工作。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

在符号推理任务（如Countdown-4和Sudoku）以及自然语言推理任务（如HumanEval、MBPP和StrategyQA）中，LRT在相同的解码器、提示、数据和训练预算下，显著超越了以往的冻结解码器连续空间推理方法，且在推理计算上仅需较小的开销。

🎯 应用场景

该研究的潜在应用领域包括复杂的逻辑推理、自然语言处理和智能问答系统。通过提升推理能力，LRT可以在教育、医疗和金融等多个行业中提供更高效的决策支持，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Chain-of-thought reasoning unfolds in discrete token space: each step is committed as text, errors propagate, and eliciting good traces presupposes traces to imitate. Reasoning instead in a model's continuous representation space - where intermediate states are vectors rather than words - sidesteps these constraints, but leaves open how those latent states should be computed. We approach this along two axes. First, we keep a large language model (LLM) frozen and use it for what it is already good at - modeling and decoding sequences - while a small auxiliary network supplies continuous latent thoughts as input. Second, we produce those latents by recurrence: a tiny recurrent reasoner refines them over many steps, decoupling the depth of computation from the size of the model, so that the latents are a product of iterative processing rather than a single forward pass. We instantiate this as Latent Recurrent Thoughts (LRT): a task-dedicated proposer supplies base latents, a recurrent reasoner refines them through bounded residual corrections, and the frozen LLM decodes the answer. On symbolic reasoning with answer supervision but no reasoning traces (Countdown-4, Sudoku) and on natural-language reasoning (HumanEval, MBPP, StrategyQA), LRT substantially outperforms prior frozen-decoder continuous-space reasoning methods under an identical decoder, prompt, data, and training budget, and outperforms non-thinking-mode chain-of-thought prompting on the same backbone at a small fraction of its inference compute.