Tyler: Typed Latent Reasoning for Language Models -- When to Think, What to Compute, and How Much to Allocate

📄 arXiv: 2606.16360v1 📥 PDF

作者: Hanyu Lin, Min Cai, Jiawei Wen, Haodi Zhang

分类: cs.CL, cs.AI

发布日期: 2026-06-15

备注: website: https://typed-latent-reasoning.github.io

💡 一句话要点

提出Tyler框架以优化语言模型的潜在推理过程

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 潜在推理 语言模型 自回归解码 动态选择 智能推理

📋 核心要点

  1. 现有方法在潜在推理的调用时机、计算类型和预算分配上存在不足，导致推理效率低下。
  2. 提出的Tyler框架通过学习策略，在解码过程中动态选择文本输出或潜在计算模块，提高了推理灵活性。
  3. 实验结果显示，Tyler在准确性上显著优于CoT和其他基线，具有更好的泛化能力和较低的遗忘率。

📝 摘要（中文）

链式思维（CoT）提示通过将中间计算外部化为离散文本标记来改善大型语言模型（LLMs）的推理能力，但这种文本接口也引入了冗余和推理开销。潜在推理通过在连续表示中携带部分计算提供了有前景的替代方案。然而，现有方法通常预定义何时调用潜在计算以及在解码过程中如何分配，未能解决一个关键问题：何时调用潜在计算、执行何种类型的计算以及分配多少预算。本文提出了Tyler，一个在自回归解码过程中进行潜在推理的类型化和预算感知框架。Tyler在每个解码步骤中学习一种策略，选择发出文本标记或切换到专门用于特定推理功能的潜在计算模块。通过在三个基础LLM上的广泛实验，Tyler在准确性上比CoT提高了最多14.49个百分点，并且在最强竞争基线之上提高了最多4.30个百分点。

🔬 方法详解

问题定义：本文旨在解决现有潜在推理方法在调用时机、计算类型和预算分配上的不足，导致推理过程中的冗余和效率低下。

核心思路：Tyler框架通过学习解码步骤中的策略，动态选择是发出文本标记还是切换到潜在计算模块，从而优化推理过程。这样的设计使得模型能够根据当前推理状态灵活调整计算方式。

技术框架：Tyler的整体架构包括一个决策模块和多个潜在计算模块。决策模块负责在每个解码步骤中选择合适的计算方式，而潜在计算模块则根据特定推理功能进行状态映射和更新。

关键创新：Tyler的主要创新在于其类型化和预算感知的潜在推理机制，能够在解码过程中灵活选择计算方式，显著提高了推理效率和准确性。与现有方法相比，Tyler在调用潜在计算时更加智能和高效。

关键设计：Tyler采用了特定的损失函数来优化决策模块的策略学习，并设计了多种潜在计算模块以支持不同的推理需求。模型的参数设置经过精心调整，以确保在不同推理任务中均能表现出色。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在广泛的实验中，Tyler在三个基础LLM上实现了最高14.49个百分点的准确性提升，相较于链式思维（CoT）方法和最强竞争基线，展现出卓越的性能和较低的遗忘率，验证了其有效性和优越性。

🎯 应用场景

Tyler框架在自然语言处理、智能问答系统和对话生成等领域具有广泛的应用潜力。通过优化推理过程，Tyler能够提升模型在复杂推理任务中的表现，进而推动智能助手和自动化系统的进步，具有重要的实际价值和未来影响。

📄 摘要（原文）

Chain-of-thought (CoT) prompting improves reasoning in large language models (LLMs) by externalizing intermediate computation as discrete text tokens, but this textual interface also introduces redundancy and inference overhead. Latent reasoning offers a promising alternative by carrying part of the computation in continuous representations. However, existing methods typically predefine when latent computation is invoked and how it is allocated during decoding, leaving a key problem unresolved: when to invoke latent computation, what type of computation to perform, and how much budget to allocate. We propose \textbf{Ty}ped \textbf{L}at\textbf{e}nt \textbf{R}easoning (Tyler), a typed and budget-aware framework for latent reasoning during autoregressive decoding. Tyler learns a policy that, at each decoding step, chooses between emitting a text token and switching to a latent computation module specialized for a particular reasoning function. Once invoked, an operator maps the current reasoning state into latent tokens that support global planning, local state updates, or reusable procedural abstraction. Across extensive experiments on three backbone LLMs, Tyler improves accuracy by up to 14.49 points over CoT and by up to 4.30 points over the strongest competing baseline. It further generalizes across diverse reasoning domains and achieves the best final-stage performance with the lowest forgetting.