Why Struggle with Continuous Latents? Interpretable Discrete Latent Reasoning via Rendered Compression

📄 arXiv: 2606.29712v1 📥 PDF

作者: Shuochen Chang, Qingyang Liu, Shaobo Wang, Bingjie Gao, Qianli Ma, Haonan Zhao, Yibo Miao, Yulin Sun, Zelin Peng, Jiangtong Li, Li Niu

分类: cs.CL

发布日期: 2026-06-29

💡 一句话要点

提出离散潜在推理方法以解决连续潜在推理的不稳定性问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 离散潜在推理 连续潜在方法 推理可解释性 多模态学习 自然语言处理

📋 核心要点

  1. 现有的连续潜在推理方法训练困难，推理轨迹不稳定且缺乏可解释性，导致与离散符号监督的错位。
  2. 本文提出离散潜在推理（DLR），通过将连续潜在状态转换为离散符号，解决了连续推理与离散监督之间的对齐问题。
  3. 在五个推理基准和两个模型系列上，DLR的表现超过了之前的潜在推理基线，压缩比高达20倍，且保持了可解释的语义结构。

📝 摘要（中文）

大型语言模型通过明确的思维链和强化学习实现了高效的推理性能，但需要较长的输出序列和延长的推理时间。潜在推理通过将计算转移到潜在空间来降低成本，但连续潜在方法训练困难，推理轨迹不稳定且难以解释。本文提出了离散潜在推理（DLR），将连续潜在状态转换为明确的离散符号。通过基于渲染的压缩方法，提取文本思维链的视觉特征，构建离散潜在词汇。实验表明，DLR在多个推理基准上优于现有方法，压缩比高达20倍，且学习的潜在轨迹保持可解释的语义结构。

🔬 方法详解

问题定义：本文旨在解决现有连续潜在推理方法的训练困难和推理轨迹不稳定的问题。这些问题源于连续状态与离散符号监督之间的错位，导致推理过程缺乏可解释性。

核心思路：论文提出的离散潜在推理（DLR）方法，通过将连续潜在状态转换为明确的离散符号，提供了一个可控且可解释的推理基础。这种设计使得推理过程能够与离散符号进行有效对齐。

技术框架：DLR的整体架构包括三个主要模块：首先，通过渲染文本思维链生成图像；其次，提取图像的视觉特征；最后，通过基于聚类的微调构建离散潜在词汇。该框架支持标准的自回归建模，适用于自然语言和潜在符号。

关键创新：DLR的最大创新在于首次实现了将连续潜在状态转换为离散符号的过程。这一创新使得推理过程更加稳定且易于解释，与传统的连续潜在方法形成了本质区别。

关键设计：在模型设计中，DLR扩展了词汇和输出头，支持预训练对齐、微调和强化学习。关键参数设置和损失函数的设计确保了模型在推理过程中的高效性和可解释性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，DLR在五个推理基准上表现优异，相较于之前的潜在推理基线，压缩比高达20倍。此外，学习到的潜在轨迹保持了良好的可解释性，展示了其在实际应用中的潜力。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、图像生成和多模态学习等。通过提供可控和可解释的推理机制，DLR能够在复杂的推理任务中提高效率，未来可能在智能助手、自动化内容生成等领域产生重要影响。

📄 摘要（原文）

Large language models achieve high reasoning performance via explicit chain-of-thought and reinforcement learning, but require long output sequences and extended inference time. Latent reasoning reduces this cost by shifting computation into a latent space; however, continuous latent methods are hard to train, suffering from unstable and uninterpretable reasoning trajectories. We argue these issues stem from a misalignment between continuous-space reasoning and discrete symbolic supervision, as continuous states lack explicit anchors for step-by-step alignment. To resolve this, we propose \textbf{Discrete Latent Reasoning~(DLR)}, the first method that converts continuous latent states into explicit discrete tokens. Inspired by render-based compression, we render textual chains of thought into images, extract visual features, and construct a discrete latent vocabulary via clustering-based fine-tuning. Expanding the vocabulary and output head enables standard autoregressive modeling over both natural language and latent tokens, supporting pretraining alignment, SFT, and RL. Experiments on five reasoning benchmarks and two model series~(Qwen3-VL and LLaMA-3) confirm that \textbf{DLR} outperforms prior latent reasoning baselines with up to \textbf{20$\times$ compression}. Furthermore, the learned latent trajectories retain an interpretable semantic structure. Overall, discrete latent tokens provide a controllable and interpretable basis for efficient latent reasoning.