SuperThoughts: Reasoning Tokens in Superposition

📄 arXiv: 2606.13862v1 📥 PDF

作者: Zheyang Xiong, Shivam Garg, Max Yu, Vaishnavi Shrivastava, Haoyu Zhao, Anastasios Kyrillidis, Dimitris Papailiopoulos

分类: cs.LG, cs.AI, cs.CL

发布日期: 2026-06-11

💡 一句话要点

提出SuperThoughts以解决长链推理的计算开销问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长链推理 多令牌预测 潜在表示 模型微调 计算效率 准确性保持

📋 核心要点

  1. 现有的长链推理方法在生成令牌时计算开销较大，导致效率低下，尤其在复杂任务中表现不佳。
  2. SuperThoughts通过压缩连续的CoT令牌为单一潜在表示，并采用多令牌预测模块，提升了推理效率。
  3. 实验结果显示，SuperThoughts在多个基准测试中实现了20-30%的长度减少，同时保持了高准确性，性能优于传统方法。

📝 摘要（中文）

长链推理（CoT）在大型语言模型（LLM）问题求解中表现出色，但由于顺序生成令牌的计算开销，效率较低。尽管近期研究尝试在连续潜在空间中进行推理以绕过离散令牌生成，但在训练稳定性和复杂任务的扩展性方面仍面临挑战。本文提出SuperThoughts，通过将连续的CoT令牌对压缩为单一潜在表示，并通过轻量级的多令牌预测（MTP）模块每步解码两个令牌，既保留了训练时的离散令牌监督，又在推理时实现了吞吐量的翻倍。经过对多个模型的微调，SuperThoughts在多个基准测试上实现了约20-30%的CoT长度减少，同时保持了准确性，绝大多数任务的准确率仅下降1-2个百分点。

🔬 方法详解

问题定义：本文旨在解决长链推理（CoT）在大型语言模型中的计算开销问题。现有方法在生成令牌时存在顺序性，导致效率低下，尤其在处理复杂任务时，训练稳定性不足。

核心思路：论文提出的SuperThoughts方法通过将连续的CoT令牌对压缩为单一潜在表示，利用轻量级的多令牌预测（MTP）模块每步解码两个令牌，从而提高推理效率并保留训练时的离散令牌监督。

技术框架：SuperThoughts的整体架构包括潜在表示的生成模块和多令牌预测模块。生成模块负责将连续的CoT令牌压缩为潜在表示，而MTP模块则负责在推理阶段每步解码两个令牌。

关键创新：SuperThoughts的核心创新在于通过压缩令牌对来实现高效推理，解决了传统方法在训练和推理阶段的效率瓶颈。这一设计使得模型在保持准确性的同时，显著提高了推理速度。

关键设计：在模型设计中，采用了适应性机制，当模型对某些推理结果不确定时，会回退到标准解码方式。此外，损失函数的设计也确保了在训练过程中对离散令牌的有效监督。通过这些设计，SuperThoughts在多个任务上表现出色。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，SuperThoughts在MATH500、AMC、OlympiadBench和GPQA-Diamond等基准测试中实现了约20-30%的CoT长度减少，同时在大多数任务中准确率仅下降1-2个百分点。这一性能提升显著优于传统的长链推理方法，展示了其在实际应用中的潜力。

🎯 应用场景

SuperThoughts的研究成果在多个领域具有潜在应用价值，包括教育、科学计算和复杂问题求解等。通过提高推理效率，该方法能够加速大型语言模型在实际应用中的响应速度，提升用户体验。未来，SuperThoughts可能会在更广泛的AI应用中发挥重要作用，尤其是在需要快速决策和实时反馈的场景中。

📄 摘要（原文）

Long Chain-of-Thought (CoT) reasoning improves LLM problem-solving but is computationally expensive due to sequential token generation. While recent works explore reasoning in continuous latent spaces to bypass discrete token generation, they often struggle with training stability and fail to scale to complex, long-horizon tasks due to lack of supervision signal. We propose SuperThoughts, which compresses pairs of consecutive CoT tokens into single latent representations and decodes two tokens per step via a lightweight Multi-Token Prediction (MTP) module. This preserves discrete token supervision at training time while doubling throughput at inference time. We finetune Qwen2.5-Math-1.5B-Instruct, Qwen2.5-Math-7B-Instruct, Qwen2.5-Math-14B-Instruct, and evaluate on MATH500, AMC, OlympiadBench, and GPQA-Diamond. With a confidence-based adaptive mechanism that falls back to standard decoding when uncertain, SuperThoughts achieves $\sim$20--30\% CoT length reduction while maintaining accuracy with minimal degradation (1-2 points accuracy drop on most tasks).