DreamReasoner-8B: Block-Size Curriculum Learning for Diffusion Reasoning Models

📄 arXiv: 2606.19257v1 📥 PDF

作者: Zirui Wu, Lin Zheng, Jiacheng Ye, Shansan Gong, Xueliang Zhao, Yansong Feng, Wei Bi, Lingpeng Kong

分类: cs.CL

发布日期: 2026-06-17

🔗 代码/项目: GITHUB

💡 一句话要点

提出DreamReasoner-8B以解决长链推理中的块大小问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 块扩散模型 长链推理 课程学习 推理能力 模型训练 自然语言处理 代码推理

📋 核心要点

  1. 现有块扩散模型在长链推理中存在性能不稳定的问题，尤其是大块大小训练导致推理效果显著下降。
  2. 论文提出块大小课程学习，通过逐步调整训练块大小，解决了大块训练带来的推理能力下降问题。
  3. DreamReasoner-8B在数学和代码推理基准上表现出色，性能与Qwen3-8B等领先模型相当，展示了其广泛的适用性。

📝 摘要（中文）

块扩散语言模型通过并行块去噪加速解码，但其在长链推理中的可靠性尚未解决。为此，我们开发了开源的DreamReasoner-8B，并系统研究了训练和推理块大小对长链推理的影响。分析显示，使用大块大小训练会导致推理性能显著下降，而小块大小则能有效保持推理能力。为弥补这一差距，我们提出了块大小课程学习，逐步将训练从细粒度转向粗粒度块大小，从而克服这一限制，实现强大的推理性能，并在数学和代码推理基准上与领先的自回归模型如Qwen3-8B竞争。该工作为高效的推理能力扩散语言模型奠定了实用基础。

🔬 方法详解

问题定义：本论文旨在解决块扩散语言模型在长链推理中的性能不稳定性，尤其是大块大小训练导致的推理能力下降问题。现有方法在处理长链推理时，未能有效应对块大小对推理性能的影响。

核心思路：论文提出的核心思路是块大小课程学习，通过逐步从细粒度块大小过渡到粗粒度块大小，来提升模型的推理能力。这种设计旨在克服大块训练带来的性能下降，确保模型在不同推理块大小下的有效性。

技术框架：整体架构包括数据预处理、块大小调整、模型训练和推理阶段。模型首先在小块大小上进行训练，逐步增加块大小，以适应更复杂的推理任务。

关键创新：最重要的技术创新在于提出了块大小课程学习的概念，这一方法与传统的固定块大小训练方式有本质区别，能够有效提升模型在长链推理中的表现。

关键设计：在训练过程中，模型的块大小从小到大逐步调整，损失函数设计上考虑了推理的准确性和效率，网络结构则采用了优化的块扩散架构，以支持并行处理和高效推理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中，DreamReasoner-8B在数学和代码推理基准上表现出色，取得了与Qwen3-8B等领先自回归模型相当的结果，展示了在不同推理块大小下的强大泛化能力。这一成果表明块大小课程学习显著提升了模型的推理性能。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的推理任务、代码生成与理解、以及复杂问题求解等。DreamReasoner-8B的高效推理能力为开发更智能的对话系统、自动编程工具和决策支持系统提供了基础，未来可能在教育、金融和科研等多个领域产生深远影响。

📄 摘要（原文）

Block diffusion language models accelerate decoding through parallel block-wise denoising, yet whether they can be reliably scaled for long chain-of-thought (CoT) reasoning remains unresolved. To this end, we develop DreamReasoner-8B, an open-source block diffusion reasoning model, and conduct a systematic study of how training and inference block sizes affect long-CoT reasoning. Our analysis reveals a stark performance disparity: training with large block sizes yields remarkably poor reasoning, whereas small block sizes preserve effective reasoning. To bridge this granularity gap, we propose block-size curriculum learning, which gradually transitions training from fine-grained to coarse-grained block sizes, thereby overcoming this limitation and enabling strong reasoning performance that generalizes across diverse inference block sizes. On mathematical and code reasoning benchmarks, DreamReasoner-8B achieves results competitive with leading open autoregressive models such as Qwen3-8B. This work establishes a practical foundation for efficient, reasoning-capable diffusion language models. We release our model at https://github.com/DreamLM/DreamReasoner.