Posterior Refinement: Fast Language Generation via Any-Order Flow Maps

📄 arXiv: 2606.24773v1 📥 PDF

作者: Manan Agarwal, Sheel Shah, Chanhyuk Lee, Jaehoon Yoo, Jerry Huang, Seunghoon Hong, Aditi Raghunathan, Jinwoo Kim, Nicholas M. Boffi

分类: cs.CL

发布日期: 2026-06-23

备注: 24 pages, 23 figures

💡 一句话要点

提出FMLM+以解决非自回归生成模型的效率与质量问题

🎯 匹配领域: 支柱四：生成式动作 (Generative Motion)

关键词: 非自回归生成 流图语言模型 掩蔽扩散模型 后验精炼 语言建模 生成质量 效率提升

📋 核心要点

  1. 现有的非自回归生成模型在生成多个标记时存在因子化误差，导致样本质量下降，未能充分利用迭代优化的潜力。
  2. 论文提出FMLM+，通过结合掩蔽风格的噪声调度，允许模型在单步生成完整序列的同时进行后验一致性评分。
  3. 实验结果表明，FMLM+与后验精炼在多个基准测试中显著提高了生成速度与质量的平衡，相比于MDM和FMLM系列有显著提升。

📝 摘要（中文）

非自回归生成提供了一种强大的迭代优化范式，允许模型递归地批评、擦除和再生成任意子集的标记。然而，现有的非自回归模型未能充分发挥这一潜力。掩蔽扩散模型（MDMs）因因子化误差在同时生成多个标记时导致样本质量下降。流图语言模型（FMLMs）通过联合序列传输来规避这一瓶颈，实现优秀的少步生成，但牺牲了MDMs的推理时间灵活性。我们提出了FMLM+，通过为FMLM配备掩蔽风格的噪声调度来弥补这一差距。在单步生成完整序列的同时，FMLM+还对每个标记的全局一致性进行后验评分。我们利用这一点引入了后验精炼，这是一种新的推理时精炼策略，使模型能够自适应地修正输出，以32倍更少的NFEs匹配离散基线的性能。在多个基准测试中，我们证明了FMLM+与后验精炼在速度与质量的权衡上优于MDM和FMLM系列，为高保真语言建模提供了可扩展的基础。

🔬 方法详解

问题定义：本论文旨在解决现有非自回归生成模型在生成多个标记时因子化误差导致的样本质量下降问题。现有的掩蔽扩散模型（MDMs）和流图语言模型（FMLMs）在效率和灵活性上存在不足。

核心思路：论文的核心思路是提出FMLM+，通过引入掩蔽风格的噪声调度，使得模型能够在单步生成完整序列的同时进行后验一致性评分，从而实现自适应的输出修正。

技术框架：FMLM+的整体架构包括输入序列的掩蔽处理、噪声调度的设计以及后验评分机制。模型首先生成完整序列，然后对每个标记进行全局一致性评分，最后通过后验精炼策略进行输出修正。

关键创新：最重要的技术创新点在于引入了后验精炼策略，使得模型能够在生成过程中自适应地修正输出，显著提高了生成质量，同时减少了推理时间。与现有方法相比，FMLM+能够以32倍更少的NFEs达到相似的性能。

关键设计：在模型设计中，采用了掩蔽风格的噪声调度，设置了适当的损失函数以优化后验评分，并在网络结构上进行了调整，以支持高效的序列生成和一致性评分。具体的参数设置和网络结构细节在实验部分进行了详细描述。

📊 实验亮点

实验结果显示，FMLM+与后验精炼在多个基准测试中显著提升了生成速度与质量的权衡，相比于MDM和FMLM系列，性能提升幅度达到32倍更少的NFEs，同时保持了与离散基线相当的生成质量。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的文本生成、对话系统以及机器翻译等。通过提高生成效率和质量，FMLM+为高保真语言建模提供了可扩展的基础，未来可能在智能助手和内容创作等场景中发挥重要作用。

📄 摘要（原文）

Non-autoregressive generation offers a powerful paradigm for iterative refinement, allowing models to recursively critique, erase and regenerate arbitrary subsets of tokens. However, existing non-autoregressive models fail to realize this potential. Masked Diffusion Models (MDMs) suffer from factorization error, causing sample quality to collapse when generating multiple tokens simultaneously. Flow Map Language Models (FMLMs) circumvent this bottleneck via joint sequence transport for excellent few-step generation, but sacrifice the inference-time flexibility of MDMs. We introduce FMLM+, a framework that bridges this gap by equipping FMLM with masking-style noise schedules. While generating the full sequence in a single step, FMLM+ simultaneously scores the global consistency of each token a posteriori. We leverage this to introduce Posterior Refinement, a novel inference-time refinement strategy that enables the model to adaptively self-correct its outputs, matching the performance of discrete baselines with 32x fewer NFEs. Across diverse benchmarks, we demonstrate that FMLM+ with Posterior Refinement improves the speed--quality tradeoff over both MDM and FMLM families, providing a scalable foundation for high-fidelity language modeling.