Bridging the Gap: Addressing Discrepancies in Diffusion Model Training for Classifier-Free Guidance

📄 arXiv: 2311.00938v1 📥 PDF

作者: Niket Patel, Luis Salamanca, Luis Barba

分类: cs.LG, cs.AI, cs.CV

发布日期: 2023-11-02

备注: Accepted at NeurIPS Diffusion Workshop 2023

💡 一句话要点

提出更新损失函数以解决扩散模型训练中的指导不一致问题

🎯 匹配领域: 支柱四：生成式动作 (Generative Motion)

关键词: 扩散模型 生成模型 无分类器指导 损失函数 条件采样 图像生成 CIFAR-10

📋 核心要点

  1. 现有的无分类器指导技术在高指导尺度下容易导致样本超出分布和模式崩溃，而低尺度下则缺乏特异性。
  2. 本文提出了一种更新的损失函数，以更好地对齐训练目标与采样行为，从而提高生成样本的质量。
  3. 实验结果显示，使用新损失函数的模型在CIFAR-10数据集上获得了更高的FID分数，且对指导尺度的选择更为鲁棒。

📝 摘要（中文）

扩散模型作为生成模型的重要进展，已在生成实例的质量上设定了新标准。本文强调了传统训练方法与期望的条件采样行为之间的差异。尽管现有的无分类器指导技术表现良好，但在较高的指导尺度参数$w$下，常常会出现样本超出分布和模式崩溃的问题，而在较低的$w$值下则可能无法获得所需的特异性。为了解决这些挑战，本文提出了一种更新的损失函数，使训练目标与采样行为更好地对齐。通过在CIFAR-10上的FID分数实验验证，表明该方法能够在更少的采样时间步内生成更高质量的样本，并对指导尺度$w$的选择更具鲁棒性。

🔬 方法详解

问题定义：本文要解决的问题是扩散模型在训练过程中存在的指导不一致性，尤其是在使用无分类器指导技术时，模型在不同指导尺度下表现不稳定，导致生成样本质量下降。

核心思路：论文的核心思路是引入一种新的损失函数，使得训练过程中的目标与最终的采样行为更为一致，从而减少在高指导尺度下的样本超出分布和模式崩溃现象。

技术框架：整体架构包括数据预处理、模型训练和采样三个主要阶段。在训练阶段，使用更新的损失函数来优化模型参数；在采样阶段，通过调整指导尺度$w$来生成高质量样本。

关键创新：最重要的技术创新点在于提出了新的损失函数，该函数能够更好地反映模型在采样时的行为，与传统方法相比，能够有效减少生成样本的多样性损失。

关键设计：在损失函数的设计中，考虑了指导尺度$w$的影响，并通过实验验证了不同$w$值下模型的表现。此外，论文还探讨了在Stable Diffusion模型上进行微调的可能性，以进一步验证新损失函数的有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，使用新损失函数的模型在CIFAR-10数据集上获得了显著提升，FID分数较基线提高，且在较少的采样时间步内生成更高质量的样本，显示出对指导尺度$w$的更强鲁棒性。

🎯 应用场景

该研究的潜在应用领域包括图像生成、视频生成以及其他需要高质量样本生成的任务。通过改进扩散模型的训练方法，能够在艺术创作、虚拟现实和游戏开发等领域提供更高质量的生成内容，具有重要的实际价值和未来影响。

📄 摘要（原文）

Diffusion models have emerged as a pivotal advancement in generative models, setting new standards to the quality of the generated instances. In the current paper we aim to underscore a discrepancy between conventional training methods and the desired conditional sampling behavior of these models. While the prevalent classifier-free guidance technique works well, it's not without flaws. At higher values for the guidance scale parameter $w$, we often get out of distribution samples and mode collapse, whereas at lower values for $w$ we may not get the desired specificity. To address these challenges, we introduce an updated loss function that better aligns training objectives with sampling behaviors. Experimental validation with FID scores on CIFAR-10 elucidates our method's ability to produce higher quality samples with fewer sampling timesteps, and be more robust to the choice of guidance scale $w$. We also experiment with fine-tuning Stable Diffusion on the proposed loss, to provide early evidence that large diffusion models may also benefit from this refined loss function.