Exposure Bias Can Alleviate Itself via Directional and Frequency Rectification in Flow Matching

📄 arXiv: 2606.28226v1 📥 PDF

作者: Guanbo Huang, Jingjia Mao, Fanding Huang, Fengkai Liu, Xiangyang Luo, Yaoyuan Liang, Jiasheng Lu, Xiaoe Wang, Pei Liu, Ruiliu Fu, Ruqi Huang, Shao-Lun Huang

分类: cs.CV, cs.AI

发布日期: 2026-06-26

备注: arXiv admin note: text overlap with arXiv:2512.04904

💡 一句话要点

提出DEFAR框架以自我修正流匹配中的曝光偏差问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 流匹配 曝光偏差 自适应修正 生成模型 深度学习 图像生成 频率补偿

📋 核心要点

  1. 核心问题：现有流匹配方法在推理阶段存在曝光偏差，导致生成结果不稳定，影响模型性能。
  2. 方法要点：提出DEFAR框架，通过自我反馈信号修正曝光偏差，增强模型的自适应能力。
  3. 实验或效果：DEFAR在多个数据集上表现优异，超越了之前的基线，显示出更好的推理稳定性和可扩展性。

📝 摘要（中文）

流匹配（FM）在生成性能上表现出色，但由于训练与推理之间的差异，存在曝光偏差。现有的缓解策略通常依赖于静态约束或外部启发式方法。本文提出曝光偏差本身包含动态信号，可以引导其自我修正。我们引入了DEFAR（方向-频率自适应修正）框架，通过模拟单步推理过程来识别曝光偏差，并利用来自偏差本身的方向和频率自适应反馈信号来增强模型的偏差容忍度。实验结果表明，DEFAR在CIFAR-10、CelebA-64和ImageNet-256/512上超越了现有基线，展示了良好的可扩展性、兼容性和推理鲁棒性。

🔬 方法详解

问题定义：本文旨在解决流匹配中的曝光偏差问题。现有方法通常依赖静态约束，无法有效应对训练与推理阶段的动态差异，导致生成结果不一致。

核心思路：我们提出曝光偏差本身包含动态信号，可以用于自我修正。DEFAR框架通过模拟推理过程，利用偏差的方向和频率信息来增强模型的自适应能力。

技术框架：DEFAR框架主要由两个模块组成：反漂移修正（ADR）和频率补偿（FC）。ADR通过学习推理时的漂移信号，指导模型将偏离状态修正回目标；FC则利用偏差作为自反馈权重，强化缺失的低频成分。

关键创新：DEFAR的创新在于利用曝光偏差的动态信号进行自我修正，与传统静态约束方法有本质区别，赋予模型内在的主动修正能力。

关键设计：在ADR中，设计了特定的损失函数来引导模型学习漂移方向；在FC中，采用自反馈机制来调整频率成分的权重，确保模型在高噪声阶段的稳定性。实验中使用了CIFAR-10、CelebA-64和ImageNet数据集进行验证。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在CIFAR-10、CelebA-64和ImageNet-256/512数据集上的实验结果显示，DEFAR框架在生成质量上显著优于现有基线，具体提升幅度达到了XX%，并展示了良好的可扩展性和推理鲁棒性。

🎯 应用场景

该研究的潜在应用领域包括图像生成、视频生成和其他需要高质量生成模型的任务。通过自我修正机制，DEFAR框架能够提高生成模型在实际应用中的稳定性和可靠性，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Flow Matching (FM) has achieved remarkable generative performance, yet it suffers from exposure bias due to discrepancies between training and inference. Existing mitigation strategies typically rely on static constraints or external heuristics. In this work, we propose that exposure bias itself inherently contains dynamic signals that can guide its own rectification. To leverage this, we introduce DEFAR (DirEctional-Frequency Adaptive Rectification). This framework simulates the single-step inference process during training to identify exposure bias. It utilizes directional and frequency-adaptive feedback signals from the bias itself to enhance the model's bias tolerance. It consists of two key components: (1) Anti-Drift Rectification (ADR). ADR treats inference-time drift as a signal to learn the direction to steer deviated states back toward the target. ADR endows the model with intrinsic active self-rectification capabilities; (2) Frequency Compensation (FC). Empirically, we observe that accumulated bias often stems from a lack of low-frequency components in high-noise stages, and exposure bias carries the missing frequency. FC leverages the bias itself as a self-feedback weighting factor to reinforce the missing frequency components. Experiments on CIFAR-10, CelebA-64, and ImageNet-256/512 show that DEFAR outperforms prior baselines and further demonstrates favorable scalability, compatibility, and inference robustness.