Uncertainty-guided Contrastive Learning for Single Source Domain Generalisation

📄 arXiv: 2403.07514v2 📥 PDF

作者: Anastasios Arsenos, Dimitrios Kollias, Evangelos Petrongonas, Christos Skliros, Stefanos Kollias

分类: cs.CV

发布日期: 2024-03-12 (更新: 2024-03-14)

备注: accepted at IEEE ICASSP 2024

💡 一句话要点

提出CUDGNet以解决单源领域泛化问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 单源领域泛化 对比学习 不确定性估计 虚拟领域生成 深度学习

📋 核心要点

  1. 现有单源领域泛化方法在面对未知领域时，模型性能往往不足，难以实现良好的泛化能力。
  2. 本文提出的CUDGNet通过虚拟领域生成器增强输入和标签空间的源容量，结合对比学习实现领域不变表示的共同学习。
  3. 在两个SSDG数据集上的实验结果显示，CUDGNet在性能上超越了最先进的单领域泛化方法，提升幅度可达7.08%。

📝 摘要（中文）

在单源领域泛化的背景下，模型需在仅训练于单一领域的数据上，表现出对多种未知领域的强大适应能力。本文提出了一种新模型，称为对比不确定性领域泛化网络（CUDGNet）。其核心思想是通过虚拟领域生成器增强输入和标签空间的源容量，并通过对比学习共同学习每个类别的领域不变表示。我们在两个单源领域泛化（SSDG）数据集上进行了广泛实验，结果表明该方法的有效性，超越了现有单领域泛化方法，提升幅度高达7.08%。此外，我们的方法在推理时能够通过生成器子网络的单次前向传递高效地提供不确定性估计。

🔬 方法详解

问题定义：本文旨在解决单源领域泛化问题，即模型在仅使用单一领域数据训练后，如何在面对未知领域时仍能保持良好性能。现有方法在此方面存在显著不足，尤其是在适应性和泛化能力上。

核心思路：CUDGNet的核心思路是通过虚拟领域生成器增强源数据的多样性，从而提升模型的泛化能力。通过对比学习，模型能够学习到领域不变的特征表示，进而提高在未知领域的表现。

技术框架：CUDGNet的整体架构包括虚拟领域生成器和对比学习模块。虚拟领域生成器负责生成多样化的输入和标签，而对比学习模块则通过对比不同类别的表示来强化模型的学习效果。

关键创新：CUDGNet的主要创新在于结合了虚拟领域生成和对比学习的策略，显著提升了模型在未知领域的适应能力。这一方法与传统的单领域泛化方法相比，能够更有效地捕捉领域不变特征。

关键设计：在设计上，CUDGNet采用了特定的损失函数以优化对比学习过程，并在网络结构中引入了生成器子网络，以实现高效的不确定性估计。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在实验中，CUDGNet在两个SSDG数据集上表现出色，超越了现有的单领域泛化方法，提升幅度高达7.08%。此外，该方法在推理时能够通过单次前向传递高效地提供不确定性估计，显示出其在实际应用中的优势。

🎯 应用场景

该研究的潜在应用领域包括自动驾驶、医疗影像分析和人脸识别等场景，这些领域常常面临训练数据与实际应用环境不一致的问题。通过提升模型的泛化能力，CUDGNet能够在多种未知环境中保持高效的性能，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

In the context of single domain generalisation, the objective is for models that have been exclusively trained on data from a single domain to demonstrate strong performance when confronted with various unfamiliar domains. In this paper, we introduce a novel model referred to as Contrastive Uncertainty Domain Generalisation Network (CUDGNet). The key idea is to augment the source capacity in both input and label spaces through the fictitious domain generator and jointly learn the domain invariant representation of each class through contrastive learning. Extensive experiments on two Single Source Domain Generalisation (SSDG) datasets demonstrate the effectiveness of our approach, which surpasses the state-of-the-art single-DG methods by up to $7.08\%$. Our method also provides efficient uncertainty estimation at inference time from a single forward pass through the generator subnetwork.