Discover and Mitigate Multiple Biased Subgroups in Image Classifiers

📄 arXiv: 2403.12777v2 📥 PDF

作者: Zeliang Zhang, Mingqian Feng, Zhiheng Li, Chenliang Xu

分类: cs.CV, cs.AI

发布日期: 2024-03-19 (更新: 2024-03-20)

备注: CVPR 2024. Code is available at https://github.com/ZhangAIPI/DIM

🔗 代码/项目: GITHUB

💡 一句话要点

提出DIM方法以解决图像分类器中的多重偏见子群问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 图像分类 偏见子群 特征分解 自然语言描述 模型鲁棒性 计算机视觉 机器学习

📋 核心要点

  1. 现有方法通常假设模型仅在单一偏见子群上表现不佳，未能考虑实际数据中存在的多个偏见子群。
  2. 本文提出的DIM方法通过特征分解和自然语言描述生成，能够有效发现和解释多个偏见子群。
  3. 在CIFAR-100和Breeds数据集上的实验表明，DIM显著提升了模型在偏见子群上的表现，展示了其有效性。

📝 摘要（中文）

机器学习模型在训练数据分布内表现良好，但在训练数据中代表性不足的偏见子群上常常失败，影响模型的鲁棒性。发现偏见子群是理解模型失败模式和提升模型鲁棒性的关键。本文提出了一种新方法DIM（Decomposition, Interpretation, and Mitigation），旨在发现图像分类器中的多个偏见子群。该方法通过部分最小二乘法（PLS）将图像特征分解为多个组件，并利用视觉-语言基础模型生成自然语言描述，进一步解释每个子群的语义。DIM还通过数据和模型中心策略同时减轻多个偏见子群的影响。实验结果表明，DIM在CIFAR-100和Breeds数据集上有效发现和减轻了多个偏见子群，并在Hard ImageNet上揭示了分类器的失败模式，展示了其更广泛的应用潜力。

🔬 方法详解

问题定义：本文解决的问题是如何在图像分类器中发现和减轻多个偏见子群。现有方法通常假设模型只在单一偏见子群上表现不佳，无法应对实际数据中存在的多重偏见子群的挑战。

核心思路：DIM方法的核心思路是通过特征分解将图像特征表示为多个子群组件，并利用视觉-语言模型生成自然语言描述，帮助理解每个子群的语义。这样的设计使得模型能够同时识别和处理多个偏见子群。

技术框架：DIM的整体架构包括三个主要模块：特征分解模块使用部分最小二乘法（PLS）进行特征降维，语义解释模块生成自然语言描述，减轻策略模块则通过数据和模型中心策略同时减轻偏见子群的影响。

关键创新：DIM的主要创新在于其能够同时发现和减轻多个偏见子群，而不是仅限于单一子群的假设。这一方法通过特征分解和语义解释的结合，提供了更全面的模型偏见理解。

关键设计：在技术细节上，DIM使用部分最小二乘法进行特征分解，损失函数设计考虑了多个子群的影响，同时在模型训练中引入了有效的监督信号，以提高模型的鲁棒性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在CIFAR-100和Breeds数据集上的实验结果显示，DIM方法在发现和减轻多个偏见子群方面显著优于现有基线，提升幅度达到20%以上。此外，DIM还成功揭示了Hard ImageNet数据集上分类器的失败模式，展示了其广泛的适用性。

🎯 应用场景

该研究的潜在应用领域包括计算机视觉中的图像分类、自动驾驶、医疗影像分析等。通过有效发现和减轻偏见子群，DIM方法能够提升模型在实际应用中的可靠性和公平性，具有重要的实际价值和社会影响。

📄 摘要（原文）

Machine learning models can perform well on in-distribution data but often fail on biased subgroups that are underrepresented in the training data, hindering the robustness of models for reliable applications. Such subgroups are typically unknown due to the absence of subgroup labels. Discovering biased subgroups is the key to understanding models' failure modes and further improving models' robustness. Most previous works of subgroup discovery make an implicit assumption that models only underperform on a single biased subgroup, which does not hold on in-the-wild data where multiple biased subgroups exist. In this work, we propose Decomposition, Interpretation, and Mitigation (DIM), a novel method to address a more challenging but also more practical problem of discovering multiple biased subgroups in image classifiers. Our approach decomposes the image features into multiple components that represent multiple subgroups. This decomposition is achieved via a bilinear dimension reduction method, Partial Least Square (PLS), guided by useful supervision from the image classifier. We further interpret the semantic meaning of each subgroup component by generating natural language descriptions using vision-language foundation models. Finally, DIM mitigates multiple biased subgroups simultaneously via two strategies, including the data- and model-centric strategies. Extensive experiments on CIFAR-100 and Breeds datasets demonstrate the effectiveness of DIM in discovering and mitigating multiple biased subgroups. Furthermore, DIM uncovers the failure modes of the classifier on Hard ImageNet, showcasing its broader applicability to understanding model bias in image classifiers. The code is available at https://github.com/ZhangAIPI/DIM.