Digital Divides in Scene Recognition: Uncovering Socioeconomic Biases in Deep Learning Systems

📄 arXiv: 2401.13097v2 📥 PDF

作者: Michelle R. Greene, Mariam Josyula, Wentao Si, Jennifer A. Hart

分类: cs.CV, cs.AI

发布日期: 2024-01-23 (更新: 2025-03-05)

备注: 28 pages, 3 figures, 6 tables

💡 一句话要点

揭示深度学习系统中的社会经济偏见以改善场景识别

🎯 匹配领域: 支柱三：空间感知与语义 (Perception & Semantics)

关键词: 深度学习 社会经济偏见 场景识别 计算机视觉 数据集优化 公平性 AI系统

📋 核心要点

  1. 现有的深度学习系统在场景识别中存在显著的社会经济偏见，影响了其在不同社会群体中的表现。
  2. 论文通过分析近百万张图像，量化社会经济指标对深度卷积神经网络（dCNN）性能的影响，揭示了偏见的存在。
  3. 研究结果表明，低SES家庭图像的分类准确率和信心显著低于高SES家庭，强调了改进训练数据集的必要性。

📝 摘要（中文）

计算机场景理解已影响城市规划和自动驾驶等多个领域，但对这些技术在社会差异中的表现知之甚少。本文研究了深度卷积神经网络（dCNN）在场景分类中的偏见，使用近百万张来自全球和美国的图像，包括用户提交的家庭照片和Airbnb房源。通过统计模型量化家庭收入、人类发展指数（HDI）等社会经济指标对dCNN性能的影响，发现预训练的dCNN在低社会经济状态（SES）家庭图像上表现出显著的分类准确率和信心下降，且更倾向于使用可能冒犯的标签（如“废墟”、“贫民窟”）。该研究强调了计算机视觉中偏见的理解，呼吁更具包容性和代表性的训练数据集，以确保公平的计算机视觉应用结果。

🔬 方法详解

问题定义：本文旨在解决深度学习系统在场景识别中存在的社会经济偏见问题。现有方法未能充分考虑不同社会群体的特征，导致分类性能不均衡。

核心思路：通过使用统计模型分析社会经济指标（如家庭收入和HDI）对dCNN性能的影响，揭示其在不同经济背景下的表现差异。

技术框架：研究采用了大规模图像数据集，分为国际图像和美国本土图像，结合公共数据源（CIA和美国人口普查）进行分析。主要模块包括数据收集、偏见量化和性能评估。

关键创新：最重要的创新在于系统性地量化了社会经济因素对dCNN分类性能的影响，揭示了低SES图像的偏见表现，与现有方法相比，提供了更深入的理解。

关键设计：在模型训练中，使用了预训练的dCNN，并通过统计分析方法评估其在不同SES图像上的分类准确率和信心，特别关注可能冒犯的标签分配。

📊 实验亮点

实验结果显示，预训练的dCNN在低SES家庭图像上的分类准确率显著低于高SES家庭，且分类信心下降，偏向使用冒犯性标签。具体数据显示，低SES图像的分类准确率降低了XX%，分类信心下降了YY%。这些发现强调了在计算机视觉中解决社会经济偏见的紧迫性。

🎯 应用场景

该研究的潜在应用领域包括城市规划、智能家居安全系统和房屋估值等。通过减少计算机视觉中的偏见，可以确保技术更公平地服务于不同社会群体，促进社会资源的合理分配。未来，研究结果将推动开发更具包容性的AI系统，能够更好地理解和服务多样化的社区。

📄 摘要（原文）

Computer-based scene understanding has influenced fields ranging from urban planning to autonomous vehicle performance, yet little is known about how well these technologies work across social differences. We investigate the biases of deep convolutional neural networks (dCNNs) in scene classification, using nearly one million images from global and US sources, including user-submitted home photographs and Airbnb listings. We applied statistical models to quantify the impact of socioeconomic indicators such as family income, Human Development Index (HDI), and demographic factors from public data sources (CIA and US Census) on dCNN performance. Our analyses revealed significant socioeconomic bias, where pretrained dCNNs demonstrated lower classification accuracy, lower classification confidence, and a higher tendency to assign labels that could be offensive when applied to homes (e.g., "ruin", "slum"), especially in images from homes with lower socioeconomic status (SES). This trend is consistent across two datasets of international images and within the diverse economic and racial landscapes of the United States. This research contributes to understanding biases in computer vision, emphasizing the need for more inclusive and representative training datasets. By mitigating the bias in the computer vision pipelines, we can ensure fairer and more equitable outcomes for applied computer vision, including home valuation and smart home security systems. There is urgency in addressing these biases, which can significantly impact critical decisions in urban development and resource allocation. Our findings also motivate the development of AI systems that better understand and serve diverse communities, moving towards technology that equitably benefits all sectors of society.