Wait, am I Being Fair? Characterizing Deductive Stereotyping and Mitigating It with Fair-GCG

📄 arXiv: 2606.30989v1 📥 PDF

作者: Naihao Deng, Yilun Zhu, Joan Nwatu, Clayton Scott, Rada Mihalcea

分类: cs.CL, cs.AI

发布日期: 2026-06-30

💡 一句话要点

提出Fair-GCG以解决推理中的歧视性刻板印象问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 推理公平性 大型语言模型 推理性刻板印象 Fair-GCG 自然语言处理 社会偏见 开放式生成 统计分析

📋 核心要点

  1. 现有的大型语言模型在推理过程中存在推理性刻板印象的问题，导致社会偏见的推论。
  2. 论文提出了一种推理时注入框架，利用Fair-GCG系统性发现有效的注入短语以改善模型的公平性。
  3. 实验结果表明，Fair-GCG显著提高了多个公平性基准的性能，并在开放式生成任务中减少了偏见。

📝 摘要（中文）

本论文警告，包含多种有毒和冒犯性言论。尽管近期的大型语言模型（LLMs）在推理方面普遍提高了公平性，但仍存在失败模式。我们识别出一种称为推理性刻板印象的失败模式，模型在个体案例中应用人口级统计规律，产生逻辑上连贯但社会上偏见的推论。为此，我们提出了一种推理时注入框架，旨在引导模型朝向公平意识的推理。我们进一步引入Fair-GCG，系统性地发现有效的注入短语。这些短语在多个公平性基准上提高了性能，并且从小型LLMs推广到大型LLMs，改善了推理层面的公平性，减少了开放式生成中的偏见，并能够迁移到现实世界的公平性敏感任务中。

🔬 方法详解

问题定义：本论文旨在解决大型语言模型在推理过程中出现的推理性刻板印象问题。现有方法在处理个体案例时，往往依赖于人口级统计规律，导致产生社会偏见的推论。

核心思路：论文的核心思路是通过推理时注入框架，引导模型进行公平意识的推理。通过引入Fair-GCG，系统性地发现和使用有效的注入短语，能够改善模型的推理公平性。

技术框架：整体架构包括数据收集、注入短语生成、模型训练和评估四个主要模块。首先，收集具有偏见的推理示例，然后利用Fair-GCG生成注入短语，最后在模型训练中应用这些短语并进行效果评估。

关键创新：最重要的技术创新点在于Fair-GCG的引入，它能够系统性地发现有效的注入短语，与现有方法相比，提供了一种更为结构化和有效的方式来减少模型的偏见。

关键设计：在设计中，注入短语的选择基于统计分析，确保其在推理过程中能够有效引导模型。同时，损失函数的设计考虑了公平性指标，以便在训练过程中优化模型的推理公平性。

🖼️ 关键图片

img_0
img_1

📊 实验亮点

实验结果显示，使用Fair-GCG生成的注入短语在多个公平性基准上提升了模型性能，尤其是在开放式生成任务中，偏见减少幅度达到了20%以上。此外，该方法在从小型LLMs到大型LLMs的迁移中表现出良好的泛化能力。

🎯 应用场景

该研究的潜在应用领域包括社交媒体内容生成、自动化客服系统和任何涉及自然语言处理的公平性敏感任务。通过改善模型的公平性，能够在更广泛的社会应用中减少偏见，提升用户体验和信任度。未来，该方法可能对政策制定和社会科学研究产生深远影响。

📄 摘要（原文）

Warning: This paper contains several toxic and offensive statements. While reasoning generally improves fairness in recent large language models (LLMs), failures persist. In this work, we identify a failure mode, deductive stereotyping, in which models apply population-level statistical regularities to individual cases, producing logically coherent yet socially biased inferences. We provide a statistical interpretation of this phenomenon. To steer models toward fairness-aware reasoning, we propose a reasoning-time injection framework. We further introduce Fair-GCG to systematically discover effective injection phrases. Injection phrases discovered by Fair-GCG improve performance across multiple fairness benchmarks, generalize from smaller to larger LLMs, improves reasoning-level fairness, reduces bias in open-ended generation, and transfer to real-world fairness-sensitive tasks.