White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs

📄 arXiv: 2404.10508v5 📥 PDF

作者: Yixin Wan, Kai-Wei Chang

分类: cs.CL, cs.AI, cs.CY

发布日期: 2024-04-16 (更新: 2025-05-30)

💡 一句话要点

提出语言代理偏见评估基准以解决LLM中的社会偏见问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 语言模型 社会偏见 偏见评估 文本生成 选择性重写 代理性 交叉偏见

📋 核心要点

  1. 现有研究对大型语言模型生成内容中的社会偏见关注不足，且多依赖字符串匹配技术，导致分类不准确。
  2. 论文提出语言代理偏见评估基准（LABE），通过分析不同人口群体的代理水平，全面评估LLM中的偏见。
  3. 实验证明，LLM生成文本的性别偏见高于人类文本，且交叉偏见显著，选择性重写（MSR）方法效果优于传统提示缓解方法。

📝 摘要（中文）

社会偏见可以在语言代理中表现出来。然而，针对大型语言模型（LLM）生成内容中的此类偏见的研究非常有限。此外，之前的研究通常依赖字符串匹配技术来识别文本中的代理性和共同体词汇，未能准确分类语言代理。我们引入了语言代理偏见评估（LABE）基准，通过分析模型生成中不同人口群体的代理水平，全面评估LLM中的偏见。LABE在三种文本生成任务上测试性别、种族和交叉语言代理偏见。使用LABE，我们揭示了三种近期LLM（ChatGPT、Llama3和Mistral）中的语言代理社会偏见。我们观察到：LLM生成的文本往往表现出比人类撰写文本更大的性别偏见；模型在交叉偏见方面的表现显著高于其他偏见方面；基于提示的缓解方法不稳定，且常常导致偏见加剧。基于我们的观察，我们提出了一种新的偏见缓解策略——选择性重写（MSR），该方法利用代理分类器识别并选择性修订生成文本中表现出共同体特征的部分。实证结果证明MSR比基于提示的缓解方法更有效和可靠，显示出有前景的研究方向。

🔬 方法详解

问题定义：本论文旨在解决大型语言模型（LLM）生成内容中的社会偏见问题，现有方法主要依赖字符串匹配，无法准确识别和分类语言代理的偏见。

核心思路：提出语言代理偏见评估（LABE）基准，通过分析不同人口群体的代理水平，全面评估LLM中的偏见，并引入选择性重写（MSR）策略以缓解偏见。

技术框架：LABE基准包括三个主要模块：文本生成任务（传记、教授评价和推荐信）、代理分类器和选择性重写机制。首先生成文本，然后通过代理分类器识别偏见部分，最后进行选择性重写。

关键创新：最重要的创新在于引入LABE基准和选择性重写（MSR）策略，前者提供了全面的偏见评估工具，后者通过代理分类器实现了更有效的偏见缓解，与传统方法相比具有显著优势。

关键设计：在MSR策略中，设置了代理分类器的阈值，以识别文本中表现出共同体特征的部分，并进行选择性修订，确保生成文本的代理性更为平衡。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，LLM生成文本的性别偏见比人类文本高出显著比例，交叉偏见的水平更是显著高于其他偏见类型。选择性重写（MSR）策略在偏见缓解方面的效果优于传统的提示方法，表明其在实际应用中的有效性和可靠性。

🎯 应用场景

该研究的潜在应用领域包括教育、招聘和社交媒体等，能够帮助开发更公平的语言生成系统，减少社会偏见的影响。未来，随着LLM的广泛应用，研究成果将对提升模型的社会责任感和伦理性产生深远影响。

📄 摘要（原文）

Social biases can manifest in language agency. However, very limited research has investigated such biases in Large Language Model (LLM)-generated content. In addition, previous works often rely on string-matching techniques to identify agentic and communal words within texts, falling short of accurately classifying language agency. We introduce the Language Agency Bias Evaluation (LABE) benchmark, which comprehensively evaluates biases in LLMs by analyzing agency levels attributed to different demographic groups in model generations. LABE tests for gender, racial, and intersectional language agency biases in LLMs on 3 text generation tasks: biographies, professor reviews, and reference letters. Using LABE, we unveil language agency social biases in 3 recent LLMs: ChatGPT, Llama3, and Mistral. We observe that: (1) LLM generations tend to demonstrate greater gender bias than human-written texts; (2) Models demonstrate remarkably higher levels of intersectional bias than the other bias aspects. (3) Prompt-based mitigation is unstable and frequently leads to bias exacerbation. Based on our observations, we propose Mitigation via Selective Rewrite (MSR), a novel bias mitigation strategy that leverages an agency classifier to identify and selectively revise parts of generated texts that demonstrate communal traits. Empirical results prove MSR to be more effective and reliable than prompt-based mitigation method, showing a promising research direction.