Measuring Implicit Bias in Explicitly Unbiased Large Language Models

📄 arXiv: 2402.04105v2 📥 PDF

作者: Xuechunzi Bai, Angelina Wang, Ilia Sucholutsky, Thomas L. Griffiths

分类: cs.CY, cs.CL

发布日期: 2024-02-06 (更新: 2024-05-23)

💡 一句话要点

提出新方法以测量大型语言模型中的隐性偏见

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 隐性偏见 大型语言模型 心理学 决策偏见 社会偏见 公平性评估 AI伦理

📋 核心要点

  1. 现有方法难以有效测量大型语言模型中的隐性偏见，尤其是在模型变得专有的情况下。
  2. 本文提出了LLM隐性偏见和LLM决策偏见两种新方法，前者通过提示揭示隐性偏见，后者检测决策任务中的微妙歧视。
  3. 实验结果显示，这些新方法能够揭示在多个社会类别中存在的刻板印象偏见，并且与现有方法相比，预测下游行为的能力更强。

📝 摘要（中文）

大型语言模型（LLMs）能够通过显性社会偏见测试，但仍可能存在隐性偏见，类似于那些表面上支持平等主义但在行为上表现出微妙偏见的人。测量这种隐性偏见面临挑战：随着LLMs日益成为专有技术，访问其嵌入并应用现有偏见测量方法可能变得困难；此外，隐性偏见主要关注其对系统实际决策的影响。为此，本文提出了两种新的偏见测量方法：LLM隐性偏见和LLM决策偏见，前者基于隐性联想测试，后者则关注相对评估在隐性偏见检测中的有效性。通过这两种方法，我们发现8个价值对齐模型在4个社会类别（种族、性别、宗教、健康）中存在广泛的刻板印象偏见，这些偏见与社会中的偏见相似。

🔬 方法详解

问题定义：本文旨在解决大型语言模型中隐性偏见的测量问题。现有方法在模型专有性和隐性偏见对决策影响的关注上存在不足。

核心思路：提出LLM隐性偏见和LLM决策偏见两种新测量方法，前者通过提示揭示隐性偏见，后者通过相对评估检测决策中的微妙歧视。

技术框架：整体架构包括两个主要模块：LLM隐性偏见模块，基于隐性联想测试；LLM决策偏见模块，关注相对评估的有效性。

关键创新：最重要的创新在于将心理学中的隐性联想测试与决策偏见检测结合，提供了一种新的视角来理解和测量隐性偏见。

关键设计：在LLM隐性偏见测量中，使用提示设计来引导模型生成与隐性偏见相关的输出；在LLM决策偏见中，采用相对评估方法来分析模型在决策任务中的表现。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，使用新提出的LLM隐性偏见测量方法与现有的嵌入基础偏见测量方法具有较高的相关性，但在预测下游行为方面表现更佳。研究发现，在21个刻板印象中，8个价值对齐模型在种族、性别等社会类别中普遍存在偏见。

🎯 应用场景

该研究的潜在应用领域包括社会科学研究、人工智能伦理和公平性评估等。通过揭示大型语言模型中的隐性偏见，能够帮助开发更公正的AI系统，减少社会偏见的传播，提升模型在实际应用中的可靠性和透明度。

📄 摘要（原文）

Large language models (LLMs) can pass explicit social bias tests but still harbor implicit biases, similar to humans who endorse egalitarian beliefs yet exhibit subtle biases. Measuring such implicit biases can be a challenge: as LLMs become increasingly proprietary, it may not be possible to access their embeddings and apply existing bias measures; furthermore, implicit biases are primarily a concern if they affect the actual decisions that these systems make. We address both challenges by introducing two new measures of bias: LLM Implicit Bias, a prompt-based method for revealing implicit bias; and LLM Decision Bias, a strategy to detect subtle discrimination in decision-making tasks. Both measures are based on psychological research: LLM Implicit Bias adapts the Implicit Association Test, widely used to study the automatic associations between concepts held in human minds; and LLM Decision Bias operationalizes psychological results indicating that relative evaluations between two candidates, not absolute evaluations assessing each independently, are more diagnostic of implicit biases. Using these measures, we found pervasive stereotype biases mirroring those in society in 8 value-aligned models across 4 social categories (race, gender, religion, health) in 21 stereotypes (such as race and criminality, race and weapons, gender and science, age and negativity). Our prompt-based LLM Implicit Bias measure correlates with existing language model embedding-based bias methods, but better predicts downstream behaviors measured by LLM Decision Bias. These new prompt-based measures draw from psychology's long history of research into measuring stereotype biases based on purely observable behavior; they expose nuanced biases in proprietary value-aligned LLMs that appear unbiased according to standard benchmarks.