Prompting Techniques for Reducing Social Bias in LLMs through System 1 and System 2 Cognitive Processes

📄 arXiv: 2404.17218v4 📥 PDF

作者: Mahammed Kamruzzaman, Gene Louis Kim

分类: cs.CL

发布日期: 2024-04-26 (更新: 2025-08-22)

备注: Accepted at RANLP-2025 (main conference)

💡 一句话要点

通过双重认知过程提出提示技术以减少LLMs中的社会偏见

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 社会偏见 大型语言模型 双重过程理论 链式思维 去偏见策略 自然语言处理 人类角色模型

📋 核心要点

  1. 现有的LLMs在处理社会偏见时存在显著的不足，尤其是在性别和其他社会偏见方面。
  2. 论文提出通过结合链式思维提示和双重过程理论，设计新的提示策略以减少LLMs中的社会偏见。
  3. 实验结果表明，采用人类角色和去偏见策略的组合，能够在特定模型和偏见类别下实现高达33%的偏见减少。

📝 摘要（中文）

双重过程理论认为人类认知通过两个系统产生。系统1是快速、情感和直观的过程，易受认知偏见影响；系统2则是缓慢、费力和深思熟虑的过程。先前的研究发现，链式思维（CoT）提示在LLMs中可以减少性别偏见。本文探讨了偏见、CoT提示、直接去偏见和双重过程理论建模之间的关系。我们比较了零-shot CoT、去偏见和基于双重过程理论的提示策略在九个不同社会偏见类别的两个偏见数据集上的表现。研究发现，人类角色、去偏见、系统2和CoT提示均能减少LLMs中的社会偏见，最佳特征组合依赖于具体模型和偏见类别，最高可实现33%的刻板印象判断下降。

🔬 方法详解

问题定义：本文旨在解决大型语言模型（LLMs）中存在的社会偏见问题，尤其是性别偏见。现有方法在处理这些偏见时效果有限，缺乏有效的去偏见策略。

核心思路：论文的核心思路是结合双重过程理论，利用系统1和系统2的认知过程，通过链式思维提示（CoT）来引导模型生成更少偏见的输出。这样的设计旨在通过更深层次的思考过程减少偏见的影响。

技术框架：研究采用了一个比较实验框架，涉及零-shot CoT、直接去偏见和基于双重过程理论的提示策略。实验在两个偏见数据集上进行，涵盖九个不同的社会偏见类别。

关键创新：最重要的技术创新在于将双重过程理论与LLMs的提示策略结合，探索其对社会偏见的影响。这一方法与传统的去偏见方法不同，强调了认知过程的多样性。

关键设计：在实验中，采用了不同的人类角色模型和去偏见策略，具体参数设置和损失函数设计根据不同模型和偏见类别进行了优化。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，结合人类角色、去偏见策略和系统2的CoT提示能够显著减少LLMs中的社会偏见，最高可实现33%的刻板印象判断下降。这一结果在多个偏见类别中均表现出良好的效果，展示了新方法的有效性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、社交媒体内容审核和人机交互等。通过减少LLMs中的社会偏见，可以提升模型在实际应用中的公平性和可靠性，促进更为公正的技术发展。

📄 摘要（原文）

Dual process theory posits that human cognition arises via two systems. System 1, which is a quick, emotional, and intuitive process, which is subject to cognitive biases, and System 2, is a slow, onerous, and deliberate process. Prior research in LLMs found that using chain-of-thought (CoT) prompting in LLMs, which has been often compared to System 2 reasoning, can lead to reduced gender bias. Along these lines, we investigate the relationship between bias, CoT prompting, a direct debiasing, and dual process theory modeling in LLMs. We compare zero-shot CoT, debiasing, and dual process theory-based prompting strategies on two bias datasets spanning nine different social bias categories. We incorporate human and machine personas to determine whether LLM modeling of the effects of dual process theory exist independent of explicit persona models or are tied to the LLM's modeling of human-like generation. We find that a human persona, debiasing, System 2, and CoT prompting all tend to reduce social biases in LLMs, though the best combination of features depends on the exact model and bias category -- resulting in up to a 33 percent drop in stereotypical judgments by an LLM.