Aligning Large Language Models with Human Opinions through Persona Selection and Value--Belief--Norm Reasoning

📄 arXiv: 2311.08385v5 📥 PDF

作者: Do Xuan Long, Kenji Kawaguchi, Min-Yen Kan, Nancy F. Chen

分类: cs.CL

发布日期: 2023-11-14 (更新: 2024-12-14)

备注: COLING 2025

💡 一句话要点

提出Chain-of-Opinion以解决大语言模型对人类意见预测的挑战

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 人类意见预测 价值-信念-规范理论 Chain-of-Opinion 隐性人设 显性人设 推理优化 模型微调

📋 核心要点

  1. 现有方法在使用人设进行意见预测时，容易受到不相关人设的干扰，导致预测结果不准确。
  2. 本文提出Chain-of-Opinion（COO），通过四个步骤优化人设推理，结合价值-信念-规范理论，提升预测准确性。
  3. 实验结果表明，COO在仅5次推理调用的情况下，提升了意见预测的准确性，微调模型后提升幅度可达23%。

📝 摘要（中文）

使用大型语言模型（LLMs）推理和预测人类意见至关重要，但面临挑战。现有方法在角色扮演中使用人设，但存在两个主要问题：LLMs对不相关的人设敏感，可能导致预测偏差高达30%；同时，LLMs在战略性推理人设方面表现不足。为此，本文提出Chain-of-Opinion（COO），通过四个步骤有效建模人设推理，灵感来源于价值-信念-规范（VBN）理论。COO区分显性人设（人口统计和意识形态）与隐性人设（历史意见），并通过过滤不相关属性、排名隐性人设、应用VBN推理和迭代推理等步骤，实现了新的意见预测的最先进成果。通过仅5次推理调用，COO提升了预测准确性，并通过微调模型，显著提高了意见一致性，提升幅度可达23%。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在推理人类意见时的准确性问题。现有方法在角色扮演中对不相关人设的敏感性导致预测偏差，且缺乏有效的战略性推理能力。

核心思路：提出Chain-of-Opinion（COO），通过四个步骤优化人设推理过程，基于价值-信念-规范（VBN）理论，旨在提高预测的准确性和可靠性。

技术框架：COO的整体流程包括四个主要步骤：1) 过滤显性人设中的不相关属性；2) 对隐性人设进行排名，选择前k个；3) 应用VBN推理提取用户的环境和个人价值、信念和规范变量；4) 迭代VBN推理，逐步扩大隐性人设列表以应对潜在不足。

关键创新：COO的创新在于将显性与隐性人设区分开来，并通过VBN推理提取相关变量，从而有效减少了不相关人设对预测的影响，显著提高了预测的准确性。

关键设计：在设计中，COO通过明确的步骤过滤和排名人设，确保了推理过程的高效性和准确性。模型微调时使用COO生成的数据，进一步提升了模型的意见一致性，达到了23%的提升幅度。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，Chain-of-Opinion在仅5次推理调用的情况下，实现了意见预测的新状态，提升幅度可达4%。此外，通过微调模型，使用COO数据后，模型的意见一致性提高了23%，显著优于现有技术。

🎯 应用场景

该研究的潜在应用场景包括社交媒体分析、市场调研和用户反馈系统等领域。通过更准确地预测人类意见，企业和组织可以更好地理解用户需求，优化产品和服务，提升用户体验。未来，该方法可能在情感分析和人机交互等领域发挥更大作用。

📄 摘要（原文）

Reasoning and predicting human opinions with large language models (LLMs) is essential yet challenging. Current methods employ role-playing with personae but face two major issues: LLMs are sensitive to even a single irrelevant persona, skewing predictions by up to 30%, and LLMs fail to reason strategically over personae. We propose Chain-of-Opinion (COO), a simple four-step solution modeling which and how to reason with personae, inspired by the Value--Belief--Norm (VBN) theory. COO differentiates between explicit personae (demographics and ideology) and implicit personae (historical opinions), involves: (1) filtering irrelevant attributes from explicit personae, (2) ranking implicit personae into a preferential list for selecting top-k, (3) applying novel VBN reasoning to extract user environmental and personal value, belief, and norm variables for accurate and reliable predictions, and (4) iterating VBN reasoning with progressively larger lists of implicit personae to handle potential persona insufficiency. COO efficiently achieves new state-of-the-art opinion prediction via prompting with only 5 inference calls, improving prior techniques by up to 4%. Notably, fine-tuning LMs with COO data results in significantly better opinion-aligned models, by up to 23%.