You don't need a personality test to know these models are unreliable: Assessing the Reliability of Large Language Models on Psychometric Instruments

📄 arXiv: 2311.09718v2 📥 PDF

作者: Bangzhao Shu, Lechen Zhang, Minje Choi, Lavinia Dunagan, Lajanugen Logeswaran, Moontae Lee, Dallas Card, David Jurgens

分类: cs.CL, cs.AI

发布日期: 2023-11-16 (更新: 2024-04-01)

备注: Camera-ready version for NAACL 2024. First two authors contributed equally

💡 一句话要点

评估大型语言模型在心理测量工具上的可靠性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 心理测量 一致性评估 提示设计 社会科学研究

📋 核心要点

  1. 当前大型语言模型在心理测量工具的应用中存在一致性和可靠性不足的问题。
  2. 本研究通过构建包含693个问题的数据集，系统评估LLMs在不同提示下的响应一致性。
  3. 实验结果显示，简单的提示变化显著降低了模型的问答能力，尤其是在否定一致性方面表现不佳。

📝 摘要（中文）

大型语言模型（LLMs）在自然语言理解任务中的多样性使其在社会科学研究中受到欢迎。为了解LLMs的特性和内在个性，研究者们使用问题形式的提示来询问LLMs特定的观点。本研究谨慎地回顾了当前提示LLMs的格式是否能够一致且稳健地引导出响应。我们构建了一个包含693个问题的数据集，涵盖39种个性测量工具和115个个性轴。此外，我们设计了一组包含微小变化的提示，考察LLMs生成答案的能力，以及在内容层面变化（如响应选项顺序的切换或否定语句）下的响应一致性。对17种不同LLMs的实验表明，即使是简单的扰动也显著降低了模型的问答能力，大多数LLMs在否定一致性方面表现较低。我们的结果表明，当前普遍的提示实践不足以准确可靠地捕捉模型的感知，因此我们讨论了改善这些问题的潜在替代方案。

🔬 方法详解

问题定义：本研究旨在解决大型语言模型在心理测量工具应用中的响应一致性和可靠性不足的问题。现有方法在提示设计上存在缺陷，导致模型生成的回答不稳定。

核心思路：通过构建一个包含多种个性测量工具的问题数据集，并设计不同的提示变体，来评估LLMs的响应能力及其一致性。这样的设计旨在揭示模型在面对微小变化时的表现差异。

技术框架：研究首先构建了一个包含693个问题的数据集，涵盖39种个性测量工具。接着，设计了一组提示，包含轻微的变化，随后对17种不同的LLMs进行实验，评估其在不同提示下的问答能力和一致性。

关键创新：本研究的创新在于系统性地评估了LLMs在心理测量工具应用中的可靠性，揭示了当前提示方法的不足之处，并提出了改进的建议。与现有方法相比，强调了对模型响应一致性的深入分析。

关键设计：在实验中，设计了多种提示变体，包括响应选项顺序的变化和语句的否定。通过这些设计，研究能够有效地评估模型在不同条件下的表现，特别是在否定一致性方面的表现。

📊 实验亮点

实验结果显示，17种不同的LLMs在面对简单的提示变化时，其问答能力显著下降，尤其是在否定一致性方面，大多数模型的表现较低。这一发现强调了当前提示方法的不足，呼吁对提示设计进行改进以提高模型的可靠性。

🎯 应用场景

该研究的潜在应用领域包括心理学、社会科学和人机交互等领域。通过提高大型语言模型在心理测量中的可靠性，可以更好地理解人类行为和心理特征，从而推动相关领域的研究和应用发展。未来，改进的提示设计可能会为社会科学研究提供更准确的工具，促进人机协作的有效性。

📄 摘要（原文）

The versatility of Large Language Models (LLMs) on natural language understanding tasks has made them popular for research in social sciences. To properly understand the properties and innate personas of LLMs, researchers have performed studies that involve using prompts in the form of questions that ask LLMs about particular opinions. In this study, we take a cautionary step back and examine whether the current format of prompting LLMs elicits responses in a consistent and robust manner. We first construct a dataset that contains 693 questions encompassing 39 different instruments of persona measurement on 115 persona axes. Additionally, we design a set of prompts containing minor variations and examine LLMs' capabilities to generate answers, as well as prompt variations to examine their consistency with respect to content-level variations such as switching the order of response options or negating the statement. Our experiments on 17 different LLMs reveal that even simple perturbations significantly downgrade a model's question-answering ability, and that most LLMs have low negation consistency. Our results suggest that the currently widespread practice of prompting is insufficient to accurately and reliably capture model perceptions, and we therefore discuss potential alternatives to improve these issues.