When "A Helpful Assistant" Is Not Really Helpful: Personas in System Prompts Do Not Improve Performances of Large Language Models
作者: Mingqian Zheng, Jiaxin Pei, Lajanugen Logeswaran, Moontae Lee, David Jurgens
分类: cs.CL, cs.AI, cs.CY, cs.HC, cs.LG
发布日期: 2023-11-16 (更新: 2024-10-09)
备注: Accepted by Findings of EMNLP 2024
🔗 代码/项目: GITHUB
💡 一句话要点
评估系统提示中的角色对大型语言模型性能的影响
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 系统提示 角色评估 人机交互 模型性能 预测准确性 AI系统
📋 核心要点
- 现有的系统提示方法中，角色的添加对大型语言模型的性能影响尚不明确，缺乏系统评估。
- 本研究通过构建162种角色的系统性评估，探讨角色在系统提示中的作用及其对模型性能的影响。
- 实验结果显示，尽管角色的添加未普遍提升模型性能，但角色的性别、类型和领域对预测准确性有显著影响。
📝 摘要（中文）
本研究探讨了在系统提示中添加角色（persona）对大型语言模型（LLM）性能的影响。尽管商业AI系统普遍使用角色定义模型的功能，例如ChatGPT的默认提示为“你是一个有帮助的助手”，但不同角色对模型在客观任务上的表现影响尚不明确。我们系统评估了162种角色，涵盖6种人际关系和8个专业领域。通过对4个流行LLM家族和2410个事实问题的广泛分析，我们发现添加角色并未提高模型性能。然而，进一步分析表明，角色的性别、类型和领域会影响预测准确性。尽管聚合最佳角色的结果显著提高了预测准确性，但自动识别最佳角色的挑战性较大，预测结果往往不优于随机选择。整体而言，研究结果表明，添加角色在某些情况下可能带来性能提升，但每个角色的效果往往是随机的。
🔬 方法详解
问题定义：本研究旨在解决在大型语言模型的系统提示中添加角色对模型性能影响的不确定性。现有方法缺乏对不同角色的系统性评估，导致无法明确角色对模型表现的贡献。
核心思路：通过构建一个包含162种角色的系统性评估框架，分析不同角色在多种任务中的表现，以确定角色对模型性能的具体影响。
技术框架：研究首先定义了角色的分类，包括人际关系和专业领域，然后对4个流行的LLM进行测试，使用2410个事实问题进行评估，最后分析不同角色的表现。
关键创新：本研究的创新在于系统性地评估了角色在系统提示中的作用，揭示了角色对模型性能的影响并指出其效果的随机性，这与以往仅依赖单一角色的研究方法有本质区别。
关键设计：研究中使用了多种角色分类标准，设计了相应的实验流程，并对每个角色的性别、类型和领域进行了详细分析，以探讨其对预测准确性的影响。实验还包括对最佳角色的聚合策略进行测试。
🖼️ 关键图片
📊 实验亮点
实验结果显示，添加角色并未普遍提高模型性能，且在2410个问题中，模型的表现与随机选择相当。尽管聚合最佳角色的策略显著提高了预测准确性，但自动识别最佳角色的挑战性较大，表明角色的影响具有随机性。
🎯 应用场景
该研究的结果对大型语言模型的设计和应用具有重要意义，尤其是在商业AI系统中。理解角色在系统提示中的作用可以帮助开发更有效的交互方式，提高用户体验。此外，研究结果也为未来的模型优化提供了理论基础，推动了人机交互领域的发展。
📄 摘要（原文）
Prompting serves as the major way humans interact with Large Language Models (LLM). Commercial AI systems commonly define the role of the LLM in system prompts. For example, ChatGPT uses ``You are a helpful assistant'' as part of its default system prompt. Despite current practices of adding personas to system prompts, it remains unclear how different personas affect a model's performance on objective tasks. In this study, we present a systematic evaluation of personas in system prompts. We curate a list of 162 roles covering 6 types of interpersonal relationships and 8 domains of expertise. Through extensive analysis of 4 popular families of LLMs and 2,410 factual questions, we demonstrate that adding personas in system prompts does not improve model performance across a range of questions compared to the control setting where no persona is added. Nevertheless, further analysis suggests that the gender, type, and domain of the persona can all influence the resulting prediction accuracies. We further experimented with a list of persona search strategies and found that, while aggregating results from the best persona for each question significantly improves prediction accuracy, automatically identifying the best persona is challenging, with predictions often performing no better than random selection. Overall, our findings suggest that while adding a persona may lead to performance gains in certain settings, the effect of each persona can be largely random. Code and data are available at https://github.com/Jiaxin-Pei/Prompting-with-Social-Roles.