CogBench: a large language model walks into a psychology lab
作者: Julian Coda-Forno, Marcel Binz, Jane X. Wang, Eric Schulz
分类: cs.CL, cs.AI, cs.LG
发布日期: 2024-02-28
💡 一句话要点
提出CogBench以全面评估大型语言模型的行为
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 行为评估 认知心理学 人类反馈 提示工程 统计建模 模型优化
📋 核心要点
- 现有的评估方法主要集中在性能指标上，缺乏对大型语言模型行为的全面理解。
- CogBench通过引入来自认知心理学实验的行为指标，提供了一种新的评估工具，能够更好地表征LLMs的行为。
- 研究结果表明，模型规模和RLHF对性能提升至关重要，且不同类型模型在风险倾向上存在显著差异。
📝 摘要（中文）
大型语言模型（LLMs）在人工智能领域取得了显著进展，但全面评估它们的能力仍然具有挑战性。本文提出CogBench，一个基准测试工具，包含来自七个认知心理学实验的十个行为指标。这种新颖的方法为表征LLMs的行为提供了工具。我们将CogBench应用于35个LLMs，生成了丰富多样的数据集，并使用统计多层建模技术分析这些数据，考虑到特定LLMs的微调版本之间的嵌套依赖关系。研究强调了模型规模和人类反馈强化学习（RLHF）在提升性能和与人类行为对齐中的关键作用。我们发现开源模型的风险倾向低于专有模型，而在代码上微调并不一定增强LLMs的行为。此外，我们探讨了提示工程技术的效果，发现链式思维提示改善了概率推理，而退一步提示促进了基于模型的行为。
🔬 方法详解
问题定义：当前对大型语言模型的评估主要依赖性能指标，缺乏对其行为的深入理解，导致评估结果片面。
核心思路：CogBench通过引入认知心理学的行为指标，提供了一种新的评估框架，旨在全面表征LLMs的行为特征。
技术框架：CogBench包含十个行为指标，基于七个心理学实验设计，应用于35个不同的LLMs，利用统计多层建模技术分析数据，考虑模型间的嵌套依赖。
关键创新：CogBench的创新在于将心理学实验与LLMs评估相结合，提供了一种新的视角来理解模型行为，与传统的性能评估方法形成鲜明对比。
关键设计：在实验中，采用了多层建模技术，考虑了微调版本间的依赖关系，并分析了模型规模、RLHF及提示工程对行为的影响。
🖼️ 关键图片
📊 实验亮点
实验结果显示，模型规模和RLHF显著影响LLMs的性能，开源模型在风险倾向上表现优于专有模型。此外，链式思维提示在概率推理任务中表现出色，提升了模型的推理能力。
🎯 应用场景
CogBench的潜在应用领域包括大型语言模型的开发与优化、心理学研究以及人机交互系统的设计。通过提供更全面的评估工具，研究者和开发者可以更好地理解和改进模型行为，从而提升人工智能系统的可靠性和用户体验。
📄 摘要（原文）
Large language models (LLMs) have significantly advanced the field of artificial intelligence. Yet, evaluating them comprehensively remains challenging. We argue that this is partly due to the predominant focus on performance metrics in most benchmarks. This paper introduces CogBench, a benchmark that includes ten behavioral metrics derived from seven cognitive psychology experiments. This novel approach offers a toolkit for phenotyping LLMs' behavior. We apply CogBench to 35 LLMs, yielding a rich and diverse dataset. We analyze this data using statistical multilevel modeling techniques, accounting for the nested dependencies among fine-tuned versions of specific LLMs. Our study highlights the crucial role of model size and reinforcement learning from human feedback (RLHF) in improving performance and aligning with human behavior. Interestingly, we find that open-source models are less risk-prone than proprietary models and that fine-tuning on code does not necessarily enhance LLMs' behavior. Finally, we explore the effects of prompt-engineering techniques. We discover that chain-of-thought prompting improves probabilistic reasoning, while take-a-step-back prompting fosters model-based behaviors.