Emergence of Hierarchical Emotion Organization in Large Language Models
作者: Maya Okawa, Bo Zhao, Eric J. Bigelow, Rose Yu, Tomer Ullman, Ekdeep Singh Lubana, Hidenori Tanaka
分类: cs.CL, cs.AI, cs.LG
发布日期: 2026-06-12
💡 一句话要点
提出层次情感组织模型以提升大语言模型的情感理解能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 情感理解 层次情感组织 社会感知 大型语言模型 情感推理 心理模型 系统性偏差
📋 核心要点
- 现有的大语言模型在情感理解方面存在不足，尤其是在处理不同社会经济背景的用户时，容易产生偏差。
- 本文通过分析模型输出中的情感状态概率依赖关系，提出了层次情感组织模型，以更好地反映人类情感的层次结构。
- 研究结果表明，LLMs能够形成与人类心理模型一致的情感树，且在情感识别上存在系统性偏差，尤其是对弱势群体的误分类问题。
📝 摘要（中文）
随着大型语言模型（LLMs）在对话代理中的广泛应用，理解它们如何建模用户的情感状态变得至关重要。受情感轮的启发，本文分析了模型输出中情感状态之间的概率依赖关系。研究发现，LLMs自然形成与人类心理模型一致的层次情感树，且更大的模型发展出更复杂的层次结构。此外，研究揭示了在不同社会经济背景下情感识别的系统性偏差，尤其是对交叉性、弱势群体的误分类。人类研究显示出显著的相似性，表明LLMs内化了社会感知的某些方面。本文的结果不仅强调了LLMs中情感推理的出现，还暗示了利用认知基础理论来改进模型评估的潜力。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在情感理解中的不足，尤其是如何有效建模用户的情感状态及其层次结构。现有方法在处理不同社会经济背景的用户时，常常出现系统性偏差。
核心思路：通过分析模型输出中情感状态之间的概率依赖关系，本文提出了一种层次情感组织模型，旨在更好地反映人类情感的层次性和复杂性。
技术框架：研究首先构建了情感状态的概率依赖关系图，然后通过实验验证了不同规模模型在情感层次结构形成上的差异，最后进行了人类研究以验证模型的社会感知能力。
关键创新：本文的主要创新在于发现LLMs能够自然形成与人类心理模型一致的层次情感树，并且较大的模型能够发展出更复杂的情感层次结构，这与现有方法的线性情感分类有本质区别。
关键设计：在模型设计中，采用了特定的损失函数以优化情感状态的概率依赖关系，同时在训练过程中考虑了不同社会经济背景的用户特征，以减少偏差。
🖼️ 关键图片
📊 实验亮点
实验结果显示，LLMs能够形成与人类心理模型一致的层次情感树，且在情感识别上对弱势群体的误分类率显著高于其他群体。这一发现强调了在情感理解中考虑社会经济背景的重要性，为未来的模型改进提供了方向。
🎯 应用场景
该研究的潜在应用领域包括情感智能对话系统、心理健康监测工具以及个性化用户体验设计。通过更好地理解用户情感，系统能够提供更具同理心的响应，提升用户满意度和信任度。未来，该研究可能推动情感计算和社会感知领域的进一步发展。
📄 摘要（原文）
As large language models (LLMs) increasingly power conversational agents, understanding how they model users' emotional states is critical for ethical deployment. Inspired by emotion wheels, i.e., a psychological framework that argues emotions organize hierarchically, we analyze probabilistic dependencies between emotional states in model outputs. We find that LLMs naturally form hierarchical emotion trees that align with human psychological models, and larger models develop more complex hierarchies. We also uncover systematic biases in emotion recognition across socioeconomic personas, with compounding misclassifications for intersectional, underrepresented groups. Human studies reveal striking parallels, suggesting that LLMs internalize aspects of social perception. Beyond highlighting emergent emotional reasoning in LLMs, our results hint at the potential of using cognitively-grounded theories for developing better model evaluations.