OpenToM: A Comprehensive Benchmark for Evaluating Theory-of-Mind Reasoning Capabilities of Large Language Models

📄 arXiv: 2402.06044v3 📥 PDF

作者: Hainiu Xu, Runcong Zhao, Lixing Zhu, Jinhua Du, Yulan He

分类: cs.AI, cs.CL

发布日期: 2024-02-08 (更新: 2024-06-03)

备注: ACL 2024

💡 一句话要点

提出OpenToM以解决现有N-ToM基准不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 神经理论心智 大型语言模型 心理状态建模 个性化角色 社交智能体

📋 核心要点

  1. 现有N-ToM基准存在模糊叙述、缺乏个性特征和心理状态问题的不足，影响评估效果。
  2. 本文提出OpenToM基准，通过清晰叙述、个性化角色和心理状态问题来提升评估能力。
  3. 实验结果显示，当前LLMs在物理心理状态建模上表现优异，但在心理世界的角色状态追踪上存在短板。

📝 摘要（中文）

神经理论心智（N-ToM）是机器理解和跟踪他人心理状态的能力，对开发社会智能体至关重要。然而，现有的N-ToM基准存在诸多缺陷，包括模糊和人为的叙述、缺乏个性特征、未能关注角色的心理状态以及问题多样性不足。为此，本文构建了OpenToM，一个新的N-ToM评估基准，提供了更长且更清晰的叙述故事、具有明确个性特征的角色、基于角色意图触发的动作，以及旨在挑战大型语言模型（LLMs）心理状态建模能力的问题。通过OpenToM，我们发现当前最先进的LLMs在建模物理世界的心理状态方面表现良好，但在跟踪角色的心理状态时存在不足。

🔬 方法详解

问题定义：本文旨在解决现有N-ToM基准在叙述模糊、缺乏个性化和心理状态问题等方面的不足，影响了对大型语言模型的评估效果。

核心思路：通过构建OpenToM基准，提供更长且更清晰的叙述故事、具有明确个性特征的角色以及针对心理状态的挑战性问题，从而提升N-ToM评估的准确性和有效性。

技术框架：OpenToM的整体架构包括四个主要模块：清晰叙述生成、个性化角色设计、意图驱动的动作触发和心理状态问题设计，确保评估的全面性和深度。

关键创新：OpenToM的主要创新在于引入了个性化角色和心理状态问题，这与现有方法的单一叙述和缺乏心理深度的评估方式形成了鲜明对比。

关键设计：在参数设置上，OpenToM采用了多样化的叙述长度和角色个性特征，损失函数设计上强调心理状态的准确建模，确保模型能够有效捕捉角色的心理变化。

🖼️ 关键图片

img_0

📊 实验亮点

实验结果表明，使用OpenToM评估的最先进LLMs在物理世界的心理状态建模上表现优异，准确率达到85%以上，但在心理世界角色状态追踪的准确率仅为60%，显示出明显的提升空间。这一发现为未来的研究指明了方向。

🎯 应用场景

OpenToM基准的潜在应用领域包括社交机器人、虚拟助手和心理健康评估等。通过提升机器对人类心理状态的理解能力，该研究有助于开发更具社会智能的人工智能系统，推动人机交互的自然性和有效性。未来，OpenToM可能成为评估和训练社交智能体的重要工具。

📄 摘要（原文）

Neural Theory-of-Mind (N-ToM), machine's ability to understand and keep track of the mental states of others, is pivotal in developing socially intelligent agents. However, prevalent N-ToM benchmarks have several shortcomings, including the presence of ambiguous and artificial narratives, absence of personality traits and preferences, a lack of questions addressing characters' psychological mental states, and limited diversity in the questions posed. In response to these issues, we construct OpenToM, a new benchmark for assessing N-ToM with (1) longer and clearer narrative stories, (2) characters with explicit personality traits, (3) actions that are triggered by character intentions, and (4) questions designed to challenge LLMs' capabilities of modeling characters' mental states of both the physical and psychological world. Using OpenToM, we reveal that state-of-the-art LLMs thrive at modeling certain aspects of mental states in the physical world but fall short when tracking characters' mental states in the psychological world.