CHARM: Character Hallucination for Multicultural Role Play Benchmark

📄 arXiv: 2609.01352v1 📥 PDF

作者: Sunkyung Han, Nahyeon Park, Gaeun Seo, Seunghyun Yoon, JinYeong Bak

分类: cs.CL, cs.AI

发布日期: 2026-09-01

备注: 16 pages, 1 figure. Accepted to Findings of EMNLP 2026

💡 一句话要点

提出CHARM基准以解决角色扮演中的角色幻觉问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 角色扮演 大型语言模型 知识边界 多文化基准 角色幻觉 评估方法 文化差异

📋 核心要点

  1. 现有的角色扮演语言模型在识别和遵循角色知识边界方面存在不足，导致角色幻觉现象频发。
  2. 本文提出CHARM基准，通过多项选择题评估模型的边界意识和边界遵从能力，明确区分两者。
  3. 实验结果表明，模型在识别边界方面表现良好，但在遵从方面存在显著缺陷，尤其在不同文化角色的表现上存在系统性差异。

📝 摘要（中文）

角色扮演的大型语言模型（LLMs）需要在采用角色风格的同时，尊重角色的知识边界。现有评估方法难以区分错误是由于未能识别边界还是尽管识别却未能遵守。本文提出CHARM，一个涵盖来自五个文化语言区域的40个真实和虚构角色的多文化基准，并通过母语评审进行验证。该基准探讨了时间（历史与现代）和跨宇宙（角色叙事或历史宇宙之外的实体）两种边界类型，采用启用弃权的多项选择题进行评估。我们提出了一个两阶段评估方法，将边界意识（明确识别查询超出范围）与边界遵从（在回答具体问题时弃权）分开。对六个LLMs的评估显示，幻觉主要由遵从失败驱动。模型经常承认查询超出角色知识，但仍提供事实性、超出角色的答案。

🔬 方法详解

问题定义：本文旨在解决角色扮演语言模型在角色知识边界识别与遵循方面的不足，现有方法难以有效区分识别失败与遵循失败的情况。

核心思路：通过引入CHARM基准，采用启用弃权的多项选择题，分别评估模型的边界意识和边界遵从能力，以更全面地理解角色幻觉现象。

技术框架：CHARM基准包含两个主要阶段：第一阶段评估模型对查询是否超出角色知识的识别能力，第二阶段评估模型在面对具体问题时的弃权能力。

关键创新：本文的创新在于将边界意识与边界遵从分开评估，揭示了模型在遵从方面的系统性失败，尤其是不同文化背景下的表现差异。

关键设计：在评估中使用了启用弃权的多项选择题，确保模型能够明确识别超出知识范围的查询，并在必要时选择不回答。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，在六个大型语言模型中，模型能够识别超出角色知识的查询，但在遵从方面存在显著缺陷，导致提供超出角色的答案。具体而言，模型在遵从失败的情况下，仍然提供了大量的事实性错误答案，显示出系统性文化差异。

🎯 应用场景

该研究的潜在应用领域包括角色扮演游戏、虚拟助手和教育工具等，能够提升这些系统在多文化背景下的表现和用户体验。通过改进模型的边界遵从能力，未来可以实现更真实和一致的角色交互，增强用户的沉浸感和满意度。

📄 摘要（原文）

Role-playing large language models (LLMs) are expected to adopt a character's style while also respecting that character's knowledge boundaries. Prior evaluations detect character hallucination but rarely distinguish whether errors arise from failure to recognize a boundary or from failure to comply despite recognition. We introduce CHARM, a multicultural benchmark of 40 real and fictional characters drawn from five cultural-linguistic regions, and validated by native reviewers. It probes two boundary types, Temporal (historical vs. modern) and Cross-Universe (entities outside a character's narrative or historical universe), using abstention-enabled multiple-choice questions. We propose a two-stage evaluation that separates Boundary-Awareness (explicit recognition that a query is out of scope) from Boundary-Compliance (abstention when answering concrete questions). Evaluations across six LLMs show that hallucination is driven predominantly by compliance failures. Models frequently acknowledge that a query lies outside the character's knowledge yet still provide factual, out-of-character answers. By re-posing the same questions to the target character, we confirm that a large fraction of these cases are verified parametric overrides; the model stores the relevant fact but fails to suppress it. We also observe systematic cultural variation in these failures, consistent with imbalances in how characters from different regions are represented in model knowledge.