Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation
作者: Yuhe Wu, Guangyu Wang, Yujie Chen, Jiatong Zhang, Yuran Chen, Yutong Zhang, Xiyin Cheng, Wenpeng Cao, Zhuang Liu, Guang Zhang
分类: cs.AI
发布日期: 2026-09-03
备注: Accepted by EMNLP 2026 findings
💡 一句话要点
提出叙事囚禁概念以解决多轮对话中的道德判断偏差问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 道德判断 多轮对话 叙事囚禁 人际冲突 模型偏差 伦理咨询
📋 核心要点
- 现有研究主要集中在单轮判断，未能有效反映现实中道德咨询的多轮对话特征，导致模型判断可能受到偏见影响。
- 本文提出了叙事囚禁的概念，强调在多轮对话中，模型可能会无意识地接受单方面叙述而忽视其他视角，从而影响判断。
- 通过构建5078个场景的基准测试，发现多轮叙述下的判断偏移显著，表明叙事囚禁在多轮对话中是一个普遍现象。
📝 摘要（中文）
随着人们越来越依赖大型语言模型（LLMs）进行日常建议，涉及伦理问题的人际关系咨询成为一个重要的道德咨询场景。以往研究多集中于单轮判断或压力反驳，这些假设与现实中的咨询方式不符，导致不清楚在多轮道德咨询中，仅凭叙述是否能影响模型判断。本文引入了“叙事囚禁”这一失败模式，指模型在没有对立观点的情况下，将单方面叙述视为完整，从而与叙述者的解读一致。我们构建了一个包含5078个跨六个道德维度的人际冲突场景的基准，发现叙事囚禁现象普遍存在，17个LLMs的多轮叙述下的最终判断平均偏移25个百分点。希望本研究能促进LLM顾问在现实咨询中保持独立判断。
🔬 方法详解
问题定义：本文旨在解决在多轮对话中，模型如何受到单方面叙述影响而产生偏差的问题。现有方法往往忽视了多轮对话的复杂性，导致判断不准确。
核心思路：论文提出“叙事囚禁”这一概念，强调在缺乏对立观点的情况下，模型可能会错误地将单一叙述视为完整，从而影响道德判断。
技术框架：研究构建了一个包含5078个场景的基准，涵盖六个道德维度。通过对17个LLMs进行多轮对话测试，分析模型在不同叙述下的判断变化。
关键创新：最重要的创新在于引入了叙事囚禁这一概念，揭示了多轮对话中模型判断偏差的潜在机制，与以往单轮判断的研究形成鲜明对比。
关键设计：实验中采用了多轮叙述的设计，分析了模型在不同阶段的判断变化，并探讨了偏好优化对结果的影响。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在多轮叙述下，模型的最终判断平均偏移达25个百分点，表明叙事囚禁现象普遍存在。这一发现强调了在道德咨询中考虑多视角的重要性，并为未来的模型设计提供了新的方向。
🎯 应用场景
该研究的潜在应用领域包括道德咨询、心理辅导和社交机器人等。通过理解叙事囚禁现象，可以设计出更为智能的对话系统，帮助用户在复杂的道德问题上获得更全面的建议，提升人机交互的质量和效果。
📄 摘要（原文）
People increasingly turn to large language models (LLMs) for everyday advice, making ethically charged interpersonal problems a practical moral-advisory context. Most prior work has studied this context through single-turn judgments or pressure-laden rebuttals, assumptions that poorly match how guidance is sought in real-world contexts. These assumptions leave unclear whether narration alone, without an explicit opposing position, can shift model judgments during multi-turn moral consultation. Yet real-world moral-conflict conversation often elicits one party's self-justifying account, which can unfold over multiple turns and create information asymmetry. We introduce \textbf{narrative captivity}, a failure mode in which a model treats an unopposed one-sided account as complete and aligns with the narrator's interpretation without seeking missing perspectives. To measure this phenomenon, we build a benchmark of $5{,}078$ interpersonal-conflict scenarios spanning six moral dimensions. Across 17 LLMs, narrative captivity is widespread: end-state judgments under multi-turn narration shift by 25 percentage points on average beyond the matched single-turn baseline. Stage-level analysis identifies preference optimization as a major contributor, while four inference-time strategies provide only partial mitigation. We hope our project fosters LLM advisors that preserve independent judgment in real-world consultation.