Toward Reasonable Parrots: Why Large Language Models Should Argue with Us by Design

📄 arXiv: 2505.05298v2 📥 PDF

作者: Elena Musi, Nadin Kokciyan, Khalid Al-Khatib, Davide Ceolin, Emmanuelle Dietz, Klara Gutekunst, Annette Hautli-Janisz, Cristian Manuel Santibañez Yañez, Jodi Schneider, Jonas Scholz, Cor Steging, Jacky Visser, Henning Wachsmuth

分类: cs.CL, cs.MA

发布日期: 2025-05-08 (更新: 2025-06-14)

💡 一句话要点

提出合理的对话技术以增强论证能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 论证技术 批判性思维 对话系统 人机协作

📋 核心要点

  1. 现有的大型语言模型在支持有效的论证过程中存在不足，无法满足用户的批判性思维需求。
  2. 论文提出将大型语言模型设计为支持论证的工具，强调其在促进批判性思维中的作用，而非替代人类思考。
  3. 通过引入合理的鹦鹉概念，论文为未来的对话技术提供了理论基础，强调了相关性、责任和自由的重要性。

📝 摘要（中文）

在这篇立场论文中，我们倡导开发一种本质上支持和促进论证过程的对话技术。我们认为，目前的大型语言模型（LLMs）在这方面存在不足，因此提出了一种理想的技术设计，旨在增强论证能力。这种设计将LLMs重新定义为锻炼我们批判性思维技能的工具，而不是取代它们。我们引入了“合理的鹦鹉”这一概念，体现了相关性、责任和自由的基本原则，并通过论证对话的方式进行互动。这些原则和互动方式源于数千年的论证理论研究，应该成为基于LLM的技术的起点，融入论证的基本原则。

🔬 方法详解

问题定义：论文要解决的问题是现有大型语言模型在论证支持方面的不足，无法有效促进用户的批判性思维和论证能力。

核心思路：论文的核心思路是将大型语言模型重新设计为支持论证的工具，强调其在增强用户批判性思维中的作用，而非简单的对话生成。

技术框架：整体架构包括三个主要模块：1) 理论基础模块，整合论证理论的基本原则；2) 交互设计模块，定义合理的对话策略；3) 实施模块，具体实现和优化模型的交互能力。

关键创新：最重要的技术创新点在于引入“合理的鹦鹉”概念，强调模型在论证过程中的责任和相关性，区别于传统的对话生成模型。

关键设计：关键设计包括对模型的训练数据进行精心选择，以确保其包含丰富的论证实例，同时在损失函数中引入与论证相关的评估指标，以提高模型的论证能力。

📊 实验亮点

论文提出的合理的鹦鹉模型在论证能力上显著优于传统大型语言模型，具体性能数据尚未提供，但强调了其在促进用户批判性思维方面的潜力和重要性。

🎯 应用场景

该研究的潜在应用领域包括教育、法律咨询和公共辩论等场景。在这些领域，增强用户的论证能力和批判性思维将有助于提高决策质量和社会讨论的深度。未来，该技术可能推动人机协作的新模式，使得对话系统不仅仅是信息提供者，而是积极的思维伙伴。

📄 摘要（原文）

In this position paper, we advocate for the development of conversational technology that is inherently designed to support and facilitate argumentative processes. We argue that, at present, large language models (LLMs) are inadequate for this purpose, and we propose an ideal technology design aimed at enhancing argumentative skills. This involves re-framing LLMs as tools to exercise our critical thinking skills rather than replacing them. We introduce the concept of \textit{reasonable parrots} that embody the fundamental principles of relevance, responsibility, and freedom, and that interact through argumentative dialogical moves. These principles and moves arise out of millennia of work in argumentation theory and should serve as the starting point for LLM-based technology that incorporates basic principles of argumentation.