Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models

📄 arXiv: 2606.13441v1 📥 PDF

作者: Joseph Keshet

分类: cs.AI, cs.CL

发布日期: 2026-06-11

💡 一句话要点

探讨大型语言模型的意图性与道德责任问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 道德责任 意图性 代理性 随机采样

📋 核心要点

  1. 现有研究对大型语言模型的代理性和道德责任的归属存在误解，缺乏对其内在意图性和自我归属行为的深入分析。
  2. 论文提出，真正的道德责任需要承诺性代理，而LLMs的输出是基于概率映射，缺乏内在的选择和意图。
  3. 通过对比现有理论，论文论证了LLMs的输出并不具备真正的代理性，强调了随机采样与选择之间的区别。

📝 摘要（中文）

随着大型语言模型（LLMs）的进步，关于这些系统是否具备代理性或道德代理的主张引发了广泛讨论。本文认为这些归属是误导性的。我们主张，道德责任需要基于内在意图性和自我归属行为的承诺性代理，而这种代理构成了与责任相关的自由意志形式。尽管LLMs生成连贯且可规范评估的输出，但其操作完全由从数据中学习的概率输入输出映射所表征。它们的表面意图性是派生的而非内在的，其输出既不被视为承诺，也不受理由的指导。随机采样引入的变异性并不等同于选择或创作。我们回应了来自意图立场、功能主义、相容论以及模型输出中道德推理存在的反对意见，认为这些都不足以建立真正的代理性。

🔬 方法详解

问题定义：本文旨在探讨大型语言模型是否具备真正的代理性和道德责任。现有方法在理解这些模型的意图性和自我归属方面存在不足，导致对其能力的误解。

核心思路：论文的核心思路是强调道德责任需要基于内在意图性和承诺性代理，而LLMs的输出仅是基于数据学习的概率映射，缺乏真正的选择和意图。

技术框架：整体架构包括对现有理论的分析与批判，主要模块包括意图立场、功能主义、相容论的探讨，以及对道德推理的分析。

关键创新：最重要的技术创新点在于明确区分随机采样与真正选择的本质，指出LLMs的输出并不构成道德责任的基础。

关键设计：论文在论证中使用了逻辑推理和案例分析，强调了内在意图性的重要性，并对比了不同理论的局限性。通过这些设计，论文有效地阐明了LLMs与道德代理之间的根本区别。

📊 实验亮点

论文通过深入分析现有理论，明确指出大型语言模型的输出并不具备真正的道德代理性，强调随机采样与选择的区别，为理解AI的道德责任提供了新的视角。

🎯 应用场景

该研究对理解大型语言模型在道德和法律责任方面的局限性具有重要意义，能够为人工智能的伦理规范和政策制定提供理论支持。未来，随着技术的发展，如何合理地界定AI的责任将成为一个重要的研究方向。

📄 摘要（原文）

Recent advances in large language models (LLMs) have prompted claims that such systems exhibit agency or qualify as moral agents. This paper argues that these attributions are misguided. We maintain that moral responsibility requires commitment-bearing agency grounded in intrinsic intentionality and self-attributed action, and that such agency constitutes the form of free will relevant to responsibility. Although LLMs generate coherent and normatively evaluable outputs, their operation is fully characterized by probabilistic input-output mappings learned from data. Their apparent intentionality is derived rather than intrinsic, and their outputs are neither owned as commitments nor guided by reasons. Variability introduced by stochastic sampling does not amount to choice or authorship. We address objections from the intentional stance, functionalism, compatibilism, and the presence of moral reasoning in model outputs, arguing that none suffice to establish genuine agency.