Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models

📄 arXiv: 2606.13441 📥 PDF

作者: Joseph Keshet

分类: cs.AI, cs.CL

发布日期: 2026-06-12

💡 一句话要点

探讨大型语言模型的意图性与道德责任问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 道德责任 意图性 代理性 AI伦理 概率模型 自我归属行为

📋 核心要点

  1. 现有研究对大型语言模型的代理性和道德责任的归属存在误解，缺乏对内在意图性和自我归属行为的深入分析。
  2. 论文提出，真正的道德责任需要承诺性代理，而LLMs的输出仅是基于概率映射的结果，并不具备真正的选择性。
  3. 通过对意图立场等反对意见的分析，论文论证了LLMs并不具备真正的代理性，强调了其输出的派生性。

📝 摘要（中文）

随着大型语言模型（LLMs）的进步，关于这些系统是否具备代理性或道德代理资格的主张不断涌现。本文认为这些归属是误导性的。我们认为，道德责任需要基于内在意图性和自我归属行为的承诺性代理，而这种代理构成了与责任相关的自由意志形式。尽管LLMs生成连贯且可规范评估的输出，其操作完全由从数据中学习的概率输入输出映射所表征。它们的表面意图性是派生的而非内在的，其输出既不被视为承诺，也不受理由指导。随机采样引入的变异性并不等同于选择或创作。我们回应了来自意图立场、功能主义、兼容主义以及模型输出中道德推理存在的反对意见，认为这些都不足以建立真正的代理性。

🔬 方法详解

问题定义：本文旨在探讨大型语言模型是否具备真正的代理性和道德责任，现有方法在这一问题上存在误导性归属，未能充分考虑内在意图性和自我归属行为的必要性。

核心思路：论文的核心思路是强调道德责任需要基于承诺性代理，而LLMs的输出是基于概率模型的结果，缺乏真正的选择性和意图性。

技术框架：整体架构包括对LLMs的操作机制分析、对意图性和道德责任的理论探讨，以及对反对意见的回应，形成一个系统的论证框架。

关键创新：最重要的技术创新点在于明确区分内在意图性与派生意图性，指出LLMs的输出并不代表真正的选择或创作，挑战了现有对其代理性的理解。

关键设计：论文通过理论分析和逻辑推理，设计了对比分析框架，探讨了意图立场、功能主义和兼容主义等理论的局限性，提供了对道德推理的深入理解。

📊 实验亮点

论文通过理论分析，明确指出大型语言模型的输出并不代表真正的选择或创作，挑战了其作为道德代理的地位。这一论点为AI伦理和法律责任的讨论提供了新的视角，强调了内在意图性的重要性。

🎯 应用场景

该研究对理解大型语言模型的局限性具有重要意义，尤其是在道德和法律责任的讨论中。它为未来的AI伦理研究提供了理论基础，帮助制定更合理的AI使用规范和政策。

📄 摘要（原文）

Recent advances in large language models (LLMs) have prompted claims that such systems exhibit agency or qualify as moral agents. This paper argues that these attributions are misguided. We maintain that moral responsibility requires commitment-bearing agency grounded in intrinsic intentionality and self-attributed action, and that such agency constitutes the form of free will relevant to responsibility. Although LLMs generate coherent and normatively evaluable outputs, their operation is fully characterized by probabilistic input-output mappings learned from data. Their apparent intentionality is derived rather than intrinsic, and their outputs are neither owned as commitments nor guided by reasons. Variability introduced by stochastic sampling does not amount to choice or authorship. We address objections from the intentional stance, functionalism, compatibilism, and the presence of moral reasoning in model outputs, arguing that none suffice to establish genuine agency.