Asymmetric Communication: Large Language Models and Language Games
作者: Enzo Fenoglio
分类: cs.CY, cs.AI
发布日期: 2026-07-30
💡 一句话要点
提出不对称沟通框架以重新审视语言模型的属性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 不对称沟通 语言模型 AI治理 人机交互 伦理设计
📋 核心要点
- 现有的AI讨论常常错误地将人类的认知属性投射到语言模型上，导致对其能力的误解。
- 论文提出了一种不对称沟通的框架，强调人类在与语言模型互动中的主导地位，重新定义了模型输出的有效性。
- 通过对理论的重新分类，论文为AI治理提供了新的视角，强调责任应由人类机构承担，而非机器。
📝 摘要（中文）
当代人工智能讨论常常将语言模型归于无法承载的属性，如通用智能、幻觉、代理性和情感等。本文认为这些都是将人类交际实践中的属性投射到机器上的单一范畴错误，并阐释其结构。人类与大型语言模型的互动构成了一种语言游戏，其中一方承担所有规范活动。我们称这种配置为不对称沟通，因为模型输出在交际中流通，而系统并不承担承诺、权利或进行评估。三项条件定义了这种不对称性：正确性仅由接收者强制执行；责任仅由人类参与者承担；任何输出的实际地位完全依赖于人类的接受。这些条件是结构性的，与能力无关，并在更强大的模型提升误归属风险时保持不变。该框架借鉴了维特根斯坦、卢曼、埃斯波西托和布兰登的理论，重新分类为接收者侧现象，强调AI治理中的制度约束工程。
🔬 方法详解
问题定义：本文要解决的问题是人们对语言模型属性的误解，尤其是将人类认知特征错误地应用于机器。现有方法未能清晰区分人类与机器的交互角色，导致对AI能力的误归属。
核心思路：论文的核心思路是提出不对称沟通的概念，强调在与大型语言模型的互动中，所有的规范活动和责任均由人类承担，而模型本身不具备这些属性。
技术框架：整体架构包括三个主要模块：人类接收者的规范性、模型输出的交际流通和人类对输出的接受与评估。每个模块相互关联，共同构成了不对称沟通的结构。
关键创新：最重要的技术创新点在于重新定义了AI与人类的互动关系，强调了人类在交际中的主导地位，并将责任与规范活动完全归属于人类，而非机器。
关键设计：论文中没有具体的参数设置或网络结构，而是通过理论框架的构建，强调了人类参与者在交际中的重要性和模型输出的依赖性。
🖼️ 关键图片
📊 实验亮点
论文通过理论分析，强调了不对称沟通的三项条件，指出责任和规范活动完全由人类承担。这一发现为AI治理提供了新的视角，强调了人类在AI交互中的主导地位，推动了对AI伦理的深入讨论。
🎯 应用场景
该研究的潜在应用领域包括AI治理、伦理设计和人机交互等。通过明确人类在AI交互中的责任，可以为政策制定者提供指导，确保AI系统的使用符合社会规范和伦理标准，进而提升公众对AI技术的信任。
📄 摘要（原文）
Contemporary AI discourse attributes to language models properties they cannot bear: general intelligence as substrate-independent cognition, hallucination as cognitive failure, agency as autonomous goal-pursuit, sentience as emergent inner life, alignment as goal synchronization. This paper argues that these are instances of a single category mistake--properties constituted within human communicative practice are projected onto the machine side--and explains its structure. Human-LLM interaction constitutes a language game in which one side bears all normative activity. We call this configuration asymmetric communication since model outputs circulate communicatively, entering further exchanges, without the system undertaking commitments, bearing entitlements, or performing the assessment on which discursive standing depends. Three conditions define the asymmetry: (i) correctness is enforced exclusively by the receiver; (ii) accountability is borne by human participants alone; and (iii) the practical standing of any output depends entirely on human uptake. These conditions are structural, hold independently of capability, and remain unchanged as more powerful models raise the stakes of misattribution. The framework draws on Wittgenstein (meaning enacted in shared practices), Luhmann (communication completed on the receiver's side), Esposito (algorithmic contingency sufficient for uptake), and Brandom (normative scorekeeping as the source of discursive standing). Applied to all five, it reclassifies each as a receiver-side phenomenon, grounds guardrails as structural necessities rather than manifestations of machine moral agency, and yields an implication for AI governance. Alignment is institutional constraint engineering, not goal synchronization between agents, while responsibility remains with human institutions.