Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines
作者: Federico Cabitza, Gianluca Colombo
分类: cs.AI, cs.HC
发布日期: 2026-07-28
💡 一句话要点
提出将大型语言模型视为技术符号机器以解决知识评估问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 知识评估 技术符号机器 知识分裂论 社会嵌入 人机协作 生成文本 知识实践
📋 核心要点
- 现有方法将大型语言模型与人类知识者进行比较，忽视了社会嵌入的知识实践，导致知识合法性缺乏。
- 论文提出将大型语言模型视为技术符号机器，强调其在书面符号学中的自动化作用，重新定义知识的生成与评估。
- 通过重新框架，论文强调了生成文本的社会实践，提出了可检验的设计方案，促进人类与AI的合作与责任分配。
📝 摘要（中文）
Quattrociocchi等人警告称，大型语言模型的流畅输出可能使语言的可信性取代知识评估，导致所谓的Epistemia现象，即在未进行判断实践的情况下体验到知识。本文接受这一诊断，但挑战其解释框架，提出将大型语言模型理解为技术符号机器，自动化书面符号学的一个阶段。我们称这种现象为知识分裂论，强调符号作为语言表达与社会嵌入的解释电路之间的技术分裂。通过这种重新框架，保留了语言生产与负责任理解之间的区别，并为以可检验的谱系、争议性、分布式责任和知识代理为中心的设计方案奠定基础。
🔬 方法详解
问题定义：论文要解决的问题是大型语言模型在知识生成中的合法性与评估缺失，现有方法未能考虑社会嵌入的知识实践。
核心思路：论文的核心思路是将大型语言模型视为技术符号机器，强调其在书面符号学中的作用，自动化生成语言配置，从而重新定义知识的生成过程。
技术框架：整体架构包括大型语言模型的生成模块、社会嵌入的解释电路、以及知识评估与验证的反馈机制，形成一个完整的知识生成与评估流程。
关键创新：最重要的技术创新点在于提出了知识分裂论的概念，强调了符号作为语言表达与社会实践之间的技术分裂，与现有方法的本质区别在于关注生成文本的社会实践。
关键设计：关键设计包括对生成文本的可检验性、争议性和分布式责任的考虑，确保生成的文本不仅是语言的产物，更是社会嵌入的知识实践的结果。
🖼️ 关键图片
📊 实验亮点
论文通过重新框架大型语言模型的作用，强调了生成文本的社会实践，提出了可检验的设计方案，促进了知识生成的透明度和责任感。这一方法有助于解决当前AI生成内容的合法性问题，推动人机协作的深入发展。
🎯 应用场景
该研究的潜在应用领域包括教育、知识管理和人机协作等。通过重新定义大型语言模型的角色，可以提高知识生成的透明度和责任感，促进人类与AI的有效合作，推动社会对AI生成内容的理解与接受。
📄 摘要（原文）
Quattrociocchi and colleagues warn that the fluent outputs of large language models may allow linguistic plausibility to substitute for epistemic evaluation, producing the condition they call Epistemia: the experience of possessing knowledge without undertaking the practices through which judgment would ordinarily be warranted. This article accepts that diagnosis but challenges its explanatory framework, which compares an embodied, socially situated human knower with an isolated generative model thereby locating epistemic legitimacy in capacities internal to autonomous agents. Drawing on Carlo Sini's philosophy of practices, writing, signs, and technics, we propose instead to understand a large language model (LLM) as a techno-semiotic machine that automates a phase of written semiosis by producing plausible linguistic configurations from the sedimented archive of human writing. From this perspective, Epistemia is one consequence of a broader phenomenon that we call epistemic schizologia: the socio-technical cleavage between signs as linguistically accomplished expressions and signs as moments within socially embedded circuits of interpretation, evidence, criticism, verification, and responsibility. This cleavage is reinforced by eikotic closure, through which a plausible continuation is presented with the finality of an epistemic result, and by algorithmic authority and epistemic self-misrecognition. The relevant unit is therefore not the model alone but the complete practice in which generated inscriptions are prompted, interpreted, verified, contested, used, and made consequential. This reframing preserves the distinction between linguistic production and responsible understanding while grounding a design programme centred on inspectable genealogy, contestability, distributed responsibility, epistemic agency, and the evaluation of hybrid human--AIpractices.