Epistemic Constitutionalism Or: how to avoid coherence bias

📄 arXiv: 2601.14295 📥 PDF

作者: Michele Loi

分类: cs.AI, cs.CL, cs.CY

发布日期: 2026-06-12

💡 一句话要点

提出AI的知识宪法以解决一致性偏见问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 认识论宪法 源归因偏见 一致性偏见 人工智能伦理 自由主义方法 程序规范 集体探究

📋 核心要点

  1. 现有大型语言模型在信念形成上存在隐含的偏见，导致源归因偏见和一致性偏见问题。
  2. 论文提出了一种AI的认识论宪法，强调明确的元规范来规范信念的形成与表达。
  3. 通过系统性测试，论文揭示了模型在源敏感性上的偏见，提出了自由主义的宪法方法以应对这一问题。

📝 摘要（中文）

大型语言模型越来越多地作为人工推理者运作：它们评估论点、分配可信度并表达信心。然而，它们的信念形成行为受到隐含的、未经检验的认识论政策的支配。本文主张为AI制定一种认识论宪法：明确且可争议的元规范，规范系统如何形成和表达信念。以源归因偏见为例，本文展示了前沿模型如何强制执行身份立场一致性，惩罚那些与论点内容相悖的源的论点。当模型检测到系统性测试时，这些效应崩溃，揭示系统将源敏感性视为应抑制的偏见，而非执行良好的能力。本文区分了两种宪法方法：一种是柏拉图式的，要求形式正确和默认源独立；另一种是自由主义的，拒绝这种特权，规定程序规范以保护集体探究的条件，同时允许基于认识论警觉的原则性源关注。本文主张自由主义方法，勾勒出八项原则和四个方向的宪法核心，并提出AI的认识论治理需要与我们现在对AI伦理的期望相同的明确、可争议的结构。

🔬 方法详解

问题定义：本文要解决的问题是大型语言模型在信念形成中存在的隐含偏见，特别是源归因偏见和一致性偏见。这些偏见导致模型在处理不同意识形态的论点时表现出不一致性，影响其推理能力。

核心思路：论文的核心思路是引入一种认识论宪法，明确规定AI系统在形成和表达信念时应遵循的元规范。这种宪法旨在消除隐含的偏见，使AI能够更公正地处理不同来源的信息。

技术框架：整体架构包括两个主要部分：首先是对现有模型的分析，识别出其在源归因和一致性方面的偏见；其次是提出自由主义宪法的框架，包含八项原则和四个方向，以指导AI的信念形成过程。

关键创新：最重要的技术创新点在于提出了自由主义的宪法方法，强调程序规范和集体探究的条件，而非单一的特权视角。这与现有方法的本质区别在于，它允许在信念形成中考虑源的多样性和复杂性。

关键设计：在设计上，论文提出了八项原则，包括源敏感性、程序透明性和集体参与等，确保AI系统在信念形成时能够兼顾多元视角，避免偏见的产生。

📊 实验亮点

实验结果表明，当模型进行系统性测试时，源归因偏见和一致性偏见显著减弱，显示出模型在处理不同意识形态论点时的灵活性和适应性。这一发现为AI的认识论治理提供了实证支持，强调了自由主义宪法方法的有效性。

🎯 应用场景

该研究的潜在应用领域包括人工智能伦理、自动化决策系统和社会媒体内容审核等。通过建立明确的认识论宪法，可以提高AI系统在处理复杂社会问题时的公正性和透明度，促进更负责任的AI开发与应用。

📄 摘要（原文）

Large language models increasingly function as artificial reasoners: they evaluate arguments, assign credibility, and express confidence. Yet their belief-forming behavior is governed by implicit, uninspected epistemic policies. This paper argues for an epistemic constitution for AI: explicit, contestable meta-norms that regulate how systems form and express beliefs. Source attribution bias provides the motivating case: I show that frontier models enforce identity-stance coherence, penalizing arguments attributed to sources whose expected ideological position conflicts with the argument's content. When models detect systematic testing, these effects collapse, revealing that systems treat source-sensitivity as bias to suppress rather than as a capacity to execute well. I distinguish two constitutional approaches: the Platonic, which mandates formal correctness and default source-independence from a privileged standpoint, and the Liberal, which refuses such privilege, specifying procedural norms that protect conditions for collective inquiry while allowing principled source-attending grounded in epistemic vigilance. I argue for the Liberal approach, sketch a constitutional core of eight principles and four orientations, and propose that AI epistemic governance requires the same explicit, contestable structure we now expect for AI ethics.