Causal Discovery in the Era of Agents
作者: Yujia Zheng, Vishal Verma, Mantej Gill, Haoyue Dai, Peter Spirtes, Kun Zhang
分类: cs.AI, cs.LG, cs.SE, stat.AP
发布日期: 2026-06-22
备注: Platform is available at causallearn.com
💡 一句话要点
提出代理辅助的因果发现方法以解决数据与假设的混淆问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 因果发现 大型语言模型 数据分析 代理辅助 心理学研究
📋 核心要点
- 现有方法在因果发现中容易混淆数据支持的因果证据与语言模型的文本关联，导致结果不可靠。
- 论文提出代理应专注于数据检查和方法解释，而非直接提供因果结论，从而确保因果发现的严谨性。
- 通过因果学习平台的案例研究，展示了代理辅助的因果发现流程，避免了语言模型的不可靠性影响因果证据。
📝 摘要（中文）
近年来，结合大型语言模型（LLMs）与因果发现的尝试要求模型推断成对方向、提出图结构或将语言模型输出作为先验和约束。这些方法虽然承诺加快分析速度，但也模糊了因果证据是否由数据和假设支持，或仅仅是文本关联、提示伪影和幻觉机制。本文主张代理在因果发现中应扮演不同角色，代理应检查数据、检索上下文、解释方法假设并澄清图输出，但不应提供边、方向、先验、约束或因果结论。我们提出代理辅助工作流程的原则，因果声明应基于数据、明确假设、正式算法、诊断以及用户或领域专家的决策。我们在因果学习平台上实现了这一原则，并通过对大五人格数据的案例研究展示了代理辅助的因果发现流程。
🔬 方法详解
问题定义：本文旨在解决因果发现中因大型语言模型引入的混淆问题，现有方法常常依赖文本关联而非数据支持，导致因果推断的不确定性。
核心思路：我们提出代理在因果发现中应作为辅助角色，专注于数据分析和方法假设的解释，而不直接提供因果关系的结论，以确保因果推断的可靠性。
技术框架：整体架构包括数据分析、预处理、方法推荐、专家知识整合、正式发现和解释等模块，形成一个协同的因果发现工作流程。
关键创新：最重要的创新在于明确代理的角色定位，确保因果声明基于数据和明确假设，而非依赖于语言模型的输出，从而提高因果发现的可信度。
关键设计：在平台设计中，重点关注数据的准确性和方法的透明性，确保用户能够理解每一步的假设和推断过程，同时引入专家知识以增强分析的深度。
🖼️ 关键图片
📊 实验亮点
在对大五人格数据的案例研究中，代理辅助的因果发现流程有效避免了语言模型的不可靠性，确保了因果推断的准确性和可信度。具体实验结果显示，该方法在数据分析速度和结果可靠性上均有显著提升。
🎯 应用场景
该研究的潜在应用领域包括社会科学、心理学和经济学等，能够帮助研究人员更准确地进行因果推断，提升数据分析的科学性和可靠性。未来，该平台有望成为因果发现领域的标准工具，促进跨学科的合作与研究。
📄 摘要（原文）
Recent attempts to combine large language models (LLMs) with causal discovery ask models to infer pairwise directions, propose graph structures, or inject language-model outputs as priors and constraints. These approaches promise faster analysis, but they also obscure whether a causal evidence is supported by data and assumptions or by textual associations, prompt artifacts and hallucinated mechanisms. We argue for a different role for agents in causal discovery. Agents should inspect data, retrieve context, explain method assumptions and clarify graph outputs, but they should not supply edges, orientations, priors, constraints or causal conclusions. We propose the principle that agents assist the workflow, while causal claims remain grounded in data, explicit assumptions, formal algorithms, diagnostics and user or domain-expert decisions. We instantiate this principle in causal-learn+, an online platform that coordinates data analysis, preprocessing, method recommendation, expert-knowledge incorporation, formal discovery and interpretation around the algorithmic ecosystem of causal-learn. A case study on Big Five personality data illustrates agent-assisted pipeline of causal discovery without turning language-model unreliability into causal evidence. The platform is available at causallearn.com.