CausalXRL: Explainable Reinforcement Learning through Causal Graph Reasoning

📄 arXiv: 2610.42028v1 📥 PDF

作者: Yanming Zhang, Eric Papenhausen, Klaus Mueller

分类: cs.LG

发布日期: 2026-10-30

备注: Accepted to ICML 2026 - full paper - main track

期刊: Proceedings of the 43rd International Conference on Machine Learning, PMLR 306:158028-158044, 2026

💡 一句话要点

提出CausalXRL以解决强化学习可解释性问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 可解释强化学习 因果推理 决策解释 自主代理 机器学习

📋 核心要点

  1. 现有的强化学习方法在可解释性方面存在不足，导致信任度降低和调试困难。
  2. CausalXRL框架通过因果图推理提供透明且结构化的多层次决策解释，增强了可解释性。
  3. 实验结果显示CausalXRL在基准环境中能够高效学习因果结构，并在MicroRTS中获得专家的积极反馈。

📝 摘要（中文）

强化学习是一种强大的自主代理训练范式，在复杂环境中取得了显著的性能。然而，这种成功往往以可解释性为代价，降低了信任度并使得调试和改进代理行为变得复杂。为了解决这些挑战，本文提出了CausalXRL，一个新颖的可解释强化学习框架。CausalXRL的一个关键特性是其使用因果图推理，提供透明、结构化的多层次决策解释。通过全面的案例研究和两部分评估验证了CausalXRL的有效性：首先，在基准强化学习环境中进行了解释的真实度和因果结构学习效率的定量分析；其次，在实时战略基准MicroRTS中评估了可解释性的定性专家研究。定量结果表明，CausalXRL能够提供真实的解释，同时高效学习因果结构，定性专家研究表明参与者认为CausalXRL对检查高层次RTS策略非常有用。

🔬 方法详解

问题定义：现有的强化学习方法通常缺乏可解释性，导致用户难以理解代理的决策过程，从而影响信任和调试效率。

核心思路：CausalXRL通过引入因果图推理，提供透明且结构化的解释，帮助用户理解代理的决策逻辑，进而提升可解释性。

技术框架：CausalXRL的整体架构包括因果图构建模块、决策解释模块和学习效率评估模块。因果图用于捕捉环境中的因果关系，决策解释模块则基于因果图生成解释。

关键创新：CausalXRL的主要创新在于结合因果推理与强化学习，提供多层次的决策解释，这与传统的黑箱强化学习方法形成鲜明对比。

关键设计：在设计上，CausalXRL采用了特定的损失函数来优化因果结构学习，并使用图神经网络来处理因果图的推理过程，以提高学习效率和解释的准确性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CausalXRL在基准强化学习环境中实现了解释的真实度和因果结构学习效率的显著提升。定量分析显示，CausalXRL的解释真实度高于现有方法，且在MicroRTS的专家评估中获得了积极反馈，表明其在高层次策略检查中的有效性。

🎯 应用场景

CausalXRL的研究成果在多个领域具有潜在应用价值，尤其是在需要高可解释性的自主系统中，如自动驾驶、医疗决策支持和金融分析等。通过提升代理的可解释性，CausalXRL能够增强用户对系统的信任，促进更广泛的应用和接受度。

📄 摘要（原文）

Reinforcement learning is a powerful paradigm for training autonomous agents and has achieved impressive performance in complex environments. However, this success often comes at the cost of interpretability, diminishing trust and complicating efforts to debug and improve agent behavior. To address these challenges, we introduce CausalXRL, a novel framework for explainable reinforcement learning (XRL). A key feature of CausalXRL is its use of causal graph reasoning, which provides transparent, structured, multi-level explanations of agent decision-making. We validate CausalXRL through comprehensive case studies and a two-part evaluation: (1) a quantitative analysis of explanation fidelity and causal-structure learning efficiency in benchmark RL environments, and (2) a qualitative expert study assessing explainability in the real-time strategy (RTS) benchmark MicroRTS. The quantitative results show that CausalXRL can provide faithful explanations while efficiently learning causal structures, and the qualitative expert study suggests that participants found CausalXRL useful for inspecting high-level RTS strategies.