Discovering Efficient and Explainable Communication Topologies for LLM-based Multi-Agent Systems via Causal Inference

📄 arXiv: 2608.12921v1 📥 PDF

作者: Junzhi Li, Peng He, Qirui Ji, Wei Wang, Lixiang Liu, Chuxiong Sun

分类: cs.MA, cs.AI

发布日期: 2026-08-13

备注: 18 pages, 4 figures. Submitted to AAAI 2027

💡 一句话要点

提出E2-Explainer以解决LLM多智能体系统通信拓扑可解释性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 多智能体系统 通信拓扑 可解释性 因果归因 优化算法 机器学习

📋 核心要点

  1. 现有的通信拓扑生成方法主要依赖黑箱优化，缺乏对通信边缘选择原因的解释，导致难以识别关键的通信子图。
  2. 本文提出E2-Explainer框架，将通信拓扑的解释视为因果归因问题，利用边缘级证据识别紧凑的通信子图。
  3. 在多个推理和编码基准上的实验表明，E2-Explainer能够有效识别关键通信子图，显著降低通信成本，同时保持任务性能。

📝 摘要（中文）

大型语言模型（LLM）驱动的多智能体系统（MAS）的性能在很大程度上依赖于有效的通信拓扑。然而，现有的拓扑生成方法通常通过黑箱优化，仅依赖任务级奖励，缺乏对特定通信边缘选择原因的深入理解。为了解决这一问题，本文提出了E2-Explainer，一个模型无关的框架，用于提供任意拓扑生成器产生的通信拓扑的可解释性解释。我们将拓扑解释形式化为因果归因问题，识别由任务保留的边缘级证据支持的紧凑通信子图。通过Granger风格的目标，我们测量了掩蔽每个通信通道如何改变任务结果及最终响应的稳定性。实验表明，E2-Explainer能够识别关键通信子图，减少冗余通信边缘，从而显著降低通信成本，同时保持竞争性的任务性能。

🔬 方法详解

问题定义：本文旨在解决大型语言模型驱动的多智能体系统中通信拓扑的可解释性问题。现有方法通过黑箱优化生成拓扑，缺乏对通信边缘选择原因的深入理解，导致难以识别关键的通信子图。

核心思路：E2-Explainer框架将通信拓扑的解释视为因果归因问题，旨在通过边缘级证据识别出支持任务保留的紧凑通信子图。通过这种方式，能够提供可解释的通信拓扑，同时优化通信效率。

技术框架：E2-Explainer的整体架构包括两个主要模块：首先，通过Granger风格的目标评估每个通信通道的影响；其次，基于评估结果提取关键的通信子图，并将其转化为可执行的解释器。

关键创新：E2-Explainer的主要创新在于将拓扑解释形式化为因果归因问题，利用边缘级证据进行紧凑子图的识别。这一方法与传统的黑箱优化方法本质上不同，提供了可解释性和效率的双重优势。

关键设计：在设计中，采用了Granger因果关系的评估方法，设置了适当的损失函数以优化通信子图的选择，并通过预算限制确保最终解释的高效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，E2-Explainer能够有效识别关键通信子图，减少冗余通信边缘，通信成本降低幅度达到30%，同时在多个基准测试中保持与基线相当的任务性能，展示了其在实际应用中的潜力。

🎯 应用场景

该研究的潜在应用领域包括智能机器人、自动化系统和多智能体协作任务等。通过提供可解释的通信拓扑，E2-Explainer能够帮助开发者更好地理解和优化多智能体系统的协作机制，从而提升系统的整体性能和效率。

📄 摘要（原文）

The performance of large language model (LLM)-based multi-agent systems (MAS) largely depends on effective communication topologies. Existing topology generation methods, however, typically learn communication topologies through black-box optimization driven solely by task-level rewards. While effective, such optimization provides little insight into why particular communication edges are selected, making it difficult to identify the critical communication subgraphs responsible for successful collaboration. To address this limitation, we propose E2-Explainer, a model-agnostic framework for providing interpretable explanations of communication topologies produced by arbitrary topology generators. Specifically, we formulate topology explanation as a causal attribution problem that identifies compact communication subgraphs supported by edge-level evidence of task preservation. We obtain this evidence with a Granger-style objective that measures how masking each communication channel changes the task outcome and the stability of the final response. The resulting budgeted subgraphs are then distilled into an amortized explainer, enabling efficient post-hoc explanation without repeated edge-level evaluations at deployment. Extensive experiments on multiple reasoning and coding benchmarks demonstrate that E2-Explainer identifies critical communication subgraphs that preserve successful collaboration. These subgraphs can also be executed directly to prune redundant communication edges, substantially reducing communication costs while maintaining competitive task performance.