ARMOR-MAD: Adaptive Routing for Heterogeneous Multi-Agent Debate in Large Language Model Reasoning

📄 arXiv: 2606.13197 📥 PDF

作者: Fuqiang Niu, Bowen Zhang

分类: cs.AI

发布日期: 2026-06-12

💡 一句话要点

提出ARMOR-MAD以解决多代理辩论中的计算浪费问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多代理辩论 条件计算 模型异构性 推理优化 语义分析

📋 核心要点

  1. 现有的多代理辩论方法存在固定流程导致计算资源浪费和相似代理间错误放大的问题。
  2. ARMOR-MAD框架通过将辩论视为条件计算，结合预辩论一致性路由、早期一致性停止评估和语义异常检测来优化辩论过程。
  3. 在多个数据集上，ARMOR-MAD显著提升了模型的推理准确率，证明了其在异构辩论中的有效性。

📝 摘要（中文）

多代理辩论（MAD）能够提升大型语言模型的推理能力，但固定的辩论流程往往会浪费计算资源，并可能放大相似代理之间的相关错误。为此，本文提出了ARMOR-MAD，一个无训练的异构MAD框架，将辩论视为条件计算。ARMOR-MAD结合了三个组件：预辩论一致性路由（PAR）决定是否需要辩论独立生成的Round-0答案；早期一致性停止评估器（EASE）在收敛后停止辩论；语义异常检测（SOD）在聚合过程中降低异常最终答案的权重。在MATH Level 5、GSM8K、MMLU和MMLU-Pro数据集上，ARMOR-MAD在相同模型池下的异构辩论中表现出一致的提升，分别达到了65.5%、96.5%、90.0%和81.5%的准确率。这些结果表明，真正的模型异构性和基于一致性的控制对于提高MAD的准确性和效率都至关重要。

🔬 方法详解

问题定义：本文旨在解决现有多代理辩论方法中固定流程导致的计算资源浪费和相似代理间错误放大的问题。现有方法在处理异构模型时缺乏灵活性，无法有效利用模型间的差异。

核心思路：ARMOR-MAD的核心思路是将辩论视为条件计算，通过动态评估和调整辩论过程来提高效率和准确性。该方法通过引入多个组件，优化了辩论的决策和执行流程。

技术框架：ARMOR-MAD框架包括三个主要模块：预辩论一致性路由（PAR）、早期一致性停止评估器（EASE）和语义异常检测（SOD）。PAR负责判断是否需要进行辩论，EASE在模型输出收敛后及时停止辩论，而SOD则在聚合最终答案时降低异常答案的权重。

关键创新：ARMOR-MAD的创新在于其训练无关性和动态调整能力，使得辩论过程更加灵活和高效。与传统的固定轮次辩论方法相比，ARMOR-MAD能够根据实际情况调整辩论的必要性和持续时间。

关键设计：在设计上，ARMOR-MAD通过设置合理的阈值和评估标准来实现PAR和EASE的功能，同时利用语义分析技术来识别和处理异常答案，确保聚合结果的准确性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在多个基准数据集上，ARMOR-MAD相较于固定轮次的异构辩论方法，准确率分别提升至65.5%、96.5%、90.0%和81.5%。这些结果表明，ARMOR-MAD在提高推理准确性和效率方面具有显著优势，验证了其方法的有效性。

🎯 应用场景

ARMOR-MAD的研究成果在多个领域具有潜在应用价值，尤其是在需要高效推理和决策的智能系统中，如自动问答、对话系统和复杂问题求解等。通过优化多代理协作，ARMOR-MAD能够提升系统的整体性能和用户体验，未来可能推动更智能的AI应用发展。

📄 摘要（原文）

Multi-agent debate (MAD) can improve large language model reasoning, but fixed debate pipelines often waste computation and can amplify correlated errors among similar agents. We propose ARMOR-MAD, a training-free heterogeneous MAD framework that treats debate as conditional computation. ARMOR-MAD combines three components: Pre-debate Agreement Routing (PAR) decides whether independently generated Round-0 answers require debate; Early Agreement Stopping Evaluator (EASE) stops debate after convergence; and Semantic Outlier Detection (SOD) down-weights abnormal final answers during aggregation. Across MATH Level 5, GSM8K, MMLU, and MMLU-Pro, ARMOR-MAD consistently improves over fixed-round heterogeneous debate with the same model pool, reaching 65.5\%, 96.5\%, 90.0\%, and 81.5\% accuracy, respectively. The results suggest that genuine model heterogeneity and agreement-based control are both important for making MAD more accurate and efficient.