When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems

📄 arXiv: 2608.06830v1 📥 PDF

作者: Zhen Huang, Zhihuang Liu, Weijia Shi, Yifan Yang, Weishang Wu, Zhiping Cai

分类: cs.RO, cs.CR

发布日期: 2026-08-07

备注: 17 pages, 8 figures, 4 tables

💡 一句话要点

提出通信攻击模型以解决多机器人系统中的安全隐患

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 通信攻击 多机器人系统 安全隐患 大型语言模型 信息验证 实验评估 协作机器人 风险管理

📋 核心要点

  1. 现有研究主要集中于单个机器人，缺乏对多机器人协作中通信风险的深入分析。
  2. 本文提出了外部入口攻击和特权系统内攻击两种通信攻击模型，以评估多种通信架构下的安全性。
  3. 实验结果显示，DMAS架构下的入侵认可率高达96.7%，而CPV Gate的引入将违规率从70.0%降低至36.6%。

📝 摘要（中文）

大型语言模型（LLMs）在多机器人系统中作为高层规划者的应用日益增多，使机器人能够理解自然语言指令并协调可执行的动作。然而，这种对LLM规划者的依赖也引发了安全隐患。现有研究主要集中在单个机器人上，而多机器人协作中的通信风险尚未得到充分理解。本文提出了两种通信攻击模型，评估了不同攻击者访问设置下的风险，并引入了Claim Provenance and Verification (CPV) Gate以降低信息流的风险。实验结果表明，DMAS、HMAS-1和HMAS-2架构下均存在高比例的不安全信息传播，CPV Gate有效降低了违规率。

🔬 方法详解

问题定义：本文旨在解决多机器人系统中通信攻击带来的安全隐患，现有方法对多机器人协作中的通信风险分析不足，尤其是在不同通信架构下的表现未知。

核心思路：论文提出了两种通信攻击模型，分别针对外部攻击者和内部特权攻击者，评估其在不同架构下的影响，并引入CPV Gate以验证信息的可信性。

技术框架：整体架构包括攻击模型的设计、实验设置和CPV Gate的实现。攻击模型分为外部入口攻击和特权系统内攻击，实验则在DMAS、HMAS-1和HMAS-2架构下进行。

关键创新：最重要的创新在于提出了针对多机器人系统的通信攻击模型，并通过实验验证了这些攻击在不同架构下的有效性，填补了现有研究的空白。

关键设计：在实验中，使用了三种不同的LLM和五个多机器人任务，CPV Gate的设计通过验证信息来源来降低不安全信息的传播，显著提升了系统的安全性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，DMAS架构下的入侵认可率高达96.7%，HMAS-1的危险动作成功率为97.8%，而HMAS-2触发了88.3%的不安全动作槽。引入CPV Gate后，违规率从70.0%降低至36.6%，显著提升了系统安全性。

🎯 应用场景

该研究的潜在应用领域包括智能制造、无人机编队和自动化物流等多机器人协作场景。通过提高多机器人系统的安全性，能够有效防范潜在的通信攻击，从而提升系统的可靠性和安全性，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large Language Models (LLMs) are increasingly used as high-level planners in embodied multi-robot systems, enabling robots to interpret natural language instructions and coordinate executable actions. Yet, this growing reliance on LLM planners also raises security concerns. Prior work has focused mainly on individual robots, while communication risks in multi-robot collaboration remain insufficiently understood. Existing multi-robot studies are further limited to preliminary analysis under the Decentralized Multi-agent System (DMAS) architecture, so it remains unclear whether these risks persist across other common communication architectures and how attacker access settings shape their propagation. To fill this gap, we formulate two communication attacks corresponding to distinct attacker access settings: the External Entry Point Attack and the Privileged In-System Attack. We evaluate both attacks across DMAS, HMAS-1, and HMAS-2 using three LLMs and five embodied multi-robot tasks. Results show that unsafe information can turn into unsafe actions across all three architectures: DMAS reaches a 96.7\% entry endorsement rate and a 100\% post endorsement activation rate, HMAS-1 reaches a 97.8\% unsafe action success rate, and HMAS-2 triggers 88.3\% of task defined unsafe action slots. To mitigate risks from trusted information flow, we introduce the Claim Provenance and Verification (CPV) Gate, which verifies communicated claims before downstream reuse and reduces the violation rate from 70.0\% to 36.6\%.