ARB4WM: An Adversarial Robustness Benchmark for World Models in Continuous Control
作者: Junjian Zhang, Hao Tan, Ruonan Li, Dong Zhu, Aiping Li, Zhaoquan Gu
分类: cs.AI
发布日期: 2026-06-15
备注: 24 pages, 10 figures, 5 tables. Source code available at https://github.com/zaoanguai/ARB4WM
🔗 代码/项目: GITHUB
💡 一句话要点
提出ARB4WM以评估世界模型在连续控制中的对抗鲁棒性
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 对抗鲁棒性 世界模型 评估框架 机器人控制 安全关键系统
📋 核心要点
- 现有方法缺乏统一的基准，无法全面评估世界模型在对抗条件下的鲁棒性。
- 本文提出ARB4WM评估框架，定义多种损失目标，结合不同扰动策略和攻击模式进行评估。
- 实验结果显示，针对价值和潜在动态的攻击同样严重，强调了多层次评估的重要性。
📝 摘要（中文）
世界模型因其在规划和决策中的潜力而广泛应用于机器人和智能控制系统。随着这些系统在安全关键环境中的部署，理解其在对抗条件下的鲁棒性变得至关重要。然而，现有评估缺乏统一的基准来测试世界模型代理在策略、价值和潜在动态层面的对抗威胁。为填补这一空白，本文提出了ARB4WM，一个统一的评估框架，用于在视觉扰动下对世界模型代理进行预部署鲁棒性和风险评估。ARB4WM定义了五个白盒损失目标，并研究了它们在单步或多步扰动策略及时间攻击模式下的组合效果。实验结果表明，针对价值估计、潜在表示和RSSM动态的攻击与直接干扰策略同样具有破坏性，早期或频繁的扰动尤其有害，而输入级防御在自适应攻击下恢复效果有限。
🔬 方法详解
问题定义：本文旨在解决现有世界模型在对抗条件下鲁棒性评估的不足，现有方法未能统一测试策略、价值和潜在动态层面的对抗威胁。
核心思路：提出ARB4WM评估框架，通过定义多种白盒损失目标，结合不同的扰动策略和时间攻击模式，全面评估世界模型代理的鲁棒性。
技术框架：ARB4WM框架包括五个损失目标，针对不同层面进行评估，结合单步和多步扰动策略，以及全帧、半序列和稀疏帧的时间攻击模式。
关键创新：最重要的创新在于提供了一个统一的评估框架，能够同时考虑多个攻击目标和时间暴露协议，超越了传统的仅关注动作空间鲁棒性的方法。
关键设计：论文中设计了五个白盒损失目标，针对价值估计、潜在表示和动态模型进行评估，实验中使用了四种Dreamer风格的代理，涵盖20个任务，展示了不同攻击模式的影响。
🖼️ 关键图片
📊 实验亮点
实验结果表明，针对价值估计和潜在动态的攻击与直接策略干扰同样具有破坏性，早期或频繁的扰动尤其有害。输入级防御在自适应攻击下的恢复效果有限，强调了多层次评估的重要性。整体上，ARB4WM显著提升了对抗鲁棒性评估的全面性和准确性。
🎯 应用场景
该研究的潜在应用领域包括机器人控制、自动驾驶和智能决策系统等安全关键场景。通过评估世界模型在对抗条件下的鲁棒性，可以提高系统的安全性和可靠性，降低在实际应用中的风险。未来，该框架有望推动更安全的智能系统设计与部署。
📄 摘要（原文）
World models are widely used in robotic and agentic engineering control systems due to their ability to learn latent dynamics for planning and decision-making. As these systems are increasingly deployed in safety-critical settings, understanding their robustness under adversarial conditions has become essential. However, existing evaluations lack a unified benchmark for testing adversarial threats across the policy, value, and latent-dynamics levels of world-model agents. To fill this gap, we present ARB4WM, a unified evaluation framework for pre-deployment robustness and risk assessment of world-model agents under visual perturbations. ARB4WM defines five white-box loss objectives across these three levels and studies their effects when combined with single-step or multi-step perturbation strategies and temporal attack modes, including full-frame, half-sequence, and sparse-frame exposure. Specifically, we evaluate four Dreamer-style agents across 20 tasks from MetaWorld and the DeepMind Control Suite under different loss objectives, perturbation strategies, and temporal attack modes. Results show that attacks targeting value estimation, latent representations, and RSSM dynamics can be as damaging as direct policy disruption, and that early or frequent perturbations are especially harmful, while input-level defenses provide limited recovery under adaptive attacks. These findings suggest that safety, risk, and reliability assessment for world models should cover multiple component-oriented attack objectives and temporal exposure protocols rather than relying solely on action-space robustness. Source code is available at https://github.com/zaoanguai/ARB4WM.