MANIGUARD: A Benchmark and Data Suite for Specification-Grounded Safety Evaluation and Improvement of Robotic Manipulation

📄 arXiv: 2608.17386v1 📥 PDF

作者: Yiyan Peng, Philip Wang, Simon Sinong Zhan, Yiqi Lyu, Zhenyang Ni, Jixin Yan, Fiorelli Wong, Ruochen Jiao, Hang Yin, Xinyu Cao, Huajie Shao, Manling Li, Ruohan Zhang, Qi Zhu

分类: cs.RO

发布日期: 2026-08-18

💡 一句话要点

提出MANIGUARD框架以评估和提升机器人操作的安全性

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 机器人操作 安全评估 基础模型 任务成功 轨迹生成 微调 自动监控

📋 核心要点

  1. 现有的基础模型策略在机器人操作任务中成功率高，但缺乏对安全性的严格评估。
  2. MANIGUARD框架通过引入规范基础的评估方法，结合任务套件和安全注释轨迹生成，提升安全性评估的有效性。
  3. 实验显示，微调后安全任务完成率从接近零提升至7.5-29.8%，但仍有21-42%的任务违反安全规范，表明安全性提升仍需努力。

📝 摘要（中文）

基础模型策略在机器人操作任务成功率上迅速提升，但对其安全性评估仍显不足。本文提出了MANIGUARD，一个基于规范的框架，用于评估和改善基础模型操作的安全性。该框架包括MANIGUARD-Bench任务套件和配对的安全注释轨迹生成管道。MANIGUARD-Bench将六个接触丰富的家庭任务组织为200个锁定基础任务，安全性独立于任务成功进行评估。每个任务在固定安全规范下进行评估，提供1000个锁定场景。实验结果表明，安全性必须独立于任务成功进行评估，且通过微调，安全任务完成率显著提高，但仍存在一定的安全性缺口。

🔬 方法详解

问题定义：本文旨在解决基础模型在机器人操作中的安全性评估不足的问题。现有方法往往将任务成功与安全性混为一谈，导致安全隐患未被充分识别。

核心思路：MANIGUARD框架通过独立于任务成功的安全规范评估，提供了一种新的评估方式，并结合自动化生成和人类遥控的轨迹生成管道，以提升安全性。

技术框架：MANIGUARD框架包括两个主要模块：MANIGUARD-Bench任务套件和安全注释轨迹生成管道。任务套件组织了200个基础任务，轨迹生成管道则结合了自动运动规划与人类遥控。

关键创新：最重要的创新在于引入了LTL$_f$-基础的自动机监控，使用物理基础的谓词进行实时检查，而非依赖于学习分类器或大型语言模型的判断。这种方法提高了安全性评估的准确性和可靠性。

关键设计：在实验中，使用了8,000个安全注释的演示数据，40个每个基础任务，评估了零-shot和微调的视觉语言模型在23,000多个回合中的表现。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，安全性必须独立于任务成功进行评估，6-21%的成功回合仍违反安全规范。微调后，安全任务完成率从接近零提升至7.5-29.8%，而安全行为的参与率从16-40%提升至51-72%。然而，仍有21-42%的参与回合违反安全规范，显示出安全性提升的挑战。

🎯 应用场景

该研究的潜在应用领域包括家庭服务机器人、工业自动化和医疗机器人等。通过提升机器人操作的安全性，MANIGUARD框架能够在实际应用中减少事故风险，提高用户信任度，推动机器人技术的广泛应用。

📄 摘要（原文）

Foundation-model policies for robotic manipulation are advancing rapidly on task success, but rigorous evaluation of whether they succeed safely is still lacking. We introduce ManiGuard, a specification-grounded framework for evaluating and improving the safety of foundation-model manipulation, comprising the ManiGuard-Bench task suite and a paired safety-annotated trajectory-generation pipeline. ManiGuard-Bench organizes six contact-rich household task families into 200 locked base tasks along a skill $\times$ constraint taxonomy, with safety specified independently of task success. Each task is evaluated under one in-distribution and four single-axis out-of-distribution perturbations that hold the safety specification fixed, giving 1,000 locked scenarios. Every rollout is runtime-checked by LTL$_f$-grounded automaton monitors over physics-grounded predicates rather than learned classifiers or LLM judges, in simulation and on a physical Franka platform. The pipeline pairs an automated motion-planning generator with human teleoperation, annotated by the same per-step monitor, and directly supports safety-aware fine-tuning; we release 8,000 safety-annotated demonstrations, 40 per base task. Benchmarking zero-shot and fine-tuned VLAs across more than 23,000 rollouts, we find: (i) safety must be evaluated independently of task success, as 6-21% of successful rollouts violate the specification; (ii) fine-tuning on our suite raises safe task completion from near zero to 7.5-29.8% and engaged-and-safe behavior from 16-40% to 51-72%; but (iii) a gap remains that scaling demonstrations does not close, with 21-42% of engaged rollouts still violating, two of six families below 2% safe success for every policy, and these failures persisting under distribution shift and on hardware.