VLA Policies Do Not Know When Not to Act: Unintended Task Execution and Start Suppression

📄 arXiv: 2610.41609v1 📥 PDF

作者: Minsu Jang, Jae-Woo Choi, Youngwoo Yoon, Dohyung Kim

分类: cs.RO, cs.AI

发布日期: 2026-10-30

备注: 17 pages, 3 figures, 13 tables. Code: https://github.com/zebehn/vla-start-suppression

💡 一句话要点

提出VLA政策以解决机器人无指令行动问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-行动 机器人控制 无效指令 启动抑制 人机交互

📋 核心要点

  1. 核心问题：现有的VLA政策在缺失或无效指令时，机器人仍会执行意外任务，存在安全隐患。
  2. 方法要点：提出三种抑制机器人启动的方法，包括指令前缀、门控机制和策略微调。
  3. 实验或效果：实验表明，机器人在无效指令下仍会启动，且抑制方法效果有限，未能完全解决问题。

📝 摘要（中文）

机器人应仅在接收到人类指令或明确生成的意图时行动。无指令的意外行为可能对人类和环境造成风险或不便。本文研究了在缺失或无效指令情况下，视觉-语言-行动（VLA）政策的响应。通过在LIBERO-Goal模拟中对六个模型检查点进行实验，发现即使指令为空，机器人仍会启动并执行未指定的任务。针对这一问题，提出了三种抑制启动的方法，但效果不尽如人意，尤其是在无效指令下，机器人仍然会启动。

🔬 方法详解

问题定义：本文旨在解决机器人在缺失或无效指令情况下的意外启动问题。现有的VLA政策未能有效区分有效与无效指令，导致机器人在不应行动时仍然启动，增加了风险和不便。

核心思路：论文提出通过修改指令和引入控制机制来抑制机器人的启动行为。具体而言，设计了三种方法来防止机器人在无任务指令下启动，以确保机器人仅在接收到明确指令时才进行动作。

技术框架：整体架构包括三个主要模块：指令解析模块、启动控制模块和任务执行模块。指令解析模块负责分析输入指令，启动控制模块根据解析结果决定机器人是否启动，任务执行模块则在启动后执行指定任务。

关键创新：最重要的技术创新在于引入了门控机制和指令前缀，尝试通过这些方法来控制机器人在无效指令下的行为。这与现有方法的本质区别在于，现有方法通常未考虑指令的有效性，而是直接执行。

关键设计：在设计中，指令前缀“如果没有任务则不移动”未能在所有检查点中有效抑制启动；门控机制在五个检查点中有效，但在无效指令下仍然启动；微调策略在非任务输入下未能可靠保持机器人静止，且对无效指令的抑制效果不佳。

📊 实验亮点

实验结果显示，机器人在所有六个检查点中均在无指令情况下启动，并且在五个检查点中完成了未指定的任务。尽管提出的抑制方法未能在所有情况下有效，但门控机制在五个检查点中成功抑制了非任务输入的启动，显示出一定的改进潜力。

🎯 应用场景

该研究的潜在应用领域包括服务机器人、工业自动化和人机交互等场景。通过改进机器人在无指令情况下的行为控制，可以显著提高机器人的安全性和可靠性，减少对人类和环境的潜在风险。未来，随着技术的进步，这些方法有望在更广泛的应用中得到推广。

📄 摘要（原文）

A robot should act only on an instruction from a person or on an intent that the robot explicitly represents and generates. Unintended actions taken without such an instruction can cause risk or inconvenience to people and the environment. We examine how recent vision-language-action (VLA) policies respond when the instruction is missing or meaningless. We apply a paired protocol with empty, neutral, nonsense, infeasible, and wrong-task instructions to six model checkpoints in LIBERO-Goal simulation. Holding the initial state fixed and varying only the instruction, we ask three questions: whether the robot starts to move, which task it completes, and what the instruction determines. Even when the instruction was empty, the robot started moving in every episode with all six checkpoints, and with five of them it often completed a task that the instruction had not specified. On two GR00T checkpoints, the instruction determined which task was executed but not whether the robot started moving; the robot moved even on infeasible instructions. We then tested three methods for suppressing the start: prepending "if no task is given do not move" to the instruction; a gate that holds the robot when the first action chunk for the given instruction nearly equals that for an empty instruction; and fine-tuning the policy to hold still on non-task inputs. The prefix stopped the robot in none of the six checkpoints, and the gate held it on non-task inputs in five of the six checkpoints. The fine-tuned policy never completed a task on non-task inputs, but it did not reliably keep the robot still, and it failed to suppress the start on infeasible instructions.