Early Warning Signals for OpenVLA Failure under Visual Distribution Shift
作者: Dipesh Tharu Mahato, Rachel Ren
分类: cs.CV, cs.AI
发布日期: 2026-06-29
备注: 10 pages, 1 figure, 5 tables
💡 一句话要点
提出监测机制以应对OpenVLA在视觉分布变化下的失败预警
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 视觉语言模型 任务失败预测 内部激活监测 动态环境适应 可解释性增强
📋 核心要点
- 现有的视觉语言行动模型在视觉条件变化时，难以有效诊断其失败原因，影响其可靠性。
- 本文提出通过监测OpenVLA的内部激活，利用线性可解信息预测近期任务失败，增强模型的可解释性。
- 实验结果表明，经过遮挡测试后，监测器在失败预测上表现优异，AUROC达到0.972，显示出显著的性能提升。
📝 摘要（中文）
视觉语言行动模型将感知、语言基础和控制结合在单一策略中，但在视觉条件变化后，其失败难以诊断。本文测试OpenVLA前馈激活是否包含关于近期任务失败的线性可解信息。通过记录执行过程中的内部激活并在收集完回放后拟合轻量级监测器，发现遮挡是主要的控制压力测试，导致OpenVLA成功率从57%降至17%。在这一变化下，第16层的逻辑探测器在15步预测失败的AUROC达到0.972，AUPRC为0.352，超越了均值差异方向和动作不一致基线。
🔬 方法详解
问题定义：本文旨在解决视觉语言行动模型在视觉条件变化时的失败诊断问题。现有方法在面对视觉分布变化时，缺乏有效的监测和预警机制，导致模型的可靠性降低。
核心思路：论文的核心思路是通过分析OpenVLA的内部激活，提取与任务失败相关的信息，构建轻量级监测器来预测失败。这种设计旨在提高模型在动态环境中的适应性和可解释性。
技术框架：整体架构包括三个主要模块：首先是执行阶段，记录OpenVLA的内部激活；其次是数据收集阶段，收集回放数据；最后是监测器拟合阶段，使用逻辑回归模型对激活数据进行分析和预测。
关键创新：最重要的技术创新在于通过对不同层次的激活进行分析，发现第16层的激活信息在失败预测中最为有效，这一发现为理解模型内部机制提供了新的视角。
关键设计：在实验中，使用逻辑回归作为监测器，设置了不同的层次进行稀疏层扫描，发现层16的解码能力最强，层8仍然提供有用信息，而层10的表现较弱。
🖼️ 关键图片
📊 实验亮点
实验结果显示，在遮挡测试下，OpenVLA的成功率从57%降至17%。第16层的逻辑探测器在15步内预测失败的AUROC达到0.972，AUPRC为0.352，显著优于均值差异方向和动作不一致基线，表明该监测机制的有效性。
🎯 应用场景
该研究的潜在应用领域包括机器人操作、自动驾驶和智能监控等场景，能够提高系统在动态环境中的可靠性和安全性。通过有效的失败预警机制，能够在实际应用中减少事故发生，提升用户信任度，未来可能推动更广泛的智能系统部署。
📄 摘要（原文）
Vision Language Action models combine perception, language grounding, and control in a single policy, but their failures are hard to diagnose once visual conditions shift. We test whether OpenVLA feedforward activations contain linearly decodable information about near term task failure in LIBERO manipulation rollouts. The policy is fixed throughout. We log internal activations during execution and fit lightweight monitors after the rollouts are collected. Occlusion is the main controlled stress test. It reduces OpenVLA success from $57\%$ to $17\%$ over $100$ episodes per condition. Under this shift, a logistic probe at layer 16 reaches AUROC $0.972$ and AUPRC $0.352$ for predicting failure within a $15$ step horizon. It outperforms both a mean difference direction and an action disagreement baseline. A sparse layer sweep finds uneven decodability across depth: layer 16 is strongest among the tested layers, layer 8 remains informative, and layer 10 is weaker. To check whether the monitor is just an occlusion detector, we also evaluate color shift and camera jitter without refitting. Color shift produces no failures in this setting, so it is a benign control rather than a failure benchmark. Camera jitter does induce failures, and the occlusion trained monitor remains above random. The result is deliberately limited: OpenVLA internal states contain failure relevant structure under controlled perceptual shift, but these experiments do not establish a causal mechanism, task held out generalization, or a deployable recovery system.