When and How Severely: Scenario-Specific Safety Envelopes for Driving VLAs

📄 arXiv: 2606.14238v1 📥 PDF

作者: Abhinaw Priyadershi, Jelena Frtunikj

分类: cs.RO, cs.AI

发布日期: 2026-06-12

💡 一句话要点

提出场景特定安全包以解决VLA驾驶规划的安全认证问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 安全认证 高斯混合模型 自动驾驶 复杂场景分析 安全包设计 ISO 21448 失败模式识别

📋 核心要点

  1. 现有的安全认证方法未能充分考虑不同场景下的失败严重性，导致安全评估不够全面。
  2. 论文提出了一种基于场景特定的安全包设计，通过分析不同扰动条件下的失败模式，提供更细致的安全评估。
  3. 实验结果表明，某些场景虽然容忍更大的噪声阈值，但其高严重性失败率却显著高于其他场景，强调了安全评估的复杂性。

📝 摘要（中文）

本文探讨了在ISO 21448（SOTIF）框架下，如何为视觉-语言-动作（VLA）驾驶规划者进行安全认证。研究评估了Alpamayo R1这一10B参数的开放权重VLA，分析了15,968对（剪辑，攻击）。结果显示，在15%的平均位移误差（ADE）预算下，保守的安全阈值σ≤50掩盖了能够容忍更高σ（如70）的场景。通过对变化解释子集应用高斯混合模型（GMM），识别出六个离散的严重性等级，发现同一均值误差下的两种扰动条件在高严重性（C4/C5）失败的比例上存在显著差异。最终，提出的SOTIF ODD规范要求为驾驶VLA设计二维安全包，而非单一的聚合值。

🔬 方法详解

问题定义：本文旨在解决VLA驾驶规划者在安全认证中的不足，特别是如何在不同场景下评估失败的时机和严重性。现有方法通常只提供单一的安全阈值，未能反映复杂的场景特性。

核心思路：论文的核心思路是通过构建二维安全包，结合不同场景的噪声容忍度与失败严重性，提供更全面的安全评估框架。这种设计能够更好地反映实际驾驶环境中的复杂性。

技术框架：整体架构包括数据收集、场景分析、GMM建模和安全包生成四个主要模块。首先收集大量的（剪辑，攻击）对，然后分析不同场景下的失败模式，最后生成相应的安全包。

关键创新：最重要的技术创新在于识别出六个离散的严重性等级，并揭示了同一均值误差下不同扰动条件的高严重性失败比例差异。这一发现与现有方法的单一聚合值评估形成鲜明对比。

关键设计：在实验中，采用了高斯混合模型（GMM）对变化解释子集进行建模，确定了最佳的聚类数（BIC-optimal k=6），并通过分析不同场景的噪声阈值与失败率，优化了安全包的设计。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，在15%的平均位移误差预算下，保守的安全阈值σ≤50掩盖了能够容忍更高σ（如70）的场景。此外，STOP_SIGNAL场景的高严重性失败率是LANE_KEEPING的四倍，强调了不同场景下安全评估的重要性。

🎯 应用场景

该研究的潜在应用领域包括自动驾驶系统的安全认证、智能交通管理以及机器人导航等。通过提供更细致的安全评估框架，可以显著提升自动驾驶技术在复杂环境下的安全性和可靠性，推动相关技术的实际应用和发展。

📄 摘要（原文）

Safety certification of Vision-Language-Action (VLA) driving planners under ISO 21448 (SOTIF) rests on an Operational Design Domain (ODD) specification that answers two complementary questions: when does the planner start to fail, and how severely does it fail once it does? We evaluate Alpamayo R1, a 10B-parameter open-weight driving VLA, on 15,968 (clip, attack) pairs. We find a conservative-aggregate gap: an aggregate safe threshold of $σ\leq 50$ under a 15% average displacement error (ADE) budget masks well-sampled scenarios that tolerate the top of the tested grid ($σ= 70$). A Gaussian Mixture Model (GMM) on the changed-explanation subset identifies six discrete severity bands (BIC-optimal $k{=}6$), so two perturbation conditions with the same mean error can differ materially in their share of high-severity (C4/C5) failures. Joining the two analyses on the same corpus surfaces a finding neither yields in isolation: the scenarios with the loosest noise thresholds are not those with the lowest high-severity rate: STOP_SIGNAL concentrates roughly $4\times$ the C4/C5 share of LANE_KEEPING despite tolerating a larger $σ$. A deployable SOTIF ODD specification for driving VLAs therefore requires a two-dimensional safety envelope, not a single aggregate value per hazard.