ATOM-CBF: Adaptive Safe Perception-Based Control under Out-of-Distribution Measurements

📄 arXiv: 2511.08741v2 📥 PDF

作者: Kai S. Yun, Navid Azizan

分类: cs.RO, eess.SY

发布日期: 2025-11-11 (更新: 2025-11-13)

💡 一句话要点

提出ATOM-CBF，解决感知不确定性下的机器人安全控制问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 安全控制 控制障碍函数 分布外检测 机器人感知 不确定性量化

📋 核心要点

  1. 现有基于学习的感知模块在分布外数据上表现不佳，导致机器人系统安全性难以保证。
  2. ATOM-CBF通过自适应调整感知误差裕度，并将其融入安全滤波器，实现对OoD测量的鲁棒安全控制。
  3. 仿真实验表明，ATOM-CBF能有效保障F1Tenth车辆和四足机器人在感知不确定性下的安全运行。

📝 摘要（中文）

本文提出了一种名为ATOM-CBF（自适应于分布外测量控制障碍函数）的新型安全控制框架，旨在解决现实世界系统中依赖学习感知模块推断系统状态时面临的安全挑战。这些感知模块容易受到认知不确定性的影响，尤其是在遇到训练期间未见过的分布外（OoD）测量时。ATOM-CBF显式计算并适应来自OoD测量的认知不确定性，无需ground-truth标签或分布偏移信息。该方法包含两个关键组成部分：（1）一个OoD感知的自适应感知误差裕度；（2）一个集成该自适应误差裕度的安全滤波器，使滤波器能够实时调整其保守性。通过仿真实验验证了ATOM-CBF在配备激光雷达扫描的F1Tenth车辆和配备RGB图像的四足机器人上的安全性。

🔬 方法详解

问题定义：论文旨在解决机器人系统在依赖学习感知模块时，由于感知模块在遇到分布外(Out-of-Distribution, OoD)数据时产生不确定性，从而导致系统安全性无法保证的问题。现有方法通常依赖于ground-truth标签或分布偏移信息，但在实际应用中这些信息往往难以获取。因此，如何在没有ground-truth标签或分布偏移信息的情况下，保证机器人在OoD测量下的安全运行是一个关键挑战。

核心思路：ATOM-CBF的核心思路是显式地计算和适应来自OoD测量的认知不确定性。通过引入一个OoD感知的自适应感知误差裕度，并将其集成到控制障碍函数(Control Barrier Function, CBF)中，从而使安全滤波器能够实时调整其保守性。这种自适应调整允许系统在不牺牲安全性的前提下，更好地应对OoD测量带来的不确定性。

技术框架：ATOM-CBF框架主要包含两个关键模块：(1) OoD感知的自适应感知误差裕度计算模块：该模块负责估计感知模块在OoD数据上的不确定性，并根据不确定性的大小动态调整感知误差裕度。(2) 安全滤波器：该滤波器基于控制障碍函数(CBF)设计，将自适应感知误差裕度纳入考虑，从而保证系统在感知不确定性下的安全性。整体流程是：首先，感知模块输出系统状态估计；然后，OoD感知模块评估感知不确定性并计算自适应误差裕度；最后，安全滤波器根据状态估计和误差裕度，调整控制输入，确保系统安全。

关键创新：ATOM-CBF的关键创新在于其OoD感知的自适应感知误差裕度计算方法。与传统方法不同，ATOM-CBF不需要ground-truth标签或分布偏移信息，而是直接从OoD测量中估计认知不确定性。这种方法更具实用性，因为它可以在实际应用中更容易地部署。此外，将自适应误差裕度集成到CBF中，使得安全滤波器能够根据感知不确定性动态调整其保守性，从而在安全性和性能之间取得更好的平衡。

关键设计：ATOM-CBF的关键设计包括：(1) OoD不确定性估计方法：具体采用何种方法估计OoD不确定性，论文中可能使用了例如Deep Ensembles或Monte Carlo Dropout等技术，但具体细节需要参考论文正文。(2) 自适应误差裕度调整策略：如何根据OoD不确定性的大小来调整误差裕度，可能涉及到一些参数设置或函数映射关系。(3) CBF的设计：CBF的具体形式，以及如何将自适应误差裕度融入到CBF的约束条件中。这些细节决定了安全滤波器的性能和保守性。

📊 实验亮点

论文通过仿真实验验证了ATOM-CBF的有效性。在F1Tenth车辆和四足机器人平台上，ATOM-CBF能够在感知不确定性下保持系统的安全性，避免碰撞等危险情况的发生。虽然论文摘要中没有给出具体的性能数据和提升幅度，但实验结果表明ATOM-CBF能够显著提高机器人系统在OoD测量下的鲁棒性和安全性。

🎯 应用场景

ATOM-CBF具有广泛的应用前景，可用于各种依赖感知模块的机器人系统，例如自动驾驶汽车、无人机、服务机器人等。该方法能够提高这些系统在复杂和不确定环境中的安全性，降低事故发生的风险。此外，ATOM-CBF还可以应用于其他需要安全保障的控制系统，例如工业自动化、医疗设备等，具有重要的实际价值和潜在的社会影响。

📄 摘要（原文）

Ensuring the safety of real-world systems is challenging, especially when they rely on learned perception modules to infer the system state from high-dimensional sensor data. These perception modules are vulnerable to epistemic uncertainty, often failing when encountering out-of-distribution (OoD) measurements not seen during training. To address this gap, we introduce ATOM-CBF (Adaptive-To-OoD-Measurement Control Barrier Function), a novel safe control framework that explicitly computes and adapts to the epistemic uncertainty from OoD measurements, without the need for ground-truth labels or information on distribution shifts. Our approach features two key components: (1) an OoD-aware adaptive perception error margin and (2) a safety filter that integrates this adaptive error margin, enabling the filter to adjust its conservatism in real-time. We provide empirical validation in simulations, demonstrating that ATOM-CBF maintains safety for an F1Tenth vehicle with LiDAR scans and a quadruped robot with RGB images.