Exploring multimodal implicit behavior learning for vehicle navigation in simulated cities

📄 arXiv: 2509.15400v1 📥 PDF

作者: Eric Aislan Antonelo, Gustavo Claudio Karl Couto, Christian Möller

分类: cs.LG, cs.AI, cs.RO

发布日期: 2025-09-18

备注: ENIAC conference

💡 一句话要点

提出数据增强隐式行为克隆，解决城市车辆导航多模态决策问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自动驾驶 行为克隆 多模态学习 能量模型 数据增强

📋 核心要点

  1. 传统行为克隆在多模态驾驶场景中表现不佳，无法有效学习多种合理的驾驶策略。
  2. 论文提出数据增强隐式行为克隆(DA-IBC)，利用能量模型学习多模态动作分布，并使用数据增强提升训练效果。
  3. 在CARLA模拟器上的实验表明，DA-IBC在城市驾驶任务中显著优于标准IBC，验证了其学习多模态行为的能力。

📝 摘要（中文）

标准行为克隆(BC)无法学习多模态驾驶决策，即同一场景存在多个有效动作的情况。本文探索了基于能量模型(EBMs)的隐式行为克隆(IBC)，以更好地捕捉这种多模态性。我们提出了数据增强IBC(DA-IBC)，通过扰动专家动作来形成IBC训练的反例，并为无导数推理使用更好的初始化，从而改进学习效果。在CARLA模拟器中使用鸟瞰图输入的实验表明，DA-IBC在城市驾驶任务中优于标准IBC，该任务旨在评估测试环境中的多模态行为学习。学习到的能量场能够表示多模态动作分布，而BC无法实现这一点。

🔬 方法详解

问题定义：论文旨在解决城市车辆导航中，由于驾驶行为的多样性导致的传统行为克隆方法失效的问题。在同一驾驶场景下，可能存在多种合理的驾驶动作，而传统行为克隆方法倾向于学习单一的平均行为，无法捕捉这种多模态性。现有方法的痛点在于无法有效建模和学习这种多模态的动作分布。

核心思路：论文的核心思路是利用能量模型(EBMs)来学习动作的能量函数，从而隐式地表示多模态动作分布。通过最小化专家动作的能量，同时最大化非专家动作的能量，EBM能够学习到不同动作的合理性程度。此外，论文还引入数据增强策略，通过扰动专家动作生成反例，进一步提升模型的学习能力。

技术框架：DA-IBC的整体框架包括以下几个主要步骤：1) 使用CARLA模拟器生成驾驶场景数据，包括鸟瞰图输入和专家驾驶动作。2) 使用能量模型(EBM)学习动作的能量函数。3) 使用数据增强策略，通过扰动专家动作生成反例。4) 使用隐式行为克隆(IBC)损失函数训练EBM，最小化专家动作的能量，同时最大化反例动作的能量。5) 在测试阶段，使用无导数优化方法，在给定场景下找到能量最低的动作。

关键创新：论文的关键创新在于：1) 提出数据增强隐式行为克隆(DA-IBC)，结合了能量模型和数据增强策略，能够有效学习多模态驾驶行为。2) 使用数据增强生成反例，提高了IBC训练的效率和稳定性。3) 针对无导数推理，提出了更好的初始化方法，提升了推理性能。与现有方法的本质区别在于，DA-IBC能够学习多模态动作分布，而传统行为克隆方法只能学习单一的平均行为。

关键设计：论文的关键设计包括：1) 能量模型的网络结构，例如可以使用卷积神经网络提取图像特征，然后使用全连接层预测动作的能量值。2) 数据增强策略，例如可以对专家动作添加高斯噪声或进行随机变换。3) 隐式行为克隆(IBC)损失函数，例如可以使用hinge loss或log loss来区分专家动作和反例动作。4) 无导数优化方法的选择，例如可以使用CMA-ES算法来寻找能量最低的动作。

📊 实验亮点

DA-IBC在CARLA模拟器的城市驾驶任务中取得了显著的性能提升。实验结果表明，DA-IBC能够学习到多模态动作分布，并能够生成更加多样化的驾驶行为。与标准IBC相比，DA-IBC在多个指标上均有提升，例如成功率、平均速度等。此外，实验还验证了数据增强策略和更好的初始化方法对性能的提升效果。

🎯 应用场景

该研究成果可应用于自动驾驶车辆的决策控制系统，尤其是在城市复杂交通环境中，车辆需要根据不同的驾驶场景做出多种合理的决策。通过学习多模态驾驶行为，自动驾驶车辆可以更好地适应不同的驾驶风格和交通状况，提高驾驶的安全性和舒适性。未来，该技术还可以扩展到其他机器人控制领域，例如无人机、服务机器人等。

📄 摘要（原文）

Standard Behavior Cloning (BC) fails to learn multimodal driving decisions, where multiple valid actions exist for the same scenario. We explore Implicit Behavioral Cloning (IBC) with Energy-Based Models (EBMs) to better capture this multimodality. We propose Data-Augmented IBC (DA-IBC), which improves learning by perturbing expert actions to form the counterexamples of IBC training and using better initialization for derivative-free inference. Experiments in the CARLA simulator with Bird's-Eye View inputs demonstrate that DA-IBC outperforms standard IBC in urban driving tasks designed to evaluate multimodal behavior learning in a test environment. The learned energy landscapes are able to represent multimodal action distributions, which BC fails to achieve.