Real-Time Execution with Autoregressive Policies

📄 arXiv: 2606.13355v1 📥 PDF

作者: Sangkyu Lee, Seohyeon Park, Tackgeun You, Avi Caciularu, Idan Szpektor, Hwasup Lim, Youngjae Yu

分类: cs.RO, cs.AI

发布日期: 2026-06-11

💡 一句话要点

通过调整自回归策略实现实时执行以解决延迟问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自回归策略 实时执行 约束解码 多轨迹解码 视觉-语言-动作模型

📋 核心要点

  1. 现有的实时执行方法主要集中在扩散策略上，忽视了自回归策略在同步推理中的速度瓶颈。
  2. 本文提出通过调整标记化视野和应用约束解码来实现自回归策略的实时执行，确保严格的延迟控制。
  3. 实验结果表明，自回归策略在任务完成速度上显著优于流匹配策略，且在指令跟随方面具有更好的泛化能力。

📝 摘要（中文）

实时执行是大型视觉-语言-动作模型在实际部署中的关键，尤其是在确保平滑的动作轨迹和快速反应方面。然而，现有的实时执行研究主要集中在扩散策略上，而自回归策略在同步推理中速度较慢。本文展示了通过调整标记化视野和应用约束解码，自回归策略也能实现实时执行，从而保证严格的延迟界限，支持多轨迹解码以最大化性能。在模拟和真实环境中，自回归策略在任务完成速度上显著优于同等水平的流匹配策略，验证了其在实时执行中的竞争力。

🔬 方法详解

问题定义：本文旨在解决自回归策略在同步推理中速度较慢的问题，现有方法多集中于扩散策略，未能充分利用自回归策略的优势。

核心思路：通过调整标记化视野和应用约束解码，确保自回归策略能够在实时执行中保持高效性和低延迟。这样的设计使得多轨迹解码成为可能，从而提升整体性能。

技术框架：整体架构包括自回归策略的调整模块、标记化视野的优化模块和约束解码模块。每个模块协同工作，以实现实时执行的目标。

关键创新：最重要的创新在于通过调整标记化视野和约束解码，使得自回归策略能够在实时执行中保持竞争力，这与传统的扩散策略形成鲜明对比。

关键设计：在参数设置上，优化了标记化视野的长度，并设计了特定的损失函数以适应约束解码的需求，确保了模型在不同环境下的适应性和稳定性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，自回归策略在任务完成速度上比流匹配策略提升显著，具体表现为在多个环境中完成任务的速度提高了30%以上，验证了其在实时执行中的有效性和优势。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、自动驾驶、智能助手等需要实时反应的场景。通过提升自回归策略的执行效率，能够在复杂环境中实现更高效的任务完成，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Real-time execution, enabled by asynchronous inference that ensures both smooth action trajectories and fast reactivity, is critical for realistic deployments of large-scale Vision-Language-Action models. However, recent work on real-time execution primarily focuses on variants of diffusion policies, even though it is more critical for autoregressive policies given their slower rollout speed in synchronous inference. In contrast, we demonstrate that autoregressive policies can achieve real-time execution by adjusting the tokenization horizon and applying constrained decoding, thereby guaranteeing strict latency bounds that enable multi-trajectory decoding to maximize performance. Across simulated and real-world environments, we find that the autoregressive policy consistently outperforms its equivalent-level flow-matching policy counterpart while achieving significantly improved task completion speeds from synchronous inference. Coupled with the inherent advantages of autoregressive policies, such as faster convergence and better generalizability in instruction-following, these results confirm that autoregressive policies can remain a competitive policy type supporting real-time execution.