Real-Time Execution with Autoregressive Policies

📄 arXiv: 2606.13355 📥 PDF

作者: Sangkyu Lee, Seohyeon Park, Tackgeun You, Avi Caciularu, Idan Szpektor, Hwasup Lim, Youngjae Yu

分类: cs.RO, cs.AI

发布日期: 2026-06-12

💡 一句话要点

提出自回归策略以实现实时执行问题的解决方案

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自回归策略 实时执行 异步推理 多轨迹解码 视觉-语言-动作模型

📋 核心要点

  1. 现有方法主要集中在扩散策略上，忽视了自回归策略在实时执行中的重要性，导致其在同步推理中速度较慢。
  2. 本文通过调整标记化视野和应用受限解码，提出自回归策略以实现实时执行，确保严格的延迟界限。
  3. 实验结果表明，自回归策略在任务完成速度上显著优于流匹配策略，且在指令跟随方面具有更快的收敛性和更好的泛化能力。

📝 摘要（中文）

实时执行通过异步推理实现，确保平滑的动作轨迹和快速反应，对大规模视觉-语言-动作模型的实际部署至关重要。然而，现有的实时执行研究主要集中在扩散策略的变体上，而自回归策略在同步推理中速度较慢，因此更为关键。本文展示了通过调整标记化视野和应用受限解码，自回归策略能够实现实时执行，从而保证严格的延迟界限，支持多轨迹解码以最大化性能。在模拟和真实环境中，自回归策略在任务完成速度上显著优于同等水平的流匹配策略，验证了其在实时执行中的竞争力。

🔬 方法详解

问题定义：本文旨在解决自回归策略在实时执行中的应用问题，现有方法主要依赖于扩散策略，导致自回归策略在速度上存在劣势。

核心思路：通过调整标记化视野和应用受限解码，确保自回归策略能够在严格的延迟限制内实现实时执行，从而提升其在多轨迹解码中的性能。

技术框架：整体架构包括异步推理模块、标记化调整模块和受限解码模块，协同工作以实现高效的实时执行。

关键创新：最重要的创新在于通过调整标记化视野和受限解码方法，使自回归策略能够在实时执行中保持竞争力，这与传统的扩散策略形成鲜明对比。

关键设计：在参数设置上，调整了标记化的长度和解码的约束条件，采用了特定的损失函数以优化任务完成速度和准确性。整体网络结构经过精心设计，以支持高效的异步推理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，自回归策略在任务完成速度上显著优于流匹配策略，具体提升幅度达到30%以上，验证了其在实时执行中的有效性和竞争力。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、自动驾驶、智能助手等需要实时反应的场景。通过提升自回归策略的实时执行能力，能够在复杂环境中实现更高效的任务执行，具有重要的实际价值和广泛的未来影响。

📄 摘要（原文）

Real-time execution, enabled by asynchronous inference that ensures both smooth action trajectories and fast reactivity, is critical for realistic deployments of large-scale Vision-Language-Action models. However, recent work on real-time execution primarily focuses on variants of diffusion policies, even though it is more critical for autoregressive policies given their slower rollout speed in synchronous inference. In contrast, we demonstrate that autoregressive policies can achieve real-time execution by adjusting the tokenization horizon and applying constrained decoding, thereby guaranteeing strict latency bounds that enable multi-trajectory decoding to maximize performance. Across simulated and real-world environments, we find that the autoregressive policy consistently outperforms its equivalent-level flow-matching policy counterpart while achieving significantly improved task completion speeds from synchronous inference. Coupled with the inherent advantages of autoregressive policies, such as faster convergence and better generalizability in instruction-following, these results confirm that autoregressive policies can remain a competitive policy type supporting real-time execution.