SUN: Persistent Programs For Language-Grounded Control-to-Learning-to-Real Policies

📄 arXiv: 2608.31167v1 📥 PDF

作者: Weiqi Wang, Zhi Li, Yudong Lei, David Martinez, Xiaofeng Gao, Yuxin Jiang, Chenfanfu Jiang, Yingnian Wu, Demetri Terzopoulos, Ran Gong

分类: cs.RO, cs.AI

发布日期: 2026-08-31

💡 一句话要点

提出SUN程序以解决长时间操作中的控制与学习统一问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 长时间操作 模型预测控制 强化学习 任务语义 机器人操作

📋 核心要点

  1. 现有方法在长时间操作中未能有效结合模型驱动控制与学习策略，导致任务语义被忽视。
  2. 本文提出的SUN程序通过定义几何和接触关系，统一了控制与学习过程，确保了任务语义的保留。
  3. Kuafu系统在九个任务中取得82.03%的成功率，显著优于现有基线，展示了其在实际应用中的潜力。

📝 摘要（中文）

在长时间操作中，模型驱动的控制与学习策略之间存在着隐含的矛盾：控制执行特定目标，而学习将这种行为转化为反应式策略，现有协议却忽视了任务语义，导致奖励设计依赖人工，行为偏离控制验证的目标。本文提出了语义统一（SUN）程序，这是一种类型化可执行程序，其中几何和接触关系被定义并编译为一致的模型预测控制（MPC）成本、满足谓词、强化学习奖励、转移保护和诊断。我们的系统Kuafu通过大型视觉语言系统自动从语言和场景语义中合成SUN程序，通过MPC筛选可行性，并在训练阶段保持语义。实验表明，Kuafu在九个任务中实现了82.03%的宏观成功率，显著优于稀疏奖励（35.67%）和阶段BC（24.75%）基线。

🔬 方法详解

问题定义：本文旨在解决长时间操作中模型驱动控制与学习策略之间的矛盾，现有方法往往忽视任务语义，导致奖励设计依赖人工，行为偏离控制验证的目标。

核心思路：提出语义统一（SUN）程序，通过一次性定义几何和接触关系，并将其编译为一致的控制成本和奖励，确保在学习过程中保留任务语义。

技术框架：整体架构包括从语言和场景语义自动合成SUN程序的Kuafu系统，利用模型预测控制（MPC）筛选可行性，并在训练阶段保持语义一致性。

关键创新：最重要的创新在于将控制与学习过程中的任务语义统一，避免了传统方法中对奖励的人工设计，提升了策略的鲁棒性。

关键设计：在技术细节上，SUN程序的设计包括几何和接触关系的类型化定义，MPC成本的编译，以及强化学习奖励的自动生成，确保了系统的高效性和准确性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，Kuafu在九个任务中实现了82.03%的宏观成功率，显著高于稀疏奖励基线的35.67%和阶段BC基线的24.75%。在8192维度的规模下，每小时生成的成功轨迹时间比人类遥控操作提升了10.57倍，展示了其卓越的性能。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动化制造和智能家居等场景。通过有效结合控制与学习，SUN程序能够提升机器人在复杂环境中的自主操作能力，具有重要的实际价值和广泛的未来影响。

📄 摘要（原文）

Bridging model-based control and learned policies in long-horizon manipulation has harbored a silent disagreement: control executes specified objectives, learning amortizes that behavior into a reactive policy, yet existing protocols discard task semantics, leaving rewards hand-crafted and behavior drifting from what control verified.We introduce Semantically UNified (SUN) Programs, typed executables where geometric and contact relations are defined once and compiled into aligned Model Predictive Control (MPC) costs, satisfaction predicates, RL rewards, transition guards, and diagnostics. Our system, Kuafu, driven by large vision language systems, automatically synthesizes SUN Programs from language and scene semantics, screens feasibility via MPC, and retains semantics while training stage-conditioned policies. Across nine tasks, Kuafu achieves 82.03% macro-success, outperforming sparse-reward (35.67%) and Stage-BC (24.75%) baselines. At 8192-way scale, it generates 10.57x the successful trajectory time per hour of human teleoperation. With 500 trajectories per task, Kuafu data trains DP3 policies to 46.0% simulation success (vs. 22.4% for alternatives) and 34.7% on physical Franka and Kinova robots. These results establish that simulation-screened task semantics can effectively amortize control into robust policies, without demonstrations or manual dense rewards, unifying symbolic planning and data-driven execution.