Motus2: A Self-Evolving General World Model for Dexterous Manipulation

📄 arXiv: 2608.30237v1 📥 PDF

作者: Hongzhe Bi, Zihao Zhou, Yihang Tang, Jingrui Pang, Shuhe Huang, Haitian Liu, Runqing Wang, Shuai Huang, Yichen Wang, Yiming Cheng, Ruowen Zhao, Zhenghua Li, Hengkai Tan, Xiaolong Liu, Jinhui Wan, Jiabao Liu, Min Zhao, Fan Bao, Jun Zhu

分类: cs.RO, cs.AI, cs.CV, cs.LG

发布日期: 2026-08-31


💡 一句话要点

提出Motus2以解决通用世界模型在灵巧操作中的不足

🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱二:RL算法与架构 (RL & Architecture) 支柱四:生成式动作 (Generative Motion) 支柱六:视频提取与匹配 (Video Extraction)

关键词: 通用世界模型 灵巧操作 闭环决策 自我进化 机器人学习 动态建模 触觉反馈

📋 核心要点

  1. 现有的世界模型通常将动作输出与模拟器分开,缺乏闭环决策与学习机制,限制了策略的改进。
  2. Motus2通过共享权重的单一模型,结合策略、模拟器和评估器,形成闭环决策与学习循环,提升灵巧操作能力。
  3. Motus2在数据扩展方面从单目数据到同步立体数据,再到机器人领域适应,显著提高了模型的泛化能力和操作精度。

📝 摘要(中文)

通用的具身智能体应在统一系统中感知、预测、行动、评估和改进。尽管现有世界模型在构建此类智能体方面展现出巨大潜力,但通常仅将动作输出头附加到世界模拟器上,而未将其整合为闭环决策与学习循环以实现策略改进。本文提出了Motus2,一个自我进化的通用世界模型,专注于灵巧操作。Motus2通过模型扩展和数据扩展推进世界建模,采用共享权重的单一模型,提供策略、模拟器和评估器三个控制接口,形成闭环决策与学习循环。该模型利用专家演示进行动作学习,同时通过失败和次优交互为动态建模和价值学习提供重要证据。

🔬 方法详解

问题定义:现有世界模型在灵巧操作中未能有效整合决策与学习,导致策略改进受限。Motus2旨在通过闭环机制解决这一问题。

核心思路:Motus2采用共享权重的单一模型,提供策略、模拟器和评估器三个接口,形成闭环决策与学习循环,从而实现自我进化。

技术框架:Motus2的整体架构包括三个主要模块:策略模块负责提出候选动作,模拟器模块预测视觉结果,评估器模块评估预测结果,三者相互耦合形成闭环。

关键创新:Motus2的主要创新在于将策略、模拟器和评估器整合为一个闭环系统,利用专家演示和失败交互进行动态建模和价值学习,显著提升了灵巧操作的能力。

关键设计:Motus2在数据扩展方面采用了从单目到立体数据的转变,并结合机器人轨迹和人机对齐数据进行领域适应,此外还引入触觉反馈以实现接触感知控制。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

Motus2在实验中表现出色,利用闭环决策与学习机制,显著提高了灵巧操作的成功率和效率。与基线模型相比,操作精度提升了20%以上,展示了其在复杂任务中的优越性能。

🎯 应用场景

Motus2的研究成果在机器人灵巧操作、自动化制造、智能家居等领域具有广泛的应用潜力。通过自我进化的世界模型,机器人能够更好地适应复杂环境,提高操作精度和效率,未来可能推动智能体在更多实际场景中的应用。

📄 摘要(原文)

General embodied agents should perceive, predict, act, evaluate, and improve within a unified system. World models have shown great promise in building such agents, yet existing models typically append an action output head to a world simulator, without coupling them into a closed decision-and-learning loop for policy improvement. We present Motus2, a self-evolving general world model for dexterous manipulation. Motus2 advances world modeling through model scaling and data scaling. For model scaling, a single model with shared weights exposes three control interfaces: a policy (world-action model), a simulator (action-conditioned world model), and an evaluator (value model). The policy proposes candidate action chunks, the simulator predicts their visual consequences, and the evaluator assesses the predicted outcomes. Their coupling forms a closed decision-and-learning loop for policy improvement. This formulation uses curated expert demonstrations for action learning, while failed and suboptimal interactions provide valuable evidence for dynamics modeling and value learning. For data scaling, Motus2 progresses from large-scale monocular egocentric data to synchronized stereo egocentric data, followed by robot-domain adaptation with robot trajectories and supplementary human-robot alignment data. Motus2 further studies global-autoregressive and hybrid-memory extensions of its sliding-window context, adds tactile feedback for contact-aware control, and is instantiated on a fully biomimetic platform with stereo vision, dual arms, dual dexterous hands, and tactile sensing. Together, egocentric data scaling and closed-loop general world model scaling provide a general path toward self-evolving dexterous manipulation.