SPT-Flow: One Integration, Many Futures in Continuous-Time World Models

📄 arXiv: 2610.41273v1 📥 PDF

作者: Mingyang Lyu, Yinqian Sun, Gongce Cao, Yuhao Zhang, Lu Jia, Qian Zhang, Bo Wang, Pin Lyu

分类: cs.LG

发布日期: 2026-10-30

备注: 19 pages, including appendices


💡 一句话要点

提出SPT-Flow以解决连续时间世界模型中的随机条件利用问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 连续时间模型 潜在变量 ODE 状态匹配 重建质量 机器人控制 动态环境

📋 核心要点

  1. 现有方法在引入随机条件时,模型未能有效利用这些信息,导致重建效果不佳。
  2. SPT-Flow通过在轨迹中采样一个潜在变量,并在多个时间点与演示状态匹配,来增强模型的表现。
  3. 在LIBERO数据集上,SPT-Flow显著提高了重建质量,并在推理效率上保持竞争力。

📝 摘要(中文)

连续时间世界模型通过单次ODE积分生成潜在轨迹,但添加随机条件并不能确保模型有效利用。本文提出SPT-Flow,通过在多个读取时间点将自由运行的ODE展开与演示状态匹配,来改善潜在信息的利用。实验结果表明,SPT-Flow在LIBERO数据集上相较于重训练的ODEWorld基线在中间轨迹和最终帧的PSNR分别提高了2.0和2.4 dB,同时减少了23%的平均LPIPS,且每样本推理成本相当。

🔬 方法详解

问题定义:本文旨在解决连续时间世界模型中随机条件利用不足的问题。现有方法在引入随机条件后,模型的后验均值与先验规模变化极小,导致重建效果不理想。

核心思路:SPT-Flow的核心思想是通过在每条轨迹中采样一个潜在变量,并将其与自由运行的ODE展开在多个时间点进行匹配,从而增强模型对潜在信息的利用。这样的设计旨在减少对轨迹相关潜在信息的依赖,同时提高重建质量。

技术框架:SPT-Flow的整体架构包括潜在变量的采样模块、ODE展开模块和状态匹配模块。首先,从轨迹中采样潜在变量,然后通过ODE进行自由运行,最后在多个时间点与真实演示状态进行匹配。

关键创新:SPT-Flow的主要创新在于其通过单次潜在变量采样和多时间点匹配的方式,显著提高了模型对潜在信息的利用效率。这一方法与传统的随机条件引入方式有本质区别,后者往往未能有效利用这些信息。

关键设计:在模型设计中,关键参数设置包括ODE的积分步长、潜在变量的采样策略以及损失函数的选择。损失函数不仅考虑重建误差,还引入了对潜在变量的正则化,以确保模型在训练过程中的稳定性和有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在LIBERO数据集上,SPT-Flow在经过30k优化步骤后,相较于重训练的ODEWorld基线,在中间轨迹和最终帧的PSNR分别提高了2.0和2.4 dB,同时平均LPIPS减少了23%。这些结果表明SPT-Flow在重建质量和推理效率上均有显著提升。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、自动驾驶和虚拟现实等场景。通过提高模型对潜在信息的利用效率,SPT-Flow能够在复杂动态环境中实现更高质量的状态重建和预测,具有重要的实际价值和未来影响。

📄 摘要(原文)

Continuous-time world models generate a latent trajectory through a single ODE integration, but adding stochastic conditioning does not ensure that the model uses it. In our teacher-forced baseline, posterior means vary by only about 1% of the prior scale, and matched and swapped latents yield indistinguishable reconstruction PSNR at the reported precision. We study a supervision-shortcut hypothesis: ground-truth intermediate states can reduce the need for trajectory-associated latent information. We introduce SPT-Flow, which samples one latent per trajectory and matches a free-running ODE rollout to demonstration states at multiple readout times. Re-anchoring experiments support the proposed mechanism. On LIBERO, with both models trained for 30k optimizer steps, SPT-Flow improves best-of-10 PSNR over our retrained ODEWorld baseline by 2.0 and 2.4 dB at the mid-trajectory and final frames and reduces mean LPIPS by 23%, with comparable per-sample inference cost. The rollout control recovers most of the accuracy gain; learned latent conditioning adds diversity and best-of-K gains while reducing mean sample accuracy relative to this control. The diagnostics support trajectory-associated latent utilization; semantic mode coverage under matched conditions in the robotic setting remains unverified.