Temporally Centered SIGReg Improves Multi-Task LeWorldModel Learning: From Analysis to Method
作者: Chang Liu, Fei Suo, Yanzhou Jin, Yusuke Iwasawa, Yutaka Matsuo, Yaonan Zhu
分类: cs.LG, cs.RO
发布日期: 2026-07-29
💡 一句话要点
提出时序中心化SIGReg以改善多任务LeWorldModel学习
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)
关键词: 多任务学习 世界模型 高斯正则化 时序中心化 行为克隆 潜在表示 稳定性提升
📋 核心要点
- 现有的SIGReg方法在多任务训练中表现不佳，导致下游行为克隆性能显著下降。
- 本文提出将SIGReg应用于时序中心化残差，以避免对聚类中心的直接正则化压力。
- 在LIBERO基准上，该方法将长时间任务的成功率提高了1.7倍，平均成功率从53.2%提升至73.6%。
📝 摘要（中文）
近期关于LeWorldModel（LeWM）的研究表明，草图各向同性高斯正则化器（SIGReg）通过将潜在边际分布正则化为各向同性高斯分布，从像素中实现稳定的端到端世界模型学习。然而，这一方法在多任务训练中表现不佳，导致下游行为克隆性能显著下降。本文展示了边际高斯化压缩了任务相关潜在聚类之间的分离，导致跨任务和状态的表示混淆。为了解决这一问题，本文将SIGReg应用于时序中心化残差，而非潜在边际分布，从而避免了对聚类中心分离的直接正则化压力。实验结果表明，该方法在LIBERO基准上显著提高了长时间任务的成功率，并接近大规模预训练策略的性能。
🔬 方法详解
问题定义：本文旨在解决现有SIGReg在多任务训练中导致的表示混淆问题，现有方法在处理多任务时表现不佳，影响下游任务性能。
核心思路：通过将SIGReg应用于时序中心化残差，而非潜在边际分布，避免了对聚类中心分离的直接正则化压力，从而保持了SIGReg的抗崩溃效果。
技术框架：整体架构包括数据输入、时序中心化残差计算、SIGReg应用、以及最终的模型训练与评估。主要模块包括数据预处理、潜在表示学习和任务评估。
关键创新：最重要的技术创新在于将SIGReg从潜在边际分布转向时序中心化残差，这一设计有效减少了任务间的表示混淆。
关键设计：在损失函数中，设计了新的正则化项以适应时序中心化残差，同时保持了对潜在表示的有效控制，确保了模型的稳定性和可扩展性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，提出的方法在LIBERO基准上将长时间任务的成功率提高了1.7倍，平均成功率从53.2%提升至73.6%。在没有外部预训练的情况下，该方法略微超越了从头训练的扩散策略，接近大规模预训练策略的性能。
🎯 应用场景
该研究的潜在应用领域包括机器人控制、自动驾驶、智能游戏代理等多任务学习场景。通过提高多任务学习的稳定性和性能，能够在复杂环境中实现更高效的决策与控制，具有重要的实际价值和未来影响。
📄 摘要（原文）
Recent work on LeWorldModel (LeWM) has shown that the Sketched Isotropic Gaussian Regularizer (SIGReg) enables stable end-to-end world-model learning from pixels by regularizing the latent marginal distribution toward an isotropic Gaussian, thereby preventing representation collapse. While effective and elegant in single-task settings, this recipe does not extend reliably to multi-task training, leading to substantially worse downstream behavior-cloning performance. In this paper, we show that marginal Gaussianization compresses the separation between task-dependent latent clusters relative to within-cluster variation. This compression introduces representation aliasing across tasks and states, and makes the learned representations highly sensitive to small visual perturbations. To address this problem, we apply SIGReg to temporally centered residuals rather than to the latent marginal distribution. This surrogate target places no direct regularization pressure on the separation among cluster centers, removes the requirement that the full latent follow a single isotropic Gaussian, and retains the anti-collapse effect of SIGReg. On the LIBERO benchmark, our method improves downstream success on the long-horizon suite by 1.7x and raises the average success rate across four suites from 53.2% to 73.6%. Without external pretraining, it slightly outperforms Diffusion Policy trained from scratch and approaches the performance of large-scale pretrained policy baselines. These results reveal a structural incompatibility between marginal Gaussian priors and multi-task latent structure, and provide a simple route toward stable and scalable end-to-end multi-task world-model learning.