Phys-JEPA: Physics-Informed Latent World Models for Multivariate Time-Series Forecasting

📄 arXiv: 2606.16076v1 📥 PDF

作者: Weizhi Nie, Weichao Liu, Honglin Guo, Yuting Su

分类: cs.LG, cs.AI, cs.GT

发布日期: 2026-06-15

备注: Submitted to arXiv as a preliminary manuscript. 10 figures


💡 一句话要点

提出Phys-JEPA以解决多变量时间序列预测中的物理一致性问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 多变量时间序列预测 物理一致性 隐含世界模型 深度学习 科学约束

📋 核心要点

  1. 现有的多变量时间序列预测方法在物理一致性方面存在不足,导致预测结果缺乏物理结构。
  2. Phys-JEPA通过学习隐含世界模型,将预测状态分解为物理和残余成分,直接在隐含状态上施加物理一致性。
  3. 在Jena气候和交通数据集上,Phys-JEPA显著降低了均方误差,展示了其在多变量预测中的有效性。

📝 摘要(中文)

在物理系统中的多变量预测需要能够预测耦合的时间变量,同时保持有意义的状态演变。深度预测模型能够拟合时间相关性,而物理信息模型则通过科学约束来规范预测。然而,这两者通常仅在解码输出层面相连,导致生成未来轨迹的隐含预测状态可能在统计上有用,但在物理上却缺乏结构。本文提出Phys-JEPA,一种物理信息联合嵌入预测架构,学习隐含世界模型,将预测状态分解为物理和残余成分,并直接在隐含状态和隐含转移上施加物理一致性。实验结果表明,Phys-JEPA在多个数据集上显著降低了均方误差,展示了将物理信息学习从输出空间转移到隐含预测状态空间的潜力。

🔬 方法详解

问题定义:本文旨在解决多变量时间序列预测中物理一致性不足的问题。现有方法通常仅在输出层面考虑物理约束,导致隐含预测状态缺乏物理结构。

核心思路:Phys-JEPA的核心思想是通过学习隐含世界模型,将预测状态分解为物理和残余成分,并在隐含状态和转移上直接施加物理一致性。这种设计使得模型能够更好地捕捉物理系统的动态特性。

技术框架:Phys-JEPA的整体架构包括数据输入、隐含状态学习、物理一致性约束和输出预测四个主要模块。模型首先通过输入数据学习隐含状态,然后在隐含状态上施加物理约束,最后生成预测输出。

关键创新:Phys-JEPA的主要创新在于将物理一致性从输出空间转移到隐含预测状态空间。这一方法使得模型在保持统计有效性的同时,增强了物理解释性。

关键设计:在模型设计中,采用了特定的损失函数来平衡物理一致性和预测精度,同时在网络结构上引入了残余成分,以保留未解决的动态特性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在Jena气候数据集上,Phys-JEPA将整体均方误差从0.12482降低至0.12273,温度均方误差从0.01892降低至0.01831。在交通数据集上,Phys-JEPA在所有测试时间范围内均优于监督基线,H=192时均方误差从0.800784降低至0.773873,显示出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括气候预测、交通流量预测和电力需求预测等物理系统的时间序列分析。通过引入物理一致性,Phys-JEPA能够提供更具解释性的预测结果,帮助决策者制定更有效的策略,具有重要的实际价值和未来影响。

📄 摘要(原文)

Multivariate forecasting in physical systems requires models that predict coupled temporal variables while preserving meaningful state evolution. Deep forecasters can fit temporal correlations, and physics-informed models can regularize predictions with scientific constraints, but these directions are often connected only at the decoded-output level. As a result, the hidden predictive state that generates future trajectories may remain statistically useful but physically unstructured. We introduce Phys-JEPA, a physics-informed joint-embedding predictive architecture for multivariate time-series forecasting. Phys-JEPA learns a latent world model in which predictive states are decomposed into physical and residual components, and physical consistency is imposed directly on latent states and latent transitions rather than only on decoded forecasts. This formulation uses known physical variables to organize the representation space while retaining residual capacity for unresolved dynamics. On Jena Climate 2009--2016, Phys-JEPA reduces aggregate MSE from 0.12482 to 0.12273 and temperature MSE from 0.01892 to 0.01831 at H=24. On Traffic, full Phys-JEPA improves aggregate MSE over the supervised baseline across all tested horizons, reducing H=192 MSE from 0.800784 to 0.773873. On Electricity, the best variant depends on horizon: static latent consistency is strongest at H=24 and H=48, while full Phys-JEPA gives the best aggregate and target-variable MSE at H=192. These initial results suggest that moving physics-informed learning from output space to latent predictive state space is a promising direction for interpretable temporal world models.