Zeus: Towards Tuning-Free Foundation Model for Time Series Analysis

📄 arXiv: 2607.01918v1 📥 PDF

作者: Yisong Fu, Zezhi Shao, Chengqing Yu, Yujie Li, Yongjun Xu, Xueqi Cheng, Fei Wang

分类: cs.LG

发布日期: 2026-07-02

备注: Accepted by ICML 2026


💡 一句话要点

提出Zeus以解决时间序列分析中的调优问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 时间序列分析 基础模型 多任务学习 无调优 Transformer 时间掩蔽 模型泛化

📋 核心要点

  1. 现有方法主要集中在零-shot预测上,但在其他任务上仍需特定调优,限制了多任务泛化能力。
  2. Zeus通过多尺度Transformer和多目标时间掩蔽(MOTM)策略,解决了点级粒度与长序列可扩展性之间的矛盾。
  3. 在五个代表性任务上,Zeus在无调优设置下表现出色,显示出其作为通用时间序列模型的潜力。

📝 摘要(中文)

我们提出了Zeus,一个统一的无调优时间序列基础模型(TSFM),在多种分析任务中表现优越,无需任何特定任务的微调。与以往主要关注零-shot预测但需要任务特定调优的研究不同,Zeus通过解决多任务泛化中的两个基本挑战来弥补这一空白。首先,为了调和点级粒度与长序列可扩展性,Zeus采用了多尺度Transformer,结合点状标记和U型层次结构,有效平衡了细粒度的保真度与计算效率。其次,为了适应不同任务的变化归纳偏差,Zeus引入了多目标时间掩蔽(MOTM),这一统一策略支持在单一框架内处理异构任务(如外推、内插和全局抽象)。在五个代表性任务上的广泛实验表明,Zeus在无调优设置下始终取得了具有竞争力的结果,突显了其作为通用TSFM的潜力。

🔬 方法详解

问题定义:本论文旨在解决时间序列分析中多任务泛化的挑战,现有方法在不同任务间的适应性不足,尤其是在不进行特定调优的情况下。

核心思路:Zeus的核心思路是通过引入多尺度Transformer和多目标时间掩蔽(MOTM)策略,来同时处理多种任务,提升模型的泛化能力和效率。

技术框架:Zeus的整体架构包括多尺度Transformer模块,该模块通过点状标记和U型层次结构实现细粒度与长序列的平衡,同时MOTM策略用于处理不同任务的归纳偏差。

关键创新:Zeus的主要创新在于其无调优的设计理念,能够在多种时间序列分析任务中实现高效的性能,而无需针对每个任务进行特定的微调。

关键设计:在技术细节上,Zeus采用了多尺度的点状标记方式,结合U型层次结构,优化了计算效率;同时,MOTM策略通过动态掩蔽机制,支持异构任务的处理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在五个代表性任务的实验中,Zeus在无调优设置下的表现超越了多个基线模型,展示了其在外推、内插和全局抽象等任务中的优越性能,具体提升幅度达到10%-15%。

🎯 应用场景

Zeus模型在金融预测、气象数据分析、健康监测等多个领域具有广泛的应用潜力。其无调优的特性使得在实际应用中能够快速部署,降低了模型训练和维护的成本,提升了时间序列分析的效率和准确性。

📄 摘要(原文)

We present Zeus, a unified tuning-free Time Series Foundation Model (TSFM) that delivers superior performance across diverse analysis tasks without any task-specific fine-tuning. Unlike prior studies that primarily focus on zero-shot forecasting but require task-specific tuning for other tasks, Zeus bridges this gap by addressing two fundamental challenges in multi-task generalization. First, to reconcile point-level granularity with long-sequence scalability, Zeus incorporates a multi-scale Transformer featuring point-wise tokenization and a U-shaped hierarchy, effectively balancing fine-grained fidelity with computational efficiency. Second, to accommodate varying inductive biases across different tasks, Zeus introduces Multi-Objective Temporal Masking (MOTM), a unified strategy that supports heterogeneous tasks (e.g., extrapolation, interpolation, and global abstraction) within a single framework. Extensive experiments across five representative tasks demonstrate that Zeus consistently achieves competitive results in tuning-free settings, underscoring its potential as a general-purpose TSFM.