Model-agnostic Retrieval-Augmented Extended Forecasting for time series
作者: Juan Pablo Villa Serna, Rohan Asthana, Vasileios Belagiannis
分类: cs.LG
发布日期: 2026-08-14
备注: 6 pages, 1 figure
💡 一句话要点
提出RAEF以提高时间序列预测的效率与准确性
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 时间序列预测 检索增强生成 模型无关方法 计算效率 领域适应
📋 核心要点
- 现有的时间序列预测方法在短期或缺乏历史数据的情况下表现不佳,微调的计算成本也很高。
- 本文提出了一种基于检索增强预测(RAF)的新方法RAEF,旨在提高时间序列预测的效率和准确性。
- 实验证明,RAEF在多个基准数据集上超越了RAF,并且在性能上与微调模型相当,且计算开销更低。
📝 摘要(中文)
基于预训练基础模型的时间序列预测展示了强大的零-shot能力。然而,在特定领域应用中,短期或几乎没有历史数据的时间序列通常需要通过微调或检索增强生成(RAG)进行适应。尽管微调有效,但其计算成本高昂。本文探讨了在单变量时间序列中使用RAG作为更高效的替代方案,特别是检索增强预测(RAF),并引入了检索增强扩展预测(RAEF),这是一种基于RAF的模型无关方法。RAEF对检索和聚合机制进行了关键改进:1)在输入空间中直接检索而非嵌入空间,从而减少推理开销;2)基于连接的聚合方法保留时间结构而非简单平均。实证评估显示RAEF在多个基准数据集上在准确性和推理开销方面均优于RAF,并且与零-shot和微调基础模型的全面比较表明,RAEF在避免计算负担的同时实现了竞争或更优的性能,确立了其作为时间序列预测领域适应的实用和可扩展方法。
🔬 方法详解
问题定义:本文旨在解决在特定领域应用中,短期或几乎没有历史数据的时间序列预测的效率和准确性问题。现有方法如微调虽然有效,但计算成本高昂,限制了其应用。
核心思路:论文提出的RAEF方法通过检索增强生成(RAG)技术,特别是检索增强预测(RAF),提供了一种更高效的替代方案。RAEF通过直接在输入空间中检索数据,减少了推理开销,并采用连接聚合方法保留时间序列的结构。
技术框架:RAEF的整体架构包括数据检索、聚合和预测三个主要模块。首先,在输入空间中进行数据检索,然后通过连接方式聚合检索到的数据,最后进行时间序列的预测。
关键创新:RAEF的主要创新在于其检索和聚合机制的改进,特别是直接在输入空间进行检索而非嵌入空间,这显著降低了推理的计算开销。
关键设计:RAEF在参数设置上优化了检索策略,并在聚合过程中采用了连接而非平均的方法,以更好地保留时间序列的结构特征。
🖼️ 关键图片
📊 实验亮点
在多个基准数据集上的实验证明,RAEF在准确性和推理开销方面均优于RAF,且在与零-shot和微调基础模型的比较中,RAEF在性能上表现出竞争力或更优,显示出其作为一种实用且可扩展的时间序列预测方法的潜力。
🎯 应用场景
RAEF方法在金融市场预测、气象数据分析和工业设备监控等领域具有广泛的应用潜力。通过提高时间序列预测的效率和准确性,RAEF能够为决策支持系统提供更可靠的预测结果,进而推动相关行业的智能化发展。
📄 摘要(原文)
Time series forecasting with pretrained foundation models has demonstrated strong zero-shot capabilities. However, achieving optimal performance on time series with short or negligible historical data in domain-specific applications typically requires adaptation via either fine-tuning or RAG. While fine-tuning is effective, it incurs substantial computational costs. This work explores RAG within univariate time series (Retrieval Augmented Generation) as a more efficient alternative, in particular RAF (Retrieval Augmented Forecasting), and introduces RAEF (Retrieval-Augmented Extended Forecasting), a model-agnostic method built upon RAF. RAEF incorporates key refinements to the retrieval and aggregation mechanisms: (1) direct retrieval in input-space rather than embedding-space, reducing inference overhead, and (2) concatenation-based aggregation that preserves temporal structure instead of averaging. Empirical evaluation across multiple benchmark datasets demonstrates that RAEF outperforms RAF in both accuracy and inference overhead. Furthermore, comprehensive comparisons with zero-shot and fine-tuned foundation models show that RAEF achieves competitive or superior performance to fine-tuning while avoiding its computational burden, establishing it as a practical and scalable approach for domain adaptation in time series forecasting.