TS-RAG: Retrieval Augmented Generation for Time Series Forecasting

📄 arXiv: 2608.06223v1 📥 PDF

作者: Yixiong Xiao, Congxi Xiao, Jingbo Zhou

分类: cs.AI, cs.LG

发布日期: 2026-08-06

💡 一句话要点

提出TS-RAG以解决时间序列预测中的数据不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 时间序列预测 检索增强生成 深度学习 变换器架构 信息融合

📋 核心要点

  1. 现有时间序列预测模型受限于训练数据不足和生成能力弱，导致预测准确性不高。
  2. TS-RAG通过引入专门设计的参考标记，有效融合输入序列与检索到的相似序列的信息，提升预测性能。
  3. 实验结果显示，TS-RAG在多个真实世界的预测基准上均取得了最先进的表现，验证了其有效性。

📝 摘要（中文）

尽管深度学习模型，尤其是基于变换器的架构，在时间序列预测中表现出色，但检索增强生成（RAG）在该领域的应用仍然有限。RAG已被证明能通过引入相关外部信息来增强大型语言模型的能力，因此检索相似的时间序列作为参考，可能也能提高时间序列预测任务的准确性。然而，大多数时间序列模型受限于训练数据不足、参数规模较小以及缺乏大型语言模型的广泛生成能力。仅仅将参考序列拼接到提示中，可能无法产生预期效果。为了解决这些挑战，本文提出了一种新方法TS-RAG，利用RAG来增强预测性能。实验结果表明，TS-RAG在多个实际预测基准上实现了持续的最先进性能。

🔬 方法详解

问题定义：本文旨在解决时间序列预测中由于训练数据不足和模型生成能力有限导致的准确性问题。现有方法往往无法有效利用外部信息，导致预测性能不佳。

核心思路：论文提出的TS-RAG方法通过检索相似的时间序列作为参考，结合输入序列的信息，增强模型的预测能力。特别设计的参考标记用于更好地融合信息，从而捕捉复杂的时间动态。

技术框架：TS-RAG框架包括数据检索模块和信息融合模块。首先，模型从历史数据中检索与当前输入序列相似的时间序列，然后通过参考标记将这些信息与输入序列进行融合，最终生成预测结果。

关键创新：TS-RAG的主要创新在于引入了专门设计的参考标记，这一设计使得模型能够有效地整合来自检索序列的信息，显著提升了时间序列预测的准确性。这与传统方法的简单拼接方式有本质区别。

关键设计：在模型设计中，参考标记的数量和位置经过精心设置，以确保信息融合的有效性。此外，损失函数的选择也考虑了时间序列的特性，以优化模型的学习过程。通过这些设计，TS-RAG能够更好地捕捉时间序列中的复杂动态特征。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，TS-RAG在多个真实世界的时间序列预测基准上均取得了最先进的性能，相较于传统方法，准确性提升幅度达到10%以上，验证了其有效性和实用性。

🎯 应用场景

该研究的潜在应用领域包括金融市场预测、气象数据分析和工业设备故障预测等。通过提高时间序列预测的准确性，TS-RAG能够为决策提供更可靠的依据，进而在各行业中产生实际价值。未来，随着数据量的增加和模型的进一步优化，TS-RAG有望在更多复杂的预测任务中发挥重要作用。

📄 摘要（原文）

While deep learning models, particularly transformer-based architectures, have shown impressive performance in time series forecasting, the application of retrieval-augmented generation (RAG) in this domain remains limited. Since RAG has proven effective in enhancing the capabilities of large language models by incorporating relevant external information, retrieving similar time series sequences as references might also improve accuracy in time series forecasting tasks. However, most time series models are constrained by limited training data, smaller parameter scales, and a lack of the extensive generative capabilities found in large language models. Simply concatenating reference sequences into the prompt, as done in language models, may not yield the expected results. To address these challenges, we propose a novel approach, TS-RAG, which leverages RAG to enhance forecasting performance. The framework introduces specially designed reference tokens to effectively fuse information from the input sequence with that from retrieved similar sequences, enabling a more robust capture of complex temporal dynamics. Experimental results demonstrate that TS-RAG achieves consistent state-of-the-art performance across several real-world forecasting benchmarks.