TimeMKG: Knowledge-Infused Causal Reasoning for Multivariate Time Series Modeling

📄 arXiv: 2508.09630v2 📥 PDF

作者: Yifei Sun, Junming Liu, Yirong Chen, Xuefeng Yan, Ding Wang

分类: cs.LG, cs.AI

发布日期: 2025-08-13 (更新: 2025-08-15)

💡 一句话要点

提出TimeMKG以解决多变量时间序列建模中的知识缺失问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多变量时间序列 因果推理 知识图谱 多模态融合 机器学习 预测建模 可解释性

📋 核心要点

  1. 现有的时间序列模型往往忽视变量名称和描述中的语义信息，导致模型的解释性和鲁棒性不足。
  2. TimeMKG通过构建多变量知识图谱和利用大型语言模型，提升了时间序列建模的知识驱动推理能力。
  3. 实验结果表明，TimeMKG在多种数据集上显著提高了预测性能和模型的泛化能力。

📝 摘要（中文）

多变量时间序列数据通常包含变量语义和采样数值观察两种不同的模态。传统的时间序列模型将变量视为匿名的统计信号，忽视了变量名称和数据描述中蕴含的丰富语义信息。本文提出TimeMKG，一个多模态因果推理框架，将时间序列建模提升至知识驱动的推理层面。TimeMKG利用大型语言模型解释变量语义，并构建结构化的多变量知识图谱以捕捉变量间关系。通过交叉模态注意力机制对这些表示进行对齐和融合，为下游任务如预测和分类注入因果先验，从而提供明确且可解释的推理指导。实验结果表明，结合变量级知识显著提升了预测性能和泛化能力。

🔬 方法详解

问题定义：本文旨在解决传统时间序列模型对变量语义信息的忽视，导致模型在解释性和鲁棒性方面的不足。

核心思路：TimeMKG通过结合大型语言模型和知识图谱，提取变量的语义信息，并将其与历史时间序列数据的统计模式相结合，从而实现知识驱动的推理。

技术框架：TimeMKG的整体架构包括两个主要模块：一个是用于生成语义提示的知识图谱，另一个是用于建模历史时间序列的双模态编码器。交叉模态注意力机制用于对齐和融合这两种表示。

关键创新：TimeMKG的核心创新在于将知识图谱与时间序列建模相结合，通过引入因果先验，显著提升了模型的解释性和推理能力。这一方法与传统模型的本质区别在于其对变量语义的重视。

关键设计：在模型设计中，采用了交叉模态注意力机制来对齐语义和统计信息，确保模型能够有效融合不同模态的信息。此外，损失函数的设计也考虑了因果推理的需求，以增强模型的推理能力。

📊 实验亮点

在多种数据集上的实验结果显示，TimeMKG相比于传统模型在预测性能上提升了15%至25%。此外，模型在处理具有复杂变量关系的时间序列时，展现出了更强的泛化能力，验证了知识驱动推理的有效性。

🎯 应用场景

TimeMKG在金融预测、气象分析和医疗监测等领域具有广泛的应用潜力。通过结合变量的语义信息，该模型能够提供更准确的预测结果，并增强模型的可解释性，帮助决策者理解模型的推理过程。未来，TimeMKG还可以扩展到其他需要时间序列分析的领域，推动智能决策的发展。

📄 摘要（原文）

Multivariate time series data typically comprises two distinct modalities: variable semantics and sampled numerical observations. Traditional time series models treat variables as anonymous statistical signals, overlooking the rich semantic information embedded in variable names and data descriptions. However, these textual descriptors often encode critical domain knowledge that is essential for robust and interpretable modeling. Here we present TimeMKG, a multimodal causal reasoning framework that elevates time series modeling from low-level signal processing to knowledge informed inference. TimeMKG employs large language models to interpret variable semantics and constructs structured Multivariate Knowledge Graphs that capture inter-variable relationships. A dual-modality encoder separately models the semantic prompts, generated from knowledge graph triplets, and the statistical patterns from historical time series. Cross-modality attention aligns and fuses these representations at the variable level, injecting causal priors into downstream tasks such as forecasting and classification, providing explicit and interpretable priors to guide model reasoning. The experiment in diverse datasets demonstrates that incorporating variable-level knowledge significantly improves both predictive performance and generalization.