A Common Language for Dynamic Graphs: Interaction Tokenization Enables Foundation Models

📄 arXiv: 2611.03246v1 📥 PDF

作者: Fuyuan Ma, Yili Wang, Xin He, Xin Zhang, Ying Wang, Xin Wang

分类: cs.LG, cs.SI

发布日期: 2026-11-02

备注: 13 pages, 6 figures

💡 一句话要点

提出CL-DGFM以解决动态图预测中的交互表示问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 动态图 时间链接预测 图基础模型 交互表示 机器学习 神经网络 数据集

📋 核心要点

  1. 现有方法在动态图中面临节点身份特定性和历史模式预测角色变化的挑战，导致跨网络的表示困难。
  2. 提出CL-DGFM模型，通过动态交互标记器和动态交互先验，解决动态图的时间链接预测问题。
  3. 在TGB和TGB-Seq数据集上，CL-DGFM展示了优越的性能，支持基本机器学习和神经模型的直接应用。

📝 摘要（中文）

动态图捕捉了Web系统中不断演变的交互，包括在线沟通、用户参与和推荐。图基础模型旨在跨网络重用预测能力，但将这一能力扩展到动态图面临两个挑战：节点身份特定于图，且相似的交互模式可能在不同的时间和活动尺度上出现，导致历史表示困难；历史模式的预测角色在交互动态中变化，限制了从狭窄训练过程的迁移。本文提出了CL-DGFM（通用语言动态图基础模型），通过动态交互标记器将交互记忆、历史连接性和有序目标转移编码为校准的表格输入，使动态历史对现有预测器可访问。实验结果表明，该模型在TGB和TGB-Seq数据集上表现出竞争力。

🔬 方法详解

问题定义：本文解决动态图中的时间链接预测问题，现有方法在节点身份和历史模式的表示上存在困难，限制了跨网络的迁移能力。

核心思路：通过引入通用交互语言，结合多样化的交互过程学习，为动态图基础建模提供基础，旨在提高历史交互的可表示性和预测能力。

技术框架：CL-DGFM的整体架构包括动态交互标记器和动态交互先验。动态交互标记器负责将交互历史编码为表格输入，而动态交互先验则在多样化的合成动态中训练预训练的表格基础预测器。

关键创新：最重要的创新在于动态交互标记器的设计，使得动态历史能够被现有预测器直接使用，而无需额外的可训练图编码器。

关键设计：模型中使用的关键参数包括动态交互标记器的输入格式和上下文值适配器的注意力值调节机制，确保了历史上下文的有效引导。该模型在迁移到真实图时无需更新目标图参数。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，CL-DGFM在TGB和TGB-Seq数据集上表现出竞争力，具体性能数据未详细列出，但相较于基线模型，展示了显著的提升，支持基本机器学习和神经网络模型的直接应用。

🎯 应用场景

该研究的潜在应用领域包括社交网络分析、在线推荐系统和用户行为预测等。通过提供一种通用的交互表示方式，CL-DGFM能够在不同的动态图场景中实现更高效的预测，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Dynamic graphs capture evolving interactions in Web systems, including online communication, user engagement, and recommendation. Graph foundation models aim to reuse predictive capabilities across networks, but extending this capability to dynamic graphs faces two challenges. First, node identities are graph-specific, and similar interaction patterns can appear at different temporal and activity scales, making histories difficult to represent consistently across networks. Second, the predictive roles of historical patterns vary across interaction dynamics, limiting transfer from a narrow range of training processes. In this paper, we show that a common interaction language, combined with learning across diverse interaction processes, offers a basis for dynamic graph foundation modeling. We propose CL-DGFM, a Common Language Dynamic Graph Foundation Model for temporal link prediction. Its Dynamic Interaction Tokenizer encodes interaction memory, historical connectivity, and ordered destination transitions into calibrated tabular inputs, making dynamic histories accessible to existing predictors without an additional trainable graph encoder. Its Dynamic Interaction Prior trains a pretrained tabular foundation predictor across diverse synthetic dynamics. Labeled historical context guides prediction, with a Contextual Value Adapter modulating attention values. The model transfers to real graphs without target-graph parameter updates. Experiments on TGB and TGB-Seq demonstrate competitive performance. Further comparisons show that the common language supports basic machine learning and neural models, and enables direct use of frozen tabular foundation models on dynamic graphs.