FedOGL: Combating Catastrophic Forgetting in Federated Open-World Multimodal Graph Learning

📄 arXiv: 2607.27665v1 📥 PDF

作者: Zekai Chen, Haodong Lu, Shihao Li, Weiwei Ji, Xunkai Li, Xun Wu, Yinlin Zhu, Rong-Hua Li

分类: cs.LG

发布日期: 2026-07-30

备注: 8 pages, 7 figures

💡 一句话要点

提出FedOGL以解决联邦开放世界多模态图学习中的灾难性遗忘问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 联邦学习 多模态图 灾难性遗忘 知识保留 图学习 语义结构 模型性能

📋 核心要点

  1. 现有方法在联邦多模态图学习中面临灾难性遗忘的问题，导致旧知识被抹去，影响模型性能。
  2. FedOGL通过重放和任务启动蒸馏来保护历史决策行为，同时通过投影到全局共享结构基础上保护图传播记忆。
  3. 实验结果显示，FedOGL在减少灾难性遗忘导致的性能下降方面表现优异，相比基线提升了42.67%。

📝 摘要（中文）

联邦图学习允许在去中心化的图数据上进行协作训练，而无需共享原始图信息。随着风险的演变，客户端必须从私有多模态图流中学习新兴类别，同时保留历史类别并拒绝已知类别空间之外的样本。核心挑战是灾难性遗忘，这在联邦多模态图中不仅仅是分类器级别的失败：旧知识可能因模态语义覆盖、拓扑引起的结构侵蚀和联邦记忆碎片化而被抹去。为了解决这一挑战，本文提出了FedOGL，一个语义-结构记忆保护框架。实验表明，与最佳基线相比，FedOGL将灾难性遗忘导致的性能下降降低了42.67%，同时在下游任务上保持或提升了性能。

🔬 方法详解

问题定义：本文旨在解决联邦多模态图学习中的灾难性遗忘问题。现有方法在面对新兴类别时，容易导致旧知识的丢失，影响模型的长期性能。

核心思路：FedOGL的核心思路是通过语义-结构记忆保护框架，结合重放机制和任务启动蒸馏，来有效保留历史知识并防止信息丢失。

技术框架：FedOGL的整体架构分为客户端和服务器两部分。在客户端，采用重放和蒸馏技术来保留历史决策行为，并通过投影技术保护图传播记忆；在服务器端，维护和传输紧凑的类别原型以促进跨客户端的知识共享。

关键创新：FedOGL的主要创新在于其语义-结构记忆保护机制，能够有效防止模态语义覆盖和结构侵蚀，显著提升了模型在新旧知识之间的平衡能力。

关键设计：在设计上，FedOGL使用了特定的损失函数来平衡新旧知识的学习，同时在网络结构上引入了全局共享结构基础，以增强信息的传递和保护。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

FedOGL在实验中表现出色，相比于最佳基线，成功将灾难性遗忘导致的性能下降降低了42.67%。此外，在下游任务上，FedOGL不仅保持了性能，还实现了显著的提升，展示了其在联邦学习中的有效性。

🎯 应用场景

该研究在多个领域具有潜在应用价值，包括智能交通、社交网络分析和医疗健康等。通过有效的知识保留和学习机制，FedOGL能够在动态环境中持续提升模型性能，适应不断变化的任务需求，具有广泛的实际意义和未来影响。

📄 摘要（原文）

Federated graph learning enables collaborative training over decentralized graph data without sharing raw graph information. As such risks evolve, clients must learn emerging classes from private multimodal graph streams, retain historical categories, and reject samples outside the known class space. In this setting, clients must learn emerging classes from private multimodal graph streams while preserving historical categories and rejecting samples outside the current known class space. The core challenge is catastrophic forgetting, which in federated multimodal graphs is not merely a classifier-level failure: old knowledge can be erased through modality-semantic overwriting, topology-induced structural erosion, and federated memory fragmentation. To address this challenge, we propose \textbf{FedOGL}, a semantic-structural memory preservation framework. On the client side, FedOGL preserves historical decision behavior through replay and task-start distillation, while protecting graph-propagation memory via projection onto a globally shared structure basis. On the server side, FedOGL maintains and transfers compact category prototypes to facilitate cross-client knowledge sharing without exposing raw graph data. Extensive experiments demonstrate that, compared with the best-performing baselines, FedOGL reduces performance degradation caused by catastrophic forgetting by \textbf{42.67\%}, while maintaining or improving performance on downstream tasks.