FedTransKD-IDS: Robust Federated Transfer Learning with Knowledge Distillation for Intrusion Detection in IoT

📄 arXiv: 2608.06447v1 📥 PDF

作者: Mohammad Hosssein Gholamrezazadeh, Ahmadreza MontazerolghaemAhmadreza Montazerolghaem

分类: cs.NI, cs.LG

发布日期: 2026-08-06

💡 一句话要点

提出FedTransKD-IDS以解决物联网入侵检测中的隐私与效率问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 联邦学习 知识蒸馏 入侵检测 物联网 迁移学习 隐私保护 边缘计算

📋 核心要点

  1. 现有的入侵检测系统在物联网环境中面临隐私保护和效率低下的挑战，尤其是在资源受限的边缘节点上。
  2. 本研究提出FedTransKD-IDS框架，通过结合稳健聚合、联邦迁移学习和知识蒸馏，提升系统的稳定性和效率。
  3. 实验结果表明，该框架在异构数据集上实现了99.18%的准确率和99.99%的召回率，显著提升了检测性能。

📝 摘要（中文）

在现代分布式网络环境中，尤其是物联网和5G网络基础设施中，隐私保护和可扩展性要求对入侵检测系统提出了重大挑战。尽管联邦学习通过防止数据集中化来保护隐私，但在边缘节点的统计异质性和资源限制下，其效率和稳定性显著下降。为了解决这些问题，本研究提出了FedTransKD-IDS框架，通过基于几何均值的稳健聚合、联邦迁移学习和知识蒸馏的结合，增强了系统的稳定性和效率。在该框架中，协同训练的全局教师模型将其特征提取组件转移给轻量级学生模型。对异构数据集的实验评估显示，该方法在检测性能上达到了99.18%的准确率和99.99%的召回率，表明结构化知识转移在联邦环境中的有效性。

🔬 方法详解

问题定义：本论文旨在解决物联网环境中入侵检测系统在隐私保护和效率方面的挑战。现有的联邦学习方法在面对边缘节点的统计异质性和资源限制时，效率和稳定性显著下降。

核心思路：论文提出的FedTransKD-IDS框架通过整合稳健聚合、联邦迁移学习和知识蒸馏，旨在提升系统的稳定性和效率。通过将全局教师模型的特征提取能力转移给轻量级学生模型，实现知识的有效传递。

技术框架：该框架主要包括三个模块：稳健聚合模块、联邦迁移学习模块和知识蒸馏模块。稳健聚合模块基于几何均值进行模型参数的聚合，迁移学习模块则实现了教师模型与学生模型之间的知识转移。

关键创新：最重要的创新点在于将知识蒸馏与联邦学习相结合，通过教师模型的特征提取能力来提升学生模型的性能。这一方法与传统的联邦学习方法相比，显著提高了在异构环境下的检测效果。

关键设计：在设计中，采用了几何均值作为聚合策略，确保了模型在面对不同数据分布时的稳健性。同时，损失函数的设计考虑了知识蒸馏的目标，使得学生模型能够有效学习教师模型的特征表示。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果显示，FedTransKD-IDS框架在异构数据集上达到了99.18%的准确率和99.99%的召回率，显著优于传统的入侵检测方法。这表明该框架在处理统计异质性和资源限制方面具有良好的性能提升。

🎯 应用场景

该研究的潜在应用领域包括物联网安全、智能家居、工业自动化等场景。通过提升入侵检测系统的效率和稳定性，能够更好地保护用户隐私，满足现代网络环境的安全需求。未来，该框架有望推广到更多的分布式系统中，提升整体安全性。

📄 摘要（原文）

In modern distributed network environments, particularly in Internet of Things infrastructures and 5G networks, stringent privacy preservation and scalability requirements have created significant challenges for intrusion detection systems. Although federated learning preserves privacy by preventing data centralization, its efficiency and stability is considerably degraded under severe statistical heterogeneity and resource constraints of edge nodes. To address these limitations, this study introduces the FedTransKD-IDS framework, which enhances both system stability and efficiency by integrating robust aggregation based on the geometric mean, federated transfer learning, and knowledge distillation. Within this framework, the collaboratively trained global teacher model transfers its feature extraction component to lightweight student models. Experimental evaluation on heterogeneous datasets demonstrates a peak detection performance, achieving an accuracy of 99. 18% and a recall of 99. 99%, thereby indicating the effectiveness of structured knowledge transfer in federated environments.