Uncertainty-Guided Cross-Modal Alignment for Diffusion-Based IoT Intrusion Detection

📄 arXiv: 2610.39117v1 📥 PDF

作者: Mahdi Arab Loodaricheh, Anita Raja, Mohammad Hossein Manshaei

分类: cs.LG

发布日期: 2026-10-29

备注: 7 pages, 1 figure, 2 tables. Accepted at NeurIPS DynaFront 2026


💡 一句话要点

提出基于不确定性引导的跨模态对齐方法以解决物联网入侵检测问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 物联网 入侵检测 多模态对齐 扩散模型 变分自编码器 不确定性引导 深度学习

📋 核心要点

  1. 现有方法在处理多模态数据时,独立训练的编码器可能导致潜在空间的不兼容,影响模型性能。
  2. 本文提出了一种基于归一化变分自编码器后验方差的可靠性引导对齐规则,以改善跨模态对齐效果。
  3. 在TON-IoT数据集上,基于不确定性的对齐方法在精度、召回率等指标上均优于其他扩散变体,显示出显著的性能提升。

📝 摘要(中文)

扩散模型通过将噪声状态演变为学习到的数据分布,其采样行为依赖于去噪过程中的表示几何。对于多模态数据,独立训练的编码器可能将同步视图映射到不兼容的潜在区域。为了解决这一问题,本文提出了一种新颖的可靠性引导对齐规则,利用归一化变分自编码器后验方差在扩散训练前控制跨模态影响。我们在不平衡的物联网入侵检测中的少数攻击生成中研究了这一问题。通过模态特定的变分自编码器对表格流属性、DeepInsight图像和数据包序列进行编码,使用后验方差作为不确定性代理。实验结果表明,基于不确定性的对齐在多个扩散变体中获得了最高的精度和召回率。

🔬 方法详解

问题定义:本文旨在解决多模态数据在物联网入侵检测中的对齐问题,现有方法由于编码器独立训练导致潜在空间不兼容,影响了模型的检测能力。

核心思路:提出了一种新颖的可靠性引导对齐规则,通过归一化变分自编码器的后验方差来控制跨模态的影响,从而在扩散训练前实现更好的对齐。

技术框架:整体架构包括模态特定的变分自编码器对不同数据类型进行编码,利用后验方差作为加权信号,最终通过类条件的EDM模型联合建模对齐后的潜在均值。

关键创新:最重要的创新在于使用后验方差作为不确定性代理,而非传统的概率不确定性,从而提高了对齐的有效性和模型的生成能力。

关键设计:设计了不对称的停止梯度对齐目标,结合样本特定的加权信号,优化了损失函数和网络结构,以实现更高的生成保真度和下游检测性能。

🖼️ 关键图片

fig_0

📊 实验亮点

在TON-IoT数据集的控制实验中,基于不确定性的对齐方法在精度、召回率、密度和覆盖率等指标上均表现优异,ROC-AUC达到0.9515,PR-AUC为0.8954,平衡准确率为0.8395,攻击类F1值为0.7940,显示出显著的性能提升。

🎯 应用场景

该研究在物联网安全领域具有重要应用价值,能够有效提升入侵检测系统的准确性和鲁棒性。未来,该方法还可以扩展到其他多模态数据处理场景,如智能监控和自动驾驶等领域。

📄 摘要(原文)

Diffusion models evolve noisy states toward a learned data distribution, so their sampling behavior depends on the geometry of the representation in which denoising occurs. This dependence is especially important for multimodal data: independently trained encoders can map synchronized views to incompatible latent regions, while uniform alignment can let an uncertain view distort the shared geometry. To address this gap, we introduce a novel reliability-guided alignment rule that uses normalized VAE posterior variance to control directional cross-modal influence before diffusion training. We study this issue in minority-attack generation for imbalanced Internet-of-Things intrusion detection. Tabular flow attributes, a DeepInsight image, and a packet sequence are encoded by modality-specific variational autoencoders. Per-modality normalized VAE posterior variances provide bounded, sample-specific weighting signals in an asymmetric stop-gradient alignment objective. We use these quantities as heuristic encoder-derived reliability proxies rather than calibrated probabilistic uncertainties. The full modality-specific latent means obtained after alignment fine-tuning are standardized and modeled jointly by a class-conditional EDM; a second-order sampler then generates paired attack-conditioned latent blocks for the three decoders. In controlled experiments on TON-IoT, uncertainty-aware alignment obtains the highest mean precision, recall, density, and coverage among three diffusion variants. Augmenting only the training split yields ROC-AUC 0.9515, PR-AUC 0.8954, balanced accuracy 0.8395, and attack-class F1 0.7940 on an untouched real test set. Among the two variants with matched alignment fine-tuning, posterior-variance-based weighting improves both tabular generative fidelity and downstream detection relative to uniform weighting.