Structural Teacher-Student Normality Learning for Multi-Class Anomaly Detection and Localization

📄 arXiv: 2402.17091v1 📥 PDF

作者: Hanqiu Deng, Xingyu Li

分类: cs.CV

发布日期: 2024-02-27

💡 一句话要点

提出结构化教师-学生正常性学习以解决多类异常检测问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 异常检测 知识蒸馏 多类分类 深度学习 计算机视觉 模型优化 特征提取

📋 核心要点

  1. 现有的教师-学生模型在多类异常检测中表现不佳，主要由于跨类干扰导致性能下降。
  2. 提出的结构化教师-学生正常性学习（SNL）通过新的蒸馏技术和中心残差聚合模块来解决这一问题。
  3. 在MVTecAD和VisA数据集上，SNL在多类异常检测和定位任务中分别提升了3.9%和1.5%的性能。

📝 摘要（中文）

视觉异常检测是一项旨在识别未知异常模式的开放式任务，同时对正常数据进行建模。知识蒸馏范式在单类异常检测中表现出色，但在多类异常检测中面临可扩展性挑战。本文提出结构化教师-学生正常性学习（SNL），通过空间-通道蒸馏和内部&外部亲和蒸馏技术来测量教师与学生网络之间的结构距离，并引入中心残差聚合模块（CRAM）来封装学生网络的正常表示空间。实验结果表明，SNL在MVTecAD和VisA数据集上的多类异常检测和定位任务中，显著超越了现有的蒸馏算法。

🔬 方法详解

问题定义：本文旨在解决多类异常检测中的性能下降问题，现有教师-学生模型在此场景下受到跨类干扰的影响，导致检测效果不佳。

核心思路：通过引入结构化教师-学生正常性学习（SNL），采用空间-通道蒸馏和亲和蒸馏技术来有效测量教师与学生网络之间的结构距离，从而减少跨类干扰。

技术框架：整体架构包括教师网络和学生网络，利用蒸馏技术进行特征比较，同时引入中心残差聚合模块（CRAM）来整合学生网络的正常表示。

关键创新：SNL的核心创新在于结合了空间-通道蒸馏和亲和蒸馏，显著提高了多类异常检测的性能，克服了传统方法的局限性。

关键设计：在损失函数设计上，采用了多种蒸馏损失，确保教师与学生网络之间的有效信息传递，同时CRAM模块的设计使得正常表示的聚合更加有效。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，SNL在MVTecAD数据集上相较于现有蒸馏算法提升了3.9%和1.5%的性能，在VisA数据集上分别提升了1.2%和2.5%。此外，SNL还超越了当前最先进的统一模型，展现出显著的优势。

🎯 应用场景

该研究的潜在应用领域包括工业缺陷检测、医疗影像分析和安全监控等场景，能够有效识别和定位异常情况，提高系统的安全性和可靠性。未来，SNL方法有望在更广泛的异常检测任务中得到应用，推动相关领域的发展。

📄 摘要（原文）

Visual anomaly detection is a challenging open-set task aimed at identifying unknown anomalous patterns while modeling normal data. The knowledge distillation paradigm has shown remarkable performance in one-class anomaly detection by leveraging teacher-student network feature comparisons. However, extending this paradigm to multi-class anomaly detection introduces novel scalability challenges. In this study, we address the significant performance degradation observed in previous teacher-student models when applied to multi-class anomaly detection, which we identify as resulting from cross-class interference. To tackle this issue, we introduce a novel approach known as Structural Teacher-Student Normality Learning (SNL): (1) We propose spatial-channel distillation and intra-&inter-affinity distillation techniques to measure structural distance between the teacher and student networks. (2) We introduce a central residual aggregation module (CRAM) to encapsulate the normal representation space of the student network. We evaluate our proposed approach on two anomaly detection datasets, MVTecAD and VisA. Our method surpasses the state-of-the-art distillation-based algorithms by a significant margin of 3.9% and 1.5% on MVTecAD and 1.2% and 2.5% on VisA in the multi-class anomaly detection and localization tasks, respectively. Furthermore, our algorithm outperforms the current state-of-the-art unified models on both MVTecAD and VisA.