ConceptADapt: Concept-guided Adaptive Feature Reconstruction with Dynamic Attention for Few-Shot Industrial Anomaly Detection

📄 arXiv: 2608.05743v1 📥 PDF

作者: Yufei Li, Yicheng Ruan, Long Tian, Dongsheng Wang, Liang Bao

分类: cs.CV

发布日期: 2026-08-06

备注: 11 pages, 7 figures

💡 一句话要点

提出ConceptADapt以解决少样本工业异常检测问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 少样本学习 工业异常检测 动态注意力 特征重构 机器学习

📋 核心要点

  1. 现有的少样本工业异常检测方法在数据稀缺的情况下，模型泛化能力不足，导致检测效果不理想。
  2. 本文提出的ConceptADapt模型通过概念引导的自适应特征重构和动态注意力机制，有效提升了异常检测的准确性。
  3. 在MVTec-AD、VisA和MPDD等基准测试中，ConceptADapt在检测和定位任务上均显著超越了现有的最先进方法。

📝 摘要（中文）

少样本工业异常检测（FS-IAD）关注在冷启动阶段检测和定位工业检查中的视觉缺陷，此时每个类别仅有有限的正常训练样本。尽管基础模型的视觉特征表现出强大的表示能力，但由于正常训练数据的极度稀缺，模型的泛化能力仍然脆弱。为了解决这一关键问题，本文提出了ConceptADapt，一种基于概念引导的自适应特征重构模型，结合动态注意力机制。该模型通过预学习固定的正常概念，挖掘查询特征与支持特征之间的关系，从而在测试时重新校准统计信息以提高异常检测效果。实验结果表明，ConceptADapt在多个基准数据集上均优于现有最先进的方法。

🔬 方法详解

问题定义：本文旨在解决少样本工业异常检测中的模型泛化能力不足问题，现有方法在数据稀缺时容易出现特征快捷问题，导致检测效果不佳。

核心思路：ConceptADapt通过预学习固定的正常概念，并利用动态注意力机制来挖掘查询特征与支持特征之间的关系，从而在测试时重新校准特征统计信息，提升异常检测性能。

技术框架：该模型主要包括三个模块：固定正常概念的预学习模块、动态注意力机制模块和轻量级的LoRA集成模块。预学习模块从有限的支持特征中提取正常概念，动态注意力机制则用于在训练过程中学习鲁棒的正常概念。

关键创新：最重要的创新在于引入了动态注意力机制与稀疏自编码器的结合，能够在低数据环境下有效学习正常概念，显著改善了特征重构的质量。

关键设计：模型采用了轻量级的LoRA方法，使得注意力模块的参数更新最小化，从而在推理时实现快速适应。此外，损失函数设计上注重特征重构的鲁棒性，确保在数据稀缺情况下仍能保持良好的检测性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在MVTec-AD、VisA和MPDD等三个广泛采用的基准测试中，ConceptADapt在检测和定位任务上均显著超越了现有最先进的方法，尤其在不同样本设置下表现出显著的性能提升，验证了其有效性。

🎯 应用场景

该研究的潜在应用领域包括工业检测、质量控制和自动化生产等场景，能够有效提升在数据稀缺情况下的异常检测能力，具有重要的实际价值。未来，该方法可扩展至其他领域的少样本学习任务，推动相关技术的发展。

📄 摘要（原文）

Few-shot industrial anomaly detection (FS-IAD) focuses on detecting and localizing visual defects in industrial inspection during the cold-start phase, where only a limited number of normal training samples are available per category. Recent advances in this field predominantly leverage visual features from foundation-model and have achieved promising performance. Despite the strong representational power of foundation-model features, the model generalization remains fragile due to the extreme scarcity of normal training data.To address this pivotal issue, we propose ConceptADapt, a concept-guided adaptive feature reconstruction model with dynamic attention. Specifically, our model pre-learns a set of fixed normal concepts from the limited support features and leverages them to mine relationships with query features, thereby recalibrating their statistics for improved anomaly detection at test time. To mitigate the prevalent feature shortcut problem, which is particularly severe under low-data regimes, we further develop a dynamic attention mechanism integrated with sparse autoencoders to learn robust normal concepts during training. Moreover, to enable fast adaptation during inference, our model remains lightweight by incorporating LoRA into the attention module, which introduces only minimal updating parameters.Extensive experiments on three widely adopted FS-IAD benchmarks, including MVTec-AD, VisA, and MPDD, demonstrate that our model consistently outperforms state-of-the-art (SOTA) approaches across both detection and localization tasks, achieving significant improvements under various shot settings.