Class Activation Mapping in Explainable Computer Vision: A Method-Centered Review of CNN, Transformer, and Foundation-Model-Era Visual Explanations

📄 arXiv: 2608.12299v1 📥 PDF

作者: AmirHossein Eshghi, Hamid Saadatfar, Seyyed Ali Hoseini, AmirMohsen Eshghi, Siavash Arjomand Bigdel

分类: cs.CV, cs.AI

发布日期: 2026-08-12

💡 一句话要点

综述类激活映射方法以提升可解释计算机视觉

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 类激活映射 可解释人工智能 深度学习 计算机视觉 模型评估 方法分类 多层次解释

📋 核心要点

  1. 现有的类激活映射方法在解释单一类别得分时存在局限，难以提供多层次和多类别的比较解释。
  2. 论文提出了一种新的分类法，系统性地对不同的CAM方法进行归类，并分析其归因机制和评估目标。
  3. 通过对57篇文献的综合分析，发现领域正在向多层次、概率性和基础模型感知的解释转变。

📝 摘要（中文）

类激活映射（CAM）是可解释人工智能中最广泛使用的视觉解释方法之一，其目的是将模型内部证据转化为热图，突出支持目标类别或概念的图像区域。自2016年首次提出CAM以来，该领域已经超越了全局平均池化的CNN分类器，发展出多种方法，包括基于梯度的后处理解释、无梯度评分和消融方法、高分辨率上采样、弱监督定位与分割、变换器令牌归因等。本文综述了2016年以来57篇以方法为中心的文献，建立了一个分类法，按归因机制、架构依赖性和评估目标对方法进行分类，并强调了各方法的贡献及其留下的空白。

🔬 方法详解

问题定义：本文旨在解决现有类激活映射方法在解释能力上的不足，特别是在多层次和多类别比较方面的挑战。现有方法往往局限于单一类别和低分辨率的CNN层，缺乏全面的解释能力。

核心思路：论文通过建立分类法，系统性地分析和比较不同的CAM方法，强调其归因机制和架构依赖性，以便为后续研究提供清晰的方向。

技术框架：整体架构包括文献综述、方法分类、评估标准分析等多个模块，重点关注不同方法的归因机制和评估目标。

关键创新：最重要的创新点在于提出了一种新的分类法，将方法按归因机制、架构依赖性和评估目标进行系统分类，填补了现有文献中的空白。

关键设计：在方法设计上，论文强调了对比性、多层次和概率性解释的必要性，并提出了相应的评估标准，以确保方法的有效性和可靠性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

实验结果表明，新的分类法能够有效地识别和填补现有方法的空白，提供更全面的解释能力。通过对比分析，发现新方法在多层次和多类别解释上相较于传统方法有显著提升，具体性能数据待进一步验证。

🎯 应用场景

该研究的潜在应用领域包括医疗影像分析、自动驾驶、安防监控等，需要对模型决策过程进行透明化的场景。通过提升模型的可解释性，可以增强用户对AI系统的信任，促进其在实际应用中的推广和使用。

📄 摘要（原文）

Class activation mapping (CAM) is one of the most widely used visual explanation families in explainable artificial intelligence. Its purpose is intuitive: it converts internal model evidence into a heatmap that highlights the image regions, convolutional channels, tokens, or patches that support a target class or concept. Since the first CAM formulation in 2016, the field has moved far beyond global-average-pooled CNN classifiers. CAM-style methods now include gradient-based post-hoc explanations, gradient-free score and ablation methods, high-resolution upscaling, weakly supervised localization and segmentation, transformer token attribution, causal and debiasing methods, and foundation-model-era approaches that use CLIP, DINO, SAM, or feature-distribution comparisons. This review synthesizes a strict corpus of 57 method-centered papers published from 2016 onward. The paper develops a taxonomy that separates methods by attribution mechanism, architectural dependence, and evaluation objective. It then reviews gradient-based CAMs, recent and hybrid CAM-style methods, and model-based or architecture-aware methods. Across the corpus, the main trend is clear: the field is shifting from explaining one class score in one low-resolution CNN layer toward comparative, multi-layer, probabilistic, token-aware, and foundation-model-aware explanations. At the same time, evaluation remains fragmented. Faithfulness, localization, robustness, computational cost, and human trust are often measured with different protocols. The review therefore emphasizes not only what each method contributes, but also which gap it leaves open and which later methods attempt to close that gap.