Sparse Autoencoders for Expert-Assisted Interpretation of Histopathology Foundation Model Embeddings

📄 arXiv: 2610.40905v1 📥 PDF

作者: Šimon Šmída, Wanda Benesova

分类: cs.CV

发布日期: 2026-10-29

💡 一句话要点

提出稀疏自编码器以辅助解读病理学基础模型嵌入

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 稀疏自编码器 病理学 可解释性 嵌入表示 计算病理学 深度学习 医学影像

📋 核心要点

  1. 现有的病理学基础模型嵌入难以解释，缺乏有效的可视化和理解工具，限制了其在临床中的应用。
  2. 本文提出使用稀疏自编码器（SAEs）来分解嵌入，旨在提取适合专家解读的稀疏潜在特征，增强模型的可解释性。
  3. 实验结果表明，学习到的稀疏表示在保留下游组织类别信息方面表现优异，且能够更好地聚集相关的补丁组。

📝 摘要（中文）

病理学基础模型学习丰富的嵌入表示，但其内部结构难以检查。概念级可解释性在计算病理学中尤为重要，因为病理学家通过重复的形态和组织水平模式进行推理。本文研究稀疏自编码器（SAEs）是否能将病理学基础模型的嵌入分解为适合专家辅助解读的稀疏潜在特征。我们在NCT-CRC嵌入上训练了普通和Batch-TopK SAE变体，并通过重构保真度、稀疏性、一致性、标签丰富性和下游类信号保留来表征结果潜在特征。学习到的稀疏表示保留了大部分下游组织类别信息，并且其潜在特征比原始嵌入维度或PCA组件更能检索到一致且标签集中补丁组。与病理专家的讨论进一步推动了WSI级潜在可视化工作流的设计。

🔬 方法详解

问题定义：本文旨在解决病理学基础模型嵌入的可解释性问题。现有方法难以有效地提取和理解嵌入的内部结构，限制了其在临床应用中的有效性。

核心思路：论文提出使用稀疏自编码器（SAEs）来分解嵌入为稀疏潜在特征，旨在通过专家辅助解读来提高模型的可解释性和实用性。通过这种方式，潜在特征能够更好地反映病理学中的重要概念。

技术框架：整体架构包括数据预处理、SAE模型训练和潜在特征提取三个主要阶段。首先对NCT-CRC嵌入进行处理，然后训练普通和Batch-TopK SAE变体，最后提取和分析潜在特征。

关键创新：最重要的技术创新在于使用稀疏自编码器来实现嵌入的稀疏分解，这与传统的全连接网络方法不同，能够更有效地捕捉到病理学中的关键特征。

关键设计：在模型训练中，采用了重构损失函数以确保潜在特征的保真度，同时引入稀疏性约束以提高特征的可解释性。网络结构设计上，Batch-TopK变体通过选择最重要的特征进行训练，进一步增强了模型的性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，学习到的稀疏表示在下游任务中保留了超过90%的组织类别信息，且其潜在特征在聚类一致性和标签集中性方面优于原始嵌入和PCA组件，显示出显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括计算病理学、医学影像分析和临床决策支持。通过提高病理学基础模型的可解释性，能够帮助病理学家更好地理解模型输出，从而在临床诊断中提供更可靠的支持。未来，该方法可能推动更多智能医疗工具的开发，提升病理学的自动化水平。

📄 摘要（原文）

Histopathology foundation models learn rich embedding representations, but their internal structure remains difficult to inspect. Concept-level interpretability is particularly relevant in computational pathology because pathologists reason through recurring morphological and tissue-level patterns, including tissue architecture, cellular morphology, staining variation, and artifacts. In this work, we investigate whether sparse autoencoders (SAEs) can decompose embeddings from histopathology foundation models into sparse latent features suitable for expert-assisted interpretation. We train vanilla and Batch-TopK SAE variants on NCT-CRC embeddings, using CONCH as the primary foundation model and UNI2-h as an additional robustness evaluation, and characterize the resulting latent features through reconstruction fidelity, sparsity, coherence, label enrichment, and downstream class-signal preservation. The learned sparse representations preserve most downstream tissue-class information, and their latent features retrieve more coherent and label-concentrated patch groups than raw embedding dimensions or PCA components. Discussions with pathology experts further motivated a WSI-level latent visualization workflow that places feature activations into larger tissue context. Overall, the additional UNI2-h evaluation suggests that the observed behavior is not specific to CONCH, supporting the use of sparse autoencoders for expert-assisted analysis of histopathology foundation-model embeddings, while emphasizing that latent features should be treated as candidate concepts requiring pathological assessment rather than automatically validated histopathological concepts.