EXPOSE: Explainable and Domain-Robust Embeddings from Pathology Vision Foundation Models using Sparse Autoencoders
作者: Anja Witte, Maximilian Lennartz, Jan Baumbach, Guido Sauter, Stefan Bonn, Patrick Fuhlert, Marina Zimmermann
分类: cs.CV, cs.LG
发布日期: 2026-08-28
🔗 代码/项目: GITHUB
💡 一句话要点
提出EXPOSE框架以解决病理图像领域迁移问题
🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 视觉基础模型 稀疏自编码器 领域转移 可解释性 病理图像分析 跨领域泛化 机器学习
📋 核心要点
- 现有的视觉基础模型在处理病理图像时对领域转移非常敏感,导致跨领域泛化能力不足。
- 本文提出EXPOSE框架,通过稀疏自编码器识别并抑制领域特定信息,从而提高模型的可解释性和鲁棒性。
- 在大规模前列腺癌数据集上实验表明,去除领域特定特征后,模型的跨领域性能显著提升,鲁棒性增强。
📝 摘要(中文)
视觉基础模型(VFM)在计算病理学中广泛应用,但对因染色、组织准备和扫描仪硬件变化引起的领域转移敏感。VFM嵌入将生物信息与领域特定信息纠缠在一起,阻碍了跨领域的泛化。为此,本文提出了可解释的跨领域稀疏嵌入探测框架(EXPOSE),利用稀疏自编码器(SAE)作为可解释的瓶颈,识别并抑制VFM嵌入中的领域特定成分。通过训练VFM特征的稀疏表示,使用线性分类器识别领域特定的潜在维度,并在下游复发预测之前对这些特征进行屏蔽,且无需重新训练主干模型。实验结果表明,SAE特征能够捕捉领域和任务特定信息,并在潜在空间中部分解缠。去除领域特定特征提高了跨领域性能,并增加了嵌入的鲁棒性。
🔬 方法详解
问题定义:本文旨在解决视觉基础模型在病理图像分析中因领域转移导致的性能下降问题。现有方法的痛点在于VFM嵌入将生物信息与领域特定信息混合,影响了模型的跨领域泛化能力。
核心思路:提出EXPOSE框架,利用稀疏自编码器(SAE)作为可解释的瓶颈,识别并抑制VFM嵌入中的领域特定成分,从而提高模型的可解释性和跨领域性能。
技术框架:整体架构包括三个主要模块:首先,训练VFM特征的稀疏表示;其次,使用线性分类器识别领域特定的潜在维度;最后,在下游任务中屏蔽这些领域特定特征,而无需重新训练主干模型。
关键创新:最重要的技术创新在于通过稀疏自编码器有效解缠领域特定与任务特定信息,显著提高了模型的跨领域泛化能力,与现有方法相比具有本质区别。
关键设计:在模型设计中,采用了稀疏性约束的损失函数,以确保特征的稀疏表示,同时在分类器中引入了领域特定维度的识别机制,确保了模型在不重新训练的情况下实现特征屏蔽。
🖼️ 关键图片
📊 实验亮点
实验结果显示,去除领域特定特征后,模型在不同数据集上的跨领域性能提升了显著,Domain Robustness Index (DoRI)的测量结果表明,模型的鲁棒性得到了增强,具体性能数据未提供。
🎯 应用场景
该研究具有广泛的应用潜力,尤其在病理学、医学影像分析和生物医学研究等领域。通过提高模型在不同领域间的鲁棒性,EXPOSE框架能够帮助医生更准确地进行疾病诊断和预后评估,推动个性化医疗的发展。
📄 摘要(原文)
Vision Foundation Models (VFMs) are widely used in computational pathology but remain sensitive to domain shifts arising from variations in staining, tissue preparation, and scanner hardware. A key limitation is that VFM embeddings entangle biological with domain-specific information, hindering cross-domain generalization. We propose Explainable Probing of Cross-Domain Sparse Embeddings (EXPOSE), a framework that uses Sparse Autoencoders (SAEs) as an explainable bottleneck to identify and suppress domain-specific components in VFM embeddings. We train a sparse representation of VFM features, use a linear classifier to identify domain-specific latent dimensions, and mask these features prior to downstream relapse prediction without retraining the backbone model. Experiments on a large prostate cancer dataset with multiple acquisition domains show that SAE features capture both domain- and task-specific information, which are partially disentangled in the latent space. Removing domain-specific features improves cross-domain performance and increases embedding robustness as measured by the Domain Robustness Index (DoRI). Code is available at https://github.com/imsb-uke/expose .