When Pruning Meets Interpretability: Preserving Sparse Autoencoder Robustness in LLMs

📄 arXiv: 2608.25941v1 📥 PDF

作者: Suchit Gupte, Xueru Zhang, Mohammad Mahdi Khalili

分类: cs.LG

发布日期: 2026-08-26

🔗 代码/项目: GITHUB

💡 一句话要点

提出层级稀疏分配策略以提升稀疏自编码器在大语言模型中的鲁棒性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 稀疏自编码器 大语言模型 模型剪枝 鲁棒性 激活感知 层级稀疏分配 扰动能量 可解释性

📋 核心要点

  1. 现有稀疏自编码器在模型剪枝后的鲁棒性尚未得到充分理解，导致其解释能力受到影响。
  2. 论文提出了一种层级稀疏分配策略，旨在通过控制扰动能量来提升SAE在剪枝过程中的鲁棒性。
  3. 实验结果表明，采用新策略后，模型在相同剪枝稀疏度下的困惑度显著降低，验证了理论分析的有效性。

📝 摘要（中文）

稀疏自编码器（SAEs）广泛用于解释大语言模型（LLMs）的内部表示，但其在后处理模型压缩下的可靠性尚不明确。本文系统研究了剪枝对SAE行为的影响，并理论上表明，对于固定的SAE，其影响由扰动能量控制。我们揭示了幅度剪枝的关键局限性：忽视激活几何形状会扭曲学习的表示空间，降低SAE功能。相较之下，Wanda和SparseGPT等激活感知方法能够更好地控制扰动能量，从而在保持SAE行为方面表现出更强的鲁棒性。此外，我们发现所有剪枝方法中，中间层对剪枝的敏感性显著高于早期或晚期层。基于这一洞察，我们提出了一种层级稀疏分配策略，在相同平均剪枝稀疏度下实现了更低的困惑度。实验验证了我们的理论发现，代码已公开。

🔬 方法详解

问题定义：本文旨在解决稀疏自编码器在大语言模型剪枝后鲁棒性不足的问题。现有的幅度剪枝方法忽视了激活几何形状，导致学习的表示空间扭曲，功能下降。

核心思路：论文的核心思路是通过引入扰动能量的概念，设计激活感知的剪枝方法，以更好地保持稀疏自编码器的功能和表现。

技术框架：整体架构包括对不同剪枝方法的比较分析，重点关注中间层的敏感性，并提出层级稀疏分配策略。主要模块包括理论分析、实验验证和代码实现。

关键创新：最重要的技术创新在于提出了层级稀疏分配策略，能够在相同剪枝稀疏度下显著降低困惑度，解决了传统幅度剪枝的局限性。

关键设计：关键设计包括扰动能量的计算方法、层级稀疏分配的具体策略以及在不同模型架构下的实验设置，确保了理论与实践的紧密结合。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果显示，采用层级稀疏分配策略后，模型在相同平均剪枝稀疏度下的困惑度降低了显著幅度，验证了理论分析的有效性。与传统方法相比，新方法在保持稀疏自编码器功能方面表现出更高的鲁棒性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、机器翻译和对话系统等，能够提升大语言模型在实际应用中的解释能力和鲁棒性。未来，研究成果可能推动更高效的模型压缩技术的发展，促进AI系统的可解释性与安全性。

📄 摘要（原文）

Sparse autoencoders (SAEs) are widely used to interpret the internal representations of large language models (LLMs), yet their reliability under post-hoc model compression remains poorly understood. We present a systematic study of how pruning affects SAE behavior and theoretically show that, for a fixed SAE, its impact is governed by perturbation energy, a covariance-weighted norm. This perspective exposes a key limitation of magnitude pruning: by ignoring activation geometry, it distorts the learned representation space and degrades SAE functionality. Activation-aware methods such as Wanda and SparseGPT, in contrast, implicitly control perturbation energy and are therefore substantially more robust at preserving SAE behavior. We further reveal a consistent structural vulnerability across all pruning methods: middle layers are significantly more sensitive to pruning than early or late layers. Guided by this insight, we propose a layer-wise sparsity allocation strategy, achieving lower perplexity under the same average pruning sparsity. Experiments across four model architectures validate our theoretical findings. Code is publicly available at https://github.com/osu-srml/sae-robustness-under-pruning/tree/main.