Fast Multi-dimensional Refusal Subspaces via RFM-AGOP

📄 arXiv: 2607.02396v1 📥 PDF

作者: Thomas Winninger

分类: cs.AI, cs.LG

发布日期: 2026-07-02

备注: Accepted to the Mechanistic Interpretability Workshop at the 43rd International Conference on Machine Learning, Seoul, South Korea, 2026

💡 一句话要点

提出RFM-AGOP以快速识别多维拒绝子空间

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 拒绝子空间 递归特征机 可解释性 安全性监控 多维分析

📋 核心要点

  1. 现有方法在提取多维拒绝子空间时计算成本高，尤其在长推理轨迹的模型中表现尤为明显。
  2. 本文提出通过递归特征机（RFM）算法结合探针引导初始化，快速识别多维拒绝子空间。
  3. 实验结果表明，RFM在子空间识别速度上显著提升，并在消融任务中表现优于其他对比方法。

📝 摘要（中文）

在大型语言模型（LLMs）中，激活的引导和监控越来越多地用于安全性和可解释性。早期研究假设行为沿单一线性方向编码，但最近的发现表明，拒绝回答有害查询等复杂行为存在于多维子空间中。然而，现有提取这些子空间的方法计算成本高，尤其在推理模型中更为显著。通过将递归特征机（RFM）算法与探针引导初始化相结合，本文能够在几秒钟内识别推理（Qwen 3）和非推理（Qwen 2.5）模型中的多维拒绝子空间。RFM不仅加快了子空间识别速度，还在消融任务中表现优于其他方法。后续研究将进一步探讨不同方法发现的子空间之间的关系。

🔬 方法详解

问题定义：本文旨在解决现有方法在提取大型语言模型中的多维拒绝子空间时计算成本高的问题，尤其是在处理长推理轨迹时的效率瓶颈。

核心思路：通过引入递归特征机（RFM）算法，并结合探针引导的初始化策略，本文能够在短时间内高效识别多维拒绝子空间，从而提高模型的可解释性和安全性。

技术框架：整体流程包括数据预处理、RFM算法的应用以及探针引导初始化。首先对模型的激活进行分析，然后利用RFM算法快速识别子空间，最后通过探针进一步优化识别结果。

关键创新：RFM算法的引入是本文的核心创新，与传统方法相比，RFM在计算效率上具有显著优势，能够在更短时间内识别复杂的多维子空间。

关键设计：在参数设置上，RFM算法的迭代次数和学习率经过精心调整，以确保在快速识别的同时保持高准确性。此外，探针引导的初始化策略通过引导模型关注重要特征，进一步提升了识别效果。

🖼️ 关键图片

img_0
img_1

📊 实验亮点

实验结果显示，RFM在多维拒绝子空间的识别速度上显著提升，能够在几秒钟内完成识别。同时，在消融任务中，RFM的表现优于其他对比方法，展示了其在效率和准确性上的优势。

🎯 应用场景

该研究的潜在应用领域包括大型语言模型的安全性监控和可解释性分析，尤其在处理敏感或有害查询时，能够有效识别模型的拒绝行为。未来，RFM可能成为其他子空间提取方法的廉价且可扩展的补充，推动更广泛的应用。

📄 摘要（原文）

Steering and monitoring activations in Large Language Models (LLMs) are increasingly used for both safety and interpretability. Early work assumed behaviours are encoded along single linear directions, but recent findings suggest complex behaviours, such as the refusal to answer harmful queries, live in multi-dimensional subspaces. However, existing methods for extracting these subspaces are computationally expensive, which becomes prohibitive on reasoning models who produce long reasoning traces. By adapting the Recursive Feature Machine (RFM) algorithm -- which can be computed efficiently -- with a probe-informed initialization, we are able to identify the multi-dimensional refusal subspace in seconds, on reasoning (Qwen 3) and non-reasoning (Qwen 2.5) models. While RFM allows for faster subspace identification, it also showed better performances on the ablation task than its alternatives. More work is planned to better understand the relations between subspaces found by different methods. If confirmed, RFM could be a cheap and scalable complement to existing subspace-extraction methods in LLMs.