Fast Multi-dimensional Refusal Subspaces via RFM-AGOP

📄 arXiv: 2607.02396 📥 PDF

作者: Thomas Winninger

分类: cs.AI, cs.LG

发布日期: 2026-07-05

💡 一句话要点

提出RFM-AGOP以快速识别多维拒绝子空间

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 多维子空间 递归特征机 模型可解释性 安全性监测

📋 核心要点

  1. 现有方法在提取多维拒绝子空间时计算成本高，尤其在处理长推理轨迹时变得不可行。
  2. 本文提出了一种基于递归特征机（RFM）算法的高效方法，通过探针初始化快速识别多维拒绝子空间。
  3. 实验结果表明，RFM在子空间识别速度上显著提升，并在消融任务中表现优于其他替代方法。

📝 摘要（中文）

在大型语言模型（LLMs）中，操控和监测激活值越来越多地用于安全性和可解释性。早期研究假设行为沿单一线性方向编码，但最近的发现表明，复杂行为（如拒绝回答有害查询）存在于多维子空间中。然而，现有提取这些子空间的方法计算成本高，尤其在推理模型中更为显著。通过将递归特征机（RFM）算法与探针信息初始化相结合，本文能够在几秒内识别推理（Qwen 3）和非推理（Qwen 2.5）模型中的多维拒绝子空间。RFM不仅加快了子空间识别速度，还在消融任务中表现优于其他方法。后续研究将探讨不同方法发现的子空间之间的关系，若得到确认，RFM将成为现有子空间提取方法的廉价且可扩展的补充。

🔬 方法详解

问题定义：本文旨在解决现有方法在提取大型语言模型中的多维拒绝子空间时计算成本高的问题，尤其是在处理长推理轨迹时的效率瓶颈。

核心思路：通过将递归特征机（RFM）算法与探针信息初始化相结合，本文提出了一种高效的子空间识别方法，旨在快速定位复杂行为的多维特征。

技术框架：整体流程包括数据预处理、探针初始化、RFM算法应用及子空间识别四个主要模块。首先，通过探针获取初始特征，然后利用RFM算法高效提取多维子空间。

关键创新：RFM算法的高效性和探针初始化的结合是本文的核心创新，与传统方法相比，显著降低了计算复杂度。

关键设计：在参数设置上，RFM算法的迭代次数和特征选择策略经过优化，以确保在保持准确性的同时提高计算速度。

📊 实验亮点

实验结果显示，RFM算法在多维拒绝子空间识别上仅需几秒钟，相较于传统方法，速度提升了数倍。此外，在消融任务中，RFM的表现优于其他对比基线，进一步验证了其有效性。

🎯 应用场景

该研究的潜在应用领域包括安全性监测、模型可解释性分析以及人机交互等。通过快速识别多维拒绝子空间，研究者可以更好地理解和控制大型语言模型的行为，从而提升其在实际应用中的安全性和可靠性。

📄 摘要（原文）

Steering and monitoring activations in Large Language Models (LLMs) are increasingly used for both safety and interpretability. Early work assumed behaviours are encoded along single linear directions, but recent findings suggest complex behaviours, such as the refusal to answer harmful queries, live in multi-dimensional subspaces. However, existing methods for extracting these subspaces are computationally expensive, which becomes prohibitive on reasoning models who produce long reasoning traces. By adapting the Recursive Feature Machine (RFM) algorithm -- which can be computed efficiently -- with a probe-informed initialization, we are able to identify the multi-dimensional refusal subspace in seconds, on reasoning (Qwen 3) and non-reasoning (Qwen 2.5) models. While RFM allows for faster subspace identification, it also showed better performances on the ablation task than its alternatives. More work is planned to better understand the relations between subspaces found by different methods. If confirmed, RFM could be a cheap and scalable complement to existing subspace-extraction methods in LLMs.