CircuitSteer: Geometrically Aligned Multi-Layer Steering via Sparse Autoencoder Circuits

📄 arXiv: 2608.05732v1 📥 PDF

作者: Mehrshad Saadatinia, Parsa Razmara, Ardalan Aryashad, Ali Abbasi, Seyedarmin Azizi

分类: cs.LG

发布日期: 2026-08-06

🔗 代码/项目: GITHUB

💡 一句话要点

提出CircuitSteer以解决大语言模型行为控制问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 行为控制 稀疏自编码器 多层电路 几何对齐 自然语言处理 情感分析

📋 核心要点

  1. 现有的引导方法通常依赖于固定的单层干预，无法在语义多样的输入上保持一致的行为变化，限制了其有效性。
  2. CircuitSteer通过稀疏自编码器识别多层语义电路，利用几何对齐来操控模型的内部语义轨迹。
  3. 实验结果显示，CircuitSteer在多个任务上均能实现流畅性保持的干预，优于其他方法，尤其在复杂行为上表现突出。

📝 摘要（中文）

控制大型语言模型（LLMs）的行为是AI对齐中的一项关键挑战。现有的引导方法，如对比激活添加（CAA），通常依赖于固定的单层干预，这限制了其在语义多样输入上的有效性。本文提出CircuitSteer，一个利用稀疏自编码器（SAEs）识别和操控分布于多层的语义电路的新框架。通过构建基于特征共激活和解码器方向几何对齐的特征流电路，我们能够隔离出负责目标行为的多层子电路。实验表明，CircuitSteer在多个任务上均能保持流畅性，优于其他方法，展示了多层电路引导的有效性。

🔬 方法详解

问题定义：本文旨在解决大型语言模型行为控制中的不足，现有方法往往无法在多样化输入上保持一致的行为变化，限制了其应用效果。

核心思路：CircuitSteer的核心思想是利用稀疏自编码器识别和操控分布于多层的语义电路，通过几何对齐来增强干预的有效性。

技术框架：该方法包括特征流电路的构建、特征共激活的分析以及多点干预的实施，整体流程旨在从多层中提取出有意义的语义电路。

关键创新：CircuitSteer的主要创新在于其多层电路引导能力，通过几何对齐增强了干预的鲁棒性，与传统的单点干预方法形成鲜明对比。

关键设计：在设计中，采用了特征共激活分析来识别关键特征，并通过合成稠密的引导向量来实现多点干预，确保干预的流畅性和有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CircuitSteer在多个任务上均能保持文本流畅性，且在处理复杂行为（如谄媚和拒绝）时表现优于其他方法，展示了其在行为控制上的显著提升。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的情感分析、对话系统和内容生成等。通过有效控制模型行为，能够提升用户体验和内容质量，具有重要的实际价值和未来影响。

📄 摘要（原文）

Controlling the behavior of large language models (LLMs) remains a critical challenge for AI alignment. Existing steering methods, such as Contrastive Activation Addition (CAA), typically rely on fixed single-layer interventions derived from aggregate activation differences. These methods impose a single intervention across semantically diverse inputs and often fail to sustain consistent behavioral changes across layers, limiting the effectiveness of the steering. In this work, we introduce CircuitSteer, a novel framework that leverages Sparse Autoencoders (SAEs) to identify and manipulate coherent semantic circuits distributed across multiple layers. By constructing a feature flow circuit based on feature co-activation and the geometric alignment of decoder directions, we isolate the specific multi-layer subcircuits responsible for a target behavior. We then synthesize dense steering vectors from these sparse features and apply multi-point interventions to guide the model's internal semantic trajectory. We evaluate CircuitSteer using contrastive examples across a diverse set of tasks, including toxicity, emotion-intensity, sycophancy, and refusal, spanning two model families. Across all models and datasets, CircuitSteer is the only method to consistently produce fluency-preserving interventions; competing methods either sacrifice text quality or lack coverage, failing entirely on complex behaviors like sycophancy and refusal. These results demonstrate that multi-layer circuit steering, enabled by enforcing geometric alignment among selected features, yields strictly more robust and effective behavioral control than static single-point interventions. Code is available at https://github.com/mehrshad-sdtn/CircuitSteer.