CANS: Capability-Preserving Neuron Steering for Large Language Models

📄 arXiv: 2610.35530v1 📥 PDF

作者: Yucheng Wu, Chengyi Xie, Chenpeng Wang, Liangming Pan

分类: cs.AI

发布日期: 2026-10-26

💡 一句话要点

提出CANS以解决大语言模型行为控制与能力保持问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 行为控制 能力保持 激活引导 KL散度 安全性 内容过滤

📋 核心要点

  1. 现有的激活引导方法在控制目标行为时，往往会损害模型的通用能力，并且需要特定领域的干预设计。
  2. 本文提出的能力保持神经引导（CANS）框架，通过引入对数概率和KL散度两个代理，实现了目标行为控制与能力保持的平衡。
  3. 在Qwen和Llama模型上，CANS在安全性和毒性控制方面表现优异，同时在能力保持上优于SFT、CAA等基线方法。

📝 摘要（中文）

激活引导提供了对大语言模型目标行为的动态控制，但现有方法可能损害模型的通用能力，并需要特定领域的干预设计。本文提出了能力保持神经引导（CANS），这是一个统一框架，旨在平衡目标行为控制与能力保持。通过引入目标标记的对数概率和通用输入的输出分布KL散度两个代理，结合这两个代理的局部近似，CANS实现了轻量级引导，无需迭代模型训练或额外的推理时间计算。实验表明，CANS在安全性、毒性和幻觉控制方面表现出色，同时在MMLU、BBH和IFEval性能上优于现有基线。CANS为跨领域行为控制提供了实用的方法。

🔬 方法详解

问题定义：本文旨在解决大语言模型在进行目标行为控制时，可能损害其通用能力的问题。现有方法往往需要领域特定的干预设计，限制了其适用性。

核心思路：CANS通过引入两个代理（目标标记的对数概率和输出分布的KL散度），实现了对目标行为的有效控制，同时保持模型的通用能力。这样的设计使得目标行为的改善与能力保持变得可行。

技术框架：CANS的整体架构包括数据构建和干预程序，利用采样响应进行目标行为过滤和目标跨度注释。通过局部近似，结合两个代理，得出封闭形式的解决方案，实现轻量级引导。

关键创新：CANS的主要创新在于其统一框架，能够在不进行迭代训练或额外推理计算的情况下，实现有效的神经引导。这与现有方法的本质区别在于其能力保持的有效性和适用性。

关键设计：CANS采用了神经元级的缩放系数来实现有效引导，并通过共享的数据构建和干预程序支持跨领域适应。

🖼️ 关键图片

fig_0

📊 实验亮点

在Qwen3-4B模型上，CANS将HarmBench攻击成功率从15.50%降低至1.75%，同时平均能力下降仅为1.11分。这表明CANS在行为控制和能力保持方面的显著优势。

🎯 应用场景

CANS的研究成果在多个领域具有广泛的应用潜力，尤其是在需要对大语言模型进行行为控制的场景，如安全性、内容过滤和用户交互等。其能力保持特性使得模型在特定任务中的表现不会显著下降，具有实际应用价值。

📄 摘要（原文）

Activation steering offers training-free and dynamic control of target behaviors in large language models, but existing methods can impair general capabilities and require domain-specific intervention designs. We introduce Capability-Preserving Neuron Steering (CANS), a unified framework that balances target-behavior control with capability preservation. To make target-behavior improvement and general-capability preservation tractable, we introduce two proxies: log-probabilities of target tokens in model generated responses, and output-distribution KL divergence on general-purpose inputs. Combining the local approximation of the two proxies yields a closed-form solution, enabling lightweight steering without iterative model training or additional inference-time computation. The resulting neuron-wise scaling coefficients achieve effective steering while limiting general-capability loss. A shared data-construction and intervention procedure supports adaptation across domains using sampled responses with target-behavior filtering and target-span annotations. Across safety, toxicity, and hallucination control on Qwen and Llama models, CANS achieves comparable or better steering while better preserving MMLU, BBH, and IFEval performance than SFT, CAA, and neuron-level baselines. On Qwen3-4B, CANS reduces HarmBench attack success from $15.50\%$ to $1.75\%$ with a $1.11$-point decrease in average capability. These results support CANS as a practical approach to behavioral control across domains.