VIAS: Value-Isolating Activation Steering for Multi-Value Alignment and Compliance for Organisations

📄 arXiv: 2611.03518v1 📥 PDF

作者: Avni Mittal, Avinash Anand, Dikshant Kukreja, Erik Cambria, Rajiv Ratn Shah, Sandipan Dandapat

分类: cs.CL, cs.AI, cs.LG, cs.MA

发布日期: 2026-11-02

💡 一句话要点

提出VIAS以解决组织价值合规性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 激活引导 多重价值 合规性 大型语言模型 价值隔离 组织价值 道德决策

📋 核心要点

  1. 现有方法在处理多重价值时，生成的向量往往无法有效区分不同价值，导致合规性控制不足。
  2. 论文提出的VIAS通过对比同一场景下不同提示的响应，构建更具针对性的激活向量，以提高合规性。
  3. 实验结果显示，VIAS在多个模型上实现了69.6%至75.2%的合规性，显著优于仅依赖提示的方法。

📝 摘要（中文）

随着组织越来越多地部署大型语言模型代理，确保其遵循组织价值变得至关重要。本文探讨了激活引导技术，旨在通过在生成过程中向模型内部激活添加向量来提高合规性。针对多重价值场景，提出了价值隔离激活引导（VIAS），通过对比同一场景下不同提示的响应，来构建更具针对性的向量。实验表明，VIAS在多个模型上显著提高了合规性，超越了单纯的提示方法。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在多重价值场景下的合规性问题。现有的激活引导方法生成的向量无法有效区分不同的价值，导致合规性控制的不足。

核心思路：论文提出的价值隔离激活引导（VIAS）通过对比同一场景下的两种提示响应，构建更具针对性的激活向量，从而提高合规性。具体而言，通过对比包含所有相关价值的提示与省略单一目标价值的提示，来生成更具区分性的向量。

技术框架：VIAS的整体架构包括数据准备、向量生成和合规性评估三个主要模块。在数据准备阶段，收集包含多重价值的场景数据；在向量生成阶段，通过对比不同提示的响应生成激活向量；最后，在合规性评估阶段，验证生成的向量在实际应用中的有效性。

关键创新：VIAS的核心创新在于通过对比同一场景下的不同提示，生成更具针对性的激活向量。这一方法与传统的激活引导方法不同，后者通常生成的向量无法有效区分不同的价值。

关键设计：在VIAS中，选择的提示设计至关重要，确保目标价值的合规性变化能够被捕捉。此外，设置了合规性阈值，以确保生成的响应在其他价值上仍然符合最低合规标准。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，VIAS在Qwen2.5-7B模型上实现了69.6%的合规性，在Mistral-7B上为75.2%，在Phi-3.5-mini上为72.6%。这些结果均显著优于仅依赖提示的方法，表明VIAS在多重价值合规性控制中的有效性。

🎯 应用场景

该研究的潜在应用领域包括企业合规性监控、道德决策支持系统以及人机交互中的价值引导。通过提高大型语言模型对组织价值的遵循能力，能够在实际应用中增强决策的透明度和一致性，促进更符合伦理的自动化决策。未来，VIAS有望在更多复杂场景中得到应用，推动智能代理的合规性研究。

📄 摘要（原文）

Organisations increasingly deploy large language model agents that must follow organisational values. We check whether activation steering, which adds vectors to a model's internal activations during generation without changing its weights, can improve compliance beyond prompting alone. Since most scenarios involve several values at once, we focus on multi-value steering. A simple way to build these vectors is to contrast responses that follow all values relevant to a scenario with responses that violate them. However, this gives nearly identical vectors for different values: they capture a general compliance signal rather than individual values, which limits their use when combining several values. We propose Value-Isolating Activation Steering (VIAS), which contrasts responses to the same scenario under two prompts, one listing all relevant values and one omitting a single target value. We keep a pair only if the target value changes from compliant to non-compliant and both responses still meet a minimum compliance level on the other values. We evaluate VIAS on PROTECT, a workplace compliance dataset where each scenario is tagged with relevant values from a 21-value taxonomy. VIAS reduces overlap between value vectors, making them better suited for multi-value steering, although this alone does not lead to independent control over each value. Combined with prompting, VIAS complies with every tagged value on 69.6% of scenarios for Qwen2.5-7B, 75.2% for Mistral-7B, and 72.6% for Phi-3.5-mini, outperforming prompting alone for all three models.