BabelSteering: Multilingual Safety Alignment via English Steering Vectors
作者: Emma V. Stein, Dominik Meier, Terry Ruas, Jan Philip Wahle, Bela Gipp
分类: cs.CL
发布日期: 2026-08-17
💡 一句话要点
提出BabelSteering以提升多语言安全性对齐问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多语言模型 安全性对齐 激活引导 跨语言干预 大型语言模型 安全信号 推理干预
📋 核心要点
- 现有的安全研究主要集中在英语上，导致其他语言用户在使用大型语言模型时面临较弱的安全保障。
- BabelSteering通过激活引导方法，利用英语的安全信号来提升多语言环境中的安全性。
- 实验结果表明，BabelSteering在多种语言中显著提高了对有害请求的拒绝率，且任务效用保持稳定。
📝 摘要（中文）
大型语言模型（LLMs）在全球高风险环境中被广泛应用，但大多数安全研究和对齐工作仍集中于英语。因此，使用其他语言与LLMs互动的用户可能面临较弱的安全保障。本文研究了从高资源语言（如英语）学习的安全信号是否能改善多语言安全。我们提出了BabelSteering，一种轻量级推理时干预的激活引导方法，利用来自英语安全监督的拒绝方向在多语言间进行泛化。评估结果显示，BabelSteering在多语言中提高了对有害请求的拒绝率，同时任务效用仅有轻微或无下降，伪有害请求的拒绝率有所增加。我们的研究表明，激活引导可能为将英语衍生的安全信号扩展到其他语言提供了一种实用的低成本机制。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在多语言环境中的安全性不足问题，现有方法主要集中在英语，导致其他语言的用户面临较弱的保护。
核心思路：BabelSteering的核心思想是通过激活引导的方法，将英语中学习到的安全信号泛化到其他语言，以提升多语言的安全性。
技术框架：该方法的整体架构包括从英语安全监督中提取拒绝方向，并在推理时应用于多语言输入。主要模块包括信号提取、语言适应和拒绝决策。
关键创新：BabelSteering的创新之处在于其轻量级的推理干预机制，能够有效地将英语的安全信号扩展到其他语言，而不需要对模型进行大规模重训练。
关键设计：在设计中，采用了特定的损失函数来优化拒绝决策，并通过多语言翻译与评估管道来确保不同语言间的有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，BabelSteering在多种语言中对有害请求的拒绝率平均提高了11个百分点，某些语言如孟加拉语的提升达到17个百分点，同时在Global MMLU任务上未出现效用损失，伪有害请求的拒绝率平均增加了13个百分点，展现了该方法的有效性。
🎯 应用场景
BabelSteering的研究成果具有广泛的应用潜力，尤其是在多语言环境下的安全性提升。该方法可以应用于各种需要高安全性的领域，如医疗、金融和法律等，确保用户在使用大型语言模型时获得一致的安全保障。未来，随着多语言模型的普及，该方法的影响力将进一步扩大。
📄 摘要（原文）
Large language models (LLMs) are deployed globally in high-stakes settings, yet most safety research and alignment efforts remain concentrated on English. Thus, users interacting with LLMs in other languages may encounter weaker safeguards despite relying on the same systems for similarly sensitive tasks. In this work, we investigate whether safety signals learned from a high-resource language, like English, can improve multilingual safety. We propose BabelSteering, an activation steering method that acts as a lightweight inference- time intervention, using refusal directions derived from English safety supervision to generalize across languages. Our evaluation includes eight languages and jointly measures refusal of harmful requests, over-refusal, and general task utility. The results show that BabelSteering increases the refusal of harmful requests across languages, with only a marginal to no reduction in task utility but with some increase in refusal of pseudo-harmful prompts. For example, for Gemma 7B, we see an average increase in the refusal of harmful prompts across languages of 11 percentage points (pp), with individual languages like Bengali seeing an increase of 17 pp, with no loss of utility on Global MMLU, while pseudo-harmful refusals increase by 13 pp on average. We also introduce a multilingual translation-and-evaluation pipeline to facilitate future work on cross-lingual safety interventions. Overall, our findings suggest that activation steering may provide a practical, low- cost mechanism for extending English-derived safety signals to other languages. Warning: this paper contains examples with unsafe content