Aligning Large Language Models for Safety in African Languages: A Case Study of Hausa

📄 arXiv: 2610.37245v1 📥 PDF

作者: Valdini Douglace Lemofouet, Blessing Ngozi Uzor, Paula Chikaodinaka Anyanwu, Danielle Blanche Kapsa, Saminu Mohammad Aliyu, Seid Muhie Yimam, Shamsuddeen Hassan Muhammad

分类: cs.CL, cs.AI

发布日期: 2026-10-27

💡 一句话要点

提出HausaSafeLM以解决低资源语言安全对齐问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 豪萨语 安全对齐 低资源语言 大型语言模型 数据集构建 自然语言处理 模型优化

📋 核心要点

  1. 现有的安全对齐方法主要针对高资源语言，缺乏对低资源语言的有效评估，导致豪萨语等语言的安全性研究不足。
  2. 本文提出HausaSafeLM数据集，包含10,000个豪萨语提示，旨在评估和优化豪萨语模型的安全性和流利性。
  3. 实验结果表明，SFT显著提高了拒绝的流利性和准确性，而DPO则在准确性上有所提升，但牺牲了语言质量。

📝 摘要（中文）

针对大型语言模型（LLMs）的安全对齐研究主要集中在高资源语言上，缺乏对低资源、文化独特环境中现有对齐方法的评估。本文以西非地区使用的豪萨语为例，提出了HausaSafeLM，这是首个豪萨安全偏好数据集，包含来自PKU-SafeRLHF的10,000个提示。通过对Qwen2.5-7B-Instruct模型进行监督微调（SFT）和直接偏好优化（DPO）比较，发现现有对齐技术在低资源语言中更倾向于教模型何时拒绝，而非如何流利地拒绝，拒绝率指标在此环境下并不可靠。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在低资源语言（如豪萨语）中的安全对齐问题。现有方法在高资源语言中表现良好，但在豪萨语等低资源语言中，模型的拒绝能力往往与生成能力不足相关，导致安全性评估不准确。

核心思路：论文提出HausaSafeLM数据集，通过引入人类校正和机器翻译的提示，来评估和优化豪萨语模型的安全性。通过对比SFT和DPO两种方法，探索如何在低资源语言中实现更好的安全对齐。

技术框架：研究采用Qwen2.5-7B-Instruct模型，首先进行监督微调（SFT），然后在此基础上进行直接偏好优化（DPO）。整个流程包括数据集构建、模型训练和性能评估三个主要阶段。

关键创新：HausaSafeLM是首个豪萨安全偏好数据集，填补了低资源语言安全对齐研究的空白。通过引入多样化的数据源，论文展示了如何在低资源环境中有效提升模型的安全性和流利性。

关键设计：在模型训练中，使用了3,000个经过人类校正的高质量示例和7,000个机器翻译的低质量示例。SFT显著提高了拒绝的流利性和准确性，而DPO则在准确性上有所提升，但对语言质量造成了负面影响。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，未调优的基础模型在拒绝率指标上表现出较高的安全性，但这主要是由于其生成能力有限。SFT显著提高了拒绝的流利性和准确性，尤其是在使用更大、噪声更高的银级数据时，而DPO虽然提高了拒绝的准确性，但在语言质量上造成了显著下降。

🎯 应用场景

该研究的潜在应用领域包括低资源语言的自然语言处理、智能助手和内容审核系统等。通过提升豪萨语模型的安全性和流利性，能够更好地服务于使用该语言的用户群体，促进文化多样性和信息获取的公平性。

📄 摘要（原文）

Safety alignment research for large language models (LLMs) remains concentrated on high-resource languages, leaving open how existing alignment methods perform in low-resource, culturally distinct settings. We study this question for Hausa, a language spoken by more than 200 million people across West Africa. We introduce HausaSafeLM, one of the first Hausa safety preference dataset, built from 10,000 prompts derived from PKU-SafeRLHF: 3,000 human-corrected (gold) and 7,000 machine-translated (silver) examples spanning six harm macro-categories. Using Qwen2.5-7B-Instruct, we compare supervised fine-tuning (SFT) and SFT followed by Direct Preference Optimization (DPO) under both data regimes, evaluating on 500 harmful and 200 benign Hausa prompts.We find that the untuned base model appears highly safe by refusal-rate metrics alone, but this reflects limited Hausa generation ability rather than genuine alignment: its refusals are almost uniformly low quality. SFT improves both refusal fluency and precision and benefits substantially from the larger, noisier silver-tier data, while DPO sharpens refusal precision but comes at a steep, largely data-invariant cost to linguistic quality. No single configuration jointly maximizes safety, helpfulness, and fluency. Our results suggest that current alignment techniques teach models when to refuse more readily than how to do so fluently in underrepresented languages, and that refusal-rate metrics alone are an unreliable signal of safety in low-resource settings.