IndicGuard: A Multilingual Safety Guard Model and Dataset for Indic Languages

📄 arXiv: 2606.22841v1 📥 PDF

作者: Parth Bramhecha, Smit Deshmukh, Sairaj Bodhale, Adwait Borate, Raviraj Joshi

分类: cs.CL, cs.LG

发布日期: 2026-06-22

💡 一句话要点

提出IndicGuard以解决印度语言安全性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多语言模型 内容审核 安全机制 文化敏感性 印度语言 机器学习 数据集构建

📋 核心要点

  1. 现有的安全机制主要针对英语，无法有效应对印度地区的文化和社会敏感性问题。
  2. 本文提出IndicGuard，通过构建多语言安全数据集并微调大型语言模型，旨在提升对印度语言的内容审核能力。
  3. 实验结果显示，IndicGuard在多种语言中显著优于现有基线模型CultureGuard，且在低资源语言中也表现出良好的泛化能力。

📝 摘要（中文）

随着大型语言模型（LLMs）在多种语言环境中的广泛应用，确保其安全性与地区规范价值观的对齐成为一项重要挑战。目前的安全机制主要针对英语框架，往往无法捕捉到印度地区独特的社会文化敏感性和地方性伤害类别。为此，本文提出了IndicGuard，一个针对印度语言的多语言安全守护模型和数据集。我们构建了一个涵盖十种主要印度语言的高容量文化细致的安全数据集，系统性地捕捉地区伤害、敏感的社会政治背景和对抗性越狱。通过对该语料库的利用，我们对基于Gemma-3-4B-IT的4B参数指令调优模型进行了微调，作为实时内容审核和政策合规检查的多语言安全护栏。实证评估表明，IndicGuard显著增强了LLM对地方性脆弱性的鲁棒性，在不同对话轮次中实现了高一致性审核。

🔬 方法详解

问题定义：本文旨在解决现有安全机制对印度语言的适应性不足，尤其是在文化和社会敏感性方面的缺失。现有方法主要集中于英语，导致对地方性伤害的识别和处理能力不足。

核心思路：IndicGuard的核心思路是构建一个多语言安全数据集，涵盖十种主要印度语言，并基于此数据集微调大型语言模型，以增强其对地方性脆弱性的识别和处理能力。

技术框架：整体架构包括数据集构建、模型微调和实证评估三个主要模块。首先，系统性地收集和标注与印度文化相关的安全数据；其次，利用该数据集对Gemma-3-4B-IT模型进行微调；最后，通过多轮对话评估模型的审核一致性和鲁棒性。

关键创新：IndicGuard的主要创新在于其针对印度语言的专门设计，填补了现有模型在处理地方性文化敏感性方面的空白。与CultureGuard相比，IndicGuard在多语言环境中表现出更高的审核一致性和鲁棒性。

关键设计：在模型微调过程中，采用了特定的损失函数以优化对地方性伤害的识别，同时调整了模型的超参数以适应多语言的特性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，IndicGuard在多种语言中显著优于基线模型CultureGuard，尤其是在审核一致性方面，提升幅度达到20%以上。此外，模型在未参与训练的低资源语言中也展现出良好的泛化能力，验证了其结构鲁棒性和跨语言迁移能力。

🎯 应用场景

IndicGuard的研究成果可广泛应用于社交媒体平台、在线内容审核和政策合规等领域，帮助确保内容符合地区文化和社会规范。未来，该模型有潜力扩展到更多低资源语言，促进全球范围内的语言安全性提升。

📄 摘要（原文）

As Large Language Models (LLMs) achieve widespread integration across diverse linguistic landscapes, ensuring their safety and alignment with regional normative values remains a critical challenge. Current safety mechanisms are predominantly optimized for English-centric frameworks, often failing to capture the unique socio-cultural sensitivities and localized categories of harm inherent to the Indic region. To address this gap, we introduce IndicGuard, a multilingual safety guard model and dataset for Indic languages. We construct a high-volume, culturally nuanced safety dataset encompassing ten major Indic languages, systematically curated to capture regional harms, sensitive socio-political contexts, and adversarial jailbreaks. Leveraging this corpus, we fine-tune a 4B-parameter instruction-tuned model based on Gemma-3-4B-IT to serve as a multilingual safety guardrail for real-time content moderation and policy compliance checking. Our empirical evaluations demonstrate that IndicGuard significantly enhances LLM robustness against localized vulnerabilities, achieving high moderation consistency across different conversational turns. Crucially, IndicGuard consistently outperforms the existing baseline model, CultureGuard, across evaluated languages. Finally, we demonstrate that our model effectively generalizes to low-resource Indic languages excluded from training, substantiating the structural robustness and cross-lingual transfer capabilities of the framework.