Mod-Guide: An LLM-based Content Moderation Feedback System to Address Insensitive Speech toward Indigenous Ethnic and Religious Minority Communities

📄 arXiv: 2606.13397 📥 PDF

作者: Dipto Das, Achhiya Sultana, Ankit Singh Chauhan, Saadia Binte Alam, Mohammad Shidujaman, Shion Guha, Sunandan Chakraborty, Syed Ishtiaque Ahmed

分类: cs.HC, cs.AI, cs.CY

发布日期: 2026-06-12

💡 一句话要点

提出Mod-Guide以解决对少数民族不敏感言论的内容审核问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 内容审核 大型语言模型 文化敏感性 少数民族 检索增强生成 社会计算 人机交互 AI伦理

📋 核心要点

  1. 现有的内容审核系统在识别文化不敏感言论方面存在局限，尤其是对少数民族的视角缺乏关注。
  2. 论文提出了一种名为Mod-Guide的工具，通过与社区成员合作创建语料库，利用RAG技术增强审核系统的文化敏感性。
  3. 实验结果表明，RAG增强的审核响应在上下文准确性上显著提升，且在不同族群间的感知存在显著差异。

📝 摘要（中文）

语言既是边缘化的机制，也是抵抗的工具，尤其对于在网上应对不敏感和有害言论的少数民族社区。随着内容审核越来越依赖大型语言模型（LLMs），人们担心这些系统是否能够识别文化上不敏感的言论。本文聚焦于孟加拉国的印度教和查克马社区，探讨LLM审核系统的认知局限，并探索融入少数民族视角的方法。我们与社区成员共同创建了一个文化基础的敏感言论语料库，并通过检索增强生成（RAG）将其叙事整合到审核流程中。我们的工具Mod-Guide通过利用来自生活经验的上下文线索，提高了LLM对少数民族观点的敏感性。通过涉及少数民族和多数民族参与者的混合方法评估，我们证明了RAG增强的审核响应在上下文准确性上更具优势，并在不同族群间的感知上存在差异。

🔬 方法详解

问题定义：本文旨在解决现有LLM内容审核系统在识别和处理对少数民族文化和宗教不敏感言论方面的不足，尤其是隐性边缘化和误表述的问题。

核心思路：通过与少数民族社区成员共同创建文化基础的敏感言论语料库，并将其叙事融入审核流程，增强LLM对少数民族观点的敏感性。

技术框架：整体架构包括数据收集、语料库构建、RAG集成和审核响应生成四个主要模块。首先，收集社区成员的反馈和叙事，构建语料库；然后，利用RAG技术将这些信息整合到审核系统中。

关键创新：最重要的创新在于通过RAG技术增强LLM的上下文理解能力，使其能够更准确地识别和处理少数民族的文化视角，这与传统的审核方法形成鲜明对比。

关键设计：在模型设计中，采用了特定的损失函数以优化对少数民族语料的敏感性，同时在网络结构中引入了上下文注意力机制，以提升模型对文化背景的理解。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，使用RAG增强的审核响应在上下文准确性上比传统方法提高了显著的性能，尤其在少数民族参与者的反馈中，感知差异明显，表明该方法在文化敏感性方面的有效性。

🎯 应用场景

该研究的潜在应用领域包括社交媒体平台、在线社区和内容审核系统，能够有效提升对少数民族文化的理解和尊重，促进更包容的在线交流环境。未来，该工具可能在全球范围内推广，帮助各类平台更好地应对文化敏感性问题。

📄 摘要（原文）

Language operates as a mechanism of both marginalization and resistance, especially for minority communities navigating insensitive and harmful speech online. As content moderation increasingly depends on large language models (LLMs), concerns arise about whether these systems can recognize culturally insensitive speech-language that disregards or marginalizes the cultural and religious perspectives of historically underrepresented communities, often through implicit erasure, misrepresentation, or normative framing, rather than overt hostility. Focusing on Bangladesh's Hindu and Chakma communities -- the country's largest religious and Indigenous ethnic minorities, respectively -- this paper investigates the epistemic limits of LLM-based moderation systems and explores methods for incorporating minority perspectives. We co-created a culturally grounded corpus of insensitive speech with community members and integrated their narratives into moderation pipelines using retrieval augmented generation (RAG). Our tool, Mod-Guide, improves LLM sensitivity to minority viewpoints by leveraging contextual cues derived from lived experience. Through mixed-method evaluations involving both minority and majority participants, we demonstrate that RAG-enhanced moderation responses are more contextually accurate and perceived differently across ethnic lines. This work advances research in human-computer interaction, AI ethics, and social computing by foregrounding restorative justice and hermeneutical inclusion in the design of content moderation systems.