From Detection to Characterization: A Large-Scale Study of Ragebait on Japanese X
作者: Zhiyang Qi, Kazuhiro Ito, Jinghui Chen, Hibiki Nakamura, Zhangxuan Chen, Erina Murata, Masaki Chujyo, Fujio Toriumi
分类: cs.SI, cs.CL
发布日期: 2026-09-02
备注: Accepted at WI-IAT 2026. This is the pre-camera-ready version
💡 一句话要点
提出一种有效的愤怒诱导内容检测框架以应对在线情绪操控问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 愤怒诱导内容 情绪分析 社交媒体监控 大规模检测 日语模型 在线内容分析 情绪操控
📋 核心要点
- 现有方法在愤怒诱导内容的检测和分析上存在局限，缺乏大规模的系统性研究。
- 本研究提出了一种基于大语言模型的愤怒诱导内容检测框架，利用多个日语模型进行训练。
- 实验结果表明，愤怒诱导内容在社会政治话题中更为常见，且其传播速度和负面反应显著高于非愤怒诱导内容。
📝 摘要（中文）
愤怒诱导内容（ragebait）是指故意设计以激发愤怒或愤慨的在线内容，从而增加关注度和参与度。然而，目前对愤怒诱导内容的可靠大规模检测和系统分析仍然有限，阻碍了对其普遍性、影响及缓解措施的理解。本研究旨在开发有效的愤怒诱导内容检测框架，并在大规模上阐明其特征，为理解和缓解在线情绪挑衅内容提供基础。我们构建了一个标注数据集，并训练了多个日语模型用于愤怒诱导内容检测。结果显示，愤怒诱导内容在政治、社会争议等主题中更为普遍，并且传播速度更快，负面反应更多。此研究展示了所提检测器的实用性，并提供了对日本在线话语中愤怒诱导内容的大规模特征分析。
🔬 方法详解
问题定义：本论文旨在解决愤怒诱导内容的检测和特征分析问题。现有方法在大规模检测和系统分析方面存在不足，难以全面理解其影响和特征。
核心思路：本研究的核心思路是构建一个有效的愤怒诱导内容检测框架，利用大语言模型生成标注数据集，并训练多个日语模型以提高检测准确性。
技术框架：整体架构包括数据集构建、模型训练和检测三个主要模块。首先，通过大语言模型生成标注数据集；其次，训练多个日语模型以构建集成分类器；最后，应用该分类器于大规模日语帖子数据集进行检测。
关键创新：本研究的关键创新在于结合大语言模型生成标注数据，并通过集成学习方法提高愤怒诱导内容的检测性能。这一方法与传统的单一模型检测方法有本质区别，显著提升了检测的准确性和可靠性。
关键设计：在模型训练中，采用了多种损失函数和网络结构，以优化分类性能。同时，针对不同类型的愤怒诱导内容，设计了特定的参数设置，以提高模型的泛化能力。通过这些设计，模型在处理复杂的在线内容时表现出更好的适应性和准确性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，所提检测器在愤怒诱导内容的识别上表现出色，检测准确率显著高于基线模型，尤其在政治和社会争议话题中，愤怒诱导内容的传播速度和负面反应均显著高于非愤怒诱导内容，验证了该方法的有效性。
🎯 应用场景
该研究的潜在应用领域包括社交媒体内容监控、在线舆情分析和情绪操控研究。通过有效检测愤怒诱导内容，可以帮助平台管理者更好地理解和缓解负面情绪的传播，从而提升用户体验和平台的健康度。未来，该框架还可扩展至其他语言和文化背景下的内容分析。
📄 摘要（原文）
Ragebait refers to online content intentionally designed to provoke anger or outrage and thereby increase attention and engagement. However, reliable large-scale detection and systematic analysis of ragebait remain limited, hindering efforts to understand its prevalence, impact, and mitigation. This study aims to develop an effective ragebait detection framework and to clarify the characteristics of ragebait at scale, providing a basis for understanding and mitigating emotionally provocative content online. We constructed a labeled dataset with the assistance of a large language model (LLM) and trained several Japanese language models for ragebait detection. The resulting ensemble classifier was then applied to a large-scale dataset of Japanese-language posts on X. Our analysis shows that ragebait is more prevalent in politically and socially contentious topics, including politics, discrimination, public health, and interpersonal conflict. Ragebait posts also spread faster and receive more negative reactions than non-ragebait posts, particularly anger, fear, disgust, sadness, and surprise. These findings demonstrate the utility of the proposed detector and provide a large-scale characterization of ragebait in Japanese online discourse.