The Use of a Large Language Model for Cyberbullying Detection

📄 arXiv: 2402.04088v1 📥 PDF

作者: Bayode Ogunleye, Babitha Dharmaraj

分类: cs.CL, cs.AI, cs.LG, stat.AP

发布日期: 2024-02-06

备注: 14 pages, Journal of Analytics

期刊: Analytics 2 (2023), no. 3: 694-707

DOI: 10.3390/analytics2030038

💡 一句话要点

利用大型语言模型检测网络欺凌问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 网络欺凌 大型语言模型 RoBERTa 机器学习 自然语言处理 数据集 社交媒体

📋 核心要点

  1. 现有的机器学习算法在网络欺凌检测中表现不稳定，主要由于类别不平衡和泛化能力不足。
  2. 本文提出利用大型语言模型（如RoBERTa）进行网络欺凌检测，探索其在此领域的应用潜力。
  3. 实验结果表明，RoBERTa在新数据集D2上的表现优于其他模型，显示出其在网络欺凌检测中的有效性。

📝 摘要（中文）

社交媒体的普及为施暴者提供了更多的欺凌渠道，网络欺凌（CB）已成为当今网络世界中最普遍的现象，严重威胁公民的心理和身体健康。因此，开发一个强大的系统以防止在线论坛、博客和社交媒体平台上的欺凌内容显得尤为重要。尽管已有多种机器学习算法被提出用于此目的，但由于类别不平衡和泛化问题，其性能并不一致。近年来，大型语言模型（LLMs）如BERT和RoBERTa在多个自然语言处理任务中取得了最先进的结果，但在网络欺凌检测中的应用仍然有限。本文探讨了这些模型在网络欺凌检测中的应用，并从现有研究中准备了一个新数据集（D2）。实验结果显示，RoBERTa在数据集D1和D2上的表现优于其他模型。

🔬 方法详解

问题定义：本文旨在解决网络欺凌检测中的性能不一致问题，现有方法面临类别不平衡和泛化能力不足的挑战。

核心思路：通过应用大型语言模型（LLMs），特别是RoBERTa，来提高网络欺凌检测的准确性和鲁棒性，充分利用其在自然语言处理中的优势。

技术框架：研究首先准备了一个新数据集（D2），结合现有的Formspring和Twitter数据，然后使用RoBERTa模型进行训练和测试，比较其与其他模型的性能。

关键创新：本研究的创新点在于首次将大型语言模型系统地应用于网络欺凌检测，克服了传统机器学习方法的局限性，提升了检测的准确性。

关键设计：在模型训练中，采用了适当的超参数设置和损失函数，确保RoBERTa模型能够有效学习网络欺凌的特征，并通过数据集D1和D2进行验证。

📊 实验亮点

实验结果显示，RoBERTa模型在数据集D1和D2上的表现优于其他机器学习模型，具体提升幅度未明确，但表明其在网络欺凌检测中的有效性和潜力。

🎯 应用场景

该研究的潜在应用领域包括社交媒体平台、在线论坛和教育机构等，能够有效识别和预防网络欺凌行为，保护用户的心理健康。未来，随着技术的进步，该系统有望集成到更多的在线服务中，形成更安全的网络环境。

📄 摘要（原文）

The dominance of social media has added to the channels of bullying for perpetrators. Unfortunately, cyberbullying (CB) is the most prevalent phenomenon in todays cyber world, and is a severe threat to the mental and physical health of citizens. This opens the need to develop a robust system to prevent bullying content from online forums, blogs, and social media platforms to manage the impact in our society. Several machine learning (ML) algorithms have been proposed for this purpose. However, their performances are not consistent due to high class imbalance and generalisation issues. In recent years, large language models (LLMs) like BERT and RoBERTa have achieved state-of-the-art (SOTA) results in several natural language processing (NLP) tasks. Unfortunately, the LLMs have not been applied extensively for CB detection. In our paper, we explored the use of these models for cyberbullying (CB) detection. We have prepared a new dataset (D2) from existing studies (Formspring and Twitter). Our experimental results for dataset D1 and D2 showed that RoBERTa outperformed other models.