ConspEmoLLM: Conspiracy Theory Detection Using an Emotion-Based Large Language Model

📄 arXiv: 2403.06765v3 📥 PDF

作者: Zhiwei Liu, Boyang Liu, Paul Thompson, Kailai Yang, Sophia Ananiadou

分类: cs.CL

发布日期: 2024-03-11 (更新: 2024-08-12)

备注: Work in progress

DOI: 10.3233/FAIA241060

🔗 代码/项目: GITHUB

💡 一句话要点

提出ConspEmoLLM以解决阴谋论检测中的情感信息缺失问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 阴谋论检测 情感分析 大型语言模型 多任务学习 开源模型

📋 核心要点

  1. 现有的阴谋论检测方法多集中于二元分类，未能考虑情感特征与错误信息之间的关系。
  2. 本文提出的ConspEmoLLM整合了情感信息，能够执行阴谋论检测、分类及相关讨论等多种任务。
  3. 实验结果表明，ConspEmoLLM在多个任务上显著优于其他开源LLM和未使用情感特征的LLM。

📝 摘要（中文）

互联网带来了信息传播的便利，但也滋生了大量错误信息，尤其是阴谋论。现有的大型语言模型（LLM）在阴谋论检测中多集中于二元分类，忽视了情感特征的重要性。为此，本文提出了ConspEmoLLM，这是首个整合情感信息的开源LLM，能够执行多种与阴谋论相关的任务，包括阴谋论检测、理论类型分类及相关讨论检测。ConspEmoLLM基于情感导向的LLM进行微调，使用了新颖的ConDID数据集，展示了在多个任务中显著优于其他开源LLM和ChatGPT的性能。

🔬 方法详解

问题定义：本文旨在解决现有阴谋论检测方法在情感信息利用上的不足，现有方法主要集中于二元分类，未能充分考虑情感特征对阴谋论的影响。

核心思路：ConspEmoLLM通过整合情感信息，能够更全面地理解和检测阴谋论，提升检测的准确性和多样性。

技术框架：该方法基于情感导向的LLM进行微调，使用新构建的ConDID数据集，支持多任务学习，包括阴谋论检测、理论类型分类和相关讨论检测。

关键创新：ConspEmoLLM是首个将情感信息整合进阴谋论检测的开源LLM，显著提升了检测的准确性和任务多样性，区别于传统的仅依赖文本内容的模型。

关键设计：在模型微调过程中，使用了特定的损失函数和参数设置，以优化情感特征的学习效果，同时确保模型在多任务上的表现。具体的网络结构和训练策略在论文中详细描述。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在多个任务上，ConspEmoLLM的表现显著优于其他开源通用LLM和ChatGPT，尤其是在阴谋论检测任务中，准确率提升幅度超过20%。此外，与未使用情感特征的LLM相比，ConspEmoLLM的性能提升同样显著，验证了情感信息在检测中的重要性。

🎯 应用场景

ConspEmoLLM的研究成果可广泛应用于社交媒体监测、新闻验证和公共舆论分析等领域，帮助识别和遏制阴谋论的传播，提升信息传播的准确性和社会信任度。未来，该模型还可以扩展到其他类型的错误信息检测和情感分析任务中。

📄 摘要（原文）

The internet has brought both benefits and harms to society. A prime example of the latter is misinformation, including conspiracy theories, which flood the web. Recent advances in natural language processing, particularly the emergence of large language models (LLMs), have improved the prospects of accurate misinformation detection. However, most LLM-based approaches to conspiracy theory detection focus only on binary classification and fail to account for the important relationship between misinformation and affective features (i.e., sentiment and emotions). Driven by a comprehensive analysis of conspiracy text that reveals its distinctive affective features, we propose ConspEmoLLM, the first open-source LLM that integrates affective information and is able to perform diverse tasks relating to conspiracy theories. These tasks include not only conspiracy theory detection, but also classification of theory type and detection of related discussion (e.g., opinions towards theories). ConspEmoLLM is fine-tuned based on an emotion-oriented LLM using our novel ConDID dataset, which includes five tasks to support LLM instruction tuning and evaluation. We demonstrate that when applied to these tasks, ConspEmoLLM largely outperforms several open-source general domain LLMs and ChatGPT, as well as an LLM that has been fine-tuned using ConDID, but which does not use affective features. This project will be released on https://github.com/lzw108/ConspEmoLLM/.