Classifying Conspiratorial Narratives At Scale: False Alarms and Erroneous Connections
作者: Ahmad Diab, Rr. Nefriana, Yu-Ru Lin
分类: cs.CL, cs.SI
发布日期: 2024-03-29
备注: 12 pages, 6 tables, 1 figure, conference ICWSM_24
💡 一句话要点
提出基于BERT的模型以分类阴谋论讨论
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 阴谋论 文本分类 BERT模型 社交媒体分析 信息传播 机器学习 自然语言处理
📋 核心要点
- 现有方法依赖简单代理，无法全面理解阴谋论讨论的复杂性和多样性。
- 本文提出了一种基于作者视角的分类方案，通过叙事元素和已知理论引用进行阴谋论讨论的分类。
- 实验结果显示，基于BERT的模型在分类准确性上优于GPT，且仅有三分之一的帖子被标记为积极内容。
📝 摘要（中文）
在线讨论中，阴谋论的传播常常伴随着各种观点的交锋。现有研究主要依赖简单的代理或有限的信号来识别阴谋论，限制了对不同主题和社区中阴谋论讨论的理解。本文建立了一种通用的分类方案，基于作者对阴谋信念的看法，通过叙事元素或对已知理论的引用进行分类。我们利用人工标注的真实数据训练了一个基于BERT的模型，并与生成预训练变换器（GPT）进行比较，发现GPT在逻辑推理方面存在显著缺陷，而我们的分类器表现出相对的优势。研究表明，活跃的阴谋论相关Reddit论坛中，仅有三分之一的帖子被分类为积极内容。
🔬 方法详解
问题定义：本文旨在解决现有阴谋论讨论分类方法的不足，特别是对不同主题和社区的理解局限性。现有方法往往依赖简单的信号，无法准确捕捉讨论的复杂性。
核心思路：论文提出了一种基于作者对阴谋信念的视角进行分类的方案，利用叙事元素（如代理、行动、目标）和对已知阴谋论的引用，提供更全面的分类框架。
技术框架：整体架构包括数据收集、人工标注、模型训练和评估四个主要阶段。首先从活跃的Reddit论坛收集数据，然后进行人工标注以构建真实数据集，接着使用BERT模型进行训练，最后与GPT进行比较评估。
关键创新：该研究的创新点在于首次大规模分类阴谋论讨论，利用BERT模型捕捉复杂的叙事结构和隐含的信念，而不是依赖简单的信号或代理。
关键设计：在模型设计中，使用了BERT的预训练权重，结合特定的损失函数以优化分类效果，确保模型能够有效区分不同类型的阴谋论讨论。
📊 实验亮点
实验结果表明，基于BERT的模型在阴谋论讨论分类中表现出色，仅有三分之一的Reddit帖子被标记为积极内容，显示出对阴谋论讨论的深刻理解和分类能力。与GPT相比，BERT模型在逻辑推理和分类准确性上具有明显优势。
🎯 应用场景
该研究的潜在应用领域包括社交媒体内容监测、信息传播研究以及公共政策制定。通过准确分类阴谋论讨论，能够帮助平台更好地管理信息流，减少虚假信息的传播，并为相关领域的研究提供数据支持。
📄 摘要（原文）
Online discussions frequently involve conspiracy theories, which can contribute to the proliferation of belief in them. However, not all discussions surrounding conspiracy theories promote them, as some are intended to debunk them. Existing research has relied on simple proxies or focused on a constrained set of signals to identify conspiracy theories, which limits our understanding of conspiratorial discussions across different topics and online communities. This work establishes a general scheme for classifying discussions related to conspiracy theories based on authors' perspectives on the conspiracy belief, which can be expressed explicitly through narrative elements, such as the agent, action, or objective, or implicitly through references to known theories, such as chemtrails or the New World Order. We leverage human-labeled ground truth to train a BERT-based model for classifying online CTs, which we then compared to the Generative Pre-trained Transformer machine (GPT) for detecting online conspiratorial content. Despite GPT's known strengths in its expressiveness and contextual understanding, our study revealed significant flaws in its logical reasoning, while also demonstrating comparable strengths from our classifiers. We present the first large-scale classification study using posts from the most active conspiracy-related Reddit forums and find that only one-third of the posts are classified as positive. This research sheds light on the potential applications of large language models in tasks demanding nuanced contextual comprehension.