Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea
作者: Jaehong Kim, Hyeonseung Kim, Jiseon Kim, Alice Oh, Thorsten Holz, Wonjae Lee, Meeyoung Cha
分类: cs.SI, cs.CL, cs.CR
发布日期: 2026-06-22
备注: Accepted at the 35th USENIX Security Symposium (USENIX Security '26)
💡 一句话要点
提出可解释机器学习框架以检测韩国网络评论中的操控行为
🎯 匹配领域: 支柱一：机器人控制 (Robot Control)
关键词: 网络水军 可解释机器学习 舆情分析 内容治理 道德情感框架 社交媒体监控 外国影响操作
📋 核心要点
- 现有方法在检测与国家相关的网络水军活动时面临挑战，尤其是在长期演变的背景下。
- 本文提出了一种分层的可解释机器学习模型，能够从多个维度分析和分类评论，以识别操控行为。
- 通过分析1.12亿条评论，发现道德谴责的修辞比直接推广叙事更能引发用户参与，且主要针对国内政治人物。
📝 摘要（中文）
协调的外国影响操作对在线平台构成日益严重的威胁，但检测与国家相关的网络水军活动及其演变仍然具有挑战性。本文提出了一种可解释的机器学习框架，用于指导理论的检测和对韩国在线新闻评论区可疑水军行为的纵向分析。我们的分层模型从外国来源、道德情感框架和目标国家三个维度对评论进行分类。为支持可解释性，该模型还提取了简短的文本证据，提供人类可理解的理由。我们对近20年内4百万用户撰写的1.12亿条韩国新闻评论进行了应用，识别出23,998个表现出协调操控行为的账户。分析发现，这些账户主要依赖道德谴责的修辞，而非直接推广与外国一致的叙事，这种修辞获得了显著更高的用户参与度。
🔬 方法详解
问题定义：本文旨在解决检测与国家相关的网络水军活动的困难，现有方法在识别和追踪这些活动的演变上存在不足。
核心思路：提出一种可解释的机器学习框架，通过分层模型从多个维度对评论进行分类，提供可解释的分析结果，以便于理解和干预。
技术框架：该框架包括数据预处理、特征提取、模型训练和结果解释四个主要模块。首先对评论进行清洗和标注，然后提取相关特征，接着训练分层模型，最后生成可解释的结果。
关键创新：最重要的创新在于结合了可解释性与多维度分类，使得模型不仅能够识别操控行为，还能提供人类可理解的理由，这在现有方法中较为罕见。
关键设计：模型设计中采用了特定的损失函数以平衡各维度的分类效果，同时在特征提取阶段使用了文本嵌入技术，以增强模型对情感和道德框架的理解。
🖼️ 关键图片
📊 实验亮点
实验结果显示，识别出的23,998个账户表现出明显的协调操控行为，且道德谴责的评论获得的用户参与度显著高于其他类型的评论。这一发现为平台的内容治理提供了重要的依据。
🎯 应用场景
该研究的潜在应用领域包括社交媒体平台的内容监控、舆情分析以及政策制定支持。通过提供可解释的检测结果，平台可以更有效地进行内容管理，减少有害叙事的传播，提升用户体验和平台的公信力。
📄 摘要（原文）
Coordinated foreign influence operations pose a growing threat to online platforms, but detecting state-linked troll activity and tracking its evolution remain challenging. This paper presents an explainable machine learning framework for theory-guided detection and longitudinal analysis of suspected trolling within Korean online news comment sections. Our hierarchical model classifies comments along three dimensions central to influence campaigns: foreign origin, moral-emotional framing, and target country. To support explainability, it also extracts brief span-level textual evidence that provides human-interpretable rationales. We apply the approach to 112M South Korean news comments authored by 4M users over nearly 20 years, identifying 23,998 accounts exhibiting behavior consistent with coordinated manipulation. Analyzing these accounts, we find that they predominantly rely on morally condemning rhetoric rather than direct promotion of foreign-aligned narratives; this rhetoric receives significantly higher user engagement. Among the highest-engagement comments, the moral condemnation most frequently targets domestic political figures (e.g., presidents or party leaders) on both the left and the right, potentially amplifying polarization. Our framework supports transparent platform governance through explainable, evidence-based moderation. These observed rhetorical and engagement patterns can inform how platforms and observatories prioritize defenses and intervene before harmful narrative-target combinations achieve widespread reach.