Where Detectors Fail: Closing the Tail-Domain Gap with Expert-Guided Mutual Distillation

📄 arXiv: 2607.26555v1 📥 PDF

作者: Xuan Feng, Guihong Liu, Tianlong Gu, Shuai Zhao, Xuemin Wang, Chenzhong Bin, Yang Liu, Bo An

分类: cs.CL

发布日期: 2026-07-29

💡 一句话要点

提出专家引导的互助蒸馏以解决多模态假新闻检测的领域偏差问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多模态假新闻检测 互助蒸馏 领域偏差 专家引导 输入校准 特征几何 社交媒体分析

📋 核心要点

  1. 现有的多模态假新闻检测方法在不同领域间的泛化能力较差，主要由于不平衡数据和语义不一致的文本-图像对导致的领域特定捷径。
  2. 本文提出的EGMD通过输入级别的校准、专家引导的教师对齐和决策级别的原型锚定学生，优化了证据的信任度。
  3. 在四个数据集的实验中，EGMD实现了最先进的准确率，并将领域偏差降低了57.3%。

📝 摘要（中文）

多模态假新闻检测器在跨领域泛化能力上表现不佳，主要原因在于它们倾向于信任不可靠的证据。为了解决这一问题，本文提出了专家引导的互助蒸馏（EGMD），通过输入级别的校准、表示级别的专家引导和决策级别的原型锚定学生来优化证据的信任度。我们还构建了Weibo_Balanced基准，隔离不平衡对泛化的影响。实验结果表明，EGMD在四个数据集上达到了最先进的准确率，同时减少了多达57.3%的领域偏差。

🔬 方法详解

问题定义：本文旨在解决多模态假新闻检测器在不同领域间泛化能力不足的问题。现有方法往往依赖于不可靠的证据，导致性能下降。

核心思路：EGMD通过专家引导的互助蒸馏机制，优化了模型对输入证据的信任度，确保模型在不同领域间的稳定性和准确性。

技术框架：EGMD的整体架构包括三个主要模块：输入级别的校准、表示级别的专家引导和决策级别的原型锚定学生。输入级别通过共享增益编码对输入进行校准，表示级别通过专家引导对齐领域统计，决策级别则通过互助学习和双通道蒸馏实现特征几何的继承。

关键创新：最重要的创新点在于通过专家引导的机制，使得模型能够在领域特定模式中集中学习，从而有效减少领域偏差。这一方法与传统的单一模型训练方式有本质区别。

关键设计：在设计上，EGMD采用了输入级别的共享增益、领域统计对齐的教师模型，以及原型锚定的学生模型，确保了模型在不同领域间的有效学习和适应。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在四个不同数据集的实验中，EGMD达到了最先进的准确率，并在减少领域偏差方面表现突出，最高降低了57.3%。这一结果显著优于现有的基线方法，证明了EGMD在多模态假新闻检测中的有效性。

🎯 应用场景

该研究的潜在应用领域包括社交媒体内容审核、新闻传播分析和虚假信息检测等。通过提高多模态假新闻检测的泛化能力，EGMD能够有效帮助平台识别和过滤虚假信息，提升信息传播的可信度和安全性。未来，该方法还可能扩展到其他领域的多模态学习任务。

📄 摘要（原文）

Multimodal fake news detectors often generalize poorly across domains because they learn to trust unreliable evidence: domain-specific shortcuts amplified by imbalanced data and semantically inconsistent text-image pairs that make cross-modal evidence unreliable. We propose Expert-Guided Mutual Distillation (EGMD), which learns what evidence to trust across the prediction pipeline. At the input level, input-level calibration encodes pair-level coherence as a shared gain before fusion. At the representation level, an expert-guided teacher aligns domain statistics and encourages domain-specific patterns to concentrate in specialized experts. At the decision level, prototype-anchored domain-specific students use mutual learning and dual-channel distillation to inherit the teacher's feature geometry and calibrated predictions while discouraging local domain priors. We further construct Weibo_Balanced, a domain-balanced benchmark that isolates the effect of imbalance on generalization. Across four datasets in two languages, EGMD achieves state-of-the-art accuracy while reducing domain bias by up to 57.3%.