Does AI Reviewer See the Full Picture? Attacking and Defending Multimodal Peer Review
作者: Xinyu Zhao, Rana Muhammad Shahroz Khan, Zhen Xu, Zhen Tan, Tianlong Chen
分类: cs.CL
发布日期: 2026-06-12
💡 一句话要点
提出PaperGuard以解决多模态同行评审中的对抗性攻击问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多模态评审 对抗性攻击 AI评审 数据集构建 防御机制 学术诚信 机器学习
📋 核心要点
- 现有的AI同行评审方法主要集中于文本，忽视了图形等多模态信息，导致对抗性攻击的风险增加。
- 本文提出PaperGuard，通过构建多模态同行评审数据集和攻击防御框架，系统性地评估AI评审的脆弱性。
- 实验结果显示，AI评审者在面对特定的跨模态攻击时表现出显著的脆弱性，PaperGuard为防御提供了有效方案。
📝 摘要（中文）
大型语言模型（LLMs）和多模态语言模型（MLLMs）在科学同行评审工作流中的应用引入了新的对抗性操控风险，尤其是在科学论文中，图形不仅仅是文本的补充，而是核心证据的载体。目前，针对AI同行评审的稳健性研究主要集中在文本上，存在显著的研究空白。为了解决这一问题，本文提出了PaperGuard，这是第一个全面的基准，旨在系统评估和防御针对AI生成的同行评审的领域特定跨模态攻击。我们的框架基于三个支柱：新的多模态同行评审数据集、针对文本和图形的统一攻击套件，以及一种基于块嵌入搜索的实用防御方法。实验结果表明，AI评审者普遍存在脆弱性，PaperGuard为可信赖的AI辅助学术评审奠定了基础。
🔬 方法详解
问题定义：本文旨在解决AI同行评审中存在的对抗性攻击问题，现有方法主要集中于文本，未能考虑图形等多模态信息的影响，导致评审结果易受操控。
核心思路：论文提出PaperGuard，通过构建多模态数据集和攻击防御框架，系统评估AI评审的脆弱性，特别是针对文本和图形的联合攻击。
技术框架：整体架构包括三个主要模块：多模态同行评审数据集、统一的攻击套件（包括黑盒和白盒攻击），以及基于块嵌入搜索的防御机制。
关键创新：最重要的创新在于首次提出了针对多模态信息的攻击和防御框架，填补了现有研究的空白，特别是在领域特定的攻击方面。
关键设计：在技术细节上，采用了块嵌入搜索来高效定位和缓解有害指令，确保防御机制在长上下文的学术论文中有效。实验中使用了多种主流模型进行验证，确保结果的可靠性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，AI评审者在面对特定的跨模态攻击时表现出显著的脆弱性，PaperGuard的防御机制在多种主流模型上均取得了有效的性能提升，验证了其在实际应用中的可行性和必要性。
🎯 应用场景
该研究的潜在应用领域包括科学出版、学术评审和AI辅助研究工具。通过提高AI评审的安全性和可靠性，PaperGuard能够帮助学术界更好地利用AI技术，同时减少对抗性攻击带来的风险，推动学术诚信的维护。
📄 摘要（原文）
The integration of Large Language Models (LLMs) and Multimodal LLMs (MLLMs) into scientific peer-review workflows introduces novel and significant risks for adversarial manipulation, especially given the multimodal nature of scientific papers where figures, not just text, convey core evidence. This creates a significant gap: current robustness studies on AI peer-review are overwhelmingly text-only. Moreover, the problem is distinct from standard jailbreaking, as a peer-review attack seeks to induce a domain-specific, targeted failure (e.g., "inflate this score") rather than a general safety policy violation, for which no practical defenses exist. To address this, we introduce PaperGuard, the first comprehensive benchmark designed to systematically evaluate and defend AI-generated peer-review against these domain-specific, cross-modal attacks. Our framework is built on three pillars: (1) a new multimodal peer-review dataset spanning multiple scientific domains; (2) a unified suite of attacks, including black-box prompt injections and white-box perturbations, specifically designed to target both text (GCG) and figures (PGD); and (3) a practical defense, motivated by the long-context challenge of academic papers, that uses chunk-based embedding search to efficiently localize and mitigate harmful instructions. Our extensive experiments, conducted across state-of-the-art models, confirm that AI reviewers are pervasively vulnerable. PaperGuard establishes the foundational benchmark, protocols, and actionable defense necessary to pioneer trustworthy, attack-resilient AI-assisted scholarly reviewing.