DETER: Detecting Edited Regions for Deterring Generative Manipulations

📄 arXiv: 2312.10539v1 📥 PDF

作者: Sai Wang, Ye Zhu, Ruoyu Wang, Amaya Dharmasiri, Olga Russakovsky, Yu Wu

分类: cs.CV

发布日期: 2023-12-16

备注: First two authors contribute equally to this work. Project page at https://deter2024.github.io/deter/

💡 一句话要点

DETER：检测编辑区域以阻止生成式篡改，促进深度伪造检测技术发展。

🎯 匹配领域: 支柱一：机器人控制 (Robot Control)

关键词: 深度伪造检测 生成对抗网络 图像篡改 数据集构建 图像修复

📋 核心要点

  1. 现有深度伪造数据集存在虚假相关性，限制了深度伪造检测技术在实际场景中的应用。
  2. DETER数据集通过引入随机区域的图像修复操作，消除了虚假相关性，并包含多种编辑方式。
  3. 实验表明，DETER数据集更具挑战性，人类检测率显著降低，为区域伪造检测模型的发展提供了新方向。

📝 摘要（中文）

近年来，生成式AI能力显著提升，引发了对生成数据恶意使用（即“深度伪造”）的新担忧。然而，深度伪造数据集的发展未能充分跟上生成式AI的进步，难以支持开发能够在实际环境中有效警示用户的深度伪造检测技术。现有数据集通常使用基于GAN的模型，并通过始终编辑相似的面部区域引入虚假相关性。为了克服这些缺点，我们推出了DETER，一个大规模数据集，用于检测编辑图像区域并阻止现代先进的生成式篡改。DETER包含300,000张由四种最先进的生成器操纵的图像，这些图像使用了三种编辑操作：面部交换（一种标准的粗略图像操纵）、图像修复（一种用于深度伪造数据集的新型操纵）和属性编辑（一种微妙的细粒度操纵）。虽然面部交换和属性编辑是在眼睛和鼻子等相似的面部区域执行的，但图像修复操作可以在随机图像区域执行，从而消除了先前数据集的虚假相关性。我们进行了细致的图像后处理，以确保DETER中的深度伪造看起来逼真，并且人类研究证实，人类在DETER上的深度伪造检测率比在其他伪造数据集上低20.4%。借助该数据集，我们使用丰富的注释和改进的基准协议进行了广泛的实验和分解分析，揭示了未来方向和开发可靠的区域伪造检测模型的下一组挑战。

🔬 方法详解

问题定义：论文旨在解决现有深度伪造数据集的局限性，即数据集规模不足、生成方法单一、存在虚假相关性等问题。这些问题导致训练出的深度伪造检测模型泛化能力差，难以应对真实场景中的复杂篡改。现有数据集通常只关注面部区域的篡改，且篡改方式较为单一，例如仅使用GAN进行面部交换，这使得模型容易学习到与篡改区域相关的虚假特征，而非真正的篡改痕迹。

核心思路：论文的核心思路是构建一个更大规模、更多样化、更具挑战性的深度伪造数据集DETER。该数据集通过引入多种生成模型和编辑操作，特别是随机区域的图像修复，来消除虚假相关性，提高数据集的真实性和复杂性。通过在该数据集上训练和评估深度伪造检测模型，可以更好地评估模型的泛化能力和鲁棒性。

技术框架：DETER数据集的构建流程主要包括以下几个阶段：1) 选择高质量的原始图像；2) 使用多种先进的生成模型（如StyleGAN2、GauGAN等）进行图像篡改，包括面部交换、属性编辑和图像修复等操作；3) 对篡改后的图像进行后处理，以提高其真实感；4) 对数据集进行标注，包括篡改区域的位置和类型等信息。

关键创新：DETER数据集的关键创新在于：1) 数据集规模更大，包含30万张图像；2) 引入了多种生成模型和编辑操作，特别是随机区域的图像修复，从而消除了虚假相关性；3) 进行了细致的图像后处理，提高了数据集的真实感。与现有数据集相比，DETER更具挑战性，可以更好地评估深度伪造检测模型的泛化能力。

关键设计：在生成图像修复数据时，随机选择图像区域进行修复，避免模型学习到固定的篡改模式。同时，为了保证修复区域的真实感，使用了上下文感知的图像修复算法。在数据集标注方面，不仅标注了篡改区域的位置，还标注了篡改的类型和生成模型，为后续的研究提供了更丰富的信息。

📊 实验亮点

DETER数据集的人工评估结果显示，人类在该数据集上的深度伪造检测率比在其他伪造数据集上低20.4%，表明DETER数据集更具挑战性。此外，论文还使用DETER数据集对现有的深度伪造检测模型进行了评估，并分析了模型的性能瓶颈，为未来的研究提供了重要的参考。

🎯 应用场景

DETER数据集可用于训练和评估深度伪造检测模型，提高模型在实际场景中的检测准确率和鲁棒性。该研究成果可应用于社交媒体平台、新闻媒体、安全监控等领域，有效识别和阻止恶意深度伪造内容的传播，维护网络安全和社会稳定。未来，该数据集可以进一步扩展，包含更多类型的篡改操作和生成模型，以应对不断发展的深度伪造技术。

📄 摘要（原文）

Generative AI capabilities have grown substantially in recent years, raising renewed concerns about potential malicious use of generated data, or "deep fakes". However, deep fake datasets have not kept up with generative AI advancements sufficiently to enable the development of deep fake detection technology which can meaningfully alert human users in real-world settings. Existing datasets typically use GAN-based models and introduce spurious correlations by always editing similar face regions. To counteract the shortcomings, we introduce DETER, a large-scale dataset for DETEcting edited image Regions and deterring modern advanced generative manipulations. DETER includes 300,000 images manipulated by four state-of-the-art generators with three editing operations: face swapping (a standard coarse image manipulation), inpainting (a novel manipulation for deep fake datasets), and attribute editing (a subtle fine-grained manipulation). While face swapping and attribute editing are performed on similar face regions such as eyes and nose, the inpainting operation can be performed on random image regions, removing the spurious correlations of previous datasets. Careful image post-processing is performed to ensure deep fakes in DETER look realistic, and human studies confirm that human deep fake detection rate on DETER is 20.4% lower than on other fake datasets. Equipped with the dataset, we conduct extensive experiments and break-down analysis using our rich annotations and improved benchmark protocols, revealing future directions and the next set of challenges in developing reliable regional fake detection models.