Is Forgetting Unified? Exploring Concept Unlearning in Unified Multimodal Models

📄 arXiv: 2611.04467v1 📥 PDF

作者: Zhongkai Xue, Junkai Chen, Mingcong Lei, Rumo Zhang, Yixiao Liu, Zhimin Sun, Shu Wu, Qiang Liu, Lihua Zhang, Liang Wang

分类: cs.CV

发布日期: 2026-11-03

💡 一句话要点

提出UniForget以解决统一多模态模型中的概念遗忘问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 统一多模态模型 概念遗忘 跨通道学习 图像生成 视觉理解 UUBench 机器学习

📋 核心要点

  1. 现有的单通道遗忘方法在统一多模态模型中无法有效抑制目标概念的遗忘，导致生成与理解能力的不足。
  2. 论文提出了UniForget，通过跨通道概念遗忘的方法，旨在同时抑制生成和理解中的目标概念。
  3. 实验结果显示，UniForget在多个基准模型上实现了显著的联合遗忘率，超越了现有方法的表现。

📝 摘要（中文）

统一多模态模型（UMMs）集成了图像生成和视觉理解，但现有的单通道遗忘方法是否足以在两者之间抑制目标概念？本研究探讨了跨通道概念遗忘，旨在防止模型在生成目标概念图像和识别输入图像中的目标概念的同时，保留其他能力。为此，我们引入了UUBench，一个涵盖30个目标概念和60个语义相关邻近概念的诊断基准。实验表明，评估的单通道方法在联合遗忘方面效果有限，生成侧编辑器强烈抑制目标生成，但在视觉理解中遗忘效果有限，而理解侧基线即使在自身通道中也难以实现显著遗忘。因此，我们提出了UniForget，在BAGEL-7B-MoT上实现了80.0%的联合遗忘率，在Janus-Pro-7B上达到了92.7%，超越了代表性基线。进一步分析揭示了联合遗忘与能力保留之间的权衡。

🔬 方法详解

问题定义：本论文旨在解决统一多模态模型中概念遗忘的不足，现有单通道遗忘方法无法有效抑制目标概念在生成和理解中的表现，导致模型能力的损失。

核心思路：论文提出的UniForget方法通过跨通道的概念遗忘机制，旨在同时抑制模型在生成和理解中的目标概念，从而实现更高效的遗忘效果。

技术框架：整体架构包括数据收集、UUBench基准测试、模型训练与评估等多个阶段，重点在于通过设计特定的损失函数来实现联合遗忘。

关键创新：UniForget的最大创新在于其跨通道遗忘机制，能够在生成和理解两个方面同时实现目标概念的遗忘，而现有方法通常只关注单一通道。

关键设计：在模型训练中，采用了特定的损失函数来平衡生成与理解的遗忘效果，同时设置了多个超参数以优化模型性能，确保在遗忘目标概念的同时保留其他能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，UniForget在BAGEL-7B-MoT上实现了80.0%的联合遗忘率，而在Janus-Pro-7B上达到了92.7%。相比之下，现有的单通道方法在联合遗忘方面的效果有限，显示出UniForget在性能上的显著提升。

🎯 应用场景

该研究的潜在应用领域包括智能图像生成、自动化内容审核和多模态学习系统等。通过有效的概念遗忘机制，模型能够在处理敏感信息时更好地保护用户隐私，提升系统的安全性与可靠性。未来，随着多模态模型的广泛应用，该研究的成果将对相关领域产生深远影响。

📄 摘要（原文）

Unified multimodal models (UMMs) integrate image generation and visual understanding, but are existing single-pathway unlearning methods sufficient to suppress target concepts across both? In this work, we study cross-pathway concept unlearning. Our goal is to prevent a model from both generating images of a target concept and identifying it in input images, while preserving other capabilities. To this end, we introduce UUBench, a diagnostic benchmark covering 30 target concepts and 60 semantically related neighboring concepts. Experiments on representative UMMs show that the evaluated single-pathway methods achieve limited joint forgetting: generation-side editors strongly suppress target generation but yield limited forgetting in visual understanding, while understanding-side baselines struggle to achieve substantial forgetting even in their own pathway. Their direct composition also yields limited joint forgetting. We therefore propose UniForget, achieving joint forgetting rates of 80.0% on BAGEL-7B-MoT and 92.7% on Janus-Pro-7B, outperforming representative baselines. Further analysis reveals trade-offs between joint forgetting and capability preservation.