CloSeR: Unified Relational Distillation from Closed-Set Teachers for Category Discovery

📄 arXiv: 2608.25692v1 📥 PDF

作者: Yuanpei Liu, Zhenqi He, Jialu Tang, Kai Han

分类: cs.CV

发布日期: 2026-08-26

备注: Accepted as a conference paper at ECCV 2026

🔗 代码/项目: PROJECT_PAGE

💡 一句话要点

提出CloSeR框架以解决类别发现中的知识蒸馏问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 一般化类别发现 知识蒸馏 闭集学习 无监督学习 计算机视觉

📋 核心要点

  1. 现有的GCD方法在处理混合标记和未标记数据时，常常导致目标冲突和偏差预测，影响模型性能。
  2. CloSeR框架通过构建闭集教师模型并利用统一关系蒸馏技术，有效地将闭集知识注入GCD训练中。
  3. 在多个基准数据集上，CloSeR相较于传统GCD方法表现出显著的性能提升，达到了最新的研究水平。

📝 摘要（中文）

一般化类别发现（GCD）是一个引人注目的开放世界问题，旨在从部分标记数据中识别已知类别并发现新类别。现有方法通过联合优化监督分类和无监督发现目标来处理混合标记和未标记数据，但这种耦合训练可能导致目标冲突和偏差预测。为此，本文提出CloSeR框架，通过注入闭集关系知识来优化GCD训练。CloSeR首先构建一个闭集教师模型，然后通过统一关系蒸馏（URD）将教师的知识转移到下游GCD，显著提升了模型性能。实验结果表明，CloSeR在多个基准数据集上均取得了优异的表现。

🔬 方法详解

问题定义：本文旨在解决一般化类别发现（GCD）中的知识蒸馏问题，现有方法在处理部分标记数据时，容易导致目标冲突和偏差预测，影响模型的语义几何结构。

核心思路：CloSeR框架通过构建一个闭集教师模型，利用轻量级的块适配器在已标记的已知类别数据上进行微调，从而在低训练成本下保留预训练知识，并通过统一关系蒸馏（URD）将教师知识转移到GCD中。

技术框架：CloSeR的整体架构包括两个主要模块：首先是构建闭集教师模型，其次是通过URD进行知识蒸馏。URD通过不同的特征通道来减少优化干扰，分别提取全局样本与原型的关系和局部样本间的关系。

关键创新：CloSeR的主要创新在于引入了闭集关系知识，通过URD有效地将已知类别的语义锚定和邻域结构保留，解决了现有方法中目标冲突的问题。

关键设计：在设计上，CloSeR采用了轻量级的块适配器来微调教师模型，并使用独立的特征通道来进行关系蒸馏，确保了优化过程的稳定性和有效性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在使用DINO和DINOv2骨干网络的六个基准数据集（CIFAR-10/100、ImageNet-100、CUB、Stanford-Cars和FGVC-Aircraft）上，CloSeR相较于传统GCD基线方法表现出一致的性能提升，达到了最新的研究水平，显示出其强大的实用性和有效性。

🎯 应用场景

CloSeR框架在图像分类、物体检测等计算机视觉任务中具有广泛的应用潜力，尤其是在需要处理部分标记数据的场景中。其方法可以有效提升模型在开放世界环境下的类别发现能力，推动智能系统在实际应用中的表现。

📄 摘要（原文）

Generalized Category Discovery (GCD) is an intriguing open-world problem that has garnered increasing attention: given partially labelled data, the goal is to correctly recognize known classes while discovering coherent novel categories from unlabelled samples. Recent GCD methods typically adapt foundation models by jointly optimizing supervised classification and unsupervised discovery objectives on mixed labelled and unlabelled data. While effective, this coupled training can entangle closed-set recognition and open-set discovery, leading to objective conflict and biased predictions, and may disturb the semantic geometry of pretrained representations under limited labels and noisy pseudo-labels. We propose CloSeR, a simple plug-and-play framework that injects Closed-Set Relational knowledge into GCD training. CloSeR first builds a domain-adapted closed-set teacher by tuning lightweight block-wise adapters on labelled known-class data while keeping the foundation model backbone frozen, thereby preserving pretrained priors at low training cost. It then transfers the teacher's knowledge to downstream GCD via Unified Relational Distillation (URD), which distills complementary global sample-to-prototype relations to anchor known-class semantics and local sample-to-sample relations to preserve neighborhood structure, using separate feature pathways to reduce optimization interference. CloSeR is head-agnostic and readily integrates with both parametric and non-parametric GCD methods. Extensive experiments with DINO and DINOv2 backbones on six benchmarks (CIFAR-10/100, ImageNet-100, CUB, Stanford-Cars, and FGVC-Aircraft) show consistent gains over GCD baselines, achieving state-of-the-art performance. Project page: https://visual-ai.github.io/closer/