Periodically Exchange Teacher-Student for Source-Free Object Detection

📄 arXiv: 2311.13930v1 📥 PDF

作者: Qipeng Liu, Luojun Lin, Zhifeng Shen, Zhifeng Yang

分类: cs.CV

发布日期: 2023-11-23

备注: ICCV 2023

💡 一句话要点

提出周期性教师-学生模型交换以解决源无关目标检测不稳定问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 源无关目标检测 周期性交换 教师-学生模型 多教师框架 训练稳定性 伪标签生成

📋 核心要点

  1. 现有SFOD方法普遍采用单一教师模型，容易导致训练不稳定，影响学生模型性能。
  2. 提出周期性交换教师-学生模型的PETS方法，通过多教师框架提升训练稳定性，减少错误累积。
  3. 在多个SFOD基准上进行的实验显示，PETS方法在性能上超越了其他相关方法，取得了显著提升。

📝 摘要（中文）

源无关目标检测(SFOD)旨在在没有源域数据的情况下，将源检测器适应于未标记的目标域数据。现有大多数SFOD方法采用均值教师(MT)框架，学生模型仅由单一教师模型指导，这种方法容易导致训练不稳定，尤其是在教师模型因领域转移而崩溃时，学生模型的性能也会显著下降。为了解决这一问题，本文提出了周期性交换教师-学生(PETS)方法，构建了一个包含静态教师、动态教师和学生模型的多教师框架。通过定期交换静态教师和学生模型的权重，并利用学生模型的移动平均更新动态教师，从而有效减少错误累积，提升训练稳定性。实验结果表明，该方法在多个SFOD基准上实现了最先进的性能，验证了其有效性和优越性。

🔬 方法详解

问题定义：本文解决的是源无关目标检测中的训练不稳定问题。现有方法依赖单一教师模型，容易在领域转移时导致教师模型崩溃，从而影响学生模型的性能。

核心思路：提出周期性交换教师-学生模型的PETS方法，构建静态教师、动态教师和学生模型的多教师框架。通过定期交换静态教师和学生模型的权重，动态教师能够整合来自过去的知识，减少错误累积，提升训练的稳定性。

技术框架：整体架构包括静态教师、动态教师和学生模型三个主要模块。在训练过程中，静态教师与学生模型定期交换权重，动态教师则通过学生模型的移动平均进行更新。

关键创新：最重要的创新点在于引入了多教师框架，通过静态教师和动态教师的协同作用，显著提升了训练过程的稳定性和模型性能。这与现有方法的单一教师模型形成了本质区别。

关键设计：在参数设置上，采用移动平均策略更新动态教师，确保其能够有效整合历史知识。此外，设计了共识机制以合并两个教师模型的预测，提供更高质量的伪标签给学生模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在多个SFOD基准上，PETS方法实现了最先进的性能，相较于其他相关方法，性能提升幅度达到XX%，验证了其有效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括自动驾驶、安防监控和工业检测等场景，能够在没有源域标注数据的情况下，提升目标检测系统的适应能力和准确性。未来，PETS方法有望在更广泛的无监督学习任务中发挥作用，推动源无关学习的发展。

📄 摘要（原文）

Source-free object detection (SFOD) aims to adapt the source detector to unlabeled target domain data in the absence of source domain data. Most SFOD methods follow the same self-training paradigm using mean-teacher (MT) framework where the student model is guided by only one single teacher model. However, such paradigm can easily fall into a training instability problem that when the teacher model collapses uncontrollably due to the domain shift, the student model also suffers drastic performance degradation. To address this issue, we propose the Periodically Exchange Teacher-Student (PETS) method, a simple yet novel approach that introduces a multiple-teacher framework consisting of a static teacher, a dynamic teacher, and a student model. During the training phase, we periodically exchange the weights between the static teacher and the student model. Then, we update the dynamic teacher using the moving average of the student model that has already been exchanged by the static teacher. In this way, the dynamic teacher can integrate knowledge from past periods, effectively reducing error accumulation and enabling a more stable training process within the MT-based framework. Further, we develop a consensus mechanism to merge the predictions of two teacher models to provide higher-quality pseudo labels for student model. Extensive experiments on multiple SFOD benchmarks show that the proposed method achieves state-of-the-art performance compared with other related methods, demonstrating the effectiveness and superiority of our method on SFOD task.