Progressive trajectory matching for medical dataset distillation

📄 arXiv: 2403.13469v1 📥 PDF

作者: Zhen Yu, Yang Liu, Qingchao Chen

分类: cs.CV

发布日期: 2024-03-20

💡 一句话要点

提出渐进轨迹匹配方法以解决医疗数据集蒸馏问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 医疗图像 数据集蒸馏 渐进轨迹匹配 动态重叠缓解 深度学习 隐私保护 模型训练

📋 核心要点

  1. 现有方法主要针对自然图像，无法有效处理医疗图像数据集的蒸馏，导致训练不稳定和结果不理想。
  2. 本文提出渐进轨迹匹配策略和动态重叠缓解模块，以提高医疗图像数据集蒸馏的训练稳定性和合成数据集的多样性。
  3. 实验结果显示，所提方法在性能上平均提高8.33%，在特定条件下提升达到11.7%，显著优于现有方法。

📝 摘要（中文）

由于隐私问题，医疗图像数据集的共享至关重要但极具挑战性，这限制了基础模型的构建和知识转移。本文提出了一种新颖的数据集蒸馏方法，将原始医疗图像数据集浓缩为合成数据集，保留用于构建分析模型的有用信息，而无需访问原始数据集。现有方法仅针对自然图像，通过随机匹配整个真实数据集训练的模型参数的部分训练轨迹。然而，在医疗图像数据集上进行的广泛实验表明，训练过程极不稳定，蒸馏结果较差。为了解决这些障碍，本文设计了一种新颖的渐进轨迹匹配策略，以提高医疗图像数据集蒸馏的训练稳定性。此外，观察到稳定性改善会抑制合成数据集的多样性和最终性能提升。因此，提出了一种动态重叠缓解模块，通过动态消除不同图像之间的重叠，改善合成数据集的多样性，并重新训练部分合成图像以实现更好的收敛。最后，提出了一种新的医疗图像数据集蒸馏基准，涵盖各种模态和配置，以促进公平评估。验证结果表明，所提方法在平均上比现有最先进方法提高了8.33%，当ipc=2时（即每类图像为2）提高了11.7%。代码和基准将会发布。

🔬 方法详解

问题定义：本文旨在解决医疗图像数据集蒸馏中的隐私问题和训练不稳定性。现有方法在处理医疗图像时表现不佳，导致蒸馏效果差。

核心思路：提出渐进轨迹匹配策略，通过逐步优化训练过程来提高稳定性，同时引入动态重叠缓解模块，增强合成数据集的多样性。

技术框架：整体流程包括数据集蒸馏的初始阶段、渐进轨迹匹配的实施和动态重叠缓解的应用。主要模块包括数据预处理、模型训练和合成数据集生成。

关键创新：最重要的创新在于结合渐进轨迹匹配和动态重叠缓解，显著提升了医疗图像数据集蒸馏的稳定性和多样性，与现有方法相比具有本质区别。

关键设计：在参数设置上，动态重叠缓解模块通过设定阈值来消除图像间的重叠，损失函数设计上强调合成数据集的多样性，网络结构则采用了适应医疗图像特性的深度学习模型。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提出的方法在多个医疗图像数据集上平均提高了8.33%的蒸馏效果，特别是在每类图像为2的情况下，提升幅度达到11.7%。这些结果显著优于当前最先进的方法，验证了新方法的有效性和实用性。

🎯 应用场景

该研究在医疗影像分析、疾病诊断和医学研究等领域具有广泛的应用潜力。通过有效的医疗数据集蒸馏，可以在保护患者隐私的同时，促进医疗AI模型的开发与应用，推动智能医疗的发展。未来，该方法可能会影响医疗数据共享和利用的方式，提升医疗服务的质量和效率。

📄 摘要（原文）

It is essential but challenging to share medical image datasets due to privacy issues, which prohibit building foundation models and knowledge transfer. In this paper, we propose a novel dataset distillation method to condense the original medical image datasets into a synthetic one that preserves useful information for building an analysis model without accessing the original datasets. Existing methods tackle only natural images by randomly matching parts of the training trajectories of the model parameters trained by the whole real datasets. However, through extensive experiments on medical image datasets, the training process is extremely unstable and achieves inferior distillation results. To solve these barriers, we propose to design a novel progressive trajectory matching strategy to improve the training stability for medical image dataset distillation. Additionally, it is observed that improved stability prevents the synthetic dataset diversity and final performance improvements. Therefore, we propose a dynamic overlap mitigation module that improves the synthetic dataset diversity by dynamically eliminating the overlap across different images and retraining parts of the synthetic images for better convergence. Finally, we propose a new medical image dataset distillation benchmark of various modalities and configurations to promote fair evaluations. It is validated that our proposed method achieves 8.33% improvement over previous state-of-the-art methods on average, and 11.7% improvement when ipc=2 (i.e., image per class is 2). Codes and benchmarks will be released.