Long-Tailed 3D Point Cloud Dataset Distillation

📄 arXiv: 2607.26763v1 📥 PDF

作者: Jiahao You, Xu Han, Jinfeng Xu, Xianzhi Li

分类: cs.CV

发布日期: 2026-07-29


💡 一句话要点

提出长尾3D点云数据集蒸馏方法以解决数据不平衡问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture)

关键词: 长尾分布 3D点云 数据集蒸馏 合成样本 机器学习

📋 核心要点

  1. 现有点云数据集蒸馏方法未能有效处理长尾类分布,导致训练和测试性能不均衡。
  2. 本文提出的框架通过自适应合成预算和长尾分布匹配,针对类分布不平衡进行优化。
  3. 在ShapeNet55数据集上,本文方法相比于最先进的技术提升了7.0个百分点的分类准确率。

📝 摘要(中文)

数据集蒸馏技术将大规模数据集压缩为紧凑的合成集,同时保持其训练效用,从而实现高效的3D点云训练。现有的点云数据集蒸馏方法主要关注几何和表示挑战,而忽视了点云数据集中普遍存在的长尾类分布问题。本文首次研究了长尾点云数据集蒸馏,提出了一种框架,通过自适应合成预算和3D长尾分布匹配两个核心模块,显著提升了合成样本的质量。实验结果表明,该方法在ShapeNet55数据集上提升了7.0个百分点的分类准确率,优于现有最先进的方法。

🔬 方法详解

问题定义:本文旨在解决长尾类分布对点云数据集蒸馏的影响,现有方法在处理几何和表示特性时未能考虑类分布的不平衡,导致训练效果不佳。

核心思路:提出的框架通过自适应合成预算分配和3D长尾分布匹配,优化合成样本的生成,确保长尾类样本的可识别性,同时保持头类样本的多样性。

技术框架:整体架构包括两个主要模块:自适应合成预算模块根据类的数量和合成样本的预期效益分配预算;长尾分布匹配模块通过全局-局部特征对齐和先验感知监督优化合成点云。

关键创新:本文首次将长尾类分布的考虑引入点云数据集蒸馏,设计了自适应合成预算和长尾分布匹配两个创新模块,显著提升了合成样本的质量和训练效果。

关键设计:在自适应合成预算中,类的预算分配依据类的数量和潜在效益进行;长尾分布匹配中,采用全局-局部特征对齐技术,确保合成样本在保持类分布的同时,能够反映类内的多样性。损失函数设计上,考虑了类依赖的专家监督,确保尾类样本的可识别性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示,本文方法在ShapeNet55数据集上实现了7.0个百分点的分类准确率提升,相比于现有最先进的方法,展现出显著的性能优势,验证了长尾分布处理的有效性。

🎯 应用场景

该研究具有广泛的应用潜力,尤其在自动驾驶、机器人感知和三维重建等领域。通过有效处理长尾类分布,提升了3D点云数据集的训练效率和准确性,未来可推动相关技术的进一步发展与应用。

📄 摘要(原文)

Dataset distillation compresses large-scale datasets into compact synthetic sets while preserving their training utility, enabling efficient 3D point cloud training. Current point cloud dataset distillation methods only tackle geometric and representation challenges while ignoring the distributional imbalance prevalent in point cloud datasets where both training and test splits follow long-tailed class distributions. To our knowledge, we present the first study on long-tailed point cloud dataset distillation. Rather than focusing primarily on geometric and representation properties or simply constructing a class-balanced synthetic set, our framework explicitly accounts for long-tailed class distributions via two core modules. First, we design Adaptive Synthetic Budgeting to allocate class-wise synthetic budgets according to class quantity and the expected benefit of additional synthetic samples. Given the allocated budgets, we further design 3D Long-Tailed Distribution Matching to optimize synthetic point clouds through Global-Local Feature Alignment and Prior-Aware Supervision. The former preserves both global class distributions and diverse intra-class structures, while the latter provides class-dependent expert supervision to keep tail-class samples recognizable while maintaining diverse head-class patterns. Extensive experiments demonstrate the effectiveness of our method, lifting classification accuracy by 7.0 points on ShapeNet55 against state-of-the-art methods.