Segment Any Object Model (SAOM): Real-to-Simulation Fine-Tuning Strategy for Multi-Class Multi-Instance Segmentation

📄 arXiv: 2403.10780v1 📥 PDF

作者: Mariia Khan, Yue Qiu, Yuren Cong, Jumana Abu-Khalaf, David Suter, Bodo Rosenhahn

分类: cs.CV, cs.AI

发布日期: 2024-03-16

💡 一句话要点

提出SAOM以解决多类多实例分割中的全对象掩码问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱三：空间感知与语义 (Perception & Semantics)

关键词: 多类多实例分割 全对象掩码 微调策略 室内场景理解 机器人应用 深度学习 计算机视觉

📋 核心要点

  1. 现有的SAM模型在多类多实例分割任务中，输出的掩码常常为部分或子部分，限制了其在实际应用中的效果。
  2. 本文提出了一种Real-to-Simulation微调策略，并引入最近邻分配方法，以提升全对象掩码的生成能力。
  3. SAOM在实验中相较于SAM显著提升了28%的mIoU和25%的mAcc，展现了良好的泛化能力。

📝 摘要（中文）

多类多实例分割任务旨在识别图像中多个对象类别及同类多个实例的掩码。基础的Segment Anything Model (SAM)在“everything”模式下输出的掩码往往为部分或子部分，这在实际应用中存在局限性。为此，本文提出了一种新的领域不变的Real-to-Simulation (Real-Sim)微调策略，利用从Ai2Thor模拟器收集的对象图像和真实数据进行微调。为了使SAOM在“everything”模式下有效工作，提出了新颖的最近邻分配方法，更新每个真实掩码的点嵌入。实验结果表明，SAOM在54个常见室内对象类别上，mIoU提高了28%，mAcc提高了25%。此外，Real-to-Simulation微调策略在未使用真实数据的情况下，展现了良好的泛化性能。

🔬 方法详解

问题定义：本文旨在解决现有SAM模型在多类多实例分割中输出部分掩码的问题，导致在室内场景理解中的应用受限。

核心思路：提出Real-to-Simulation微调策略，通过在模拟环境中收集数据进行训练，并引入最近邻分配方法来更新点嵌入，从而提高全对象掩码的生成能力。

技术框架：整体流程包括数据收集、Real-to-Simulation微调和最近邻分配方法的应用。首先从Ai2Thor模拟器中获取对象图像和真实数据，然后进行模型微调，最后通过更新点嵌入来优化掩码输出。

关键创新：最重要的创新在于提出的最近邻分配方法，使得每个真实掩码的点嵌入能够得到有效更新，从而显著提升了全对象掩码的生成能力。

关键设计：在微调过程中，采用了特定的损失函数来优化掩码的准确性，并在网络结构中引入了适应性调整的机制，以提高模型的泛化能力。通过这些设计，SAOM在多个室内对象类别上取得了显著的性能提升。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

SAOM在54个常见室内对象类别上，相较于SAM模型，mIoU提升了28%，mAcc提升了25%。此外，Real-to-Simulation微调策略在未使用真实数据的情况下，展现了良好的泛化性能，显示出该方法的有效性和实用性。

🎯 应用场景

该研究的潜在应用领域包括室内场景理解、机器人导航和人机交互等。通过提高多类多实例分割的精度，SAOM能够在智能家居、自动化仓库和虚拟现实等场景中发挥重要作用，未来可能推动相关技术的广泛应用。

📄 摘要（原文）

Multi-class multi-instance segmentation is the task of identifying masks for multiple object classes and multiple instances of the same class within an image. The foundational Segment Anything Model (SAM) is designed for promptable multi-class multi-instance segmentation but tends to output part or sub-part masks in the "everything" mode for various real-world applications. Whole object segmentation masks play a crucial role for indoor scene understanding, especially in robotics applications. We propose a new domain invariant Real-to-Simulation (Real-Sim) fine-tuning strategy for SAM. We use object images and ground truth data collected from Ai2Thor simulator during fine-tuning (real-to-sim). To allow our Segment Any Object Model (SAOM) to work in the "everything" mode, we propose the novel nearest neighbour assignment method, updating point embeddings for each ground-truth mask. SAOM is evaluated on our own dataset collected from Ai2Thor simulator. SAOM significantly improves on SAM, with a 28% increase in mIoU and a 25% increase in mAcc for 54 frequently-seen indoor object classes. Moreover, our Real-to-Simulation fine-tuning strategy demonstrates promising generalization performance in real environments without being trained on the real-world data (sim-to-real). The dataset and the code will be released after publication.