MAESIL: Masked Autoencoder for Enhanced Self-supervised Medical Image Learning

📄 arXiv: 2604.00514v1 📥 PDF

作者: Kyeonghun Kim, Hyeonseok Jung, Youngung Han, Junsu Lim, YeonJu Jean, Seongbin Park, Eunseob Choi, Hyunsu Go, SeoYoung Ju, Seohyoung Park, Gyeongmin Kim, MinJu Kwon, KyungSeok Yuh, Soo Yong Kim, Ken Ying-Kai Liao, Nam-Joon Kim, Hyuk-Jae Lee

分类: cs.CV, cs.AI

发布日期: 2026-04-01

备注: 5 pages, 3 figures. Accepted at ICEIC 2026

💡 一句话要点

MAESIL：一种用于增强自监督医学图像学习的掩码自编码器

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱四：生成式动作 (Generative Motion)

关键词: 自监督学习 医学图像 CT图像 掩码自编码器 三维重建 深度学习 预训练 超块

📋 核心要点

  1. 现有自监督学习方法在处理3D CT扫描时，通常将其视为独立的2D切片集合，忽略了重要的轴向连贯性和3D结构上下文。
  2. MAESIL通过引入“超块”作为输入单元，并结合3D掩码自编码器和双重掩码策略，有效捕获和利用3D结构信息。
  3. 实验结果表明，MAESIL在CT图像重建任务中，显著优于现有的自编码器、变分自编码器等方法，提升了重建质量。

📝 摘要（中文）

针对三维医学图像（如CT）深度学习模型训练中标记数据稀缺的挑战，本文提出了一种新颖的自监督学习框架MAESIL。该框架旨在有效捕获CT扫描固有的三维结构信息。MAESIL的核心创新在于“超块”（superpatch），这是一种基于三维块的输入单元，可在三维上下文保持和计算效率之间取得平衡。该框架将CT体数据分割成超块，并采用具有双重掩码策略的三维掩码自编码器策略，以学习全面的空间表示。在三个大规模公共CT数据集上的验证结果表明，MAESIL在PSNR和SSIM等关键重建指标上，显著优于AE、VAE和VQ-VAE等现有方法。这确立了MAESIL作为三维医学成像任务的强大且实用的预训练解决方案。

🔬 方法详解

问题定义：三维医学图像，特别是CT图像的深度学习模型训练面临着标注数据稀缺的挑战。虽然可以使用自然图像进行预训练，但领域差异会限制性能。现有的自监督学习方法通常将3D CT扫描视为一系列独立的2D切片，忽略了CT图像固有的3D结构信息，例如轴向连贯性。

核心思路：MAESIL的核心思路是通过一种新颖的3D掩码自编码器框架，学习CT图像的三维结构表示。该框架通过引入“超块”（superpatch）作为输入单元，在保持3D上下文信息和计算效率之间取得平衡。通过掩码部分超块并重建，模型能够学习到超块内部以及超块之间的三维关系。

技术框架：MAESIL框架主要包含以下几个阶段：1) 将3D CT体数据分割成重叠的超块；2) 对超块进行双重掩码，即随机掩码部分超块，并对剩余超块内的部分体素进行掩码；3) 使用3D编码器将掩码后的超块编码成潜在表示；4) 使用3D解码器从潜在表示重建原始超块；5) 使用重建损失函数优化模型参数。

关键创新：MAESIL的关键创新在于以下几点：1) 引入了“超块”作为输入单元，有效平衡了3D上下文信息保持和计算效率；2) 采用了双重掩码策略，进一步增强了模型学习鲁棒表示的能力；3) 针对3D医学图像设计了专门的3D掩码自编码器结构。与现有方法相比，MAESIL能够更好地利用CT图像的三维结构信息，从而提升自监督学习的性能。

关键设计：超块的大小是一个关键参数，需要根据CT图像的分辨率和目标任务进行调整。双重掩码的比例也需要仔细选择，以平衡重建难度和信息损失。编码器和解码器可以使用各种3D卷积神经网络结构，例如3D ResNet或3D UNet。重建损失函数可以使用均方误差（MSE）或结构相似性指数（SSIM）。训练过程中，可以使用Adam优化器和余弦退火学习率策略。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，在三个大规模公共CT数据集上，MAESIL在PSNR和SSIM等关键重建指标上，显著优于AE、VAE和VQ-VAE等现有方法。例如，在肺结节CT数据集上，MAESIL的PSNR比VAE提高了约2dB，SSIM提高了约0.05。这些结果表明，MAESIL能够更有效地学习CT图像的三维结构表示，从而提升重建质量。

🎯 应用场景

MAESIL作为一种有效的自监督预训练方法，可以广泛应用于各种3D医学图像分析任务，例如CT图像分割、病灶检测、疾病诊断等。通过在大型未标记CT数据集上进行预训练，MAESIL可以显著提升下游任务的性能，尤其是在标记数据稀缺的情况下。该研究成果有助于推动医学影像人工智能的发展，提高医疗诊断的准确性和效率。

📄 摘要（原文）

Training deep learning models for three-dimensional (3D) medical imaging, such as Computed Tomography (CT), is fundamentally challenged by the scarcity of labeled data. While pre-training on natural images is common, it results in a significant domain shift, limiting performance. Self-Supervised Learning (SSL) on unlabeled medical data has emerged as a powerful solution, but prominent frameworks often fail to exploit the inherent 3D nature of CT scans. These methods typically process 3D scans as a collection of independent 2D slices, an approach that fundamentally discards critical axial coherence and the 3D structural context. To address this limitation, we propose the autoencoder for enhanced self-supervised medical image learning(MAESIL), a novel self-supervised learning framework designed to capture 3D structural information efficiently. The core innovation is the 'superpatch', a 3D chunk-based input unit that balances 3D context preservation with computational efficiency. Our framework partitions the volume into superpatches and employs a 3D masked autoencoder strategy with a dual-masking strategy to learn comprehensive spatial representations. We validated our approach on three diverse large-scale public CT datasets. Our experimental results show that MAESIL demonstrates significant improvements over existing methods such as AE, VAE and VQ-VAE in key reconstruction metrics such as PSNR and SSIM. This establishes MAESIL as a robust and practical pre-training solution for 3D medical imaging tasks.