SPA-Q: Structure-Preserving Adaptive Post-Training Quantization for Monocular Depth Estimation

📄 arXiv: 2611.04491v1 📥 PDF

作者: Jaemin Choi, Jincheol Yang, Nahyun Lim, Yun-Seong Jeong, Matti Zinke, Hyunwoo Yu, Suk-Ju Kang

分类: cs.CV

发布日期: 2026-11-03

备注: 27 pages

💡 一句话要点

提出SPA-Q以解决单目深度估计中的量化挑战

🎯 匹配领域: 支柱三：空间感知与语义 (Perception & Semantics) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 单目深度估计 后训练量化 模型压缩 注意力机制 量化误差 深度学习 计算机视觉

📋 核心要点

  1. 现有的后训练量化方法在单目深度估计中面临量化误差对注意力图和特征分布的影响，导致性能下降。
  2. SPA-Q框架通过注意力保持校准和通道分布对齐，优化量化参数并减轻分布偏移，从而提高模型性能。
  3. 在NYUv2和KITTI数据集上，SPA-Q在4位量化下实现了25.9%的AbsRel减少和17.3%的δ_1提升，表现优于现有方法。

📝 摘要（中文）

单目深度估计（MDE）随着基础模型如Depth Anything的出现迅速发展，尽管其变换器架构在多样场景和领域中提供了强大的泛化能力，但高计算和内存成本使得高效部署面临挑战。后训练量化（PTQ）为模型压缩提供了有效的解决方案，但在MDE模型中，低位PTQ仍然具有挑战性。本文提出的SPA-Q框架通过注意力保持校准（APC）和通道分布对齐（CWDA）两个主要组件，解决了量化误差对注意力图和中间特征分布的影响。实验结果表明，SPA-Q在4位量化下优于现有PTQ方法，在NYUv2和KITTI数据集上实现了平均25.9%的AbsRel减少和17.3%的δ_1提升。

🔬 方法详解

问题定义：本文旨在解决单目深度估计模型在后训练量化过程中遇到的量化误差问题，现有方法在独立最小化查询和键投影的量化误差时未能有效保持注意力图，且量化误差在层间累积导致特征分布偏移。

核心思路：SPA-Q框架通过引入注意力保持校准（APC）和通道分布对齐（CWDA）两个组件，确保量化过程中的特征分布保持一致，从而提升模型在低位量化下的性能。

技术框架：SPA-Q的整体架构包括两个主要模块：首先，APC通过匹配全精度注意力分布来确定查询和键的量化参数；其次，CWDA通过学习通道级的仿射变换来减轻量化引起的分布偏移。

关键创新：SPA-Q的主要创新在于其结构保持的自适应量化方法，能够有效解决量化误差对注意力图和特征分布的影响，与传统PTQ方法相比，显著提升了模型的量化性能。

关键设计：在设计中，APC和CWDA的参数通过训练学习并在训练后吸收进权重中，确保量化过程中的信息保持和分布一致性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，SPA-Q在4位量化下相较于现有PTQ方法表现优异，平均实现了25.9%的AbsRel减少和17.3%的δ_1提升，验证了其在单目深度估计中的有效性和优势。

🎯 应用场景

该研究的潜在应用领域包括自动驾驶、机器人视觉和增强现实等需要高效深度估计的场景。通过提高模型在低位量化下的性能，SPA-Q能够使得深度估计模型在资源受限的设备上实现更高效的部署，推动相关技术的实际应用和发展。

📄 摘要（原文）

Monocular depth estimation (MDE) has advanced rapidly with the emergence of foundation models such as Depth Anything. Their transformer-based architectures provide strong generalization across diverse scenes and domains, but also incur high computational and memory cost, making efficient deployment challenging. Post-Training Quantization (PTQ) provides an efficient and practical solution for model compression, yet low-bit PTQ remains challenging for MDE models. When applying PTQ to Depth Anything, we identify two key challenges: (i) independently minimizing the quantization error of the query and key projections fails to preserve the attention maps induced by their interaction, and (ii) quantization errors accumulate across layers, resulting in intermediate feature distribution shifts. To address these issues, we propose SPA-Q, a Structure-Preserving Adaptive PTQ framework for MDE, consisting of two main components. First, Attention-Preserving Calibration (APC) determines query and key quantization parameters by matching the full-precision attention distribution. Second, Channel-Wise Distribution Alignment (CWDA) learns channel-wise affine transformations to mitigate quantization-induced distribution shifts, and the learned parameters are absorbed into the weights after training. Experimental results show that SPA-Q consistently outperforms existing PTQ methods under 4-bit quantization, achieving an average 25.9% reduction in AbsRel and a 17.3% improvement in $δ_1$ across NYUv2 and KITTI datasets.