Finetuning Vision-Language-Action Models Requires Fewer Layers Than You Think

📄 arXiv: 2606.20246v1 📥 PDF

作者: Gia-Binh Nguyen, Trong-Bao Ho, Thien-Loc Ha, Khoa Vo, Philip Lund Møller, Quang T. Nguyen, Long Dinh, Tuan Dam, Vu Duong, Tung M. Luu, Trung Le, Tran Nguyen Le, Minh Vu, An Thai Le, Ngan Le, Daniel Sonntag, James Zou, Jan Peters, Duy M. H. Nguyen, Ngo Anh Vien

分类: cs.RO, cs.AI

发布日期: 2026-06-18

💡 一句话要点

提出结构压缩方法以减少VLA模型层数并提升效率

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 模型压缩 计算效率 机器人操作 深度学习

📋 核心要点

  1. 现有的VLA模型在微调和推理时面临巨大的计算负担，层级冗余导致资源浪费。
  2. 提出了一种无训练的结构压缩方法，通过识别冗余层特征来减少模型层数，提升计算效率。
  3. 实验结果表明，压缩后的模型在训练时间上减少40-50%，实时推理速度提升最高30%，且性能不减反增。

📝 摘要（中文）

视觉-语言-动作（VLA）模型在大规模视频-机器人数据集上预训练，已在机器人操作中取得革命性进展。然而，其数十亿参数的架构在下游微调和实时推理中带来了巨大的计算负担。本文揭示了这些连续控制基础策略的层级表示冗余特性，并提出了一种完全无训练的结构压缩管道，能够在不加载全规模模型的情况下，通过中心核对齐识别冗余层特征，去除双层以永久压缩模型深度达50%。这种简化架构在下游微调中实现了40-50%的训练时间减少和最高30%的实时推理加速，同时性能与全规模基准模型相当或更优。我们在三个仿真基准和十个真实世界操作任务中全面验证了该方法。

🔬 方法详解

问题定义：本文旨在解决VLA模型在下游微调和实时推理中面临的计算负担问题，现有方法需加载全规模模型进行优化，效率低下。

核心思路：通过识别层级表示冗余，提出一种完全无训练的结构压缩方法，去除冗余层以减少模型深度，从而提升计算效率。

技术框架：整体架构包括数据输入、中心核对齐模块、冗余层识别和模型压缩四个主要阶段，确保高效处理和优化。

关键创新：最重要的创新在于提出了一种无训练的压缩管道，避免了传统方法对全规模模型的依赖，显著降低了计算资源需求。

关键设计：在模型压缩过程中，采用中心核对齐技术识别冗余层特征，去除双层以实现最高50%的深度压缩，同时保持模型性能。实验中使用了多个基准和真实任务进行验证。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，压缩后的VLA模型在训练时间上减少了40-50%，实时推理速度提升最高30%，且在多个基准测试中性能与全规模模型相当或更优，证明了该方法的有效性和实用性。

🎯 应用场景

该研究的潜在应用领域包括机器人操作、自动化制造和智能家居等场景。通过减少模型层数和计算负担，能够使得机器人在实时操作中更加高效，推动智能机器人技术的广泛应用与发展。

📄 摘要（原文）

Vision-Language-Action (VLA) models pre-trained on massive video-robot datasets have revolutionized robotic manipulation, yet their multi-billion parameter architectures impose prohibitive computational burdens during downstream fine-tuning and real-time inference. In this work, we reveal a highly non-trivial architectural characteristic of these continuous control foundation policies (e.g., pi_0, GR00T-N1.5): despite being trained on diverse physical trajectories, they exhibit severe layer-wise representational redundancy. To exploit this, we introduce a structural compression pipeline that is entirely training-free, bypassing the need of existing methods to load full-scale models to learn optimized token reductions or dynamic layer selectors. Instead, using only a single forward pass via Centered Kernel Alignment to identify redundant layer features, we remove twin layers to permanently compress the model depth by up to 50% across both the VLM backbone and the continuous control policy head. Downstream fine-tuning of this streamlined architecture yields a dual acceleration benefit: a 40-50% reduction in training time and up to 30% faster real-time inference, while matching or exceeding full-scale base model performance. We comprehensively validate our method across three simulation benchmarks (LIBERO, RoboCasa, SimplerEnv) and 10 diverse real-world manipulation tasks across 4 unique robotic embodiments. These results prove that advanced VLAs require significantly fewer layers than previously assumed, offering a highly compute-efficient paradigm for scalable robot learning.