Output-Level Regularization Eliminates the Seed Lottery in Single-GPU VLA Fine-Tuning

📄 arXiv: 2606.13856v1 📥 PDF

作者: Jeffrin Sam, Dzmitry Tsetserukou

分类: cs.RO

发布日期: 2026-06-11

备注: 10 pages, 8 figures, submitted to CoRL 2026

💡 一句话要点

提出输出级正则化以消除单GPU VLA微调中的种子彩票问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 视觉-语言-动作 微调 输出级正则化 模型稳定性 随机种子 机器人控制 深度学习

📋 核心要点

  1. 核心问题：现有微调方法在不同随机种子下表现不一致，导致模型性能波动，称为种子彩票。
  2. 方法要点：提出三种输出级正则化方法，针对输出崩溃问题进行调整，以提高模型的稳定性。
  3. 实验或效果：实验结果显示，输出级正则化方法消除了所有灾难性种子，显著优于传统权重级方法。

📝 摘要（中文）

在单GPU上微调视觉-语言-动作模型（VLA-JEPA）看似简单，但存在隐患。相同的微调代码在不同随机种子下运行多次，结果却可能出现显著差异，称为种子彩票。研究发现，输出崩溃是导致这一现象的原因，现有的权重级方法无法有效应对。本文提出三种输出级正则化方法，成功消除了所有灾难性种子，显著提高了模型的稳定性和可靠性。

🔬 方法详解

问题定义：本文解决的是在单GPU上微调视觉-语言-动作模型时，因随机种子不同导致的模型性能不稳定问题。现有的权重级正则化方法（如L2、EWC）无法有效应对输出崩溃现象，导致模型在不同运行中表现差异显著。

核心思路：论文提出通过输出级正则化来应对输出崩溃，确保模型在不同随机种子下能够稳定输出。通过对输出的直接约束，避免模型在训练过程中学习到相似的输出，从而提高模型的泛化能力。

技术框架：整体架构包括三个主要模块：1) 预训练模型加载；2) 输出级正则化方法应用（如VICReg、Dropout、减半学习率）；3) 模型训练与评估。每个模块都针对输出崩溃进行优化，确保模型在不同种子下表现一致。

关键创新：最重要的技术创新在于提出了输出级正则化方法，这与现有的权重级方法本质上不同。输出级正则化直接针对模型输出进行约束，而不是仅仅关注权重的变化，从而有效避免了输出崩溃现象。

关键设计：在参数设置上，采用了不同的正则化策略，如VICReg（12个种子）、Dropout（4个种子）和减半学习率（5个种子），这些设计确保了模型在训练过程中能够保持输出的多样性和稳定性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，采用输出级正则化方法后，所有灾难性种子均被消除，表现为0/21的崩溃率，相较于基线方法的1/13，显著提高了模型的稳定性（F(12,11)=28.7, p<0.001）。

🎯 应用场景

该研究的潜在应用领域包括机器人控制、自动驾驶和智能助手等需要高可靠性的视觉-语言-动作模型的场景。通过提高模型在不同随机种子下的稳定性，可以大幅提升实际应用中的性能和用户体验，具有重要的实际价值和未来影响。

📄 摘要（原文）

Fine-tuning a vision-language-action model (VLA-JEPA) on a single GPU should be simple: load a pretrained checkpoint, run training, deploy. There is a hidden danger. Run the same fine-tuning code thirteen times -- same data, same architecture, different random seed -- and twelve runs produce a robot succeeding 91--94% of the time, while one run silently degrades to 65.2%: a 29 pp gap with no error message, no warning, and no way to predict which seed will fail. We call this the seed lottery. We trace the cause to output collapse: the action predictor quietly learns to produce nearly identical outputs regardless of what the robot sees. Existing weight-level methods (L2, EWC) are structurally blind to this collapse -- they penalize weight changes, but collapse occurs in directions weights can move freely without affecting outputs, a gap we formalize via the Jacobian null-space. Across 7 methods x up to 13 seeds x 3 LIBERO benchmarks, three output-level regularizers -- VICReg (n=12 seeds), Dropout (n=4), and a halved learning rate (n=5) -- each eliminate every catastrophic seed (0/21 combined collapses vs. 1/13 Baseline; F(12,11)=28.7, p<0.001), while weight-level methods (L2, EWC) preserve the lottery. The simplest fix is changing one number in your optimizer config.