PredVLA: A Sub-Million-Parameter Predictive-Coding Policy for Robot Manipulation

📄 arXiv: 2608.26673v1 📥 PDF

作者: Hiroki Sawada, Shunichi Kasahara

分类: cs.RO

发布日期: 2026-08-27

💡 一句话要点

提出PredVLA以解决小参数预算下的机器人操控问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 机器人操控 预测编码 小参数模型 语言条件控制 自主学习

📋 核心要点

  1. 现有的大型预训练模型在机器人操控中表现优异，但其对模型规模的依赖性尚不明确。
  2. PredVLA通过预测编码策略，采用较小的参数量实现语言条件的机器人操控，且不依赖于预训练数据。
  3. 在LIBERO基准上，PredVLA的表现显著优于同参数量的Transformer和LSTM策略，展示了其有效性。

📝 摘要（中文）

大型预训练的视觉-语言-动作模型在现代机器人操控基准中占据主导地位，但对于强语言条件控制所需的模型规模仍不明确。本文提出PredVLA，这是一种仅包含68万可训练参数的语言条件预测编码策略，且无需机器人数据预训练。PredVLA通过层次生成递归动态预测视觉特征和本体感知，观察仅通过在线推理影响潜在状态。实验结果显示，PredVLA在LIBERO基准上实现了86.9%的平均成功率，并在对比实验中显著超越了参数匹配的Transformer和LSTM策略。

🔬 方法详解

问题定义：本文旨在解决在机器人操控中对大型预训练模型的依赖性，探索小参数预算下的有效控制策略。现有方法通常需要大量参数和预训练数据，限制了其应用范围。

核心思路：PredVLA采用语言条件的预测编码策略，通过层次生成递归动态来预测视觉特征和本体感知，观察仅通过预测误差影响潜在状态，从而实现高效的控制。

技术框架：PredVLA的整体架构包括层次生成模型和递归动态模块，前者负责生成潜在状态，后者通过预测误差进行状态更新。该框架允许模型在没有预训练的情况下进行有效学习。

关键创新：PredVLA的主要创新在于其小于百万参数的设计，能够在不依赖于大量数据的情况下实现强大的操控性能。这一设计与传统大型模型形成鲜明对比，展示了小模型的潜力。

关键设计：在网络结构上，PredVLA使用了递归神经网络（RNN）来处理时间序列数据，并通过预测误差来进行状态修正。损失函数设计上，强调了观察驱动的修正，使得模型能够在动态环境中进行实时调整。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在LIBERO基准上，PredVLA实现了86.9%的平均成功率，并在对比实验中，分别达到参数匹配的Transformer和LSTM策略的3.7倍和7.4倍的成功率，展示了其卓越的性能和有效性。

🎯 应用场景

该研究的潜在应用领域包括自主机器人、智能家居和工业自动化等。通过提供一种高效的控制策略，PredVLA能够在资源受限的环境中实现复杂的操控任务，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Large pretrained vision-language-action models dominate modern robot-manipulation benchmarks, but it remains unclear how much model scale is necessary for strong language-conditioned control, or whether fundamentally different control architectures can remain competitive at much smaller parameter budgets. We present PredVLA, a language-conditioned predictive-coding policy with only 0.68 million trainable network parameters and no robot-data pretraining, whose hierarchical generative recurrent dynamics predict visual features and proprioception while observations influence latent state only through online inference from the resulting sensory prediction errors. On LIBERO, PredVLA achieves an 86.9% mean success rate across the three short-horizon suites and 75.4% when the long-horizon suite is included. Under a controlled comparison using the same frozen front end, demonstrations, action decoder, and evaluation protocol, PredVLA achieves 3.7x and 7.4x mean success rates of parameter-matched Transformer and LSTM policies, respectively. The predictive-coding formulation also makes the contribution of observation-driven correction directly measurable: because observations influence the recurrent state only through prediction-error-based latent inference, disabling this inference yields an exact open-loop control condition. Together, these results show that a sub-million-parameter recurrent generative policy can achieve strong performance on modern language-conditioned manipulation benchmarks while providing an explicit mechanism for prediction-error-driven online state correction.