CoTinyVLA: Chain-of-Thought Distillation for a Sub-Billion-Parameter Vision-Language-Action Model
作者: Minhyeok Lee, Chiyoung Kim, Chanhoe Gu, Seongrok Kim, Sanghyuk Roy Choi, Donghwan Hwang, Donghun Ryu, Seokhyun Kim
分类: cs.AI, cs.CV
发布日期: 2026-07-28
备注: 22 pages, 2 figures, 20 tables. Code at https://github.com/BrainJellyPie/CoTinyVLA
🔗 代码/项目: GITHUB
💡 一句话要点
提出CoTinyVLA以解决大参数模型在机器人任务中的内存限制问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 长视频理解 蒸馏训练 多模态融合 机器人控制 嵌入式系统
📋 核心要点
- 现有的VLA模型在处理复杂机器人任务时，通常需要数十亿参数，导致内存需求超出嵌入式系统的承载能力。
- CoTinyVLA通过结构化监督和创新的输入方式，利用较少的参数实现了高效的任务执行能力，解决了内存限制问题。
- 在LIBERO-Plus基准测试中，CoTinyVLA在多个任务维度上均优于最强的7B基线，显示出显著的性能提升，尤其是在最困难的任务上。
📝 摘要（中文）
Vision-Language-Action (VLA)模型将自然语言指令转化为机器人动作序列，但现有系统在LIBERO-Plus基准测试中使用的三到七十亿参数的模型超出了嵌入式机器人的内存预算。本文提出了CoTinyVLA，一个基于Qwen3.5-0.8B的0.9B参数动作模型，通过结构化监督而非扩大模型来实现鲁棒性。其核心包括：每步16帧历史的双视角时间输入，层次化的思维链蒸馏，以及扩展40个基本指令到800个变体的同义词增强。在LIBERO-Plus基准测试中，CoTinyVLA在四个维度上超越了最强的7B基线，显示出在最具挑战性的任务上显著的性能提升。
🔬 方法详解
问题定义：本文旨在解决现有VLA模型在处理复杂任务时的内存需求过高的问题，尤其是在嵌入式机器人应用中，传统模型的参数量往往超出可用预算。
核心思路：CoTinyVLA的核心思路是通过结构化监督和创新的输入设计，减少模型参数，同时保持高效的任务执行能力。通过引入双视角时间输入和层次化的思维链蒸馏，提升模型的鲁棒性。
技术框架：CoTinyVLA的整体架构包括三个主要模块：双视角时间输入模块，层次化思维链蒸馏模块，以及同义词增强模块。每个模块针对不同的任务挑战进行优化，确保模型在低参数下仍能高效执行复杂任务。
关键创新：最重要的技术创新在于通过层次化的思维链蒸馏，将大模型的知识有效转移到小模型中，同时利用双视角输入增强模型对时间和空间信息的理解。这种方法与传统的单一模型扩展方法本质上不同。
关键设计：在设计中，CoTinyVLA采用了16帧历史的双视角输入，结合文本标记来增强时间和空间的上下文理解。同时，蒸馏过程中采用了分层的计划和思维跨度设计，以便更好地捕捉任务的复杂性。
🖼️ 关键图片
📊 实验亮点
在LIBERO-Plus基准测试中，CoTinyVLA在空间、对象、目标和长任务四个维度上分别达到了90.8%、87.3%、86.6%和80.7%的准确率，超越最强7B基线4.7、2.8、15.9和3.0个百分点，尤其在最具挑战性的任务上表现突出，显示出其显著的性能提升。
🎯 应用场景
CoTinyVLA的研究成果在多个领域具有广泛的应用潜力，尤其是在机器人控制、自动化任务执行和人机交互等场景中。其低参数、高效能的特性使其适用于资源受限的嵌入式系统，为未来的智能机器人技术发展提供了新的思路和解决方案。
📄 摘要（原文）
Vision-Language-Action (VLA) models translate natural-language commands into robot action sequences, but leading systems on the LIBERO-Plus robustness benchmark use three- to seven-billion-parameter backbones whose memory demands can exceed embedded robotic budgets. We present CoTinyVLA, a 0.9B-parameter action model on a Qwen3.5-0.8B backbone that obtains that robustness by structuring supervision instead of enlarging the model. Three components target different axes of the problem: dual-view temporal input of 16 history frames per step with textual camera and time markers; hierarchical chain-of-thought (CoT) distillation from a 35B teacher into an episode-level Plan and a chunk-level Think span over task phase, gripper state and next subaction; and paraphrase augmentation expanding 40 base commands into 800 variants. On LIBERO-Plus, spanning 10,030 perturbed tasks across seven perturbation dimensions, CoTinyVLA reaches 90.8% on Spatial, 87.3% on Object, 86.6% on Goal and 80.7% on Long, leading the strongest 7B baseline on all four suites by 4.7, 2.8, 15.9 and 3.0 points, with every margin interval excluding zero. The gains concentrate on the hardest axes of the benchmark: across the eleven published baselines none exceeds 53.2% on Robot Initial States in any suite, whereas CoTinyVLA reaches 73.6% on Goal against 39.9% for the strongest baseline. Ablations show the three components to be separable by perturbation axis, and at a matched image budget how frames are divided between the two cameras and across time accounts for 8.6 points on its own. Closed-loop inference peaks at 2.25 GiB of allocated GPU memory, and paired interventions show the episode Plan to be load-bearing: replacing it with an empty or contradictory span costs 40 to 45 points of success. Structured supervision thus lets a 0.9B backbone exceed all of them. Code: https://github.com/BrainJellyPie/CoTinyVLA