One Future, Every Robot: Label-Efficient Collective-State Prediction with Decentralized JEPA

📄 arXiv: 2607.28443v1 📥 PDF

作者: Alan-Barsag Gazzaev, Alexey Garvilov, Sergey Muravyov

分类: cs.RO

发布日期: 2026-07-30

备注: Submitted to IEEE ICRA 2027

💡 一句话要点

提出CS-JEPA以解决机器人群体的集体状态预测问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 集体状态预测 去中心化 机器人群体 递归联合嵌入 高效预测

📋 核心要点

  1. 现有方法在机器人群体中面临的挑战是如何在带宽受限的情况下进行集体状态预测，且缺乏有效的全局信息共享。
  2. 本文提出的CS-JEPA通过递归联合嵌入架构，使每个机器人能够基于局部信息预测共同的未来状态，避免了全局信息的依赖。
  3. 实验结果显示，CS-JEPA在预测误差和机器人间一致性方面显著优于传统方法，尤其在不同规模的机器人群体中表现出色。

📝 摘要（中文）

本文探讨了在带宽受限的情况下，如何使每个机器人仅通过局部观察预测相同的未来集体状态。我们提出了集体状态JEPA（CS-JEPA），这是一种递归联合嵌入预测架构，能够在每个机器人中生成一个共同的未来标记场。通过使用16帧的局部历史和每个有向边的64浮点递归消息，CS-JEPA在没有全局池化、目标编码器或记录未来动作的情况下进行预训练。实验结果表明，CS-JEPA在多个指标上优于传统方法，支持其作为一种高效的去中心化群体预测原语。

🔬 方法详解

问题定义：本文旨在解决机器人群体在带宽受限的情况下，如何通过局部观察进行集体状态预测的问题。现有方法往往依赖全局信息，导致在实际应用中受限。

核心思路：CS-JEPA的核心思想是通过递归联合嵌入架构，使每个机器人能够独立预测一个共同的未来状态，避免了对全局信息的依赖，从而提高了预测的效率和准确性。

技术框架：CS-JEPA的整体架构包括局部历史信息的输入、递归消息的传递和未来状态的预测输出。每个机器人使用16帧的局部历史和64浮点的递归消息进行信息处理。

关键创新：CS-JEPA的主要创新在于其去中心化的设计，使得每个机器人能够在没有全局池化和目标编码器的情况下进行有效的集体状态预测。这与传统方法的集中式信息处理形成了鲜明对比。

关键设计：在参数设置上，CS-JEPA使用了16帧的局部历史和64浮点的递归消息，且在预训练阶段不依赖于下游集体标签。损失函数和网络结构经过精心设计，以确保在不同规模的机器人群体中都能有效工作。

🖼️ 关键图片

fig_0
img_1
img_2

📊 实验亮点

实验结果表明，CS-JEPA在多个指标上均优于传统方法，预测误差降低了45.5%，并且在机器人间一致性方面的AUC值显著提升，尤其在未见规模的情况下，表现出色，支持其作为高效的去中心化预测工具。

🎯 应用场景

该研究的潜在应用领域包括无人机编队、自动驾驶车辆的协同控制以及智能制造等场景。通过提高机器人群体的集体状态预测能力，能够显著提升其在复杂环境中的协作效率和决策能力，具有重要的实际价值和未来影响。

📄 摘要（原文）

Can every robot in a swarm predict the same future collective state from only local observations and bandwidth-limited messages? We formulate this as decentralized shared-state prediction and introduce Collective-State JEPA (CS-JEPA), a recurrent joint-embedding predictive architecture whose output at every robot represents one common future token field. At deployment, each robot uses a 16-frame local history and one 64-float recurrent message per directed edge; there is no global pooling, target encoder, episode clock, or recorded future action. After pretraining without downstream collective labels, frozen representations are evaluated with ridge probes fitted on 6, 12, or 24 globally labeled episodes. Against raw-future reconstruction with the same receiver anchor and deployment capacity but 9,607 additional training-only parameters, a prospectively registered five-seed follow-up improves prediction-error and inter-robot-agreement label-budget AUC on in-distribution, ring, mutual-kNN, and unseen-size families up to 108 robots. Every effect favors CS-JEPA in 5/5 outer seeds. In a separate sealed eight-seed follow-up, matched action-conditioned predictors receive each candidate four-step plan before producing receiver-local predictive representations. CS-JEPA reduces branch-value MSE by 45.5% and improves within-context candidate-score Pearson correlation by 0.1291, with both effects favorable in 8/8 seeds, including at unseen N=32. These results support common-future JEPA targets as a label-efficient primitive for decentralized swarm prediction under topology and size shift, with additional evidence of planning-relevant value estimation.