KlaskTron: An Open-Source Platform for Physical Adversarial Multi-Agent RL

📄 arXiv: 2611.03138v1 📥 PDF

作者: Aswin Ramachandran, Jona Schulz, Maurus Derungs, Carlo Angelini, Tobias Meier, Raffaello D'Andrea

分类: cs.RO, cs.AR, cs.MA

发布日期: 2026-11-02

期刊: Proceedings of Robotics: Science and Systems (RSS), Sydney, Australia, July 2026

🔗 代码/项目: GITHUB | GITHUB | PROJECT_PAGE


💡 一句话要点

提出KlaskTron平台以解决物理对抗多智能体强化学习的基准缺乏问题

🎯 匹配领域: 支柱一:机器人控制 (Robot Control) 支柱二:RL算法与架构 (RL & Architecture)

关键词: 物理多智能体学习 对抗性强化学习 开源平台 机器人学习 零-shot迁移

📋 核心要点

  1. 现有的物理多智能体强化学习平台通常成本高昂,缺乏开放的可重复性设计,限制了研究的进展。
  2. KlaskTron平台通过提供低成本的硬件设计和完整的生态系统,解决了物理对抗MARL的基准缺乏问题。
  3. 实验结果显示,KlaskTron能够实现零-shot策略迁移,训练的智能体展现出复杂的对抗性行为,验证了平台的有效性。

📝 摘要(中文)

在机器人学习领域,尤其是物理多智能体强化学习(MARL),面临着可访问和标准化基准的不足。尽管基于模拟的MARL取得了显著的进展,但将这些成果转化为物理系统仍然困难。KlaskTron是一个开源、低成本的桌面级机器人测试平台,专为对抗性MARL设计,基于动态桌面游戏KLASK。该平台配备了高扭矩无刷电机的双CoreXY龙门架,能够实现高速度和精确的操作。我们提供了完整的生态系统,包括硬件设计、GPU原生数字双胞胎模型和经过验证的模拟到现实的基线。实验表明,该基线支持零-shot策略迁移,训练的智能体展现出对抗性行为。所有项目资产均已公开发布,以确保结果的可重复性。

🔬 方法详解

问题定义:当前物理多智能体强化学习(MARL)面临的主要问题是缺乏可访问和标准化的基准,现有平台通常成本高且难以复现。

核心思路:KlaskTron平台旨在提供一个低成本的开源测试环境,支持对抗性MARL的研究,促进物理系统中智能体行为的研究与验证。

技术框架:KlaskTron的整体架构包括硬件设计(如CAD和BOM)、GPU原生数字双胞胎模型以及经过验证的模拟到现实的基线。主要模块包括硬件平台、模拟环境和学习模型。

关键创新:KlaskTron的创新在于其低成本的硬件设计和完整的生态系统,支持高精度的操作和零-shot策略迁移,与现有高成本平台形成鲜明对比。

关键设计:该平台采用双CoreXY龙门架设计,配备高扭矩无刷电机,确保高速度和精确度。此外,提供的数字双胞胎模型用于高保真模拟,支持智能体的行为学习。实验中使用的损失函数和网络结构经过优化,以适应对抗性环境的需求。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,KlaskTron平台支持零-shot策略迁移,训练的智能体在对抗性环境中展现出复杂的行为,验证了平台的有效性。与传统高成本平台相比,KlaskTron在成本和可重复性方面具有显著优势,推动了物理MARL的研究进展。

🎯 应用场景

KlaskTron平台的潜在应用领域包括机器人对抗性学习、智能体协作与竞争研究,以及教育和研究机构的实验室设置。其低成本和开源特性使得更多研究者能够参与到物理MARL的探索中,推动相关技术的发展和应用。

📄 摘要(原文)

Progress in robot learning, particularly physical multi-agent reinforcement learning (MARL), is currently challenged by a limited availability of accessible, standardized benchmarks. While simulation-based MARL has produced remarkable emergent behaviors, from coordinated team play to complex tool use, translating these advances to physical systems remains difficult. A key barrier is infrastructural: physical platforms are often prohibitively expensive, require specialized facilities, or lack open mechanisms and designs for reproducibility. We introduce KlaskTron, an open-source, low-cost (<\$2500 USD), desktop-scale robotic testbed for adversarial MARL based on the dynamic tabletop game KLASK. The platform features dual CoreXY gantries with high-torque brushless motors, enabling the high-speed, precise manipulation required for competitive play. Crucially, we provide a complete ecosystem: hardware designs (CAD, BOM), a GPU-native digital twin in NVIDIA Isaac Lab for high-fidelity modeling and simulation, and a validated sim-to-real baseline using a learned neural actuator model. We demonstrate that this baseline enables zero-shot policy transfer, with trained agents exhibiting emergent adversarial behaviors. To ensure full reproducibility of our results, all project assets are released publicly: hardware CAD/BOM and assembly documentation at [https://idscethzurich.github.io/klask_hardware], inference software stack at [https://github.com/IDSCETHZurich/klask_software] and the simulation and MARL setup at [https://github.com/IDSCETHZurich/klask_rl].