Transferring human emotions to robot motions using Neural Policy Style Transfer

📄 arXiv: 2402.00663v1 📥 PDF

作者: Raul Fernandez-Fernandez, Bartek Łukawski, Juan G. Victores, Claudio Pacchierotti

分类: cs.RO

发布日期: 2024-02-01

期刊: Cognitive Systems Research, Volume 82, December 2023

DOI: 10.1016/j.cogsys.2023.05.010

💡 一句话要点

提出神经策略风格迁移以解决机器人运动风格转移问题

🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱二：RL算法与架构 (RL & Architecture) 支柱七：动作重定向 (Motion Retargeting) 支柱八：物理动画 (Physics-based Animation)

关键词: 神经风格迁移 机器人运动 情感表达 深度学习 控制策略 自编码器 人机交互

📋 核心要点

  1. 现有方法缺乏针对机器人运动的预训练分类架构，限制了风格转移的有效性。
  2. 提出的NPST3框架通过自编码器提取特征，结合TD3网络实现人类运动风格的迁移。
  3. 在两种机器人平台上进行的实验表明，受试者能够识别出机器人运动中的人类风格，验证了方法的有效性。

📝 摘要（中文）

神经风格迁移（NST）最初是利用神经网络的特征提取能力进行图像风格转移的方法。本文提出神经策略风格迁移TD3（NPST3），用于将人类运动风格转移至机器人运动。该框架允许机器人以不同的人类中心运动风格执行相同的动作，如愤怒、快乐、平静或悲伤。通过引入双延迟深度确定性策略梯度（TD3）网络生成控制策略，并使用自编码器进行特征提取。该方法在两种机器人平台上进行了测试，评估了人类对机器人运动风格的识别能力。

🔬 方法详解

问题定义：本文旨在解决如何将人类运动风格有效转移至机器人运动的问题。现有方法缺乏针对机器人运动的预训练分类架构，导致风格转移的效果不理想。

核心思路：论文提出的NPST3框架利用自编码器进行特征提取，并结合TD3网络生成控制策略，从而实现人类运动风格的迁移。该设计使得机器人能够在执行相同动作时表现出不同的人类情感风格。

技术框架：整体架构包括特征提取模块（自编码器）、控制策略生成模块（TD3网络）以及风格转移模块。风格转移可以在离线和在线两种模式下进行，适应不同的应用场景。

关键创新：最重要的技术创新在于引入了TD3网络用于控制策略生成，并通过自编码器实现特征提取，这在机器人领域尚属首次。与传统方法相比，NPST3能够更灵活地适应多种人类运动风格。

关键设计：在设计中，使用了特定的损失函数来优化风格转移效果，并对自编码器和TD3网络的结构进行了精心调整，以确保高效的特征提取和控制策略生成。

📊 实验亮点

实验结果显示，受试者在147个问卷中能够准确识别出机器人运动中的人类风格，验证了NPST3框架的有效性和实用性。该方法在不同机器人平台上的应用表现出良好的适应性，提升了机器人运动的情感表达能力。

🎯 应用场景

该研究的潜在应用领域包括社交机器人、远程操控机器人以及人机交互系统。通过实现机器人运动风格的多样化，该技术能够提升机器人在社交场合的表现，使其更好地与人类进行互动，具有重要的实际价值和未来影响。

📄 摘要（原文）

Neural Style Transfer (NST) was originally proposed to use feature extraction capabilities of Neural Networks as a way to perform Style Transfer with images. Pre-trained image classification architectures were selected for feature extraction, leading to new images showing the same content as the original but with a different style. In robotics, Style Transfer can be employed to transfer human motion styles to robot motions. The challenge lies in the lack of pre-trained classification architectures for robot motions that could be used for feature extraction. Neural Policy Style Transfer TD3 (NPST3) is proposed for the transfer of human motion styles to robot motions. This framework allows the same robot motion to be executed in different human-centered motion styles, such as in an angry, happy, calm, or sad fashion. The Twin Delayed Deep Deterministic Policy Gradient (TD3) network is introduced for the generation of control policies. An autoencoder network is in charge of feature extraction for the Style Transfer step. The Style Transfer step can be performed both offline and online: offline for the autonomous executions of human-style robot motions, and online for adapting at runtime the style of e.g., a teleoperated robot. The framework is tested using two different robotic platforms: a robotic manipulator designed for telemanipulation tasks, and a humanoid robot designed for social interaction. The proposed approach was evaluated for both platforms, performing a total of 147 questionnaires asking human subjects to recognize the human motion style transferred to the robot motion for a predefined set of actions.