Are Large Language Models Aligned with People's Social Intuitions for Human-Robot Interactions?
作者: Lennart Wachowiak, Andrew Coles, Oya Celiktutan, Gerard Canal
分类: cs.RO, cs.AI, cs.HC
发布日期: 2024-03-08 (更新: 2024-07-09)
备注: Accepted at IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 2024
DOI: 10.1109/IROS58592.2024.10801325
💡 一句话要点
探讨大型语言模型在机器人与人类互动中的社会直觉对齐问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 人机互动 社会直觉 行为判断 沟通偏好 GPT-4 用户研究 机器人技术
📋 核心要点
- 现有方法在机器人与人类互动中，缺乏对人类社会直觉的有效捕捉，导致生成的行为不符合人类的期望。
- 本研究通过重现用户研究，评估LLMs在行为判断和沟通偏好上的表现，特别是GPT-4的优越性。
- 实验结果显示，GPT-4在两项研究中与用户答案的相关性高达0.82和0.83，但在判断机器人与人类行为差异时未能取得良好结果。
📝 摘要（中文）
大型语言模型（LLMs）在机器人领域的应用日益增多，尤其是在高层次的行动规划中。许多机器人应用涉及人类监督或协作，因此LLMs生成符合社会接受度的行为至关重要。本研究测试了LLMs是否能够捕捉人们在机器人互动场景中的行为判断和沟通偏好的直觉。通过重现三项人机互动用户研究，我们发现GPT-4在生成与用户答案高度相关的回答方面表现优异，但在判断机器人与人类行为差异的研究中，模型表现不佳。此外，视觉模型未能有效捕捉视频刺激的本质，LLMs对不同沟通行为和行为可取性的评分普遍高于人类。
🔬 方法详解
问题定义：本论文旨在解决大型语言模型在机器人与人类互动中是否能够有效捕捉人类的社会直觉和沟通偏好的问题。现有方法在这方面的表现不足，无法生成符合人类期望的行为。
核心思路：论文的核心思路是通过重现三项人机互动用户研究，比较LLMs的输出与真实参与者的回答，从而评估其对人类直觉的对齐程度。选择GPT-4作为主要模型进行深入分析。
技术框架：整体架构包括三个主要阶段：首先，设计人机互动场景并收集用户反馈；其次，使用LLMs生成相应的行为和沟通策略；最后，比较模型输出与用户反馈的相关性。
关键创新：最重要的技术创新在于通过系统的用户研究验证LLMs在社会行为生成中的有效性，尤其是GPT-4在特定场景下的优越表现，与传统方法相比，提供了更高的相关性。
关键设计：在实验中，设置了多种沟通行为和行为可取性评分标准，采用Spearman相关系数作为评估指标，以确保结果的可靠性和有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，GPT-4在选择适当沟通行为的研究中与用户答案的相关性达到0.82，在判断行为可取性方面相关性为0.83，明显优于其他模型。然而，在判断机器人与人类行为差异的研究中，所有模型的表现均不理想，未能达到预期的相关性。
🎯 应用场景
该研究的潜在应用领域包括人机协作、社交机器人和智能助手等，能够帮助设计更符合人类社会直觉的机器人行为，提高人机互动的自然性和有效性。未来，这一研究成果可能推动机器人在日常生活中的广泛应用，提升人类与机器的协作效率。
📄 摘要（原文）
Large language models (LLMs) are increasingly used in robotics, especially for high-level action planning. Meanwhile, many robotics applications involve human supervisors or collaborators. Hence, it is crucial for LLMs to generate socially acceptable actions that align with people's preferences and values. In this work, we test whether LLMs capture people's intuitions about behavior judgments and communication preferences in human-robot interaction (HRI) scenarios. For evaluation, we reproduce three HRI user studies, comparing the output of LLMs with that of real participants. We find that GPT-4 strongly outperforms other models, generating answers that correlate strongly with users' answers in two studies $\unicode{x2014}$ the first study dealing with selecting the most appropriate communicative act for a robot in various situations ($r_s$ = 0.82), and the second with judging the desirability, intentionality, and surprisingness of behavior ($r_s$ = 0.83). However, for the last study, testing whether people judge the behavior of robots and humans differently, no model achieves strong correlations. Moreover, we show that vision models fail to capture the essence of video stimuli and that LLMs tend to rate different communicative acts and behavior desirability higher than people.