Efficient Human-AI Coordination via Preparatory Language-based Convention
作者: Cong Guan, Lichao Zhang, Chunpeng Fan, Yichen Li, Feng Chen, Lihe Li, Yunjia Tian, Lei Yuan, Yang Yu
分类: cs.LG, cs.CL
发布日期: 2023-11-01
💡 一句话要点
提出基于语言的约定以提高人机协调效率
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 人机协调 大型语言模型 智能代理 任务规划 行为建模 反馈机制 性能提升
📋 核心要点
- 现有的人机协调方法面临人类行为多样性和高质量数据获取困难的挑战。
- 本研究提出利用大型语言模型生成协调约定，以明确人类和AI的角色与责任。
- 实验结果表明，该方法在Overcooked-AI环境中与真实人类协调时性能提升15%。
📝 摘要（中文）
开发能够与人类无缝协调的智能代理是实现人工通用智能的重要一步。现有的人机协调方法通常训练代理与多种策略或基于真实人类数据拟合的人类模型进行协调。然而，人类行为的多样性对能力有限的AI系统构成了障碍，而高质量的人类数据在现实场景中可能并不容易获得。本研究观察到，在协调之前，人类通过沟通建立约定，明确各自的角色和行动，从而使协调过程有序进行。基于这一观察，我们提出利用大型语言模型（LLM）开发有效指导人类和AI的行动计划（或约定）。通过输入任务要求、人类偏好、代理数量等信息，LLM可以生成全面的约定，促进各方对任务和责任的清晰理解。我们还展示了将约定制定问题分解为多个子问题，并通过多次新会话和人类反馈进行处理，可以更高效地形成协调约定。在Overcooked-AI环境中进行的实验评估显示，我们的方法在与真实人类协调时，与人类偏好的对齐更好，性能平均提升15%。
🔬 方法详解
问题定义：本论文旨在解决人机协调中的效率问题，现有方法在处理多样化人类行为和缺乏高质量数据时存在局限性。
核心思路：通过利用大型语言模型（LLM）生成明确的协调约定，帮助人类和AI在任务中建立清晰的角色和责任，从而提高协调效率。
技术框架：整体流程包括输入任务要求和人类偏好到LLM，生成协调约定，然后通过分解问题和人类反馈进行优化，形成高效的协调机制。
关键创新：本研究的主要创新在于将协调约定的制定过程分解为多个子问题，并通过多次会话和人类反馈进行迭代优化，这一方法与传统的单一模型训练方法本质上不同。
关键设计：在技术细节上，设置了适当的输入参数，包括任务要求、代理数量等，采用了适合的损失函数以优化生成的约定质量，并设计了多轮反馈机制以提升人机协调的适应性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，提出的方法在Overcooked-AI环境中与现有学习方法相比，性能提升达15%。在与真实人类的协调中，该方法在对齐人类偏好方面表现更佳，展示了其在实际应用中的有效性和优势。
🎯 应用场景
该研究的潜在应用领域包括智能助手、机器人协作和人机交互系统等。通过提高人机协调的效率，可以在多个行业中实现更高效的工作流程，提升用户体验，推动人工智能的实际应用和发展。未来，该方法可能会影响智能系统的设计与实现，促进更自然的人机合作。
📄 摘要（原文）
Developing intelligent agents capable of seamless coordination with humans is a critical step towards achieving artificial general intelligence. Existing methods for human-AI coordination typically train an agent to coordinate with a diverse set of policies or with human models fitted from real human data. However, the massively diverse styles of human behavior present obstacles for AI systems with constrained capacity, while high quality human data may not be readily available in real-world scenarios. In this study, we observe that prior to coordination, humans engage in communication to establish conventions that specify individual roles and actions, making their coordination proceed in an orderly manner. Building upon this observation, we propose employing the large language model (LLM) to develop an action plan (or equivalently, a convention) that effectively guides both human and AI. By inputting task requirements, human preferences, the number of agents, and other pertinent information into the LLM, it can generate a comprehensive convention that facilitates a clear understanding of tasks and responsibilities for all parties involved. Furthermore, we demonstrate that decomposing the convention formulation problem into sub-problems with multiple new sessions being sequentially employed and human feedback, will yield a more efficient coordination convention. Experimental evaluations conducted in the Overcooked-AI environment, utilizing a human proxy model, highlight the superior performance of our proposed method compared to existing learning-based approaches. When coordinating with real humans, our method achieves better alignment with human preferences and an average performance improvement of 15% compared to the state-of-the-art.