Learning to Use Tools via Cooperative and Interactive Agents
作者: Zhengliang Shi, Shen Gao, Xiuyi Chen, Yue Feng, Lingyong Yan, Haibo Shi, Dawei Yin, Pengjie Ren, Suzan Verberne, Zhaochun Ren
分类: cs.CL
发布日期: 2024-03-05 (更新: 2024-06-22)
备注: working in process
💡 一句话要点
提出ConAgents框架以解决工具学习中的灵活性与适应性问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 工具学习 大型语言模型 合作代理 动作校准 蒸馏训练 智能助手 自动化工具
📋 核心要点
- 现有工具学习方法在处理实际任务时，因预定义管道和适应性不足而导致性能下降。
- 本文提出ConAgents框架，通过协调三个专门代理分别进行工具选择、执行和动作校准，提升灵活性与适应性。
- 实验结果显示，使用ConAgents的LLMs在三个数据集上成功率提高了14%，显著优于基线方法。
📝 摘要（中文）
工具学习使大型语言模型（LLMs）能够使用外部工具并扩展其功能。现有方法依赖单一的LLM代理迭代选择和执行工具，导致在实际任务中性能下降，主要原因在于预定义的管道缺乏灵活性和适应性。为了解决这些问题，本文提出了ConAgents框架，通过协调三个专门代理分别进行工具选择、执行和动作校准，并引入两种通信协议以实现灵活合作。此外，本文还提出了专门的动作蒸馏方法，以增强代理在框架中的专业化能力。实验结果表明，配备ConAgents的LLMs在三个数据集上显著超越基线，成功率提高了14%。
🔬 方法详解
问题定义：本文旨在解决现有工具学习方法在实际任务中因预定义管道和适应性不足而导致的性能下降问题。现有方法通常依赖单一的LLM代理，缺乏灵活的错误校准机制。
核心思路：论文提出的ConAgents框架通过协调三个专门代理，分别负责工具选择、执行和动作校准，从而提高了系统的灵活性和适应性。这样的设计使得每个代理可以专注于其特定任务，减少了单一代理的负担。
技术框架：ConAgents框架包含三个主要模块：工具选择代理、工具执行代理和动作校准代理。工具选择代理负责根据当前任务选择合适的工具，工具执行代理负责实际执行选定的工具，而动作校准代理则根据执行结果调整后续动作。框架中还引入了两种通信协议，以促进代理之间的有效协作。
关键创新：最重要的创新在于引入了三个专门代理的协作机制和灵活的通信协议，这与现有方法的单一代理设计形成了鲜明对比，显著提升了工具学习的灵活性和适应性。
关键设计：在设计中，采用了专门的动作蒸馏方法，以增强代理在执行专业化动作时的能力。此外，通信协议的设计确保了代理之间的信息传递高效且准确，从而提高了整体系统的性能。
🖼️ 关键图片
📊 实验亮点
实验结果表明，配备ConAgents的LLMs在三个数据集上的成功率提高了14%，显著优于基线方法。这一提升展示了ConAgents框架在工具学习中的有效性，验证了其在实际应用中的潜力。
🎯 应用场景
该研究的潜在应用领域包括智能助手、自动化工具和机器人系统等。通过提升大型语言模型在工具使用上的灵活性和适应性，ConAgents框架能够在更复杂的实际场景中发挥作用，推动智能系统的广泛应用与发展。未来，该框架有望在多种任务中实现更高的成功率和效率。
📄 摘要（原文）
Tool learning empowers large language models (LLMs) as agents to use external tools and extend their utility. Existing methods employ one single LLM-based agent to iteratively select and execute tools, thereafter incorporating execution results into the next action prediction. Despite their progress, these methods suffer from performance degradation when addressing practical tasks due to: (1) the pre-defined pipeline with restricted flexibility to calibrate incorrect actions, and (2) the struggle to adapt a general LLM-based agent to perform a variety of specialized actions. To mitigate these problems, we propose ConAgents, a Cooperative and interactive Agents framework, which coordinates three specialized agents for tool selection, tool execution, and action calibration separately. ConAgents introduces two communication protocols to enable the flexible cooperation of agents. To effectively generalize the ConAgents into open-source models, we also propose specialized action distillation, enhancing their ability to perform specialized actions in our framework. Our extensive experiments on three datasets show that the LLMs, when equipped with the ConAgents, outperform baselines with substantial improvement (i.e., up to 14% higher success rate).