RE-GAINS & EnChAnT: Intelligent Tool Manipulation Systems For Enhanced Query Responses
作者: Sahil Girhepuje, Siva Sankar Sajeev, Purvam Jain, Arya Sikder, Adithya Rama Varma, Ryan George, Akshay Govind Srinivasan, Mahendra Kurup, Ashmit Sinha, Sudip Mondal
分类: cs.CL
发布日期: 2024-01-28 (更新: 2024-06-20)
💡 一句话要点
提出RE-GAINS与EnChAnT以解决LLM工具调用与链式处理问题
🎯 匹配领域: 支柱一：机器人控制 (Robot Control) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 工具调用 链式处理 API调用 智能助手 推理规划
📋 核心要点
- 现有的大型语言模型在工具调用和链式处理时常常出现幻觉或遗漏步骤，影响了复杂查询的响应能力。
- 论文提出的RE-GAINS和EnChAnT框架通过API调用外部工具，基于工具描述和参数列表来增强LLMs的查询处理能力。
- 这两个框架的实验结果表明，LLMs在工具调用和链式处理方面的性能显著提升，且成本低廉，适合广泛应用。
📝 摘要（中文）
大型语言模型（LLMs）在工具调用和链式处理方面存在困难，常常出现幻觉或遗漏关键步骤。本文提出了RE-GAINS和EnChAnT两个新框架，使LLMs能够通过根据工具描述和参数列表进行API调用来处理复杂用户查询。工具的链式调用基于预期输出，而不需要接收每个单独调用的实际结果。EnChAnT是一个开源解决方案，利用了LLM格式强制器OpenChat 3.5和ToolBench的API检索器。RE-GAINS则利用OpenAI模型和嵌入，基于推理规划（RAP）框架的专用提示。这两个框架的成本低廉（每个查询0.01美元）。我们的主要贡献在于使LLMs能够使用可修改的、外部描述的工具进行调用和链式处理。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在工具调用和链式处理中的不足，尤其是幻觉和步骤遗漏的问题。现有方法在处理复杂查询时表现不佳，限制了其应用场景。
核心思路：RE-GAINS和EnChAnT框架通过API调用外部工具，利用工具描述和参数列表来实现工具的链式调用，避免了对每个调用结果的依赖，从而提高了查询的准确性和效率。
技术框架：整体架构包括两个主要模块：工具描述解析和API调用管理。工具描述解析模块负责理解用户查询中的工具需求，而API调用管理模块则负责根据解析结果进行工具的调用和链式处理。
关键创新：最重要的创新在于通过可修改的工具描述和参数列表实现了工具的动态调用和链式处理，这与传统方法依赖固定工具调用的方式有本质区别。
关键设计：在RE-GAINS中，使用了OpenAI模型和嵌入，结合推理规划（RAP）框架的专用提示；而EnChAnT则利用了OpenChat 3.5和ToolBench的API检索器，确保了框架的灵活性和可扩展性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，RE-GAINS和EnChAnT框架在工具调用和链式处理方面的性能显著提升，成本仅为每个查询0.01美元，相较于传统方法具有更高的性价比，展示了良好的应用前景。
🎯 应用场景
该研究的潜在应用领域包括智能助手、自动化客服和复杂数据查询等场景。通过增强LLMs的工具调用能力，可以显著提升用户交互体验和查询响应的准确性，未来可能在各类智能应用中发挥重要作用。
📄 摘要（原文）
Large Language Models (LLMs) currently struggle with tool invocation and chaining, as they often hallucinate or miss essential steps in a sequence. We propose RE-GAINS and EnChAnT, two novel frameworks that empower LLMs to tackle complex user queries by making API calls to external tools based on tool descriptions and argument lists. Tools are chained based on the expected output, without receiving the actual results from each individual call. EnChAnT, an open-source solution, leverages an LLM format enforcer, OpenChat 3.5 (an LLM), and ToolBench's API Retriever. RE-GAINS utilizes OpenAI models and embeddings with a specialized prompt based on the $\underline{R}$easoning vi$\underline{a}$ $\underline{P}$lanning $(RAP)$ framework. Both frameworks are low cost (0.01\$ per query). Our key contribution is enabling LLMs for tool invocation and chaining using modifiable, externally described tools.