On the Discussion of Large Language Models: Symmetry of Agents and Interplay with Prompts
作者: Qineng Wang, Zihao Wang, Ying Su, Yangqiu Song
分类: cs.CL
发布日期: 2023-11-13
备注: Working in progress, and code will be released soon
💡 一句话要点
提出多代理讨论机制以提升大语言模型推理能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 推理能力 多代理讨论 提示工程 对称性理论 智能对话系统 自然语言处理
📋 核心要点
- 现有方法在解锁大型语言模型推理能力方面存在局限，尤其是在提示工程和多代理讨论的结合上。
- 论文提出通过对称性理论支持的多代理讨论机制，结合精心设计的提示工程来提升模型推理能力。
- 实验证明，采用新提出的讨论机制和提示工程组合，模型性能显著提升，接近当前最先进水平。
📝 摘要（中文）
本文讨论了两种解锁大型语言模型推理能力的方法：提示工程和多代理讨论。理论上，论文从代理的对称性出发，论证了多代理讨论机制的有效性。实证结果表明，经过精心设计的提示工程可以接近复杂多代理机制的最先进性能。此外，论文提出了一种基于征服与合并的可扩展讨论机制，提供了一种简单的多代理讨论解决方案，结合简单提示实现了最先进的性能。
🔬 方法详解
问题定义：本文旨在解决大型语言模型推理能力的提升问题，现有方法在提示设计和多代理讨论的结合上存在不足，导致性能未能充分发挥。
核心思路：论文的核心思路是通过对称性理论来支持多代理讨论机制，结合提示工程，形成一种新的推理能力提升方案。这种设计旨在通过多代理的协作来增强模型的推理能力。
技术框架：整体架构包括两个主要模块：一是提示工程模块，负责设计和优化输入提示；二是多代理讨论模块，通过代理间的互动来生成更丰富的推理结果。
关键创新：最重要的技术创新点在于提出了一种基于征服与合并的可扩展讨论机制，简化了多代理讨论的实现，同时保持了高性能。这与现有方法的复杂性形成鲜明对比。
关键设计：在设计中，参数设置上强调了提示的简洁性和有效性，损失函数采用了适应性调整策略，以优化多代理间的讨论效果，网络结构则采用了模块化设计，便于扩展和调整。
🖼️ 关键图片
📊 实验亮点
实验结果显示，采用新提出的多代理讨论机制与提示工程组合，模型在复杂推理任务上的性能提升显著，达到了当前最先进的水平，具体性能数据未明确给出，但提升幅度显著。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、智能对话系统和多智能体协作等。通过提升大型语言模型的推理能力，能够在更复杂的任务中实现更高的准确性和效率，具有重要的实际价值和广泛的未来影响。
📄 摘要（原文）
Two ways has been discussed to unlock the reasoning capability of a large language model. The first one is prompt engineering and the second one is to combine the multiple inferences of large language models, or the multi-agent discussion. Theoretically, this paper justifies the multi-agent discussion mechanisms from the symmetry of agents. Empirically, this paper reports the empirical results of the interplay of prompts and discussion mechanisms, revealing the empirical state-of-the-art performance of complex multi-agent mechanisms can be approached by carefully developed prompt engineering. This paper also proposes a scalable discussion mechanism based on conquer and merge, providing a simple multi-agent discussion solution with simple prompts but state-of-the-art performance.