Beyond Natural Language: LLMs Leveraging Alternative Formats for Enhanced Reasoning and Communication

📄 arXiv: 2402.18439v3 📥 PDF

作者: Weize Chen, Chenfei Yuan, Jiarui Yuan, Yusheng Su, Chen Qian, Cheng Yang, Ruobing Xie, Zhiyuan Liu, Maosong Sun

分类: cs.CL, cs.AI

发布日期: 2024-02-28 (更新: 2024-06-19)

备注: Code release at https://github.com/thunlp/AutoForm

🔗 代码/项目: GITHUB

💡 一句话要点

提出非自然语言格式以提升LLM推理与沟通效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 非自然语言 推理效率 多智能体沟通 格式选择 智能助手 自动化系统

📋 核心要点

  1. 现有方法主要依赖自然语言进行推理和沟通，未充分探索非自然语言格式的潜力。
  2. 本文提出允许LLMs自主选择最适合的格式进行推理和沟通，以提升效率和减少资源消耗。
  3. 实验结果显示，采用非自然语言格式后，推理效率提升3.3%至5.7%，多智能体沟通令牌使用减少72.7%。

📝 摘要（中文）

自然语言（NL）长期以来是人类认知与沟通的主要形式，且在大型语言模型（LLMs）的发展中发挥了重要作用。然而，除了NL，LLMs在预训练过程中也接触了多种非NL格式，如代码和逻辑表达式。本文挑战了NL作为LLMs最佳格式的默认假设，探讨了在单一LLM推理和多智能体沟通中非NL格式的效用。研究表明，允许LLMs自主选择最合适的格式进行推理或沟通，能提高推理效率3.3%至5.7%，并在多智能体沟通中减少高达72.7%的令牌使用，同时保持沟通有效性。全面分析还显示，LLMs能够从有限的任务指令中设计格式，并且该格式在不同LLMs间有效可转移。

🔬 方法详解

问题定义：本文旨在解决LLMs在推理和沟通中对自然语言的过度依赖，现有方法未能有效利用非自然语言格式的优势。

核心思路：通过允许LLMs自主选择最适合的格式，提升推理效率和沟通效果，探索非自然语言格式的有效性。

技术框架：整体架构包括格式选择模块、推理模块和沟通模块。LLMs首先根据任务指令选择格式，然后进行推理或沟通。

关键创新：最重要的创新在于LLMs能够从有限的任务指令中自主设计沟通格式，并且该格式在不同LLMs之间具有良好的可转移性。

关键设计：在参数设置上，设计了适应不同任务的格式选择机制，损失函数则考虑了推理效率和沟通有效性，网络结构上采用了适应性模块以支持多种格式的处理。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，采用非自然语言格式后，推理效率提升3.3%至5.7%，而在多智能体沟通中，令牌使用减少高达72.7%，同时保持了沟通的有效性。这些结果表明，非自然语言格式在LLMs中的应用具有显著的优势。

🎯 应用场景

该研究的潜在应用领域包括智能助手、自动化客服和多智能体系统等。通过提升LLMs在不同格式下的推理与沟通能力，可以显著提高人机交互的效率和质量，未来可能推动更智能的自动化系统的发展。

📄 摘要（原文）

Natural language (NL) has long been the predominant format for human cognition and communication, and by extension, has been similarly pivotal in the development and application of Large Language Models (LLMs). Yet, besides NL, LLMs have seen various non-NL formats during pre-training, such as code and logical expression. NL's status as the optimal format for LLMs, particularly in single-LLM reasoning and multi-agent communication, has not been thoroughly examined. In this work, we challenge the default use of NL by exploring the utility of non-NL formats in these contexts. We show that allowing LLMs to autonomously select the most suitable format before reasoning or communicating leads to a 3.3 to 5.7\% improvement in reasoning efficiency for different LLMs, and up to a 72.7\% reduction in token usage in multi-agent communication, all while maintaining communicative effectiveness. Our comprehensive analysis further reveals that LLMs can devise a format from limited task instructions and that the devised format is effectively transferable across different LLMs. Intriguingly, the structured communication format decided by LLMs exhibits notable parallels with established agent communication languages, suggesting a natural evolution towards efficient, structured communication in agent communication. Our code is released at \url{https://github.com/thunlp/AutoForm}.