Zero-Shot Chain-of-Thought Reasoning Guided by Evolutionary Algorithms in Large Language Models

📄 arXiv: 2402.05376v1 📥 PDF

作者: Feihu Jin, Yifan Liu, Ying Tan

分类: cs.CL

发布日期: 2024-02-08

备注: 17 pages, 5 figures, 16 tables

💡 一句话要点

提出基于进化算法的零-shot思维链推理方法以提升LLM性能

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 零-shot学习 思维链推理 进化算法 大型语言模型 自然语言处理 推理任务 动态提示生成

📋 核心要点

  1. 现有的零-shot CoT 提示方法在不同任务实例中使用相同的提示，未能充分利用句子前缀的演变特性，导致推理效果不佳。
  2. 本文提出了一种基于进化算法的动态提示生成方法，通过初始化多个CoT提示并进行进化操作，生成多样化的提示集合，以适应不同问题。
  3. 在十个推理数据集上的实验结果显示，所提方法在性能上显著优于现有的零-shot CoT 提示方法，展现出更强的适应性和有效性。

📝 摘要（中文）

大型语言模型（LLMs）在多种任务中表现出色，尤其是在零-shot思维链（CoT）提示下展现了令人印象深刻的推理能力。然而，由于预训练阶段句子前缀的演变，现有的零-shot CoT 提示方法在所有任务实例中使用相同的提示可能并不理想。本文提出了一种新颖的零-shot 提示方法，利用进化算法动态生成多样化的提示。该方法初始化两个CoT提示，通过基于LLMs的进化操作生成多样化的提示集合，并利用LLMs选择适合特定问题的CoT提示。此外，基于所选CoT提示的重写操作增强了LLMs对问题的理解。通过在十个推理数据集上的广泛实验，证明了我们的方法在GPT-3.5-turbo和GPT-4上的优越性能，并且深入的分析实验强调了我们方法在各种推理任务中的适应性和有效性。

🔬 方法详解

问题定义：本文旨在解决现有零-shot CoT 提示方法在不同任务中使用相同提示所带来的推理效果不足的问题。现有方法未能充分考虑句子前缀的演变特性，导致推理能力受限。

核心思路：论文提出的核心思路是利用进化算法动态生成多样化的CoT提示。通过初始化多个CoT提示并进行进化操作，生成适合特定问题的提示，从而提升LLMs的推理能力。

技术框架：整体架构包括初始化两个CoT提示，应用进化算法生成多样化的提示集合，然后利用LLMs选择最适合的CoT提示，最后通过重写操作增强LLMs对问题的理解。

关键创新：最重要的技术创新点在于结合进化算法与零-shot CoT 提示生成，动态适应不同任务的需求，与现有方法的静态提示生成形成鲜明对比。

关键设计：在参数设置上，进化算法的选择和操作方式是关键设计因素，损失函数和网络结构的选择也对最终的推理效果产生重要影响。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，所提方法在十个推理数据集上显著优于现有的零-shot CoT 提示方法，尤其在GPT-3.5-turbo和GPT-4上，性能提升幅度达到XX%（具体数据待补充），验证了方法的有效性和适应性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理中的问答系统、对话生成以及复杂推理任务等。通过提升LLMs的推理能力，能够在更多实际场景中实现更高效的智能交互，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large Language Models (LLMs) have demonstrated remarkable performance across diverse tasks and exhibited impressive reasoning abilities by applying zero-shot Chain-of-Thought (CoT) prompting. However, due to the evolving nature of sentence prefixes during the pre-training phase, existing zero-shot CoT prompting methods that employ identical CoT prompting across all task instances may not be optimal. In this paper, we introduce a novel zero-shot prompting method that leverages evolutionary algorithms to generate diverse promptings for LLMs dynamically. Our approach involves initializing two CoT promptings, performing evolutionary operations based on LLMs to create a varied set, and utilizing the LLMs to select a suitable CoT prompting for a given problem. Additionally, a rewriting operation, guided by the selected CoT prompting, enhances the understanding of the LLMs about the problem. Extensive experiments conducted across ten reasoning datasets demonstrate the superior performance of our proposed method compared to current zero-shot CoT prompting methods on GPT-3.5-turbo and GPT-4. Moreover, in-depth analytical experiments underscore the adaptability and effectiveness of our method in various reasoning tasks.