LLM Guided Evolution -- The Automation of Models Advancing Models

📄 arXiv: 2403.11446v1 📥 PDF

作者: Clint Morris, Michael Jurado, Jason Zutty

分类: cs.NE, cs.LG

发布日期: 2024-03-18

DOI: 10.1145/3638529.3654178

💡 一句话要点

提出引导进化框架以提升模型自动化设计效率

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 引导进化 模型自动化 机器学习 进化算法 模型优化 反馈学习

📋 核心要点

  1. 现有的模型开发方法在自动化和智能化方面存在局限，难以充分利用语言模型的潜力。
  2. 论文提出的引导进化框架利用大型语言模型直接修改代码，进行智能化的监督进化。
  3. 实验结果显示，GE在ExquisiteNetV2模型的进化中，准确率提升了0.82%，展示了其有效性。

📝 摘要（中文）

在机器学习领域，传统模型开发和自动化方法如AutoML通常依赖于树形或笛卡尔遗传编程等抽象层次。我们的研究提出了“引导进化”（GE）这一新框架，利用大型语言模型（LLMs）直接修改代码，进行更智能的监督进化过程，指导突变和交叉。独特的“思想进化”（EoT）技术进一步增强了GE，使LLMs能够反思并学习先前突变的结果，形成自我维持的反馈循环，提升模型进化中的决策能力。GE通过LLMs生成多样化响应，保持遗传多样性，加速进化过程，并注入专家级的创造力和洞察力。GE在进化ExquisiteNetV2模型中的应用证明了其有效性：LLM驱动的GE自主生成的变体准确率从92.52%提升至93.34%，且未影响模型的紧凑性。这表明LLMs有潜力加速传统模型设计流程，使模型能够自主进化和优化自身设计。

🔬 方法详解

问题定义：本研究旨在解决传统模型开发方法在自动化和智能化方面的不足，尤其是在利用语言模型进行模型进化时的局限性。现有方法如AutoML依赖于抽象层次，缺乏灵活性和创造性。

核心思路：引导进化框架（GE）通过大型语言模型（LLMs）直接修改代码，进行更智能的监督进化，指导突变和交叉，提升模型设计的效率和效果。

技术框架：GE的整体架构包括输入代码、LLM处理、突变和交叉操作、反馈学习等模块。LLMs在每个阶段提供指导，确保进化过程的智能化和高效性。

关键创新：最重要的技术创新在于引入“思想进化”（EoT）技术，使LLMs能够反思和学习先前突变的结果，形成自我维持的反馈循环。这一设计与传统方法的本质区别在于其动态学习能力。

关键设计：在GE中，LLMs的提示设计至关重要，通过精心构建的提示生成多样化响应。此外，模型温度的调节也被用来控制生成内容的多样性，确保遗传多样性得以保持。实验中还采用了特定的损失函数来优化模型性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，使用引导进化框架的ExquisiteNetV2模型准确率从92.52%提升至93.34%，提升幅度为0.82%。这一结果展示了LLM驱动的GE在模型进化中的有效性，且未影响模型的紧凑性，表明其在实际应用中的潜力。

🎯 应用场景

该研究的引导进化框架在机器学习模型的自动化设计中具有广泛的应用潜力，尤其适用于需要快速迭代和优化的领域，如计算机视觉、自然语言处理等。未来，GE有望推动模型设计的智能化进程，提升模型的性能和适应性。

📄 摘要（原文）

In the realm of machine learning, traditional model development and automated approaches like AutoML typically rely on layers of abstraction, such as tree-based or Cartesian genetic programming. Our study introduces "Guided Evolution" (GE), a novel framework that diverges from these methods by utilizing Large Language Models (LLMs) to directly modify code. GE leverages LLMs for a more intelligent, supervised evolutionary process, guiding mutations and crossovers. Our unique "Evolution of Thought" (EoT) technique further enhances GE by enabling LLMs to reflect on and learn from the outcomes of previous mutations. This results in a self-sustaining feedback loop that augments decision-making in model evolution. GE maintains genetic diversity, crucial for evolutionary algorithms, by leveraging LLMs' capability to generate diverse responses from expertly crafted prompts and modulate model temperature. This not only accelerates the evolution process but also injects expert like creativity and insight into the process. Our application of GE in evolving the ExquisiteNetV2 model demonstrates its efficacy: the LLM-driven GE autonomously produced variants with improved accuracy, increasing from 92.52% to 93.34%, without compromising model compactness. This underscores the potential of LLMs to accelerate the traditional model design pipeline, enabling models to autonomously evolve and enhance their own designs.