MeEvo: Metacognitive Evolution Combined with Natural Evolution for Automatic Heuristic Design

📄 arXiv: 2606.14202v1 📥 PDF

作者: Zishang Qiu, Xinan Chen, Rong Qu, Ruibin Bai

分类: cs.NE, cs.AI

发布日期: 2026-06-12

💡 一句话要点

提出MeEvo以解决现有自动启发式设计方法的不足

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自动启发式设计 大型语言模型 自然进化 元认知进化 优化问题 知识继承 搜索效率

📋 核心要点

  1. 现有的自动启发式设计方法在知识继承与探索能力上存在不足，导致搜索效率和解的质量降低。
  2. MeEvo通过循环耦合自然进化与元认知进化，记录推理痕迹以增强启发式生成的质量与稳定性。
  3. 在五个优化问题上的实验结果显示，MeEvo在复杂约束任务中优于现有的LLM基础AHD架构，表现更为出色。

📝 摘要（中文）

大型语言模型（LLMs）通过推理和代码合成推动了自动启发式设计（AHD）的进步。现有的基于LLM的AHD架构主要遵循自然进化和元认知进化两种范式。然而，自然进化忽略了推理痕迹，削弱了知识的继承与利用，而元认知进化缺乏种群级别的重组，限制了探索并增加了过早收敛的风险。为了解决这一问题，本文提出了MeEvo，一个双层AHD框架，循环耦合自然进化与元认知进化。该设计通过记录推理痕迹和适应度值，增强了种群驱动的探索与反思驱动的优化。实验表明，MeEvo在复杂约束任务上表现出更强和更稳定的性能。

🔬 方法详解

问题定义：本文旨在解决现有自动启发式设计方法在知识继承和探索能力上的不足，特别是在复杂问题上的搜索效率和解的质量问题。

核心思路：MeEvo框架通过循环耦合自然进化与元认知进化，记录推理痕迹以实现知识的继承与利用，同时增强启发式的生成与优化。

技术框架：MeEvo的整体架构包括两个主要模块：自然进化模块负责探索启发式代码并记录相关信息，元认知进化模块则基于这些信息进行反思与优化，形成一个循环反馈机制。

关键创新：MeEvo的创新在于将自然进化与元认知进化结合，形成双层架构，使得探索与反思相互促进，这一设计显著提高了搜索效率与解的质量。

关键设计：在实现中，MeEvo设置了共享历史记录机制，包含推理痕迹、适应度值和错误信息，确保信息的有效传递与利用，同时在元认知进化中采用了反思算法以优化启发式生成。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，MeEvo在五个优化问题上相较于现有的LLM基础AHD架构，性能提升显著，尤其在复杂约束任务中表现出更强的稳定性和效率，具体提升幅度未知。

🎯 应用场景

MeEvo的研究成果在自动化优化、智能决策支持系统和复杂问题求解等领域具有广泛的应用潜力。其创新的启发式设计方法能够为实际问题提供更高效的解决方案，推动相关领域的技术进步与发展。

📄 摘要（原文）

Large Language Models (LLMs) have advanced Automatic Heuristic Design (AHD) by enabling heuristic generation through reasoning and code synthesis. Existing LLM-based AHD architectures mainly follow two paradigms: Natural Evolution, which uses crossover and mutation to explore heuristic programs, and Metacognitive Evolution, which refines reasoning through reflection. However, Natural Evolution discards reasoning traces, weakening knowledge inheritance and exploitation, while Metacognitive Evolution lacks population-level recombination, limiting exploration and increasing the risk of premature convergence. These limitations reduce search efficiency, stability, and solution quality on complex problems. To address this gap, we propose MeEvo, a dual-layer AHD framework that cyclically couples Natural Evolution and Metacognitive Evolution. Natural Evolution explores heuristic code while recording reasoning traces, fitness values, and errors into a shared history; Metacognitive Evolution then reflects on this history to generate improved heuristics that re-enter the parent pool for the next cycle. This design enables population-driven exploration and reflection-driven refinement to reinforce each other. Experiments on five optimization problems with two LLM backbones show that MeEvo achieves stronger and more stable performance than existing LLM-based AHD architectures, especially on complex constrained tasks.