MuEvo: LLM-Driven Evolution of Multi-Heuristic Ensemble

📄 arXiv: 2608.03636v1 📥 PDF

作者: Haoze Lv, Ning Lu, Shengcai Liu, Shaofeng Zhang, Ke Tang

分类: cs.NE, cs.AI

发布日期: 2026-08-04

备注: 30 pages, 4 figures, 16 tables

💡 一句话要点

提出MuEvo框架以解决多启发式优化问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 组合优化 启发式设计 多组件系统 大语言模型 动态管理 共同演化 算法优化

📋 核心要点

  1. 现有的单一启发式优化方法无法有效处理多个相互作用组件的组合优化问题，导致潜力组件的忽视。
  2. MuEvo框架通过动态组件管理和LLM驱动的共同演化，优化启发式集成，提升了组件间的协同效应。
  3. 在多个组合优化领域的实验中，MuEvo显著优于现有的多组件扩展方法，展示了其强大的优化能力。

📝 摘要（中文）

基于大语言模型的自动启发式设计（LLM-AHD）在组合优化问题中展现出强大的潜力。然而，现有方法主要优化单一启发式，而实际优化框架通常依赖多个相互作用的组件。直接扩展单一启发式方法面临挑战，因为早期组件选择可能忽视后期潜力的组件，而独立演化则忽略了组件间的依赖关系。为此，本文提出MuEvo，一个在集成级反馈下演化启发式集成的框架。MuEvo结合了动态组件管理和LLM驱动的共同演化，通过多集成评估、跨组件信息共享、关系引导配对演化和自适应预算分配来协调组件种群。实验结果表明，MuEvo在多个组合优化领域中持续改善人类设计的框架，并优于代表性的多组件扩展方法，展示了其在控制器介导的启发式池和功能差异化算法组件中的有效性。

🔬 方法详解

问题定义：本文旨在解决组合优化问题中多启发式组件的演化挑战。现有方法主要集中于单一启发式，无法充分利用多个组件的协同作用，导致优化效果不佳。

核心思路：MuEvo框架通过集成级反馈和动态组件管理，结合LLM驱动的共同演化，旨在优化多个相互依赖的启发式组件，以提升整体性能。

技术框架：MuEvo的整体架构包括动态组件管理和LLM驱动的共同演化两个主要模块。动态组件管理通过短预算探测和可逆生命周期调整组件优先级，而LLM驱动的共同演化则通过多集成评估和跨组件信息共享来协调组件种群。

关键创新：MuEvo的主要创新在于其动态组件管理与LLM驱动的共同演化的结合，能够有效地处理组件间的依赖关系，克服了传统单一启发式方法的局限性。

关键设计：在MuEvo中，采用了短预算探测技术来动态调整组件优先级，并通过自适应预算分配来优化资源使用，确保各组件在演化过程中的有效性。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

在多个组合优化领域的实验中，MuEvo显著提升了优化性能，相较于人类设计的框架，性能提升幅度达到了XX%。此外，MuEvo在与现有多组件扩展方法的对比中，表现出更优的效果，验证了其有效性。

🎯 应用场景

MuEvo框架具有广泛的应用潜力，尤其在组合优化、调度问题、资源分配和智能决策等领域。其创新的多启发式集成方法能够为实际问题提供更高效的解决方案，推动相关领域的研究与应用发展。

📄 摘要（原文）

Large language model-based automated heuristic design (LLM-AHD) has shown strong potential in discovering effective heuristics for combinatorial optimization problems. However, existing methods primarily optimize a single heuristic, whereas practical optimization frameworks often rely on multiple interacting components. Directly extending single-heuristic methods is challenging because early component selection can overlook components with late potential, while independent evolution ignores inter-component dependencies. We propose MuEvo, an LLM-driven framework for evolving heuristic ensembles under ensemble-level feedback. MuEvo combines Dynamic Component Management, which uses short-budget probing and a reversible lifecycle to revise component priorities throughout the search, with LLM-Driven Co-Evolution, which coordinates component populations through Multi-Ensemble Evaluation, Cross-Component Information Sharing, Relation-Guided Pair Evolution, and Adaptive Budget Allocation. We evaluate MuEvo on selection hyper-heuristics and componentized ant colony optimization across four combinatorial optimization domains. Results show that MuEvo consistently improves human-designed frameworks and outperforms representative multi-component extensions of state-of-the-art LLM-AHD methods, demonstrating its effectiveness across both controller-mediated heuristic pools and functionally differentiated algorithmic components.