HEMO: Harness Self-Evolution for Multi-Objective Combinatorial Optimization

📄 arXiv: 2610.40023v1 📥 PDF

作者: Jianghan Zhu, Cong Zhang, Ni Zhang, Yifan Yang, Yew Soon Ong, Zhiguang Cao

分类: cs.NE, cs.AI

发布日期: 2026-10-29

备注: 48 pages, including supplementary material; 5 figures and 13 tables

💡 一句话要点

提出HEMO以解决多目标组合优化中的自我演化问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 自动算子设计 多目标组合优化 自我演化 搜索过程优化 机器学习

📋 核心要点

  1. 现有的自动算子设计方法在演化算子的同时，固定了发现算子的过程，导致适应性不足。
  2. HEMO通过将AOD自身作为自我演化的优化目标，逐步更新模块以提高搜索过程的适应性。
  3. 在八个MOCO任务中，HEMO的表现显著优于传统基线，展示了有效的迁移能力。

📝 摘要（中文）

自动算子设计（AOD）越来越多地采用大型语言模型（LLMs）生成特定问题的搜索和变异算子。然而，大多数方法在演化算子的同时，固定了发现算子的过程，这限制了适应性。本文提出HEMO，使AOD本身成为自我演化的优化目标。HEMO保持持久的状态，逐步更新模块，修正经验检索、算子改进、父代选择和搜索步骤的编排逻辑。下游解的质量和运行时间指导这些更新，而折扣UCB调度器则引导适应性向有前景的模块发展。持久的内存文件系统保存候选结果和诊断反馈，使得后续状态能够基于累积的优化经验进行构建。实验表明，HEMO在八个MOCO任务和两种结构不同的演化基础上表现出色，超越了传统的演化、神经和基于LLM的AOD基线。

🔬 方法详解

问题定义：本文旨在解决多目标组合优化（MOCO）中自动算子设计（AOD）方法的适应性不足问题。现有方法在演化算子的同时，固定了发现算子的过程，限制了对新Pareto权衡和算子交互的适应能力。

核心思路：HEMO的核心思想是将AOD自身作为自我演化的优化目标，保持持久的状态并逐步更新模块。这种设计允许系统根据下游解的质量和运行时间进行动态调整，从而提高搜索过程的效率和适应性。

技术框架：HEMO的整体架构包括持久状态管理、模块更新、经验检索、算子改进、父代选择和搜索步骤编排等主要模块。通过这些模块的协同工作，HEMO能够在不断变化的优化环境中进行有效的自我演化。

关键创新：HEMO的主要创新在于将AOD的演化过程与搜索过程相结合，使得算子的演化不仅限于单个算子，而是扩展到整个搜索过程的改进。这一方法与现有的固定演化策略有本质区别。

关键设计：HEMO采用折扣UCB调度器来引导模块的适应性更新，并使用持久的内存文件系统保存候选结果和反馈信息。这些设计确保了系统能够在不同状态之间积累优化经验，提升整体性能。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在八个多目标组合优化任务中，HEMO的表现显著优于传统的演化、神经和基于LLM的AOD基线，展示了强大的迁移能力和适应性，具体性能提升幅度未知。

🎯 应用场景

HEMO的研究成果在多目标组合优化领域具有广泛的应用潜力，尤其是在需要动态适应的复杂优化任务中。其自我演化的机制可以被应用于智能调度、资源分配和其他需要优化搜索的实际场景，未来可能推动相关领域的技术进步。

📄 摘要（原文）

Automatic operator design (AOD) has increasingly adopted large language models (LLMs) to generate problem-specific search and variation operators for multi-objective combinatorial optimization (MOCO). Yet most methods evolve the operators while leaving the process that discovers them fixed. This limits adaptation as new Pareto trade-offs and operator interactions change where and how the search should proceed. We introduce HEMO, which makes the AOD harness itself a self-evolving optimization target. HEMO maintains a persistent harness state and updates one module at a time, revising the logic that determines which experience to retrieve, which operators to improve, which parents to select, and how to formulate the orchestration of search steps. Downstream solution quality and runtime guide these updates, while a discounted UCB scheduler directs adaptation toward promising modules as their utility changes. A persistent memory filesystem preserves candidate outcomes and diagnostic feedback across harness states, enabling successive states to build on accumulated optimization experience. Experiments across eight MOCO tasks and two structurally distinct evolutionary backbones demonstrate strong performance against conventional evolutionary, neural, and LLM-based AOD baselines, together with effective transfer to related tasks. HEMO extends automatic operator design beyond evolving individual operators to improving the search process that discovers them.