Relay, Don't Route: Adaptive Population Handoff for Cost-Efficient LLM-Driven Evolution
作者: Sichun Luo, Yi Huang, Guanzhi Deng, Haibo Wang, Haochen Luo, Lei Li, Zefa Hu, Junlan Feng, Qi Liu
分类: cs.CL, cs.AI, cs.NE
发布日期: 2026-08-06
💡 一句话要点
提出自适应种群交接以提高LLM驱动进化的成本效率
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大规模语言模型 进化算法 资源优化 自适应调度 算法发现 智能系统
📋 核心要点
- 现有方法通常在单个查询或变异步骤上分配模型，忽视了进化搜索的状态性特征，导致资源浪费。
- 本文提出了一种训练无关的框架，通过自适应种群交接将预算分配从单次调用转移到进化种群上。
- 在多个基准测试中，所提方法在11个设置中取得了最高的平均得分，显示出显著的性能提升。
📝 摘要（中文）
大规模语言模型（LLM）驱动的进化在程序搜索和算法发现中展现出潜力，但在长时间的进化过程中依赖强模型的成本较高。本文提出了一种结合廉价和强模型的自适应种群交接框架，旨在在固定的推理预算内优化模型分配。通过对进化轨迹的实证分析，发现早期的搜索进展具有重要信息价值，廉价模型能够以较低成本恢复强模型所取得的早期进展。实验结果表明，在四个基准和三个预算下，所提框架在12个设置中有11个达到了最高平均得分，超越了竞争基线。
🔬 方法详解
问题定义：本文旨在解决在长时间的进化过程中，依赖强模型的高成本问题。现有方法在模型分配上存在局限，未能有效利用早期搜索进展。
核心思路：提出了一种自适应种群交接的框架，利用廉价模型在固定预算内探索多个轨迹，从而优化资源使用。通过引入Relay Gain作为调度奖励，决定何时进行种群交接。
技术框架：整体架构包括廉价模型的探索阶段和强模型的精炼阶段。廉价模型通过带有调度器的短块分配进行多轨迹探索，生成候选者，随后将这些候选者用于初始化强模型种群。
关键创新：最重要的创新在于将预算分配从单次调用转向种群层面，强调了进化搜索的状态性特征。这一方法显著提高了资源的使用效率。
关键设计：在调度过程中，Relay Gain被定义为为手动交接构建的紧凑且多样化候选库的边际改进。该设计使得廉价模型能够有效恢复早期进展，同时降低成本。实验中使用了多个基准和预算设置，以验证方法的有效性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，所提方法在11个设置中达到了最高的平均得分，相较于竞争基线有显著提升，展示了在状态性搜索中围绕种群进行预算分配的有效性。
🎯 应用场景
该研究的潜在应用领域包括程序自动化、算法优化和智能系统设计等。通过提高LLM驱动进化的成本效率，能够在资源有限的情况下实现更高效的算法发现，推动智能技术的进步与应用。
📄 摘要（原文）
Large language model (LLM)-driven evolution has shown promise for program search and algorithm discovery, but relying on strong models throughout long evolutionary runs is costly. A natural alternative is to combine cheap and strong models under a fixed inference budget. However, existing approaches typically allocate models at the level of individual queries or mutation steps, overlooking that evolutionary search is \textit{stateful}: each generated candidate changes the population from which subsequent mutations are produced. We empirically analyze LLM-driven evolutionary trajectories and find that search progress is strongly front-loaded, early trajectory performance is informative but noisy, and cheap models recover much of the early progress achieved by strong models at lower cost. Motivated by these findings, we propose \textbf{\model}, a training-free framework that shifts budget allocation from individual calls to evolving populations through adaptive \textit{population handoff}. A cheap model explores multiple trajectories in short blocks allocated by a bandit scheduler. Relay Gain, defined as the marginal improvement of a compact, quality-diverse candidate bank constructed for handoff, serves as the scheduler reward and determines when to hand off. The curated candidates initialize a shared strong model population for refinement. Across four benchmarks and three budgets, \model achieves the highest mean score in 11 of 12 settings, outperforming competitive baselines. Our results suggest that in stateful search, budget allocation should be organized around the population, not the individual call.