PACE: Primitive-Aware Code Evolution for Automated Algorithm Design

📄 arXiv: 2608.07395v1 📥 PDF

作者: Zhuoliang Xie, Ruihao Zheng, Xiang Xu, Genghui Li, Zhengkun Wang

分类: cs.SE, cs.AI

发布日期: 2026-08-07


💡 一句话要点

提出PACE以解决算法设计中的局部逻辑耦合问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 自动化算法设计 代码演化 可执行算法原语 局部逻辑 机器学习优化

📋 核心要点

  1. 现有的算法设计方法将局部逻辑与完整程序耦合,导致有价值的代码片段难以保留和评估。
  2. PACE通过引入可执行算法原语(EAP)来解耦局部逻辑与完整程序,支持代码级转移与保留。
  3. 在四个任务上的实验结果表明,PACE能够有效发现竞争性算法,并保留重要的算法组件。

📝 摘要(中文)

基于大型语言模型的自动化算法设计通常将算法视为完整的、不可分割的程序。这种整体程序的视角虽然简化了搜索空间,但却将有用的局部逻辑与其宿主程序耦合在一起,导致有价值的代码片段在整体程序被丢弃时消失,从而难以评估各个算法组件的贡献。为了解决这一问题,本文提出了原语感知代码演化(PACE),通过将局部逻辑表示为称为可执行算法原语(EAP)的持久单元,从而将其与完整程序解耦。PACE维护一个动态的EAP集合,算法演化由原语感知操作驱动,确保这些组件的保留和跨程序转移。实验表明,PACE有效发现竞争性算法,同时结构性地保留有价值的算法组件。

🔬 方法详解

问题定义:本文旨在解决现有算法设计方法中局部逻辑与完整程序耦合的问题。这种耦合使得在丢弃整体程序时,有价值的代码片段无法保留,导致难以评估各个算法组件的贡献。

核心思路:PACE的核心思路是引入可执行算法原语(EAP),将局部逻辑解耦为持久单元,从而支持代码级的转移和保留。这种设计使得在算法演化过程中,可以独立评估和利用这些局部逻辑。

技术框架:PACE的整体架构包括动态维护的EAP集合和原语感知操作。算法演化通过这些操作进行,确保EAP的保留和跨程序转移。具体流程包括EAP的选择、评估和更新。

关键创新:PACE的主要创新在于引入了EAP的概念,使得局部逻辑不再依赖于完整程序。这种解耦设计与现有方法的整体耦合形成了本质区别,极大地提高了算法组件的可评估性和可重用性。

关键设计:PACE采用基于父相对性能改进的汤普森采样来引导原语选择,无需额外的评估数据集。这一设计使得算法演化过程更加高效和灵活。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,PACE在四个任务上发现的算法性能具有竞争力,且在保留重要算法组件方面表现优异。具体而言,相较于基线方法,PACE在算法发现效率上提升了显著的性能,验证了其有效性。

🎯 应用场景

该研究的潜在应用领域包括自动化算法设计、机器学习模型优化以及程序生成等。通过有效保留和利用局部逻辑,PACE能够提高算法设计的效率和质量,未来可能在智能编程助手和自动化开发工具中发挥重要作用。

📄 摘要(原文)

Large Language Model (LLM)-based automated algorithm design typically evolves algorithms as complete, indivisible programs. While this whole-program perspective simplifies the search space, it fundamentally couples the useful local logic to its host program. Consequently, valuable code snippets vanish when the overall program is discarded, making it highly difficult to assess the contribution of individual algorithmic components.To address this, we propose Primitive-Aware Code Evolution (PACE), which decouples local logic from complete programs by representing it as persistent units called Executable Algorithmic Primitives (EAPs). To enable code-level transfer, PACE maintains a dynamic set of EAPs. Algorithm evolution is driven by primitive-aware operators that structurally guarantee the retention and cross-program transfer of these components. To evaluate them effectively, PACE leverages Thompson sampling based on parent-relative performance improvements, guiding primitive selection from the set without requiring extra evaluation datasets. Experiments on four tasks demonstrate that PACE effectively discovers competitive algorithms while structurally preserving valuable algorithmic components.