NextEval: An Agent-Based Solver and Benchmark for Derivative-Free Optimization

📄 arXiv: 2610.36553v1 📥 PDF

作者: Shuo Chen, Li Cui, Cunxin Huang, Ya-Feng Liu, Minghang Xie, Meng Xu, Zaikun Zhang

分类: cs.LG, cs.AI, math.OC

发布日期: 2026-10-27

备注: 27 pages

💡 一句话要点

提出NextEval以解决无导数优化问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 无导数优化 大型语言模型 数值方法 评估点选择 优化算法

📋 核心要点

  1. 无导数优化面临评估成本高和信息利用不足的挑战，现有方法难以有效选择评估点。
  2. NextEval求解器通过结合大型语言模型与数值环境，优化评估点的选择和预算分配。
  3. 实验结果显示，NextEval在低维DFO问题上超越了现有的DFO基线，提升了函数评估效率。

📝 摘要（中文）

无导数优化（DFO）旨在解决导数不可用或获取成本高的问题，尤其在基于仿真和实验的应用中尤为重要。本文提出NextEval求解器，结合大型语言模型（LLM）与数值环境，指导评估点的选择。该系统通过分析历史评估和执行数值方法，优化评估预算的分配。NextEval Bench作为基准协议，比较不同代理配置在共享DFO任务上的表现。实验结果表明，NextEval在函数评估效率上优于现有最先进的DFO基线。

🔬 方法详解

问题定义：论文旨在解决无导数优化中的评估点选择问题，现有方法在信息利用和评估成本控制上存在不足。

核心思路：通过引入大型语言模型（LLM）作为代理，结合数值环境，利用历史评估数据指导评估点的选择和预算分配。

技术框架：系统由LLM代理和数值环境组成，环境提供分析工具和数值方法，维护共享评估历史和状态信息，支持方法切换。

关键创新：NextEval的创新在于将LLM与数值优化结合，形成一个动态的评估点选择机制，显著提高了评估效率。

关键设计：系统设计中，LLM负责选择工具和配置参数，数值方法则计算候选点，整个过程在共享的评估历史下进行，确保信息的有效利用。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，NextEval在低维无导数优化问题上实现了显著的性能提升，相较于现有最先进的DFO基线，其函数评估效率提高了XX%（具体数据待补充）。

🎯 应用场景

NextEval的研究成果在需要高效评估的领域具有广泛应用潜力，如工程优化、机器学习超参数调优和实验设计等。通过优化评估过程，该方法能够降低成本并提高效率，推动相关领域的发展。

📄 摘要（原文）

Derivative-free optimization (DFO) addresses problems where derivatives are unavailable or costly to obtain. This setting often arises in simulation-based and experimental applications, where evaluating the black-box objective can itself be costly. Thus, it remains a central challenge in DFO to effectively exploit accumulated observations to select informative evaluation points under a limited budget. In this light, we introduce the NextEval solver, an agent-based DFO solver, which integrates the capabilities of a large language model (LLM) to guide the sequential selection of evaluation points. Specifically, we establish a system that combines an LLM agent with a numerical environment. The environment provides tools for analyzing past evaluations and executing numerical methods, while maintaining a shared evaluation history and method-specific state to support continuation across method switches. Using observations and tool feedback, the LLM agent selects tools, configures their parameters, and allocates the evaluation budget, while numerical methods compute and evaluate candidate points. Building on this system, we also introduce NextEval Bench, a benchmark protocol for comparing agent configurations on shared DFO tasks using the same numerical tools under matched evaluation budgets and information constraints. Numerical results on low-dimensional DFO problems demonstrate that the NextEval solver outperforms the state-of-the-art DFO baselines in function-evaluation efficiency.