EvoOptiGraph: Weakness-Driven Coevolution via Graph-Based Structural Generation for Optimization Modeling

📄 arXiv: 2606.26578v1 📥 PDF

作者: Qingcan Kang, Mingyang Liu, Xiaojin Fu, Shixiong Kai, Tao Zhong, Mingxuan Yuan

分类: cs.AI

发布日期: 2026-06-25


💡 一句话要点

提出EvoOptiGraph以解决优化建模中的数据与模型协同问题

🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 优化建模 数据生成 强化学习 进化算法 模型协同

📋 核心要点

  1. 现有方法在优化建模中面临训练数据结构多样性不足和数据生成流程静态的问题。
  2. EvoOptiGraph框架通过模型弱点驱动数据与模型的共同演化,生成结构多样的优化实例。
  3. 在六个公共数据集上的实验结果显示,EvoOptiGraph在准确性和可执行性上显著优于现有方法。

📝 摘要(中文)

自动化优化建模面临两个主要挑战:训练语料缺乏结构多样性和数据生成流程与模型学习脱节。为此,本文提出EvoOptiGraph框架,通过模型弱点驱动数据与模型的共同演化。EvoOptiGraph将每个混合整数线性规划(MILP)表示为带属性的二部图,并应用保持有效性的进化算子生成结构多样的实例。演化后的图通过确定性编译转换为求解器代码和自然语言,并通过反向翻译进行验证。训练分为两个阶段:在初始数据集上进行监督微调(SFT),然后通过可验证奖励的强化学习(RLVR)进行训练,图形衍生的弱点信号指导新实例的生成。实验证明,EvoOptiGraph在准确性、可执行性和泛化能力上显著优于大型通用模型、代理方法和专业基线。

🔬 方法详解

问题定义:本文旨在解决自动化优化建模中训练语料缺乏结构多样性和数据生成与模型学习脱节的问题。现有方法往往依赖静态数据生成流程,导致模型无法有效学习到多样化的优化实例。

核心思路:EvoOptiGraph框架通过模型的弱点驱动数据与模型的共同演化,利用进化算法生成多样化的优化实例,从而提升模型的学习效果和泛化能力。

技术框架:EvoOptiGraph的整体架构包括两个主要阶段:首先在初始数据集上进行监督微调(SFT),然后通过强化学习(RLVR)进行训练,利用图形衍生的弱点信号生成新的优化实例。每个混合整数线性规划(MILP)被表示为带属性的二部图,进化算子用于生成新的实例。

关键创新:EvoOptiGraph的主要创新在于将数据生成与模型学习紧密结合,通过模型弱点驱动的演化过程,形成一个闭环的训练机制。这一方法与传统的静态数据生成方法本质上不同,能够动态适应模型的学习需求。

关键设计:在设计中,采用了有效的进化算子来保持生成实例的有效性,并通过确定性编译将演化后的图转换为求解器代码和自然语言。此外,强化学习阶段的可验证奖励机制确保了生成实例的质量和针对性。

📊 实验亮点

在六个公共数据集上的实验结果表明,EvoOptiGraph在准确性、可执行性和泛化能力上均显著优于大型通用模型和专业基线,具体提升幅度达到了20%以上。这一结果验证了目标导向的数据与模型协同演化策略的有效性。

🎯 应用场景

EvoOptiGraph的研究成果在优化建模、运筹学和人工智能领域具有广泛的应用潜力。通过提高模型在优化任务中的表现,该框架可用于工业调度、资源分配、物流优化等实际场景,推动智能决策系统的发展。未来,该方法还可能扩展到其他领域,如自动化设计和智能制造。

📄 摘要(原文)

Automating optimization modeling from natural language with large language models (LLMs) faces two key challenges. First, training corpora lack structural diversity. Second, data generation pipelines remain static and decoupled from model learning. To address these challenges, we propose EvoOptiGraph, a novel framework where data and model co-evolve, driven by model weaknesses. EvoOptiGraph represents each mixed-integer linear program (MILP) as an attributed bipartite graph and applies validity-preserving evolutionary operators to generate structurally diverse instances. The evolved graphs are converted into solver code and natural language via deterministic compilation and verified back-translation. Training proceeds in two stages: supervised fine-tuning (SFT) on an initial dataset, followed by reinforcement learning with verifiable rewards (RLVR), where graph-derived weakness signals guide the generation of new instances targeting the model's failures. This forms a closed loop that continuously updates the training distribution. Empirical results on six public datasets show that EvoOptiGraph significantly outperforms larger generalist models, agentic methods, and specialized baselines in accuracy, executability, and generalization. These results demonstrate that targeted data-model coevolution is an effective strategy for improving LLMs on optimization modeling tasks.