Structure-Aware Skill Retrieval and Arbitration for Optimization Modeling
作者: Anran Liu, Benzhao Hou, Zongsheng Cao, Daichao Wang, Lang Chen, Shitong Chen
分类: cs.AI
发布日期: 2026-10-30
💡 一句话要点
提出ArchOR以解决优化建模中的技能检索与仲裁问题
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 优化建模 技能检索 大型语言模型 结构签名 深度学习
📋 核心要点
- 现有方法在优化任务中对叙述重写的脆弱性和实例级别的经验存储导致了性能的局限性。
- 论文提出的ArchOR通过引入Centroid-Aware Representation Learning和Signature-Guided Retrieval模块，优化了技能检索过程。
- 实验结果显示，ArchOR在五个基准测试中达到了65.00%的Micro-Avg. Pass@1，相比于OptSkills有显著提升。
📝 摘要（中文）
大型语言模型（LLMs）能够将自然语言优化任务转化为求解器检查的答案，但当前的代理在叙述重写时表现脆弱，并且通常在实例级别存储可重用经验。我们提出了ArchOR，这是一种以原型为中心的技能代理，基于OptSkills，通过增加两个检索模块进行改进。Centroid-Aware Representation Learning (CARL)通过低秩原型残差优化缓存技能表示的排序。Signature-Guided Retrieval (S3R)为技能附加开放维度的结构签名，通过加权Jaccard重叠优先选择候选者，并将语义重排序限制在前K个集合。基线保留的仲裁规则决定何时用结构路径替代原始选择器。使用相同的DeepSeek-V4.1-Flash骨干网和发布的技能库，ArchOR在五个基准测试中达到了65.00%的Micro-Avg. Pass@1，相比OptSkills提高了1.64个百分点的Micro-Avg.和2.68个百分点的Macro-Avg.
🔬 方法详解
问题定义：本论文旨在解决现有优化建模方法在叙述重写时的脆弱性，以及技能经验在实例级别存储的局限性，导致的性能下降问题。
核心思路：论文提出的ArchOR通过引入以原型为中心的技能代理，结合检索模块，优化技能的选择与应用，以提高模型在不同任务中的适应性和准确性。
技术框架：ArchOR的整体架构包括两个主要模块：Centroid-Aware Representation Learning (CARL)和Signature-Guided Retrieval (S3R)。CARL优化技能表示的排序，而S3R通过结构签名来指导技能的检索与选择。
关键创新：最重要的技术创新在于引入了低秩原型残差和开放维度的结构签名，这些设计使得技能检索更加高效且具有更强的语义理解能力，与现有方法相比，显著提升了性能。
关键设计：在设计中，CARL模块通过优化技能表示的排序来提升检索效率，S3R模块则通过加权Jaccard重叠来优先选择候选技能，并限制语义重排序到前K个集合，确保了检索的准确性与高效性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，ArchOR在五个基准测试中达到了65.00%的Micro-Avg. Pass@1，相比于OptSkills提高了1.64个百分点的Micro-Avg.和2.68个百分点的Macro-Avg.，显示出显著的性能提升。
🎯 应用场景
该研究的潜在应用领域包括智能优化系统、自动化决策支持和复杂任务的自动求解等。通过提升技能检索的准确性和效率，ArchOR能够在实际应用中显著提高优化建模的效果，具有广泛的实际价值和未来影响。
📄 摘要（原文）
Large Language Models (LLMs) can turn natural-language optimization tasks into solver-checked answers, but current agents remain brittle under narrative rewrites and often store reusable experience at the instance level. We introduce \textsc{ArchOR}, an archetype-centric skill agent that builds on \textsc{OptSkills} by adding two retrieval-focused modules. \emph{Centroid-Aware Representation Learning} (CARL) refines the ordering of cached skill representations through a low-rank prototype residual. \emph{Signature-Guided Retrieval} (S\textsuperscript{3}R) attaches open-dimensional structural signatures to skills, prioritizes candidates by weighted Jaccard overlap, and bounds semantic re-ranking to a top-$K$ set. A baseline-preserving arbitration rule determines when the structural route should replace the original selector. With the same DeepSeek-V4.1-Flash backbone and released skill library, \textsc{ArchOR} reaches 65.00\% Micro-Avg.\ Pass@1 across five benchmarks, improving over \textsc{OptSkills} by 1.64~pp Micro-Avg.\ and 2.68~pp Macro-Avg.