ERSkill: Evolving for Skill-Guided Adaptive Memory Retrieval

📄 arXiv: 2608.12720v1 📥 PDF

作者: Haolong Chen, Liang Zhang, Zhuo Li, Lei Xue, Guanrxu Zhu

分类: cs.CL, cs.AI

发布日期: 2026-08-13


💡 一句话要点

提出ERSkill以解决长时记忆检索的静态性问题

🎯 匹配领域: 支柱九:具身大模型 (Embodied Foundation Models)

关键词: 长期记忆 自我进化 技能引导 记忆检索 动态路由

📋 核心要点

  1. 现有方法在处理异构记忆查询时表现不佳,无法有效应对多样化的证据构建需求。
  2. ERSkill通过自我进化的技能引导机制,动态匹配查询与最佳技能,从而优化记忆检索过程。
  3. 实验结果显示,ERSkill在F1、BLEU-1和LLM-judge评分上分别提升31.3%和28.1%,显著优于基线方法。

📝 摘要(中文)

随着大型语言模型(LLM)代理越来越依赖长期记忆进行持续交互,支配这种记忆的检索机制却很少被视为可进化的组件。这种静态方法限制了在异构记忆查询中的性能,后者通常需要多样的证据构建策略。为了解决这个问题,我们提出了ERSkill,一个以检索为中心的自我进化、技能引导的记忆访问框架。ERSkill将交互历史编译成结构化的记忆存储,并将检索行为表示为由基本原语组成的可执行技能。在推理时,经过训练的路由器动态匹配每个查询到最佳技能,以构建量身定制的证据进行答案生成。为了实现持续改进,ERSkill在训练过程中共同进化技能集和路由器。实验表明,ERSkill在多个代理记忆基准上显著优于强大的非进化和自我进化基线。

🔬 方法详解

问题定义:论文要解决的具体问题是现有大型语言模型在长期记忆检索中的静态性,导致其在处理多样化查询时性能不足。现有方法未能有效适应异构记忆查询的需求,限制了模型的灵活性和准确性。

核心思路:论文提出的核心解决思路是构建一个以检索为中心的自我进化框架ERSkill,通过技能引导的方式动态匹配查询与最佳检索策略,从而提升记忆访问的效率和效果。这样的设计使得模型能够根据交互历史不断优化其检索能力。

技术框架:ERSkill的整体架构包括三个主要模块:结构化的记忆存储、可执行的检索技能和动态路由器。在推理阶段,路由器根据查询动态选择最优技能,生成针对性的证据。训练过程中,技能集和路由器共同进化,提升系统的整体性能。

关键创新:最重要的技术创新点在于引入了经验前缀树和双前沿机制,前者用于高效记录探索的检索路径,后者则确保新技能能力的扩展与稳定的路由器部署相分离。这种设计使得系统能够在保持稳定性的同时不断增强其能力。

关键设计:在参数设置上,ERSkill采用了适应性学习率和多任务损失函数,以优化技能的学习过程。网络结构方面,利用了深度学习模型来实现技能的表示和路由选择,确保系统在复杂查询下的高效性和准确性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明,ERSkill在多个基准测试中表现优异,特别是在与Qwen3-Next-80B-A3B-Instruct和GPT-5.4-nano的对比中,分别提升了31.3%和28.1%的整体平均分数,显示出其在记忆检索任务中的显著优势。

🎯 应用场景

该研究的潜在应用领域包括智能助手、在线客服和教育领域等,能够提升这些系统在复杂交互中的记忆检索能力。通过不断进化的技能引导机制,ERSkill有望在未来实现更高效的用户交互和个性化服务,推动人机交互的智能化进程。

📄 摘要(原文)

While Large Language Model (LLM) agents increasingly rely on long-term memory for persistent interactions, the retrieval mechanisms governing this memory are rarely treated as evolvable components. This static approach limits performance on heterogeneous memory queries, which often demand diverse evidence construction strategies. To address this, we introduce \textbf{ERSkill}, a retrieval-centric framework for self-evolving, skill-guided memory access. ERSkill compiles interaction histories into a structured memory store and represents retrieval behaviors as executable skills composed of fundamental primitives. At inference time, a trained router dynamically matches each query to the optimal skill to construct tailored evidence for answer generation. To enable continuous improvement, ERSkill co-evolves the skill set and the router during training. It employs an experience trie to efficiently record explored retrieval paths, alongside a double-frontier mechanism that safely decouples the expansion of new skill capabilities from stable, router-facing deployment. Experiments across multiple agent memory benchmarks demonstrate that ERSkill substantially outperforms strong non-evolving and self-evolving baselines. Notably, it improves the overall average across F1, BLEU-1, and LLM-judge scores by 31.3\% with Qwen3-Next-80B-A3B-Instruct and by 28.1\% with GPT-5.4-nano.