Agent Memory Distillation: Empowering Small LLM Agents with Hierarchical Teacher Memory

📄 arXiv: 2608.07169v1 📥 PDF

作者: Taeil Kim, Kangsan Kim, Sung Ju Hwang

分类: cs.AI, cs.LG

发布日期: 2026-08-07

备注: Under review

💡 一句话要点

提出Agent Memory Distillation以提升小型LLM代理的性能

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 记忆蒸馏 层次化记忆 小型语言模型 智能体性能 工具使用基准

📋 核心要点

  1. 现有的小型语言模型在生成成功轨迹方面存在不足，难以独立完成复杂任务。
  2. 本文提出的Agent Memory Distillation框架通过层次化记忆结构，将教师智能体的知识有效转移到学生智能体。
  3. 在多个基准测试中，AMD显著提升了小型模型的准确性，平均提升幅度达到27.2%p、11.2%p和3.4%p。

📝 摘要（中文）

记忆系统在提升智能体性能方面展现了潜力，但在小型语言模型中尚未得到充分探索。本文提出了Agent Memory Distillation（AMD），这是一个无训练框架，通过层次化记忆将大型教师智能体的结构化知识转移到小型学生智能体。AMD从成功的教师轨迹中构建三种互补的记忆类型：工作流记忆编码任务级策略，子任务记忆提供中间粒度的具体行为示例，功能记忆捕捉每个功能调用约定和常见陷阱。实验表明，AMD在多个工具使用基准上显著提升了小型模型的准确性，超越了现有的基于记忆的方法。

🔬 方法详解

问题定义：本文旨在解决小型语言模型在生成成功任务轨迹时的性能不足，现有方法未能充分利用记忆系统的潜力。

核心思路：Agent Memory Distillation（AMD）通过构建层次化的记忆结构，将来自大型教师智能体的知识有效转移到小型学生智能体，以提升其任务执行能力。

技术框架：AMD构建了三种类型的记忆：工作流记忆、子任务记忆和功能记忆。工作流和子任务记忆在任务开始时主动注入，而功能记忆在工具调用错误时被反应性检索。

关键创新：最重要的创新在于通过层次化记忆结构实现知识的有效转移，尤其是子任务记忆在提升性能方面贡献最大，与现有方法相比，AMD在知识传递的结构化和动态性上具有显著优势。

关键设计：在设计中，工作流记忆编码任务级策略，子任务记忆提供具体行为示例，功能记忆则捕捉调用约定和常见错误，确保学生智能体能够在多种情况下有效应对。实验中使用的学生模型参数范围为4B到8B。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在三个工具使用基准上，AMD显著提升了小型模型的准确性，分别在AppWorld、BFCL V3和ToolSandbox上实现了27.2%p、11.2%p和3.4%p的平均准确率提升，且在所有实验中均超越了现有的基于记忆的基线方法。

🎯 应用场景

该研究的潜在应用领域包括智能助手、自动化工具和复杂任务的执行系统。通过提升小型语言模型的性能，AMD可以在资源受限的环境中实现更高效的智能体操作，具有重要的实际价值和未来影响。

📄 摘要（原文）

Memory systems have shown promise for improving agent performance, but their potential remains largely unexplored for small language models, which struggle to generate sufficient successful trajectories on their own. We propose Agent Memory Distillation (AMD), a training-free framework that transfers structured knowledge from a large teacher agent to a small student agent through hierarchical memory. AMD constructs three complementary memory types from successful teacher trajectories: Workflow memory encodes task-level strategies, Subtask memory provides concrete behavioral examples at an intermediate granularity, and Function memory captures per-function calling conventions and common pitfalls. Workflow and Subtask memories are injected proactively at the start of each task, while Function memory is retrieved reactively upon tool-calling errors. We evaluate AMD on three tool-use benchmarks using four student models (4B-8B parameters) with GPT-5-mini as the teacher, achieving average accuracy gains of 27.2%p, 11.2%p, and 3.4%p on AppWorld, BFCL V3, and ToolSandbox, while consistently outperforming existing memory-based baselines. Further analysis shows that Subtask memory contributes the largest gains, teacher effectiveness depends on both teacher capability and student compatibility, and 4B-sized students benefit most from AMD.