MemRefine: LLM-Guided Compression for Long-Term Agent Memory

📄 arXiv: 2606.13177 📥 PDF

作者: Minjae Kim, Jinheon Baek, Soyeong Jeong, Sung Ju Hwang

分类: cs.CL, cs.AI, cs.LG

发布日期: 2026-06-12

💡 一句话要点

提出MemRefine以解决长时间交互中的记忆管理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 记忆管理 大型语言模型 长期交互 信息压缩 智能助手 聊天机器人

📋 核心要点

  1. 现有的记忆管理方法在长期交互中容易产生冗余信息，导致存储成本增加和检索效率降低。
  2. MemRefine通过LLM引导的方式，利用相似性提出候选对，并根据事实内容进行决策，从而优化记忆管理。
  3. 在多个基准测试中，MemRefine在满足存储预算的同时，保持了良好的下游任务性能，超越了传统方法。

📝 摘要（中文）

随着大型语言模型（LLM）代理在长期交互中的应用日益增加，如何有效管理和压缩记忆存储成为一个重要挑战。现有方法在信息积累时容易产生冗余条目，导致存储成本增加和检索效率降低。为此，本文提出了MemRefine，一个基于LLM的框架，通过利用相似性来提出候选对，并将删除、合并和保留的决策交给LLM进行判断，从而在固定预算内优化记忆管理。实验结果表明，MemRefine在多个记忆框架和长期对话基准上均能有效满足预算要求，同时保持下游任务性能，超越了基于规则的基线方法。

🔬 方法详解

问题定义：本文旨在解决在长期交互中，如何在固定存储预算内有效管理和压缩记忆存储的问题。现有方法往往无法有效去除冗余信息，导致存储效率低下。

核心思路：MemRefine的核心思路是利用大型语言模型（LLM）来判断记忆条目的重要性，而不仅仅依赖表面相似性。通过这种方式，能够更准确地保留对未来交互有用的信息。

技术框架：MemRefine的整体架构包括候选对的生成、LLM的判断和决策迭代三个主要模块。首先，通过相似性计算生成候选对，然后LLM对这些候选对进行评估，最后根据LLM的判断进行删除、合并或保留操作，直至满足存储预算。

关键创新：MemRefine的主要创新在于将LLM引入记忆管理过程，使得决策不仅基于表面相似性，而是基于更深层次的事实内容。这一方法显著提高了记忆管理的效率和效果。

关键设计：在设计上，MemRefine采用了迭代优化的策略，设置了明确的存储预算，并在每次迭代中调整候选对的选择和LLM的评估标准，以确保最终的记忆存储既符合预算又保留了重要信息。

📊 实验亮点

实验结果显示，MemRefine在多个长期对话基准上均能有效满足存储预算，同时保持下游任务性能，相较于基于规则的方法，性能提升显著，尤其在紧张预算下表现优异。

🎯 应用场景

MemRefine的研究成果在多个领域具有广泛的应用潜力，尤其是在智能助手、聊天机器人和长期交互系统中。通过优化记忆管理，能够提升用户体验和系统效率，适应资源受限的环境，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large language model (LLM) agents are increasingly expected to operate over long-term interactions, where information from past dialogues must be preserved and recalled to support future tasks. However, as interactions accumulate, the memory store grows without bound and fills with redundant entries that inflate storage cost and degrade retrieval by crowding out the most useful evidence. Furthermore, this is especially limiting on resource-constrained platforms with hard memory budgets, motivating us to formulate storage-budgeted memory management, the task of keeping an already constructed memory store within a fixed budget while preserving information useful for future interactions. To this end, we then propose MemRefine, an LLM-guided framework that, since surface similarity poorly reflects factual value, uses similarity only to propose candidate pairs and defers delete, merge, and preserve decisions to an LLM judge based on factual content, iterating until the budget is met. Across multiple memory frameworks and long-term conversation benchmarks, MemRefine consistently meets target budgets while preserving downstream performance and outperforming rule-based baselines under tight budgets.