MemRefine: LLM-Guided Compression for Long-Term Agent Memory

📄 arXiv: 2606.13177v1 📥 PDF

作者: Minjae Kim, Jinheon Baek, Soyeong Jeong, Sung Ju Hwang

分类: cs.CL, cs.AI, cs.LG

发布日期: 2026-06-11

💡 一句话要点

提出MemRefine以解决长时间交互中的记忆管理问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长时间交互 记忆管理 大型语言模型 信息压缩 资源优化

📋 核心要点

  1. 现有的记忆管理方法在长期交互中容易产生冗余信息，导致存储成本增加和检索效率下降。
  2. MemRefine通过LLM引导的方式，利用相似性提出候选对，并基于事实内容进行决策，从而优化记忆存储。
  3. 在多个实验中，MemRefine在满足存储预算的同时，保持了良好的下游任务性能，超越了传统的基于规则的方法。

📝 摘要（中文）

随着大型语言模型（LLM）代理在长期交互中的应用日益增加，如何有效管理和压缩记忆存储成为一项重要挑战。现有方法在信息累积时，容易产生冗余条目，导致存储成本增加和检索性能下降。为此，本文提出了MemRefine，一个基于LLM的框架，通过利用相似性来提出候选对，并将删除、合并和保留的决策交由LLM进行判断，确保在固定预算内保留有用信息。实验结果表明，MemRefine在多个记忆框架和长期对话基准上均能有效满足预算要求，同时保持下游性能，优于基于规则的基线方法。

🔬 方法详解

问题定义：本文旨在解决在长期交互中，如何有效管理和压缩记忆存储的问题。现有方法在信息累积时，容易产生冗余条目，导致存储成本增加和检索性能下降。

核心思路：MemRefine的核心思路是利用大型语言模型（LLM）来指导记忆管理，通过相似性提出候选对，并基于事实内容进行删除、合并和保留的决策，确保在固定预算内保留最有用的信息。

技术框架：MemRefine的整体架构包括候选对生成模块和LLM判断模块。首先，通过相似性计算生成候选对，然后利用LLM对这些候选对进行评估，决定哪些信息需要删除、合并或保留，直到满足存储预算。

关键创新：MemRefine的创新点在于将相似性仅用于候选对的生成，而将决策过程交给LLM，这种设计使得记忆管理更加灵活和高效，克服了传统方法的局限性。

关键设计：在实现过程中，MemRefine采用了特定的相似性度量来生成候选对，并设计了适应性预算控制机制，确保在不同的资源限制下均能有效工作。

📊 实验亮点

在多个记忆框架和长期对话基准上，MemRefine成功满足了存储预算要求，同时保持了下游任务的性能。与基于规则的方法相比，MemRefine在紧张预算下的表现显著提升，展示了其在实际应用中的优势。

🎯 应用场景

MemRefine的研究成果具有广泛的应用潜力，特别是在资源受限的智能设备和长期交互的人工智能助手中。通过优化记忆管理，该方法能够提升用户体验，降低存储成本，并为未来的智能系统提供更高效的记忆处理能力。

📄 摘要（原文）

Large language model (LLM) agents are increasingly expected to operate over long-term interactions, where information from past dialogues must be preserved and recalled to support future tasks. However, as interactions accumulate, the memory store grows without bound and fills with redundant entries that inflate storage cost and degrade retrieval by crowding out the most useful evidence. Furthermore, this is especially limiting on resource-constrained platforms with hard memory budgets, motivating us to formulate storage-budgeted memory management, the task of keeping an already constructed memory store within a fixed budget while preserving information useful for future interactions. To this end, we then propose MemRefine, an LLM-guided framework that, since surface similarity poorly reflects factual value, uses similarity only to propose candidate pairs and defers delete, merge, and preserve decisions to an LLM judge based on factual content, iterating until the budget is met. Across multiple memory frameworks and long-term conversation benchmarks, MemRefine consistently meets target budgets while preserving downstream performance and outperforming rule-based baselines under tight budgets.