Memory Contagion: Cross-Temporal Propagation of Evaluator Bias via Agent Memory

📄 arXiv: 2606.23195v1 📥 PDF

作者: Zewen Liu

分类: cs.LG, cs.AI, cs.CL

发布日期: 2026-06-22

备注: 12 pages, 3 figures, 4 tables

💡 一句话要点

提出记忆传播机制以解决评估者偏见问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 记忆传播 评估者偏见 大型语言模型 代理记忆 偏见整合 跨时间传播 智能代理 公平性

📋 核心要点

  1. 现有方法假设记忆源于无偏见的经验，但在偏见评估者指导下，代理的记忆会受到影响，导致偏见传播。
  2. 本文提出记忆传播机制，揭示偏见如何通过代理记忆跨时间传播，强调偏见输入是传播的充分原因。
  3. 实验结果表明，记忆传播在完美整合下依然存在，且不同偏见类型对整合的影响相反，未发现安全阈值。

📝 摘要（中文）

大型语言模型（LLM）代理越来越依赖记忆系统以维持长期一致性。近期研究表明，代理的记忆在持续整合过程中会退化。然而，现有研究假设记忆源于无偏见的经验。本文识别并形式化了一种新现象：记忆传播，即评估者偏见通过代理记忆的跨时间传播。我们展示了当代理受到偏见评估者的训练或指导时，其经验会变得偏见；当这些轨迹存储并整合到记忆中时，偏见会传播到未来从同一记忆存储中检索的代理，即使整合是完美的。通过两种偏见类型和四个实验阶段，我们证明了记忆传播的存在及其特性。

🔬 方法详解

问题定义：本文旨在解决代理记忆中评估者偏见的传播问题。现有方法未考虑偏见输入对记忆的影响，导致偏见在未来代理中持续存在。

核心思路：论文的核心思路是识别和形式化记忆传播现象，证明偏见输入是记忆中偏见传播的主要原因。通过实验验证不同偏见类型对记忆整合的影响，揭示了偏见传播的机制。

技术框架：研究采用实验设计，分为多个阶段，包括偏见输入的生成、记忆的存储与整合、以及未来代理的偏见检验。主要模块包括偏见评估者、代理记忆系统和偏见传播检测。

关键创新：最重要的技术创新在于识别了记忆传播这一新现象，证明了即使在完美整合条件下，偏见依然会传播，与现有方法的假设形成鲜明对比。

关键设计：实验中设置了不同的偏见类型（长度偏见和权威偏见），并通过多轮实验验证了偏见传播的存在，关键参数包括偏见输入的比例和整合方式。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，在完美整合条件下，偏见传播依然存在，且在偏见输入比例为0.2时即可检测到偏见传播。不同偏见类型对记忆整合的影响存在显著差异，长度偏见被有效减弱，而权威偏见则有所放大，揭示了偏见传播的复杂性。

🎯 应用场景

该研究的潜在应用领域包括智能代理系统、教育技术和人机交互等。通过理解记忆传播机制，可以设计出更为健壮的代理记忆系统，减少偏见对决策的影响，从而提升系统的公平性和可靠性。

📄 摘要（原文）

Large Language Model (LLM) agents increasingly rely on memory systems to maintain long-term coherence. Recent work shows that agent memories degrade during continuous consolidation. However, existing research assumes memories are derived from unbiased experiences. In this work, we identify and formalize a novel phenomenon: Memory Contagion -- the cross-temporal propagation of evaluator bias through agent memory. We show that when agents are trained or guided by biased evaluators, their experiences become biased; when these trajectories are stored and consolidated into memory, the bias propagates to future agents retrieving from the same memory store, even when consolidation is perfect (oracle). Across two bias types (length preference, authority bias) and four experimental phases, we demonstrate: (1) Memory Contagion occurs even with perfect consolidation (oracle condition), proving that biased input is a sufficient cause of contagion; (2) Consolidation has opposite effects depending on bias type -- robustly attenuating length bias while preliminarily amplifying authority bias (single-run estimate), suggesting a bias-type-dependent interaction; (3) No observed safe threshold: bias propagation is detected at contamination rates as low as p=0.2. Our findings expose a critical vulnerability in current agent memory designs and provide formal tools for measuring cross-temporal bias propagation.