Neural Procedural Memory: Empowering LLM Agents with Implicit Activation Steering

📄 arXiv: 2606.29824v1 📥 PDF

作者: Chengfeng Zhao, Yuqiao Tan, Shizhu He, Yequan Wang, Jun Zhao, Kang Liu

分类: cs.CL, cs.AI

发布日期: 2026-06-29

💡 一句话要点

提出神经程序记忆以解决LLM代理的持续记忆问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 自主代理 程序记忆 隐式激活引导 任务执行 机器学习 智能系统

📋 核心要点

  1. 当前大型语言模型在自主代理中的应用面临持续记忆不足的挑战，导致任务执行效果不佳。
  2. 本文提出神经程序记忆（NPM），通过隐式激活引导代替显式指令，直接激活任务相关的神经机制。
  3. 实验结果表明，NPM在四个基准任务中表现与显式指令相当，且结合隐式与显式方法可提升任务执行的稳健性。

📝 摘要（中文）

尽管大型语言模型（LLMs）在静态求解方面表现出色，但将其转变为自主代理仍然面临挑战。这一转变需要持续的环境交互，而当前的代理缺乏必要的持久程序记忆。现有方法主要采用检索增强生成（RAG）将显式文本指导注入模型上下文，但仅依赖符号指令可能导致文本与行动之间的脱节，常常无法激活正确任务执行所需的内部表征。为此，本文提出了神经程序记忆（NPM），一种通过隐式激活引导而非显式指令来表示代理记忆的无训练框架。通过将程序技能从历史对比经验中提炼为激活空间中的引导向量，NPM直接激活与任务相关的神经机制以指导任务执行。四个代理基准的评估表明，NPM的表现与使用显式文本指令的基线相当，且隐式引导与显式工作流程的结合提供了互补优势，从而实现更稳健的任务执行。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在自主代理中的持续记忆不足问题。现有方法依赖显式文本指令，导致文本与行动之间的脱节，无法有效激活内部表征。

核心思路：论文提出神经程序记忆（NPM），通过隐式激活引导来表示代理记忆。该方法通过从历史对比经验中提炼程序技能，生成激活空间中的引导向量，直接激活与任务相关的神经机制。

技术框架：NPM的整体架构包括数据收集、经验对比、引导向量生成和任务执行四个主要模块。首先，收集代理的历史经验并进行对比分析，然后生成引导向量，最后利用这些向量指导任务执行。

关键创新：NPM的核心创新在于通过隐式激活引导替代显式指令，形成了一种新的代理记忆管理方式。这一方法能够更有效地激活神经机制，克服了传统方法的局限性。

关键设计：在设计上，NPM不需要额外的训练过程，依赖于历史经验的对比分析来生成引导向量。具体的参数设置和损失函数设计尚未详细披露，可能为未知。引导向量的结构化设计确保了任务逻辑的一致性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，NPM在四个基准任务中的表现与使用显式文本指令的基线相当，且在结合隐式引导与显式工作流程时，任务执行的稳健性显著提升，具体性能数据尚未披露。

🎯 应用场景

该研究的潜在应用领域包括智能助手、自动化客服和自主机器人等。通过提升代理的持续记忆能力，NPM能够使这些系统在复杂环境中更有效地执行任务，具有重要的实际价值和未来影响。

📄 摘要（原文）

While Large Language Models (LLMs) excel as static solvers, transforming them into autonomous agents remains challenging. This transition requires continuous environmental interaction, yet current agents lack the necessary persistent procedural memory. Existing approaches predominantly employ Retrieval-Augmented Generation (RAG) to inject explicit textual guidelines into model contexts. However, relying solely on symbolic instructions can introduce a text-action disconnect, frequently failing to activate the internal representations necessary for correct task execution. To address this, the paper introduces Neural Procedural Memory (NPM), a training-free framework that represents agent memory through implicit activation steering rather than explicit instructions. By distilling procedural skills from historical contrastive experiences into steering vectors in the activation space, NPM directly activates the task-relevant neural mechanisms to guide task execution. Evaluations across four agent benchmarks show that NPM performs comparably to baselines using explicit textual instructions. Furthermore, the results show that combining implicit steering with explicit workflows provides complementary advantages, leading to more robust task execution. Representational analyses indicate that these steering vectors encode consistent task logic, forming organized structures within the activation space. These findings suggest that implicit activation steering provides a promising approach for managing agent memory.