Neural Subspace Reallocation: Continual Learning as Retrieval-Based Subspace Memory Management

📄 arXiv: 2606.30067v1 📥 PDF

作者: Byeong Hoon Yoon

分类: cs.LG, cs.AI, cs.CV

发布日期: 2026-06-29

备注: 9 pages, 1 figure

💡 一句话要点

提出神经子空间重新分配以解决持续学习中的记忆管理问题

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 持续学习 记忆管理 低秩适应 任务知识库 相似性检索 参数压缩 智能系统 机器学习

📋 核心要点

  1. 现有的持续学习方法通常将任务适应模块视为一次性使用，导致记忆管理效率低下。
  2. NSR通过将低秩适应模块视为可压缩、可检索的记忆单元，提出了一种新的记忆管理机制。
  3. 在Split-CIFAR-100和异构数据集上，NSR显著提高了准确率并减少了任务间的遗忘，验证了其有效性。

📝 摘要（中文）

我们介绍了神经子空间重新分配（NSR），将持续学习重新定义为参数子空间的记忆管理。NSR通过一个循环过程管理低秩适应（LoRA）模块，具体步骤包括：通过奇异值分解（SVD）压缩已学习的LoRA，将其保存在任务知识库中，通过嵌入相似性召回相关的过去LoRA以热启动新任务或返回任务，并相应地重新分配活动子空间，同时通过蒸馏保护先前任务。我们证明在循环环境中，任何无记忆的分配策略相较于基于知识库的历史感知策略都会产生累积遗憾。实验证明，NSR在Split-CIFAR-100上将循环恢复时间减少了10倍，并在异构5个数据集基准上实现了最高的准确率和最小的遗忘，接近零的向后转移。我们的研究发现，记忆机制而非学习的分配策略驱动了固定容量下的持续学习性能。

🔬 方法详解

问题定义：论文旨在解决持续学习中的记忆管理问题，现有方法往往将任务适应模块视为一次性使用，导致信息的浪费和效率低下。

核心思路：NSR通过将低秩适应模块（LoRA）视为可压缩和可检索的记忆单元，利用历史任务的知识来支持新任务的学习，从而提高学习效率和准确性。

技术框架：NSR的整体架构包括四个主要步骤：首先，通过奇异值分解（SVD）压缩已学习的LoRA；其次，将这些LoRA保存在任务知识库中；接着，通过嵌入相似性召回相关的LoRA以热启动新任务；最后，重新分配活动子空间，并通过蒸馏保护先前任务。

关键创新：NSR的核心创新在于将记忆机制（压缩和相似性检索）作为驱动持续学习性能的关键，而非依赖于复杂的学习分配策略，这一设计显著提高了学习效率。

关键设计：在设计中，NSR保持了任务知识库的固定大小，确保每个任务仅占用0.29 MB的参数内存，同时设定了top-K保留上限，以控制总内存占用并加快恢复速度。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果显示，NSR在Split-CIFAR-100上将循环恢复时间减少了10倍，并在异构5个数据集上实现了最高的准确率和最小的遗忘，向后转移接近零，相较于无记忆的启发式方法，表现出约9倍的提升。

🎯 应用场景

该研究的潜在应用领域包括机器人学习、智能助手和自动驾驶等需要持续学习的场景。通过有效的记忆管理，NSR能够在动态环境中快速适应新任务，提升系统的智能化水平和用户体验。未来，NSR的思路可能会推动更多高效的持续学习算法的发展。

📄 摘要（原文）

We introduce Neural Subspace Reallocation (NSR), which reframes continual learning as memory management over parameter subspaces. Instead of treating Low-Rank Adaptation (LoRA) modules as disposable per-task adapters, NSR manages them as compressible, retrievable memory units on a frozen backbone through a recurring cycle: (1) compress learned LoRAs via SVD, (2) reserve them in a TaskKnowledgeBank, (3) recall related past LoRAs by embedding similarity to warm-start new or returning tasks, and (4) reallocate the active subspace accordingly, with distillation protecting prior tasks. We prove that in cyclic environments any memoryless allocation policy incurs cumulative regret Omega(T(M-1)Delta_switch) relative to a history-aware policy backed by the Bank (Theorem 1). Empirically, on Split-CIFAR-100 the Bank reduces cyclic recovery time by 10x, exactly as predicted, and on the heterogeneous 5-Datasets benchmark NSR achieves the highest accuracy and the least forgetting, about 9x closer to zero backward transfer than the memoryless heuristics. Crucially, we run a controlled study that isolates which component matters: holding the Bank fixed and varying only the allocation rule, we find that a simple similarity-based retrieval rule matches or beats a learned reinforcement-learning controller (recovering recurring tasks in 0 vs 1.8 steps and reaching equal accuracy). Our central, honest finding is therefore that the memory mechanism -- compression and similarity retrieval -- rather than a learned allocation policy, drives continual-learning performance under fixed capacity. A memory-budget analysis confirms the compressed Bank stays small -- 0.29 MB of parameter memory per task -- so a top-K retention cap bounds the total footprint while preserving fast recovery for retained tasks.