Unifying Detection and Adaptation in Task-Free Continual Learning

📄 arXiv: 2608.27070v1 📥 PDF

作者: Dezheng Han, Anbang Zhang, Zhihao Zhu, Shuaishuai Guo

分类: cs.LG, cs.CL

发布日期: 2026-08-27

备注: Accepted to Findings of EMNLP 2026

💡 一句话要点

提出FiUni框架以解决无任务边界的持续学习问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 持续学习 Fisher信息矩阵 低秩适应 任务检测 参数效率 大语言模型 知识共享 任务隔离

📋 核心要点

  1. 现有的持续学习方法在处理无任务边界的场景时，往往依赖于明确的任务划分，导致适用性受限。
  2. 本文提出的FiUni框架利用Fisher信息矩阵的特性，构建冻结子空间以实现低秩适应，动态调整知识共享与任务隔离。
  3. 实验结果显示，FiUni在推断批级任务归属方面表现优异，并在参数效率上优于先进的任务感知持续学习方法。

📝 摘要（中文）

为了解决大语言模型在下游持续学习中面临的灾难性遗忘问题，现有方法通常依赖于参数更新的约束或引入任务特定的适应模块。然而，这些方法通常需要明确的任务边界，限制了其在真实无任务场景中的适用性。本文提出了一种基于Fisher信息矩阵的统一框架FiUni，旨在实现批级任务检测和参数高效的持续适应。FiUni通过构建FIM导出的冻结子空间来指导低秩适应，并动态匹配每个批次窗口的Fisher主子空间与历史子空间，从而自适应地决定是重用现有知识、扩展相关子空间还是创建新子空间。实验表明，FiUni能够有效推断潜在的批级任务归属，并在可训练参数更少的情况下实现与先进的任务感知持续学习方法的竞争性能。

🔬 方法详解

问题定义：本文旨在解决大语言模型在持续学习中面临的灾难性遗忘问题，现有方法通常依赖于明确的任务边界，限制了其在无任务场景中的应用。

核心思路：FiUni框架的核心思想是利用Fisher信息矩阵的正交性来反映不同任务之间的相似性，从而实现批级任务检测和参数高效的适应。

技术框架：FiUni的整体架构包括三个主要模块：FIM导出的冻结子空间、低秩适应（LoRA）和历史子空间匹配。通过这些模块，FiUni能够动态决定如何处理新任务。

关键创新：FiUni的创新点在于利用Fisher信息矩阵的特性来构建冻结子空间，并通过匹配主子空间来实现任务的动态适应，这与传统方法依赖于明确任务边界的方式有本质区别。

关键设计：FiUni在参数设置上采用了低秩适应技术，损失函数设计上考虑了任务相似性，网络结构上则通过FIM导出子空间来优化模型的适应性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，FiUni在推断批级任务归属方面表现出色，能够在参数数量更少的情况下实现与先进的任务感知持续学习方法相当的性能，展示了其在实际应用中的潜力和优势。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、机器人学习和自适应系统等。在这些领域，FiUni框架能够有效应对任务变化带来的挑战，提升模型的学习效率和适应能力，具有重要的实际价值和未来影响。

📄 摘要（原文）

To mitigate catastrophic forgetting in downstream continual learning (CL) for large language models (LLMs), existing methods typically constrain parameter updates or introduce task-specific adaptation modules. However, these methods often rely on explicit task boundaries during training, limiting their applicability to realistic task-free scenarios. In this paper, we propose a \textbf{Fi}sher-guided \textbf{uni}fied (\textbf{FiUni}) framework for batch-level task detection and parameter-efficient continual adaptation. FiUni is motivated by a key observation about the Fisher information matrix (FIM) of pre-trained models: the orthogonality among the principal subspaces of its Kronecker-Factored Approximate Curvature (K-FAC) approximation, estimated from a small number of downstream task samples, can reflect the similarity between different tasks. Based on this observation, FiUni constructs FIM-derived frozen subspaces to guide low-rank adaptation (LoRA), while matching the Fisher principal subspace of each incoming batch window with historical subspaces. This enables FiUni to adaptively determine whether to reuse existing knowledge, expand a related subspace, or create a new subspace, dynamically balancing knowledge sharing and task isolation. Experiments show that FiUni can effectively infer latent batch-level task affiliations and achieve competitive performance against advanced task-aware CL methods with fewer trainable parameters.