KOPPA: Improving Prompt-based Continual Learning with Key-Query Orthogonal Projection and Prototype-based One-Versus-All
作者: Quyen Tran, Hoang Phan, Lam Tran, Khoat Than, Toan Tran, Dinh Phung, Trung Le
分类: cs.LG, cs.CV
发布日期: 2023-11-26 (更新: 2024-11-20)
💡 一句话要点
提出KOPPA以解决持续学习中的特征迁移问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 持续学习 关键-查询匹配 正交投影 原型学习 模型无关元学习 特征迁移 分类头
📋 核心要点
- 现有方法在处理旧任务查询与新任务关键之间的相关性时存在控制不足的问题，导致特征迁移困难。
- 本文提出了一种基于正交投影的关键-查询学习策略，旨在提高提示匹配效率并应对特征迁移的挑战。
- 实验结果显示，所提方法在基准数据集上的表现超越了现有最先进的方法，提升幅度达到20%。
📝 摘要（中文）
受启发于应用于大型语言模型的提示调优技术，基于预训练ViT网络的最新方法在持续学习领域取得了显著成果。这些方法通过维护一组提示并利用关键-查询匹配策略为每个任务分配子集。然而，当缺乏对旧任务查询与未来任务关键之间的相关性控制时，可能会遇到限制。本文提出了一种基于正交投影的关键-查询学习策略，以提高提示匹配效率，并解决特征迁移的挑战。此外，我们引入了一种基于原型的一对多（OVA）组件，以增强分类头的区分性。实验结果表明，我们的方法使模型的性能超越当前最先进的方法，提升幅度可达20%。
🔬 方法详解
问题定义：本文旨在解决持续学习中旧任务与新任务之间特征迁移的问题。现有方法在关键-查询匹配时缺乏对特征相关性的有效控制，导致模型性能下降。
核心思路：提出了一种基于正交投影的关键-查询学习策略，借鉴模型无关的元学习方法，以提高提示匹配的效率，并有效应对特征迁移带来的挑战。
技术框架：整体架构包括两个主要模块：正交投影模块和基于原型的一对多分类模块。正交投影模块用于优化关键-查询匹配，而OVA模块则增强了分类头的区分能力。
关键创新：最重要的创新在于引入正交投影策略，这一设计使得模型能够更好地处理特征迁移问题，与传统方法相比具有显著的性能提升。
关键设计：在参数设置上，采用了适应性学习率和特定的损失函数，以确保模型在不同任务间的有效迁移。此外，网络结构中引入了原型学习机制，以增强分类的准确性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，KOPPA方法在多个基准数据集上均取得了显著的性能提升，超过了现有最先进的方法，提升幅度高达20%。这一结果展示了所提方法在持续学习领域的有效性和优越性。
🎯 应用场景
该研究具有广泛的应用潜力，尤其在需要持续学习的场景中，如自动驾驶、智能机器人和个性化推荐系统等领域。通过提高模型在新任务学习中的表现，能够有效提升系统的智能化水平和适应能力，具有重要的实际价值和未来影响。
📄 摘要（原文）
Drawing inspiration from prompt tuning techniques applied to Large Language Models, recent methods based on pre-trained ViT networks have achieved remarkable results in the field of Continual Learning. Specifically, these approaches propose to maintain a set of prompts and allocate a subset of them to learn each task using a key-query matching strategy. However, they may encounter limitations when lacking control over the correlations between old task queries and keys of future tasks, the shift of features in the latent space, and the relative separation of latent vectors learned in independent tasks. In this work, we introduce a novel key-query learning strategy based on orthogonal projection, inspired by model-agnostic meta-learning, to enhance prompt matching efficiency and address the challenge of shifting features. Furthermore, we introduce a One-Versus-All (OVA) prototype-based component that enhances the classification head distinction. Experimental results on benchmark datasets demonstrate that our method empowers the model to achieve results surpassing those of current state-of-the-art approaches by a large margin of up to 20%.