Mitigating Catastrophic Forgetting in Large Language Models with Self-Synthesized Rehearsal

📄 arXiv: 2403.01244v2 📥 PDF

作者: Jianheng Huang, Leyang Cui, Ante Wang, Chengyi Yang, Xinting Liao, Linfeng Song, Junfeng Yao, Jinsong Su

分类: cs.CL, cs.AI

发布日期: 2024-03-02 (更新: 2024-05-25)

备注: ACL 2024 main, long paper

💡 一句话要点

提出自合成复习方法以解决大语言模型的灾难性遗忘问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 灾难性遗忘 持续学习 自合成复习 合成实例生成 数据效率 泛化能力

📋 核心要点

  1. 现有的基于复习的方法依赖于先前的训练数据，导致在缺乏原始数据时无法有效进行持续学习。
  2. 本文提出的自合成复习（SSR）框架通过LLM生成合成实例，避免了对原始数据的依赖。
  3. 实验结果显示，SSR在性能上优于传统方法，并且在数据利用效率上表现更佳。

📝 摘要（中文）

大语言模型（LLMs）在持续学习过程中面临灾难性遗忘的问题。传统的基于复习的方法依赖于先前的训练数据来保持模型能力，但在实际应用中，这种方法可能不可行。为了解决这一挑战，本文提出了一种名为自合成复习（SSR）的框架，该框架利用LLM生成合成实例进行复习。具体而言，首先使用基础LLM进行上下文学习生成合成实例，然后利用最新的LLM对合成输入进行输出精炼，最终选择多样化的高质量合成实例用于后续复习。实验结果表明，SSR在数据效率上优于传统复习方法，同时有效保持了LLM在一般领域的泛化能力。

🔬 方法详解

问题定义：本文旨在解决大语言模型在持续学习中遭遇的灾难性遗忘问题。现有方法通常依赖于先前的训练数据进行复习，但在实际应用中，原始数据可能不可用，导致模型能力的丧失。

核心思路：论文提出的自合成复习（SSR）框架利用LLM生成合成实例进行复习，避免了对原始数据的依赖。通过这种方式，模型能够在没有原始数据的情况下保持其学习能力。

技术框架：SSR框架主要包含三个阶段：首先，使用基础LLM进行上下文学习生成合成实例；其次，利用最新的LLM对这些合成实例进行输出精炼；最后，从中选择多样化的高质量合成实例用于后续的复习。

关键创新：SSR的核心创新在于通过自生成的合成实例进行复习，显著提高了数据利用效率，并有效保持了模型的泛化能力。这一方法与传统依赖原始数据的复习方法本质上不同。

关键设计：在实现过程中，关键设计包括合成实例的生成策略、输出精炼的具体方法，以及多样化实例的选择标准等。这些设计确保了生成实例的质量和多样性，从而提升了复习的效果。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，SSR在与传统复习方法的比较中，性能上达到或超过了基线，且在数据利用效率上表现更佳。具体而言，SSR在多个任务上均显示出显著的提升，验证了其有效性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、对话系统和智能助手等。通过有效解决灾难性遗忘问题，SSR可以帮助大语言模型在不断变化的环境中持续学习，提升其在实际应用中的表现和适应能力，具有重要的实际价值和未来影响。

📄 摘要（原文）

Large language models (LLMs) suffer from catastrophic forgetting during continual learning. Conventional rehearsal-based methods rely on previous training data to retain the model's ability, which may not be feasible in real-world applications. When conducting continual learning based on a publicly-released LLM checkpoint, the availability of the original training data may be non-existent. To address this challenge, we propose a framework called Self-Synthesized Rehearsal (SSR) that uses the LLM to generate synthetic instances for rehearsal. Concretely, we first employ the base LLM for in-context learning to generate synthetic instances. Subsequently, we utilize the latest LLM to refine the instance outputs based on the synthetic inputs, preserving its acquired ability. Finally, we select diverse high-quality synthetic instances for rehearsal in future stages. Experimental results demonstrate that SSR achieves superior or comparable performance compared to conventional rehearsal-based approaches while being more data-efficient. Besides, SSR effectively preserves the generalization capabilities of LLMs in general domains.