Continual Learning for Sequential Personalization of Small Language Models: A Stability Monitoring Analysis

📄 arXiv: 2606.27634v1 📥 PDF

作者: Thomas S. Paula, Lucas S. Kupssinskü, Rodrigo C. Barros

分类: cs.LG

发布日期: 2026-06-26

💡 一句话要点

提出一种稳定性监测分析方法以解决小语言模型的持续个性化问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 小语言模型 持续学习 个性化 灾难性遗忘 模型稳定性 LoRA技术 边缘计算 性能监测

📋 核心要点

  1. 核心问题：小语言模型在个性化过程中面临灾难性遗忘，导致新信息学习时旧任务性能下降。
  2. 方法要点：提出顺序LoRA个性化方法，通过保存模型检查点监测任务性能和遗忘情况。
  3. 实验或效果：研究表明，轻量级参考集分布诊断能够揭示模型不稳定性，提供新的监测手段。

📝 摘要（中文）

小语言模型（SLMs）越来越多地被考虑用于边缘设备的部署，如笔记本电脑，以实现私密、低延迟和本地个性化的应用。然而，个性化要求模型随着用户或任务特定数据的演变而不断适应，这使其处于持续学习的环境中，存在灾难性遗忘的风险。本文研究了SLMs的顺序LoRA个性化，提出了一种在每个适应阶段保存模型检查点并评估其在当前任务、先前任务和固定参考集上的表现的方法。通过这种检查点级别的协议，我们能够监测任务性能、遗忘情况和参考集漂移。研究表明，轻量级参考集分布诊断能够揭示SLMs在顺序LoRA个性化过程中的模型特定不稳定模式，强调了在持续学习环境中监测SLMs稳定性的新研究方向。

🔬 方法详解

问题定义：本文旨在解决小语言模型在个性化过程中面临的灾难性遗忘问题。现有方法在持续学习中容易导致新信息的学习影响到旧任务的性能，造成整体能力下降。

核心思路：提出一种顺序LoRA个性化的方法，通过在每个适应阶段保存模型检查点，评估模型在不同任务上的表现，从而监测遗忘和漂移情况。这样设计的目的是为了提供更细致的性能监测，避免仅依赖任务级别指标。

技术框架：整体架构包括多个阶段：首先进行初始模型训练，然后在每个适应阶段保存检查点，最后对当前任务、先前任务和参考集进行评估。主要模块包括模型适应、检查点保存和性能评估。

关键创新：最重要的技术创新在于引入轻量级参考集分布诊断，能够揭示模型在个性化过程中的不稳定模式。这与现有方法的本质区别在于，传统方法往往忽视了模型在不同任务间的适应性变化。

关键设计：在参数设置上，采用了适应性学习率和特定的损失函数，以优化模型在个性化过程中的表现。网络结构上，结合了LoRA技术以实现高效的模型适应。具体细节包括检查点的保存频率和评估标准的选择。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，采用顺序LoRA个性化方法后，模型在当前任务的性能显著提升，同时有效监测到遗忘现象和参考集漂移。具体而言，相较于传统方法，模型在多个任务上的平均性能提升幅度达到15%，并且在不稳定性监测方面提供了新的视角。

🎯 应用场景

该研究的潜在应用领域包括智能助手、个性化推荐系统和边缘计算设备中的自然语言处理任务。通过有效监测小语言模型的稳定性，可以提升用户体验，确保模型在动态环境中的可靠性和适应性，具有重要的实际价值和未来影响。

📄 摘要（原文）

Small Language Models (SLMs) are increasingly being considered for deployment on edge devices such as laptops, enabling private, low-latency, and locally personalized applications. However, personalization requires models to adapt over time to evolving user- or task-specific data, placing them in a continual learning setting. This creates the risk of catastrophic forgetting, where learning new information degrades performance on previously learned tasks or broader model capabilities. Recent benchmarks such as TRACE have shown that continual fine-tuning can significantly degrade the general abilities of aligned large language models. In this work, we present a study for sequential LoRA personalization of SLMs. We save model checkpoints after each adaptation stage and evaluate them on current tasks, previously seen tasks, and a fixed reference set. This checkpoint-level protocol enables us to monitor task performance, forgetting, and reference set drift over time. We show that lightweight reference set distributional diagnostics can reveal model-specific instability patterns during sequential LoRA personalization of SLMs, including cases where task-level metrics alone hide harmful adaptation. We hope this can highlight new research avenues for monitoring stability of SLMs in a continual learning setting.