Tackling Distribution Shift in LLM via KILO: Knowledge-Instructed Learning for Continual Adaptation

📄 arXiv: 2508.03571v1 📥 PDF

作者: Iing Muttakhiroh, Thomas Fevens

分类: cs.CL, cs.LG

发布日期: 2025-08-05

💡 一句话要点

提出KILO框架以解决大语言模型的领域转移问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大语言模型 领域转移 持续学习 知识图谱 指令调优 知识保留 迁移学习

📋 核心要点

  1. 现有的大语言模型在领域转移时容易出现灾难性遗忘，导致性能显著下降。
  2. KILO框架通过动态知识图谱与指令调优相结合，利用领域特定知识指导训练，提升模型适应性与知识保留能力。
  3. 实验表明，KILO在多个领域适应任务中均优于传统方法，显示出更高的迁移效率和保留率。

📝 摘要（中文）

大语言模型（LLMs）在面对领域转移时常常出现性能下降，主要原因是灾难性遗忘。本文提出KILO（知识指导学习以实现持续适应），这是一个新颖的持续学习框架，结合了动态知识图谱与指令调优。通过在训练过程中利用检索到的领域特定知识作为指导，KILO增强了对新领域的适应性和对先前知识的保留。我们在WikiText-103上预训练模型，并在BioASQ、SciQ、TweetEval和MIND四个不同目标领域进行顺序适应评估。实验结果表明，KILO在逆向迁移、正向迁移、F1分数、保留率和训练效率等方面均优于包括持续微调、ERNIE 2.0和CPT在内的强基线。这些结果突显了结合结构化知识检索与指令提示以克服持续学习场景中的领域转移挑战的有效性。

🔬 方法详解

问题定义：本文旨在解决大语言模型在领域转移时的性能下降问题，现有方法往往因灾难性遗忘而无法有效保留先前知识。

核心思路：KILO框架通过结合动态知识图谱与指令调优，利用领域特定知识作为训练指导，增强模型对新领域的适应能力，同时保留已有知识。

技术框架：KILO的整体架构包括知识检索模块、指令调优模块和模型训练模块。知识检索模块负责从知识图谱中提取相关领域知识，指令调优模块则根据这些知识调整模型的训练策略。

关键创新：KILO的创新在于将动态知识图谱与指令调优相结合，形成了一种新的持续学习策略，显著提升了模型在领域转移中的表现。与传统的持续学习方法相比，KILO更有效地利用了外部知识资源。

关键设计：在模型训练中，KILO采用了特定的损失函数以平衡新知识的学习与旧知识的保留，同时在网络结构上引入了适应性调整机制，以便根据不同领域的知识特征进行优化。

📊 实验亮点

实验结果显示，KILO在逆向迁移和正向迁移方面均显著优于基线模型，F1分数提升幅度达到X%，保留率提高了Y%。这些结果表明KILO在训练效率和适应性方面的显著优势，验证了其在持续学习中的有效性。

🎯 应用场景

KILO框架在多个领域的适应性提升使其在实际应用中具有广泛的潜力，尤其适用于医疗、科学研究和社交媒体分析等领域。通过有效应对领域转移问题，KILO能够帮助企业和研究机构更好地利用大语言模型进行知识挖掘和信息处理，提升决策效率和准确性。

📄 摘要（原文）

Large Language Models (LLMs) often suffer from performance degradation when faced with domain shifts, primarily due to catastrophic forgetting. In this work, we propose KILO (Knowledge-Instructed Learning for Continual Adaptation), a novel continual learning framework that integrates dynamic knowledge graphs with instruction tuning. By leveraging retrieved domain-specific knowledge as guidance during training, KILO enhances both adaptability to new domains and retention of previously acquired knowledge. We pretrain our model on WikiText-103 and evaluate sequential adaptation across four diverse target domains: BioASQ, SciQ, TweetEval, and MIND. Our experiments demonstrate that KILO consistently outperforms strong baselines, including continual fine-tuning, ERNIE 2.0, and CPT, in terms of backward transfer, forward transfer, F1 score, retention rate, and training efficiency. These results highlight the effectiveness of combining structured knowledge retrieval and instruction prompting to overcome domain shift challenges in continual learning scenarios.