A Six-Dimensional Taxonomy of Post-Training Adaptation Techniques with Applications in AI Governance
作者: Fardin Afdideh, Fernando Seoane, Farhad Abtahi
分类: cs.LG
发布日期: 2026-08-06
💡 一句话要点
提出六维分类法以整合后训练适应技术
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 后训练适应 六维分类法 机器学习治理 技术文献 模型变更跟踪 深度学习 多模态模型
📋 核心要点
- 现有后训练适应技术文献零散，缺乏统一的比较框架，导致难以理解不同方法的优劣。
- 论文提出六维分类法，系统化后训练适应技术，帮助研究者更好地理解和应用这些技术。
- 通过分类和关系映射，论文为技术文档、模型变更跟踪和治理分析提供了新的词汇支持。
📝 摘要（中文）
后训练适应已成为现代机器学习实践的核心，涵盖了再训练、微调、参数高效适应等多种技术。然而，现有文献在技术类别、模型类型和部署场景上仍显得零散，难以比较方法或描述训练模型的修改方式。本文综述了后训练适应文献，提出了一种六维分类法，按机制、目标、数据需求、持久性、结构范围和模型类型进行组织。该分类法区分了常被混淆的术语，并展示了适应策略如何从传统机器学习演变至深度学习和多模态大语言模型。最后，本文识别了在评估、可重复性和多模态适应等方面的开放挑战。
🔬 方法详解
问题定义：本文旨在解决后训练适应技术文献的零散性和缺乏统一比较框架的问题。现有方法在术语和技术分类上存在混淆，影响了研究者的理解和应用。
核心思路：论文提出的六维分类法通过机制、目标、数据需求、持久性、结构范围和模型类型等维度，系统化后训练适应技术，帮助研究者清晰理解不同方法的特点和适用场景。
技术框架：整体架构包括文献综述、分类法构建和技术关系映射三个主要模块。文献综述部分梳理了现有技术，分类法构建则基于六个维度进行系统化整理，最后通过关系映射展示技术间的继承、替代和混合关系。
关键创新：最重要的创新点在于提出了六维分类法，明确区分了微调、检索增强和提示等常被混淆的术语，填补了现有文献在分类和比较上的空白。
关键设计：在分类法设计中，考虑了不同技术的适用性和持久性，确保分类法能够适应快速发展的机器学习领域，并为后续研究提供基础。
🖼️ 关键图片
📊 实验亮点
论文通过构建六维分类法，成功整合了多种后训练适应技术，提供了清晰的技术关系映射。这一创新为后续研究提供了新的视角，促进了技术的标准化和比较，具有重要的学术和实践价值。
🎯 应用场景
该研究的潜在应用领域包括机器学习模型的治理、技术文档的编写和模型变更的跟踪。通过提供统一的分类框架，研究者和工程师可以更有效地选择和应用后训练适应技术，从而提升模型的性能和可靠性。
📄 摘要（原文）
Post-training adaptation has become central to modern machine learning practice and includes techniques such as retraining, fine-tuning, parameter-efficient adaptation, alignment, retrieval augmentation, model editing, unlearning, calibration, and Multimodal Instruction Tuning. However, the literature remains fragmented across technique families, model classes, and deployment contexts, making it difficult to compare methods or describe how a trained model has been modified. This survey synthesizes the post-training adaptation literature and introduces a six-dimensional taxonomy organized by mechanism, goal, data requirement, persistence, structural scope, and model type. The taxonomy distinguishes commonly conflated terms such as fine-tuning, retrieval augmentation, and prompting, and shows how adaptation strategies evolve from traditional machine learning through deep learning, foundation models, large language models, and multimodal large language models. It also maps relationships among techniques, including inheritance, supersession, hybridization, and layered deployment stacks. The resulting vocabulary can support technical documentation, model-change tracking, and governance analysis. The survey concludes by identifying open challenges in evaluation, reproducibility, persistent inference-time adaptation, unlearning, multimodal adaptation, and governance-aware post-training workflows.