Pretraining Data Mixtures Enable Narrow Model Selection Capabilities in Transformer Models

📄 arXiv: 2311.00871v1 📥 PDF

作者: Steve Yadlowsky, Lyric Doshi, Nilesh Tripuraneni

分类: cs.LG, cs.CL, stat.ML

发布日期: 2023-11-01

💡 一句话要点

研究混合预训练数据以增强变换器模型的任务选择能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 变换器模型 上下文学习 预训练数据 任务选择 泛化能力 无监督学习 模型评估

📋 核心要点

  1. 现有的变换器模型在处理超出预训练数据分布的任务时表现不佳，存在泛化能力不足的问题。
  2. 论文通过在受控环境中研究变换器模型在$(x, f(x))$对上的表现，探索其在上下文中识别和学习新任务的能力。
  3. 实验结果表明，变换器在识别与预训练数据相关的任务时表现优异，但在面对新任务时出现多种失败模式，泛化能力下降。

📝 摘要（中文）

本文研究了变换器模型（尤其是大型语言模型）在上下文学习（ICL）中的表现，特别是它们如何利用预训练数据混合来识别和学习新任务。通过在受控环境中对模型进行实验，发现变换器在识别和学习与其预训练数据相关的任务时表现出接近最优的无监督模型选择能力。然而，当面对超出预训练分布的任务时，模型的泛化能力显著下降，揭示了预训练数据覆盖范围对ICL能力的重要性。

🔬 方法详解

问题定义：本文旨在解决变换器模型在面对超出其预训练数据分布的任务时的泛化能力不足问题。现有方法在处理新任务时常常无法有效识别和学习，导致性能下降。

核心思路：论文提出通过研究变换器模型在受控环境中对$(x, f(x))$对的学习能力，来评估其在上下文学习中的任务选择能力。通过对预训练数据混合的分析，探讨其对模型性能的影响。

技术框架：研究采用了变换器模型在特定任务序列上的训练，重点分析模型如何在上下文中识别不同的任务家族，并在这些任务家族内进行学习。实验设计包括多种任务的对比，以评估模型的选择和学习能力。

关键创新：本研究的创新点在于揭示了变换器模型的ICL能力与其预训练数据的覆盖范围密切相关，而非仅依赖于模型的归纳偏置。这一发现为理解模型的泛化能力提供了新的视角。

关键设计：实验中使用了特定的$(x, f(x))$对进行训练，设计了多种任务家族以确保覆盖面，同时评估了模型在不同任务下的表现，关注其选择和学习的能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，变换器模型在识别与预训练数据相关的任务时，表现出接近最优的无监督模型选择能力。然而，当面对超出预训练分布的任务时，模型的泛化能力显著下降，揭示了预训练数据覆盖范围对ICL能力的重要性。

🎯 应用场景

该研究的潜在应用领域包括自然语言处理、机器人控制和智能助手等。通过优化变换器模型的预训练数据选择，可以提升模型在多样化任务中的表现，进而推动智能系统的广泛应用与发展。

📄 摘要（原文）

Transformer models, notably large language models (LLMs), have the remarkable ability to perform in-context learning (ICL) -- to perform new tasks when prompted with unseen input-output examples without any explicit model training. In this work, we study how effectively transformers can bridge between their pretraining data mixture, comprised of multiple distinct task families, to identify and learn new tasks in-context which are both inside and outside the pretraining distribution. Building on previous work, we investigate this question in a controlled setting, where we study transformer models trained on sequences of $(x, f(x))$ pairs rather than natural language. Our empirical results show transformers demonstrate near-optimal unsupervised model selection capabilities, in their ability to first in-context identify different task families and in-context learn within them when the task families are well-represented in their pretraining data. However when presented with tasks or functions which are out-of-domain of their pretraining data, we demonstrate various failure modes of transformers and degradation of their generalization for even simple extrapolation tasks. Together our results highlight that the impressive ICL abilities of high-capacity sequence models may be more closely tied to the coverage of their pretraining data mixtures than inductive biases that create fundamental generalization capabilities.