$Se^2$: Sequential Example Selection for In-Context Learning

📄 arXiv: 2402.13874v3 📥 PDF

作者: Haoyu Liu, Jianfeng Liu, Shaohan Huang, Yuefeng Zhan, Hao Sun, Weiwei Deng, Furu Wei, Qi Zhang

分类: cs.CL

发布日期: 2024-02-21 (更新: 2024-06-06)

备注: Accepted by ACL 2024 Findings

🔗 代码/项目: GITHUB

💡 一句话要点

提出$Se^2$以解决示例选择在上下文学习中的不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 上下文学习 示例选择 序列选择 大型语言模型 自然语言处理 束搜索 模型适应性

📋 核心要点

  1. 现有的示例选择方法多遵循“选择再组织”的范式，忽视示例之间的关系，导致训练与推理不一致。
  2. 本文提出$Se^2$，通过序列选择方法，利用LLM反馈捕捉示例间的关系和序列信息，增强上下文相关性。
  3. $Se^2$在23个NLP任务上表现优异，相较于随机选择实现42%的相对提升，展现出卓越的稳定性和适应性。

📝 摘要（中文）

大型语言模型（LLMs）在上下文学习（ICL）中表现出色，但需要通过示例来激活其能力。现有方法多采用“选择再组织”的范式，忽视了示例之间的内在关系，导致训练与推理之间的不一致。本文将问题表述为一个序列选择问题，提出了$Se^2$，一种关注序列的选择方法，利用LLM对不同上下文的反馈，捕捉示例之间的相互关系和序列信息，显著增强了ICL提示的上下文性和相关性。同时，我们采用束搜索构建示例序列，提高了质量和多样性。通过在8个不同类别的23个NLP任务上的广泛实验，$Se^2$明显超越了竞争基线，相较于随机选择实现了42%的相对提升。深入分析显示了所提策略的有效性，突显了$Se^2$在各种场景下的卓越稳定性和适应性。

🔬 方法详解

问题定义：本文旨在解决上下文学习中示例选择的不足，现有方法往往忽视示例间的内在关系，导致训练和推理阶段的不一致性。

核心思路：$Se^2$通过将示例选择视为序列选择问题，利用LLM对不同上下文的反馈，捕捉示例之间的相互关系，从而增强上下文的相关性和丰富性。

技术框架：该方法的整体架构包括示例选择模块和束搜索模块。示例选择模块负责根据LLM反馈选择相关示例，而束搜索模块则用于构建高质量的示例序列。

关键创新：$Se^2$的主要创新在于其序列感知的选择机制，能够有效捕捉示例间的关系，区别于传统的“选择再组织”方法。

关键设计：在具体实现中，$Se^2$采用了束搜索算法来优化示例序列的构建，确保所选示例在质量和多样性上的平衡。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在23个NLP任务的实验中，$Se^2$显著超越了竞争基线，尤其在示例选择的质量和多样性上表现突出，相较于随机选择实现了42%的相对提升，展现了其卓越的性能和稳定性。

🎯 应用场景

$Se^2$的研究成果在自然语言处理（NLP）领域具有广泛的应用潜力，尤其在需要上下文学习的任务中，如文本生成、问答系统和对话系统等。其方法的有效性和适应性将推动相关技术的进步，提升模型在实际应用中的表现。

📄 摘要（原文）

The remarkable capability of large language models (LLMs) for in-context learning (ICL) needs to be activated by demonstration examples. Prior work has extensively explored the selection of examples for ICL, predominantly following the "select then organize" paradigm, such approaches often neglect the internal relationships between examples and exist an inconsistency between the training and inference. In this paper, we formulate the problem as a $Se$quential $Se$lection problem and introduce $Se^2$, a sequential-aware method that leverages the LLM's feedback on varying context, aiding in capturing inter-relationships and sequential information among examples, significantly enriching the contextuality and relevance of ICL prompts. Meanwhile, we utilize beam search to seek and construct example sequences, enhancing both quality and diversity. Extensive experiments across 23 NLP tasks from 8 distinct categories illustrate that $Se^2$ markedly surpasses competitive baselines and achieves 42\% relative improvement over random selection. Further in-depth analysis shows the effectiveness of proposed strategies, highlighting $Se^2$'s exceptional stability and adaptability across various scenarios. Code available at https://github.com/microsoft/LMOps.