PLUG: Leveraging Pivot Language in Cross-Lingual Instruction Tuning

📄 arXiv: 2311.08711v2 📥 PDF

作者: Zhihan Zhang, Dong-Ho Lee, Yuwei Fang, Wenhao Yu, Mengzhao Jia, Meng Jiang, Francesco Barbieri

分类: cs.CL

发布日期: 2023-11-15 (更新: 2024-02-12)

🔗 代码/项目: GITHUB

💡 一句话要点

提出PLUG方法以解决低资源语言指令调优问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 指令调优 低资源语言 枢纽语言 跨语言学习 大型语言模型 自然语言处理 机器翻译

📋 核心要点

  1. 现有的指令调优方法在高资源语言上表现良好，但在低资源语言中由于基础能力不均衡而面临挑战。
  2. 本文提出PLUG方法，利用高资源语言作为枢纽语言，先处理枢纽语言的指令，再生成目标语言的响应。
  3. 实验结果表明，PLUG方法在指令跟随能力上平均提升了29%，并且在不同枢纽语言的应用中表现出良好的适应性。

📝 摘要（中文）

指令调优显著提升了大型语言模型（LLMs）理解和响应人类指令的能力。然而，在低资源语言中的应用面临挑战，主要由于LLMs在不同语言上的基础能力不均衡。为了解决这一问题，本文提出了以高资源语言为中心的生成方法PLUG，利用英语作为枢纽语言，增强低资源语言的指令调优。通过在四种语言（中文、韩文、意大利文和西班牙文）上进行评估，结果显示该方法在指令跟随能力上平均提升了29%。

🔬 方法详解

问题定义：本文旨在解决低资源语言中指令调优的困难，现有方法在高资源语言上表现优异，但在低资源语言上能力不足，导致指令理解和响应效果不佳。

核心思路：PLUG方法的核心思想是利用高资源语言（如英语）作为枢纽语言，先在枢纽语言上处理指令，再生成目标语言的响应，从而提升低资源语言的指令调优效果。

技术框架：整体架构包括两个主要阶段：第一阶段是对指令进行枢纽语言的处理，第二阶段是生成目标语言的响应。模型通过学习枢纽语言与目标语言之间的映射关系，增强了对低资源语言的理解能力。

关键创新：PLUG方法的创新在于引入了枢纽语言的概念，通过这种方式有效地提升了低资源语言的指令跟随能力，与传统方法直接在目标语言上训练的方式形成鲜明对比。

关键设计：在模型训练中，采用了特定的损失函数以优化指令理解和响应生成的质量，同时在网络结构上进行了调整，以适应不同语言之间的转换需求。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，PLUG方法在指令跟随能力上平均提升了29%，相较于直接在目标语言上响应的基线方法，表现出显著的优势。此外，使用不同的枢纽语言进行实验也验证了该方法的灵活性和有效性。

🎯 应用场景

该研究的潜在应用场景包括多语言客服系统、跨语言教育工具以及国际化的智能助手等。通过提升低资源语言的指令理解能力，PLUG方法能够为全球用户提供更优质的服务，具有重要的实际价值和广泛的未来影响。

📄 摘要（原文）

Instruction tuning has remarkably advanced large language models (LLMs) in understanding and responding to diverse human instructions. Despite the success in high-resource languages, its application in lower-resource ones faces challenges due to the imbalanced foundational abilities of LLMs across different languages, stemming from the uneven language distribution in their pre-training data. To tackle this issue, we propose pivot language guided generation (PLUG), an approach that utilizes a high-resource language, primarily English, as the pivot to enhance instruction tuning in lower-resource languages. It trains the model to first process instructions in the pivot language, and then produce responses in the target language. To evaluate our approach, we introduce a benchmark, X-AlpacaEval, of instructions in 4 languages (Chinese, Korean, Italian, and Spanish), each annotated by professional translators. Our approach demonstrates a significant improvement in the instruction-following abilities of LLMs by 29% on average, compared to directly responding in the target language alone. Further experiments validate the versatility of our approach by employing alternative pivot languages beyond English to assist languages where LLMs exhibit lower proficiency. Our code and data are available at https://github.com/ytyz1307zzh/PLUG.