A Novel Paradigm Boosting Translation Capabilities of Large Language Models

📄 arXiv: 2403.11430v2 📥 PDF

作者: Jiaxin Guo, Hao Yang, Zongyao Li, Daimeng Wei, Hengchao Shang, Xiaoyu Chen

分类: cs.CL

发布日期: 2024-03-18 (更新: 2024-04-15)

备注: Accepted in NAACL 2024

💡 一句话要点

提出新范式以提升大语言模型的翻译能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 机器翻译 大语言模型 跨语言对齐 持续预训练 监督微调 高质量数据 翻译能力提升

📋 核心要点

  1. 现有方法在监督微调（SFT）中效果有限，过于依赖大量平行双语数据，导致效率低下。
  2. 提出的新范式通过三个阶段提升LLMs的跨语言对齐能力，强调高质量双语数据的重要性。
  3. 实验结果显示，经过新方法训练的模型在翻译性能上超越了NLLB-54B和GPT3.5-text-davinci-003，且参数量显著更少。

📝 摘要（中文）

本文研究了增强大语言模型（LLMs）在机器翻译（MT）任务中翻译能力的策略。提出了一种新范式，包括三个阶段：使用大量单语数据的二次预训练、使用逐行文本格式文档的持续预训练，以及利用源语言一致指令进行监督微调。与传统方法依赖大量平行双语数据不同，我们强调使用小规模高质量双语数据的重要性。实验结果表明，经过单语增强的Llama2模型在翻译能力上有显著提升，尤其是在持续预训练阶段的创新设计，使得训练数据需求低于10亿，展现出高效性。我们的研究为机器翻译领域提供了开创性策略。

🔬 方法详解

问题定义：本文旨在解决大语言模型在机器翻译任务中的翻译能力不足，现有方法过于依赖大量平行双语数据，导致效率低下和效果有限。

核心思路：提出一种新范式，强调在预训练阶段增强跨语言对齐能力，而非仅依赖于大量双语数据进行监督微调。通过使用高质量的小规模双语数据，提升模型的翻译能力。

技术框架：该方法分为三个主要阶段：第一阶段是使用大量单语数据进行二次预训练；第二阶段是使用逐行文本格式文档进行持续预训练；第三阶段是利用源语言一致的指令进行监督微调。

关键创新：最重要的创新在于第二阶段的持续预训练，要求的训练数据少于10亿，使得方法高效且易于实施。与传统方法相比，我们的范式更注重数据质量而非数量。

关键设计：在微调过程中，设置与源语言一致的指令以优化监督学习过程，确保模型在翻译任务中能够更好地理解和生成目标语言。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果表明，经过新方法训练的模型在翻译性能上显著优于NLLB-54B和GPT3.5-text-davinci-003，尽管参数量仅为7B或13B，展示了在翻译任务中的高效性和优越性。

🎯 应用场景

该研究的潜在应用领域包括多语言翻译系统、跨语言信息检索以及国际化软件开发等。通过提升大语言模型的翻译能力，可以更好地服务于全球用户，促进不同语言文化之间的交流与理解，具有重要的实际价值和未来影响。

📄 摘要（原文）

This paper presents a study on strategies to enhance the translation capabilities of large language models (LLMs) in the context of machine translation (MT) tasks. The paper proposes a novel paradigm consisting of three stages: Secondary Pre-training using Extensive Monolingual Data, Continual Pre-training with Interlinear Text Format Documents, and Leveraging Source-Language Consistent Instruction for Supervised Fine-Tuning. Previous research on LLMs focused on various strategies for supervised fine-tuning (SFT), but their effectiveness has been limited. While traditional machine translation approaches rely on vast amounts of parallel bilingual data, our paradigm highlights the importance of using smaller sets of high-quality bilingual data. We argue that the focus should be on augmenting LLMs' cross-lingual alignment abilities during pre-training rather than solely relying on extensive bilingual data during SFT. Experimental results conducted using the Llama2 model, particularly on Chinese-Llama2 after monolingual augmentation, demonstrate the improved translation capabilities of LLMs. A significant contribution of our approach lies in Stage2: Continual Pre-training with Interlinear Text Format Documents, which requires less than 1B training data, making our method highly efficient. Additionally, in Stage3, we observed that setting instructions consistent with the source language benefits the supervised fine-tuning process. Experimental results demonstrate that our approach surpasses previous work and achieves superior performance compared to models such as NLLB-54B and GPT3.5-text-davinci-003, despite having a significantly smaller parameter count of only 7B or 13B. This achievement establishes our method as a pioneering strategy in the field of machine translation.