GenTranslate: Large Language Models are Generative Multilingual Speech and Machine Translators

📄 arXiv: 2402.06894v2 📥 PDF

作者: Yuchen Hu, Chen Chen, Chao-Han Huck Yang, Ruizhe Li, Dong Zhang, Zhehuai Chen, Eng Siong Chng

分类: cs.CL, cs.AI, cs.LG, cs.SD, eess.AS

发布日期: 2024-02-10 (更新: 2024-05-16)

备注: 18 pages, Accepted by ACL 2024. This work is open sourced at: https://github.com/YUCHEN005/GenTranslate

💡 一句话要点

提出GenTranslate以解决多语言翻译质量不足问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多语言翻译 大型语言模型 生成模型 机器翻译 推理能力 数据集构建 性能提升

📋 核心要点

  1. 现有的翻译方法在推理过程中未能充分利用N-best假设中的丰富信息，导致翻译质量不足。
  2. 本文提出的GenTranslate方法利用大型语言模型生成更高质量的翻译结果，整合N-best候选中的信息。
  3. 在多个翻译基准上，GenTranslate显著超越了当前最先进的模型，展示了其有效性和优势。

📝 摘要（中文）

近年来，大型语言模型（LLMs）的进步推动了多语言语音和机器翻译的发展，减少了表示错误并整合了外部知识。然而，现有的翻译任务通常采用束搜索解码和顶级假设选择进行推理，这些技术未能充分利用N-best假设中的丰富信息，导致翻译结果的质量不高。本文提出了一种新的生成范式“GenTranslate”，基于LLMs生成更优质的翻译结果，充分利用N-best候选中的丰富信息。此外，为支持LLM的微调，我们构建并发布了HypoTranslate数据集，包含超过592K个假设-翻译对，覆盖11种语言。实验结果表明，GenTranslate在多个翻译基准上显著优于现有最先进模型。

🔬 方法详解

问题定义：本文旨在解决现有翻译方法在推理过程中未能充分利用N-best假设中的信息的问题。传统的束搜索和顶级假设选择方法限制了翻译结果的质量，无法生成单一高质量的输出序列。

核心思路：GenTranslate方法的核心思想是基于大型语言模型生成翻译结果，通过整合N-best候选中的丰富信息，提升翻译质量。这种方法充分利用了LLMs的语言知识和推理能力。

技术框架：GenTranslate的整体架构包括数据准备、模型训练和推理三个主要阶段。首先，构建HypoTranslate数据集以支持模型的微调；其次，利用LLMs进行翻译生成；最后，通过生成的多样化候选进行结果整合。

关键创新：GenTranslate的主要创新在于其生成范式，能够从N-best候选中提取信息生成更优质的翻译结果。这与传统方法的束搜索和顶级假设选择形成了本质区别。

关键设计：在模型设计中，采用了特定的损失函数以优化翻译质量，并通过微调策略提升模型的适应性。此外，数据集的构建也考虑了多语言的覆盖，以增强模型的泛化能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在多个翻译基准（如FLEURS、CoVoST-2、WMT）上的实验结果显示，GenTranslate显著超越了现有最先进模型，提升幅度达到X%（具体数据未知），证明了其在多语言翻译任务中的有效性和优势。

🎯 应用场景

该研究的潜在应用领域包括多语言翻译系统、语音识别与翻译服务、跨语言信息检索等。通过提升翻译质量，GenTranslate能够在国际交流、商业合作和文化传播等方面发挥重要作用，未来可能对全球化进程产生深远影响。

📄 摘要（原文）

Recent advances in large language models (LLMs) have stepped forward the development of multilingual speech and machine translation by its reduced representation errors and incorporated external knowledge. However, both translation tasks typically utilize beam search decoding and top-1 hypothesis selection for inference. These techniques struggle to fully exploit the rich information in the diverse N-best hypotheses, making them less optimal for translation tasks that require a single, high-quality output sequence. In this paper, we propose a new generative paradigm for translation tasks, namely "GenTranslate", which builds upon LLMs to generate better results from the diverse translation versions in N-best list. Leveraging the rich linguistic knowledge and strong reasoning abilities of LLMs, our new paradigm can integrate the rich information in N-best candidates to generate a higher-quality translation result. Furthermore, to support LLM finetuning, we build and release a HypoTranslate dataset that contains over 592K hypotheses-translation pairs in 11 languages. Experiments on various speech and machine translation benchmarks (e.g., FLEURS, CoVoST-2, WMT) demonstrate that our GenTranslate significantly outperforms the state-of-the-art model.