ArthModel: Enhance Arithmetic Skills to Large Language Model
作者: Yingdi Guo
分类: cs.CL
发布日期: 2023-11-30
备注: 7 pages, 4 figures, 1 table
🔗 代码/项目: GITHUB
💡 一句话要点
提出ArthModel以增强大语言模型的算术能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 算术能力 后缀表达式 预训练模型 深度学习 提示注入 模型增强
📋 核心要点
- 现有的大语言模型在算术解题方面表现不佳，且存在毒性等问题，限制了其应用。
- 本文提出通过生成后缀表达式和结合小型预训练模型来增强大语言模型的算术能力。
- 实验结果表明，所提方法显著提升了模型在算术问题上的表现，展示了新的思路和应用潜力。
📝 摘要（中文）
随着ChatGPT的成功，大语言模型的研究日益受到关注。然而，这些模型在算术解题方面表现不佳，并存在毒性等问题。本文提出了一种新方法，通过训练大语言模型生成与算术问题相关的后缀表达式，并结合小型预训练模型来提升算术能力。小模型将标记嵌入转换为真实的稠密数字，并调用深度学习平台的原生函数以获得正确答案。最终结果通过提示注入的方式将小模型的输出添加到大语言模型中。这项工作为语言模型的思考、训练和使用提供了不同的视角。
🔬 方法详解
问题定义：本文旨在解决大语言模型在算术解题中的不足，尤其是其表现不佳和潜在的毒性问题。现有方法未能有效利用模型的潜力，导致算术能力不足。
核心思路：论文提出通过训练大语言模型生成后缀表达式，并结合小型预训练模型来提升算术能力。该设计旨在利用小模型的计算能力来弥补大模型的不足。
技术框架：整体架构包括三个主要模块：大语言模型用于生成后缀表达式，小型预训练模型用于将标记嵌入转换为稠密数字，并调用深度学习平台的原生函数，最后通过提示注入将小模型的输出整合到大语言模型中。
关键创新：最重要的创新在于通过后缀表达式生成和小型模型的结合，提供了一种新的思路来增强大语言模型的算术能力。这与传统方法的直接计算方式有本质区别。
关键设计：在设计中，关键参数包括小型模型的预训练策略、损失函数的选择以及网络结构的优化，以确保模型能够有效地进行算术计算。具体细节未在摘要中详细说明，需参考完整论文。
🖼️ 关键图片
📊 实验亮点
实验结果显示，所提方法在算术问题上的表现显著优于现有基线，具体提升幅度未知。通过结合后缀表达式生成和小型模型的计算能力，展示了新的思路和有效性。
🎯 应用场景
该研究的潜在应用领域包括教育、金融和科学计算等需要高效算术处理的场景。通过提升大语言模型的算术能力，可以在这些领域中实现更智能的自动化解决方案，具有重要的实际价值和未来影响。
📄 摘要（原文）
With the great success of ChatGPT, the research of large language models has become increasingly popular. However, the models have several limitations, such as toxicity and pool performance of arithmetic solving. Meanwhile, LLM may have some potential abilities that have yet to be exploited. In this paper, we choose a different way to enhance the arithmetic ability of LLM. We propose to train LLM to generate a postfix expression related to the arithmetic problem and incorporate it with small pretrained models. Moreover, this small model transfers the token embeddings into real dense numbers and invokes native functions of a deep learning platform to get the correct answer. To generate the final result, we propose prompt injection for adding the result outputs by the small model to LLM. This work provides different ways of thinking, training and using a language model. The codes and models will be released at \url{https://github.com/eteced/arithmetic_finetuning_v1}.