Establishing Performance Baselines in Fine-Tuning, Retrieval-Augmented Generation and Soft-Prompting for Non-Specialist LLM Users

📄 arXiv: 2311.05903v2 📥 PDF

作者: Jennifer Dodgson, Lin Nanzheng, Julian Peh, Akira Rafhael Janson Pattirane, Alfath Daryl Alhajir, Eko Ridho Dinarto, Joseph Lim, Syed Danyal Ahmad

分类: cs.IR, cs.AI

发布日期: 2023-11-10 (更新: 2024-03-19)

备注: 10 pages, LaTeX; typos corrected, using the correct term 'system prompting' instead of 'soft prompting'

💡 一句话要点

提出基于RAG和软提示的LLM性能基线以服务非专业用户

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 微调 检索增强生成 软提示 非专业用户

📋 核心要点

  1. 现有方法多集中于高技术或高成本的技术，导致非专业用户难以使用新发现的LLM性能提升方法。
  2. 本文提出通过结合微调、RAG和软提示的方式，探索如何使LLM的性能提升更易于非技术用户实现。
  3. 实验结果表明，微调模型在基线输出中优于GPT 3.5 Turbo，而RAG方法的表现更为突出，软提示的应用显著提升了性能。

📝 摘要（中文）

本研究探讨了通过微调、检索增强生成（RAG）和软提示来提升大型语言模型（LLM）性能的方法。现有技术往往复杂且成本高，使得非技术用户难以接触。本文测试了未修改的GPT 3.5、微调版本及结合RAG数据库和基本软提示的模型，评估其在回答100个问题上的表现。结果显示，微调模型优于GPT 3.5 Turbo，而RAG方法表现最佳，软提示显著提升了各方法的性能。

🔬 方法详解

问题定义：本文旨在解决现有LLM性能提升方法对非专业用户的可及性问题，现有技术往往复杂且成本高，限制了其广泛应用。

核心思路：通过测试未修改的GPT 3.5、微调版本及结合RAG和软提示的模型，探索更简单有效的LLM性能提升方案，以便非技术用户能够轻松使用。

技术框架：整体流程包括三个主要模块：未修改的GPT 3.5模型、微调模型和结合RAG数据库的模型，此外还引入了基本的软提示以增强模型的回答能力。

关键创新：本研究的创新在于将RAG与软提示结合使用，显著提升了模型的回答准确性和效率，这一方法与传统的单一微调或复杂提示方法有本质区别。

关键设计：实验中使用了默认设置进行基线测试，未进行迭代优化，确保结果的可重复性和可靠性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，微调模型在基线输出中优于GPT 3.5 Turbo，而RAG方法的表现更为突出，且软提示的应用使得每种方法的性能都有显著提升，具体提升幅度未明确给出。

🎯 应用场景

该研究的潜在应用领域包括教育、客户服务和内容生成等，能够帮助非专业用户更有效地利用大型语言模型，提升其工作效率和信息获取能力。未来，该方法有望推动LLM在更广泛领域的应用，降低技术门槛。

📄 摘要（原文）

Research into methods for improving the performance of large language models (LLMs) through fine-tuning, retrieval-augmented generation (RAG) and soft-prompting has tended to focus on the use of highly technical or high-cost techniques, making many of the newly discovered approaches comparatively inaccessible to non-technical users. In this paper we tested an unmodified version of GPT 3.5, a fine-tuned version, and the same unmodified model when given access to a vectorised RAG database, both in isolation and in combination with a basic, non-algorithmic soft prompt. In each case we tested the model's ability to answer a set of 100 questions relating primarily to events that occurred after September 2021 (the point at which GPT 3.5's training data set ends). We found that if commercial platforms are used and default settings are applied with no iteration in order to establish a baseline set of outputs, a fine-tuned model outperforms GPT 3.5 Turbo, while the RAG approach out-performed both. The application of a soft prompt significantly improved the performance of each approach.