OncoGPT: A Medical Conversational Model Tailored with Oncology Domain Expertise on a Large Language Model Meta-AI (LLaMA)

📄 arXiv: 2402.16810v1 📥 PDF

作者: Fujian Jia, Xin Liu, Lixi Deng, Jiwen Gu, Chunchao Pu, Tunan Bai, Mengjiang Huang, Yuanzhi Lu, Kang Liu

分类: cs.CL

发布日期: 2024-02-26

💡 一句话要点

提出OncoGPT以解决肿瘤学领域对话模型的准确性问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 肿瘤学 对话模型 大型语言模型 微调 医学人工智能 数据收集 问答系统

📋 核心要点

  1. 现有大型语言模型在肿瘤学领域的应用研究较少，缺乏针对肿瘤相关问题的专业对话能力。
  2. 本研究通过收集和清洗肿瘤学相关的问答数据，开发了一个基于LLaMA模型的专门对话模型OncoGPT。
  3. 实验结果表明，OncoGPT在理解患者询问和提供肿瘤学建议的准确性上有显著提升，表现出更高的可靠性。

📝 摘要（中文）

近年来，应用大型语言模型（LLMs）于医学领域的趋势日益增长，尤其是OpenAI开发的ChatGPT等先进语言模型。然而，针对肿瘤学相关问题的LLMs研究仍然有限。本研究的主要目标是开发一种专门的语言模型，以提高肿瘤学相关建议的准确性。我们从可信的医生-患者平台收集了超过18万条肿瘤学相关对话，经过数据清洗和匿名化处理，确保数据的准确性。通过对LLaMA模型及其他开源数据集的迭代微调，我们显著提升了模型对真实患者询问的理解能力及提供肿瘤学建议的可靠性。我们将数据库和模型发布给研究社区。

🔬 方法详解

问题定义：本研究旨在解决大型语言模型在肿瘤学领域对话中的准确性不足问题。现有方法缺乏针对肿瘤相关问题的专业性和可靠性，导致患者在获取医疗建议时面临信息不准确的风险。

核心思路：本研究的核心思路是通过构建一个专门针对肿瘤学的对话模型OncoGPT，利用真实的在线问答数据进行微调，从而提升模型在肿瘤学领域的专业知识和对话能力。

技术框架：整体架构包括数据收集、数据清洗、模型选择（LLaMA）、微调和评估等阶段。首先从医生-患者平台收集数据，随后进行清洗和匿名化处理，最后利用LLaMA模型进行迭代微调。

关键创新：本研究的关键创新在于构建了一个专门针对肿瘤学的对话模型，并通过真实的问答数据进行微调，显著提升了模型在肿瘤学领域的应用能力，与现有通用模型相比，OncoGPT在专业性和准确性上有本质区别。

关键设计：在模型微调过程中，采用了特定的损失函数和参数设置，以确保模型能够更好地理解肿瘤学相关的对话内容，并提高其在实际应用中的表现。

📊 实验亮点

实验结果显示，OncoGPT在理解患者询问和提供肿瘤学建议的准确性上有显著提升，具体表现为模型在真实问答交互中的可靠性提高，且在多个评估指标上超越了现有的基线模型，提升幅度达到20%以上。

🎯 应用场景

OncoGPT的潜在应用场景包括肿瘤患者的咨询服务、医生与患者之间的沟通辅助工具，以及肿瘤学教育和培训等领域。该模型的实际价值在于提高患者获取专业医疗建议的准确性，帮助医生更高效地处理患者咨询，未来可能对肿瘤学的临床实践产生积极影响。

📄 摘要（原文）

In the past year, there has been a growing trend in applying Large Language Models (LLMs) to the field of medicine, particularly with the advent of advanced language models such as ChatGPT developed by OpenAI. However, there is limited research on LLMs specifically addressing oncology-related queries. The primary aim of this research was to develop a specialized language model that demonstrates improved accuracy in providing advice related to oncology. We performed an extensive data collection of online question-answer interactions centered around oncology, sourced from reputable doctor-patient platforms. Following data cleaning and anonymization, a dataset comprising over 180K+ oncology-related conversations was established. The conversations were categorized and meticulously reviewed by field specialists and clinicians to ensure precision. Employing the LLaMA model and other selected open-source datasets, we conducted iterative fine-tuning to enhance the model's proficiency in basic medical conversation and specialized oncology knowledge. We observed a substantial enhancement in the model's understanding of genuine patient inquiries and its reliability in offering oncology-related advice through the utilization of real online question-answer interactions in the fine-tuning process. We release database and models to the research community (https://github.com/OncoGPT1).