Dense Clinical Contrasts Enhance Medical Knowledge Updating in Large Language Models

📄 arXiv: 2608.30405v1 📥 PDF

作者: Yangmin Huang, Shu Quan, He Geng, Xin Ye, Qianyun Du, Zhiyang He, Jiaxue Hu, Xiaodong Tao

分类: cs.AI

发布日期: 2026-08-31

备注: Accepted to Findings of EMNLP 2026

💡 一句话要点

提出SEER-Bench以增强大语言模型的医学知识更新能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 医学知识更新 大型语言模型 监督学习 肿瘤学分期 SEER-Bench EMQ格式 临床决策支持

📋 核心要点

  1. 现有大型语言模型在医学知识更新中容易依赖过时信息，导致临床应用的准确性下降。
  2. 论文提出了SEER-Bench基准，并将医学更新事件转化为不同的监督格式，以研究其对知识更新的影响。
  3. 实验结果表明，EMQ格式在医学知识更新中表现最佳，显著提高了模型的答案和推理准确率。

📝 摘要（中文）

医学知识不断变化，使得大型语言模型容易依赖过时但临床上合理的信息。本文研究了监督格式对医学知识更新的影响，提出了SEER-Bench，一个基于最新SEER研究数据的肿瘤学分期基准。通过将NCCN肿瘤学指南中的医学更新事件转化为四种监督格式，发现EMQ格式在相同训练预算下提供了最稳定的外部转移和保留效果。使用EMQ监督的更新4B模型在SEER-Bench上达到了64.8%的答案准确率和59.6%的推理准确率，表明医学知识更新不仅依赖于更新算法，还与知识的结构化方式密切相关。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在医学知识更新中对过时信息的依赖问题，现有方法在知识更新的准确性和稳定性上存在不足。

核心思路：通过引入不同的监督格式，特别是EMQ格式，来优化医学知识的更新过程，从而提高模型的外部转移和保留能力。

技术框架：整体架构包括数据集的构建（SEER-Bench），监督格式的设计（EMQ、MSQ、FITB、SAQ），以及模型训练和评估的流程。

关键创新：最重要的创新在于通过EMQ格式提供更密集的临床对比信号，同时保持模型的判别性表示，减少了模型从基础模型的偏移。

关键设计：在实验中，采用了相同的训练预算，设计了不同的监督格式，并通过诊断分析验证了EMQ格式的有效性。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果显示，使用EMQ监督的4B模型在SEER-Bench上达到了64.8%的答案准确率和59.6%的推理准确率，相较于其他监督格式，EMQ在相同预算下提供了更稳定的性能提升，显示出其在医学知识更新中的优势。

🎯 应用场景

该研究的潜在应用领域包括临床决策支持系统、医学教育和医疗数据分析。通过提高大型语言模型在医学知识更新中的准确性，能够更好地辅助医生在快速变化的医疗环境中做出决策，提升患者护理质量。

📄 摘要（原文）

Medical knowledge changes continually, making large language models vulnerable to relying on outdated yet clinically plausible information. We study whether the format of supervision affects medical knowledge updating under a matched training-budget setting. We introduce SEER-Bench, a temporally anchored oncology-staging benchmark curated from the latest versioned SEER Research Data release, and render identical medical update events from NCCN oncology guidelines into four supervision formats: EMQ, MSQ, FITB, and SAQ. Across SEER-Bench and HealthBench Professional, EMQ gives the most stable external transfer and retention among same-budget SFT variants. With EMQ supervision, the updated 4B model produces competitive results on temporally anchored oncology staging, reaching 64.8% answer accuracy and 59.6% rationale accuracy on SEER-Bench. Diagnostic analyses suggest that EMQ exposes denser clinical contrast signals while preserving discriminative representations with smaller movement from the base model. These results show that medical knowledge updating depends not only on the update algorithm, but also on how knowledge is structured as supervision.