Surgical Alignment in Knowledge Graph Training for Clinical Diagnosis with Large Language Models

📄 arXiv: 2608.26587v2 📥 PDF

作者: Saksham Khatwani, He Cheng, Majid Afshar, Dmitriy Dligach, Yanjun Gao

分类: cs.CL

发布日期: 2026-08-27 (更新: 2026-08-28)

备注: This work has been accepted to EMNLP 2026 Findings

🔗 代码/项目: GITHUB

💡 一句话要点

提出KG信号整合方法以提升临床诊断中的LLM推理能力

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 知识图谱 大型语言模型 临床诊断 推理能力 优化几何 稀疏更新 KL正则化

📋 核心要点

  1. 现有方法在将生物医学知识图谱信号整合进大型语言模型时面临知识迁移行为不一致的问题。
  2. 本文提出了一种新的KG-LLM整合方法，通过引入梯度干预密度和梯度失真来评估优化过程的几何特征。
  3. 实验结果显示，采用KG判断训练的稀疏更新方法在推理质量上显著优于传统的任务特定微调方法。

📝 摘要（中文）

生物医学知识图谱（KGs）提供了结构化的医学知识，能够为大型语言模型（LLM）在临床诊断应用中的推理提供基础。然而，如何将KG信号有效整合进LLMs仍是一个未解的问题。本文系统研究了五种KG任务形式、三种训练范式、两种KG和三种基础LLM。结果表明，所有范式在非微调基线之上均有所提升，但在领域内准确性相近的方法表现出显著不同的知识迁移行为。我们引入了梯度干预密度（GID）和梯度失真（GD）来衡量优化器对预训练模型的修改程度，发现KG判断训练在KL正则化下产生稀疏、局部的更新，而任务特定的SFT则产生密集更新。控制消融实验显示，目标和KL独立贡献于稀疏性，产生稀疏更新的范式也提升了推理质量，即使其领域内准确性低于任务特定的SFT。

🔬 方法详解

问题定义：本文旨在解决如何有效整合生物医学知识图谱信号到大型语言模型中的问题。现有方法在知识迁移行为上存在显著差异，导致推理能力不一致。

核心思路：论文提出通过引入梯度干预密度（GID）和梯度失真（GD）来评估优化器对预训练模型的影响，从而实现KG信号的有效整合。

技术框架：整体架构包括KG任务的定义、训练范式的选择、KG的构建以及基础LLM的选择。通过对比不同范式下的更新行为，分析KG信号的整合效果。

关键创新：最重要的技术创新在于提出了KG-判断训练下的KL正则化方法，形成稀疏、局部的更新方式（称为外科对齐），与传统的密集更新方法形成鲜明对比。

关键设计：在实验中，采用了KL正则化作为损失函数，并通过控制消融实验验证了目标和KL对稀疏性的独立贡献。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，KG-判断训练在推理质量上显著优于传统的任务特定微调方法，尽管其领域内准确性较低。具体而言，采用KG信号整合的模型在推理任务中表现出更高的知识迁移能力，提升幅度明显。

🎯 应用场景

该研究的潜在应用领域包括临床诊断、个性化医疗和智能医疗助手等。通过提升大型语言模型的推理能力，可以更好地支持医生在临床决策中的知识获取与应用，从而提高医疗服务的质量和效率。

📄 摘要（原文）

Biomedical knowledge graphs (KGs) offer structured medical knowledge that can ground large language model (LLM) reasoning in clinical diagnosis application, yet how KG signal should be integrated into LLMs remains an open question. We present a systematic study spanning five KG task formulations, three training paradigms, two KGs, and three base LLMs. At the task level, all paradigms improve over the non-finetuned baseline, but methods with comparable in-domain accuracy show substantially different knowledge transfer behavior. We introduce Gradient Intervention Density (GID) and Gradient Distortion (GD) to measure how broadly an optimizer modifies the pretrained model. GID and GD together reveal a clear divide: KG-judgment training under KL regularization produces sparse, localized updates (a regime we term as surgical alignment), while task-specific SFT produces dense ones. A controlled ablation shows that the objective and KL contribute to sparsity independently, and the paradigms that produce sparse updates also improve reasoning quality, even when their in-domain accuracy is lower than task-specific SFT. Assessing KG-LLM integration thus requires complementing accuracy with optimization-geometry diagnostics. Our implementation can be found at https://github.com/LARK-NLP-Lab/Surgical-Alignment.