Large language models as synthetic clinical experts to inform longitudinal rare-disease modeling
作者: Clemens Schächter, Astrid Pechmann, Janbernd Kirschner, Jan Hasenauer, Harald Binder
分类: cs.AI
发布日期: 2026-08-17
💡 一句话要点
利用大型语言模型提升罕见疾病的纵向建模精度
🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大型语言模型 罕见疾病建模 变分自编码器 临床知识整合 合成专家 运动功能评估 多元混合效应模型
📋 核心要点
- 现有方法在建模纵向罕见疾病数据时，缺乏有效的临床知识整合，尤其是在专家时间有限的情况下。
- 论文提出利用大型语言模型作为合成临床专家，通过对患者观察的文本描述进行离线查询，获取临床判断以改善模型拟合。
- 实验结果表明，合成专家的引入将原始与重建的疾病标签不一致率从约11%降低至7%，并提高了运动功能里程碑的预测准确性。
📝 摘要（中文）
由于信息有限，建模纵向罕见疾病数据面临挑战，尤其是在临床专家时间有限的情况下。本文提出利用大型语言模型（LLMs）作为合成临床专家，监督基于变分自编码器的方法，从患者观察的文本描述中获取判断，以改善模型拟合。通过训练可微分的替代模型并增强损失函数，鼓励重建结果保持临床标签分布。应用于脊髓性肌萎缩症儿童的运动功能评估，结果显示合成专家的引入显著提高了模型的临床一致性和预测能力。
🔬 方法详解
问题定义：本文旨在解决在有限信息条件下，如何有效整合临床知识以建模纵向罕见疾病数据的问题。现有方法在专家知识的获取和形式化方面存在挑战，尤其是临床专家的时间有限。
核心思路：论文的核心思路是利用大型语言模型（LLMs）作为合成临床专家，离线查询患者观察的文本描述，以获取临床判断，从而在模型拟合过程中引入领域知识。
技术框架：整体架构包括一个变分自编码器和一个可微分的替代模型。首先，通过LLMs获取患者观察的临床判断，然后训练替代模型，并在损失函数中增强对临床标签分布的保留。
关键创新：最重要的技术创新在于将LLMs引入模型拟合过程，使得临床知识能够在表示学习中得到有效利用，从而提高了模型的临床一致性。与现有方法相比，本文的设计更注重临床标签的保持。
关键设计：在损失函数中增加了合成专家损失，旨在减少重建结果在数据空间中的数值接近性与临床解释之间的矛盾。此外，采用了多元混合效应模型来链接低维表示与临床特征。具体参数设置和网络结构细节在论文中有详细描述。
🖼️ 关键图片
📊 实验亮点
实验结果显示，合成专家的引入将原始与重建的脊髓性肌萎缩症类型标签不一致率从约11%降低至7%。此外，合成专家的指导显著提高了运动功能里程碑的预测能力，相较于无监督的潜在表示和数据级基线，表现出更好的临床一致性。
🎯 应用场景
该研究的潜在应用领域包括罕见疾病的临床研究和数据分析，尤其是在需要整合临床知识以提高模型准确性的场景。通过引入合成专家，未来可能在其他医疗领域的纵向数据建模中发挥重要作用，提升临床决策支持系统的智能化水平。
📄 摘要（原文）
Due to the limited amount of information, modeling longitudinal rare-disease data can benefit from integrating clinical knowledge. Yet, elicitation of expert knowledge and formalization for model fitting is challenging, in particular due to limited time of clinical experts. To nevertheless make domain knowledge accessible during model fitting, we use large language models (LLMs) as synthetic clinical experts to supervise a variational-autoencoder-based approach that learns low-dimensional latent summaries of visit-level observations. Specifically, LLMs are queried offline on textual descriptions of patient observations to obtain judgments, e.g., the suspected clinical category. To improve the variational autoencoder fit, we train a differentiable surrogate model on these judgments and augment the loss function to encourage reconstructions that preserve the clinical-label distribution of their corresponding input profile. In an application to longitudinal motor-function assessments from children with spinal muscular atrophy, we map visit-level clinical profiles to low-dimensional representations that are linked by a multivariate mixed-effects model. The synthetic expert loss discourages reconstructions that remain numerically close in data space but alter the clinical interpretation of the reconstructed motor function profile, such as by crossing a disease-type boundary. We thus reduced disagreement between original and reconstructed SMA type labels from about 11 to 7 percent. Furthermore, informing the latent representation by the synthetic expert improved prediction of motor function milestones compared with unsupervised latent representations and a data-level baseline. These results suggest that incorporating LLMs into model fitting can make clinical knowledge available to representation learning and improve clinical faithfulness for longitudinal rare-disease data.