XAI for In-hospital Mortality Prediction via Multimodal ICU Data

📄 arXiv: 2312.17624v1 📥 PDF

作者: Xingqiao Li, Jindong Gu, Zhiyong Wang, Yancheng Yuan, Bo Du, Fengxiang He

分类: cs.LG, cs.AI

发布日期: 2023-12-29

💡 一句话要点

提出X-MMP模型，利用多模态ICU数据实现可解释的院内死亡率预测。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 可解释AI 多模态学习 Transformer 院内死亡率预测 ICU数据 临床决策支持 逐层传播 医疗AI

📋 核心要点

  1. ICU患者的院内死亡率预测至关重要，但现有AI方法缺乏可解释性，限制了临床应用。
  2. X-MMP模型通过多模态学习融合临床数据，并使用改进的LRP方法解释Transformer的预测结果。
  3. 实验表明，该框架在保持预测精度的同时，提供了对模型决策过程的合理可解释性。

📝 摘要（中文）

本文提出了一种可解释的多模态死亡率预测器(X-MMP)，旨在为利用多模态ICU数据预测院内死亡率提供高效且可解释的AI解决方案。该框架采用多模态学习，能够接收来自临床数据的异构输入并做出决策。此外，本文引入了一种可解释的方法，即Transformer的逐层传播(Layer-Wise Propagation to Transformer)，作为LRP方法到Transformer的扩展，从而产生对多模态输入的解释，并揭示与预测相关的显著特征。同时，每个模态对临床结果的贡献可以被可视化，帮助临床医生理解决策背后的推理。基于MIMIC-III和MIMIC-III Waveform Database Matched Subset构建了一个多模态数据集。在基准数据集上的综合实验表明，所提出的框架能够以具有竞争力的预测精度实现合理的解释。此外，该框架可以很容易地转移到其他临床任务，从而促进医疗保健研究中关键因素的发现。

🔬 方法详解

问题定义：现有AI模型在ICU患者院内死亡率预测方面表现出高准确率，但缺乏可解释性，导致医生难以信任和理解模型的决策过程。因此，如何构建一个既能准确预测，又能提供清晰解释的多模态模型是本文要解决的核心问题。现有方法通常是黑盒模型，无法揭示哪些因素对预测结果起关键作用。

核心思路：本文的核心思路是利用多模态学习融合来自不同来源的ICU数据，并结合可解释性方法来理解模型的决策过程。通过多模态学习，模型可以同时利用临床数据和波形数据等异构信息，从而提高预测准确率。同时，引入改进的LRP方法，可以对Transformer模型进行解释，揭示哪些特征对预测结果有重要影响。

技术框架：X-MMP框架主要包含三个模块：多模态数据输入模块、Transformer编码器模块和预测模块。多模态数据输入模块负责接收来自不同来源的ICU数据，例如临床数据和波形数据。Transformer编码器模块利用Transformer模型对多模态数据进行编码，提取特征。预测模块利用编码后的特征进行院内死亡率预测。此外，还包含一个可解释性模块，用于解释Transformer模型的预测结果。

关键创新：本文最重要的技术创新点在于将LRP方法扩展到Transformer模型，提出了一种名为Layer-Wise Propagation to Transformer的方法。与传统的LRP方法不同，该方法能够处理Transformer模型中的自注意力机制，从而更准确地解释模型的决策过程。此外，该框架能够可视化每个模态对临床结果的贡献，帮助临床医生理解决策背后的推理。

关键设计：在数据预处理方面，对不同模态的数据进行了标准化和归一化处理。在Transformer编码器模块中，使用了多层Transformer编码器，并采用了自注意力机制。在预测模块中，使用了全连接层和Sigmoid激活函数进行二分类预测。损失函数采用了二元交叉熵损失函数。在LRP方法中，对自注意力机制进行了特殊处理，以确保解释的准确性。

📊 实验亮点

实验结果表明，X-MMP模型在MIMIC-III数据集上取得了具有竞争力的预测精度，同时提供了合理的可解释性。通过可视化每个模态的贡献，可以清晰地了解哪些因素对预测结果有重要影响。与传统的黑盒模型相比，X-MMP模型能够更好地辅助医生进行临床决策。

🎯 应用场景

该研究成果可应用于临床决策支持系统，辅助医生进行ICU患者的风险评估和治疗方案制定。通过提供可解释的预测结果，增强医生对AI模型的信任，并促进AI技术在医疗领域的应用。此外，该框架还可以推广到其他临床任务，例如疾病诊断和预后预测，从而促进医疗保健研究中关键因素的发现。

📄 摘要（原文）

Predicting in-hospital mortality for intensive care unit (ICU) patients is key to final clinical outcomes. AI has shown advantaged accuracy but suffers from the lack of explainability. To address this issue, this paper proposes an eXplainable Multimodal Mortality Predictor (X-MMP) approaching an efficient, explainable AI solution for predicting in-hospital mortality via multimodal ICU data. We employ multimodal learning in our framework, which can receive heterogeneous inputs from clinical data and make decisions. Furthermore, we introduce an explainable method, namely Layer-Wise Propagation to Transformer, as a proper extension of the LRP method to Transformers, producing explanations over multimodal inputs and revealing the salient features attributed to prediction. Moreover, the contribution of each modality to clinical outcomes can be visualized, assisting clinicians in understanding the reasoning behind decision-making. We construct a multimodal dataset based on MIMIC-III and MIMIC-III Waveform Database Matched Subset. Comprehensive experiments on benchmark datasets demonstrate that our proposed framework can achieve reasonable interpretation with competitive prediction accuracy. In particular, our framework can be easily transferred to other clinical tasks, which facilitates the discovery of crucial factors in healthcare research.