Confidence Calibration for Multimodal LLMs: An Empirical Study through Medical VQA
作者: Yuetian Du, Yucheng Wang, Ming Kong, Tian Liang, Qiang Long, Bingdi Chen, Qiang Zhu
分类: cs.CV, cs.AI
发布日期: 2026-06-18
备注: Accepted by MICCAI 2025
💡 一句话要点
提出多策略融合审问方法以提升医疗多模态大语言模型的信心校准
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 多模态大语言模型 医疗视觉问答 信心校准 多策略融合 专家评估
📋 核心要点
- 现有的医疗多模态大语言模型在信心与准确性之间存在不匹配，可能导致误诊。
- 本研究提出了一种新方法，结合多策略融合基础审问与专家LLM评估，旨在提升信心校准。
- 实验结果显示，该方法在三个医疗VQA数据集上平均降低了40%的期望校准误差，显著提高了模型的可靠性。
📝 摘要（中文）
多模态大语言模型（MLLMs）在医疗任务中展现出巨大潜力，但其产生的信心往往与实际准确性不符，可能导致误诊或忽视正确建议。本研究首次全面分析了医疗MLLMs中准确性与信心之间的关系，提出了一种结合多策略融合基础审问（MS-FBI）与辅助专家LLM评估的新方法，旨在改善医疗视觉问答（VQA）中的信心校准。实验表明，该方法在三个医疗VQA数据集上平均减少了40%的期望校准误差（ECE），显著提升了MLLMs的可靠性。研究结果强调了医疗领域特定校准的重要性，为AI辅助诊断提供了更可信的解决方案。
🔬 方法详解
问题定义：本论文旨在解决医疗多模态大语言模型（MLLMs）中信心与准确性不匹配的问题。现有方法在医疗视觉问答（VQA）任务中，模型的信心往往无法准确反映其实际表现，可能导致错误的医疗建议或诊断。
核心思路：论文提出了一种结合多策略融合基础审问（MS-FBI）与辅助专家LLM评估的方法，通过引入专家评估来增强模型的信心校准能力，从而提高医疗决策的可靠性。
技术框架：整体架构包括数据输入、MS-FBI模块和专家评估模块。首先，模型接收医疗图像和相关问题，然后通过MS-FBI进行多策略融合审问，最后引入专家LLM进行信心评估和校准。
关键创新：最重要的创新在于将多策略融合审问与专家评估相结合，形成了一种新的信心校准机制。这种方法与传统的单一模型评估方法相比，能够更全面地考虑不同信息源的影响。
关键设计：在模型设计中，采用了特定的损失函数来优化信心校准效果，并在MS-FBI模块中引入了多种审问策略，以增强模型对不同类型问题的适应能力。
🖼️ 关键图片
📊 实验亮点
实验结果显示，提出的方法在三个医疗VQA数据集上平均降低了40%的期望校准误差（ECE），显著优于基线模型。这一提升表明，结合多策略融合审问与专家评估的信心校准方法在医疗领域具有显著的应用潜力。
🎯 应用场景
该研究的潜在应用领域包括医疗诊断、辅助决策系统和智能医疗咨询等。通过提升多模态大语言模型的信心校准能力，可以为医生提供更可靠的辅助工具，减少误诊风险，提升患者的安全性和满意度。未来，该方法还可扩展至其他领域的多模态任务，具有广泛的实际价值。
📄 摘要（原文）
Multimodal Large Language Models (MLLMs) show great potential in medical tasks, but their elicited confidence often misaligns with actual accuracy, potentially leading to misdiagnosis or overlooking correct advice. This study presents the first comprehensive analysis of the relationship between accuracy and confidence in medical MLLMs. It proposes a novel method that combines Multi-Strategy Fusion-Based Interrogation (MS-FBI) with auxiliary expert LLM assessment, aiming to improve confidence calibration in Medical Visual Question Answering (VQA). Experiments demonstrate that our method reduces the Expected Calibration Error (ECE) by an average of 40\% across three Medical VQA datasets, significantly enhancing MLLMs' reliability. The findings highlight the importance of domain-specific calibration for MLLMs in healthcare, offering a more trustworthy solution for AI-assisted diagnosis.