Right Diagnoses, Decorative Reasoning:A Perturbation Audit of Medical Chain-of-Thought
作者: Mengzhu Xu, Jifan Gao, Xia Jiang, Yaoxin Wu, Xi Long
分类: cs.AI
发布日期: 2026-08-25
💡 一句话要点
提出医学链式思维的扰动审计以评估其可信度
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 医学推理 链式思维 大型语言模型 扰动审计 模型评估 临床决策 推理能力
📋 核心要点
- 现有方法未能有效验证链式思维在医学推理中的真实作用，且忽视了临床成本。
- 本文提出医学扰动审计，通过30种临床动机的操作符对链条和问题进行编辑，分析模型的失败模式。
- 实验结果显示，链条解耦率高达72.9%，且链条损坏不影响模型的准确性，提供了新的评估框架。
📝 摘要（中文）
临床医生将链式思维（CoT）推理视为医学推理的证据，但其可见链条是否真正发挥这一作用尚未得到充分验证。现有的通用领域CoT忠实性探测忽视了临床成本，而医学大型语言模型（LLM）的评估则将链条视为黑箱。为填补这一空白，本文提出了一种医学扰动审计方法，使用30种临床动机的操作符对链条和问题进行编辑，并结合链条更新与答案翻转的联合分析，对每个模型的失败模式进行分类。对14个LLM在四个医学问答基准上的应用显示，链条解耦率（CDR）在临床意义上的破坏性编辑中达72.9%，链条损坏不影响准确性，去除CoT提示也不会降低准确性。两名经过认证的临床医生重新标注了197个扰动问题，98.5%保持金标准的可辩护性。该模式在医学和推理微调及规模上均保持一致。
🔬 方法详解
问题定义：本文旨在解决链式思维在医学推理中的可信度问题，现有方法未能有效评估其在临床应用中的真实表现。
核心思路：通过医学扰动审计，使用临床动机的操作符对链条和问题进行编辑，结合链条更新与答案翻转的分析，评估模型的推理能力。
技术框架：整体流程包括对链条和问题的编辑、链条更新与答案翻转的联合分析，最终分类模型的失败模式。主要模块包括操作符设计、编辑实施和结果分析。
关键创新：提出的链条解耦率（CDR）作为评估工具，能够有效判断医学链式思维的忠实性，与现有方法相比，提供了更为细致的分析视角。
关键设计：采用30种临床动机的操作符进行编辑，设计了链条更新与答案翻转的联合分析方法，确保了评估的临床相关性和准确性。实验中使用了14个LLM和四个医学问答基准进行验证。
🖼️ 关键图片
📊 实验亮点
实验结果显示，链条解耦率（CDR）在临床意义上的破坏性编辑中达72.9%，且链条损坏不影响模型的准确性。此外，去除链式思维提示也未降低准确性，表明模型在推理上的稳定性和可靠性。
🎯 应用场景
该研究的潜在应用领域包括医学问答系统、临床决策支持工具和医疗AI助手。通过提供对医学推理链的可信度评估，能够提升临床应用中的决策质量，未来可能对医疗行业的智能化发展产生深远影响。
📄 摘要（原文）
Clinicians read chain-of-thought (CoT) rationales as evidence of medical reasoning, but whether the visible chain plays that role is rarely tested. General-domain CoT-faithfulness probes ignore clinical cost, and medical LLM evaluations treat the chain as a black box. We close this gap with a medical perturbation audit: a 30-operator battery edits both the chain and the question with clinically motivated operators (severity reversal, negation flip, demographic swap, evidence ablation), paired with a chain-update times answer-flip joint analysis that classifies each model by its failure mode. Applied to 14 LLMs on four medical QA benchmarks, three independent tests converge: the Chain-Decoupling Rate (CDR; chain does not register the edit and the answer does not flip) is 72.9% panel-wide on clinically meaningful destructive edits, chain corruption leaves accuracy unchanged, and removing CoT prompting does not reduce accuracy. Two board-certified clinicians re-annotate N=197 perturbed questions; 98.5% leave the gold defensible. The pattern holds across medical and reasoning fine-tuning and scale; on the closed-source tier, where the chain text is unavailable, the answer-side signals are consistent with the same decoupling. Our framework and CDR provide a reusable yardstick for auditing whether medical CoT is faithful or merely documentation.