Decoupling the Effect of Chain-of-Thought Reasoning: A Human Label Variation Perspective

📄 arXiv: 2601.03154v1 📥 PDF

作者: Beiduo Chen, Tiancheng Hu, Caiqi Zhang, Robert Litschko, Anna Korhonen, Barbara Plank

分类: cs.CL

发布日期: 2026-01-06

备注: 19 pages, 10 figures

💡 一句话要点

揭示思维链推理的解耦效应：基于人类标注变异的视角

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 思维链推理 人类标注变异 大语言模型 解耦实验 分布性任务

📋 核心要点

  1. 现有研究对LLM在处理需要捕捉概率模糊性的人类标注变异任务上的能力关注不足。
  2. 论文提出通过解耦实验，隔离思维链（CoT）推理文本和模型先验知识的影响，分析其各自作用。
  3. 实验表明，CoT主要影响最终答案的准确性，而模型先验知识主导分布的排序，揭示了解耦机制。

📝 摘要（中文）

本文研究了经过推理微调的大语言模型（LLM）在处理单答案任务上的卓越表现，但其对人类标注变异的建模能力仍未被充分探索。人类标注变异需要捕捉概率模糊性，而不是解决它。我们通过对基于分布的任务进行系统的解耦实验来研究这个问题，采用Cross-CoT实验来隔离推理文本的影响和模型固有的先验知识。我们观察到一个明显的“解耦机制”：虽然CoT提高了分布对齐，但最终的准确性由CoT内容决定（99%的方差贡献），而分布排序由模型先验决定（超过80%）。逐步分析进一步表明，虽然CoT对准确性的影响在推理过程中单调增长，但分布结构主要由LLM的固有先验决定。这些发现表明，长CoT可以作为LLM对最佳选项的决定性决策者，但不能作为模糊任务的细粒度分布校准器。

🔬 方法详解

问题定义：现有的大语言模型在经过思维链（Chain-of-Thought, CoT）微调后，在单答案任务上表现出色。然而，对于需要捕捉概率模糊性而非直接给出确定答案的任务，例如模拟人类标注变异的任务，现有方法的能力尚不明确。现有方法未能有效区分CoT推理过程和模型本身固有的先验知识对最终结果的影响。

核心思路：论文的核心思路是通过解耦实验，将CoT推理过程的影响和模型先验知识的影响分离开来，从而更清晰地理解它们各自在处理分布性任务时的作用。具体来说，通过交换不同样本的CoT推理过程，观察最终结果的变化，从而判断CoT和模型先验哪个对结果的影响更大。

技术框架：论文采用Cross-CoT实验框架。该框架主要包含以下步骤：1) 选择一组分布性任务；2) 对每个任务生成CoT推理过程；3) 将不同任务的CoT推理过程进行交叉组合，形成新的输入；4) 使用大语言模型对新的输入进行预测，得到最终结果；5) 分析结果，判断CoT推理过程和模型先验知识对最终结果的影响。

关键创新：论文的关键创新在于提出了Cross-CoT实验框架，该框架能够有效地将CoT推理过程的影响和模型先验知识的影响分离开来。通过这种方式，可以更清晰地理解CoT推理过程和模型先验知识在处理分布性任务时的作用，从而为改进大语言模型在这些任务上的表现提供指导。

关键设计：论文的关键设计包括：1) 选择合适的分布性任务，这些任务需要能够反映人类标注的变异性；2) 设计合理的CoT推理过程，这些推理过程需要能够有效地引导模型进行推理；3) 使用合适的评估指标，这些指标需要能够准确地反映CoT推理过程和模型先验知识对最终结果的影响。论文使用方差分析来量化CoT内容和模型先验对结果的影响程度。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，CoT内容对最终答案的准确性贡献高达99%，而模型先验知识对分布排序的影响超过80%。这表明，CoT主要作为最终决策者，而模型先验则决定了分布的整体结构。此外，CoT对准确性的影响随推理步骤单调增长，而分布结构主要由模型先验决定。

🎯 应用场景

该研究成果可应用于提升大语言模型在需要模拟人类判断的任务中的表现，例如情感分析、文本蕴含、问答系统等。通过更好地理解CoT推理和模型先验的作用，可以设计更有效的微调策略，提高模型在这些任务中的准确性和可靠性。此外，该研究也有助于开发更具解释性的人工智能系统。

📄 摘要（原文）

Reasoning-tuned LLMs utilizing long Chain-of-Thought (CoT) excel at single-answer tasks, yet their ability to model Human Label Variation--which requires capturing probabilistic ambiguity rather than resolving it--remains underexplored. We investigate this through systematic disentanglement experiments on distribution-based tasks, employing Cross-CoT experiments to isolate the effect of reasoning text from intrinsic model priors. We observe a distinct "decoupled mechanism": while CoT improves distributional alignment, final accuracy is dictated by CoT content (99% variance contribution), whereas distributional ranking is governed by model priors (over 80%). Step-wise analysis further shows that while CoT's influence on accuracy grows monotonically during the reasoning process, distributional structure is largely determined by LLM's intrinsic priors. These findings suggest that long CoT serves as a decisive LLM decision-maker for the top option but fails to function as a granular distribution calibrator for ambiguous tasks.