Revisiting Chain-of-Thought Reasoning under Limited Supervision: Semi-supervised Chain-of-Thought Learning

📄 arXiv: 2607.01511 📥 PDF

作者: Hongyang He, Jiuming Liu, Victor Sanchez

分类: cs.AI, cs.LG

发布日期: 2026-07-05

💡 一句话要点

提出Semi-CoT以解决有限监督下的推理能力激活问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 链式推理 半监督学习 伪监督信号 语义熵 推理能力激活

📋 核心要点

  1. 现有的链式推理方法主要在推理时使用，缺乏将生成的推理链作为半监督学习信号的有效利用。
  2. 本文提出Semi-CoT框架，通过未标记问题构建伪推理监督，扩展了链式推理的自我训练视角。
  3. 实验结果显示，Semi-CoT在多个数据集上取得了良好的伪答案精度，但在某些数据集上存在负迁移现象。

📝 摘要（中文）

链式推理（CoT）已成为激活大型语言模型潜在推理能力的有效方法。然而，现有的CoT方法主要在推理时作为提示使用，生成的推理链很少被重新利用作为半监督学习信号。本文定义了半监督链式推理学习（Semi-supervised Chain-of-Thought Learning），并提出了Semi-CoT框架，利用未标记问题构建伪推理监督。Semi-CoT为每个未标记问题采样多个伪CoT，估计答案级别的语义熵，并选择低熵推理链作为可靠的伪CoT示例。初步实验表明，熵门选择了高精度的伪CoT，伪答案精度范围为91.36%至100%。

🔬 方法详解

问题定义：本文旨在解决现有链式推理方法在有限监督下的推理能力激活不足的问题，特别是未标记数据的有效利用。

核心思路：提出Semi-CoT框架，通过对未标记问题生成伪推理链，利用低熵推理链作为可靠的伪监督信号，从而增强模型的学习能力。

技术框架：Semi-CoT框架包括多个模块：首先，从未标记问题中生成多个伪CoT；其次，计算每个伪CoT的语义熵；最后，选择低熵的推理链作为高质量的伪CoT示例。

关键创新：最重要的创新在于将伪推理链的选择与语义熵结合，提供了一种新的半监督学习信号生成方式，与传统方法相比，增强了模型对未标记数据的利用效率。

关键设计：在伪CoT生成过程中，设置了熵门阈值，以确保选择的推理链具有较高的可靠性和准确性，损失函数设计上考虑了伪监督信号的有效性。

📊 实验亮点

实验结果显示，熵门选择的伪CoT在多个数据集上实现了91.36%至100%的伪答案精度，表明该方法在选择高质量伪监督信号方面的有效性。同时，Semi-CoT在SVAMP和GSM8K上取得了小幅提升，但在AQuA上出现了负迁移现象。

🎯 应用场景

该研究的潜在应用领域包括教育、问答系统和智能助手等，能够通过未标记数据提升模型的推理能力，降低对标记数据的依赖，具有重要的实际价值和未来影响。

📄 摘要（原文）

Chain-of-thought (CoT) reasoning has emerged as an effective approach for activating latent reasoning capabilities in large language models. However, most existing CoT methods use reasoning chains mainly as inference-time prompts, while the generated reasoning traces are rarely reused as semi-supervised learning signals. In this report, we define \textbf{Semi-supervised Chain-of-Thought Learning} and propose \textbf{Semi-CoT}, a simple framework that uses unlabeled questions to construct pseudo reasoning supervision. Semi-CoT samples multiple pseudo-CoTs for each unlabeled question, estimates answer-level semantic entropy, and selects low-entropy reasoning chains as reliable pseudo-CoT demonstrations. This extends the self-training view of CoT from inference-time refinement to semi-supervised pseudo-supervision. Pilot experiments on AQuA, SVAMP, GSM8K, and MultiArith show that the entropy gate selects high-precision pseudo-CoTs, with pseudo-answer precision ranging from $91.36\%$ to $100\%$. Semi-CoT also gives small gains on SVAMP and GSM8K, while AQuA shows negative transfer and MultiArith reaches a ceiling. These results suggest that unlabeled questions can provide reliable pseudo reasoning signals, but their effective use still requires stronger demonstration selection or student training.