Fusion Training for Mathematical Generalization in Large Language Models
作者: Congfeng Cao, Pengyu Zhang, Jelke Bloem
分类: cs.CL, cs.AI
发布日期: 2026-08-10
备注: ACL SRW 2026
DOI: 10.18653/v1/2026.acl-srw.64
🔗 代码/项目: GITHUB
💡 一句话要点
提出思维模式融合以提升大语言模型的数学推理能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 思维模式融合 大语言模型 数学推理 训练动态 数据比例 训练计划 模型优化
📋 核心要点
- 现有方法在思维模式与非思维模式的训练动态上缺乏深入研究，导致数学推理能力的提升受限。
- 论文提出了一种系统性研究TMF的方法，通过分析不同的数据比例和训练计划，优化思维与非思维模式的训练效果。
- 实验结果表明，非思维监督比例的增加会降低思维模式的准确性，且不同训练计划的选择会影响这种权衡，提供了实用的训练设置指导。
📝 摘要（中文）
思维模式融合（TMF）使大语言模型能够同时支持简洁回答和长篇推理，通过在单一模型中统一非思维模式和思维模式。然而，关于这两种模式之间的训练动态，包括数据比例和训练计划，仍然未被充分探讨。本研究系统性地分析了思维与非思维模式之间的训练调度和数据比例的影响，构建了一个基准，涵盖多种思维与非思维数据比例和三种训练计划。结果显示，非思维监督比例的增加会降低思维模式的准确性，并且不同的训练计划会调节这种权衡，最优计划依赖于数据比例。最后，我们量化了非思维和思维模式监督之间的负相关性，突显了这两种模式之间的内在张力。这些发现为设计有效的TMF训练设置提供了实用指导。
🔬 方法详解
问题定义：本论文旨在解决大语言模型在数学问题求解中的思维模式与非思维模式训练动态不明确的问题。现有方法未能有效平衡这两种模式的训练，导致模型性能受限。
核心思路：通过引入思维模式融合（TMF），论文探讨了思维和非思维模式之间的训练调度和数据比例的影响，旨在优化模型的数学推理能力。
技术框架：研究构建了一个基准，包含多种思维与非思维数据比例和三种训练计划，系统评估不同设置对模型性能的影响。
关键创新：论文揭示了思维模式与非思维模式之间的非对称交互关系，提出了不同训练计划对这种关系的调节作用，强调了两种模式之间的内在张力。
关键设计：研究中设置了多种数据比例和训练计划，采用了特定的损失函数来平衡两种模式的监督，确保模型在数学推理任务中的表现最优。
🖼️ 关键图片
📊 实验亮点
实验结果显示，增加非思维监督比例会显著降低思维模式的准确性，且不同训练计划对这种影响具有调节作用。具体而言，某些训练计划在特定数据比例下能显著提升模型的数学推理能力，提供了实用的训练策略。
🎯 应用场景
该研究的潜在应用领域包括教育技术、智能辅导系统和自动化数学问题求解等。通过优化大语言模型的训练方式，可以提升其在复杂数学推理任务中的表现，进而推动相关领域的智能化发展。
📄 摘要（原文）
Thinking Mode Fusion (TMF) enables large language models to support both concise responses and long-form reasoning by unifying a non-thinking mode and a thinking mode within a single model. However, its training dynamics, including the \emph{data ratio} and \emph{training schedule} between the two modes, remain underexplored. In this work, we present a systematic study of TMF by analyzing the effects of the training schedule and data ratio between thinking and non-thinking modes. Focusing on mathematical problem solving, we construct a benchmark with multiple thinking-to-non-thinking data ratios and three training schedules. Our results reveal an asymmetric interaction between the two modes: increasing the ratio of non-thinking supervision reduces the accuracy of the thinking mode. We further show that different training schedules modulate this trade-off and that the optimal schedule depends on the data ratio. Finally, we quantify a negative correlation between non-thinking and thinking mode supervision, highlighting an inherent tension between these two modes. These findings provide practical guidance for designing effective TMF training settings. All code and data are released to support further research at: \href{https://github.com/caocongfeng/Fusion-Bench.git}{\textbf{Fusion Bench}}.