MathScale: Scaling Instruction Tuning for Mathematical Reasoning
作者: Zhengyang Tang, Xingxing Zhang, Benyou Wang, Furu Wei
分类: cs.CL, cs.AI, cs.LG
发布日期: 2024-03-05
备注: Work in progress
💡 一句话要点
提出MathScale以提升数学推理能力的LLM表现
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 数学推理 大型语言模型 数据生成 概念图 微调 教育技术 智能辅导
📋 核心要点
- 现有大型语言模型在数学问题解决方面的能力不足，尤其是在复杂的数学推理任务中表现不佳。
- MathScale通过提取数学问题的主题和知识点，构建概念图以生成新的数学问题，从而提升数学推理数据的质量和数量。
- 在MwpBench基准测试中，MathScale-7B在所有数据集上均表现优异，显著提高了数学推理的准确性，超越了同类模型。
📝 摘要（中文）
大型语言模型（LLMs）在问题解决方面表现出色，但在数学问题解决能力上仍显不足。为此，本文提出MathScale，一种简单且可扩展的方法，通过前沿LLM（如GPT-3.5）生成高质量的数学推理数据。该方法从种子数学问题中提取主题和知识点，构建概念图，从而生成新的数学问题。我们创建了包含两百万个数学问答对的数学推理数据集（MathScaleQA），并构建了数学文字问题基准（MwpBench），涵盖K-12、大学及竞赛级别的数学问题。通过对开源LLMs（如LLaMA-2和Mistral）进行微调，MathScale显著提升了数学推理能力，MathScale-7B在所有数据集上均达到了最先进的性能，微平均准确率提高了42.9%，宏平均准确率提高了43.7%。
🔬 方法详解
问题定义：本文旨在解决大型语言模型在数学推理方面的不足，尤其是在处理复杂数学问题时的表现不佳。现有方法缺乏高质量的数学推理数据，限制了模型的训练效果。
核心思路：MathScale的核心思路是模仿人类数学学习的认知机制，通过提取种子数学问题中的主题和知识点，构建概念图来生成新的数学问题。这种方法不仅提高了数据的多样性，还增强了模型的学习能力。
技术框架：MathScale的整体架构包括三个主要模块：1) 从种子问题中提取主题和知识点；2) 构建概念图以组织这些知识；3) 利用概念图生成新的数学问题。最终生成的数学问答对被整合到MathScaleQA数据集中。
关键创新：MathScale的主要创新在于其数据生成方法，通过构建概念图来系统性地生成数学问题，这一方法与传统的随机生成或简单变换方法有本质区别。
关键设计：在数据生成过程中，采用了特定的参数设置和损失函数，以确保生成问题的质量和多样性。此外，模型的微调过程也采用了针对数学推理的优化策略，以提升最终性能。
🖼️ 关键图片
📊 实验亮点
在实验中，MathScale-7B在MwpBench基准测试中表现卓越，所有数据集的微平均准确率提高了42.9%，宏平均准确率提高了43.7%。这一结果显著超越了同类模型，展示了MathScale在数学推理任务中的有效性和优越性。
🎯 应用场景
该研究的潜在应用领域包括教育技术、智能辅导系统和在线学习平台。通过提升大型语言模型在数学推理方面的能力，可以为学生提供更精准的数学问题解答和学习支持，推动个性化学习的发展。未来，该方法还可能扩展到其他学科领域的知识生成与推理任务中。
📄 摘要（原文）
Large language models (LLMs) have demonstrated remarkable capabilities in problem-solving. However, their proficiency in solving mathematical problems remains inadequate. We propose MathScale, a simple and scalable method to create high-quality mathematical reasoning data using frontier LLMs (e.g., {\tt GPT-3.5}). Inspired by the cognitive mechanism in human mathematical learning, it first extracts topics and knowledge points from seed math questions and then build a concept graph, which is subsequently used to generate new math questions. MathScale exhibits effective scalability along the size axis of the math dataset that we generate. As a result, we create a mathematical reasoning dataset (MathScaleQA) containing two million math question-answer pairs. To evaluate mathematical reasoning abilities of LLMs comprehensively, we construct {\sc MwpBench}, a benchmark of Math Word Problems, which is a collection of ten datasets (including GSM8K and MATH) covering K-12, college, and competition level math problems. We apply MathScaleQA to fine-tune open-source LLMs (e.g., LLaMA-2 and Mistral), resulting in significantly improved capabilities in mathematical reasoning. Evaluated on {\sc MwpBench}, MathScale-7B achieves state-of-the-art performance across all datasets, surpassing its best peers of equivalent size by 42.9\% in micro average accuracy and 43.7\% in macro average accuracy, respectively.