Large Language Models Struggle with Unreasonability in Math Problems
作者: Jingyuan Ma, Damai Dai, Zihang Yuan, Rui li, Weilin Luo, Bin Wang, Qun Liu, Lei Sha, Zhifang Sui
分类: cs.CL
发布日期: 2024-03-28 (更新: 2025-06-01)
备注: 32 pages, 8 figures
💡 一句话要点
提出不合理数学问题基准以评估大语言模型的推理能力
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 大语言模型 数学推理 不合理问题 模型评估 深度学习
📋 核心要点
- 现有的大语言模型在处理不合理数学问题时表现不佳，无法有效识别问题的合理性。
- 本文提出不合理数学问题（UMP）基准，旨在评估模型对不合理数学问题的检测和响应能力。
- 实验结果显示，尽管一些模型在不合理输入上表现更好，但常常生成冗长且无效的回答，且改进方法存在权衡。
📝 摘要（中文）
大语言模型（LLMs）在多种数学和推理基准上表现出色，但在面对不合理的数学问题时却常常表现不佳。模型往往未能识别问题的合理性，反而继续假设问题是合理的，导致错误答案或过度思考和冗长的自我修正。为系统性地研究这一被忽视的脆弱性，本文提出了不合理数学问题（UMP）基准，旨在评估LLMs识别和应对不合理数学问题的能力。通过对19种LLMs的广泛实验，发现即使是最先进的模型如GPT-4o在UMP上的得分仅为0.6。尽管推理模型如DeepSeek-R1对不合理输入的敏感性更高，但这往往导致生成冗长且无意义的响应。我们进一步探讨了提示和微调方法，虽然提供了部分改进，但也引入了权衡，揭示了LLMs在这一挑战性场景中的潜力和局限性。
🔬 方法详解
问题定义：本文旨在解决大语言模型在面对不合理数学问题时的脆弱性，现有方法未能有效识别这些问题，导致错误的推理和回答。
核心思路：提出不合理数学问题（UMP）基准，通过系统性评估模型的识别和响应能力，揭示其在处理不合理输入时的局限性。
技术框架：整体架构包括问题生成、模型评估和结果分析三个主要模块。首先生成不合理数学问题，然后使用19种不同的LLMs进行评估，最后分析模型的响应和表现。
关键创新：最重要的创新在于提出了UMP基准，专门针对不合理数学问题的检测与响应能力进行评估，与现有的数学推理基准有本质区别。
关键设计：在实验中，采用了多种模型和评估指标，设置了不同的提示和微调策略，以探索模型在不合理输入下的表现，并分析其生成的响应长度和有效性。
🖼️ 关键图片
📊 实验亮点
实验结果表明，最先进的模型如GPT-4o在不合理数学问题基准上的得分仅为0.6，而推理模型DeepSeek-R1虽然对不合理输入更敏感，但生成的响应往往冗长且无意义。这些发现揭示了当前模型在处理不合理问题时的显著不足。
🎯 应用场景
该研究的潜在应用领域包括教育技术、智能辅导系统和自动化问题生成等。通过提高大语言模型对不合理问题的识别能力，可以增强其在实际应用中的可靠性和有效性，推动智能教育和人机交互的发展。
📄 摘要（原文）
Large Language Models (LLMs) have shown remarkable success on a wide range of math and reasoning benchmarks. However, we observe that they often struggle when faced with unreasonable math problems. Instead of recognizing these issues, models frequently proceed as if the problem is well-posed, producing incorrect answers or falling into overthinking and verbose self-correction. To systematically investigate this overlooked vulnerability, we propose the \textbf{Unreasonable Math Problems (UMP)} benchmark, designed to evaluate LLMs' ability to detect and respond to unreasonable math problem statements. Based on extensive experiments covering 19 LLMs, we find that even state-of-the-art general models like GPT-4o achieve only a score of 0.6 on UMP. While reasoning models such as DeepSeek-R1 demonstrate a higher sensitivity to unreasonable inputs, this often comes at the cost of generating overly long and meaningless responses that fail to converge. We further explore prompting and fine-tuning methods, which offer partial improvements but also introduce trade-offs, shedding light on both the potential and limitations of LLMs in this challenging setting.