Look at the Text: Instruction-Tuned Language Models are More Robust Multiple Choice Selectors than You Think

📄 arXiv: 2404.08382v2 📥 PDF

作者: Xinpeng Wang, Chengzhi Hu, Bolei Ma, Paul Röttger, Barbara Plank

分类: cs.CL, cs.AI

发布日期: 2024-04-12 (更新: 2024-08-20)

备注: COLM 2024

💡 一句话要点

提出文本答案评估方法以增强多选题的鲁棒性

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多选题评估 语言模型 鲁棒性 文本答案 去偏差技术

📋 核心要点

  1. 现有方法主要依赖首个标记概率评估，但对问题措辞变化的鲁棒性不足，导致评估结果不稳定。
  2. 本文提出通过直接评估文本答案的方式，来提高多选题的鲁棒性，尤其是在答案不匹配的情况下。
  3. 实验结果显示，文本答案在选项顺序变化时的鲁棒性显著优于传统的首个标记概率评估，尤其在不匹配率超过50%时。

📝 摘要（中文）

多选题（MCQs）常用于评估大型语言模型（LLMs）的能力。传统上，模型响应的评估通常基于首个标记预测的对数概率。然而，已有研究表明，首个标记概率对MCQ措辞变化缺乏鲁棒性，且与指令调优模型的文本答案不匹配。本文探讨了文本答案的鲁棒性，结果表明，当首个标记答案与文本答案不匹配时，文本答案对问题扰动的鲁棒性更强。随着不匹配率的增加，文本答案的优势愈加明显，尤其在不匹配超过50%时，文本答案对选项顺序变化的鲁棒性优于使用先进去偏差方法（如PriDe）得到的去偏首个标记概率。我们的发现进一步证明了文本答案评估相较于首个标记概率评估的优势。

🔬 方法详解

问题定义：本文旨在解决传统多选题评估方法中首个标记概率对问题措辞变化缺乏鲁棒性的问题。现有方法在面对不同措辞时，评估结果往往不一致，影响了模型的可靠性。

核心思路：论文提出直接评估文本答案的方式，认为文本答案在面对问题扰动时更具鲁棒性，尤其在首个标记答案与文本答案不匹配的情况下。

技术框架：研究通过对比文本答案与首个标记概率的鲁棒性，构建了一个评估框架，包含数据集构建、模型训练和结果分析三个主要模块。

关键创新：最重要的创新在于提出了文本答案评估方法，强调其在高不匹配率情况下的鲁棒性，显著区别于传统的基于首个标记概率的评估方法。

关键设计：在实验中，采用了多种去偏差技术（如PriDe）对首个标记概率进行优化，同时设计了多种问题扰动策略，以全面评估文本答案的鲁棒性。实验中还考虑了不同的选项顺序变化对评估结果的影响。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果表明，当首个标记答案与文本答案不匹配超过50%时，文本答案对选项顺序变化的鲁棒性优于使用先进去偏差方法的首个标记概率。此发现强调了文本答案评估在多选题中的重要性，提供了更可靠的评估标准。

🎯 应用场景

该研究的潜在应用场景包括教育评估、自动化测试系统以及智能问答系统等领域。通过提高多选题评估的鲁棒性，可以更准确地评估模型的理解能力和推理能力，从而推动智能教育和人机交互的进步。

📄 摘要（原文）

Multiple choice questions (MCQs) are commonly used to evaluate the capabilities of large language models (LLMs). One common way to evaluate the model response is to rank the candidate answers based on the log probability of the first token prediction. An alternative way is to examine the text output. Prior work has shown that first token probabilities lack robustness to changes in MCQ phrasing, and that first token probabilities do not match text answers for instruction-tuned models. Therefore, in this paper, we investigate the robustness of text answers. We show that the text answers are more robust to question perturbations than the first token probabilities, when the first token answers mismatch the text answers. The difference in robustness increases as the mismatch rate becomes greater. As the mismatch reaches over 50\%, the text answer is more robust to option order changes than the debiased first token probabilities using state-of-the-art debiasing methods such as PriDe. Our findings provide further evidence for the benefits of text answer evaluation over first token probability evaluation.