How often are errors in natural language reasoning due to paraphrastic variability?
作者: Neha Srikanth, Marine Carpuat, Rachel Rudinger
分类: cs.CL
发布日期: 2024-04-17
备注: accepted to TACL 2024 (pre-MIT Press publication version)
💡 一句话要点
提出一种新指标评估自然语言推理中的释义一致性
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 自然语言推理 释义一致性 大型语言模型 评估指标 数据集构建 模型性能
📋 核心要点
- 现有的自然语言推理模型在面对释义变异时表现出不一致性，影响了其知识和推理能力的评估。
- 本文提出了一种新的评估指标，通过计算模型在同一问题的两个释义上达到相同正确性的概率来衡量释义一致性。
- 实验结果表明，模型的释义一致性随着预训练的增加显著提高，但微调对一致性的提升效果有限。
📝 摘要（中文）
大型语言模型在面对意义保持的释义输入时表现出不一致性。然而，现有的评估方法未能分解释义变异对模型性能的影响。本文提出了一种新指标，用于评估自然语言推理模型的释义一致性，基于模型在两个同一问题的释义上达到相同正确性的概率。我们收集了一个包含7782个经过人工验证的释义推理问题的数据集ParaNLU，并通过该数据集测量了多种模型的释义一致性，结果表明，模型的一致性随着预训练的增加而显著提高，但微调的效果有限。所有测试的模型在释义一致性方面均有提升空间。
🔬 方法详解
问题定义：本文旨在解决自然语言推理模型在面对释义变异时表现出不一致性的问题。现有评估方法未能有效分解释义变异对模型性能的影响，导致对模型能力的评估不准确。
核心思路：论文提出了一种新的评估指标，基于模型在两个释义上达到相同正确性的概率，来量化释义一致性。这一设计能够更好地反映模型在处理不同表达方式时的稳定性。
技术框架：整体架构包括数据集构建、释义一致性评估和模型性能测量三个主要模块。首先，构建ParaNLU数据集，然后使用提出的指标评估不同模型的释义一致性，最后分析结果并提出改进建议。
关键创新：最重要的技术创新点在于提出了一个新的释义一致性评估指标，并将其与模型正确性方差的比例联系起来。这一方法与现有的评估方法相比，更加细致地揭示了释义变异对模型性能的影响。
关键设计：在数据集构建中，使用了7782个经过人工验证的释义推理问题，确保数据的质量和多样性。评估过程中，重点关注模型在不同释义上的表现，采用概率计算来量化一致性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，随着预训练的增加，模型的释义一致性显著提高，具体表现为在多个模型类中一致性提升幅度达到20%以上。然而，微调对释义一致性的提升效果有限，所有模型均显示出进一步改进的空间。
🎯 应用场景
该研究的潜在应用领域包括自然语言处理、智能问答系统和对话系统等。通过提高模型在释义变异下的表现一致性，可以提升这些系统的可靠性和用户体验，促进更广泛的实际应用。未来，该方法还可以扩展到其他语言任务中，进一步推动自然语言理解的研究进展。
📄 摘要（原文）
Large language models have been shown to behave inconsistently in response to meaning-preserving paraphrastic inputs. At the same time, researchers evaluate the knowledge and reasoning abilities of these models with test evaluations that do not disaggregate the effect of paraphrastic variability on performance. We propose a metric for evaluating the paraphrastic consistency of natural language reasoning models based on the probability of a model achieving the same correctness on two paraphrases of the same problem. We mathematically connect this metric to the proportion of a model's variance in correctness attributable to paraphrasing. To estimate paraphrastic consistency, we collect ParaNLU, a dataset of 7,782 human-written and validated paraphrased reasoning problems constructed on top of existing benchmark datasets for defeasible and abductive natural language inference. Using ParaNLU, we measure the paraphrastic consistency of several model classes and show that consistency dramatically increases with pretraining but not finetuning. All models tested exhibited room for improvement in paraphrastic consistency.