AttributionBench: How Hard is Automatic Attribution Evaluation?
作者: Yifei Li, Xiang Yue, Zeyi Liao, Huan Sun
分类: cs.CL, cs.AI, cs.LG
发布日期: 2024-02-23
💡 一句话要点
提出AttributionBench以解决自动归因评估难题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 自动归因评估 生成搜索引擎 大型语言模型 标准化基准 信息验证
📋 核心要点
- 核心问题：现有的自动归因评估方法缺乏标准化基准，且依赖昂贵的人类评估，导致评估效率低下。
- 方法要点：论文提出AttributionBench基准，旨在通过综合现有数据集来评估自动归因的有效性。
- 实验或效果：实验结果显示，微调后的GPT-3.5在二元分类任务中仅达到约80%的宏观F1分数，揭示了自动评估的挑战。
📝 摘要（中文）
现代生成搜索引擎通过提供引用证据来增强大型语言模型（LLM）响应的可靠性。然而，评估答案的归因，即生成响应中的每个主张是否都得到其引用证据的充分支持，仍然是一个未解决的问题。这种验证传统上依赖于昂贵的人类评估，突显出对自动归因评估方法的迫切需求。为填补这些方法缺乏标准化基准的空白，我们提出了AttributionBench，这是一个由各种现有归因数据集编制的综合基准。我们在AttributionBench上的广泛实验揭示了自动归因评估的挑战，即使对于最先进的LLM，表现也不尽如人意。具体而言，我们的研究发现，即使是经过微调的GPT-3.5，在二元分类任务中也仅能达到约80%的宏观F1分数。对300多个错误案例的详细分析表明，大多数失败源于模型处理细微信息的能力不足，以及模型所能访问的信息与人类注释者之间的差异。
🔬 方法详解
问题定义：论文要解决的问题是如何有效评估生成响应的归因，尤其是确保每个主张都得到充分的引用支持。现有方法主要依赖人类评估，效率低且成本高。
核心思路：论文的核心思路是构建AttributionBench基准，通过整合现有的归因数据集，为自动归因评估提供标准化的测试平台，以便更好地评估模型的性能。
技术框架：整体架构包括数据集的整合、模型的训练与评估、以及性能的分析与比较。主要模块包括数据预处理、模型训练、结果评估和错误分析。
关键创新：最重要的技术创新点在于提出了一个综合性的基准AttributionBench，使得自动归因评估的标准化成为可能。这与现有方法的本质区别在于提供了一个统一的评估框架。
关键设计：在设计中，论文采用了多种现有数据集，设置了明确的评估指标（如宏观F1分数），并对模型的微调过程进行了详细描述，以确保评估的准确性和可靠性。
🖼️ 关键图片
📊 实验亮点
实验结果显示，即使是经过微调的GPT-3.5，在二元分类任务中仅能达到约80%的宏观F1分数，表明当前自动归因评估面临显著挑战。对300多个错误案例的分析揭示了模型在处理细微信息时的不足。
🎯 应用场景
该研究的潜在应用领域包括生成式搜索引擎、智能问答系统和信息检索等。通过提高自动归因评估的准确性，可以显著提升生成模型的可信度和用户体验，未来可能推动更广泛的自动化信息验证技术的发展。
📄 摘要（原文）
Modern generative search engines enhance the reliability of large language model (LLM) responses by providing cited evidence. However, evaluating the answer's attribution, i.e., whether every claim within the generated responses is fully supported by its cited evidence, remains an open problem. This verification, traditionally dependent on costly human evaluation, underscores the urgent need for automatic attribution evaluation methods. To bridge the gap in the absence of standardized benchmarks for these methods, we present AttributionBench, a comprehensive benchmark compiled from various existing attribution datasets. Our extensive experiments on AttributionBench reveal the challenges of automatic attribution evaluation, even for state-of-the-art LLMs. Specifically, our findings show that even a fine-tuned GPT-3.5 only achieves around 80% macro-F1 under a binary classification formulation. A detailed analysis of more than 300 error cases indicates that a majority of failures stem from the model's inability to process nuanced information, and the discrepancy between the information the model has access to and that human annotators do.