DCR-Consistency: Divide-Conquer-Reasoning for Consistency Evaluation and Improvement of Large Language Models

📄 arXiv: 2401.02132v1 📥 PDF

作者: Wendi Cui, Jiaxin Zhang, Zhuohang Li, Lopez Damien, Kamalika Das, Bradley Malin, Sricharan Kumar

分类: cs.CL, cs.AI

发布日期: 2024-01-04

💡 一句话要点

提出DCR框架以解决大型语言模型一致性评估问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 大型语言模型 一致性评估 分治推理 自动化框架 文本生成 评估方法 机器学习 自然语言处理

📋 核心要点

  1. 现有的评估方法无法有效捕捉大型语言模型生成文本的整体语义一致性，导致与人类评判的相关性较低。
  2. 本文提出DCR框架，通过分治推理方法对生成文本进行一致性评估和改进，采用分治评估器和自动度量转换器。
  3. 实验结果表明，DCR在多个基准测试中显著提升了一致性评估的准确性，并减少了近90%的输出不一致性。

📝 摘要（中文）

评估大型语言模型生成文本的质量和变异性是一个重要但尚未解决的研究挑战。传统的评估方法如ROUGE和BERTScore往往无法捕捉整体语义等价性，导致与人类判断的相关性较低，尤其在医疗和金融等高风险应用中更为严重。本文提出DCR，一个自动化框架，通过分治推理方法评估和改善LLM生成文本的一致性。与现有的段落级评估器不同，我们的方法采用分治评估器（DCE），将段落间的比较分解为句子与段落的比较，并引入自动度量转换器（AMC）将DCE的输出转换为可解释的数值评分。此外，我们还提出了基于推理的改进器（RAI），利用DCE识别的分析理由生成新响应，以减少不一致性。通过全面的实证分析，我们的方法在多个基准测试中显著超越了现有方法。

🔬 方法详解

问题定义：本文旨在解决大型语言模型生成文本的一致性评估问题。现有方法如ROUGE和BERTScore在捕捉语义等价性方面存在不足，导致评估结果与人类判断的相关性较低，尤其在高风险领域的应用中显得尤为重要。

核心思路：论文提出的DCR框架采用分治推理方法，通过将段落间的比较分解为句子与段落的比较，提升评估的细致度和准确性。设计上，DCE模块负责细化比较，而AMC模块则将评估结果转换为可解释的数值评分。

技术框架：DCR框架主要由两个模块组成：分治评估器（DCE）和自动度量转换器（AMC）。DCE负责将生成的文本分解为更小的单元进行比较，而AMC则将DCE的输出转化为可量化的评分，便于后续分析和改进。

关键创新：DCR的核心创新在于其分治推理方法，能够在句子级别进行细致的比较，显著提升一致性评估的准确性。这一方法与传统的段落级评估方法本质上不同，能够更全面地捕捉文本生成中的细微差异。

关键设计：在设计上，DCE模块采用了预定义的评估标准来判断句子与段落之间的一致性，而AMC则通过特定的算法将评估结果转换为数值评分。此外，RAI模块利用DCE识别的分析理由生成新的响应，以进一步减少不一致性。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

实验结果显示，DCR框架在SummEval数据集上相比于现有方法提升了19.3%和24.3%的评估准确性，并且有效减少了近90%的输出不一致性，展现出显著的性能优势。

🎯 应用场景

该研究的潜在应用领域包括医疗、金融等高风险行业，能够为大型语言模型的生成文本提供更可靠的一致性评估与改进方案。通过提升文本生成的可靠性，DCR框架有助于增强自动化决策系统的安全性与有效性，未来可能在智能客服、内容生成等领域发挥重要作用。

📄 摘要（原文）

Evaluating the quality and variability of text generated by Large Language Models (LLMs) poses a significant, yet unresolved research challenge. Traditional evaluation methods, such as ROUGE and BERTScore, which measure token similarity, often fail to capture the holistic semantic equivalence. This results in a low correlation with human judgments and intuition, which is especially problematic in high-stakes applications like healthcare and finance where reliability, safety, and robust decision-making are highly critical. This work proposes DCR, an automated framework for evaluating and improving the consistency of LLM-generated texts using a divide-conquer-reasoning approach. Unlike existing LLM-based evaluators that operate at the paragraph level, our method employs a divide-and-conquer evaluator (DCE) that breaks down the paragraph-to-paragraph comparison between two generated responses into individual sentence-to-paragraph comparisons, each evaluated based on predefined criteria. To facilitate this approach, we introduce an automatic metric converter (AMC) that translates the output from DCE into an interpretable numeric score. Beyond the consistency evaluation, we further present a reason-assisted improver (RAI) that leverages the analytical reasons with explanations identified by DCE to generate new responses aimed at reducing these inconsistencies. Through comprehensive and systematic empirical analysis, we show that our approach outperforms state-of-the-art methods by a large margin (e.g., +19.3% and +24.3% on the SummEval dataset) in evaluating the consistency of LLM generation across multiple benchmarks in semantic, factual, and summarization consistency tasks. Our approach also substantially reduces nearly 90% of output inconsistencies, showing promise for effective hallucination mitigation.