CritiqueLLM: Towards an Informative Critique Generation Model for Evaluation of Large Language Model Generation
作者: Pei Ke, Bosi Wen, Zhuoer Feng, Xiao Liu, Xuanyu Lei, Jiale Cheng, Shengyuan Wang, Aohan Zeng, Yuxiao Dong, Hongning Wang, Jie Tang, Minlie Huang
分类: cs.CL, cs.AI
发布日期: 2023-11-30 (更新: 2024-06-26)
备注: Accepted by ACL 2024 (Main Conference)
💡 一句话要点
提出CritiqueLLM以解决现有语言模型评价不足问题
🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)
关键词: 语言模型 评价生成 自然语言处理 信息丰富性 模型微调 多路径提示 伪参考
📋 核心要点
- 现有的评价生成模型在生成信息丰富的评价时存在不足，尤其是在缺乏参考的情况下，导致评价性能不佳。
- 提出的Eval-Instruct方法通过伪参考生成逐点评分评价，并利用多路径提示修正这些评价，以提高信息量。
- CritiqueLLM经过微调后，实验证明其在逐点评分的系统级相关性上超越了ChatGPT和所有开源基线，表现接近GPT-4。
📝 摘要（中文）
随着自然语言处理（NLP）领域开始利用大型语言模型（LLMs）作为评价生成文本质量的工具，现有研究大多依赖于GPT-4的直接提示进行训练。然而，这些模型在生成信息丰富的评价方面存在不足，尤其是在缺乏参考的情况下，导致其评价性能不尽如人意。本文提出了一种简单而有效的方法Eval-Instruct，首先通过伪参考获取逐点评分评价，然后通过多路径提示修正这些评价，以在不同任务和设置中获得信息丰富的评价数据。经过微调后，CritiqueLLM在系统级逐点评分相关性上表现优于ChatGPT及所有开源基线，甚至与GPT-4的评价性能相当。我们还展示了生成的评价可以作为可扩展的反馈，进一步提升强大LLMs（如ChatGPT）的生成质量。
🔬 方法详解
问题定义：本文旨在解决现有语言模型在生成评价时缺乏信息量和细粒度区分能力的问题，尤其是在没有参考的情况下，导致评价效果不理想。
核心思路：提出Eval-Instruct方法，首先通过伪参考生成逐点评分评价，然后通过多路径提示修正这些评价，以获取更具信息量的评价数据。这样的设计旨在提升评价的准确性和有效性。
技术框架：整体流程包括两个主要阶段：第一阶段是生成逐点评分评价，第二阶段是通过多路径提示对这些评价进行修正。每个阶段都针对不同的任务和设置进行优化。
关键创新：CritiqueLLM的核心创新在于通过伪参考和多路径提示的结合，显著提升了评价生成的质量和信息量。这与现有方法依赖于直接提示的方式形成了鲜明对比。
关键设计：在模型训练中，采用了特定的损失函数以优化评价的准确性，并设计了适应不同任务的网络结构，以确保生成的评价在多种场景下都具备良好的表现。
🖼️ 关键图片
📊 实验亮点
实验结果表明，CritiqueLLM在系统级逐点评分相关性上超越了ChatGPT和所有开源基线，且与GPT-4的评价性能相当。这一成果展示了该模型在生成评价方面的显著提升，具有重要的实用价值。
🎯 应用场景
该研究的潜在应用领域包括文本生成质量评估、自动化内容审核和教育领域的写作反馈等。通过提供更为精准和信息丰富的评价，CritiqueLLM能够帮助提升生成模型的整体性能，进而推动NLP技术在实际应用中的发展与普及。
📄 摘要（原文）
Since the natural language processing (NLP) community started to make large language models (LLMs) act as a critic to evaluate the quality of generated texts, most of the existing works train a critique generation model on the evaluation data labeled by GPT-4's direct prompting. We observe that these models lack the ability to generate informative critiques in both pointwise grading and pairwise comparison especially without references. As a result, their generated critiques cannot provide fine-grained distinguishability on generated texts, causing unsatisfactory evaluation performance. In this paper, we propose a simple yet effective method called Eval-Instruct, which can first acquire pointwise grading critiques with pseudo references and then revise these critiques via multi-path prompting to obtain informative evaluation data in different tasks and settings, including pointwise grading and pairwise comparison with / without references. After fine-tuning on these data, the resulting model CritiqueLLM is empirically shown to outperform ChatGPT and all the open-source baselines and even achieve comparable evaluation performance to GPT-4 in system-level correlations of pointwise grading. We also demonstrate that our generated critiques can act as scalable feedback to further improve the generation quality of strong LLMs like ChatGPT.