Can LLMs Produce Faithful Explanations For Fact-checking? Towards Faithful Explainable Fact-Checking via Multi-Agent Debate

📄 arXiv: 2402.07401v1 📥 PDF

作者: Kyungha Kim, Sangyun Lee, Kung-Hsiang Huang, Hou Pong Chan, Manling Li, Heng Ji

分类: cs.CL

发布日期: 2024-02-12

💡 一句话要点

提出多智能体辩论框架以解决事实核查中的解释可信度问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 事实核查 大型语言模型 自然语言处理 多智能体系统 可信解释 迭代精炼 用户信任

📋 核心要点

  1. 现有方法在生成自然语言解释时缺乏可信度，影响用户对事实核查结果的信任。
  2. 论文提出的MADR框架通过多个LLMs作为智能体，进行角色分配和迭代精炼，以提高解释的可信度。
  3. 实验结果显示，MADR显著降低了不可信元素的出现，提升了解释与证据的一致性，增强了可信度。

📝 摘要（中文）

事实核查研究广泛探讨了验证过程，但对自然语言解释的生成关注较少，而这对于用户信任至关重要。尽管大型语言模型（LLMs）在文本生成方面表现出色，但其在事实核查中生成可信解释的能力仍未得到充分研究。我们的研究调查了LLMs生成此类解释的能力，发现零样本提示常常导致不可信的结果。为了解决这些挑战，我们提出了多智能体辩论精炼（MADR）框架，利用多个LLMs作为具有不同角色的智能体，通过迭代精炼过程来增强生成解释的可信度。实验结果表明，MADR显著提高了LLM生成的解释与证据的一致性，提升了这些解释的可信性和可靠性。

🔬 方法详解

问题定义：本研究旨在解决大型语言模型在事实核查中生成可信解释的能力不足，现有方法往往导致生成的解释与证据不一致，影响用户信任。

核心思路：MADR框架通过引入多个LLMs作为智能体，赋予其不同角色，利用迭代过程精炼生成的解释，从而增强其可信度。这样的设计旨在通过多样化的视角和验证机制，提高最终解释的质量。

技术框架：MADR框架包括多个阶段：首先，多个LLMs生成初步解释；其次，智能体之间进行辩论，提出不同观点；最后，通过迭代精炼，确保最终解释与证据高度一致。

关键创新：MADR的核心创新在于引入多智能体辩论机制，通过角色分配和迭代验证，显著提升了解释的可信度。这一方法与传统单一模型生成解释的方式有本质区别。

关键设计：在MADR中，智能体的角色设置、辩论机制的设计以及迭代过程中的验证标准都是关键设计要素，确保生成的解释不仅符合逻辑，还能与提供的证据紧密对齐。具体的参数设置和损失函数设计尚未详细披露。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，MADR框架显著提高了解释的可信度，生成的解释与证据的一致性提升了XX%（具体数据待补充），相较于传统方法，减少了不可信元素的出现，增强了用户的信任感。

🎯 应用场景

该研究的潜在应用领域包括新闻媒体、社交网络和教育等，能够帮助用户更好地理解和信任事实核查结果。通过提高解释的可信度，MADR框架有助于增强公众对信息的判断能力，促进信息透明度和可信度的提升。

📄 摘要（原文）

Fact-checking research has extensively explored verification but less so the generation of natural-language explanations, crucial for user trust. While Large Language Models (LLMs) excel in text generation, their capability for producing faithful explanations in fact-checking remains underexamined. Our study investigates LLMs' ability to generate such explanations, finding that zero-shot prompts often result in unfaithfulness. To address these challenges, we propose the Multi-Agent Debate Refinement (MADR) framework, leveraging multiple LLMs as agents with diverse roles in an iterative refining process aimed at enhancing faithfulness in generated explanations. MADR ensures that the final explanation undergoes rigorous validation, significantly reducing the likelihood of unfaithful elements and aligning closely with the provided evidence. Experimental results demonstrate that MADR significantly improves the faithfulness of LLM-generated explanations to the evidence, advancing the credibility and trustworthiness of these explanations.