Tree of Reviews: A Tree-based Dynamic Iterative Retrieval Framework for Multi-hop Question Answering

📄 arXiv: 2404.14464v1 📥 PDF

作者: Li Jiapeng, Liu Runze, Li Yabo, Zhou Tong, Li Mingling, Chen Xiang

分类: cs.CL, cs.AI, cs.IR

发布日期: 2024-04-22

备注: Keywords: Muti-hop Question Answering; Retrieval-Augmented Generation; Tree of Thought; Reasoning TLDR: We proposed a tree-based dynamic, iterative retrieval framework for multi-hop question answering

💡 一句话要点

提出Tree of Reviews框架以解决多跳问答中的检索问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 多跳问答 检索增强 动态检索 树结构 推理路径 大型语言模型 知识密集型

📋 核心要点

  1. 现有的多跳问答方法在检索到的无关段落可能导致推理错误，且链结构中的错误会引发级联效应。
  2. 本文提出的Tree of Reviews框架通过树结构动态管理检索段落，减少无关信息对推理的干扰。
  3. 实验结果显示，ToR在三个多跳问答数据集上表现优异，超越了现有基线方法，提升了检索和响应生成的效果。

📝 摘要（中文）

多跳问答是一个知识密集型的复杂问题。大型语言模型（LLMs）利用其思维链（CoT）能力逐步推理复杂问题，而检索增强可以有效缓解LLMs中因过时和未知知识导致的事实错误。近期研究在CoT推理中引入了检索增强以解决多跳问答。然而，这些链式方法存在一些问题：1）检索到的无关段落可能误导推理；2）链结构中的错误可能导致错误的级联。在本文中，我们提出了一种动态检索框架Tree of Reviews（ToR），其根节点为问题，其他节点为检索到的段落，从根节点扩展不同的推理路径。我们的框架动态决定是启动新搜索、拒绝还是接受基于推理路径上的段落。与相关工作相比，我们引入树结构分别处理每个检索段落，减轻无关段落对推理路径的误导影响；推理路径扩展的多样性降低了单一推理错误对整体的影响。我们在三个不同的多跳问答数据集上进行了实验，结果表明，与基线方法相比，ToR在检索和响应生成方面均达到了最先进的性能。此外，我们提出了两种基于树的搜索优化策略，修剪和有效扩展，以减少时间开销并增加路径扩展的多样性。我们将发布我们的代码。

🔬 方法详解

问题定义：本文旨在解决多跳问答中因检索到的无关段落导致的推理错误及链结构错误引发的级联效应。现有方法在处理复杂问题时存在显著不足，尤其是在信息检索的准确性和推理路径的稳定性方面。

核心思路：我们提出的Tree of Reviews框架通过树形结构动态管理检索到的段落，允许从根节点（问题）扩展多条推理路径，从而有效减少无关信息的干扰，并降低单一错误对整体推理的影响。

技术框架：ToR框架的整体架构包括根节点（问题）和多个子节点（检索段落），通过动态决策机制来选择是否启动新搜索、接受或拒绝段落。该框架的主要模块包括检索模块、推理路径扩展模块和动态决策模块。

关键创新：ToR的主要创新在于引入树结构来分别处理每个检索段落，显著减轻了无关段落对推理路径的误导影响，并通过多样化推理路径降低了单一推理错误的影响。

关键设计：在设计中，我们采用了修剪和有效扩展的搜索优化策略，以减少时间开销并提高路径扩展的多样性。具体参数设置和损失函数的设计细节将在后续的代码发布中提供。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在三个多跳问答数据集上的实验结果表明，Tree of Reviews框架在检索和响应生成方面均达到了最先进的性能，相较于基线方法，性能提升显著，具体数据将在论文中详细列出。

🎯 应用场景

该研究的潜在应用领域包括智能问答系统、知识检索和人机交互等。通过提高多跳问答的准确性和效率，ToR框架能够在教育、客服和信息检索等多个行业中发挥重要作用，提升用户体验和信息获取效率。

📄 摘要（原文）

Multi-hop question answering is a knowledge-intensive complex problem. Large Language Models (LLMs) use their Chain of Thoughts (CoT) capability to reason complex problems step by step, and retrieval-augmentation can effectively alleviate factual errors caused by outdated and unknown knowledge in LLMs. Recent works have introduced retrieval-augmentation in the CoT reasoning to solve multi-hop question answering. However, these chain methods have the following problems: 1) Retrieved irrelevant paragraphs may mislead the reasoning; 2) An error in the chain structure may lead to a cascade of errors. In this paper, we propose a dynamic retrieval framework called Tree of Reviews (ToR), where the root node is the question, and the other nodes are paragraphs from retrieval, extending different reasoning paths from the root node to other nodes. Our framework dynamically decides to initiate a new search, reject, or accept based on the paragraphs on the reasoning paths. Compared to related work, we introduce a tree structure to handle each retrieved paragraph separately, alleviating the misleading effect of irrelevant paragraphs on the reasoning path; the diversity of reasoning path extension reduces the impact of a single reasoning error on the whole. We conducted experiments on three different multi-hop question answering datasets. The results show that compared to the baseline methods, ToR achieves state-of-the-art performance in both retrieval and response generation. In addition, we propose two tree-based search optimization strategies, pruning and effective expansion, to reduce time overhead and increase the diversity of path extension. We will release our code.