Hierarchical Evidence-Driven Reasoning for Long Document Understanding

📄 arXiv: 2607.04625v1 📥 PDF

作者: Junyu Xiong, Yonghui Wang, Rongjian Gu, Chenyu Liu, Bing Yin, Wengang Zhou, Houqiang Li

分类: cs.CV, cs.AI

发布日期: 2026-07-06

💡 一句话要点

提出HIEVI-RAG以解决长文档理解中的检索与生成问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 长文档理解 检索增强生成 多模态RAG 层次化问题分解 跨页面推理 记忆引导生成 信息检索 闭域文档

📋 核心要点

  1. 现有多模态RAG方法在长文档理解中面临检索到无用信息和依赖初始检索的挑战。
  2. HIEVI-RAG通过分层问题分解、视觉页面检索、页面验证和记忆引导生成来解决这些问题。
  3. 在四个基准测试中，HIEVI-RAG的表现显著优于现有基线，准确率平均提升8.05%。

📝 摘要（中文）

检索增强生成（RAG）通过利用检索机制简化长文档理解，但现有多模态RAG管道面临两个主要挑战：一是标准语义相似性检索器常常获取主题重叠但缺乏答案的干扰页面，二是单次检索管道过于依赖初始检索成功，导致核心证据的遗漏引发级联错误。为此，我们提出HIEVI-RAG，一个分层的证据驱动多模态RAG框架，系统性地将复杂查询分解为四个协作阶段：层次化问题分解、粗略视觉页面检索、细粒度页面验证和记忆引导的迭代生成。通过在四个基准上的广泛评估，HIEVI-RAG显著超越现有开源基线，平均提升8.05%的准确率。

🔬 方法详解

问题定义：本论文旨在解决长文档理解中的检索与生成问题，现有方法在检索过程中容易获取无关信息，并且对初始检索结果的依赖导致信息遗漏引发的错误。

核心思路：HIEVI-RAG通过分层的证据驱动方法，系统性地将复杂查询分解为多个简单子问题，从而提高检索和生成的准确性和鲁棒性。

技术框架：HIEVI-RAG的整体架构包括四个主要阶段：1) 层次化问题分解，将复杂查询拆分为原子子问题；2) 粗略视觉页面检索，利用多模态检索器基于语义相似性获取候选页面；3) 细粒度页面验证，使用EVIAGENT进行跨页面推理；4) 记忆引导的迭代生成，根据累积的子问题上下文进行多轮动态推理。

关键创新：HIEVI-RAG的主要创新在于其分层的证据驱动框架，能够有效避免传统方法中因检索错误导致的级联错误，提升了信息检索的准确性。

关键设计：在细粒度页面验证中，EVIAGENT使用了GRPO进行训练，能够执行跨页面的推理，此外，记忆引导的生成策略确保了上下文信息的有效利用。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

HIEVI-RAG在四个基准测试中的表现显著优于现有开源基线，平均准确率提升8.05%。这一结果表明，该框架在长文档理解任务中具有强大的有效性和协同作用，能够显著改善信息检索与生成的质量。

🎯 应用场景

HIEVI-RAG在法律文书、学术论文和技术文档等闭域文档理解中具有广泛的应用潜力。其高效的检索与生成能力能够帮助用户快速获取关键信息，提高信息处理的效率和准确性，未来可能在智能问答系统和信息检索领域产生深远影响。

📄 摘要（原文）

Retrieval-Augmented Generation (RAG) streamlines long-document understanding by leveraging retrieval mechanisms to restrict input images to a highly curated subset. However, existing multimodal RAG pipelines primarily face two critical challenges: first, standard semantic similarity retrievers frequently fetch topically overlapping yet answer-void distractor pages that mislead downstream generation; second, rigid single-pass pipelines heavily depend on initial retrieval success, where any omission of core evidence inevitably causes cascading errors. To address these challenges, we introduce HIEVI-RAG, a hierarchical, evidence-driven multimodal RAG framework for closed-domain document understanding. HIEVI-RAG systematically factorizes complex queries into a cooperative four-stage pipeline: (1) hierarchical question decomposition to break multi-hop root queries into atomic child questions; (2) coarse visual page retrieval leveraging a multimodal retriever to fetch candidate pages based on semantic similarity; (3) fine-grained page verification via EVIAGENT, a specialized multi-page verifier trained with GRPO to execute cross-page reasoning over multi-image blocks; and (4) memory-guided iterative generation that leverages accumulated sub-question context to execute multi-round, dynamic reasoning over the prioritized sequence. Extensive evaluations across four benchmarks demonstrate the robust efficacy and synergy of our framework, which significantly outperforms existing open-source baselines and exceeds the strongest reported baseline by an average of 8.05% in accuracy.