STAIR (STructure Aware Information Retriever): A novel dataset and LLM based retriever for document structure augmentation

📄 arXiv: 2609.03874v1 📥 PDF

作者: Vineet Kumar, Meghanadh Pulivarthi, vishwajeet kumar, Jaydeep Sen, Riyaz Ahmad Bhat, Sachindra Joshi

分类: cs.AI

发布日期: 2026-09-03

💡 一句话要点

提出STAIR以解决文档结构信息检索问题

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 信息检索 大型语言模型 文档结构 检索增强生成 目录结构 低幻觉生成 多样化基准 长文本处理

📋 核心要点

  1. 现有的检索方法在处理长文本时，往往忽视了文档的全局结构，导致信息检索的准确性降低。
  2. 本文提出的STAIR系统通过利用文档的目录结构，增强了信息检索的效率和准确性，解决了传统方法的不足。
  3. 实验结果显示，STAIR在SearchTome基准上取得了82.6%的Recall@1，显著优于其他基线方法，提升幅度明显。

📝 摘要（中文）

检索增强生成（RAG）是利用大型语言模型（LLMs）生成准确且无幻觉答案的关键组成部分。尽管LLMs在处理长上下文方面有所改善，但仍然面临“迷失在中间”的问题。因此，精确的检索变得尤为重要。现有检索器将长上下文分块为基于长度的可管理块，过程中丢失了语料库中的丰富语义全局结构。本文提出了一种新型检索系统STAIR，使LLM能够利用语料库中的全局结构（如目录）来高效存储和检索信息。通过与微调的可微搜索索引（DSI）系统的详细消融研究，结果表明，目录有助于构建低幻觉（低于0.05%）的生成信息检索系统，并能在训练样本极少的情况下进行泛化。为进一步研究这一新方向，本文发布了SearchTome，一个由6个不同领域的18本书籍构建的多样化基准。STAIR在SearchTome上的Recall@1得分为82.6%，显著优于DSI（76.9%）和其他强基线。

🔬 方法详解

问题定义：本文旨在解决现有信息检索方法在处理长文本时，因忽视文档全局结构而导致的检索准确性不足的问题。现有方法通常将长文本分割为固定长度的块，丢失了重要的语义信息。

核心思路：STAIR系统的核心思路是利用文档的目录结构（如目录）来增强信息检索的能力，使得LLM能够更有效地存储和检索信息。通过这种方式，系统能够在检索时考虑全局上下文，从而提高检索的准确性。

技术框架：STAIR的整体架构包括数据预处理、目录提取、信息存储和检索模块。首先，从文档中提取目录信息，然后通过可微搜索索引（DSI）系统进行信息存储和检索。

关键创新：STAIR的主要创新在于引入了文档目录作为检索的辅助信息，这一设计使得系统能够在信息检索中利用全局结构，从而显著降低了生成信息的幻觉率。

关键设计：在关键设计方面，STAIR采用了微调的可微搜索索引（DSI）作为基础架构，并通过消融实验验证了目录信息对检索性能的提升。此外，系统在训练时考虑了少量样本的泛化能力。

🖼️ 关键图片

fig_0
fig_1
fig_2

📊 实验亮点

在实验中，STAIR在SearchTome基准上取得了82.6%的Recall@1，显著高于DSI的76.9%和其他基线方法如BM25（59.5%）、DPR（68.7%）及Mistral（13.8%）。这一结果表明，STAIR在信息检索的准确性和效率上具有显著优势。

🎯 应用场景

STAIR系统在文档检索、信息提取和问答系统等领域具有广泛的应用潜力。通过提升信息检索的准确性和效率，该系统能够为用户提供更为精准的答案，尤其在长文本处理和多领域知识检索中展现出重要价值。未来，STAIR的设计理念也可能推动更多基于结构信息的检索技术的发展。

📄 摘要（原文）

Retrieval Augmented Generation (RAG) is a key component for generating accurate and hallucination free answers using Large Language Models (LLMs). LLMs are improving at handling long context, but still suffer from "lost in the middle" problem. Thus, precise and accurate retrieval is important. Current retrievers chunk long context into length-based manageable chunks - in the process throwing away rich and informative semantic global structure in the corpus. We introduce a novel retrieval system STAIR that empowers an LLM to exploit global structure in a corpus such as a Table of Contents (ToC) to efficiently store and retrieve information from its model parameters. Our thorough and careful ablation studies with a finetuned Differentiable Search Index (DSI) system show that ToC helps build a low hallucination (less than 0.05%) generative Information Retrieval (IR) system and can generalize to examples where very few training samples are available. To further research in this novel direction of ToC based retrieval we release SearchTome - a diverse benchmark created from 18 books across 6 diverse domains to further research in this novel direction. STAIR achieves a high Recall@1 score of 82.6% on SearchTome as compared to DSI (76.9%), where the difference is found to be statistically significant. STAIR easily beats other strong baselines such as BM25 (59.5%), DPR (68.7%) and out-of-the-box Mistral (13.8%).