Natural Hard-Negative Mining from Positives for Instruction-Following Retrieval

📄 arXiv: 2610.36900v1 📥 PDF

作者: Chaolang Li, Jingyu Li, Zhaocheng Du, Xuyang Xie, Gang Wang, Pengwen Dai

分类: cs.AI

发布日期: 2026-10-27

💡 一句话要点

提出自然困难负样本挖掘以提升指令跟随检索性能

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 指令跟随检索 困难负样本挖掘 对比学习 信息检索 自然语言处理

📋 核心要点

  1. 现有的指令跟随信息检索方法在对比监督方面存在不足，难以充分利用原始正样本的潜力。
  2. 本文提出自然困难负样本挖掘（NHNM），通过将原始正样本转化为困难负样本，提升检索效果。
  3. 在多个实验中，经过NHNM-MARCO微调的模型在指令跟随任务上表现出显著的性能提升。

📝 摘要（中文）

指令跟随信息检索（IFIR）要求检索器根据查询及其特定指令对文档进行排序，但现有的指令条件对比监督方法仍然稀缺。现有的合成方法通常固定一个正样本并生成额外的负样本，忽视了原始正样本的困难负样本潜力。本文提出自然困难负样本挖掘（NHNM），通过查询兼容指令促进可转换的负样本，并将原始正样本重新利用为自然指令困难负样本。其自动化的候选清理、反转构建和几何过滤管道生成与预训练检索空间对齐的紧凑高对比度监督。在MSMARCO数据集上应用NHNM，生成了近7000个实例的IFIR训练集NHNM-MARCO。在InstructIR和FollowIR上，经过NHNM-MARCO微调的568M到4B参数的模型在指令跟随性能上表现优异，并在多个设置中与更大规模的检索器相匹配或超越。控制分析和消融实验将这些提升归因于自然困难负样本监督，而非模型规模或训练数据量。

🔬 方法详解

问题定义：本文旨在解决指令跟随信息检索中的监督稀缺问题，现有方法未能有效利用原始正样本的困难负样本潜力。

核心思路：提出自然困难负样本挖掘（NHNM），通过查询兼容指令生成可转换的负样本，并将原始正样本重新利用为困难负样本，从而增强对比监督。

技术框架：NHNM的整体架构包括候选清理、反转构建和几何过滤三个主要模块，旨在生成高对比度的监督信号。

关键创新：最重要的创新在于将原始正样本转化为自然困难负样本，这一方法与传统的合成负样本生成方法本质上不同，能够更好地适应检索任务。

关键设计：在设计中，采用了特定的损失函数和网络结构，以确保生成的负样本在查询条件下具有高对比度，同时保持与预训练检索空间的对齐。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

在多个实验设置中，经过NHNM-MARCO微调的模型在指令跟随任务上表现出显著提升，尤其是在InstructIR和FollowIR上，模型参数从568M到4B的范围内均取得了优异的性能，超越了更大规模的检索器。

🎯 应用场景

该研究的潜在应用领域包括信息检索、自然语言处理和智能助手等，能够显著提升指令跟随任务的检索性能，具有广泛的实际价值和未来影响。

📄 摘要（原文）

Instruction-following information retrieval (IFIR) requires retrievers to rank documents by both a query and its instance-specific instructions, yet instruction-conditioned contrastive supervision remains scarce. Existing synthetic methods typically fix a positive passage and generate additional negatives, overlooking the hard-negative potential of the original positive. We propose Natural Hard-Negative Mining (NHNM), which promotes convertible negatives under query-compatible instructions and repurposes original positives as natural instruction hard negatives. Its automated Candidate Cleaning, Reversal Construction, and Geometry Filtering pipeline produces compact, high-contrast supervision aligned with the pretrained retrieval space. Applied to MSMARCO, NHNM yields NHNM-MARCO, an IFIR training set of nearly 7K instances. On InstructIR and FollowIR, models with 568M to 4B parameters fine-tuned on NHNM-MARCO achieve strong instruction-following performance and match or surpass substantially larger retrievers in several settings. Controlled analyses and ablations attribute these gains to natural hard-negative supervision rather than model scale or training-data volume.