从正例中进行自然困难负例挖掘以实现指令遵循检索

指令遵循信息检索（IFIR）要求检索器根据查询及其实例特定指令对文档进行排序，然而基于指令条件的对比监督仍然稀缺。现有的合成方法通常固定一个正例段落并生成额外的负例，却忽视了原始正例所具有的困难负例潜力。我们提出自然困难负例挖掘（Natural Hard-Negative Mining，NHNM），在与查询兼容的指令下促进可转换负例的生成，并将原始正例重新用作自然的指令困难负例。其自动化的候选清洗、反转构造和几何过滤流程，生成与预训练检索空间相一致的紧凑、高对比度监督数据。应用于 MSMARCO 后，NHNM 生成了 NHNM-MARCO，这是一个包含近 7K 个实例的 IFIR 训练集。在 InstructIR 和 FollowIR 上，使用 NHNM-MARCO 微调的 568M 至 4B 参数模型取得了出色的指令遵循性能，并在多种设置下达到或超过规模显著更大的检索器。受控分析和消融实验表明，这些增益源于自然困难负例监督，而非模型规模或训练数据量。