超越事后奖励：面向多模态嵌入的特权推理探索

多模态大语言模型（MLLMs）的发展推动了多模态嵌入的显著进步。近期方法利用生成能力，通过自生成推理增强待嵌入的输入，以生成信息更丰富的嵌入。然而，用于训练嵌入模型的传统检索监督仅指定成对的相关性关系，并未明确引导用于输入增强的推理。这类推理既无法直接观测，也不由输入唯一确定，因此多条合理的推理轨迹可能引入对检索效用各异的语义线索。现有方法大多仅以输入为条件优化推理，限制了对检索相关轨迹的探索。我们提出 PILOT 框架，将推理建模为潜变量，并将其先验分布和后验分布实现为共享 MLLM 的两种不同推理模式。先验仅以输入为条件，而后验则利用训练阶段额外的关系证据来引导推理探索。为将后验更广泛的探索转化为推理阶段的性能提升，我们推导了一个重要性加权变分目标，并将其实现为先验与后验协同演化框架。该框架在与推理阶段兼容的共享奖励下改进两种模式，同时根据后验轨迹的效用及其在先验下的可达性，将其选择性地迁移至先验。在包含 78 项任务的 MMEB-V2 基准上，PILOT 在 2B 和 7B 参数规模下均在全部 12 个任务组中优于主要基线，总体得分分别提高 3.2 和 3.3 分，其中视觉文档检索的提升最大（分别提高 6.1 和 6.4 分）。我们的结果表明，在训练推理增强型嵌入模型时，关系监督最有价值的用途并非充当事后奖励，而是作为塑造推理探索方式的信号。