VDiff-Bench:用于细粒度图像差异识别的高难度基准
VDiff-Bench: A Challenging Benchmark for Fine-Grained Image Difference Identification
精选理由
深度 90 / 新颖度 85,来自 arXiv cs.AI。
AI 摘要
多模态大语言模型(MLLMs)在视觉问答等通用视觉理解任务上表现出色,但它们往往难以掌握一项基本的比较能力:识别两幅相似图像之间发生了什么变化。我们提出 VDiff-Bench,这是一个用于细粒度图像差异识别的高难度多项选择基准。VDiff-Bench 包含针对图像对的 1,756 道四选一题目,涵盖 10 类变化:位置、运动、局部图像颜色、整体图像颜色、出现/消失、噪声/分辨率、纹理、替换/尺寸、OCR/文本以及光照。每道题对应两个图像输入和 4 个选项:真实差异、两个高难度负面描述,以及一个“无差异”干扰项。为增加任务难度,我们专门构建了以真实标注为条件的负面选项,要求模型将实际变化与语义上相近的替代描述区分开来。对 11 个当前最先进的开源和闭源 MLLMs 的实验表明,细粒度视觉比较仍然十分脆弱:模型在不同数据来源和变化类别上的表现不均衡,并且在噪声和纹理等细微低层次变化上持续失败。例如,三个 7–8B 规模的开源 MLLMs 在语义变化上的得分为 52.5%–70.6%,但在噪声和纹理等低层次变化上的得分仅为 8.7%–33.3%,并错误地认为两个图像输入之间没有变化。令人意外的是,尽管其他闭源商业模型表现强劲,Grok 4.3 在识别图像间的噪声和纹理差异方面却出现了显著的性能下降,大幅落后于 Kimi K2.5 和 K3 等大型开源模型。总体而言,VDiff-Bench 为评估 MLLMs 的比较性视觉理解提供了有针对性的诊断工具,揭示了标准单图像视觉语言任务无法捕捉到的缺陷。