arXiv cs.AI精选76

细粒度多图像对象幻觉基准

Fine-Grained Multi Image Object Hallucination Benchmark

· 43天前

精选理由

帮助系统诊断多图模型的物体幻觉与推理短板

AI 摘要

Multimodal Large Language Models (MLLMs)正越来越多地部署在需要跨视觉上下文进行复杂推理的多图像场景中。然而,当前的MLLMs仍然受到对象幻觉的根本性限制——它们会生成看似合理但在事实上不一致的对象描述。现有基准主要面向单图像设置,或仅提供高层次的多图像评估,无法系统性地诊断视觉复杂性和推理需求如何引发幻觉。为弥补这一空白,我们提出MIOH,一个细粒度多图像对象幻觉基准,基于三种多图像推理模式(全面、比较、选择)和三种受控对抗压力(视觉上下文规模、感知难度、上下文偏置),系统评估四项基础任务(存在性、计数、属性、位置)中的对象幻觉。通过对29个模型的评估,我们揭示即使是GPT-5和Gemini-2.5-Pro这样的最先进系统,也会在不同推理模式和任务上表现出不同的失败模式。我们的评估表明,幻觉不仅源于感知失败,也源于在多张图像之间维持对象表征时整合阶段的局限。MIOH为分析多图像对象幻觉提供了一个受控框架,并作为开发更可靠的多模态AI系统的关键评估工具。

查看原文(arXiv cs.AI)