arXiv cs.LG精选79

在 VLM 知道自己看不见之前,能有多昏暗?物理可见度轴上的准确率、置信度与弃答

How Murky Before a VLM Knows It Cannot See? Accuracy, Confidence and Abstention on a Physical Visibility Axis

· 2小时前

精选理由

用物理能见度揭示VLM视觉盲区,助力校准置信度与安全拒答。

AI 摘要

arXiv:2610.22981v1 公告类型:cross 摘要:视觉语言模型(VLM)的鲁棒性研究通常在没有物理单位的名义严重程度尺度(“等级 1–5”)上评估退化程度,而且很少考察模型的置信度是否会随着可见度的降低而变化。我们在以米为单位的可见度轴上,测量了准确率、内部(token 概率)置信度、语言表述的置信度以及明确的弃答选项:雾效遵循 Koschmieder model,水下效果根据纯水的吸收光谱进行缩放;二者均结合单目度量深度图应用,并将可见度范围 V 从 250 m 到 1.95 m 之间按对数等距划分为八个等级。在 1000 个 COCO 场景和五个小型开放式 VLM(2–5 B 个参数)上,模型在框选目标识别任务中的准确率会在一个狭窄区间内从接近清晰图像时的数值降至随机猜测水平(雾中达到一半准确率时的可见度 V_acc 为 12.1–15.9 m,水下为 20.5–38.6 m);然而,对于在清晰图像上具有较高置信度的四个模型,其置信度仍然很高:在雾中 V=1.95 m 时,它们的准确率已处于随机猜测水平,但平均内部置信度为 0.68–0.84,语言表述的置信度为 0.61–1.00,盲区宽度 W=log10(V_acc/V_aware) 至少为 0.79 个数量级,即可见度相差 6.2 倍。剩余的一个模型始终表现为置信度不足,其内部置信度会跟随准确率变化。明确的弃答选项在说明原因时会跟随准确率变化(雾中的 W 为 -0.21 至 -0.06),但对其中一个模型而言,当它使用泛化的“我不知道”时则存在滞后(W 最高达 0.18)。ImageNet-C 的 1–5 级雾效严重程度仅对应 55–110 m 的实际可见度,处于失效区间之外,因此模型准确率与清晰图像时相比仍在 5 个百分点以内。研究还报告了空白图像和打乱图像控制实验、与先验匹配的答案集合,以及一项在正式研究之前开展的 200 张图像试验。研究结果仅为描述性结论:基于 1000 张图像的一次抽样、所假设的深度尺度,以及参数量为 2–5 B 的模型。

查看原文(arXiv cs.LG)