涌现的对象绑定具有有限的空间范围

arXiv:2610.00006v1 公告类型：cross 摘要：预训练的 Vision Transformers 会编码两个图像块是否属于同一对象这一信息。这个 IsSameObject 信号可以从冻结的图像块嵌入中以很高的准确率解码出来，这表明对象绑定仅凭自监督预训练就会涌现。我们表明，这个单一的准确率数值掩盖了该信号的结构。绑定具有局部性：同一对象的两个图像块被解码为已绑定的概率，会随着它们之间距离的增加而单调下降，并趋于一个非零下限；这种衰减可以很好地用具有有限长度尺度的指数函数描述。无论对象大小如何、无论采用三类探针中的哪一类、在 ADE20K 和 COCO 上，还是在 DINO 和 CLIP 主干网络上，这种衰减都成立，说明它是表征本身的属性，而非解码器的属性。将绑定理解为具有有限范围的局部空间连贯性，可以解释一系列总体得分无法说明的行为：在较大对象上，绑定会减弱；对于类别相同但彼此不同的对象，绑定将它们区分开的可靠性低于区分类别不同的对象；此外，绑定还会将对象部件与其整体归为一组。相反，在控制对象大小后，遮挡不会影响绑定。我们在控制混杂因素的情况下，对每种行为进行了刻画。作为一项初步观察，在 DINOv2 和 DINOv3 中，空间范围及其下限在不同深度上形成；鉴于所探测的层数较少，且两个模型之间存在混杂因素，我们将这一结果作为提示性发现报告。