NeuronEye:查询引导的视觉概念激活,用于视觉-语言推理
NeuronEye: Query-Guided Visual Concept Activation for Vision-Language Reasoning
精选理由
通过查询引导稀疏激活视觉概念,提升视觉语言模型对空间与局部线索的推理能力。
AI 摘要
当前的视觉-语言模型(VLM)将视觉信息编码在稠密隐藏状态中,其中物体身份、空间布局和局部属性彼此隐式纠缠,而未被明确解耦,这限制了模型针对特定语言查询隔离并调制所需具体视觉证据的能力。受生物视觉中的稀疏群体编码和自上而下调制机制启发,我们提出 NeuronEye,这是一种插件式框架,可从 VLM 的中间表示中构建稀疏的概念级神经元词汇表,并在推理过程中选择性地激活与查询相关的视觉概念。NeuronEye 将视觉 token 状态分解为按概念级聚类组织的超完备稀疏基,利用语言查询激活相关簇,并定位表达所选概念的图像块,然后将聚焦后的证据重新注入视觉 token。一个互补的抑制机制则会削弱占主导地位的感知方向,以保留较弱但相关的线索。所有操作均在冻结的 VLM 主干网络上通过单次前向传播完成。在 Qwen2.5-VL-7B 上,NeuronEye 将 CV-Bench 的总体准确率提升了 +3.1,其中 Distance 子项提升了 +9.5;同时将 BLINK Multi-view 提升了 +8.3,在 LLaVA-1.6-7B 上也呈现出类似趋势。这些结果表明,稀疏神经元词汇表不仅可以作为事后可解释性工具,还能够充当概念级视觉推理的主动接口。