它并未看见危险：冻结的视觉语言安全评分衡量的是其描述文本库

arXiv:2610.09517v1 公告类型：交叉投稿 摘要：冻结的视觉语言模型正越来越多地为强化学习提供安全信号。此类应用基于一个假设：与描述危险的语言越相似，就越能表明危险本身的存在。然而，策略回报和碰撞率无法揭示一个评分究竟是在检测危险，还是在响应场景中的相关特征。基于 VLM 的方法通过将图像与文本的相似度转换为奖励、成本或置信度权重，已在驾驶和安全强化学习基准测试中取得性能提升。这类信号有望减少对人工设计反馈的依赖。但它们也可能反映提示词结构、嵌入空间几何或摄像机视角，因此其安全含义尚未得到验证。为弥补这一缺口，我们对一种基于冻结 CLIP 的提示词间隔安全评分进行了受控评估。我们将该评分应用于从未接收过此评分的策略所生成的轨迹，将接触前的观测与具有相近危险几何特征的无接触观测进行匹配，并改变描述文本、编码器和摄像机视角。在三种策略、180 个回合和 130 次独立接触起始事件中，该评分在接触前约二十个时间步内呈下降趋势。机制对照实验表明，该评分主要追踪与其描述文本所共同描绘场景的相似程度，并随描述文本间的分离程度和摄像机视角而变化。固定置信度的对照设置仍保留了较低的灾难事件发生率点估计，因此，策略性能的提升并不能证明模型具备危险感知能力。