PresenceBench:大语言模型适应用户状态的探索性评估
PresenceBench: An Exploratory Evaluation of Large Language Model Adaptation to User State
精选理由
介绍PresenceBench,帮助评估大模型适配用户状态时的效果与安全性。
AI 摘要
临场感感知智能是指,AI 系统的智能层能够在保持任务质量与安全性的同时,恰当地适应其所服务对象的功能状态(此处指准备度、心流和稳定性)的能力。我们推出了用于测量这一能力的工具 PresenceBench。PresenceBench 评估的是智能层如何使用所提供的状态,而不是该状态如何被感知,并将这一能力拆解为可测量的属性。本文测试其中两项。接受度:模型是否会采纳该状态,并比没有状态信号时给出更好的响应?特异性:改进是否依赖于正确的状态,而非仅仅依赖额外的结构化上下文?第三项能力,即跨状态适应,是必须达到的最终目标,但未在本次发布中测量。我们采用五臂因果设计,针对每个模型自身的基线以及结构相同但状态不匹配的对照条件,同时回答这两个问题;评分采用以正确性为门槛的人类成对比较。探索性评估涵盖四个模型,涉及十八个单轮场景、六个固定三轮场景和六个模拟自然对话场景。向模型提供合成状态(原始提供,或转换为响应策略后提供)时,四个模型的总体人类偏好点估计均高于 0.5(Claude Sonnet 5、DeepSeek V4 Pro、Gemini 3.6 Flash、GPT-5.6 Terra),其中八个 95% 区间中的三个排除了随机水平。特异性尚未得到确证:没有任何单模型区间排除随机水平,而且当前设计尚不能将状态取值与泛化的适应指令区分开来。与各模型的基线相比,策略提供降低了计价成本和输出 token 数;由于尚未确立正确性的非劣效性,这些属于资源使用变化,而非效率提升。安全底线失效很少见(360 个案例中有 13 个),在策略提供条件下虽有所增加,但不具有统计显著性。我们报告了该工具、冻结后的结果,以及验证性研究所需的控制措施。