测试时持续学习中的绑定特异性再学习收益

arXiv:2610.22381v1 公告类型：新 摘要：当一个事实变得更难从语言模型中 elicitation 时，模型是遗忘了它，还是仅仅变得不那么容易访问？参数更新型测试时持续学习智能体通常依据当前输出准确率进行评估；我们则探讨，这种测量是否捕捉到了先前经验如何塑造后续更新。我们检验：学习一个特定的事实绑定，是否会带来超越对其实体、答案词汇、格式或查询槽位的熟悉度的后续再学习优势。在 Qwen2.5-1.5B 中，我们比较了三种经过匹配且平衡顺序的历史：LEARNED 接收到正确绑定，CONTROL 接收到与之匹配但不包含该绑定的接触，WRONG 则在同一槽位接收到一个符合关系但相互竞争的答案。在经历完全相同且不进行复习的持续微调序列后，在预先指定的部分遗忘检查点，LEARNED 比 CONTROL 更快地重新获得目标。WRONG 相较于 CONTROL 没有显示出正向优势，而其与 LEARNED 的比较提供了槽位匹配的佐证，但可能受到竞争者干扰的影响。在根据测得的再学习前行为进行调整后，该优势仍为正。在一项使用未配对的从未见过样本池的次级描述性换算中，先前的学习使恢复所需的优化器更新次数减少了约 18%。因此，当前的行为准确率可能低估先前获得的经验所产生的持久影响。代码可在 https://github.com/zhezhou1106/relearning-savings 获取。