arXiv cs.LG精选75

AIBL:具有结构化记忆和神经嵌入的增强型基于实例的学习

AIBL: Augmented Instance-Based Learning with Structured Memory and Neural Embeddings

· 9天前

精选理由

将实例学习拓展至神经向量空间,提升高维序列数据中的检索、适应与新颖性识别能力。

AI 摘要

arXiv:2610.03413v1 公告类型:新 摘要:序贯学习系统通常依据积累的经验做出决策,同时接收分布可能随时间变化的高维输入。Instance-Based Learning Theory(IBLT)通过存储情境—决策—效用实例、部分匹配、激活和混合,为这类场景提供了一种有原则的基于案例的框架。IBLT依赖字典式格式的符号知识表示,但文本、图像、交易向量以及用户—项目历史往往需要学习得到的相似度,而不是人工指定的匹配规则。本文提出AIBL(Augmented Instance-Based Learning),一种针对高维序贯数据、在学习得到的向量空间中构建的实例学习模型。AIBL将符号情境匹配推广为神经嵌入相似度,同时保留实例存储、基于激活加权的检索和效用混合。AIBL模型将记忆组织为活跃存储、遗忘存储和惊奇存储。惊奇记忆将匹配较弱、可能来自分布外或属于边缘情况的观测与活跃记忆分离,从而减少被迫拟合到最近可用案例的情况。一种由观测驱动的晋级算法会将反复出现的惊奇实例提升至活跃记忆,使记忆能够纳入概念漂移过程中可能出现的重复新模式。我们在五项机器学习任务和三项受控模拟任务上评估了同一实现,并在适当情况下将AIBL与经典IBLT变体及任务特定基线进行比较。AIBL将准确率提升了6至17个百分点。结果表明,在所测试的协议下,向量空间检索在哪些方面优于符号匹配,以及新增的记忆机制如何影响新颖性检测、冷启动处理、漂移适应和奖励学习。

查看原文(arXiv cs.LG)