更少的头，更少的记忆：剪除冗余注意力头可抑制逐字记忆

arXiv:2610.40974v1 公告类型：交叉收录 摘要：研究已表明，大语言模型会记忆并逐字复现训练数据中的序列，这引发了对隐私泄露、知识产权暴露以及泛化能力局限的担忧。近期的理论研究表明，注意力头可能通过充当联想记忆机制促成这种行为，且记忆容量随注意力头数量的增加而增大。与此同时，实证研究表明，许多注意力头是冗余的，剪除它们对下游性能的影响有限。尽管已有这两方面的发现，剪除冗余注意力头对已记忆序列复现的影响仍未得到探索。在本研究中，我们证明，在推理前将相当一部分注意力头置零，可以显著抑制逐字记忆，同时保持甚至提升模型在用于识别冗余注意力头的基准上的语言建模性能。通过在已知被记忆的序列上评估 GPT-2-XL(1.5B)，我们发现，剪除 729 个任务冗余注意力头可使记忆计数减少 91.5%，同时使 WikiText-103 上的困惑度降低 0.92。这些发现表明，可以利用注意力头的冗余性，在推理时缓解记忆现象，而无需重新训练或修改训练数据。