面向大语言模型高效持续学习的功能子网络定位
Functional Subnetwork Localization for Efficient Continual Learning in Large Language Models
精选理由
定位低重叠功能子网络并定向更新，使大模型持续学习更省资源、少遗忘，并提升多类任务表现。
AI 摘要
生物智能通过局部可塑性，在保留已有技能的同时持续适应新信息。相比之下，大语言模型（LLMs）的持续学习仍易受到灾难性遗忘的影响。一个有前景的方向是识别 LLMs 内部具有功能专门化特征的子网络，从而实现有针对性且资源高效的适应。通过梯度归因分析，我们定位了与认知相关的功能子网络，这些子网络之间的相互重叠程度极低。基于这一发现，我们提出了 Function-isolated Memory-Efficient Optimization（CiMEO），这是一种持续学习框架，可将每个训练样本路由至其对应的功能子网络，将参数更新和优化器状态限制在选定区域内。在包含 140 万条顺序指令的训练过程中，CiMEO 在涵盖编程、考试型任务和数学推理的五个生成式基准测试上，取得了所有对比方法中最高的平均性能，同时缓解了灾难性遗忘。子空间重叠分析和主角度分析进一步表明，局部更新有助于保留预训练表征，凸显了功能子网络定位作为实现 LLMs 高效、稳定持续学习的一种实用方法的价值。