选择哪些数据以及何时接纳：面向数据中心的小型语言模型微调的梯度接纳

arXiv:2610.07553v1 公告类型：新 摘要：LoRA 微调在低秩更新子空间内使小型语言模型（SLM）适应异构指令数据，因此容易受到三个结构性问题的影响：相互冲突的梯度彼此抵消、静态数据选择无法跟踪不断变化的学习动态，以及子空间饱和导致后续更新覆盖有用方向。我们认为，有效的适应过程需要控制哪些由数据产生的梯度进入 LoRA 子空间，以及何时进入。为此，我们提出 GRADE（GRadient-Aligned Data-centric rEcipe），一种以数据为中心的框架，结合了两种机制：状态感知选择器持续接纳与不断演化的多任务梯度场相一致的样本；自校准的步级门控机制则拒绝那些在接近饱和时可能导致破坏性覆盖的更新。在三个当前一代的骨干模型和一个包含七个异构数据集的指令数据池上，GRADE 在准确性和鲁棒性方面均优于强大的数据选择及 PEFT 稳定化基线。它是唯一一种在每种架构上都始终优于标准 LoRA 的方法，同时能够产生更连贯的梯度轨迹和更少的破坏性覆盖。这些结果表明，成功适应 SLM 不仅取决于选择哪些数据，还取决于允许哪些梯度进入并持续存在于受约束的更新子空间中。