MemFLoRA：面向边缘端 CNN 适配的内存下限 LoRA

arXiv:2610.08669v1 公告类型：新 摘要：部署后，当模型遇到特定于用户、传感器或环境的变化时，端侧学习是必需的。尽管参数高效微调（PEFT）方法，尤其是低秩适配（LoRA）变体，能够实现边缘端的高效适配，但对于卷积神经网络（CNN）适配而言，限制性资源通常不是可训练参数的数量，而是必须保留到反向传播阶段的激活状态。本文提出 Memory-Floor LoRA（MemFLoRA），这是一种围绕内存优先设计原则构建的低秩 CNN 适配器，而非直接应用面向 Transformer 的 LoRA。我们没有仅仅减少可训练权重，而是定义了激活内存下限标准：可训练的反向计算不得依赖全宽层输入。由此得到的适配器冻结下投影，训练与尺度匹配的上投影，并结合评估模式下的骨干网络归一化与激活最小化反向规则，将保存的状态减少至低秩分支。在三个人体活动识别（HAR）数据集和两个 CNN 骨干网络上进行评估，并考察主体、身体位置和传感器放置位置变化，结果表明，相较于全量微调，MemFLoRA 将保存的激活内存减少了 98.5%–98.7%，将训练状态峰值内存减少了 94.9%–97.3%，同时达到或超过 CNN PEFT 基线方法的性能。