MemFLoRA：用于边缘端 CNN 适配的 Memory-Floor LoRA

当模型部署后遇到特定于用户、传感器或环境的变化时，设备端学习是必需的。尽管参数高效微调（PEFT）方法，尤其是低秩适配（LoRA）变体，能够实现边缘端的高效适配，但对于 CNN 适配而言，限制性资源通常并非可训练参数的数量，而是必须保留到反向传播阶段的激活状态。本文提出 Memory-Floor LoRA（MemFLoRA），这是一种基于“内存优先”设计原则构建的低秩 CNN 适配器，而不是直接应用面向 Transformer 的 LoRA。该方法不只是减少可训练权重，而是定义了激活内存下限准则：可训练的反向计算不得依赖完整宽度的层输入。由此得到的适配器冻结下投影，训练与尺度匹配的上投影，并结合评估模式下的骨干网络归一化与激活最小化的反向传播规则，将保存的状态减少至低秩分支。在三个 Human Activity Recognition（HAR）数据集和两个 CNN 骨干网络上，针对受试者、身体位置和传感器放置位置变化进行评估，结果表明，与完整微调相比，MemFLoRA 将保存的激活内存减少了 98.5%–98.7%，将峰值训练状态内存减少了 94.9%–97.3%，同时达到或超过 CNN PEFT 基线方法的性能。