面向嵌入式系统的流式学习:流式学习方法内存消耗基准测试
Towards Stream Learning on Embedded Systems: Benchmarking the Memory Consumption of Stream Learning Methods
精选理由
帮助读者评估流学习方法在嵌入式场景的内存可行性
AI 摘要
流式学习通常通过预测性能和对概念漂移的适应能力来评估。然而,流学习器的持续运行还要求即使在长流上也能保持可预测且有界的资源使用。当学习从服务器转移到靠近传感器的嵌入式系统时,这一要求变得更加关键,因为内存和处理能力都是稀缺资源。然而,在当前最先进的流式学习中,我们观察到对概念漂移适应的强烈关注,而资源使用往往只是评估中的附带产物。为弥合这一差距,我们在模型大小预算从 128\,KiB 到约 8\,MiB 的条件下,对 13 个真实和合成数据流上的 7 种代表性流分类器进行了基准测试。我们的基准测试总计包含 6,463 次实验。我们测量了考虑失败的准确率、模型峰值大小、耗尽预算所需时间,以及预测加更新延迟。结果揭示了两种不同的资源失效模式。自适应集成方法可能由于其初始占用空间而几乎立即超出小预算,即使其后大小保持稳定。增量树最初可以适配,但会在长数据流过程中持续增长,其中 HoeffdingTrees (HT) 和 Extremely Fast Decision Trees (EFDT) 的中位增长倍数分别达到 7.37 和 5.87。显式紧凑的方法仍然是最小预算下唯一可行的选择,但随着更大预算使自适应集成方法变得具有竞争力,它们通常会被超越。因此,许多最先进的方法在嵌入式系统中或长时间运行的系统中只能部分适用。我们因此呼吁流式学习社区将有界资源使用与漂移适应一样,作为同等重要的设计目标,并提出朝这一目标迈进的具体步骤,包括提供一个 API,使流学习器能够显式暴露并遵守资源预算。