arXiv cs.AI精选72

STLT:一种用于边缘—云—太空连续体中能耗感知分布式推理的新型系统

STLT: A Novel System for Energy-Aware Distributed Inference in the Edge-Cloud-Space Continuum

· 2天前

精选理由

为卫星端与地面协同推理提供低开销动态能耗优化方案,提升任务处理量并降低决策延迟与能耗。

AI 摘要

低地球轨道卫星在野火探测等地球观测任务中发挥着关键作用,它们采集图像,供深度神经网络(DNN)进行分析。星上分析能够减少下行传输的数据量,但严格的能源限制迫使系统在计算与数据传输之间进行权衡。将 DNN 拆分至卫星和地面两端执行,可将这一权衡转化为设计选择,其中拆分点决定了计算与下行传输的总能耗。现有方法通常依赖静态拆分点决策,无法考虑动态变化的太空环境;或依赖复杂算法、历史数据或预测模型,从而引入显著开销。为解决这些不足,我们提出 STLT,一种用于低地球轨道(LEO)卫星与地面站之间能耗感知分布式推理的两阶段系统。首先,离线分析器分析 DNN 架构的特征,识别出一组有利的拆分点,从而缩小搜索空间。其次,星载算法执行轻量级能耗感知拆分选择,根据环境的当前状态,从预先计算得到的集合中动态选择拆分点。我们在真实卫星遥测数据集上评估了 STLT,结果表明,其将候选拆分点的搜索空间平均缩小了 30.7%,将决策延迟和能耗分别平均降低了 25.1% 和 27.5%;与最先进的星地协同推理基线相比,其完成的推理任务最多增加了 20.1%,同时总体能耗降低了 8.8%。

查看原文(arXiv cs.AI)