面向边缘设备的高能效深度学习任务调度策略

作     者：任杰 高岭 于佳龙 袁璐 REN Jie;GAO Ling;YU Jia-Long;YUAN Lu

作者机构：陕西师范大学计算机科学学院西安710119 西北大学信息科学与技术学院西安710127 西安工程大学计算机科学学院西安710600 

基　　金：国家自然科学基金(61902229,61872294,61602290) 陕西省自然科学基础研究计划(2019JQ-271) 中央高校基本科研业务专项资金(GK201803063)资助 

出 版 物：《计算机学报》 (Chinese Journal of Computers)

年 卷 期：2020年第43卷第3期

页      码：440-452页

摘      要：近年来,深度学习在图像和自然语言处理等诸多领域表现出色,与深度学习相关的各类移动应用发展迅速,但由于移动网络状态的不稳定性及网络带宽的限制,基于云计算的深度模型任务可能出现较大响应延迟,严重影响用户体验.与此同时,深度模型对设备的计算及存储能力有较高的要求,无法直接在资源受限的移动设备中进行部署.因此,亟须设计一种新的计算模式,使得基于深度模型的移动应用能够满足用户对快速响应、低能耗及高准确率的期望.本文提出一种面向边缘设备的深度模型分类任务调度策略,该策略通过协同移动设备与边缘服务器,充分利用智能移动终端的便捷性和边缘服务器强大的计算能力,综合考虑分类任务的复杂度和用户期望,完成深度模型在移动设备和边缘服务器中的动态部署,并对推理任务进行动态调度,从而提升任务执行效率,降低深度学习模型推理开销.本文以基于卷积神经网络的图像识别应用为例,实验结果表明,在移动环境中,相比于准确率最高的深度模型,本文提出的高能效调度策略的推理能耗可降低93.2%、推理时间降低91.6%,同时准确率提升3.88%.

主 题 词：深度学习模型 边缘设备 任务调度策略 能效优化 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 081104[081104] 08[工学] 0835[0835] 0811[工学-水利类] 0812[工学-测绘类] 

核心收录：

D　O　I：10.11897/SP.J.1016.2020.00440

馆 藏 号：203893615...