稀疏卷积计算高效数据加载与输出缓存策略

作     者：刘彪 陈长林 张宇飞 刘思彤 唐励勤 于红旗 LIU Biao;CHEN Changlin;ZHANG Yufei;LIU Sitong;TANG Liqin;YU Hongqi

作者机构：国防科技大学电子科学学院湖南长沙410073 

基　　金：国家自然科学基金资助项目(61804181,62074166) 国家重点研发计划资助项目(2019YFB2205102) 

出 版 物：《国防科技大学学报》 (Journal of National University of Defense Technology)

年 卷 期：2023年第45卷第5期

页      码：212-221页

摘      要：针对现有神经网络加速器在处理稀疏神经网络时存在的数据加载效率低、乘加资源利用率低、输出缓存寻址逻辑复杂等问题,提出了稀疏卷积计算高效数据加载与输出缓存策略。将属于同一输入通道的非零输入特征图像数据和非零权重进行全对全乘累加运算,降低了非零数据配对难度,提高了乘加资源利用率;通过采用输入驻留计算,以及密集型循环加载特征图像数据,大幅减少了数据片外调取次数;优化了输出缓存设计,解决了现有方案中存在的输出缓存地址访问争用、存储拥塞等问题。实验表明,与采用类似架构的细粒度脉动加速器相比,在处理单元面积上减少了21.45%;在数据加载速度方面平均提高了117.71%在平均乘法器利用率方面提高了11.25%,达到89%。

主 题 词：神经网络加速器 稀疏卷积神经网络 输入驻留 全对全计算 

学科分类：080903[080903] 0809[工学-计算机类] 08[工学] 0835[0835] 0701[理学-数学类] 0823[工学-农业工程类] 0812[工学-测绘类] 

核心收录：

D　O　I：10.11887/j.cn.202305025

馆 藏 号：203123972...