摘要：近年来,深度学习技术被广泛应用。由于移动设备同时受到算力和功耗的限制,很多轻量级的网络被提出,比如Xception、MobileNet系列等。在这些轻量级网络中,深度卷积的层数占网络中所有卷积层数的31%~50%,故如何优化深度卷积的运算是一个值得研究的问题。通用中央处理器(CPU)、固定运算器长度的单指令多数据流(SIMD)处理器均无法高效处理神经网络中的各种规模的深度卷积,性能较低。针对这一问题,本文提出了一种软硬件结合的方法优化深度卷积的计算,通过一个多种权值传输模式的硬件架构设计,结合软件模式选择、数据拆分等优化方式,在提高运算效率的同时减少了访存量。实验结果表明,使用该方法实现的深度卷积加速器,相比通用CPU最大可达9.3倍的性能加速,相比运算器长度为64的单核SIMD处理器最大可达29.3倍的性能加速。

摘要：为提升轻量级卷积神经网络在硬件平台的资源利用效率和推理速度,基于软硬件协同优化的思想,提出一种面向FPGA平台的轻量级卷积神经网络加速器,并针对网络结构的特性设计专门的硬件架构。与多级并行策略结合,设计一种统一的卷积层计算单元。为降低模型存储成本、提高加速器的吞吐量,提出一种基于可微阈值的选择性移位量化方案,使计算单元能够以硬件友好的形式执行计算。实验结果表明,在Arria 10 FPGA平台上部署的MobileNetV2加速器能够达到311 fps的推理速度,相比CPU版本实现了约9.3倍的加速比、GPU版本约3倍的加速比。在吞吐量方面,加速器能够实现98.62 GOPS。

摘要：类脑计算领域目前的研究主要聚焦于如何进行高性能且低功耗的大规模类脑仿真.NEST类脑仿真器应用生态完整,可支持大规模仿真并且具有良好的可扩展性,是目前类脑计算领域中应用最为广泛的仿真器.针对NEST仿真器进行大规模仿真时运行速度慢、运行功耗高的问题,设计并实现了基于异构计算平台的NEST类脑仿真器.本设计采用硬件加速神经元更新、数据重排序设计、多线程设计、软硬件协同设计等方法优化了系统整体性能,在保证NEST仿真器良好应用生态的同时获得更高的计算能效.通过在Xilinx ZCU102异构计算平台上实现该仿真器,实验结果表明:在对经典的类脑应用皮质层视觉模型进行仿真时,神经元更新部分性能是AMD3600X的11.9倍,PYNQ集群的1.2倍,能效是AMD3600X的57.9倍、PYNQ集群的3.1倍;NEST仿真器整体性能是AMD3600X的2.0倍,PYNQ集群的2.1倍,能效是AMD3600X的10.1倍、PYNQ集群的5.8倍,为基于NEST进行大规模类脑仿真提供了一种更高能效的方式.