摘要：随着脉冲神经网络(spiking neural network,SNN)研究需求的不断增长,开源类脑训练框架也迅速发展。然而,目前缺乏针对这些框架的系统性选择指南。为了解决该问题,提出了一种基于图像分类任务的SNN基准测试方法。本文为两种SNN训练方法,即直接替代梯度反向传播训练方法以及从人工神经网络(artificial neural network,ANN)到SNN的转换训练方法分别设计了卷积神经网络和全连接深度神经网络模型,并使用MNIST、FashionMNIST和CIFAR-10基准图像数据集,以训练时间和分类准确率为评估指标,比较了不同类脑训练框架的性能差异。研究结果表明,在SNN直接训练中,类脑训练框架SpikingJelly在训练时间和分类准确率方面均表现优异;而在ANN到SNN的转换训练中,Lava框架实现了最高的分类准确率。

摘要：脉冲神经网络(spiking neural network,SNN)作为第三代神经网络,其计算效率更高、资源开销更少,且仿生能力更强,展示出了对于语音、图像处理的优秀潜能.传统的脉冲神经网络硬件加速器通常使用加法器模拟神经元对突触权重的累加.这种设计对于硬件资源消耗较大、神经元/突触集成度不高、加速效果一般.因此,本工作开展了对拥有更高集成度、更高计算效率的脉冲神经网络推理加速器的研究.阻变式存储器(resi-stive random access memory,RRAM)又称忆阻器(memristor),作为一种新兴的存储技术,其阻值随电压变化而变化,可用于构建crossbar架构模拟矩阵运算,已经在被广泛应用于存算一体(processing in memory,PIM)、神经网络计算等领域.因此,本次工作基于忆阻器阵列,设计了权值存储矩阵,并结合外围电路模拟了LIF(leaky integrate and fire)神经元计算过程.之后,基于LIF神经元模型实现了脉冲神经网络硬件推理加速器设计.该加速器消耗了0.75k忆阻器,集成了24k神经元和192M突触.仿真结果显示,在50 MHz的工作频率下,该加速器通过部署三层的全连接脉冲神经网络对MNIST(mixed national institute of standards and techno-logy)数据集进行推理加速,其最高计算速度可达148.2 frames/s,推理准确率为96.4%.

摘要：针对基于通用处理器解决方案在图像识别应用中速度慢、功耗高的问题,提出了一种高能效的脉冲神经网络加速器设计方案。首先,采用神经形态学计算中的高并行设计思想,设计了多核并行结构来实现硬件加速;然后,根据脉冲数据传输稀疏性的特点,采用基于事件驱动的数据传输与处理方式,设计了一对一的核间传输机制,减小了用于通信的硬件资源并提高了数据传输效率;其次,提出了按行的数据存放方式来加快膜电压数据在存储器的存取效率;最后,设计了结合查找表与异或的电路结构,可以快速的将事件向量转变为地址事件表达(AER)格式。采用所提加速器设计方案在现场可编程逻辑门阵列(FPGA)开发板上进行优化和部署。实验结果表明:当时钟频率采用100 MHz时,识别单张手写数字图像所需能量为1.04 mJ,仅为2.2 GHz通用中央处理器(CPU)上的串行软件程序的1/1 453.8。该加速器设计方案适用于实时性要求高和能量受限的实际场景。

摘要：人工脉冲神经网络通常由多个异质结构的电路单元构成,其中包括具备积分点火功能来产生脉冲信号的神经元模拟器,以及具备记忆功能的突触器件.在本文中,我们设计了一种能进行“同质集成”的相变存储介质Ge-Ga-Sb(GGS)器件,该器件能够同时实现神经元和突触的模拟.在先前的研究中,GGS材料表现出优秀的数据存储功能,例如它具备较高的工作温度(281℃)、较高的十年数据保存温度(230℃)以及较低的电阻漂移.当对该器件改用短脉冲电学操作时,GGS器件首先会发生几个数量级的电阻突变,然后紧接着发生连续的电阻降低.通过透射电子显微镜发现,电阻突变是因为电极之间产生了结晶的导电通道,而电阻缓变是因为导电通道的变粗以及在通道内产生材料分相所致.这种“突变-缓变”的电阻变化特性既可以用来模拟神经元的积分点火功能,也可以模拟突触权重的变化.基于此器件设计的全相变脉冲神经网络,可以实现高达90%的手写数字识别率.

摘要：随着脉冲神经网络规模不断增大、功能越来越复杂,如何快速地验证神经网络硬件系统结构各部分的功能,并准确地评估其性能成为设计者面临的严峻挑战。本文设计了一款可视化性能监测平台,用于脉冲神经网络硬件系统的功能验证和性能监测。以Xilinx Zynq-7000器件为例,测试结果表明该监测平台具有轻量化设计、良好的人机交互界面和通用性等优势,能够提高脉冲神经网络硬件系统的功能验证和性能评估效率,为其硬件系统设计提供了较好的辅助功能验证与性能分析手段。

摘要：人工神经网络(Artificial neural networks, ANNs)与强化学习算法的结合显著增强了智能体的学习能力和效率.然而,这些算法需要消耗大量的计算资源,且难以硬件实现.而脉冲神经网络(Spiking neural networks, SNNs)使用脉冲信号来传递信息,具有能量效率高、仿生特性强等特点,且有利于进一步实现强化学习的硬件加速,增强嵌入式智能体的自主学习能力.不过,目前脉冲神经网络的学习和训练过程较为复杂,网络设计和实现方面存在较大挑战.本文通过引入人工突触的理想实现元件-忆阻器,提出了一种硬件友好的基于多层忆阻脉冲神经网络的强化学习算法.特别地,设计了用于数据–脉冲转换的脉冲神经元;通过改进脉冲时间依赖可塑性(Spiking-timing dependent plasticity, STDP)规则,使脉冲神经网络与强化学习算法有机结合,并设计了对应的忆阻神经突触;构建了可动态调整的网络结构,以提高网络的学习效率;最后,以Open AI Gym中的CartPole-v0 (倒立摆)和MountainCar-v0 (小车爬坡)为例,通过实验仿真和对比分析,验证了方案的有效性和相对于传统强化学习方法的优势.

摘要：特定辐射源识别在民用频谱管理中起着重要作用。传统的深度神经网络方法在辐射源识别方面面临诸多挑战,包括训练时间长、能耗高以及计算稀疏性低。针对这些问题,设计了一种基于深度复数脉冲神经网络模型,该模型集成了脉冲神经层,并利用复数数据的固有特性增强信号表达能力,显著优化了计算效率并降低了硬件资源需求。测试结果表明,该模型的识别准确率达到了96%,单条数据的平均推理时间为0.19 ms,在模型参数规模、推理速度和推理数据能量消耗上均优于传统神经网络模型。

摘要：脉冲神经网络(Spiking neural network,SNN)由于具有相对人工神经网络(Artifcial neural network,ANN)更低的计算能耗而受到广泛关注.然而,现有SNN大多基于同步计算模式且往往采用多时间步的方式来模拟动态的信息整合过程,因此带来了推理延迟增大和计算能耗增高等问题,使其在边缘智能设备上的高效运行大打折扣.针对这个问题,本文提出一种自适应时间步脉冲神经网络(Adaptive timestep improved spiking neural network,ATSNN)算法.该算法可以根据不同样本特征自适应选择合适的推理时间步,并通过设计一个时间依赖的新型损失函数来约束不同计算时间步的重要性.与此同时,针对上述ATSNN特点设计一款低能耗脉冲神经网络加速器,支持ATSNN算法在VGG和ResNet等成熟框架上的应用部署.在CIFAR10、CIFAR100、CIFAR10-DVS等标准数据集上软硬件实验结果显示,与当前固定时间步的SNN算法相比,ATSNN算法的精度基本不下降,并且推理延迟减少36.7%~58.7%,计算复杂度减少33.0%~57.0%.在硬件模拟器上的运行结果显示,ATSNN的计算能耗仅为GPU RTX 3090Ti的4.43%~7.88%.显示出脑启发神经形态软硬件的巨大优势.

摘要：概率计算是将二进制数编码为概率脉冲序列进行运算,具有功耗低、资源消耗少的优势,将概率计算应用于脉冲神经网络(spiking neuron network,SNN)的硬件电路设计,有利于实现类脑模式的运算.为了实现神经网络的低功耗边缘计算,本文提出一种基于概率计算的SNN异步架构.使用异步微流水线控制的交叉阵列实现LIF(leakyintegrate and fire)神经元模型,可用于实现全连接结构的SNN运算;在SNN的输入层使用概率逻辑将输入数值编码为概率脉冲串.通过累加完成神经元突触权值与输入脉冲的计算,并基于逻辑计算实现神经元膜电位数值的衰减;使用异步架构控制概率脉冲序列的编码与概率脉冲数据流的信息传输,降低了SNN运算的功耗.所提出的架构实现了784输入、10输出的SNN运算;在Xilinx KCU116平台进行验证,获得了78.4 GSOPS的峰值性能与137.47 GSOPS/W的能耗比.

摘要：针对脉冲神经网络(SNNs)在视觉颜色特征分类领域精度不高的问题,提出了一种基于新型RGB-HSV预处理模型的高精度脉冲神经网络。该脉冲神经网络融合了RGB颜色通道简单和HSV色彩空间直观的特点来提取聚类色彩特征,增强了网络的识别能力。此外,在Tempotron有监督学习基础上提出了一种结合权值动量的训练方式,该方式在计算当前权值更新量的同时保留一定程度的上次权值更新量,加快了网络权值的收敛速度,节省了仿真时间。仿真实验结果表明,所设计的脉冲神经网络的分类精度高达96.21%,且在6次训练迭代后精度仍可达84%左右。