近年来,在新一代人工智能技术的发展浪潮中,大量需要由人类完成的工作正在被智能化机器所取代,人工智能技术将机器的智能提升到接近普通人类的处理水平,使得机器能够处理人类经常完成的简单到复杂的任务。人脑被认为是目前最强大的智能体,具有极高的空间结构复杂度和运行效率。受生物脑科学研究的启发,人工神经网络算法被提出并且得到了飞速发展,在不同的应用领域都获得了非常显著的成绩,例如计算机视觉领域的图像增强、图像分类、人脸识别、图像风格迁移、目标追踪检测等应用,自然语言处理领域的语音识别、智能问答系统、机器翻译、情感分析、文本分类等应用,以及生物信号处理领域的脑机接口、疲劳检测、病症辅助分析、心律异常检测、癫痫检测等应用。然而,CPU、GPU等通用计算平台由于硬件体系架构的限制,无法满足大规模神经网络模型部署的实时性和低功耗应用需求。为了解决在算力能耗受限的硬件平台上高效部署神经网络算法,促进神经网络通用加速器芯片的实现,本文结合软件算法稀疏压缩和硬件稀疏加速架构开展稀疏卷积神经网络芯片、稀疏脉冲循环神经网络芯片和稀疏模糊神经网络异构加速系统的研究,主要包含以下三个方面的工作:1.提出了一种稀疏卷积神经网络加速器芯片的硬件架构。研究了用于稀疏矩阵运算加速、池化运算加速和激活函数运算加速的稀疏神经网络计算单元的硬件微架构,在此基础上研究了高效的片上存储架构和存储模式。设计了模型的全局均匀非结构化稀疏训练和量化方法,并结合稀疏矩阵运算硬件加速技术以保证芯片的性能和效率。采用了55 nm 1P8M Logic CMOS工艺进行流片及封装测试,面积为4 mm~2,在200 MHz工作频率下峰值算力为288 GOPS。基于VOC2007、COCO2014和红外热成像数据集评估了25%、50%和65%稀疏度下多目标检测应用算法模型在稀疏卷积神经网络芯片上的运算性能,相较于原始模型准确率下降了约1.4%、2.98%和4.04%,计算延迟减少了约33.4%、44%和52.7%,功耗减少了约9.7%、14.5%和17.4%。相较于现有神经网络加速器,该芯片的单位面积能效比提升了4.25到9.44倍,单位片上存储能效比提升了6.35到23.1倍。2.提出了一种稀疏脉冲循环神经网络加速器芯片的硬件架构。研究了硬件友好型的脉冲神经元模型、脉冲编码方法、脉冲算术逻辑运算方法和稀疏脉冲循环神经网络芯片主要模块的硬件微架构。设计了模型的自适应稀疏训练和量化方法,并结合神经元异步脉冲计算和低功耗芯片设计技术以保证芯片的能效和硬件资源消耗。采用了55 nm 1P6M Logic CMOS工艺进行流片及封装测试,200 MHz高性能工作频率下功耗为6.28 m W,1 k Hz低功耗工作频率下功耗仅为2.65μW。基于MIT-BIH数据集评估了25%、50%和65%稀疏度的心律异常检测应用算法模型在稀疏脉冲循环神经网络芯片上的计算性能,相较于非稀疏模型心律异常分类准确率下降了约0.8%、1.94%和2.66%,核心功耗减少了约5.7%、12.4%和16.9%,计算速度提升了约17.6%、40%和58%。3.提出了一种基于卷积结构和模糊逻辑的模糊神经网络像素级图像分割模型,在此基础上研究了一种基于数模混合电路的稀疏模糊神经网络异构加速系统硬件架构。设计了模型的全局均匀非结构化稀疏训练和量化方法,并结合比特级稀疏硬件加速技术以保证系统的能效。采用了28 nm CMOS工艺评估稀疏模糊神经网络异构加速系统中数字逻辑部分的卷积模块,在4-bit和8-bit数据精度下分别获得了14.72 TOPS/W和1.84 TOPS/W的能效比,12.27 TOPS/W·mm~2和1.53TOPS/W·mm~2的单位面积能效比。基于STARE数据集在25%、40%、55%和65%稀疏度下评估了稀疏模糊神经网络异构加速系统部署图像分割应用算法模型的性能,相较于非稀疏的模型计算延迟下降了约45.3%、65.0%、81.3%和91.2%,计算功耗下降了约28.8%、54.5%、74.4%和88.6%。综上,本文提出的稀疏神经网络加速器芯片硬件架构、模型稀疏训练与量化方法有望为最终实现神经网络通用硬件加速平台打下基础。