深度卷积神经网络(Deep Convolutional Neural Network)被广泛应用于计算机视觉工作,如图像分类、目标检测和语义分割等。相对于传统的机器学习算法,深度学习在性能方面往往更胜一筹,它的成功很大程度上归功于计算资源的快速发展。因此,大多数深度卷积神经网络都需要在GPU(Graphics Processing Unit)上训练和推理,但是GPU处理器的能耗较高,限制了深度卷积神经网络在边缘计算等场景下的部署和应用。所以,针对于卷积神经网络模型的压缩与加速的工作不断被提出,意在减小神经网络的存储量、降低运算复杂度和节省硬件资源,从而将神经网络部署到某些资源受限的嵌入式设备上。本文主要针对深度卷积神经网络量化和压缩算法这一学术界热点研究问题,从硬件FPGA(Field-Programmable Gate Array)的角度出发,完成低位宽量化压缩加速算法,并使其可以在FPGA上部署得到应用。论文的主要工作内容如下:(1)面向通用处理器神经网络推理运算加速,分析低位宽量化下神经网络推理精度严重下降的问题,提出了基于概率分布校正的神经网络模型量化压缩方法。通过引入归一化处理,对权重分布进行校正限制其分布;然后将经过校正后的权重量化为定点数据格式,不仅可以实现权重共享减少存储空间,定点数还可以节约计算资源,在FPGA上加速运算;最后,通过对权重添加缩放因子,得到合理量化结果,提高了低位宽量化的分类性能。(2)面向采用ABM-Sparse稀疏卷积算法的专用处理器,提出了基于权重聚类的非均匀神经网络模型量化方法。该方法首先通过K-Means++对卷积层或者对卷积核的权重进行聚类,实现权重共享压缩网络,以减少卷积时乘法次数,加速硬件运算;然后通过动态定点数将聚类后的全精度网络权重和激活量化到8 bit位宽实现低位宽网络,节约硬件资源。实验结果表明,该算法简单有效,在保证神经网络分类精度的条件下,可实现神经网络模型尺寸和计算量的高倍压缩,使神经网络便于部署在FPGA上加速运算。(3)面向具有可变精度运算单元、支持动态可变比特精度网络模型,提出了基于遗传算法的混合精度神经网络模型量化压缩方法。将深度卷积神经网络量化问题转化为多目标优化求解问题,通过遗传算法自动搜索各层最优位宽,然后对权重和激活进行混合精度量化,实现低位宽量化。整个方法自动高效,达到了更高的压缩效果。实验结果表明,本文所提出的量化算法可以有效地将网络权重和激活压缩到平均量化位宽为2 bit,并且压缩结果优于现有的量化方法。