近年来,深度学习在科学研究领域有着大量的研究成果,深度学习的应用也在社会的方方面面改变着人们的生活。为了提升模型的准确率,神经网络的层数越来越多,模型参数量和运算量越来越庞大。模型的巨大参数量使其需要更大的存储空间和运行占用内存,巨大的运算量使得运行神经网络的耗能增高、运行时间加长,这些都导致将深度神经网络模型部署到资源有限的硬件如移动端设备十分困难。因此在保持较高模型精度的同时,优化模型的体积、降低模型的运算量对于深度神经网络的应用落地有着重要意义。深度神经网络模型中通常包含着相当大的冗余,从粗粒度的网络结构,到卷积神经网络中的卷积层,再到细粒度的权值矩阵,这些部分都有着可观的优化空间。本文从多个粒度对模型优化方法进行了研究,对冗余的原始网络进行多粒度的剪枝,可以得到一个较小的、紧凑的网络,同时保持较高的模型精度。本文的主要工作有以下几个部分:首先对最粗粒度的网络结构进行优化,在原始网络结构中添加残差模块和缩放因子,通过在网络优化目标中添加稀疏约束实现网络结构的剪枝,使网络结构趋于精简。然后进一步细化优化粒度,使用SE(Squeeze-and-Excitation)模块的注意力机制提取通道的激励因子,进而计算出通道重要性来指导网络进行通道剪枝。接着进一步细化粒度,对卷积层之间的连接添加稀疏约束,减少卷积核与输入特征图的卷积,进一步减少模型参数和运算量。然后进行最细粒度的权值剪枝,将权值绝对值大小作为衡量其重要性的标准,添加掩码矩阵进行动态的权值裁剪。最后融合多个粒度的优化方法形成一个整体的模型优化方案。实验结果表明,多粒度的模型优化方法能够大幅减少参数数量和运算量,同时保持较高的模型精度。