论文部分内容阅读
深度卷积网络作为当前人工智能技术的重要技术,其本身具有优秀的性能。然而,深度卷积网络巨大的模型尺寸和复杂的计算量使得模型的部署受到了限制。有效地对模型的存储空间进行压缩,能够扩展深度神经网络模型的使用范围。同或卷积网络是一种卷积网络的压缩算法,其算法压缩模型能力强,且对网络模型的前向传播具有加速效果。但是,传统的同或卷积网络模型精度损失很大。本文针对同或卷积网络的精度问题提出一种改进算法。论文首先研究经典的深度卷积网络模型和传统的量化压缩算法;其次对同或卷积网络算法进行改进;最后基于本文算法进行仿真实验,验证模型的性能。本篇论文主要的工作如下:(1)研究了经典卷积网络的组成。重点研究卷积层,损失函数层,采样层,全连接层,激活函数层的作用和前向传播过程。研究了监督学习下数据集的组成和数据增强的方式。对卷积层的可解释性进行阐述和实例验证。(2)研究了经典的量化卷积网络压缩算法。主要研究权值与特征图的传播特性,针对二者不同的计算过程提出针对性的二值化改进方法。针对二值化网络的特殊性采用离散化的反向传播过程,使全精度模型的局部最优解可与二值化模型的前向传播结果相匹配。(3)研究了同或卷积网络算法,并在此基础上提出精度补偿的改进算法。采用二次迭代补偿因子的形式对压缩后的模型进行补偿,从而提高模型精度。(4)应用本文算法,在自制焊缝图像数据集进行模拟实验。首先标定图像处理系统,得出相机的参数,确定像素坐标系与世界坐标系的转换关系。之后基于本文算法在数据集上训练模型,进行仿真实验和模型的性能分析。