卷积神经网络的数据拟合能力与模型深度有着密切的联系,使用深层的网络结构可以提取到更高等级的特征,并提高算法在数据集上的表现。然而增加卷积神经网络的层数会扩大整个模型的体量,导致完成模型推断以及训练任务的时间增大,加快卷积神经网络的执行速度已经成为一个重要的研究热点。为了解决深层卷积神经网络计算速度慢的问题,提出了基于软件流水技术的并行化卷积神经网络方法Pipe CNN。实验结果表明,在保证训练精度的情况下,该方法加速了卷积神经网络的训练过程,并能够取得良好的加速比以及设备利用率。本文首先对软件流水技术进行了介绍,然后分别从前向传播,反向传播以及损失函数这三个方面对卷积神经网络进行改进,主要工作如下:(1)针对如何加速卷积神经网络前向传播的问题,将前向传播中的计算过程转化为若干个可以并行执行的工作段,然后使用循环队列实现相互通信,达到以软件流水的方式执行前向传播的目的。(2)针对如何加速卷积神经网络反向传播的问题,首先研究了反向传播中的数据依赖关系,然后分析Pipe CNN在梯度更新时可能会遇到的问题,并验证了使用Pipe CNN进行反向传播算法的可行性,从而可以并行加速卷积神经网络的训练过程。(3)针对如何提高神经网络训练精度的问题,深入研究了Focal Loss损失函数,并提出使用S型函数改进Focal Loss的方法,提高了模型训练的精度。