由于深度神经网络在图像识别、语音识别、自然语言处理等领域的成功,已经有越来越多的研究学者和工业界人员投入到深度学习的研究当中。而深度神经网络拥有成万上亿的参数,训练一个性能优良的深度神经网络模型需要耗费很长的时间。最近十几年来,图形处理器GPU得到了迅速的发展,如NVIDIA生产的V100,GPU凭借着强大的并行计算能力,是现在主流CPU计算性能的十多倍。同时在CUDA统一计算框架上,NVIDIA等公司和一众研究者在GPU上的并行加速研究工作,使得深度神经网络的训练时间大大减少。尽管这样,神经网络计算的时间仍然较长,需要研究者在GPU平台上对其进行进一步优化。在常见的卷积神经网络中,张量卷积操作耗时占其90%以上,所以张量卷积一直是神经网络计算优化的重点。本文经过对现有卷积并行加速算法的深入研究过后,在将卷积计算展开成矩阵乘法的基础上,提出了改进后的基于GPU平台的卷积加速方案,并在GPU上进行计算机体系结构层次上的深度优化,进一步提高了张量卷积在GPU上的计算效率。本文的主要工作如下:1)分析了深度神经网络的网络结构以及计算特点,并重点研究和分析张量卷积的计算特点,根据其权重共享以及稀疏连接的特性,对卷积的计算过程进行了详细的推导。同时,深入研究了GPU硬件体系结构、存储器层次体系和其执行模型。于此之外,还对CUDA统一计算框架进行了重点研究,对其编程模型,各个层次的存储器访存特性,进行了详细的描述。2)基于GPU平台,我们采用将卷积展开成矩阵乘法计算的思想,设计张量卷积算法。并将卷积张量进行旋转,使其在全局存储器的访问满足合并访存条件,从而提高访问效率。结合对GPU硬件体系结构的理解,对算法实现进行深度优化,包括SASS汇编层次的优化。3)通过理论分析,给出我们卷积计算方案的性能峰值上限,从而指导我们算法的优化空间。并在最后,将本文的张量卷积实现,与cu DNN的实现以及之前的理论性能峰值上限进行对比,本文的卷积计算方案十分接近理论峰值,适用于大批量场景下,2×2到7×7的卷积核大小的卷积加速场景。并且在有些场景下,相对于cu DNN获得了2倍的加速比,证明了本文提出的张量卷积计算方案存在一定的优势。