近年来,深度学习广泛的应用在各个领域,为我们的生活和生产带了巨大的进步。但是深度学习是建立在庞大的训练数据和巨大的计算资源消耗之上的。而且,算法又是深度学习的核心,因此针对深度学习算法的加速显得尤为重要。随着NVIDIA等公司对GPU大规模并行架构的推进,GPU已成为深度学习优化的主流加速平台,但是由于GPU复杂的体系结构,基于GPU平台上的程序优化面临着优化困难、复杂且效率低的挑战。学术界与产业界研发了一些深度学习的编译优化框架,他们支持典型的算子、面向典型众核平台、并行优化和自动调优。但是现有工具依然存在很多解决不了的问题。本文针对深度学习算法,基于ParaC编译器,实现了可以对深度学习算法进行并行调优并生成GPU平台上高性能CUDA代码的编译器。对当前的ParaC语言进行扩展,支持复杂嵌套的循环结构与高于两维的矩阵类型;提高编译器的并行分析和优化能力,并提供生成CUDA代码的后端;设计实现开放的调优接口,提供了 OPI制导的方法,支持显式的优化策略调优;提供数据流优化的OPI制导与运行时函数,支持多语言混合编程中的数据流优化。本文选取典型的两个算法对ParaC编译器进行性能评估。首先,给出算法的ParaC写法,经OPI制导调优与编译器输出CUDA版本代码,最后比较ParaC生成版本与手工版优化版本、高性能算法库的性能。总的来说,ParaC版本与手工优化版本性能持平。桶排序在数组大小为1万到20万区间,性能高于Thrust算法库。对于Batch normalization算法,以resnet-50网络为例,128批次规模下,对于大图片性能超越公认的cuDNN算法库最快速的模式,小图片性能略低于算法库,但是可以寻求更好的并行优化策略。对于其产能,ParaC版本的代码行数远低于手工版CUDA,并且因为OPI制导提供了调优接口,大大的减少了开发人员调优的工作量。