近年来,深度强化学习（Deep Reinforce Learning,DRL）作为一种强大的自我学习技术,被广泛应用到编译器优化任务上,以支持代码在复杂的多核异构平台下运行性能的提升。但是,面对具有庞大搜索空间的优化任务,利用DRL进行搜索依旧面临挑战,一方面庞大搜索空间中包含大量冗余以及无价值的搜索路径,另一方面如果要部署DRL框架开展自动调优工作,仍然需要编译专家耗费较长时间来选择目标任务所对应的DRL算法、状态表示函数、奖励函数、转移函数以及模型的超参数。针对上述挑战,本文提出了一套编译器自动优化框架（Deep Reinforce Learning Tunnel,DRLTunnel）,该框架封装多种DRL算法和组件,用来帮助经验欠缺的开发人员利用DRL快速高效开展编译器优化任务,同时该框架还增加基于蒙特卡洛树搜索的优化空间智能剪枝方法,以降低搜索空间的复杂度,从而进一步提高DRLTunnel生成的DRL搜索引擎的搜索性能。本文的主要工作和贡献如下:1、本文通过分析两个代表性编译器的代码优化空间组成和空间搜索过程,发现代码优化空间存在大量可被去除的、对代码优化无用的选项,以及在搜索过程中存在选择较优而不是更优节点的情况。针对上述优化空间冗余和搜索低效问题,本文提出了基于蒙特卡洛树搜索的优化空间智能剪枝方法,降低代码优化空间复杂度和优化编译器搜索代码优化空间过程。2、为了利用深度强化学习的高效搜索能力,进一步提高编译器的搜索性能,同时降低深度强化学习部署的开销成本,本文提出了基于马尔可夫决策过程的并行多任务优化策略选择方法,根据不同的编译器优化任务自动生成合适的DRL结构,以此支持DRL优化工作的快速部署,并利用该结构完成编译器优化任务。3、设计了基于上述两种方法的编译器自动优化框架DRLTunnel,提供开放的接口和灵活的接入机制。基于DRLTunnel在神经网络编译器优化任务Auto-TVM与超优化编译器优化任务STOKE上开展深入的效果验证,并在四种不同的处理器硬件平台上分别与已有的七类主流优化框架进行比较。实验结果表明,无论是超优化编译器优化还是神经网络编译器优化,相较持续改进的手工调优方法,DRLTunnel都能够提供更好的优化方案,优化后的代码运行性能平均提升1.41倍。