统一内存是GPU发展过程中一个重要的进展。它指的是在“CPU+GPU”异构系统中,CPU内存与GPU内存共享同一个虚拟地址空间,CPU与GPU可以使用同一个指针访问该地址空间。当GPU（CPU）所访问的数据不在本地内存时,系统会自动地将数据从CPU（GPU）内存迁移至本地内存,不需要人为干预。统一内存带来了三方面的益处:极大地简化了编程,使程序员从复杂的内存管理中解放出来;GPU执行与数据传输可以并行,并且对程序员透明;GPU内存超额配置成为现实,并且对程序员透明。然而,由于GPU本身不具备缺页处理的能力,当发生缺页时,由运行在CPU的软件运行时处理缺页。在这个过程中,CPU需要多次与GPU通信,因此会带来显著的开销。GPU内存超额配置会引发页的替换,这是与缺页处理相反的过程,也会带来显著的开销。这些开销会降低统一内存GPU的性能,不利于GPU的进一步推广。本文研究统一内存GPU的性能优化方法。具体地说,研究针对统一内存GPU的量化评估框架,以全面地分析缺页和内存超额配置对GPU应用性能的影响;研究针对统一内存GPU的页替换机制,以提高页替换的性能,降低内存超额配置所造成的性能损失;研究预取与替换的协同机制,以进一步提升内存超额配置管理的效率,提升统一内存GPU的性能。本文的主要工作及创新包括以下三个方面:1.提出了一个基于访存模式的量化评估框架APEF。该框架包含三个步骤:探索访存模式、量化评估与提出优化机制。首先,APEF探索了 GPU应用中典型的访存模式,给出了每种模式的定义并总结了每种模式的特点。然后,APEF量化地评估了缺页和内存超额配置对GPU应用性能的影响,包括测试GPU应用的性能对缺页延迟的敏感性、分析内存超额配置对GPU应用性能的影响以及评估四种替换策略的性能。最后,根据评估结果,APEF提出了相应的优化机制来缓解缺页和内存超额配置所造成的性能损失。2.提出了一个层级式页替换机制HPE。该机制通过在页组一级管理基元链,降低了管理开销,同时利用了页组中虚拟页的局部性。HPE利用统计数据把应用分成三类,然后为每一类应用选择一个合适的替换策略。为了应对可能出现的分类错误以及应用在运行过程中访存模式的变化,HPE使用了动态调整以便在需要时调整替换策略。为了提高替换决策的准确性,HPE在GPU端设置了命中信息记录缓存来记录命中请求的信息,该信息被周期性地传输到CPU中,用来更新基元链。实验结果表明,与LRU相比,当超额配置率为75%和50%时,HPE分别取得了 1.34X和1.16X的加速。3.提出了一个协同式页预取与替换机制CPPE。该机制包含一个替换策略MHPE和一个访存模式感知的预取策略。MHPE改进了 HPE以支持预取,同时保留了 HPE的性能优势。访存模式感知的预取策略根据被替换基元中的访存模式来预取内存页。在CPPE中,MHPE与访存模式感知的预取策略进行细粒度地协同:MHPE选择一个由预取策略预取的基元作为替换对象;预取策略根据MHPE选择的替换对象中的访存模式来预取内存页。实验结果表明,与基准机制相比,当超额配置率为75%和50%时,CPPE分别取得了 1.56X和1.64X的加速。