通用图形处理器(General Purpose Graphics Processing Unit,GPGPU)是当前面向高吞吐量、高性能计算领域的主要加速部件之一。它支持数以万计线程的并发执行,尤其面对规则计算模式时,性能能够超过CPU的数倍。即使在任务执行过程中遇到访存操作,它也可以通过高效的线程切换来隐藏由此产生的长延时。随着GPGPU体系结构的发展,它在通用计算领域也得到了广泛的应用。然而,通用计算领域存在大量不规则计算模型和不规则访存模型,而且由于超大规模线程的并发执行,片上资源尤其是存储资源很容易出现访问竞争。这些原因均会不同程度的影响GPGPU的性能发挥。针对这些问题,国内外已有不少学者开展了大量的研究工作。其中,通过线程调度优化来提升GPGPU的性能是他们此方面研究工作的热点之一。本文在分析了前人研究成果的基础上,围绕不规则计算模式中的主要因素即分支转移、不规访存模型中的主要因素即访存离散、片上资源尤其是cache资源的访问竞争等三个方面,开展了基于线程调度的GPGPU性能优化方法的研究。1.面向分支转移,提出了一种基于两阶段同步的线程块压缩调度机制。分支转移降低了执行任务的线程级并行度TLP(Thread Level Parallelism),也降低了片上资源的利用率。对线程块进行压缩重组是现有解决分支转移问题的常见方法。但是,现有方法存在线程块压缩重组有效性较低、线程同步的时间开销较大等不足。鉴于此,基于两阶段同步的线程块压缩调度机制分两个阶段来对线程块进行压缩重组。在每个阶段均对线程块的压缩重组有效性进行分析,并考虑线程块重组产生的开销和收益之间的关系,使得线程块压缩重组的有效性得到了较大的提升。另外仅在第1个阶段对部分线程进行同步,使得线程同步产生的时间开销也得到了有效减少。2.面向片上资源尤其是cache资源访问竞争,提出了基于访存感知的TLP调节结合cache绕行机制。由于存在成千上万的并发线程,GPGPU的片上资源显得明显不足,很容易出现片上资源尤其是cache资源的访问竞争,严重时会降低系统的性能。目前解决片上资源访问竞争的主要方法以TLP调节和cache绕行这两种机制为主。本文在分析了现有方法不足的基础上,提出了基于访存感知的TLP调节结合cache绕行机制。相对于大部分方法采用线程块粗粒度的TLP调节机制,该机制则对线程组进行细粒度调节。该机制首先通过窗口滑动机制检测是否出现cache访问竞争。如果出现,则结合cache绕行机制,对数据局部性差的线程组发出的访存请求进行cache绕行,使得数据局部性好的访存数据更好的使用cache,同时又能提升片上带宽资源的利用率。另外,该机制还会及时检测片上网络的状态。如果出现网络阻塞,则限制访存型任务的调度,但计算型任务可以继续调度执行,从而保证了任务执行过程能保持较高的线程级并行度。3.面向访存离散,提出了基于访存优先级的线程调度机制。访存离散是由于同一个线程组中不同线程访问不同的cache行,导致同一个线程组在某时刻发出多个访存请求。面对不规则访存任务时,访存离散会大大增加,产生的访存次数也会大大增加,严重情况下会降低系统的访存效率。目前针对访存离散的线程调度优化方法主要是通过重排访存请求的顺序,进一步开发数据的局部性,并使更多的访存请求被合并。本文在分析了现有方法不足的基础上,提出了基于访存优先级的线程调度机制。该机制的基本思想是让数据局部性好的线程组更早的发射访存请求,使它们能更快的执行完,从而可以尽早释放占用的资源,并降低片上的资源访问竞争。该机制首次真正意义上对访存的优先级进行了量化计算,并从中选择优先级最大的访存请求发射。为了防止线程组间数据局部性差、访存离散度相对较高的线程组的访存请求出现“饥饿”现象,所提方法还考虑了所有访存请求的等待时间,从而一定程度上保证线程组调度的公平性。实验结果表明,本文提出的三种优化GPGPU性能的线程调度机制均获得了较好的性能提升。