多媒体技术的不断发展,在给人们带来更清晰、顺畅和丰富视觉体验的同时,也使得视频数据量飞速上升。而在传输带宽有限的情况下,传统的视频编码标准已经不能满足现有要求,因此高效视频编码标准(High Efficiency Video Coding,HEVC)应运而生。由于采用了大量新的编码技术,HEVC相比上一代视频编码标准H.264拥有更好的压缩效率,但也使得编码复杂度成倍增加。目前,由于功率受限设备的计算能力并不稳定,高清视频的实时应用受到了极大的阻碍。因此,控制HEVC的编码复杂度成为了亟待解决的问题。本文针对该问题,提出了两种高清视频编码复杂度控制方案。(1)提出了一种基于编码单元深度决策的HEVC分层复杂度控制算法。首先,根据目标复杂度和不断更新的参考编码时间,对图像组层和帧层的编码复杂度进行分配和控制。其次,通过建立复杂度-深度模型,基于残差信息与最优深度之间的相关性,为编码树单元分配最大深度。然后,提出编码单元平滑度判决和自适应低比特阈值判决,提前终止不必要的遍历过程。最后,采用自适应高比特阈值判决保护重要编码单元的决策过程,以保证视觉质量。实验结果表明,该算法能够将编码时间控制在原始编码时间的50%-100%之间,且控制精度高,率失真性能损失有限。与现有算法相比,该算法可以获得更高的控制精度。(2)提出了一种基于随机森林的HEVC复杂度控制方法。由于多变的视频内容,难以通过一种模型去准确预测每个编码单元最优的深度和模式。本文通过训练两类各三种预测准确率的随机森林分类器,为编码树单元编码提供多种编码配置。然后建立平均深度-复杂度模型为编码树单元分配复杂度。最后通过平坦度、平均深度、比特和编码树单元级累计编码误差确定编码树单元的编码配置,完成复杂度减少。实验结果表明,该算法能够将编码复杂度控制到原始平台的40%。另外,与现有算法相比,本文算法具有更好的率失真性能。