不断涌现的视频应用场景新业态对于视频编码速度和性能提出了越来越高的要求,因此,为了扩大HEVC视频编码标准的实际场景应用,关于如何在可接受的编码性能损失的前提下,进一步削减HEVC编码器的计算复杂度、加快编码速度的研究仍然有必要继续。本文从帧内预测、帧间预测两个方向展开研究。针对HEVC帧间预测的编码单元CU划分提出了一种快速块划分算法,并且针对x265平台下的帧内预测提出了两种快速算法,一种是编码单元CU快速块划分算法,另一种则是模式决策快速算法。本文主要内容可以归纳如下:1.针对HEVC帧间预测,提出了一种基于支持向量机的帧间预测块划分快速算法,采用在线训练的方式利用两阶段分类器来优化编码单元CU划分这个问题。实验结果证明,与HEVC标准示例程序HM相比较,提出的算法能平均节省48.77%的时间,并且仅伴随在少量的编码性能损失,即BDBR上升1.62%,BDPSNR损耗0.0477d B。2.针对最广泛使用的HEVC标准下的开源编码器x265平台,提出了一种基于空间纹理信息的帧内预测块划分快速算法。首先采用CTU级别的粗限制算法,会将空域相邻深度信息与当前块固有的纹理信息相结合进行综合考虑,预先直接消除部分低概率的深度级别,以此来限制每一个CTU的搜索范围,加快搜索速度。其次,针对每一个CU进行更为细化的判断进行CU级别的早期停止算法判断,利用子母CU的率失真代价关系实现CU级别的划分早期停止,以进一步加快划分判断速度。实验结果证明与x265相比,该算法可以在几乎不损耗编码性能的情形下,实现平均21.91%的时间节省。3.针对x265中帧内预测高复杂度的模式决策部分,提出了一种基于纹理方向的帧内预测模式决策快速算法。通过评估当前预测块的大致纹理方向就可预先直接消除部分低概率的角度模式,以此减少RMD过程中的预测模式数量。此外,我们根据实验结果缩短了原本候选队列长度以减少RDO阶段率失真计算的次数,以求进一步提高帧内预测编码速度。实验结果证明,该算法能够实现平均节省22.47%的时间,而造成的编码性能损耗几乎可以忽略。更进一步,将此算法与基于空间纹理信息的帧内预测块划分快速算法相结合后,可以在仅造成较少编码质量损失的情况下,获得更为明显的加速效果,最终实现平均37.11%的时间节省。