高效视频编码技术H.265/HEVC(High Efficiency Video Coding)是当前最先进的视频编码标准,相比于前一代视频编码标准H.264/AVC(Advanced Video Coding),H.265/HEVC具有更好的压缩效率,在同等失真度条件下比H.264/AVC的压缩率升了50%。H.265/HEVC标准采用了一系列新的先进技术,包括CU(Coding Unit)的递归四叉树划分,支持了更小尺寸宏块,增加了更多了的帧内预测角度模式,以及先进的帧间预测技术,这些新的编码技术在保证了压缩率的同时也增大了编码器的计算复杂度,导致编码时间大大增加。为了降低编码时间,本文深入研究了新一代高效视频编码标准的预测模式选择过程,出了基于内容的预测模式快速选择算法和基于运动特性的帧间预测单元划分模式快速选择算法。帧间预测依靠当前帧与参考帧的内容相似度来降低预测残差,内容相似程度大多数情况下决定了最佳预测模式是帧内预测还是帧间预测。本文通过对当前预测块和参考帧对应块进行像素值统计,对于尺寸为16×16,8×8的CU来说,尺寸太小,统计结果可能无法准确述当前块的内容,则是将CU块进行线性插值放大再进行统计,然后将统计结果以概率模型处理,利用JS散度对两个概率模型进行相似度分析,最后使CU块在进入帧内帧间预测前用JS散度对预测模式进行粗选,以粗选结果作为帧内、帧间预测模式的候选模式,从而达到降低预测模式循环冗余的效果。实验结果表明,本算法在保证BDPNSR和BDBR变化微小的情况下将编码时间平均降低了11.81%。本文从帧间预测模式的循环遍历入手,首先用N×N的四个子PU(Prediction Unit)块的运动向量MV(Motion Vector)对当前CU块进行运动特性述,分为统一运动特性、上下运动特性、左右运动特性、分散运动特性以及未确定运动特性,再根据帧间预测模式划分的特性将帧间预测模式划分为统一运动模式、上下运动模式、左右运动模式以及分散运动模式,将CU块的运动特性与帧间预测划分模式相联系,出了基于运动特性的帧间预测模式划分快速算法。通过实验仿真表明,本算法在low delay配置下使编码时间平均降低了31.2%,在random access配置下使编码时间平均降低了27.6%,而且通过RD(Rate-Distortion)曲线表明,本算法对编码器的编码性能影响极小。