超清、4k、8k等高分辨率数字视频的出现,使得数据量急剧上升,这给数据存储和实时传输带来了极大的困难和挑战。高效率视频编码(High Efficiency Video Coding,HEVC/H.265),相较于上一代编码标准H.264,在同样的视觉效果下,压缩视频的比特率平均减少了50%。与此同时,HEVC由于采用了许多新技术,编码复杂度也大大提高。在众多新技术中,基于四叉树结构确定编码单元(Coding Unit,CU)划分情况时,采用率失真代价(Rate Distortion Cost,RDC)比较,该过程因遍历而存在冗余,所以大大增加了编码复杂度。在近些年的研究中,传统方法主要依靠人为引入中间特征来简化RDC过程,但是存在中间特征复杂、难寻找、不够准确的缺点。本课题为了解决以上这些缺点,设计了以下两种方案。本文基于空间相关性设计了编码单元快速划分算法。相邻CU的编码深度相似或者相关,有以下两个理论依据:一是相邻CU在纹理上相似或相关;二是“Z”字形编码顺序使得在对当前CU进行编码时,左侧、上侧CU已经编码完成,可以将其编码深度作为参考。基于以上两个理论依据,本文统计了样本中当前CU编码深度和左侧、上侧CU编码深度之间的规律,对编码深度范围的各种可能性提出了合理完备的假设。接下来,本文结合原压缩方案中率失真代价比较过程,设计了确定编码深度具体值的流程,跳过或者提前终止部分CU划分过程,从而降低复杂度。实验结果表明:在增加1.36%比特率和损失0.029 dB峰值信噪比的情况下,该算法平均减少15.72%的编码时间。本文基于卷积神经网络设计了编码单元快速划分算法,并完成了双阈值机制的效果验证。本文整合了一个训练样本数据集,足够的样本数据保证了特征提取的充分性;设计了包含三个卷积层的卷积神经网络(Convolutional Neural Networks,CNN),在同一网络中完成三级CU划分训练,避免了分级训练耗时长的问题;引入了双阈值决策机制,提高CU划分最终结果的准确性。实验结果表明:当阈值选择为0.5时,在增加1.66%比特率和损失0.025 dB峰值信噪比的情况下,该算法平均减少49.47%的编码时间。