随着H.266/VVC编码标准的发展与完善,视频处理效率的提高带动了视频产业的发展,为新一代视频编码标准的发展奠定了基础。为了满足人们对视频的清晰度、流畅度以及实时度的要求,新一代视频编码标准应运而生。它有良好的网络适应性、并行处理能力和压缩效率,将会在很多领域得到很好的应用。因此,H.266/VVC视频编码标准是当前研究的热点。H.266/VVC引入的四叉树嵌套多类型树(Quad-tree with nested multi-type tree,QTMT)划分结构大大提高了编码效率,但同时也导致了很高的编码计算复杂度。本文针对此问题提出了两个有效的解决方法:(1)提出一种基于随机森林分类器(Random forest classifier,RFC)的快速编码单元(Coding Unit,CU)划分算法。根据纹理复杂度将CU划分为平滑区域、普通区域和复杂区域,其中普通区域采用原始帧内编码过程进行编码预测,平滑区域不再进行划分,而复杂区域的CU使用提前训练好的RFC进行分类。实验结果表明,该算法较原始H.266/VVC编码器可节省大约39.05%的编码时间,BDBR仅为0.73%,可忽略不计。(2)提出一种基于改进的有向无环图支持向量机(Directed Acyclic GraphSupport Vector Machine,DAG-SVM)分类器的快速CU划分算法。通过改进的F-score特征选择方法选择与CU划分相关的特征,从而获得特征子集。在构造改进的DAG-SVM分类器时,首先计算各类型的重心,并使用重心来计算各类型之间的距离;然后计算每个类别与其他类别之间距离的平均值,其中平均值较大的类别与其他类别的距离更远,优先选择平均距离较大的类别来生成有向无环图(Directed Acyclic Graph,DAG)中的上层分类器;最后,经过训练的DAG-SVM分类器来提前预测最佳CU分区。实验结果表明,该算法较原始H.266/VVC编码器可节省约54.74%的编码时间,BDBR仅增加0.92%。本文提出的针对降低H.266/VVC中CU划分过程编码复杂度的算法,均有效降低了编码时间,促进了H.266/VVC的实际应用。