在大数据时代,人们对提升视频压缩效率的需求不断增长,主要由两个原因导致:一个原因是视频如今可以通过各种显示设备观看和消费,对现有的网络信道容量发起更多的挑战;另一个原因是视频用户对视频观看体验的要求越来越高,导致视频格式发展趋向于更高的时空分辨率、更高的动态范围和更宽的色域,满足上述用户要求的视频格式通常伴随着更庞大的原始数据,为了提高视频编码效率,下一代国际视频编码标准VVC(Versatile Video Coding)的制定工作正如火如荼的进行,预计于2020年夏天正式发布。本文针对下一代国际视频编码标准VVC,深入研究了环路滤波技术和率失真优化技术,并提出相应的改进,具体工作如下:1.针对VVC中的环路滤波技术,提出了基于自导向滤波的环路滤波技术,利用重建图像的局部结构信息,自适应调整自导向滤波器的正则化参数,并将重建图像划分为互不重叠的区域,实现迭代更新的区域级子空间映射,使得映射结果更加接近原始图像。实验基于VTM3.0参考软件实现,平均提升了0.23%的编码性能;同时考虑深度学习在多个领域均取得了突破性进展,本文提出了基于卷积神经网络的环路滤波算法,设计由阶段滤波网络和边缘增强网络组成的EEResNet,提取图像边缘信息,进一步提高网络恢复重建图像细节信息的能力。实验结果表明,与VTM3.0参考软件相比,在同等编码质量下,该算法能够获得0.75%的码率节省。2.针对VVC中的率失真优化技术,从失真的角度,研究了低延迟层次结构下的时域依赖率失真优化问题。首先根据低延迟结构下的时域参考关系使用前向运动搜索建立时域失真传播链,分析skip模式和inter模式下失真传播概率和传播特性,重新归纳了时域失真依赖的率失真优化问题,估计受当前编码单元影响的所有后续编码单元的聚合失真,计算传播因子自适应调整CTU级的拉格朗日乘子和量化参数,同时对I帧进行二次编码,用第一次编码获得的I帧失真估计I帧对后续所有B帧的影响,进而自适应调整I帧QP。实验基于VTM5.0参考软件实现,编码性能平均提升了2.57%。