随着多媒体技术高速地发展与普及,视频已经逐步成为日常生活、工作中必不可少的一部分。高清视频因能提供清晰的视觉体验而受到人们越来越多的关注。高效视频编码(High Efficient Video Coding,HEVC)作为新一代视频编码标准,其压缩性能是上一代视频编码标准H.264/AVC的2倍。随着高效视频编码的广泛应用,高效视频编码的优化需求与问题开始凸显。在传输与存储资源有限的情况下,用户体验质量等要求受到了限制,如何在有限资源的情况下,获取更高的用户体验质量成为国内外热点研究课题。(1)在视频编码中,通过码率控制模块,可以实现率失真优化,即在所需比特率的约束下,使视频的失真尽可能的小。码率控制由比特分配与确定量化参数两步骤组成,其中比特分配作为码率控制中灵活的一部分,极大地影响了率失真性能。视频内容特征对比特分配具有重要意义,准确地建立视频内容特征与比特分配之间的关系是比特分配优化的关键。因此,为了提高编码的率失真性能,本文提出了基于视频内容特性的比特分配方法,通过建立搜索点、时空复杂度与比特分配之间的关系模型,对帧层进行比特分配的优化。通过实验可以得到,本方法相比HEVC中的比特分配方法,编码效果有所提升。(2)编码后的视频中存在不同类型的压缩失真,如块效应、振铃效应等。为了消除这些失真,视频编码采用了环路滤波技术。然而现有的环路滤波技术无法同时消除多种失真。因此,为了进一步提升视频的质量,本文提出了基于卷积神经网络的环路滤波方法,通过建立高效的去失真方法,包括归一化操作,特征融合模块,精确的损失函数,实现压缩失真的消除。实验结果表明,本方法相比HEVC中的环路滤波方法可以更好地消除压缩失真。