高效视频编码压缩是众多数字媒体应用的关键基础技术。新一代HEVC(High Efficiency Video Coding)视频编码标准采用多项高效编码技术,提供了卓越的编码压缩性能,在视频编码质量相同的情况下,压缩效率比前一代视频编码标准H.264提升一倍。在实际使用中,由于传输带宽和编码复杂度等条件的限制,视频编码器中普遍使用率失真优化(Rate Distortion Optimization,RDO)准则对编码算法进行优化设计。因此,研究清楚HEVC中的率失真特性,是充分挖掘HEVC标准压缩潜力的关键。量化是视频编码器中关键的模块之一,其任务是根据选定的量化参数(Quantization Parameter,QP),对残差系数进行量化。一方面,量化参数直接决定绝对失真和码率的大小,另一方面,由于率失真优化算法中使用的拉格朗日乘数,也是由量化参数计算得出,所以量化参数也通过影响编码过程中的模式选择间接决定编码失真和码率。帧级量化参数是编码过程中量化各个编码块的基础,其在很大程度上直接决定了编码一帧的失真和码率。因此,结合HEVC编码视频的率失真特点,对帧级量化参数进行率失真优化选择对于提升HEVC编码器编码效率至关重要。视频编码中的帧级量化参数由码率控制算法决定,HEVC中使用了基于拉格朗日乘子的率失真优化码率控制算法计算每帧的量化参数,该算法中使用的拉格朗日优化乘子是基于各帧之间相互独立假设的率失真模型,由目标码率计算得出。使用独立率失真模型计算出基于拉格朗日优化乘子的帧级量化参数进行编码,得出的编码结果仅使当前编码帧率失真代价最优。然而,由于HEVC中诸多新技术的使用,使得HEVC中各帧之间的码率和失真不再统计独立,如:更多帧间预测编码模式,导致时域失真传递;高阶上下文熵编码,导致空域邻近单元间发生码率传递。这些失真和码率传递效应的内在特性,使得传统码率控制算法中,编码帧间率失真统计独立的假设不再成立,从而使得考虑编码视频帧间率失真依赖特性的帧级量化参数选择,成为进一步提高压缩性能,并优化编码器全局率失真效果的关键。针对该问题,本文探索时域帧间率失真依赖特性,研究基于帧间率失真依赖的帧级量化选择算法。本文的研究着眼于解决这其中的两个方面问题:一是需要从原理上分析清楚帧间依赖的产生机理,并对帧间率失真依赖关系进行定量描述;二是需要将帧间率失真依赖应用到码率控制算法中拉格朗日优化乘子的计算中,从而实现使用优化的拉格朗日乘子计算帧级量化参数。本文的主要研究工作包括:1.提出时域依赖率失真模型:深入探索HEVC视频编码产生帧间依赖的根本原因,研究编码失真和参考帧重建失真和运动补偿失真之间关系,构建时域失真传递模型,并基于此探索当前编码单元量化参数在整个GOP范围内产生相应的失真和码率波动情况,通过离线数学建模方法,定量构建GOP失真波动和码率波动函数模型,定量描述当前编码帧对整个GOP失真和码率的平均影响,为GOP级全局码率分配和量化控制提供模型支持。2.提出帧级量化参数选择算法:研究基于帧间依赖的全局率失真优化算法,计算出体现帧间依赖的帧级量化参数。使用拉格朗日优化算法,将建立的失真波动和码率波动模型导入率失真优化算法中,求出基于帧间依赖的拉格朗日优化乘子。结合HEVC中量化参数与拉格朗日乘子的关系,计算出基于帧间依赖的量化参数。实验结果表明,本文提出的帧级量化参数选择算法能够在保证HEVC编码复杂度基本不变的情况下,有效降低BDBR1.62%左右。