随着移动互联网和多媒体技术的迅猛发展以及生活水平的不断提高,人们对视频内容和质量提出了越来越高的要求。由于内容丰富及高清、超高清视频包含很大的信息量,使得数字化后的视频数据量巨大,因此数字视频在传输或存储前必须进行压缩编码,以降低对传输带宽或存储空间的需求。在视频通信中,由于通信网传输带宽有限,视频编码器大多采用了码率控制技术以产生匹配传输带宽的码流,并保证视频质量。新一代视频编码标准HEVC采用基于R-λ模型的码率控制算法,提高了码率控制精度和视频质量,但其帧层比特分配未考虑视频内容特性与缓冲区状态,导致帧层比特分配不太合理,而其最大编码单元层比特分配也未能充分利用图像空域复杂度与时域复杂度的相关性,以及模型参数更新过程存在不足,导致最大编码单元层比特分配不准确。本文针对基于R-λ模型的码率控制算法在帧层比特分配与最大编码单元层比特分配上存在的不足,对应提出了两种码率控制优化算法。针对帧层比特分配不合理的问题,本文提出了一种帧层码率控制优化算法。首先,对图像信息熵、最小变换域绝对误差之和以及基于R-λ模型码率控制算法中帧层固定权重进行加权,得到一种度量帧层图像复杂度的综合因子,并将其作为新帧层比特分配权重;其次,根据目标缓冲级与缓冲区剩余比特计算出缓冲区反馈比特;最后,根据计算获得的新帧层比特分配权重和缓冲区反馈比特对帧层进行比特分配。本文算法在HM16.0上进行了实现和性能测试,结果表明:与HEVC原始的码率控制算法相比,优化算法的码率控制误差平均下降了2.008%,峰值信噪比平均提高了0.21dB。针对最大编码单元层比特分配不合理的问题,本文提出了一种最大编码单元层码率控制优化算法。首先,利用图像的梯度和平均绝对差构建一种新复杂度,以此来度量最大编码单元层图像复杂度;其次,利用获得的新复杂度与图像梯度定义一种调整因子,以此来对量化参数进行调整;最后,利用牛顿法与视频失真对模型参数进行有效地更新。实验结果表明,与HEVC原始的码率控制算法相比,优化算法的码率控制误差平均下降了0.062%,峰值信噪比平均提高了0.07dB。