与以前的标准相比,在同等编码质量下,H.264可以节省大约50%的码率,编码效率比H.263提高一倍左右。然而,高编码压缩率是以很高的计算复杂度为代价的。在同等编码质量下,H.264的计算复杂度约为H.263的3倍,所以在实际应用中必须对其算法进行优化以降低其计算复杂度。复杂度提升主要是由于引入了率失真优化策略遍历所有编码模式。虽然这种多候选模式的方法能有效地提高块的匹配效率,提高图像的质量,降低编码码率,但是对所有模式的判断选择极大地增加了计算复杂度,增加了编码延时,在很多硬件设备上不能得到有效实现。因此,对多候选模式的优化选择能使H.264在计算复杂度方面得到降低。本文主要是对基于块模式选择的快速算法进行优化,具体的工作包括:首先介绍了H.264/AVC标准的热点技术及视频编码标准的国内外研究发展现状,分析了H.264/AVC编码器的不足,在快速算法方面对H.264编码器进行了优化。详细分析了编码块模式选择的复杂度,并对基于CBP(Coded BlockPattern)残差值的各编码模式概率进行了统计分析。可知在各编码块模式中大的编码块模式占据了相当大的比例。由此利用残差的CBP、MVD信息来标识帧内与帧间图像的相关性,根据判断准则仅计算部分模式的率失真代价值,采取自适应的判断策略快速滤除部分编码模式,对基本档次的编码器进行了优化,提出一种基于RDO的快速编码块模式选择算法。实验结果表明,该算法在平均码率增加3.97%的代价基础上,编码速度平均提高60.44%,图像信噪比平均提高0.015dB。接下来根据阈值与判断准则,分析了采用各编码块模式的宏块数,根据前一已编码帧与相邻已编码块有效选择当前块的编码块模式,减少单一阈值或单一判断准则带来的误判率。实验结果表明,该算法在有效保证图像质量的前提下,码率仅提升了0.41%,编码速度却提高了50.40%。