H.264是ITU-T的视频编码专家组和ISO/IEC的活动图像编码专家组组成的联合视频组开发的新一代视频编码标准。其采用了多项新技术,如多模式预测、多参考帧运动估计、整数变换、CABAC、循环去块滤波等,使得H.264具有很高编码效率。除了高编码效率外,H.264标准中引入了网络适配层对码流进行封装,封装后的码流对网络的适应性强。此外,针对传输中的丢包和误比特现象,H.264提供了更多更好的抗误码策略。但H.264编码效率的提高,是以高计算复杂度为代价换来的,其编码复杂度超出H.263/MPEG-4十倍以上。以现有平台的处理能力,根本无法做到H.264的实时编码。所以,必须对编码器进行优化,减小计算复杂度。本论文主要研究了H.264快速运动估计算法。首先,对现有快速帧间预测算法进行研究,分别从下面两个方向进行优化:在选择帧间宏块分割模式时,先根据部分模式的计算结果提前判断出侯选模式组,再从侯选模式组中计算选出最佳模式;在分割块的运动估计时,先检测局部典型位置并根据检测结果对块的运动区域进行预测,再据此有针对地采用相应的搜索模板进行搜索。其次,又对基于纹理能量分析的快速模式选择算法进行了研究。此算法提前对块的细节程度和纹理方向进行分析,根据块细节程度缩小模式选择范围,并根据纹理方向对模式进行进一步筛选,从而大大提高了模式搜索的速度,将性能损失控制在可以忽略的范围内。最后,对算法优化进行了分析验证,得出结论。