H.264/AVC是由ITU-T视频编码专家组VCEG(Video Coding Experts Group)和ISO/IEC运动图象专家组MPEG(Moving Picture Experts Group)共同制定的视频编码标准,这一编码标准可获得很高的编码效率,尤其是在低码率方面比MPEG-4有明显提高,适合低宽带、高质量网络视频应用的需要。为了方便H.264在低码率高实时性应用系统中的实现,须对其编码算法进行优化。经过对H.264编码器的分析可以得出,运动估计是视频压缩编码中的核心技术之一,采用运动估计和运动补偿技术可消除视频信号的时间冗余以提高编码效率。因此,如何提高运动估计的效率,使运动估计算法搜索过程更健壮、更快速、更高效成为目前研究的热点之一。本文首先论述了H.264视频编码标准的基本原理和关键技术;然后介绍了几种已有的经典块匹配运动估计算法,并分析了它们的优缺点;随后本文深入的分析了H.264推荐的运动估计核心算法UMHexagonS,针对该算法运动估计实时性不足的缺点,对该算法进行了四方面的优化,分别是初始搜索点的确定(即参考搜索窗口的位置);参考搜索窗口大小的动态生成;大六边形搜索和小六边形(小钻石)搜索模式。优化后的UMHexagonS算法能够高效快速的定位参考搜索窗口的位置和大小,在整个搜索过程中改进的大小六边形搜索模式可以显著减少搜索点数量并能达到较好的匹配效果。在H.264参考软件模型JM10.1下,经过VC6.0编译,实现该算法,通过对各种测试序列的实验证明,优化后的算法与UMHexagonS算法相比,在重建图象质量和码率接近的情况下,运动估计时间平均节省了18.102%,降低了算法的复杂度,提高了编码器的实时性。