随着通信技术和Internet技术的发展，人们对视频的需求日益增加，这与当前视频技术编码能力有限之间的矛盾日益突出，为了缓解这个矛盾，VCEG和ISO/IEC两人国际组织在各自推出H.26x和MPEG-x等视频压缩编码标准之后，联合制定了新一代也是目前最新的视频编码标准一H.264标准，它具有同类标准所无法企及的编码优势，能支持各种网络环境中甚低码率下的高质量视频通信，但是由于这种编码性能是以更多先进编码技术的引入为基础的，编码复杂度也急剧增加，这大大限制了它的实际应用。降低编码复杂度同时又保持编码性能就成为该领域的研究热点之一，这也是本文研究的初衷。 本文在对视频压缩原理和现有的压缩编码标准作简要分析的基础上，比较深入的研究了H.264编解码器的整体构架和编码原理，对其中的帧内预测，帧间预测，变换量化和熵编码等模块的原理加以剖析，在VC6.0平台上具体实现了H.264的编解码过程，接着分析了H.264中各个模块的性能和复杂度，并且采用VTune性能可视化分析器测试了参考模型JM10.2各个模块的一些函数的执行时间，然后对占整个H.264编码器计算复杂度40％的运动估计部分进行重点研究，具体说来：在第四章先分析了块匹配法的原理，接着对FS、TSS、DS、EPZS和UMHtexagonS几种块匹配算法进行了研究，在第五章对被JVT采纳的“简化UMHS算法”进行了研究，对其特性和不足进行了初步分析，并针对其不足提出了改进方案。具体来说作了三个方面的改进：总体流程部分改用“基于预测中心的分区细搜索”方案，搜索方案部分改用“对不同运动类型采用不同搜索模板”，初始搜索点预测部分“对16×16块增加了时间预测”。仿真实验结果表明，改进方案可减少“简化UMHexagonS算法”约10％～40％的搜索点数和16％～20％的搜索时间，而率失真性能也略优于“简化UMHexagonS算法”，尤其对中、大运动序列，搜索性能有较明显的提升，大幅度提高了编码器的速度，有利于H.264标准的实用化。