H.264是ITU-T视频编码专家组和ISO/IEC运动图像专家组联合推出的迄今为止技术最新、性能最优的视频编码标准。鉴于其引进的诸如帧内预测、帧间预测等新特性,H.264与现有视频压缩标准相比,能够在保持相同图像质量的前提下,节省大约50%的码率。由于其良好的压缩效率和网络适应性,H.264在视频电话、数字电视广播、视频流媒体服务、压缩视频存储等领域得到广泛的应用。H.264编码器具有良好的编码性能,但这是以增加编码计算复杂度为代价的。本论文围绕运动估计和运动补偿算法、H.264编码器DM642移植和优化进行研究。为了有效的解决H.264帧间模式选择复杂度高的问题,本文提出了基于宏块运动矢量相关性的帧间模式快速判决算法。该算法的依据在于当前编码宏块的四个子宏块间存在着高度的相关性,根据子宏块运动矢量的相关性确定子宏块能否合并成分割宏块或宏块,以此避免遍历七种预测模式。仿真结果表明,该算法在保证图像质量未明显降低和比特率未明显升高的情况下可以大幅度降低运算复杂度。在分析和理解H.264功能实现和DM642芯片特征的基础上,完成了H.264基本档次编码器DSP平台的移植和优化。依据优化的技术方案,H.264编码器可以实现在DSP平台上的实时处理。测试结果显示,优化后的H.264编码器处理速度有了较大幅度的提升。