H.264是ITU-T的VCEG(视频编码专家组)和ISO/IEC的MPEG(运动图像专家组)提出的最新视频标准。与现有的视频标准相比,H.264编码器能在保持相同图像质量的情况下,节约50%的码率。由于其良好的压缩效率和网络适应性,H.264将在视频电话、数字电视广播、视频流媒体服务、压缩视频存储等领域得到广泛的应用。本论文对H.264标准进行了较为系统的介绍,包括编码器整体结构及各个模块基本算法的描述,在总结已有方法优缺点的基础上,提出了针对4×4亮度块的9种预测模式的优化算法,算法结合了最可能模式特性,空域、变换域特征以及相邻块预测模式的特征,加快了模式选择的速度。实验表明,该方法在保证编码性能的基础上,可以使I帧编码时间减少50%左右。文中分析比较了5种典型的运动估计快速搜索方法的优缺点,设计了基于DM642的H.264编码器基本档次的优化方案,其中包括JM86源码的移植、DM642多媒体处理器、C语言与线性汇编语言的混合编码优化方法及存储器的优化利用等,实验结果显示,优化后的编码器具有较好的性能,编码速度能达到约每秒14~16帧。