在现代通信系统中,快速编码算法的研究已经成为提高图像质量的关键技术。是业界极为关注的热点课题。ITU-T和MPEG联合组成的JVT(Joint VideoExpert Team)于2003年3月正式发布视频压缩的国际标准H.264。H.264编码标准作为MPEG-4的补充部分,进一步挖掘现有编码技术的潜力,实现高画质、低比特率的编码效果。H.264可以达到很高的编码效率,具有很好的市场应用前景。跟踪和掌握H.264/AVC的核心技术,并结合实际应用在某些关键方向上有所创新和发展,是一项很有价值的工作。本文对H.264中的各种核心编码算法进行了深入的剖析和理论研究,并对有关算法进行了仿真实验。本文阐述了数字视频编码标准在当今技术领域的重要性以及数字视频编码标准的发展历程,扼要描述了几种重要的视频编码标准,并详细阐述了H.264编码标准以及它的各种关键技术。建立在视频标准的基础上,论文深入研究了帧内预测算法和帧间运动估计算法。对帧内预测算法,着重就其模式选择中的各种算法进行了阐述,并提出了一种新的快速算法,降低了预测的运算复杂度;对帧间运动估计,论文主要对其基于块匹配的各种搜索算法进行了阐述,并在比较这些算法的基础上,提出了一种改进的快速搜索算法,有效节省了编码的时间,并降低了运算复杂度。在完成对H.264标准的一些算法研究后,论文重点研究了H.264在DSP上实现的问题。包括它的优秀编码器X264在DM642上的移植和优化,对优化的流程以及各种技术都进行了有益的研究,并在最后进行了优化和实验测试,结果证明有较好的效果。