H.264/AVC是由ITU-T VCEG(Video Coding Experts Group)和ISO/IECMPEG(Moving Picture Experts Group)联合制定的新一代视频压缩国际标准。H.264/AVC以其强大的压缩性能和良好的网络亲和力，被广泛应用在各种视频业务中。本文详细地介绍了H.264/AVC的应用范围、档次和级别、编解码器结构以及各种新的编码技术和工具。特别地，在研究帧间预测和帧内预测技术的基础上，提出了一种改进的EPZS(Enhanced Predictive Zonal Search)运动估计算法和一种边缘方向信息和空间相关信息相结合的快速帧内模式选择算法。文中给出了这两种算法的详细介绍和实验分析结果。在分析之前运动估计算法的性能以及不足之处的基础上，本文提出了一种使用具有方向偏向性搜索模板和基于预测模式自适应选择运动估计方案的EPZS改进算法。该算法将运动估计过程与H.264/AVC中多参考帧、多预测模式等编码工具紧密结合，充分利用了视频中运动具有高度时空相关性的特点，综合考虑了速度、图像质量及压缩效率等方面的性能。实验结果表明，该算法以极小的计算量得到了与全搜索方法接近的效果；与EPZS算法相比，运动估计的处理速度有了较大幅度的提高，同时保持了与之相当、有时甚至更优的率失真性能。此外，该算法具有很好的鲁棒性，并且能够产生平滑的运动矢量场。针对编码器需要遍历各种帧内预测模式以得到率失真性能最佳的帧内模式所带来的复杂度高、计算量大的问题，本文提出了一种边缘方向信息和空间相关信息相结合的快速帧内模式选择算法。算法首先利用图像的局部边缘信息和当前编码块空间邻近块的预测模式信息，选择少量的可能性很高的预测模式作为侯选预测模式，然后再对这些侯选模式进行RDO(Rate Distortion Optimization)计算，最后得到最佳的帧内预测模式。由于参与RDO计算的模式数量很少，帧内模式选择的速度可以获得显著的提高。