H.264视频编码标准是一种最新的包含了很多先进视频压缩编码技术的国际标准。与以前的视频编码标准相比,在具有相同的图像质量效果下,H.264标准具有更高的压缩效率,而且具有良好的网络适应性,所以它的应用前景非常广阔。然而,H.264的高压缩编码效率是以很高的计算复杂度为代价的,它的解码复杂度要比MPEG-4简单配置的要高出3倍以上,所以在实际应用中必须对算法进行优化以提高其编解码的效率。 本文首先介绍视频压缩的基本原理,并且对H.264的编码和解码技术进行分析和研究,然后分析ITU-T官方提供的解码器校验模型的程序结构以及其实现算法,并对其进行优化。对解码器软件进行优化的方法主要是算法的优化以及指令级的优化。本文对解码器软件的优化只是围绕基本档次进行的。优化的工作内容主要有：对熵解码算法的改进,程序的一些模块的结构调整,以及整数余弦反变换(DCT)的指令级的汇编优化。熵解码算法的改进是对CAVLC(Context-Adaptive VLC)解码的改进,改进的算法采用基于分组的快速查表思想。对整数余弦反变换的优化是采用intel公司的多媒体指令来实现的。除此以外,还对解码器软件一些不合理的程序结构进行调整,把一些比较复杂冗余的函数结构进行分拆,模块化,使得程序的结构更加合理。此外,还对程序的局部细节进行优化,如将一些乘法运算转换为移位操作,以提高解码速度。通过对解码器软件的优化,可以大大的提高解码器软件的运行速度和效率。