随着通信和因特网的发展,视频压缩技术已经成为通信和消费视频信息的一个重要部分。如何以尽量低的码率高保真的传输原始数据,成为人们研究的热点。经过十几年的努力,国际标准化组织(ISO)和国际电信联盟(ITU)相继制定了一系列视频压缩编码国际标准,极大地推动了视频压缩技术的发展。在继一系列视频标准,如H.261,MPEG-1,MPEG-2,H.263,MPEG-4之后,ITU-T和ISO/IEC共同建立的联合视频小组(JVT)推出了新一代视频压缩编码国际标准H.264。由于H.264采用了许多新技术,H.264/AVC编解码器的计算复杂度是其它视频压缩标准的几倍。从而使基于嵌入式处理器的实时编码器实现面临巨大的挑战,迫切需要提出速度更快的优化算法减少巨大的计算复杂度。本文主要从实时视频应用的角度,对H.264/AVC编码过程中的模式预测、差值、滤波以及SAD/SATD等方面的优化开展了较深入的研究。 首先介绍了视频压缩编码的基础理论及国际标准的发展历史,重点对H.264所采用的新编码技术进行了介绍,从空间和时间两方面给出了H.264编码器的复杂度分析。在此基础上针对耗时模块帧间预测的快速算法进行了研究,提出了一种基于宏块间相关性的模式预测算法。该算法考虑了自然视频序列的内容在时间持续性和空间同质性,大大减少了搜索的模式。 然后从硬件角度分析了H.264编码器在实时应用中存在的矛盾,针对普遍的硬件特点,研究了适合嵌入式处理器存储结构的插值和滤波算法,并在此基础上结合DMA提出了一种高效的数据策略,降低了93.1%的存储开销,减少31.8%的时钟周期数。最后,分别以ADSPBF533(简称BF533)和MD32芯片为平台,针对不同的指令特点,对耗时模块SAD和SATD进行了汇编级的优化。