最新的视频编码标准H. 264在编码效率和网络适应性方面都有了显著的提高，与以往的编码标准（如H.261/3,MPEG-1/2/4等）相比，能提供高达1. 5～2. 0倍的压缩效率。为了最大程度地提高编码效率，在H.264中编码器采用了基于全局搜索的算法，针对各种不同的编码模式，循环计算各种模式下的RDO代价函数，比较并选择最小RDO代价函数所对应的编码模式作为最优的编码模式，从而造成H.264在算法复杂度和计算量上急剧增加。分析H.264的编码器结构可知，其高复杂度和计算量主要来源于两个方面，一是帧间编码的1/4象素精度运动搜索，多种可变大小的块模式及多参考帧的运动估计；二是帧内编码的多种预测模式，对INTRA4x4有9种预测模式，对INTRA16x16 有4种预测模式。本文结合视频序列特点，着重深入研究了H.264编码的帧内和帧间编码的算法，并进行了适当的优化，这对于提高H.264算法的执行速度，促进其在工程中的实用性具有重要的意义。 论文的第一章，主要对视频编码标准进行了整体性介绍，包括视频编码的理论基础及现有视频编码标准的发展历史，对最新的视频编码标准H.264的新特性进行了介绍，并与以前的视频编码标准进行简单的性能比较。 论文的第二章，主要针对H.264视频编码标准的编码算法，进行比较详细的介绍。首先结合H.264编码器结构，大致分析编码算法的基本流程。其次对帧内编码模式进行介绍，包括帧内预测编码的原理和各种帧内预测方式等。再次对帧间编码模式进行介绍，包括基于1/4象度的运动估计，多参考帧选取和多种可变大小块的帧间编码模式等。最后，分析H.264编码算法的复杂度，并对最耗时的环节进行分析，得到算法优化的方向。 论文的第三章，针对H.264的帧内预测算法进行研究，并提出一种基于时域和空域联合的帧内预测的改进算法。首先介绍了现有的帧内预测算法的流程，及算法复杂度分析。其次回顾了现有的各种帧内预测的快速算法，并进行简单的性能比较。最后提出一种新的基于时域和空域联合的帧内预测快速算法，进行实验仿真测试，并与现有算法进行了性能比较。 论文的第四章，针对H.264的多参考帧帧间预测算法进行分析，并提出一种基于多参考帧相关性分析的帧间预测的改进算法。首先介绍了现有的帧间预测算法的流程，及算法复杂度分析。其次回顾了现有的各种帧间预测多参考帧优化的快速算法，并进行简单的性能比较。最后，提出一种新的帧间预测多参考帧优化的快速算法，通过实验进行测试，并结合现有算法进行了性能比较。 论文的第五章，对论文进行概括总结，对提出的算法进行简单回顾，并对性能提高进行分析，以及探讨进一步改进的方向。 本文的创新性主要体现在以下两点： 1．针对帧内预测算法进行深入研究，提出一种基于时域和空域联合的帧内预测优化算法。 2．针对多参考帧运动估计算法进行深入分析，提出一种基于参考帧相关性分析的多参考帧选择优化算法。