本文系统地分析了视频编码标准和国内外的研究现状，分析比较了MPEG系列和H系列的国际视频编码标准，着重研究了H.264/AVC标准的编解码框架和技术特点。在相同编码质量下，按照H.264协议标准进行编码与H.263相比能够节省50％的码流。此外，新标准中分层的设计思想有效提高了编码器对不同性质网络的亲和性。因此，H.264协议自推出之日起就受到了业界的广泛关注，但是H.264协议标准计算复杂度较高的缺陷已成为目前视频应用的主要制约因素。 本文重点针对H.264最耗时的运动估计模块，在分析运动估计原理的基础上，对全搜索算法、EPZS和UMHexagonS算法进行深入研究。通过与FS的实验比较，归纳出EPZS和UMHexagonS各自的主要优缺点。在此基础上提出一种改进的运动估计算法。实验结果表明，改进的算法图像质量略有下降，但改进算法实时性能得到了明显的提高。此外，本文在对现有的快速帧间模式选择算法进行分析的基础上，提出了改进的帧间模式选择算法。实验结果表明，改进算法在基本保持图像质量和比特率增加较少的情况下，能够节省较多的编码时间。 最后，本文对主要研究内容进行整体总结，并展望了下一步的工作：以后研究的重点可以集中于在H.264/AVC基础上实现可伸缩视频编码(Scalable Video Coding，SVC)及立体视频编码。