H.264是由ITU-TVCEG和ISO/IEC MPEG联合推出的新一代国际视频编码标准。和以前的视频编码标准相比,它采用了一系列的新技术,使得H.264满足了在尽可能低的带宽下传输高质量的视频并能适应不同网络传输的现实要求。但与此同时也大幅度的提升了H.264编解码的复杂度,从而满足不了某些领域实时应用的高要求。为了在质量和速度之间找到一种折中,研究视频编码快速算法具有现实而深远的意义。通过对H.264编码标准的深入研究并分析现有研究现状可以发现,编码复杂度最高的两个模块是运动估计和模式选择。由此,确定这两大模块为本文快速算法主要研究对象。首先,针对视频序列的时间相关性远大于其空间相关性,尤其是在中低速率的视频编码中,被编码宏块多数都相对静止或仅有小范围内平动的特点,本文提出了一种新的全零块门限判决技术,并将其应用到运动估计中,提出了改进的UMHexagonS快速运动估计算法,从而避免了大量不必要的运动估计开销。另外,本文提出了一种基于时空相关性的快速帧间模式决策算法。该算法一方面基于统计信息和设定自适应阈值选择最佳预测模式提前退出,另一方面根据宏块时间域和空间域相关性,缩小预测范围,最后设定自适应阈值结合时空相关性对可能性最小的模式进行了选择性预测,从而提高编码速度。本文还给出了每种算法的仿真实验结果,结果表明本文快速算法在比特率和失真度不受较大的影响的前提下,提高了编码速度,达到了优化目的。