随着计算机技术以及多媒体技术的快速发展,视频压缩编码技术越来越受到重视,它作为计算机多媒体技术的一个分支学科,近年来在国际上成为研究热点。由JVT制定的新一代视频编码标准H.264能够提供更好的压缩性能和更高的解码图像质量,已经成为业界瞩目的焦点。帧内预测和帧间预测作为H.264中提高编码性能的重要手段,能够有效地去除原始视频序列中的空域冗余信息和时域冗余信息,但这是以复杂度的成倍增加为代价的。为了满足无线网络传输和实时应用的需要,有必要研究更为有效的帧内预测快速算法和帧间预测快速算法。论文主要分析和讨论现行的帧间预测运动估计快速算法和帧内预测模式选择快速算法,并在JM上对这些算法进行了仿真和性能比较。在此基础上,针对帧内编码运算量太大的问题,研究一种利用空域和变换域特征的帧内预测快速算法。试验结果表明,与H.264原来的帧内预测算法相比,改进算法在PSNR和码率可接受的波动条件下,编码时间节省60%到70%左右,有效地提高了编码效率。