本文首先介绍了H.264/AVC所使用的编码技术，H.264/AVC是较新的视频编码标准，它在以往视频编码标准的基础上进行了改进和升级。由于使用了新的编码技术，经过H.264/AVC编码的视频数据能够得到进一步的压缩，并且在实时视频通信和视频存储方面表现出色，适合应用在各种交互和非交互的应用环境。与H.263和MPEG-4压缩编码标准相比，其码率能够节约一半左右，这对带宽的节约是相当可观的。接下来，本文详细分析了H.264/AVC编码标准所使用的几个关键技术。包括所使用的新的预测技术（帧内/帧间预测），在该编码算法中的13种帧内预测模式以及帧间预测模式下的块大小不定的运动补偿技术；对残差数据再进行处理时使用的是整数离散余弦变换和阿达玛变换，能够对待编码的数据进一步的压缩；对变换后要进行的量化进行了讨论，多种量化级别的选择会使得编解码后的图像清晰度不同，其编码所用的比特数也不同，可以根据不同的网络环境和应用场合来选择量化级别；由于要利用已经编码的模块对未编码的模块进行预测，这就需要对已编码块进行重建，未经滤波后进行重建的块是带有方块效应的，为了去除这种方块效应，就需要使用去块滤波技术；接下来详细探讨了熵编码技术CAVLC和CABAC，它们都是基于上下文且自适应的。然而，H.264/AVC压缩率的提高是以较高的算法复杂度换来的，因此本文研究算法的目的是降低算法复杂度的同时提升编码效率，本文的创新点就是提出两个简单高效的快速帧内模式选择算法。本文提出了一种快速的intra44与intra1616模式选择算法，该算法充分利用图像宏块内的像素与周围像素的相似性，如果相似度高，说明当前区域是平坦的，反之是不平坦的，根据双阈值来判断当前宏块是否处在平坦的区域，为了减少误判，对于那些特征不明显的宏块仍然使用原搜索算法进行最佳预测模式的选择。本文还提出了一种将intra44的9种编码方式降为4种的优化方法。算法是充分利用图像块的纹理方向，根据44的小块在某个方向上的像素具有相似性，可以通过比较4个主要方向上跟实际的44块的纹理方向一致的程度，挑出最好的模式，继而结合其相邻的模式连同DC模式一块作为最后的候选模式。单独使用该优化方法，可以减少20%左右的编码时间，并且峰值信噪比变化较小。可以将上面两种算法结合，编码时间能够得到进一步压缩，与全搜索算法相比，可以减少30%左右的时间，大大节约了编码时间，提高了编码效率，使得视频通信的实时性能够得到进一步的增强。与其他快速帧内模式选择算法相比，本文算法更简单高效。