H.264/AVC作为ITU-T VCEG和ISO/IEC MPEG联合制定的最新国际视频编解码标准.以突出的编码效率和网络友好性受到人们的广泛关注。一方面，在基于块的混合视频编码框架上集中了近些年来视频编解码领域内的最新技术特点，在同等图像质量条件下压缩率较以往标准明显提高，在实际应用中具有强大的竞争力。另一方面，由于新技术引入了巨大的算法复杂度，与以往视频编解码标准相比，H.264/AVC的计算复杂度高出几倍甚至十几倍。庞大的计算复杂度制约了H.264/AVC在实际中的应用和推广。因此，在保证编码效率的前提下尽可能降低编码的计算复杂度成了人们研究的热点。　　 本文针对编码部分复杂度较高的两个部分，即帧内预测和帧间预测模式选择的相关快速算法进行了研究，并分别针对这两部分的快速算法进行了有效的改进，提出了复杂度更低的模式选择算法：AFIMDA和ALCFIMDA。通过在JM参考模型上的仿真实验证明，本文提出的算法与改进之前的快速算法相比，在没有明显的降质情况下，本文所提出的算法计算量明显减少，编码速度进一步提高。　　 将上述算法集成在X264编码器上，并成功应用于嵌入式开发系统。通过对比发现，本文讨论的编码器对视频序列进行编解码后输出的图像与原始图像相比，图像质量没有明显降质。由此证明本文所提出的算法大大降低了编码器的复杂度，符合嵌入式开发系统的要求，对于H.264/AVC视频编码标准的研究和发展具有十分重要的理论意义和应用价值。