H.264是ITU-T与ISO/IEC联合开发的数字压缩标准，也是目前最先进的压缩标准，其应用极为广泛，可满足于不同网络环境和应用场合，适合于移动通信领域的应用。掌握H.264关键技术，并将其有所创新的进行实现和应用，具有一定的实用价值。　　 本文首先研究了H.264编码器中的4个关键技术，包括帧内预测、帧间预测、DCT整数变换及量化、CAVLC熵编码，分析各个关键技术的算法原理，对算法的实现方案进行分析与比较，并提出优化，最后得出了具体的实现流程。接着对当前的几种主要的编码器的实现策略进行比较，基于H.264编码器对速度、功耗、面积的要求，选择ASIC作为实现策略，在此基础上，提出了H.264编码芯片的整体构架，然后对传统的视频编码系统的两级流水线结构进行分析，提出改进的三级流水线结构。随后以H.264编码器中关键技术帧内预测为例，进行RTL级的设计与实现。在帧内预测的设计中，结合对帧内预测算法的分析与优化，提出了H.264帧内预测模块的硬件设计方案，采用一种统一运算的电路实现所有预测模式的预测值计算，并设计一种8路并行的可配置结构，能够实现两个4×4块并行预测。这种方案权衡了处理速度和实现代价，硬件实现效率较高。针对帧内预测模式选择算法，论文采用两路并行的运算方法，同时计算两个4×4块的SATD值，对其中的2-Dhadamard变换使用行列分离的三步法和快速蝶形运算，并采用流水线结构，提高硬件工作效率。所有模块使用verilog硬件描述语言进行设计，利用LEDA和VERDI工具进行代码分析。最后，使用VCS仿真工具对主要的功能点进行了仿真，利用码流分析工具对比数据，验证模块功能的正确性。仿真结果表明，本文设计的帧内预测模块处理完一个宏块需要720个时钟周期，吞吐量达到853Mbps，能够满足分辨率为1080p，帧率为30fps，系统吞吐量为746Mbps的高清视频的实时编码要求。