随着网络和移动通信的迅猛发展，视频信息在Internet和移动网络中的处理和传输技术成为了当前信息化中的热点研究课题。新一代视频编解码标准H.264采用了一系列先进的技术，在信噪比、压缩效率、网络适应性和视觉效果方面，都远远好于其它视频编解码标准。因此受到业界的广泛关注。本文深入剖析了H.264的编码策略和技术特性，重点研究了两项关键技术：运动估计和码率控制。　　 H.264编解码器提高了压缩性能，但运算的复杂度也成倍的增长。本文研究了经典的运动估计算法，在此基础上提出一种基于混合非对称十字型多层次六边形格点搜索算法(UMHexagonS)的新的运动估计搜索算法。改进一是增加一个自适应阈值，以根据图像的内容，采用不同的搜索算法。改进二是在六边形格点搜索中提出一种基于有效区域的搜索算法RSHEXAGON(Region Search Basedon Hexagon)。改进三是用大小菱形搜索代替扩展的六边形搜索。新算法实现了快速搜索的目的，避免了在搜索最佳点时搜索过于复杂的问题，降低了编码器的复杂度。　　 大多数视频通信应用都使用固定的传输带宽，这意味着编码器的输出码流受到传输带宽的限制。因此，一个能够在给定的固定带宽下高效地传输编码数据，并保证良好和稳定的接收端质量的码率控制算法是必需的。在H.264标准中，并没有很好地研究码率控制，它将量化参数同时用于码率控制和率失真优化，导致了鸡蛋悖论。本文提出了一种新的基于图像复杂度的码率控制算法，在宏块级编码时可以绕开鸡蛋悖论。采用平均绝对交换(Mean Absolutely Transform，MAT)来度量编码复杂度，并使用峰值信噪比(PeakSignal-to-NoiseRatio,PSNR)变化比作为另一个评估图像复杂度的参考量和MAT相结合，对图像复杂度给出了更客观的评价。　　 在VC++平台上用C语言实现了本文的算法，并集成到编解码软件JM8.6中，进行了实验，将本文提出的新的算法同H.264中的算法进行了比较。实验结果表明，本文提出的运动估计算法缩短了10％的编码时间和48.7％的运动估计时间，而解码图像的PSNR几乎不变。本文提出的码率控制算法使码率控制率降低了0.03kbps左右，解码图像的PSNR提高了0.197dB。