2003年3月,联合视频工作组JVT(Joint Video Team)正式提出了新一代视频压缩标准。由于其相比以往标准的出色的性能,被人们称为新一代视频编码标准。H.264/AVC标准支持从低带宽、高误码率的无线移动视频通信到码率、低延迟的视频广播及在线流媒体等多种应用,因此,日益受到业界的关注。码率控制算法是视频压缩的重要部分,用来控制视频压缩比特率,不管在哪一种视频编码标准中,码率控制算法的好坏,将直接影响到视频的质量和传输能力。在受实际传输和处理速度限制的条件下,控制视频编码过程是很重要的,这样才能获得最佳的压缩性能。本文从H.264/AVC视频应用的角度,针对码率控制算法和质量评价进行了研究与分析。1、介绍了码率控制原理和码率控制中的一些关键技术如多参考帧预测、多尺寸编码块模式、1/4像素精度运动补偿、整数变换量化、基于内容的熵编码、新型帧内预测、抗块效应滤波器等。2、对经典码率控制算法进行了研究并指出其存在的问题,通过对G012的仿真实现,深刻认识到峰值信噪比和比特率之间的关系。并在此基础上提出了平均变换误差(MATD)的概念,然后给出了完整的宏块级码率控制算。实验结果表明,与JM(Joint Model)85下的标准码率控制算法JVT-G012相比,本文提出的算法的码率控制精度更高,输出码流更加平稳,图像的平均质量更好。3、在基于结构失真的评价方法上充分考虑了人眼的视觉特点——人眼的主要功能是提取图像的结构信息。在VQEG实验测试数据集合中,证明了该方法与图像的主观视觉评价有高的相关性。