当前我国在音视频产业领域已经具备较强的产业基础,但由于没有掌握核心技术标准,相关企业长期受制于国外持有标准化专利与技术的企业和组织。为了在音视频产业领域拥有更多的自主知识产权,2002年6月21日“数字音视频编解码技术标准化工作组(AVS)”在北京正式成立。AVS工作小组制定了《信息技术先进音视频编码》系列标准,简称AVS标准。AVS标准是第一个我国自主提出的数字音视频编解码标准。AVS-M是AVS标准的第七部分:移动视频。它面向移动多媒体应用,对新一代移动多媒体通信、数字多媒体广播、便携式视听消费电子产品等产业的发展具有重要意义。AVS-M标准采用了基于块运动补偿混合编码方案,为了实现更高的编码效率,引入了许多新的编码技术,如新型帧内预测、多宏块划分、多参考帧、高精度运动估计、整数变换、环路滤波器等。这些新技术使AVS-M标准能够提供与最新的国际视频编码标准H.264/AVC相当的编码效率,但是,这些新技术的采用也极大地增加了AVS-M编码器的计算复杂度,因此需要寻找高效的优化算法,以减少巨大的计算量,提高编码速度。本文对AVS-M编码过程中复杂度最高的帧间预测进行了研究和算法优化,具体内容包括:针对帧间编码模式选择的复杂性,本文提出一种快速模式选择算法。该算法基于对最佳模式选择结果的统计分析,将全部编码模式分成不同的模式集,根据序列的时域相关性设定自适应阈值,来判断搜索不同的模式集以及模式搜索提前终止判定,并有选择性的进行帧内模式预测,有效的降低了模式选择的复杂度,提高了编码速度。运动估计是AVS-M编码器帧间预测中计算量最大的模块,本文针对分数像素运动估计的复杂性,提出了自适应分数像素运动估计快速算法。该算法采用多种运动矢量预测提高分数像素预测矢量的准确性,并且利用分数像素搜索窗口内匹配误差曲面的单峰特性,来预测匹配失真的下降方向,省略可能性小的分数像素点,利用自适应阈值的判断跳过不必要分数像素搜索过程,大幅度地减少了搜索点数量。