快速编码算法是改善通信系统视频压缩效果的关键技术,我国具有自主知识产权的新一代视频编码标准AVS(音视频编解码技术标准,AudioVideo coding Standard)在高清数字视频及网络多媒体应用方面表现出良好的性能和较低的复杂度。本文改进了AVS算法帧间预测部分,提高了搜索效率。在DSP嵌入式系统中对AVS算法进行了芯片级的优化,使之更加适合于实际工程中的应用。实时实现AVS编码器的硬件平台选取本实验室自主设计的基于DM6446(达芬奇)芯片的实验板,硬件仿真结果表明,优化后的代码与原来的C代码相比,帧率提高了25倍左右。根据实时性和提高编码质量的要求,本文以实际应用为背景对AVS算法标准中的相关部分进行了深入研究,主要完成3个方面的工作:首先在广泛阅读国内外大量文献的基础上提出了改进帧间预测中最耗时的整像素搜索算法的方案。实验结果表明,与原有的搜索算法相比该方案可以在图像质量基本不降低的前提下,搜索点数约为原来的20%,提高算法的运行速度。其次介绍了AVS算法标准在PC机上实时实现的过程。由于目前业界仅有测试版本的AVS代码,远没能达到实际应用的要求,因此课题组通过分析和优化代码结构,自行设计研发出运行在PC机上能够实时编码的AVS代码(QCIF 20fps)。最后开展了在DSP环境下优化AVS代码的研究工作。采取了诸如合理分配存储空间,优化数据结构,提高Cache命中率以及有效利用DMA资源等多种优化手段来提高TMS320DM6446极其有限的内存资源的使用效率,最终使代码执行效率大大提高。本文通过上述方法,使AVS程序能够很好的在TMS320DM6446上运行,且帧率达到13 fps,这对于在DSP上进一步开发视频压缩算法有着重要的意义,有利于AVS算法在DSP上的实时实现。