为了节约传输带宽、存储空间,视频编解码技术早已成为国内外研究和工业应用的热点之一。AVS是我国自主研发的音视频编解码标准,是目前最先进的音视频压缩编解码标准之一。与其它流行的国际标准相比,它具有性能高、计算复杂度低、专利授权费用低等优点。目前AVS标准组已经发布了企业版参考软件,但是其编码器部分时间效率非常低,不利于实际应用。因此,本文从实际应用的角度出发,首先对整个编码器进行了优化,包括结构调整、代码优化和核心模块的优化实现,然后针对其耗时严重的模式选择模块,根据AVS自身的特点提出了算法的改进,显著提高了编码器的编码速度。首先,本文简要介绍了国内外流行的视频编码标准,将AVS标准与H.264/AVC做了比较,并详细介绍了AVS视频标准的编码框架和编码总流程,以及其帧内/帧间预测、亚像素插值、整数变换与量化、环路滤波、熵编码等关键技术。其次,我们对工作组提供的编码器参考模型rm52j进行了整体的优化,这些优化工作包括编码器的结构调整、代码优化,以及关键技术模块的优化实现。其中,结构调整使得编码器的编码流程更加清晰,代码优化和模块优化实现改善了程序的执行性能,提高了编码速度。实验证明,对于各种特性的视频序列,在不同码率下,优化后的编码器的编码总时间节省了26%～35%。再次,针对AVS中率失真优化模式选择耗时严重的问题,本文根据AVS编码算法的特点,结合一些经典的快速算法,提出两种新的适合AVS的帧间宏块快速模式选择算法。一种算法利用了跳过宏块预判和宏块自身的纹理信息,其优点是编码速度提高明显,特别是对于背景相对固定的视频序列,速度提升可达60%以,比较适合视频会议等背景相对固定并且实时性要求较高的应用;另一种算法利用了宏块相关性并采取可选的8×8和帧内模式预测策略,其优势是算法中所有的判决条件完全基于视频序列本身的特性,对各种运动和纹理特性的序列都能够在保证编码性能的前提下显著节省编码时间。在具体的视频应用中,可以根据不同需求,选择一种合适的快速算法使用。最后,通过对AVS帧内预测技术和现有模式选择算法的分析,提出了一种有效的低复杂度的帧内模式选择快速算法。该算法利用相邻块最佳预测模式之间的相关性和块内亮度变化的方向性来进行模式预判,缩小候选模式范围。实验结果证明,本算法在保证图像质量和比特率几乎不变的情况下,编码总时间节省了17%-29%。