伴随着无线通信技术的迅速发展以及无线网络带宽的不断提高,在移动环境下为用户提供多媒体通信业务正在成为可能。视觉是人类最重要的信息载体,因此视频通信也成为多媒体业务的核心。另一方面,由于无线信道具有误码率高等特点,在无线环境中实时传输高质量的视频面临着巨大的挑战。本文就是在国家863重大课题——“数字视音频编码、传输、测试与应用示范系统”(No. 2002AA119010)和国家自然科学基金项目——“无线信道下的信道广义率失真模型研究”(No.60372067)的共同资助下,从降低编码复杂度和提高抗误码性能两方面入手,对无线视频编码及传输的关键技术进行深入的研究。本文首先介绍了所研究的无线视频编码及传输系统的组成结构,分析了各模块所采用的主要技术的理论背景和特点。在此基础上,重点在信源编解码和信道编解码部分进行了研究。在信源编码部分,针对H.264/AVC的帧间预测编码技术复杂度过高的问题,本文研究了宏块最佳编码模式与运动估计补偿后残差宏块统计信息之间的关系,提出了两种帧间编码模式快速选择算法。根据残差宏块统计度量的大小,将需要计算率失真代价函数的全部7种编码模式减少为一个模式组中所包含的模式子集。由于本文算法采用了重叠划分的模式组以及动态调整的门限,能够最大可能保证宏块的最佳编码模式处于所选择的模式组中,所以可以在编码质量下降很小的情况下,大幅度降低编码复杂度。实验结果也证明了本文算法的有效性。同时,不同层次的无线视频应用对视频压缩编码技术提出了计算复杂度可灵活分级的要求。本文研究了H.264/AVC运动估计的分级性质,提出了一种基于空间相关性的复杂度可分级帧间预测编码算法。利用帧间编码模式在空间上的相关性,采用一张概率表将当前宏块的7种预测模式与相邻的上侧和左侧宏块的最优编码模式联系起来。对于每一种相邻宏块模式的组合情况,概率表将当前宏块的7种预测模式按照出现概率的高低进行排序,从而可以确定最可能模式、次最可能模式等。在此基础上,调整用于帧间预测的模式数量以匹配移动终端不同的处理能力水平,同时又可以最大可能的保证最优模式处在所计算的模式中。实验证明,该算法可以灵活的实现四个复杂度级别的控制,而且编码质量的下降也不大。在信道编解码部分,本文首先通过仿真实验研究了对Turbo码性能影响较大的几个重要参数。然后在实验数据的基础上,利用曲线拟合等数学工具提出了一种AWGN信道条件下的Turbo码误码率模型。该模型重点考虑信道编解码以及无线信道状况对系统误码率的影响,利用预先存储在发送端的少量模型参数,通过简单的计算就可以预测出在一定码率、交织长度及信道信噪比条件下系统的误码率。由于在发送端掌握了原本只能在解码端得到的误码率,从而可以指导信源信道联合编码中的码率分配,并应用在端到端的率失真优化中。实验表明,该模型具有较高的精度,更重要的是,该模型为Turbo码性能的研究提供了一种行之有效的简单方法,可以弥补理论分析困难的不足。在信源解码部分,为了尽可能消除无线信道的高误码率对解码端重建视频质量的影响,本文研究了后处理的差错隐藏技术,提出了一套结合时空域差错隐藏算法的方案。首先将编码端帧内预测编码的思想引入到解码端,提出了一种方向性插值的空域差错隐藏算法,利用相邻的上块和左块的帧内预测模式来对当前块的帧内预测模式进行估计,然后根据估计的方向对受损块插值;接下来又提出了一种增强型时域差错隐藏算法,将一个受损宏块划分为4个8×8块依次进行处理,对于每个8×8块,根据其相邻的上块和左块的运动矢量生成候选运动矢量集,从中选择出最优的运动矢量,用其指向的参考帧中的对应块来代替当前受损块,同时修改了衡量最佳匹配的原则,使匹配结果更为准确;最后,为了适应视频图像过于剧烈以及场景切换时的特点,提出了一种根据当前受损宏块的相邻宏块编码模式来选择时域或空域差错隐藏算法的切换策略。实验证明,本文提出的上述算法无论是在客观质量上,还是在主观质量上,都优于H.264/AVC的效果。