由ITU和MPEG联合推出的H.264/AVC编码标准是目前应用最为广泛的视频编码标准之一，该标准在网络视频服务等实时应用领域中正逐步取代原有视频压缩标准占据主导地位。H.264/AVC采用的码率控制技术在为用户提供较高的压缩比和良好的视频重构质量的同时，也使H.264/AVC的计算复杂度更高，编码同样的视频序列需要耗费更多的时间，这对低延迟的实时视频应用来说是非常不利的。另外，高计算复杂度的视频编码过程也对处理器的计算能力提出了更高的要求，并不是所有的处理器都能满足视频编码的实时需求。将视频服务系统构建到云计算平台上，并行地编码视频序列是解决上述问题的一个有效方法。本论文在对H.264编码器及云计算技术进行系统、全面地分析与总结的基础上，深入细致地研究视频服务系统中编码失真和编码速度涉及的关键技术，主要工作包括：1.针对H.264/AVC采用的二次模型及线性跟踪模型存在的预测值误差较大的问题，提出一种新的联合率失真模型。分析表明新的联合率失真模型能很好地体现R与QP和C之间的关系。2.针对H.264/AVC在编码模式选择上的高计算复杂度，根据I帧和P帧不同特性，分别提出帧内编码复杂度计算模型和帧间编码复杂度预测模型。帧内编码复杂度计算模型用几何梯度作为复杂度的衡量方法，有效降低了编码的计算复杂度，加速了帧内编码过程。帧间编码复杂度预测模型通过四种预测方法及预测方法的优选，有效降低了帧编码复杂度的预测误差。3.针对H.264/AVC在视频中包含快速运动或场景突然切换时量化参数计算不准确、码率失配的缺陷，提出一种全I帧码率控制算法和一种全P帧码率控制算法。通过在量化参数计算中引入当前I帧的编码复杂度，以及对I帧和P帧采用不同的位分配策略，新的码率控制算法很好地弥补了H.264/AVC在上述两方面的不足。实验表明，新的码率控制算法较之于JVT-W042可以获得更高的峰值信噪比增益，缓冲区充盈度控制更准确，跳帧次数更少，预测的帧编码复杂度更精确，误差更小。4.针对现有视频服务系统在低延迟的实时应用领域存在的资源利用不均衡和处理大规模数据时的低效率，提出一种基于Map/Reduce的并行视频编码架构。论文根据视频编码的异构性和动态性特点，将云计算的虚拟技术及任务调度策略应用于视频服务。实验表明该视频并行编码架构能有效地提高视频编码速度。5.针对视频编码帧特性及相应的编码复杂度计算模型，提出云环境下的最大-最小负载均衡（Load Balance Max-Min,LBMM）任务调度算法。该调度算法综合考虑视频子序列的帧编码复杂度及各服务器节点的实时状态，优化视频子序列的调度分配。实验结果表明，LBMM调度算法可大幅降低整个视频编码的时间跨度。