摘要：视频作为一种信息媒介,因其直观与信息量大的特点,获得了广泛的应用,如广播电视、在线视频点播、视频通话等。视频编码在视频文件的存储与传输上起到了至关重要的作用。目前,H.264/AVC编码标准已经获得了广泛的应用。鉴于H.264及HEVC均采用基于分块的时域和空域混合编码模型,需要计算不同块大小及不同预测方向的率失真代价以选取最优模式,帧内预测模块具有很高的计算复杂度。因此,快速帧内预测算法对于视频编码器具有重大的应用价值。本文在研究了已有的H.264快速帧内预测算法基础上,分析了其中经典的Pan和HIMD(Hierarchical Intra Mode Decision)算法性能,并提出了基于可靠性检测的RR(Reliability Refinement)改进算法。RR改进算法由可靠性判决模块与预测模式增补模块组成,旨在降低快速算法所引起的视频质量下降。大量仿真结果显示,在计算复杂度仅提高5%的情况下,RR改进算法可将现有快速帧内预测算法所引起的BD-Rate降低50%。针对帧内预测中块大小的提前预判,本文分析了基于Variance的单层预测算法,并提出了基于SAAPE(Sum of Absolute Adjacent Pixel Error)的分层块大小选择算法,用以对同质与细节区域采取不同的块大小选择策略。大量仿真结果显示,与基于Variance的单层算法相比,基于SAAPE的分层算法能将编码时间降低45%,引起的视频质量下降可以忽略不计。