随着人们对视频存储和传输的分辨率、压缩率和帧率的要求越来越高,最新一代的视频编码标准HEVC应运而生。HEVC能在保持与H.264/AVC相同的编码图像质量的前提下,将视频压缩到后者大约一半的码率。而HEVC压缩效能提高的代价是复杂度的大幅提高。为了降低HEVC的复杂度,本文针对HEVC编码器的帧内预测和去方块滤波模块展开了优化研究,提出并实现了算法和框架的改进方案。在帧内预测方面,本文提出了下采样快速CU划分算法。该帧内预测快速算法对原始图像进行下采样,并对下采样劣化图像进行传统的帧内编码,然后,根据下采样的最优CU划分结果,仅对原始图像进行下采样最优划分深度及下一层深度的帧内模式预测,从而简化了帧内编码的CU划分过程,减少了模式预测计算量,加快了帧内编码速度。在去方块滤波方面,本文提出了低复杂度的滤波新框架。该低复杂度框架将去方块滤波模块拆分成边界强度计算部分和滤波决策及操作部分,然后,将去除了逻辑冗余和计算冗余的边界强度计算模块融入预测编码模块,并且,调整了滤波决策和操作的CU递归划分逻辑,使得去方块滤波模块的冗余度降低,并行度提高,节省了滤波模块的处理时间。实验证明,本文提出的下采样快速CU划分帧内编码算法和低复杂度去方块滤波框架,能分别在几乎不降低和完全不损耗图像质量的基础上,有效减少编码时间。