随着数字多媒体时代的到来和互联网技术的高速发展,人们每天都会产生海量的数字图像信息,而我们面对的视频图像信息一般都是经过压缩处理之后的。视频编码(压缩)是多媒体技术的关键部分,旨在减少数据冗余并简化信息量。在当前信息高度繁荣的时代,与视觉相关的业务逐渐成为主流,数字媒体电视、远程教育和监控、短视频和直播等业务逐步融入人们的生活,改变着人们的生活习惯以及生产方式。数字化程度越来越高,同时网络基础设施不断升级和完善,高清化视频和多样化的应用场景逐渐变得普及,为了解决不断增长的高性能编码需求,新型视频编码标准(HEVC)逐渐取代H.264标准,走到视频编码舞台的中心。为了加速编码时间,提高HEVC标准的性能,节省带宽,本文针对HEVC编码标准的CU划分和模式预测提出了一种快速算法。本文先介绍了HEVC基础知识、编码框架、率失真等技术,以及分析了CU划分和模式预测过程。目前的率失真优化技术不能很好地考虑主观评价的缺点;在帧内预测编码的CU划分方面,现有算法没有完全考虑空域中的信息;在PU块模式决策方面,HEVC率失真计算的复杂度依然很高,还有更大优化空间,针对上述问题,本文展开了以下研究:首先,本文简单的介绍了HEVC的发展历程和总结当前的研究现状,然后对HEVC的系统架构和相关知识进行介绍。接着,重点对HEVC率失真优化技术、帧内预测编码中CU划分和模式预测过程展开了深入的研究,为本文算法的提出奠定了理论基础。其次,本文先对HEVC中率失真优化算法进行分析,通过改变失真测度,提出一种基于视觉特性的率失真优化算法。然后,在分析CU块分割与帧内预测图像纹理值之间的关系的基础上,提出了一种基于图像纹理信息的快速CU分割算法。在帧内预测模式选择的过程中,通过对HEVC编码中预测模式的统计分析,提出了分类处理的思想,然后根据SATD排序来精简用于进入RDO过程的候选模式,从而减少预测模式的数量。最后,通过实验测试本文所提算法的性能优劣。实验结果表明,与HM16.16编码器中的算法相比,在全帧内(AI)模式测试中,本文提出的CU划分和模式决策快速算法的编码图像质量几乎不变时,编码时间平均节约了52.7%,而编码BD-rate仅增加了0.61%,有效的提高了编码效率。