目前手机、平板电脑开始转向2K(2580x1600),电视开始转向4K(3840x2160),在线视频服务网站的分辨率提升到720P/1080P分辨率,随着高清视频的大量普及,网络传输速度和存储介质容量也迅速提升,但是依然对视频压缩编码的效率提出更高的要求,距离上一代标准H.264的发布已经有十年,在过去的十年间新的算法提出,为新一代视频压缩编码标准的制定提供支撑,在2010年4月份,国际标准化组织ISO/IEC的MPEG小组和ITU-T VCEG小组共同成立JCT-VC小组(Joint Collaborative Team on Video Coding),在德国德累斯顿市召开第一次JCT-VC会议,标识着新一代数字视频压缩标准的制订——高效的视频编码(High Efficiency Video Coding, HEVC)正式开始。在2010年7月,JCT-VC小组发布HEVC标准的编码效率测试平台候选TMuC (Test Model under Consideration, TMuC),成立16个AD HOC小组,根据不同的编码方向来接收和审阅标准提案。在2010年10月,JCT-VC小组发布HEVC标准的第一个编码效率测试平台HM (HEVC test Model)。在2012年1月,JCT-VC小组发布HEVC标准的第一个标准化委员会草案CD (Committee Draft)。在2012年7月,JCT-VC小组发布HEVC标准的第一个国际标准草案DIS (Draft International Standard)。在2013年1月,JCT-VC小组发布HEVC标准的第一个国际标准最终草案FDIS (Final Draft International Standard)。在2013年4月,在日内瓦召开的ITU-T会议上,HEVC正式成为新一代的H.265标准。本文针对混合视频压缩编码框架中的变换编码技术进行深入地研究,在分析已有标准中的变换技术基础后,重点针对目前最新的HEVC标准中的变换编码进行研究,在此基础上提出2个改进算法和面向Intel x86平台的SIMD优化,本文的主要工作如下：首先,讨论视频压缩编码的基本原理,主要关注基于波形编码,在分析H.261标准的编码框架、编码算法和码流分层结构三个方面后,给出目前视频压缩编码中的3种变换编码。H.261标准采用原始的64位精度的浮点离散预先变换DCT, H.264标准采用系数调整后的整数DCT变换,HEVC表在采样对实数变换矩阵进行缩放和取整的整数DCT变换。其次,针对HEVC标准提出预测模式相关方向性DCT变换算法。首先对HEVC标准中的发展现状、关键技术和压缩性能进行总结。在HEVC标准化过程中涌现大量变换算法,这些算法分为两类,一类是与预测模式相结合,一类是基于图像内容训练变换矩阵。然后提出模式相关方向性DCT变换(MD-DDCT)算法,从仿真结果分析可以看出针对图像内容中方向性比较明显的序列BasketballDrill能够获得0.39%的增益。然后,在对HEVC标准中整数DCT变换矩阵的正交性和规范性进行研究后,提出具有更优正交性的整数DCT变换矩阵。首先分析HEVC标准中整数DCT变换矩形系数的选择方法,给出正交性判决模型和正交性验证,提出新的整数DCT变换矩阵。针对规范性的不足,在分析量化流程后,给出规范性补偿矩阵。从测试结果可以看出在高分辨率高码率的情况下,能够获取0.32的增益,在大部分情况下并没有获得明显的增益。原因是在码率较低的情况下,量化步长较大,变换引入的正交性和规范性误差不能显现出来。最后,在分析导致HEVC标准的计算复杂度大大提升的来源后,给出Intel x86计算平台的指令集发展历程和针对多媒体设计的SIMD指令,再结合HEVC标准中SAD、DCT的特性,给出基于SIMD指令的优化思路和汇编代码实现,最后嵌入到HEVC标准对应的官方测试代码HM中,根据HEVC标准的测试规范给出加速测试结果,从测试结果可以看出获得基于SIMD指令集的汇编优化获得明显的加速,在计算4x4DCT时,能够获得61倍的加速,在计算8x8DCT时,能够获得13倍的加速。