近年来,高性能视频压缩编码与互联网传输技术获得了飞速的发展。作为新一代视频编码标准,H.264/AVC较之H.263与MPEG-4等传统视频压缩技术能够在同等质量条件下获得约50%的码率节省,从而使得无线信道与IP信道等带宽受限环境下的视频传输更加便利。虽然压缩性能优异,H.264/AVC仍然存在需要改进之处。首先,H.264/AVC的算法复杂度较之传统方法有大幅的提升,沉重的计算负担给当前多数通用计算平台带来了显著的压力。结合处理器特性,对视频编码的计算过程进行优化很有必要。其次,作为当今最为先进的视频压缩编码标准,H.264/AVC虽然能够实现较之原有各标准更好的压缩性能,但其已经将传统编码技术发挥到很高的程度,压缩率的进一步提高陷入瓶颈。将视频编码与前后处理作为视频压缩系统进行整体研究,具有重要的理论与应用价值。本文对H.264/AVC编码算法的若干关键问题进行了研究。从算法优化与并行化设计的角度提升了通用处理器上H.264/AVC编码器的运行速度,有力解决了平台计算资源受限条件下H.264/AVC的效率优化问题。同时,将编码器与前后处理模块作为整体研究,对视频超分辨率重建问题进行了讨论,提出了一种新颖的视频超分辨率重建算法,并在基于H.264/AVC的视频下采样压缩问题上进行了探索性的尝试,取得了初步的研究成果。首先,H.264/AVC具有较高的计算复杂度,算法优化对于平台计算资源受限的软件编码方案而言非常重要。x264是性能优异的H.264/AVC开源编码器,它采用了全面而系统的算法优化技术,具有较高的运行速度。然而,对于高分辨率、大尺寸的视频编码需求,x264的现有性能距离实时编码的要求仍存在较大的差距。本文以x264为蓝本,对其已经采用的算法优化技术进行了全面而细致的分析,提出了以基于分层判断的模式选择算法为核心、以帧内4x4预测、快速运动估计与快速量化技术为支持的全局算法优化方案,将x264的编码速度再度提升约40%,使之更加接近高性能实时编码的要求。其次,多核处理器已经成为当前通用处理器的主流,基于多核处理器的并行计算技术能够在保持算法质量的前提下大幅提高计算效率。本文对适用于视频编码算法的各种并行方案进行了讨论与比较,实现了P帧与B帧并行计算的帧级并行编码方案,该方案能够最大限度地利用处理器资源,在不损失编码质量的同时大幅提高H.264/AVC编码器的运行速度。在技术研究的基础上,开发了x264的多线程帧级并行编码版本,经过本文所提的算法优化与并行化设计方法改进的x264开源编码器能够在Intel酷睿双核计算机(2.33G主频,1G内存)完成标清视频主要档次(Main Profile)的实时编码任务。再次,由于网络与无线信道带宽的约束,H.264/AVC还难以满足人们对于视频编码技术压缩率的理想要求。将编码器与前后处理模块作为整体研究,可能突破当前视频压缩技术在低码率条件下压缩性能的瓶颈。基于上述思路,本文对视频接收端的超分辨率重建问题进行了深入的研究,充分利用视频序列中存在的时空相关性信息,提出了一种基于双关键帧的视频超分辨率重建方案,借助于夹有双关键帧的下采样框架,设计了独特的细节信息参考与采样位置选择算法,并解决了基于双关键帧的细节参考插值与插值质量约束问题。该算法能够充分利用关键帧中的细节信息恢复视频流在下采样过程中丢失的细节,较之H.264/AVC采用的半像素空域插值算法有大幅质量提升。同时,将新算法应用到H.264/AVC下采样视频传输框架中来,在视频序列的低码率压缩方面展开了探索性的研究。