在视频通信中，视频编码和视频传输是两个重要的组成部分。本文研究的重点是在视频压缩技术，目的是利用基于ROI(Region Of Interest)视频编码技术来解决网络容量和视频通信质量的矛盾。本文的研究工作主要包括以下几个方面：1、视频图像中ROI的分割；2、压缩算法中ROI的处理策略；3、视频传输系统的设计和视频编码部分的实时性优化。首先，在分析人眼生理和心理特征的基础上提出了基于人眼特征的ROI分割的解决方案。分析了视频通信中视频图象的特点，总结出ROI所具有的特征，即图像中的人脸区域和图像中梯度较大的区域。在此基础上，提出了基于图像梯度的视频ROI分割方法和基于距离变换的人脸目标的检测算法。接着，从视频压缩算法入手，在视频预处理和编码控制策略两个方面，来实现基于ROI压缩算法。提出了基于变方差高频滤波的预处理算法，该算法通过图像平滑的处理方法，使ROI所占用的比特数的比例提高，从而改善ROI视频质量，变方差的技术使得视频模糊变化平缓，不影响主观感受。在编码控制方面，采用ROI和非ROI分别量化的方法，根据网络状况控制ROI和非ROI的比特输出，通过优先ROI高质量编码，来提高视频的主观质量。最后，提出了项目系统中视频通信子系统的设计方案，并利用非ROI分层运动估计和Intel CPU的多媒体指令集，从算法和程序设计两个方面来对视频压缩进行优化，增强实时性。