论文部分内容阅读
先进的立体拍摄设备正从专业级别向消费级别发展,随着立体影视的增多,后期稳像处理需求也大大增加。如果人们直接观看抖动的立体视频,极易产生视觉疲劳。单目视频稳像已经非常成熟,但立体视频稳像却并未得到广泛的研究。若利用传统单目稳像方法对左右两路视频分别进行稳像然后直接合成立体视频,会大大影响视觉体验。一是由于缺乏左右关联一致性,导致水平视差的不稳定以及垂直视差失真;二是可能存在左右视频不同步的情况。因此,本文在单目稳像的基础上,针对双目立体视频稳像的视差一致性及帧同步的特殊性要求,首先提出了一种基于强视差约束的双目视频稳像方法,然后进一步研究了基于帧同步检测以及视差约束的双目视频同步稳像方法。本文在基于运动恢复结构算法的单目稳像的基础上,通过左右关联一致性的强视差约束实现双目视差一致性的立体视频稳像。单目稳像利用运动恢复结构算法得到摄像机三维运动轨迹,对摄像机运动进行平滑。左右序列经过分别稳像后,原本左右视点的一致性被破坏,很可能导致前后帧间水平视差的抖动,并引入垂直视差失真。因此,针对水平视差,本文从视差相似度和前后帧间的视差稳定度两方面进行约束。原始视频由于摄像机抖动而存在视差抖动,如果直接与原始序列的视差逼近,那么很有可能将视差抖动也保留了下来。因此相似度通过相似变换后的视差与原视差前后五帧的均值之差来表示。稳定度则由前后帧的水平视差变化量来表示。对于垂直视差,因为人眼对其非常敏感,所以本文使其逼近于零,以符合人眼对于立体视频的舒适性观看要求。本文将单目稳像结果与双目视差一致性约束相结合,在时域上,使平滑前投影在镜头平面上的点通过相似变换可以得到平滑后的点,在空间上,满足双目视差约束。通过L-M方法进行非线性最优化求解,得到左右关联一致性的强视差约束下的最优相似变换,最终得到立体稳像视频。多路稳像一般默认序列完全同步,但实际上左右序列很可能存在几帧的同步误差。因此,本文在对序列进行双目约束之前,先对左右序列进行帧同步检测。当摄像机相对于场景的运动包含原本有意识的运动以及无意识的抖动时,摄像机的瞬时速率是不均匀的。本文将前面运动恢复结构过程中获取的左右摄像机旋转参数转化成三个欧拉角,通过差分我们可以获取欧拉角的帧间变化速率。理论上当序列同步时,同一欧拉角在左右视点中的帧间变化速率应当是一致的。但当左右视点存在帧差时,左图或右图的欧拉角的变化速率会有几帧的延迟。因此,我们由欧拉角帧间变化速率定义反映左右帧同步性的代价函数,代价函数值最小时对应最佳匹配帧。在确保左右两路视频同步后,再进行强视差约束的立体稳像。我们对几组不同的立体抖动视频进行了测试,结果表明本文方法是有效的。