【摘 要】
:
自风格迁移算法被提出以来,相关的研究层出不穷,该研究在图像渲染、上色、艺术创作以及实际应用问题中具有重要的需求。而在视频风格迁移问题中,人们发现生成的风格化视频常常出现重影、伪影以及闪烁现象,并且具有算法速度缓慢、效率低下的问题。因此,研究如何同时提高视频风格迁移算法的时域稳定性和算法速度具有重要的研究意义。传统的视频风格迁移算法基于迭代优化,通过相邻两帧之间的正反向光流来约束风格化视频的时域一致
论文部分内容阅读
自风格迁移算法被提出以来,相关的研究层出不穷,该研究在图像渲染、上色、艺术创作以及实际应用问题中具有重要的需求。而在视频风格迁移问题中,人们发现生成的风格化视频常常出现重影、伪影以及闪烁现象,并且具有算法速度缓慢、效率低下的问题。因此,研究如何同时提高视频风格迁移算法的时域稳定性和算法速度具有重要的研究意义。传统的视频风格迁移算法基于迭代优化,通过相邻两帧之间的正反向光流来约束风格化视频的时域一致性,虽然能生成效果较好的风格化视频,但耗时较长,算法速度远远达不到实际应用的需求。而现有的基于深度学习的视频风格迁移算法,利用前馈卷积网络对视频进行风格化,这样虽然可以实时地生成风格化视频,然而生成的风格化视频的时域连续性较低,闪烁现象严重,因此,本文主要针对基于深度学习的视频风格迁移算法进行研究,并提出改进。本文主要的研究点和贡献如下:1.提出了一种基于光流约束和前馈卷积神经网络的视频风格迁移方法。本文将传统方法与基于深度学习的视频风格迁移方法相结合,利用传统方法中使用光流约束前后视频时域一致性的思想,设计时域损失函数以增强网络模型对视频相邻帧之间时域相关性的学习能力,从而提高风格化视频的连贯性以及视觉效果。同时,设计了一个单模型单输出的视频风格转换网络,该网络仅在训练时需要计算光流数据,在测试时可以直接输出风格化视频,实现了实时的视频风格迁移,显著提高了算法速度。该方法结合了传统方法与深度学习方法的优势,不仅缓解了风格化视频中出现的闪烁、重影、伪影现象,还提高了算法速度,能够生成具有时域一致性且视觉效果良好的风格化视频。2.提出了一种基于长短时约束的视频风格迁移方法。视频风格转换网络如果在训练过程中仅利用相邻两帧的时域信息,对于时间维度上距离较远的两帧,其风格化结果的长时一致性可能会较差。针对这一问题,本文提出应在损失网络中增加对长时一致性的约束,通过改变重新设计目标函数,在风格转换网络中增加跳跃结构,使底层特征直接传入高层网络,以增强视频风格转换网络对视频时域相关性的学习能力,提高网络收敛速度,使得该方法能够生成具有高度时域一致性的风格化视频。考虑到深度学习问题中往往用到的都是数量级上万的数据集,而传统光流法计算量大且十分耗时,具有很强的局限性,因此本文使用基于深度学习的光流网络模块替代了传统光流法,提高了对训练集的处理速度。
其他文献
随着网络应用和探索的日益多样化,网络正被迫满足各种流量需求,并具有明确且关键的服务质量(Quality of Service,QoS)要求。QoS是网络通信的前提,而服务质量路由是保障QoS的重要部分之一,其在很大程度上直接影响着网络的性能。服务质量路由问题作为一种典型的多约束路由问题,主要是在多约束条件下找出源节点和目的节点之间的一条最优路径,该问题的解决需要依靠一种切实可行的路由算法来支持。本
目的:确定加速度计进行不同活动类型时的最佳佩戴部位,为实践中合理佩戴加速度计提供依据,提高其在能耗测量中的准确性;以帮助加速度计在科研中的系统应用,为健身喜好者合理
随着全球制造业的快速发展,产品的开发周期成为企业提高市场竞争力的核心要素,追求以最低的成本,在最短的时间内,发开生产出高质量的产品。逆向工程技术在产品开发中的应用使
设G=(V,E)是阶为n,边数为e(G)的简单图,令G的匹配数为m(G),团数为ω顶点覆盖数为τ,直径为d,Laplacian和无符号Laplacian特征值分别为μ1(G)≥μ2(G)≥…≥μn(G)=0和q1(G)≥
图像压缩作为图像处理领域相关研究内容之一,如何对包含庞大数据量的图像进行有效压缩具有重要研究意义。本文主要针对字典学习在图像压缩领域中的一些不足进行深入研究,主要工作概括如下:1.考虑到聚能量字典学习算法在去噪能力和算法复杂度方面存在局限性,研究了一种基于去噪自编码深度极限学习机和近似K奇异值分解的图像压缩算法。由于聚能量字典学习算法中存在去噪能力不足的问题,该算法利用去噪自编码深度极限学习机获取
国际贸易理论经历了古典贸易理论、新兴古典贸易理论、新贸易理论之后,进入了新新贸易理论的时代。随着跨国企业成为世界市场活动的主要承担者,传统贸易理论研究的两国产业间的贸易活动已经不再能满足实际需要,将研究层次推进到产业内,讨论企业间差异的新新贸易理论成为当下研究热点。新新贸易理论以Melitz的异质性企业模型为基础发展而来,该理论认为企业间的差异突出表现在生产率的差异上,并由此构建了以生产率为主要指
中国共产党建党精神是在中国共产党酝酿、建立和发展过程中生成的革命精神,是中国共产党革命精神的源头,也是中国共产党初心和使命的源头。近年来,关于建党精神的研究日渐增多,在较短的时间里取得了丰硕的理论成果,成为学术研究中一个新的热点和生长点。建党精神研究具有显著的后发性、现实性、地域性特征,整体呈现繁荣态势,但也面临着亟待突破的发展瓶颈。今年是中国共产党成立100周年,进一步深化对建党精神的研究,具有重要的历史意义和现实价值。
新一轮的课程改革在课改观念上改变课程过于注重知识传授的倾向,强调形成积极主动的学习态度,并强调将学生获得知识与技能的过程成为学会学习和形成正确价值观的过程。《义务
当下的中国,正在进行着“从管制型国家趋向服务型国家”的巨大转变。因此,借助电子信息化政务系统改善传统政务方式,给社会大众传播政务服务信息和宣传政务理念,构建一个以人
校园纠纷,尤其是青少年欺凌事件的频繁发生,使得校园安全问题成为当前社会重点关注的一个焦点问题。提高学生和平化解纠纷的能力与技巧,是减少欺凌事件、维护校园安全的有效