基于非局部运动估计的视频插帧算法研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:chenhy8208
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着多媒体技术的发展,视频逐渐成为人们获取信息的主要途径。帧率是视频的重要属性之一,它是指以帧为单位的图像在视频中每秒出现的次数,主要影响视频的流畅度。视频插帧旨在通过视频中连续帧的信息预测合成中间帧,使插帧后的视频帧率更高,画面更连贯。然而,由于在视频连续帧中普遍存在非线性运动、遮挡和大尺度运动等复杂情况,实现快速且高质量的视频插帧是非常具有挑战和研究意义的课题。针对上述问题,近年来许多研究人员提出一系列创新性的视频插帧算法,这些算法为高质量的视频插帧提供了新思路。但这些算法普遍存在着运动估计不准确,大尺度运动场景鲁棒性不足,算法模型繁杂难以实时处理等问题。为此,本文基于深度学习框架,从时空注意力机制,动态自适应推理和可逆神经网络三个方面出发,构建高效的视频插帧算法。主要研究内容和创新点如下:1)提出了一种基于时空注意力的视频插帧算法。目前主流的视频插帧算法在处理复杂运动时难以从相邻两帧获取关键信息完成运动估计,从而使生成帧在复杂运动区域差生伪影等现象。为了解决上述问题,本方法利用时空注意力模块,从输入中捕获各帧之间的时间和空间维度的相互依赖性,寻找到输入帧中与复杂运动关系最紧密的区域,从而对复杂运动进行全局建模。在多个数据集上的实验表明,本方法实现了快速的高质量插帧,在计算资源的消耗和重建帧视觉质量上均优于现有算法。2)提出了一种基于稀疏掩膜的运动感知视频插帧算法。目前主流的视频插帧算法对不同运动强度的区域使用同样的处理方式生成中间帧,这导致了模型不能有重点关注复杂运动区域,生成的中间帧产生伪影等现象;同时在微小运动区域产生了大量冗余计算,难以实现快速插帧。为了解决上述问题,本方法通过生成器得到稀疏掩膜作为判断区域运动强度的代理,从而动态分配计算资源。具体来说,模型会根据输入帧的运动状态自适应地生成稀疏掩膜,该稀疏掩膜在微小运动区域呈现稀疏性。之后,模型根据稀疏掩膜在微小运动区域使用稀疏卷积,从而跳过冗余计算。由于微小运动区域的运动模型简单,因此动态自适应网络并不会影响生成帧的质量。实验表明,我们的算法在多个数据集保持了高质量的插帧结果的同时,参数量和计算量都远小于目前的主流的插帧算法。3)提出了一种基于可逆神经网络的视频帧率转换算法。高帧率视频有时会对帧率进行下采样以节省传输和存储成本,或适应不同刷新率的设备。但在这一过程中,帧间信息的丢失往往是不可逆的,导致使用一般的视频插帧算法生成的高帧率视频视觉质量欠佳。针对这一问题,本方法利用可逆神经网络将高帧率视频进行正向编码,使中间帧信息散列在高斯分布中,而保留帧的视觉内容尽可能保持不变,完成帧率降低以方便传输和存储。在需要提升帧率时,用已经训练好的模型结合保留帧从高斯分布中采样生成中间帧,从而得到高帧率视频。实验证明,本方法还原的高帧率视频清晰度极高,模型简单,推理速度快,在能极大地节约传输带宽的同时,完成高帧率视频的高质量复原。
其他文献
延安时期,作为革命大后方的延安,政治环境、生活环境相对稳定,为了丰富广大军民的艺术文化生活,更好地配合抗战,延安举办了数量众多的美术展览,参展的作品题材多样、内容丰富,是延安美术发展的直接体现。陕甘宁边区政府十分重视美术的教育和宣传作用,促使美术在延安时期的快速发展。其中,美术批评的活跃是推动延安时期的美术朝着革命的现实主义和革命的浪漫主义相结合方向发展的重要因素。延安时期美术批评活动因受抗战社会
学位
东京盟军战俘营作为二战时期,日军在国内设立的大型战俘营之一,于1942年9月12日至1945年7月20日设立,主要用于关押日军在东南亚战场俘获的英美等国盟军战俘。文章立足于当前学术界的研究成果,先对日本国立公文书馆、日本外交史料馆、日本防卫省防卫研究所等机构的馆藏资料进行搜集整理,后结合日本POW研究会与美国盟军战俘研究中心等机构的网络资源,尽可能地运用可靠史料还原二战时期日军东京盟军战俘营的原貌
学位
祭仪是古希腊宗教的外在表现形式,体现在社会生活的方方面面。古希腊人认为神祇在战争中的作用举足轻重,只要进行战争,古希腊人肯定会举行相应的仪式,来求得神祇的支持与庇护。因此,通过对古希腊战争仪式的研究可以让我们更加深刻地认识古希腊独特的文化以及城邦特性。本文分为绪论、正文、结语三个部分。正文分为三章展开论述。第一章论述了古希腊祭仪的起源与古典时期之前战争祭仪的概况。古希腊祭仪起源较早,在人类社会早期
学位
卢沟桥事变后,日本开始全面侵华,我国的经济、政治和教育重心——东部地区遭到严重破坏,为了保证师生生命安全,国立浙江大学在竺可桢校长的率领下从杭州撤离,一路西迁,从浙江天目山、建德,到江西吉安、泰和,后经广西宜山,最终迁入贵州。在贵州青岩、遵义、湄潭、永兴等处办学,最终形成稳定布局:校部办公机构、文学院、工学院和师范学院的文科系设于遵义校本部;理学院、农学院和师范学院的理科系设在湄潭分部;一年级设于
学位
棒曲霉素(C7H6O4,PAT)又称展青霉素,分子量为154.1,在酸性、避光条件下性质比较稳定,PAT是一种由青霉、丝衣孢霉、曲霉产生的霉菌毒素。PAT常出现在过度成熟、腐烂的苹果及苹果产品中。越来越多的数据表明PAT暴露对人类和动物有不良缺陷后,消耗品的安全水平为50μg/L PAT。许多动物模型实验表明,PAT具有肝毒性、肾毒性、皮肤毒性、胚胎毒性等。然而,PAT是否能诱导心肌毒性还未报道。
学位
本文以1978—1999年中国都市题材绘画为研究对象,以现代性理论为视角,旨在探讨这一时期都市题材绘画的表现方式与现代性内涵。本文分为四章:第一章绪论阐述了都市题材绘画的概念及时间界定,研究目的与意义,国内外研究现状,研究内容与方法,重点、难点与创新点;第二章阐释了现代性的概念和基本内涵、现代性视角对本文研究的适用性,以及中西方都市题材绘画的发展;第三章是本文的重点章,结合特定的社会历史情境,重点
学位
川上未映子凭借短篇小说《乳与卵》获得了2008年第138届芥川奖。《乳与卵》以第一人称“我”(夏子)的视角讲述了为了做隆胸手术,而从大阪来到到东京的“我”的姐姐(卷子)以及姐姐的女儿(绿子),和“我”在东京共度了三天的故事。该小说在叙事结构上分为两条线,一条是从“我”的视角展开的,另外一条则是围绕拒绝说话而改用纸笔与人交流的绿子的日记展开。由于其独特的叙事结构和充满女性主义的文本内容,因此从美国学
学位
我国地铁与隧道累计总里程近25000km,地下施工需求巨大,由于环境复杂与自然灾害的突发性,地下工程施工事故频发,施工安全监测工作重要性尤为突出。为实现安全施工,实施自然灾害监测预警信息化工程,提高多灾种和灾害链综合监测,应用智能算法实现全面快速精准感知、全风险施工预警。通过研究基于定向天线网桥的自组网传输、物联网边端计算软件开发、物联网平台多类型传感器接入、监测平台前后端开发等相关内容,建立具备
期刊
本文以民国时期书籍封面中的新女性形象为主要研究对象,分析书籍封面中新女性形象的视觉特征与表现形式,解析新女性形象的社会内涵和时代意义。本文分为四章:第一章主要阐述了民国书籍封面新女性形象的概念界定及研究范围、论文的选题来源与依据、研究意义与价值、国内外研究综述、论文基本内容与研究方法、论文的重点、难点与创新点;第二章梳理了民国出版业发展概况和民国书籍设计发展概况;第三章重点分析了民国书籍封面中时尚
学位
13世纪20年代的塞尔柱帝国时期,伊斯兰教神学家、苏非神秘主义哲学家、诗人梅夫拉纳·贾拉鲁丁·鲁米(Mevlana Jalalu‘ddin Rumi)在安纳托利亚的科尼亚创立麦乌莱维教团。奥斯曼帝国时期,麦乌莱维教团宗教领袖享有特权,承担新任哈里发即位时授予佩剑的职责;并传播到今天的埃及、阿拉伯半岛、叙利亚、希腊和塞浦路斯等地。由于麦乌莱维教团信徒举行仪式时伴随音乐旋转,被称为“旋转的苦行僧”,成
学位