基于细粒度特征对齐的无监督域自适应算法研究

来源 :厦门大学 | 被引量 : 0次 | 上传用户:haibei007
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
现代深度学习系统已在许多机器学习和计算机视觉问题中取得了令人瞩目的成果。这些结果很大程度上归功于用于学习代表性特征的大规模标记数据集的存在。以深度学习为代表的机器学习算法存在一个重要的假设,即独立同分布。但在现实应用中,由于复杂的数据获取环境,具有相同任务的数据集之间存在数据偏差或者域差异。这一现象使同分布假设较难满足,继而大幅度降低深度学习在跨域数据任务中的泛化性能。因此,对于不同数据集的相同任务,都需要人为反复收集和标记大量数据进行训练,给现实应用带来较大局限。为了解决上述问题,迁移学习中的无监督域自适应旨在将领域知识从一个有标记的源域迁移到一个完全未标记的目标域上,在解决非独立同分布的跨域数据视觉任务中具有天然的优势。考虑到深度学习模型的经验优势,本文将重点放在本文的深度无监督域自适应问题上。首先,本文研究了基于图像分类的无监督域自适应问题。最近的方法借助于基于跨域伪标签方法进行源域和目标域的特征对齐。但是,因为不能明确地保证跨域伪标签的准确性,这些方法容易导致错误累积,继而无法保证跨域类别的一致性。受此启发,论文提出了一个渐进式特征对齐网络,通过充分利用目标域每个类别的类内分布差异来渐进地有效地对齐源域和目标域的判别性特征。具体而言,论文首先提出了一种由易到难的迁移策略和自适应中心向量对齐两个模块来逐步地迭代地训练所提出的模型。此外,在观察到良好的领域适应性通常需要一个非饱和源域分类器,论文通过插入一个定值到softmax函数以降低源域分类交叉熵损失函数的收敛速度。实验结果表明,提出的渐进式特征对齐网络在三个无监督域自适应基准数据集超过了当前最佳方法的性能。其次,论文研究了针对跨域目标检测的无监督域自适应问题。自适应目标检测的最新进展在传统目标检测网络中加入特征对抗约束,以减小源域和目标域的特征分布差异,获得了一定的迁移性能。尽管对抗特征自适应可以显着地增强特征表示的可迁移性,但是相关工作对于目标检测网络的特征判别性的研究仍十分有限。此外,对抗特征自适应中的可迁移性和判别性在一定程度上存在矛盾,这是由于在自适应目标检测任务中,不同域的各类目标存在各异的组合;同时,域之间存在的差异化场景布局。受此启发,本文提出了一种分层可迁移性校准网络,该网络可分层(局部区域/图像/实例)校准特征表示的可迁移性,以协调特征的可迁移性和判别性。所提出的模型包括三个部分:(1)带有输入插值的重要性加权对抗训练,它通过对插值的图像级特征重新加权来增强全局的判别性;(2)基于上下文感知的实例对齐模块,它通过捕获实例层面的特征和全局上下文信息之间的潜在互补效应来增强局部特征的判别性,从而实现更好的实例层面特征对齐;(3)局部特征掩码,用于校准局部特征的可迁移性,以为随后的判别性特征对齐提供语义层面的信息指导。实验结果表明,本文所提出的分层可迁移性校准网络在三个基准数据集上明显优于的最新方法。
其他文献
本文基于国家海洋环境预报中心全球气候预测系统,利用气候态奇异向量方法扰动海表面温度(Sea Surface Temperature,SST),初步建立了 一个印度洋偶极子(Indian Ocean Dipole,IOD)的集合预报系统,开展了确定性预报和概率预报的检验评估,并与随机扰动集合预报进行了比较。最后,本文讨论了次表层海温扰动和不同量级扰动对预报的影响。本文的研究成果可以进一步应用到业务化
自从钢筋混凝土结构问世以来,钢筋锈蚀所造成的混凝土结构耐久性问题始终是土木工程领域亟待解决的重大课题。纤维筋(FRP筋)具有质量轻,抗拉强度高、耐腐蚀性好、绝缘无磁等优点,可以在严酷环境下的混凝土结构中作为补强材代替钢筋,从根本上解决钢筋锈蚀引起的一系列耐久性问题,因此在世界范围内被推广应用。玄武岩纤维筋(以下简称BFRP筋)是继玻璃纤维筋(GFRP筋)和碳纤维筋(CFRP筋)后出现的新型纤维筋,
光纤压力传感器与传统的电子式压力传感器相比,有着灵敏度高、成本低且易于复用等优点。由于光纤传感器无需供电的特性,可以在煤矿瓦斯管道监测和一些复杂的电磁干扰环境中安全地工作,近些年成为了研究的热点。市面上的光纤压力传感器普遍存在量程较小,灵敏度低,稳定性不好等缺陷。本文通过对光纤传感器的理论研究,设计了两款不同结构的光纤压力传感器,并在实验中对其性能进行了验证。本文主要工作体现在以下几个方面:(1)
由于移动互联网技术的高速发展,高校中传统模式的教务系统已无法满足学生日常学习的需求,教务系统的大部分应用都需要逐步接入移动端。随着我国教育改革的深入,高校为了使学生拥有丰富的学习生活,会组织开设各种各样的选修课程供学生选修学习。学生在选课期间,面对海量的选修课程信息时,通常需要花费很长的时间来筛选自己喜欢的课程。针对上述情况,本文在移动端设计与实现了一套包含推荐算法的教务系统,在移动端为学生提供教
本文对转体施工斜拉桥施工控制进行研究,主要包括三个方面:施工敏感性参数对主梁内力、主梁线形和桥塔偏位的影响,总结转体施工斜拉桥施工控制理论方法及采用BP神经网络方法对施工进行参数识别和修正。本文以福建龙岩大桥为背景,建立对应有限元模型,在保证施工顺利进行基础上,对其进行一系列关于转体施工斜拉桥施工控制及敏感性参数分析的研究。首先,依照龙岩大桥实际施工过程,运用Midas Civil有限元计算软件建
本文详细给出Graham-Lee关于Einstein度量的边值问题存在性结果[1]的证明,并且叙述Qing关于唯一性结果[2]的证明。关于边值问题,我们知道共形紧Einstein流形在物理中Ads/CFT对应中起到重要作用,而在数学上研究开始于Fefferman和Graham,问题也来自于这篇文献[3],研究对象为共形紧致的Einstein度量,边界条件为边界度量属于一个共形类:共形无穷远;我们将
《格列佛游记》不仅是一部充满想象力的文学作品,更是一部充斥着严肃思考的政治哲学著作。从法哲学的角度看,可以将《格列佛游记》视作斯威夫特对现代性国家问题的回答,其内容主要从现代性国家的发生、困境和疗治三个方面展开。小人国和大人国部分回答的是现代性国家的发生问题。小人国对应英国现实的议会制政党国家,大人国则象征着斯威夫特理想的君主制均衡政体。但无论小人国还是大人国,都为机运和偶然性所主宰。小人国和大人
“法律是治国之重器,良法是善治之前提”,立法是法治建设的前提和基础,是全面推进依法治国的重要环节,不断提高立法质量,成为全面依法治国战略推进过程中的必然要求。十八届四中全会明确提出“探索委托第三方起草法律法规草案”,“对部门间争议较大的重要立法事项,由决策机关引入第三方评估”的要求,在此背景下,引入第三方参与立法,成为很多地方立法机构提高立法质量的重要方法。这既是科学立法、民主立法的要求,也是相关
目前我国的人口年龄结构呈现出老龄化的特征,不管是国家、社会还是家庭层面,都面临巨大的养老压力。为缓解养老压力我国自2014年开始正式引进了住房反向抵押养老保险制度,并确定由保险公司负责该项业务。幸福人寿保险公司推出的幸福房来宝作为目前人寿保险市场上唯一一款住房反向抵押养老保险合同,从2014年开始试点,至2018年在全面推行,共承保了不到200人,在参保人数上大大低于预期水平,如何让住房反向抵押养
随着全面开放二孩政策的实施,新生儿数量不断攀升,伴随而来的是孕产妇及新生儿科学饮食需求的不断增长,然而,互联网上缺乏系统的母婴食谱领域数据,广大孕产妇及家属无法方便获取准确的、科学的食谱方案。因此,利用知识图谱和自然语言处理技术,开发一个针对母婴食谱领域的问答系统,既符合当下国家极力推进的“互联网+”的新形态,也可以切实地解决社会痛点问题。本文围绕母婴食谱领域知识图谱的构建及问答算法的实现,最终完