面向类别分布差异的无监督域适应学习研究

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:wc420178
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据时代,由于数据量的飞速增长和算力的不断提升,深度学习方法的性能得到了巨大提升。但深度学习模型依赖大量的数据标注,往往需要人工参与,耗时耗力。为此,迁移学习(Transfer Learning,TL)应运而生。迁移学习旨在借助标注丰富的源域知识帮助标注稀缺的目标域学习,无监督领域自适应(Unsupervised Domain Adaptation,UDA)是迁移学习中的重要研究方向。在UDA中,域间的特征分布不同,因此常使用基于差异或者对抗的方式减少域间分布距离,学习域不变特征。然而,域间的类别分布也可能存在差异,可表现为:1)源域和目标域可能同时存在类别不平衡的问题,且域间不平衡比例不同甚至完全相反,此时,直接进行域间分布对齐可能导致目标域中的多数类样本被错误分类,引发负迁移现象。2)源域的标签集合可能是目标域标签集合的子集,即目标域中存在源域中未出现的未知类别,需对目标域中的已知类正确分类并识别出未知类样本。通过阈值判别是常用的未知类识别方法,但是由于缺乏目标域标签,难以描述样本的置信度并找出合适的阈值,从而无法有效学习到已知类和未知类间的决策边界。针对第一点问题,本文提出了基于双重不平衡场景的无监督域适应方法TITo K(Transferring Imbalance-Tolerant Knowledge),迁移能容忍类别分布不平衡的源域知识,即利用类对比损失跨域迁移类对比知识以减轻类别分布不平衡对模型的影响,同时在域间迁移类关联知识,将源域中的类别关系迁移至目标域中,最后,使用判别型的最大均值差异距离,以获得更鲁棒的分类器边界。在多个真实数据集上的实验表明,TITo K可有效提升类别分布不平衡UDA的学习性能。针对第二点问题,本文提出了基于类间对比和聚类矫正的开放集领域自适应方法CRMUD(Compare and Rectify Model for Unknown Detection),训练多分类器和开放集分类器,通过类间对比方式判别样本是否属于某已知类,同时通过自监督聚类方式矫正伪标签,实现对目标域中已知类的正确分类和未知类的有效判别。在真实的图像数据集上进行对比实验,并基于合理的评估指标验证了所提出方法的有效性。
其他文献
红外和可见光图像融合是多传感器融合领域的重要研究课题。在恶劣环境中,可见光图像不能独立地对场景信息进行完整描述,借助红外图像,可以极大程度提高图像信息量。特别在低照度环境下,红外图像和可见光图像视觉效果较差,对比度较低,本文阅读了大量文献后发现,以往的算法直接将质量差的源图像进行融合,导致融合图像仍存在对比度低、细节信息丢失等问题。为此,本文提出了两种基于双域增强的红外和可见光图像融合算法,在对源
学位
可见光通信相对于传统射频通信具有数据速率高、安全性好以及可以使用无许可证频段等特点,目前可见光通信已成为无线通信领域的一个研究热点。借助成本低廉的固态照明器件,如白光二极管(White LED),可以同时实现节能照明和数据传输。然而,可见光调制信号由于强度调制/直接检测(IM/DD)传输方式的作用使得发光LED强度发生变化,可能会导致闪烁,闪烁可能会导致自闭症患者出现偏头痛、头痛甚至重复行为。因此
学位
模糊聚类算法的核心思想是根据模糊隶属度将具有相同特征的数据点放入同一类别中,将具有不同特征的数据点放入不同的类别中。由于模糊聚类算法具有简单、灵敏度低的特点,可以帮助人们在数据中找到有用的信息,在图像分割领域它是一种非常热门且较为成熟的算法。虽然基于传统模糊聚类的许多改进算法已在图像分割有了广泛应用。但传统的模糊聚类算法仍然还有一些需要改进的地方。一是传统的模糊聚类算法图像分割结果易受到异常值的影
学位
随着互联网的高速发展,全球数据总量呈现爆炸式增长。为了解决“信息过载”这一问题,推荐系统成为了学术界和工业界重点关注的对象,并且在实践中也得到了广泛应用。其中,商业模特中介行业急需一种智能且高效的商业模特推荐系统,来代替目前低效的传统模特推荐流程。然而,为商业模特中介构建一个模特推荐系统,面临了诸多的难点。首先,模特推荐系统不是一个典型的推荐系统,它缺乏大量的、多用户的历史交互数据作为支撑;其次,
学位
鬼成像技术是一种通过测量参考光场与探测光场之间的关联函数从而获取目标图像信息的新型成像技术。它是一种不同于传统光学成像的成像方式,由于其通过测量光束之间的空间相关性进行成像的特点,所以在遥感成像、超分辨率成像等多个领域都扮演重要的角色。但鬼成像技术也由于其自身的特点,需要大量的采样来重建高质量的图像。近年来,深度学习鬼成像成为图像处理领域的热点研究课题。但是现有的方法在面对低采样率下的鬼成像图像重
学位
近年来,能源的紧缺导致太阳能技术尤为重要,引起了各种光热转换材料的快速发展,并在生物医学、环境污染和海水淡化等领域有着非常广泛的应用前景。如何克服太阳能利用率低和增强光吸收强度,并探索出高效新型的光热转换材料一直是热门研究课题。本论文提出了将梯度折射率结构引入到碳基材料中,通过该结构减少反射和增加透射的功能促使底部的材料吸收更多的光子,增强吸光能力从而提高材料的光热性能。并通过改变基质玻璃类型,选
学位
二阶非线性频率转换是非线性光学研究中的重点之一,在光谱学、激光脉冲、全光通信、生物医学检测等领域有着重要的应用。其中利用高压电场周期性调制非线性晶体二阶非线性系数的准相位匹配(QPM)技术可以简单有效的实现相位匹配,从而实现转换效率较高的二阶非线性频率转换。现如今,在一个设备上实现单一的QPM已经不能满足人们的需求,各种结构新颖的光学超晶格能满足多重QPM条件,同时实现多个波长的频率转换。本文中,
学位
在最近几十年间,长距离光纤通信技术实现了巨大的突破,如何进一步扩大通信容量一直都是该领域的一个重点研究问题。特别是在1450 nm到1650 nm波长区域,由于传统的掺铒光纤放大器(EDFA)以石英为主要增益介质,其稀土离子掺杂浓度低、较小的增益带宽等问题极大地限制了通信技术的进一步发展。与此同时,随着基础工业和集成光学的高速发展,高增益、低成本、小尺寸的光纤放大器逐渐受到人们的青睐,在民用和军用
学位
经颅交流刺激(Transcranial Alternating Current Stimulation,t ACS)是一种非侵入性的脑刺激方法,可调节电极下皮质区域的振荡神经活动。通过对人脑进行电刺激收集的行为数据来分析电刺激的有利影响是目前该方向研究的热点。本文从经颅交流电刺激出发,结合不同的行为范式与数据分析,探索了健康成年人在电刺激后的行为表现变化以及脑电信号变化。本文的主要研究内容及创新点
学位
电磁逆散射成像是一种基于电磁感应的新型成像技术,其通过向探测区域发射入射电磁波,并使用反演算法处理探测区域内目标散射的电磁回波信号,从而获得该目标电磁参数分布。电磁逆散射问题本质上是反演问题,其存在非线性和病态性,传统的信号处理算法难以有效地对高对比度目标进行重建。针对该问题,本文结合贝叶斯理论,研究具有更好适应性、更强抗噪性、以及更高成像精度的非线性电磁反演算法。主要研究内容如下:1、首先从物理
学位