多任务学习理论与方法研究

来源 :中国科学院大学 | 被引量 : 0次 | 上传用户:qq1036191963
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
多任务学习用于同时学习多个相关任务,通过联合学习,它既保持了任务间的差异性又充分利用其相关性,从而从整体上提高所有任务的学习性能。多任务学习引起了很多学者的关注,基于不同的模型假设提出了大量方法,但仍有很多理论和方法问题有待解决。本文对多任务学习方法进行了深入研究,并提出了三种新的方法以解决现有方法中存在的问题:基于公共子空间的多任务学习、利用图结构约束的多任务学习、几何保持多任务度量学习。通过理论分析和实验,证实了所提出的这些方法的有效性。   本文的主要贡献如下:   1.提出公共有效信息子空间的概念和一种多任务学习框架,并且将该方法应用到度量学习问题中,一方面利用有效信息子空间内低噪声的特点提高每个学习任务的性能,另一方面联合使用多个任务的信息可以更准确地学习该子空间。   2.提出基于图拉普拉斯正则化的多任务学习方法,通过联合多个任务共同学习,可以得到任务间的关联程度信息,这种关系又对任务的学习过程产生约束,进而通过有效信息在任务间的传播提高学习性能。   3.提出度量学习中的几何保持性概念及该性质的概率衡量方法。同时将一类利用正则化项构建多任务学习的方法从向量推广到矩阵变量,提出基于Bregman矩阵散度的多任务度量学习框架,并基于该框架利用vonNeumann散度构造出“几何保持多任务度量学习”方法。该方法的目标函数是联合凸的,因此具有全局最优解且易于求解。理论分析和实验表明,本方法有利于提高几何保持概率,并提高多任务度量学习的性能。
其他文献
随着我国经济的快速发展和人民生活水平的日益提高,整个社会对工业过程的安全有着越来越高的要求,其安全与稳定不可忽视。对过程进行实时监控可以有效地监测到过程异常,及时
随着计算机视觉、图像处理技术的发展进步,利用机器视觉代替人工完成工业生产线上产品的检测极大的提高了生产效率。智能相机作为机器视觉的一个重要发展方向,有着比传统的PC式
该文内容主要有两部分,第一部分介绍了中国第一套独立开发的具有自主知识产权的柔性先进控制软件包FLACS(Flexible Advanced Control System)Ver1.0的组成、特点和应用情况.
随着人们生活水平的不断提高,人们对食品质量的要求也越来越高,红外光谱分析技术作为一种快速、准确、灵敏、实用的产品品质检测方法已经被分析人员所接受。红外光谱分析是光谱
该文在原有的智能决策系统结构的基础上,结合决策支持新技术提出了智能决策系统的新框架,并对实现此框架的各部分关键技术作了较为深入的研究,探讨了其实现的可能性.
多弧离子镀是在真空电弧和离子镀技术基础上发展起来的一种新式镀膜技术。近些年,随着其工艺的逐渐完善,以其离化率高、散射性好、膜层致密以及附着力强等优点,在冶金、机械加工
机器人作为20世纪人类最伟大的发明之一,代表了当今社会最先进的智能控制技术。仿人机器人作为系统结构最复杂、集成度最高、与人类最为相似的一类机器人,代表了最先进的机器
论文在分析了药芯焊丝拉丝机的机构、特点以及在拉制过程中影响焊丝张力因素的基础上,建立了各机架分部数学模型、机架间张力的数学模型和整机的数学模型.并在此基础上,分析
城市交通系统与城市发展息息相关,对人类文明演化起到不可替代的支撑作用。但近年来,随着大量人口向城市集中和城镇化进程不断加速,交通压力越来越大。而旧有的城市交通改善方法
该文对工业CT局部找描的重建算法及其在计算机上的实现进行了研究.论文介绍了研究背景,通过比较分析,定出了将平行束扫描方式下的局部图象重建作为课题的研究内容.