迁移学习理论与算法研究

被引量 : 0次 | 上传用户:pootcat
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为机器学习领域中最重要的研究方向之一,迁移学习在近几年来开始得到了越来越多的关注。在本文中,我们对迁移学习现有的一些理论与算法进行了研究,并在此基础上,结合adaboost算法,多视角学习以及多源学习,进一步改进了迁移学习算法。首先,在讨论迁移学习算法之前,我们将先来研究一下adaboost这一经典的集成学习算法。通过对过去一些研究的了解,我们知道adaboost算法的核心思想是通过迭代,针对同一个训练集训练出不同的弱分类器,然后把这些弱分类器通过一定的规律整合起来,最终构成一个强分类器的过程。在本文中,为了提高adaboost算法的性能,我们将多视角学习融入其之中,提出了内嵌式多视角adaboost算法。在以往的一些结合adaboost算法与多视角学习的研究中,研究者们往往都是将这两种学习方法线性的链接起来的。但这种算法间相对独立,相关性较弱的组合方式并不能够把它们的特点融合在一起。然而我们提出的内嵌式多视角adaboost算法旨在将多视角学习充分的融入进adaboost算法之中去,使它们两者结合为一体,充分发挥各自的特点,以达到更好的学习效果。在本论文中,我们基于adaboost算法的特点,对内嵌式多视角adaboost算法进行了理论分析,并在多个数据集上进行了实验。从结果上来看,内嵌式多视角adaboost算法得到了比一般的adaboost算法更好的效果。样本迁移是迁移学习中一种较为基本,也是较为简便有效的学习方式。它通过把一个已经学习过的任务(源任务)中的样本应用于一个待学习的任务(目标任务)中去来提高待学习的任务的学习效果。因为其迁移的过程简单有效,所以已经被广泛的应用于很多领域。在本论文中,我们相信多视角学习可以有效的提高迁移学习的学习效果,所以我们将内嵌式多视角adaboost算法和迁移学习融合在了一起,提出了多视角adaboost迁移学习算法。我们在多个数据集上都对该算法进行了实验,实验结果表明该方法是有效的。参数迁移是另一种较为常见的迁移学习方法,这一方法通过把源任务中的重要信息参数化之后传递至目标任务,从而达到了迁移学习的效果。我们在研究这一学习算法的过程中,将其与部分模型融合在了一起,提出了基于部分模型的迁移学习算法。与传统的迁移学习不同,我们在此考虑的是该如何把整体(源任务或目标任务)分割成几个相关联的部分,然后用多个相对应的部分与部分之间的迁移学习来代替整体与整体之间的迁移学习。我们相信,通过把整体化为多个相关联的部分可以挖掘出更多的有助于迁移的信息。从实验结果上看,基于部分模型的迁移学习算法是有效的,它得到了比一般的迁移学习算法更好的学习效果。迁移学习虽然说是一种非常实用且有效的机器学习算法,不过其也不可避免的存在一些弊端,例如:负迁移。之所以在迁移的过程中会出现负迁移,在很大的程度上是因为源任务与目标任务之间存在的差异性。为了竟可能的减少这种差异性,避免负迁移的产生,我们应用到了多源学习这一方法。我们通过同时使用多个源任务来代替仅使用单个源任务的方式来增加找到与目标任务较相似的源任务的概率,从而不但有效的避免了负迁移的产生,也提高了迁移学习的效果。在本论文中,多源学习将同时应用于多视角adaboost迁移学习算法与基于部分模型的迁移学习算法。实验结果表明,由于多源学习的加入,这两种迁移学习算法的效果都得到了提升。
其他文献
目的了解某校医学生心肺复苏知识认知及需求现状,为医学生心肺复苏(CPR)知识及技能培训提供依据。方法采用自行设计的"医学生对心肺复苏术知识掌握的调查问卷",对某校808名在
以环保特性优良的植酸为基本成分(150 mg/L),通过添加少量生物缓蚀剂、稀土缓蚀剂等成分作为工序间零件的防锈溶液,对机加工零件经过工序间防锈处理的试样进行湿(相对湿度90%
随着经济全球化的脚步越来越快,会计电算化已经成为会计工作的主要工具。会计电算化的应用大大减轻了会计工作人员的劳动强度,提高了会计工作的准确率、速度和精度。随着信息
介绍了威海市江家寨互通立交的设计概况。
上海的老弄堂里洋溢着这个城市最本质、最淳朴的气息。如今,里弄也随着岁月的积累,逐渐酝酿成一种独特的老上海文化。散落在十二个历史文化风貌区里的里弄遗迹和老上海的各种
<正> 长干寺阿青王塔的由来 南京大长干寺是六朝京师名寺,因在金陵长于里,故得此寺名。长干寺最先由何人何时创立,史无记载。可是它的历史可追溯到佛教初传江南的东吴时期。
严格国土资源依法行政是有效保护和合理利用国土资源,促进资源持续发展的根本保证。改革开放以来,法律、法规体系逐步完善,执法机构不断健全,执法队伍日益壮大,执法力度显著
随着金融危机的爆发,商业银行的治理风险及经营安全性得到了广泛地关注。治理结构作为商业银行日常经营运作的主体框架,对商业银行的健康成长、发展和持续经营发挥着重要的作用
对异丙基苯胺作为一种芳香类胺化物,在化学工业上有着十分广泛的应用,它是精细化工和有机合成的重要中间体,其最主要用途为用作合成高效化学除草剂异丙隆的中间体,还可用于合