基于极限学习机的增量学习关键技术及应用研究

来源 :电子科技大学 | 被引量 : 2次 | 上传用户:yc668
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
增量学习算法是实现如何在数据增长过程中以在线的方式进行快速模型更新的有效手段。与此同时,极限学习机的产生和发展又为快速建模和更新提供了新的思路。增量学习和极限学习机的研究在过去的几十年里取得了丰硕的成果,但在当前数据飞速发展的背景下离实际应用还有一段距离。现有的方法主要存在三方面的问题:其一,基于极限学习机的增量学习在应对数据增量的过程中需要事先确定网络结构,但数据持续增加的过程会导致合适网络结构的确定也成为一个问题;其二,基于极限学习机的增量学习算法针对的是数据变化过程带来的增量更新,但数据随着时间的增长可能会呈现出不平衡性的特点,甚至在增长过程中发生概念漂移的问题;其三,现有基于极限学习机的增量学习研究关注的是单纯的数据增加或减少带来的模型更新,但数据的变化情况在具体应用场景下更加复杂,通常呈现出多种数据增量混合在一起的情况,进而使相应的模型增量更新也更加复杂。针对这些问题,论文围绕基于极限学习机的增量学习算法,特别是在线学习算法展开研究。在归纳总结增量学习和极限学习机相关算法的基础之上,论文针对当前方法存在的局限性提出对应的解决思路和方案,并取得了如下研究成果:(1)提出了在线顺序增量极限学习机模型,在数据增量的过程中同步进行结构增量的模型更新。不同于单纯的基于数据增量的极限学习机算法,所提算法在每次模型随新生成数据进行更新后监控当前分类/回归误差变化。当误差变化过大时,算法在该过程中同时增加网络节点,并通过分块矩阵的广义逆矩阵“秩一修正”来优化求解过程。在分类/回归数据集上的实验结果表明所提算法相对于其他基于极限学习机的增量学习算法具有更好的分类/回归性能。(2)提出了加权领域迁移极限学习机及其对应的在线学习算法来应对数据持续到达过程中伴随的不平衡数据学习问题,并应用在气体传感器漂移补偿问题中。为了应对数据在增量过程中产生的概念漂移和数据不平衡问题,论文在领域自适应算法中引入加权学习来构建半监督学习方式下的分类模型。在此基础之上,论文针对未标记数据的增量推导了对应的在线学习算法。在气体传感器数据上的实验结果表明加权领域迁移极限学习机能够以更少的标记样本获得更高的分类正确率,同时,其在线学习版本在保持这种特点的同时能使模型进行在线更新。(3)提出了两种在线领域自适应极限学习机模型应对数据动态变化时半监督学习模型的在线更新,并应用在气体传感器漂移补偿问题中。在半监督学习方式下,标记和未标记数据的变化包括各自的增减以及数据由未标记变为标记的过程。针对这一系列变化带来的模型在线更新问题,论文基于两类不同的半监督学习模型假设分别提出了基于源领域和基于目标领域的在线领域自适应极限学习机算法。在气体传感器数据上的实验结果表明所提算法都能以在线学习的方式进行模型更新,其中基于源领域的在线学习模型在标签较少时分类正确率更高,而基于目标领域的在线学习模型能随着标记样本的增加获得更好的分类性能。
其他文献
新兴有机微污染物(contaminants of emerging concern,CECs)多因人类生产生活而产生和排放,目前已广泛存在于自然环境中,虽然其在自然环境中浓度低,但结构稳定,能在水环境中持
从内部控制制度概述、存在的问题以及失效的原因几个方面对企业的内部控制进行了分析和研究,并提出了完善和加强内部控制的措施。
<正>但他只给2015年的今日头条打40分。缺乏共享经济、交易闭环等热门概念,乍看之下,今日头条不是那么酷的玩家。但真正走近张一鸣,将他与今日头条的故事还原到移动互联网的
空想社会主义公正观内涵丰富,它首次揭露了资本主义私有制是一切社会不公正之源,要实现人与人之间的真正平等,必须废除资本主义私有制,建立社会主义公有制,实现公平合理的分
党的十八届五中全会专门研究关于制定国民经济和社会发展第十三个五年规划的建议,并围绕这一主题以全会决议的形式通过了《中共中央关于制定国民经济和社会发展第十三个五年
本文结合无锡地铁2号线靖海公园站基坑工程,介绍深基坑软土地区复杂地质条件下地铁紧邻高架施工的关键技术及施工措施。通过调整地连墙施工工序、加设隔离桩、控制开挖工序、
校园足球作为我国足球事业的一个重要组成部分,是在我国足球事业发展深陷困境的背景下提出的。因此,校园足球理所当然地肩负起了足球后备人才培养、振兴国足的历史重任。然而
保罗·福塞尔作为美国当代著名的文学家和文化批评家,对美国社会的认识和把握是非常独到的。他长期担任文学教授,对文学艺术的创作和研究有着自己独到的见解。本文把目光锁定
<正>巢虫,给我养中蜂带来许多麻烦,特别是春末和秋天蜂群较弱时,危害最严重,常常引起蜂群飞逃。巢虫喜欢在箱底蜡屑中生活。我想如果在箱底放上毒药定能杀死巢虫,但中蜂对毒
随着数字影像技术的发展,传统的逐帧或关键帧技术已经难以满足数字影像的制作需求,动作及表情捕捉技术越来越受到人们的重视。本文从动作捕捉技术的需求出发,阐述了当今主流