基于迁移学习和多任务学习的时间序列预测算法

来源 :南京航空航天大学 | 被引量 : 1次 | 上传用户:wxc13439460105
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为动态数据分析处理的一个重要方向,时间序列预测在很多研究领域中引起了广泛的注意。许多关于时间序列预测的算法也被提出。而在对未来某点预测时,已有的方法大多只保留与预测点临近的数据,而丢弃大量与预测点相隔久远的数据。然而,某些情况下,可能无法获得足够的与预测点相近的新数据,此时为了能更好地对目标点预测,我们可以从大量相距久远的旧数据中提取有效信息,并将其应用到当前的预测任务中。鉴于时间序列的时效性,旧数据和新数据之间通常有较大的差异,直接利用旧数据辅助预测是不可行的,因此,在时间序列预测问题中,如何在相隔时间久远的数据之间迁移信息是比较有挑战性的工作。针对上述问题,本文提出了TrEnOS-ELMK(a hybrid algorithm based on transfer learning,ensemble learning and online sequential extreme learning machine with kernels)算法,并将其应用于单步时间序列预测。相对已有的关于时间序列预测的方法,TrEnOS-ELMK能最大程度地利用充足的、与预测点相隔久远的旧数据,而非直接将旧数据丢弃。然而,由于时间序列的时效性,相隔久远的新旧数据之间有着很大的差别,直接利用旧数据辅助训练是不可行的,为了解决该问题,在本文中,我们基于迁移学习为时间序列预测搭建一个新的算法框架。鉴于极限学习机(Extreme Learning Machine,ELM)算法的高效性,TrEnOS-ELMK以核ELM为基模型。考虑到在某些情况下,时间序列数据可能是实时更新的,算法融合了在线学习的相关思想,来处理样本非一次性获得,而是依次到来的情况。同时,鉴于集成学习的有效性,算法生成多个基模型,并对各基模型的权重实时更新,以保证集成集的高效性。在3个人造数据集和6个真实数据集上的实验结果证明了该算法的有效性。TrEnOS-ELMK主要可处理单步时间序列预测,以此为基础,本文针对多步时间序列预测提出了相应的MultiTL-KELM(a hybrid algorithm based on multi-task learning,transfer learning and kernel extreme learning machine)算法。相对于单步预测,多步时间序列预测面临更多的不确定性,引起此现象的原因较多,包括误差累积,信息缺失等。已有的关于多步预测的方法大多着重解决前者而相对忽略后者,MultiTL-KELM则可将间隔久远的旧数据有效利用到当前的预测任务中,从而缓解信息缺失的影响。不同于迭代预测和直接预测算法,考虑到需预测的未来各点的联系,本方法结合多任务学习,将对各维的预测看成是不同但相关的任务。这样,从一个任务中获得的信息可以对接下来的任务预测产生帮助,且各个任务可以并行。我们在6个数据集上对算法进行验证,得到了较好的结果。
其他文献
对线性模型中至多只有一个斜率变点τo的模型,利用局部比较方法给出了变点τo估计τ的强、弱相合性和强、弱收敛速度,同时在局部对立假设下研究了变点估计的Oq收敛速度。
本文对建筑工程的投标决策问题进行了分析,先从投标决策的内容出发,对投标决策的涵义以及投标决策的主要工作进行阐述,并对决策问题出现的主观原因和客观原因进行阐述,最后提
市场经济日趋发达,使企业更注重员工的动手能力和职业素质,而实践教学是培养学生认识社会,提高应用能力和操作技能的重要教学环节,更是学生走入社会的重要基础。
本文从医疗器械行业需求出发,阐述了“专本硕衔接”的连贯人才培养模式,从培养目标、培养机制、课程体系、师资队伍四个方面进行了分析和介绍,从医疗器械规范的人才培养发展
国际教育服务贸易是国际贸易中重要的组成部分,在推动教育全球化中作用突出。在政策以及教育体制影响下,我国的国际教育服务贸易发展举步维艰。为了探究其原因,社会各界都对我国
<正> 患者,男性,60岁,住院号64799。1963年5月81日,因腹部不规则钝痛伴有恶心、呕吐、腹胀、便秘9天,突感头晕眼花,腹痛剧烈、大汗淋漓、四肢冰冷急诊入院。患者于入院前9天
针对膜生物反应器(MBR)能耗高的问题,开发了一种利用生物反应区内液位水头的重力出流式MBR.采用该反应器处理生活污水和毛纺废水,处理出水水质达到了<城市污水再生利用--城市
给民间礼仪是民俗文化的重要内容之一,也是学校德育的重要内容之一。民间礼仪是由民间道德观念和风俗习惯形成的、大家共同遵守的礼节和仪式。本文主要着眼于民俗文化的现代
文章将针对这一方面的内容展开论述,详细分析了现代化的可编程逻辑控制器发展应用现状,同时对应有过程中的难点和主要技术核心点进行综合性的研究,旨在稳步的促进相关技术迈
为了将高温热害风险等级划分与风险指标空间化推算结果紧密结合,实现精细化的新疆热害风险评估,本文以新疆高温热害作为研究对象,利用1951—2017年新疆各气温站点逐日最高气