基于模型空间和深度学习的时间序列分类

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:shengli1011
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
单变量时间序列通常是一组以均匀时间间隔隔开的连续时间点上的测量值。它是一种结构化的数据,具有高维,序列长度不一,观测值在时序上存在一定的依赖关系等特点。典型的基于模型的方法(如回声状态网络)为每个时间序列训练出一个函数模型,在模型空间中用函数模型之间的相似性来度量原始数据之间的距离,然而在非欧的模型空间中,传统的欧式距离度量方式已经不能很好地满足要求,因此探索出具有鉴别力的距离度量方式有助于提高模型的分类能力。近几年,研究人员热衷于利用深度学习来解决时间序列分类问题,其中全卷积网络是一个公认的比较强的端到端的时间序列分类算法。然而受卷积核大小的限制,全卷积网络不能很好地捕捉到隐藏在序列中的长模式信息,此问题限制了分类器性能的进一步提高。
  针对模型空间中存在的问题,本文提出了一种基于模型空间的时间序列分类集成算法。该方法先采用回声状态网络为每个样本序列学习出一个函数模型,在模型空间中利用费希尔核来度量函数模型之间的距离。考虑到单个模型不能很好地拟合数据复杂的分布结构,本文在AdaBoost回归算法框架中训练出多个基模型来提取丰富的特征,在特征层面上完成加权集成,最后基于费希尔核度量方式,本文利用支持向量机完成分类任务。另一方面,针对全卷积网络在序列信息提取中存在的不足,本文提出一个基于全卷积网络的增强版本的时间序列分类算法,首次利用结构化自注意力机制来帮助模型提取隐藏在序列中的长模式信息。相关实验表明,本文提出的算法在基准数据集上取得了一定的效果。
  本文的主要贡献总结如下:
  (1)本文利用回声状态网络模型来建模时间序列,提出了一种基于集成回声状态网络的费希尔核时序分类算法,该方法将费希尔核与回声状态网络进行结合,在模型空间中利用费希尔核度量函数模型之间的相似性。
  (2)本文在AdaBoost回归算法框架下训练出多个回声状态网络模型,利用多个模型来共同捕捉数据复杂的分布结构,分别在基准数据集和人造数据集上验证了算法具有较好的分类能力和鲁棒性。
  (3)为了弥补全卷积网络存在的不足,本文将结构化注意力机制首次运用到时间序列分类问题上,并将其与全卷积网络进行结合,使得模型不仅能很好地关注短的局部信息,还可以从序列中提取出长的模式信息。基准数据集上的实验结果表明本文所提的深度学习模型具有较强的分类能力。
其他文献
多目标优化问题广泛存在于电力系统环境经济负荷分配、轧制负荷分配、汽车稳健优化设计和水资源调度优化等工业生产过程,常规基于Pareto支配的多目标优化算法适合求解低维多目标优化问题,却难以求解包含三个或三个以上目标的高维多目标优化问题。随着分解标量化函数和各种性能评价指标的出现,进化多目标优化算法可以求解高维多目标优化问题。R2指标是一种通过给定权值向量和效用函数来评价候选解综合性能的评价指标,具有
自医学影像应用到临床医学以来,随着数字图像处理技术的发展,医生从不同模态的医学图像中获取信息的内容和方式也发生了变化。从单纯的观察组织结构和解剖结构,发展到利用去噪、分割、配准、分析和重建等图像处理方法对器官组织或病灶进行定位、分割、参数分析以及提取特征等多方面。在从低层到高层的数字图像处理技术中,图像分割是医学图像处理中的关键技术。基于变分水平集方法活动轮廓模型具有便于处理拓扑结构变化、计算精度
动态系统的耗散性以输入输出的方式描述了系统能量的演化规律,即系统内部存储的能量不超过外界对它供给的能量。耗散性在非线性系统的研究中起着重要作用,是非线性系统分析和设计的有力工具。在切换系统中,除了各子系统内部的能量演变外,切换系统各子系统之间也有能量的传递和交换。这两方面能量的演化规律在相当程度上决定了切换系统的动态行为。因此,对切换系统来说,能量和基于能量的控制显得更加重要。然而,传统的耗散性概
日新月异的信息技术和不断深入的经济全球化进程促进了各行各业的蓬勃发展,这给许多面向项目运营的业务模式带来了前所未有的机遇,同时也导致项目变得规模庞大而复杂,特别对于规模以上项目,单个企业很难胜任,需要挑选若干合适的伙伴共同完成。并且,项目所处环境与运行过程中存在政策、天气、金融、人的行为与心理等在内的不确定性因素,导致项目面临的不确定性和风险大大增加。因此,作为项目管理中的重要环节,不确定环境下的
在现代工业体系中,面对日益复杂化韵被控对象,传统的集中式控制策略逐渐难以满足对生产控制的综合要求。为了解决复杂的大型系统的控制问题,越来越多的学者开始关注多智能体系统。由于多智能体系统是通过多个智能体之间的相互协作来完成特定的复杂控制目标,所以它具有设计灵活性高,鲁棒性强等优点。考虑到在实际生产过程中多智能体系统规模较大,通讯网络结构复杂,所以随着时间的增长和内外部条件的变化,系统不可避免地会出现
学位
医学图像处理与分析是指利用计算机对医学图像进行自动处理、特征抽取和分类的技术。由于眼底图像结构复杂,使得目前的眼底图像智能处理与分析方法仍存在诸多的关键技术难点,例如光照不均和低对比度下的目标定位、复杂背景下的目标精准提取、样本不平衡情况下的目标分类等。本文在分析总结国内外相关研究成果的基础上,针对现有方法的不足,提出了多种新型且有效的方法用于眼底目标智能分析与检测任务,包括视神经盘、视网膜血管、
学位
由于灵活的结构设计和优异的光学性能,光子晶体光纤是目前新型光电器件领域的研究热点之一。光纤传感具有抗电磁干扰、灵敏度高、绝缘性好、可实现分布式测量等优点,光子晶体光纤的多孔特性有利于通过填充光电功能材料扩展或提升其性能,光子晶体光纤的D型化并镀膜处理有利于增强光纤的倏逝场与被测物质的交叠。由于光子晶体光纤结构的特殊性,其制备工艺的难度一直限制着光子晶体光纤在传感领域的发展。本文数值研究了材料填充和
随着数字化中国的推进,中国已经全面迈向了信息化的时代。无线传感器网络作为物联网主要的技术支撑应用前景广泛,现已应用于军事作战、环境监测、医疗卫生、工业生产、智能家居等领域。定位技术作为无线传感器网络最关键的技术之一,备受研究者们的关注。本文以室内环境为对象进行研究,在总结了国内外研究现状的基础上,对非视距环境下的无线传感器网络静态节点和动态节点定位问题进行深入研究,旨在实现复杂环境下高精度、自适应
在过去的近二十年中,由于信息科学技术的飞速发展,使得包括机器人、冶金、化工、微电网、航空、风力发电等行业发生了巨大的变化。如何使用工业过程中产生的大量数据来实现目标系统的优化控制的问题,一直都是工程控制领域的难点问题之一。随着大数据技术的发展,基于数据驱动的控制方法得到了前所未有的关注。因此,本文将数据驱动技术与自适应动态规划(ADP)算法相结合,研究了离散时滞系统的优化控制问题。首先,针对模型未
学位
模和子模函数的top-k优化问题一直是策略优化问题的重点和难点。近年来,随着人工智能的兴起,模函数和子模函数被用到了越来越多的实际应用建模中。在建模实际应用中,为了适用更多的应用场景,研究者们都希望在更普适的模型下研究模函数和子模函数top-k优化问题。基于以上背景,本文选择了模函数优化中最受关注的多臂赌博机问题,和子模函数优化中最受关注的影响力最大化问题展开了研究。本文立足于更普适的模型下研究这