【摘 要】
:
作为时间序列数据挖掘领域的一个重要研究方向,时间序列分类在现实生活中存在着广泛的应用,如金融市场、医疗健康和城市交通等。时间序列分类本质上是学习一个从输入时间序列空间到预定义标签空间的映射。近年来,深度学习模型被广泛应用于时序分类任务并取得了优异的性能,其中回声状态网络作为一种训练高效的模型,能够较好地用于时间序列建模。然而,回声状态网络的长期时序依赖建模能力和解码能力仍需进一步加强。此外,深度学
论文部分内容阅读
作为时间序列数据挖掘领域的一个重要研究方向,时间序列分类在现实生活中存在着广泛的应用,如金融市场、医疗健康和城市交通等。时间序列分类本质上是学习一个从输入时间序列空间到预定义标签空间的映射。近年来,深度学习模型被广泛应用于时序分类任务并取得了优异的性能,其中回声状态网络作为一种训练高效的模型,能够较好地用于时间序列建模。然而,回声状态网络的长期时序依赖建模能力和解码能力仍需进一步加强。此外,深度学习模型通常需要大量的标注数据以防止过拟合,但在时间序列领域其获取成本可能非常昂贵。因此,如何使用少量的标注时序数据对深度学习模型进行有效地训练是一个具有挑战性的问题。针对上述问题,本文分别提出一种基于回声状态网络的深度学习模型以及一种基于双重增强的联合标签学习方法:(1)回声记忆增强网络(Echo Memory-Augmented Network,EMAN)。EMAN 由回声记忆增强编码器以及多尺度卷积学习器两个部分组成。在编码阶段,EMAN使用回声状态网络的储备池将输入时间序列映射到高维非线性空间,从而获得时间序列的回声状态特征。为了有效地建模时间序列中的长期依赖,提出了一种基于稀疏注意力的回声记忆增强机制应用于回声状态特征。在解码阶段,EMAN使用多尺度卷积来捕获多尺度特征从而学习到时间序列最具判别性的特征用于分类。在大量时间序列分类数据集上的实验验证了 EMAN的良好性能,同时可视化分析表明所提出的回声记忆增强机制能够有效增强回声状态网络的长期时序依赖建模能力。(2)基于双重增强的联合标签学习方法(Joint Label Learning by Dual Augmentation,JobDA)。JobDA由两个模块组成,分别为双重增强模块以及联合标签学习模块。双重增强模块对训练集中的每个样本进行样本增强以及标签增强,其中样本增强增加了训练集的样本量,而标签增强为每个样本(包括原始样本和增强样本)分配一个原始标签以及一个自监督标签。联合标签学习模块学习预测由原始标签和自监督标签组成的联合标签,从而缓解传统的标签分配策略带来的噪声标注问题。在大量时间序列分类数据集上的实验验证了 JobDA能够提升模型在小数据集上的性能,同时相比传统的数据增强,JobDA具有更好的泛化性能。
其他文献
安全是民航稳定运行和发展的生命线,航空安全信息是保证航空安全的重要数据来源,而数据质量是影响数据分析的关键因素。本文针对民航安全信息数据填报质量不高,数据分类不准确等问题,提出了基于自然语言处理技术的数据质量提方法,初步实现了对事件信息中的简要经过和事发阶段两个维度的数据质量的提升,本文相关方法也可用于其他类型航空安全信息的数据质量提升。本文的具体的工作内容如下:(1)提出了一种基于Fast Te
交通行程到达时间预测(Estimated Time of Arrival,ETA)的定义为在给定的时刻,预测车辆沿着给定的旅行路径从出发点到目标点的通行时间。随着信息技术的发展,一些智能交通出行服务也逐渐在生活中被应用。行程时间预测作为智能交通服务的基础功能,被广泛地应用于路线规划,交通调度,流量控制等任务中,让人们的出行更加便利。近年来,随着各类深度学习技术被大量引进至到达时间预测领域,ETA算
城市规模飞速发展,人口急剧增加,城市交通网络系统结构愈发复杂,当其遭受任意小范围安全风险事件打击而局部丧失服务功能,由于网络系统的级联效应,该影响会通过网络拓扑连接扩散出去,造成整个城市交通网络运输功能的瘫痪。因此,本文在传统介数概念基础上提出一种适用于交通网络系统的改进介数概念,用于交通网络关键组件的识别,达到提高交通网络抗打击能力的目的。具体包括以下研究内容。第一,通过分析网络系统抗打击能力研
随着互联网飞速发展,网络上的信息量爆炸式增长。推荐系统可以帮助用户解决“信息过载”问题、帮助企业实现商业目标,有着巨大的应用价值和研究价值。由于推荐系统当中用户和商品的交互天然存在着图结构,同时协同过滤作为工业界影响力最大、应用最广泛的推荐模型,尽管推荐领域最新的研究大多与深度学习紧密结合,但模型的基本原理还是没有脱离经典的协同过滤的思路。得益于图卷积神经网络挖掘图结构中拓扑信息的优势,近年来涌现
三维场景语义描述是计算机视觉和自然语言处理在3D领域的交叉研究,在室内机器人导航、辅助视障人士等方面存在巨大的应用前景。目前,2D领域存在很多视觉-语言的交叉研究,而3D领域尚未得到深入的探索。随着3D数据的不断普及,更多的研究工作开始在3D领域展开,包括三维场景语义描述生成任务。当前该研究工作还处在发展的早期,因此存在一些亟待解决的问题,如:对场景中的多个物体进行描述,需要提升3D目标检测的精度
在我国航空货运专业化、物流化的时代背景下,危险品航空运输需求倍增,运输量持续上涨,同时伴随全球化进程发展,危险品货物种类更加多样且复杂,其中不乏毒性危险品。毒性危险品泄漏事件突发性强且处理难度大,而机场货站作为危险品散装货物或集装货物收运、存储、安检和复重等场所,是发生毒性危险品泄漏事故的高发地。本文以解决航空危险品运输应急处置能力短板为问题导向,通过查阅国内外安全防护距离的相关研究,对我国不同领
监控设备越来越广泛地应用于生活中,其不间断地工作产生了海量的视频。如何快速浏览和存储海量的监控视频是计算机图像视频处理领域的重要研究问题。技术,一种通过在时间轴上偏移物体管道从而将长视频压缩成包含关键信息的短视频的技术,是解决上述问题的一种重要方案。现有的视频摘要方法无法很好地处理监控视频中的遮挡问题,它们大多将发生遮挡的物体视为一个整体来处理。这种思路在视频运动物体不多时较为有效,但当视频较为繁
统计显示,机务人员的不安全行为是航空维修业中的主要风险源之一。机务人员的不安全行为在群体中传播,会导致不安全行为者增多,增大航空维修工作中的风险。研究民航机务维修人员不安全行为传播的影响因素,挖掘民航机务维修人员间的社会网络关系,并仿真不安全行为在社会网络中的传播,对于减少不安全行为在群体中的传播,提高维修单位的安全管理水平和生产效率具有重要意义。首先,本文对民航机务人员维修特点及作业中的不安全行
婚恋杂剧作为元杂剧的一个较大类别,也是学界历来关注较多的一个领域。元代婚恋杂剧真实反映了元人的日常生活和文化心理,展现出与前代不同的审美情趣和价值取向。元代婚恋杂剧文本中显示出鲜明的空间性,文本中关于空间的书写并非剧作家随意为之,而是根据情节合理选择不同的场所空间。在元代婚恋杂剧中,一些典型空间会反复出现,为故事情节的展开提供了空间背景。同时,不同空间的布局安排又具备着不同的叙事功能,体现了一定文