基于多注意力机制的时间序列预测方法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:ferret
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
时间序列预测任务研究的是随时间变化的某种现象的数字序列,并发现其变化规律。在实际生活中,含有时间序列的现象有很多,比如股票的走势,商场物品价格的变化,火车站进出人流量的变化等。因此,对时间序列问题进行深入研究是对国家社会人民都具有重要意义。在时间序列问题的解决方案中,主要有以传统统计学为基础的差分整合移动平均自回归模型(Autoregressive Integrated Moving Average Model,ARIMA),反向传播算法(Back Propagation,BP)为代表的机器学习模型以及深度学习模型中的常用的循环神经网络(Recurrent Neural Network,RNN)及变种。但他们都有各自的缺陷,ARIMA对时间序列数据的稳定性要求高,对不稳定的时间序列数据预测结果差。BP算法容易陷入局部最小值,对整体的最优方案选择不够好。而如今的深度学习模型循环神经网络及其变种虽然已经能够解决一部分梯度消失问题,但是这些网络不能对久远的历史信息进行记忆,而且不加入社会性的突发事件会影响最终的预测精度。为了解决上述问题,提出了一种基于多注意力机制的时间序列预测模型N_ALSTM(News,Attention and Long Short Term Memory)。主要是从新闻文本和股票序列数据这两个角度出发。首先是针对循环神经网络缺乏社会突发新闻事件的表达的问题,本模型利用具有高实时性和高可信性的互联网新闻作为时间序列预测分析中的社会事件基础。采用目前广泛使用的词向量、自注意力机制以及长短期记忆网络(Long Short Term Memory,LSTM)来构建模型中的新闻舆情分析模块。在时间序列预测模块中,使用编码器-解码器模型以及注意力机制将时序数据与新闻文本特征融合后的结构化数据在编码器中进行中间语义输出,预测结果更加稳定精确,避免了时间序列因为复杂的变化而产生的欺骗性作用。在使用N_ALSTM,不包含新闻文本分析的时间序列预测方法ALSTM,NS_TCL,TC_LSTM,HAN这五种算法分别在五支股票数据集上进行试验,发现N_ALSTM预测精度与其他四种算法都要更加好,预测效果略胜一筹。
其他文献
社会发展离不开能源,但是化石能源作为主要的自然能源供给,不仅储量有限,而且会造成环境污染,开发新型可再生的清洁能源是全世界面临的难题。而氢能清洁无污染、可再生的优点引起了广大研究人员的关注。电解水是目前最成熟的氢能源制备技术之一,而析氧反应作为一个关键的半反应因为其反应步骤复杂、机理尚不明确等因素,是高效电解水的一个“卡脖子”因素。开发高效的电催化析氧催化剂、明确其反应机理已经迫在眉睫。目前性能最
随着科学技术的高速发展,导致的环境污染问题越来越严重,为了减少对煤、石油等不可再生能源的依赖,缓解能源危机和环境污染问题,新能源行业顺应时代要求正快速发展。新能源汽车是新能源行业的重要组成部分,而锂电池作为储能设备是纯电动汽车的核心部件。锂电池的剩余容量(State of Charge,SOC)估计对电池管理系统(Batter Management System,BMS)提高电池使用寿命和整车续航
证据是认定案件事实的根据,案件事实的认定是建立在证据的调查、审查和认定之上的,证据在诉讼活动中具有基础性的作用,是诉讼活动的开始,并且从最初的侦查到法庭审判以及最终得出判决,证据贯彻诉讼活动的全过程。在法定证据之中,鉴定意见具有“科学证据”之称,在社会的科技化信息化进程不断加快的背景下,诉讼活动中涉及的问题越来越复杂,鉴定意见作为具备科学证据属性的证据越来越受到重视,对认定案件事实有着重要的作用。
人为倾倒、雨水裹挟物体进入水体后,如果不能被及时清理,将会遮蔽水面面阻挡光照和透氧,严重破坏生态环境,威胁水生动植物的生命。经过光照、氧化和水流冲刷后将会逐步分解为难以清理的微粒,随着水流汇入更远的水域,造成范围更广、难以清理的水体污染。人力打捞成本高昂、工作效率低下。人机交互式或自主航行式的无人艇单独覆盖水面并清理的方案存在大量无用操作,浪费能源。随着无人机技术的不断发展,无人机被尝试应用于水面
随着计算机与人工智能的发展,在互联网和工业上,图数据的数据量越来越大,于是管理如此大量的图数据便成为了当今必需要解决的问题。在数据管理领域,数据库是当前采用最多的数据管理方式。在分布式图数据库中,当前主要采取的方案为集中式连接和Map Reduce连接。在集中式连接方案中,所有的数据被拉取到同一个计算节点进行连接操作,此时会带来短时间的网络拥堵和长期的节点负载的不均衡。在Map Reduce连接方
由于Si在Al中的极限溶解量为1.65%(wt),在Al-xSi-Mg型铝合金(即常用的6×××系铝合金)中Si与Mg形成的强化相Mg2Si在A1中的溶解量仅为1.85%,因此当Al中Si含量超过2%后合金中就会明显存在尺寸较大的Si结晶相,一般认为它们对合金的塑性不利。又因为Si含量在5%~20%之间的铝合金具有良好的铸造性能,因此除了用于钎焊及焊丝等特殊应用外,通常Si含量超过2%的铝合金,不
学位
以2014—2019年我国沪深A股上市公司数据为样本,探讨企业创新对异常审计费用的影响。实证结果表明,企业创新投入越多,其异常审计费用越高。进一步研究发现,企业创新投入的增加会诱发真实盈余管理活动而导致异常审计费用增加;异质性检验表明,法制环境和事务所规模是企业创新影响异常审计费用的重要调节因素,在法制环境较好和非国际“四大”会计师事务所审计的样本中,企业创新对异常审计费用的影响更为显著。研究结果
随着5G(5-th Generation)技术的逐渐成熟,车联网中应用场景也更加丰富,车辆需要接收和处理消息的任务量和请求任务密度也在不断增长。然而车辆本身的有限计算资源很难满足请求任务的性能需求。为了提高任务的处理速度,将车辆请求的任务卸载至计算能力更强的路边基础设施进行处理成为当前的研究热点。本文研究了基于V2I(Vehicle to Infrastructure)通信模式下的任务卸载过程,根