基于改进的回声状态神经网络的非线性预测

来源 :南京工业大学 | 被引量 : 0次 | 上传用户:eva690313
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
使用神经网络对非线性系统的预测已经具有良好效果与广泛应用。其中循环神经网络在预测中更具优势,但长期以来其学习方法一直没有较大提高。回声状态神经网络是一种新型的循环网络结构与循环网络学习方法,它的结构非常类似生物神经网络,它也具备良好的短期记忆能力。它使用一个大规模的循环网络作为信息的存储池,然后通过计算这个循环网络的状态空间对输出节点的线性回归权值,来最小化学习平方误差,从而达到学习的目的。但是回声状态神经网络有一个矛盾:使用非线性神经元可以使网络的非线性性能提高但短期记忆能力下降,如果任务是象混沌时间序列预测之类复杂任务,既需要网络具有一定非线性又需要尽量大的短期记忆能力,回声状态神经网络就需要超大规模(过千神经元),这样的直接后果就是整个网络的运行学习缓慢,预测阶段因为网络规模的庞大而引入不稳定的因素。根据构建神经网络的先验性角度出发,网络需要使用其它的神经元以改善这一现象,本文提出了向回声状态神经网络内引入小波神经元的算法,在使用相同的训练集时,从预测信号与参考信号的完全重合的部分来看,小波与S形混合神经元的回声状态神经网络比原来纯粹使用S形神经元的回声状态神经网络要多预测46%的距离,同时所运用的时间却只是原来的0.3倍,大大提高了这个本来就已经是在混沌时间序列预测任务中比传统神经网络要优良700倍[1]的新型循环神经网络。本文主要贡献有三点:①将小波神经元使用于循环神经网络里,这是以前传统循环神经网络里鲜有人尝试的。②通常都是需要扩大小波神经元的多样性与正交性,在改善回声状态神经网络的时候却使用小数作为拓展系数来降低小波神经元的多样性以求运行协调与平衡。③在回声状态神经网络的应用上通常使用专家的经验设置,这很不利于高效率的使用计算资源,本文使用了PSO的集群智能优化算法对回声状态神经网络中的参数进行了优化。
其他文献
数据挖掘是从大量的数据中挖掘出有用的或者人们感兴趣的知识的一种方法。然而随着互联网及数据库技术的不断发展,处理海量数据已经成为数据挖掘领域所要解决的一个重要课题。
软件测试在软件的整个开发过程中占有非常重要的地位,是保证软件质量、提高软件可靠性的关键。随着软件设计技术的发展,软件规模的增加,软件开发周期的缩短,软件测试工作量的增大
学位
随着信息技术的不断发展,软件复用和软件构件化越来越受到业界的广泛关注。传统的构件描述与检索方式,由于缺乏构件的语义信息描述,用户难以精确检索到与需求匹配的构件资源,所以
随着嵌入式技术的发展,以智能手机、平板为代表的便携式终端设备开始广泛普及。Android的出现进一步加深了人们对于便携设备的依赖程度。目前,基于Android平台的终端设备越来越
随着计算机与网络应用的普及,网络安全问题日益凸显,而面对日益严重的网络安全威胁,传统网络安全技术多是被动的防御技术,对攻击者了解不足,更无法应对层出不穷的未知攻击。
随着网络规模的扩大及各种新技术的采用,网络管理系统的管理范围也不断扩大,被管资源的种类不断增加;在分布式的异构网络环境中,各网络管理系统之间的管理操作复杂,互操作性弱。本
报表作为系统数据的呈现方式和数据来源的组织形式,可以直观明确地展现各类信息,以及数据之间的复杂关系。在我国大洋调查领域,海洋样品数据的管理主要采取报表文档的方式,而且后
无论部队还是地方,物流配送作为后勤保障和经济发展的基础,它的功能和作用在不断加强。物流配送中的车辆路径优化问题是整个物流配送优化中关键的一环,也是社会发展,经济活动不可
随着汽车电子和汽车网络技术的广泛应用,传统意义上的汽车已经逐渐的转化为“装在轮子上的信息终端”。在移动信息终端应用中,嵌入式浏览器扮演着举足轻重的角色。但是复杂的多