论文部分内容阅读
近年来,智能手表,智能手环等一系列可穿戴式智能设备逐渐受到越来越多人们的关注和喜爱。精致小巧是这些便携设备的优点。但是,不可否认的是,在这众多的可穿戴设备之中,总有一些设备因为存储空间有限而达不到令客户满意的分类精度。为了解决这个问题,本文提出了一种新型的双隐层极限学习机(Two-hidden-layer Extreme Learning Machine,TELM)。这种算法是在基本的极限学习机(Extreme Learning Machine,ELM)的单隐层前馈神经网络(Singlehidden-layer Feedforward Neural Network,SLFN)结构的基础之上,又添加了一个隐层。所以,从结构上来说,它属于一种双隐层前馈神经网络(Two-hidden-layer Feedforward Neural Network,TLFN)算法。具体说来,就是它的第一层隐层的参数(输入层与第一层隐层的之间的连接权值、第一层隐层的偏置)同基本的极限学习机一样是随机产生的。而它的第二层隐层的参数(第一层隐层与第二层隐层的之间的连接权值、第二层隐层的偏置)是通过我们引入的一种新颖的参数求解方法计算得出的。实验表明,相比于ELM及一些多隐层ELM算法,该算法仅需设置较少的隐层节点,就可达到较高的精度,并且具有较强的鲁棒性。可以为一些便携智能设备在有限的存储容量条件下,精度如何大幅提高提供了一条行之有效的解决方案。算法的实用性较强。本文主要完成了以下工作:首先,简述了极限学习机的研究背景及意义。其次,着重介绍了极限学习机的一些基本原理及概念,并对传统的极限学习机的优缺点进行了较为详细的分析与论述。在此基础上,又对近年来不断涌现的一些极限学习机的改进算法和与之相关的应用进行了综述。再次,重点论述了本文提出的一种新型的双隐层极限学习机(Two-hidden-layer Extreme Learning Machine,TELM)的算法思想,基本原理及相关推导等。在这一算法中,它第一层隐层的参数同传统的极限学习机一样是随机产生的,这样做既保留了传统的ELM的特色,又保证了算法的较快的训练速度。而TELM第二层隐层的参数的求解是通过我们引入的一种新颖的参数求解方法算出的。通过这种参数求解方法来寻求一个输入空间与输出空间的更好的映射关系,从而提高算法的精度。在实验测评部分,通过对3个不同性质的优化函数进行的拟合实验、对Vowel、Satellite、Segment、Pendigits、Optdigits这5个不同维数,不同类别数的简单数据集以及对一个数据量较大,维数较高的复杂数据集——MNIST数据集进行的分类实验,表明:该算法仅需设置较少的隐层节点,就可获得较高的训练精度和测试精度,同时,也证明了该算法的可行性和实用性。最后,为了测试这种双隐层极限学习机解决实际问题的能力,又将该算法应用到了新兴的腕部静脉认证系统(Wrist Vein Recognition System)中去,通过与传统的ELM作对比实验,结果表明:相比于ELM,TELM不但仅需较少的节点就可以得到较高的训练精度和测试精度,而且它的训练速度也与ELM在一个数量级上。由此也说明了TELM可以为那些因为存储容间的限制而达不到较好分类精度的存储容量较小的便携设备,提供一条行之有效的解决方案。