论文部分内容阅读
极速学习机是一种新颖的机器学习算法,在输入权值和隐含层偏置值随机设置的情况下,网络的所有参数就不必迭代的调整,而是通过求一个最小化误差二范数的最小二乘解来获取。因为当隐含层参数随机设置时,输出层权值就能够以解析的形式求出解的形式,所以能够实现非常快速的学习,该方法具有原理简单、学习快速、适应性好的特点。虽然极速学习机简单快速,但是极速学习机对网络的输入数据还是有要求的,当遇到大规模数据或者数据中的离群点过多时就会影响到网络的训练效果,这就需要进行网络结构的优化。与此同时,对于极速学习机的核函数的选取也是一个值得讨论的问题,再有就是对核函数的优化问题。针对以上问题,本文主要是对极速学习机算法进行了优化研究,侧重点为网络结构模型优化和极速学习机核函数的优化。文章的主要内容大体如下:1.结合了粗糙集基于决策表属性约简算法,对极速学习机原始网络结构中加入了一个数据预处理层,位于输入层和隐含层中间,将输入数据样本进行属性约简,去掉冗余属性,降低样本的维度。2.提出了基于小波核函数的极速学习机优化算法来对网络进行学习训练,综合考虑了核函数对极速学习机的影响,并且与传统的极速学习机算法相比具有更高的学习精度。3.提出了基于混合核函数的极速学习机算法,结合了局部核函数和全局核函数的优势,将两者结合而成的混合核函数再应用到极速学习机中作为其核函数来对样本进行训练,是对极速学习机核函数的优化,使得算法的学习性能和泛化性能同时得到了提升。