论文部分内容阅读
极端学习机(ELM: Extreme Learning Machine)是训练单隐含层前馈型神经网络的学习算法,它不用迭代调整权值,隐含层的输入权值和偏置都是随机生成的,输出权值是通过分析的方法确定的。ELM具有学习速度快、泛化能力强等特点,已成功地应用于生物信息处理、语音识别、人脸识别等各个领域中。但是在应用中如何选择一个合适的网络结构是一个难点,也是神经网络研究的热点。本文研究了ELM网络结构选择问题。本文主要贡献包括:(1)将局部泛化误差模型推广到用ELM训练的单隐含层前馈神经网络,给出了计算模型,提出了基于该模型的ELM网络结构选择方法。(2)提出了基于相容依赖度的ELM网络结构剪枝方法,该方法用相容依赖度度量结点的重要性,从一个规模较大的网络开始,逐个去掉依赖度比较小的隐含层结点,直到满足预定义的停止条件。(3)提出了基于结点敏感度的ELM网络结构剪枝算法,该方法的思想和第二种方法类似,只是用敏感度度量隐含层结点的重要性。本文做了大量实验对提出的相关算法进行评价,证明所提出的算法是有效和可行的。最后,对研究工作中遇到的问题进行了分析和总结,并提出了建设性的解决方案。