论文部分内容阅读
摘要:本论文主要对前馈神经网络混合训练算法进行了研究.近些年,由于神经网络的兴起,其学习算法成为一个非常热门的研究领域之一.而混合训练算法的提出更是给该领域注入了新活力.因此,本文主要对该算法做了以下几方面工作:(1)首先介绍了前馈神经网络的混合训练算法及其正则化混合训练算法.混合训练算法是在一个程序中结合了基于梯度下降法计算隐层权值,同时利用奇异值分解法计算输出层权值的综合法,该算法的收敛速度大大优于原有的二阶梯度优化法.而正则化混合训练算法是为了降低因为奇异值分解优化法中产生的大数量级权解提出的,该算法与混合算法相比,不仅降低了大权解而且获得了较好的泛化性能.(2)其次是对混合训练算法与正则化混合训练算法在UCI数据库的三个实际数据集上做了应用.实验结果表明混合训练算法在实际例子中也是非常有效的算法.(3)最后讨论了混合训练算法的离群鲁棒回归问题.当训练数据中存在离群点时,混合训练算法的鲁棒性较差.为了解决该问题,我们提出了加权混合训练算法来抗离群点干扰.通过实验表明,提出的新算法比原有的混合训练算法和正则化混合训练算法更具离群点鲁棒性.