前馈神经网络的混合训练算法及其离群鲁棒回归问题研究

来源 :中国计量学院 | 被引量 : 2次 | 上传用户:tianaiguo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
摘要:本论文主要对前馈神经网络混合训练算法进行了研究.近些年,由于神经网络的兴起,其学习算法成为一个非常热门的研究领域之一.而混合训练算法的提出更是给该领域注入了新活力.因此,本文主要对该算法做了以下几方面工作:(1)首先介绍了前馈神经网络的混合训练算法及其正则化混合训练算法.混合训练算法是在一个程序中结合了基于梯度下降法计算隐层权值,同时利用奇异值分解法计算输出层权值的综合法,该算法的收敛速度大大优于原有的二阶梯度优化法.而正则化混合训练算法是为了降低因为奇异值分解优化法中产生的大数量级权解提出的,该算法与混合算法相比,不仅降低了大权解而且获得了较好的泛化性能.(2)其次是对混合训练算法与正则化混合训练算法在UCI数据库的三个实际数据集上做了应用.实验结果表明混合训练算法在实际例子中也是非常有效的算法.(3)最后讨论了混合训练算法的离群鲁棒回归问题.当训练数据中存在离群点时,混合训练算法的鲁棒性较差.为了解决该问题,我们提出了加权混合训练算法来抗离群点干扰.通过实验表明,提出的新算法比原有的混合训练算法和正则化混合训练算法更具离群点鲁棒性.
其他文献
  近年来,一些学者应用不同的方法对教育和经济增长的关系进行了定性与定量的分析。在本文中,作者首先依据现代教育经济学理论对教育特别是高等教育对经济增长的贡献作用进行
  本文以经典Banach空间几何理论为基础,通过讨论Banach空间上连续双线性泛函所成空间的凸性和光滑性,得到原Banach空间的凸性和光滑性。并讨论Banach-Hahn定理,Riesz表示定理
本文研究了受需求扰动的二级供应链系统前馈反馈最优跟踪库存控制策略、含提前期的多级供应链系统近似最优库存控制策略以及近似最优跟踪库存控制策略.具体内容如下:1.针对二级供应链系统中市场需求扰动引起的牛鞭效应问题,提出了一种基于前馈补偿的最优跟踪库存控制策略.首先,针对需求扰动可模型化为线性外系统的情形,引入了一个渐近稳定的期望系统.然后,基于线性二次型性能指标,给出了受需求扰动的供应链系统的前馈反馈
近几十年来,国内外大跨空间结构蓬勃发展,钢拉索作为不可或缺的高效受拉构件应用于各类空间体系中,尤其是张拉结构。钢拉索的存在不仅帮助提高结构刚度,改善体系的内力分布,且降低构件内力峰值,提高结构的承载力。对于结构中的钢拉索,边界条件不明确,整体结构对拉索索力识别的影响不可忽略。本文根据现有索力识别理论及ANSYS有限元软件分析,考虑整体结构影响下的索力识别,研究内容如下:首先,推导并总结了单索在不同
学位
本文研究了某些特殊组合恒等式的自动证明算法及某些特殊序列发生函数的自动求解算法.论文的主要内容如下:第一章简要地介绍了组合恒等式证明理论的发展进程.第二章介绍组合
3月18日上午,中国共产党中铁武汉电气化局集团上海分公司第一次代表大会胜利召开。公司党委书记张宏平做了题为《加强党的建设发挥政治优势不断助推企业内涵式发展》的报告,
  本文的研究重点是印刷体英文识别技术。传统的印刷体英文识别系统很大程度上依赖于字符分割的好坏。字符分割的难点在于如何解决粘连字符的分割问题,特别是对小字号的字符
神经网络在神经生理学、神经解剖学的范畴内,指的是生物神经未网络;在信息计算机科学等领域内,指的是向生命学习而构造的人工神经网络。神经网络的研究实质是ANN 向BNN 学习
学位
网络技术的飞速发展和Internet的普及使得人们拥有了大量可供选择的信息资源,而如何有效和快速的获取这些资源成了众人关心和研究的问题。搜索引擎的出现提高了信息查找的效