基于全噪声自动编码器的深度神经网络优化算法

来源 :武汉科技大学 | 被引量 : 21次 | 上传用户:kl7aa
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习是机器学习领域中的一个新兴学科,它的目标是研究出一种可以发现数据内在特征的算法,通过组合数据的低层特征形成更加抽象的高层表示或属性。目前,大多数机器学习算法的性能严重依赖于其所选样本的特征,基于自动编码器的深度神经网络可以有效的用于数据特征提取。自动编码是一种无监督学习算法,稀疏自动编码器、降噪自动编码器、收缩自动编码器是在原始的自动编码器的基础上衍生出的基于正则化约束的优化算法。针对现有算法存在的分类精度不高、鲁棒性较差等不足,本文建立了一种基于全噪声自动编码器的深度神经网络。在自动编码器的数据输入层和中间层加入一定比例的随机噪声,以重构输入数据,最小化重构误差为训练目标。使用无监督的逐层贪婪预训练算法将这种全噪声自动编码器堆叠训练成深度神经网络,避免了局部极值与梯度弥散问题。通过实验分析了不同类型中间层噪声对网络性能的影响,实验结果表明,基于全噪声自动编码器的深度神经网络在给定分类任务上的分类精度都有明显改进。
其他文献
如今,我们经常会听到复合型人才这一说法,用人单位希望招到复合型的人才,复合型人才在人才市场持续走红。这必会反映到我们的教育当中来,对现在的教育形成影响。中学教育虽然与就
学生学好数学最关键的是对数学感兴趣。因此,如何使学生对数学内容本身发生兴趣就变得尤为重要,文章对此进行了一系列讨论。
历史学科在初中学生们的心目中,要比语、数、外的分量轻得多,很多学生只是死记硬背,应付考试,不能真正掌握历史知识。如何引导学生去认真学习历史,为以后的学习和生活打下良好基础
整合,需要有综观古今的深邃、广纳中外的胸襟;也需要有横跨学科的视野,以融合相关学科教学内容;整合,需要有蜜蜂采花似的多多益善,也需要有蜜蜂酿蜜般的百里挑一;整合,需要打破,更需要
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
近年来,以计算机多媒体和网络技术为基础的现代信息技术的迅速发展,对传统的教学模式产生了巨大的冲击。计算机辅助教学不仅带来的是教育技术上的一场革命,更是教学理念、教育思