论文部分内容阅读
深度学习是机器学习领域中的一个新兴学科,它的目标是研究出一种可以发现数据内在特征的算法,通过组合数据的低层特征形成更加抽象的高层表示或属性。目前,大多数机器学习算法的性能严重依赖于其所选样本的特征,基于自动编码器的深度神经网络可以有效的用于数据特征提取。自动编码是一种无监督学习算法,稀疏自动编码器、降噪自动编码器、收缩自动编码器是在原始的自动编码器的基础上衍生出的基于正则化约束的优化算法。针对现有算法存在的分类精度不高、鲁棒性较差等不足,本文建立了一种基于全噪声自动编码器的深度神经网络。在自动编码器的数据输入层和中间层加入一定比例的随机噪声,以重构输入数据,最小化重构误差为训练目标。使用无监督的逐层贪婪预训练算法将这种全噪声自动编码器堆叠训练成深度神经网络,避免了局部极值与梯度弥散问题。通过实验分析了不同类型中间层噪声对网络性能的影响,实验结果表明,基于全噪声自动编码器的深度神经网络在给定分类任务上的分类精度都有明显改进。