论文部分内容阅读
深度学习自提出以来就受到了机器学习领域的瞩目。深度学习的提出是为了解决机器学习特征提取中存在的问题。相比于浅层学习模型特征提取依靠手工来进行选择,深度学习的深层网络结构可以逐层对数据特征进行提取,使得特征更明显更容易分类。深度学习的最显著的特点是,它可以把一个复杂的问题拆分成几个简单的问题,首先依次解决这些简单的问题,之后综合起来解决复杂的问题。深度置信网络作为深度学习领域应用比较广泛的网络模型,是一个多层的网络结构。通过深度置信网络当中的多个隐层来对数据进行不断抽象,可以更好地提取到数据的本质特征。预训练阶段和微调阶段是深度置信网络训练过程中起不同作用的两个阶段。预训练阶段采用的是无监督学习算法,微调部分采用的是有监督的分类算法。深度置信网络算法作为深度学习的一种算法,同样也可以被用于图像分类中。针对深度置信网络输入只能是二值数值这个特点,本文引入了高斯伯努利深度置信网络。并设计实验对深度置信网络、高斯伯努利深度置信网络的性能与其他分类算法性能进行了对比。针对深度置信网络预训练过程中结点选择问题,本文提出了基于相似度的结点选择方法。深度置信网络当中结点选择的方法沿用了传统人工神经网络的算法,网络结点一旦确定无法更改,也无法保证所有结点都被充分利用。本文提出的基于相似度的结点选择算法对网络结点进行重复利用,力求在网络规模已被设定的条件下尽可能充分利用网络隐层结点,来提高网络的准确度。实验证明结点选择算法具有比较好的性能。针对深度置信网络微调部分误差反向传播算法的不足,本文提出了基于人工蜂群算法改进的深度置信网络。由于人工蜂群算法具有全局搜索的特点,本文将人工蜂群算法用于深度置信网络反向传播算法的优化中,解决了误差反向传播算法只能在当前区域之内迭代这个问题。通过误差反向传播算法与人工蜂群算法交替迭代,使得网络摆脱局部极值点搜寻得到全局最优点。通过两个不同容量的数据库来进行验证。实验结果表明,本文提出的算法对于小规模的网络与小规模的数据库具有更准确的分类效果,可以得到更高的分类准确度。最后针对深度置信网络对图像局部特征处理能力弱这个问题,引入了局部二值模式。首先利用局部二值模式对输入数据的局部特征进行预处理,再利用深度置信网络进行分类。数据预处理的引入使得深度置信网络的分类准确度更高。