使用动态增减枝算法优化网络结构的DBN模型

来源 :计算机科学与探索 | 被引量 : 0次 | 上传用户:jorby289702834
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来深度信念网络(Deep Belief Network,DBN)得到了广泛的应用,但在现有文献中很少有关于如何动态确定其结构的详细研究。本文提出了一种使用动态增减枝算法的动态DBN模型(Dynamic Deep Belief Network,DDBN),可以有效的优化DBN的网络结构。DDBN可以使用动态增减枝算法而不是人工实验来自动确定其结构。首先,在训练过程中通过改变隐藏层层数和隐藏层神经元的数量,自动构建DDBN的结构,这是通过动态增减枝算法实现的。该算法依赖于隐藏层神经元的权重距离(Weight Distance,WD)和激活概率的标准差以及整个网络的能量函数。其次,DDBN能够在动态过程中调整权重,有助于提高网络性能。最后,为了验证所提出DDBN的有效性,将DDBN在三个基准图像数据集上进行了测试,包括MNIST、USPS和CIFAR-10。相应的实验结果表明,DDBN比现有的一些DBN结构调整方法具有更好的性能。
其他文献
<正>二○一七年四月十九日杨府办发[2017]10号区政府各委、办、局,各街道办事处、五角场镇政府:区发改委制订的《杨浦区生态文明建设专项资金管理办法》己经2017年4月11日区
中国的世界500强企业快速增长符合历史走势,从某种意义上讲,国家和国家之间的竞争,就是大企业之间的竞争。$$ 2013年世界500强企业名单新鲜出炉。中国有95家企业入围,连续三年
报纸
【正】 ●前景看好的有:肉狗、蛤蚧、肉鸽、鹧鸪、蓝孔雀、绿头野鸭、贵妇鸡、黑丝毛乌骨鸡、中华宫廷黄鸡、丝光鸡、绿壳蛋鸡等 ●平稳发展的有:小尾寒羊、肉兔、鹌鹑、乌骨
通过问卷调查统计分析基于网络教学平台的大学生学习行为习惯,调查结论为网络教学平台课程的建设和使用提供了参考依据,从而让网络教学平台更能满足学生的学习习惯与需求,使
十八大以来,党中央越来越重视现代农业发展,2013--2016年连续四年的中央一号文件都明确要求加快现代农业建设,而作为现代农业重要载体的新型农业经营体系的构建,对于推进农业现代