卷积核相关性与CNN网络结构优化的关系研究

来源 :兰州大学 | 被引量 : 7次 | 上传用户:lhl1208
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习是机器学习领域中最热门的研究课题之一,是由Hinton等人于2006年提出的。它作为一个出色的机器学习模型,一经提出就受到了研究人员的青睐,引起了该领域的研究热潮。而卷积神经网络作为深度学习分类领域中一种重要的学习模型,也引起了很多研究者的兴趣。它是一种前馈神经网络,是深度神经网络的一种特殊形式。实验数据表明,卷积神经网络是处理图像和视频识别分类的一种非常有效的网络模型。然而卷积神经网络的结构极大地受到卷积核数目的影响。网络结构中的卷积核数目过多,会造成训练参数过多,因而造成网络训练时间成本的增加,极大地浪费计算机资源,而且容易引起过拟合。卷积核数目过少,会造成数据训练不足,影响最终的结果。所以,如何选取最优的卷积网络结构是很重要的,而如何快速确定卷积核的最优数目仍然是一个急需解决的问题。基于所提出的问题,本文运用了基于权值修正幅度的分析方法和基于卷积核中权值之间的相关性分析方法来优化卷积神经网络中的卷积核数目。实验表明,基于权值修正幅度的分析方法具有很大的不稳定性,一方面,它受到卷积神经网络中不同卷积层的影响,因为每个卷积层对网络性能的影响不同,另一方面,它受到误差反向传播的影响,因为训练过程中,有很多次的反向误差传播,每一次的反向传播都会对卷积核权值进行修正,无法判断具体哪一次的反向传播更具有参考性;而卷积核权值之间的相关性分析方法更具有参考价值,通过实验我们看到卷积核权值之间的相关性阈值只受到卷积核尺寸大小的影响,而不受不同数据集的影响,相关性阈值与卷积核数目之间确实存在着联系,实验结果表明,卷积核权值之间的相关性是优化卷积神经网络结构的一个重要的影响因素。
其他文献
近年来中国滑雪旅游发展迅速、市场需求旺盛,但是对比瑞士、法国、奥地利、美国、日本等滑雪发达国家,中国滑雪旅游起步较晚、滑雪运动普及率低、滑雪运动意识较弱,滑雪旅游
随着新课程标准的不断改革发展,传统教学中落后的教学方式已经得到了更新。在新时代下,传统的教学方式已经难以满足现代化教学需求,也难以满足学生的多元化学习需求,为了更好
常微分方程是伴随着微积分发展起来的,其成长于生产实践和数学的发展进程,蕴含着丰富的数学思想方法.它在天体力学和其它力学领域显示出巨大的功能.牛顿通过解微分方程证实了
<正>玻璃仪器是学生实验中经常用到的实验仪器,根据笔者的了解,笔者所在学校每年需购置玻璃仪器的经费约占购置经费的30%,仅次于实验试剂。为此,我们对实验室玻璃仪器损坏情
羧酸和羧基功能基团广泛存在于各类有机化合物中。活泼的羧酸衍生物在功能团转换和构建C—C键方面占有十分重要的地位。含羧基的化合物具有价廉且易制备的特点,通过脱羧反应
17年初,在“娱乐至死”的综艺漩涡中,《中国诗词大会》、《见字如面》、《朗读者》作为综艺清流横空出世,引起了文化类综艺的小高潮,受到各方的赞誉。但是,这说明文化类综艺
一组优美的抒情诗篇──艾特玛托夫:《群山和草原的故事》张冰五、六十年代的苏联文学中兴起了一股“抒情浪潮”。“不仅抒情作品蓬勃发展、而且抒情风格的潮流席卷了广阔的文
随着经济下行、农业供给侧结构性改革、中美贸易战争的爆发以及国家对食品安全的监管更加严格,我国农牧业企业面临着前所未有的压力和发展“不确定性”。而有效的成本管理能帮助农牧业企业建立长久竞争优势,但由于我国农牧业发展起步晚,目前在成本管理方面存在管理理念落后、成本管理难度大等问题。战略成本管理就是将企业成本管理上升到战略的高度,与企业战略相结合,不仅局限于企业内部信息,更加注重外部环境对企业的影响,目
目前新生儿听力普遍筛查(universal newborn hearing screening, UNHS)项目在全国各地已得到了较为广泛的开展。本文介绍了新生儿听力的普遍筛查,浅谈了听力学评估和医学评估,