初始化卷积神经网络的主成分洗牌方法

来源 :北京工业大学学报 | 被引量 : 0次 | 上传用户:pennate
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了更好地初始化卷积神经网络,提出了一种初始化卷积核的有效方法,称为主成分洗牌方法.该方法首先对第1个卷积层的每个输入特征图的所有感受野进行采样,再对采样得到的图像块按输入特征图分别进行主成分分析,利用主成分分析得到的投影矩阵初始化该层卷积核,最后按上述过程依次对各层卷积核进行初始化.使用该方法在MNIST与CIFAR-10数据集上进行卷积层初始化实验.实验结果表明:与目前常用的随机初始化算法、Xavier初始化算法相比,该方法在提高网络的训练速度和测试集正确率方面均具有优越性.
其他文献
在高中心理社团中采用团体心理辅导既要重视团体辅导的效应影响,又要重视其对学生个性的影响,做到:第一是以社团人际关系改善为纽带,在增强心理社团凝聚力中培养学生良好团队
2月3日在宿豫县政府召开的有各乡镇分管农业书记、乡长参加的农机化管理工作会议上,县政府对农机管理和监理工作提出了“五抓”、“四加强”、“三提高”的农机化管理监理工
介绍了冲击钻成孔灌注桩施工工艺及灌注桩施工出现特殊问题及处理措施。对保证同类工程基础处理施工质量,加快施工进度提供了借鉴经验。
基础护理专业为了完善实训课程的教学,对护理实训室投入了大量的人力、物力、财力,旨在为学生们的实践课程做好保驾护航的工作。而为了职校生更好地锻炼自己的护理能力,人们
土木工程的高职高专教育目标是培养从事生产实际工作的应用技术型人才,教学的重点就是要突出培养学生的实际能力。根据高职高专教育的特点,对《土木工程制图》课程教学方法、教
"中国青蟹之乡"浙江省三门县位于我国黄金海岸线中段的三门湾畔,县域面积1510平方公里,其中海域总面积481.7km2,浅海59万亩,滩涂21万亩。三门县海洋资源丰富,养殖条件得天独厚
2010年上海世博会以探讨新世纪人类城市生活为主题,围绕"城市,让生活更美好",充分展示城市文明成果,为生态和谐社会的缔造和人类的可持续发展提供生动的例证。
奔特力海思德公司介绍美国海思德公司是美国目前从事水资源与给排水工程专业软件开发研究最大的的专业公司,创立于1979年。其全球总部位于美国康涅狄克州的Waterbury市。经过
应广大水产养殖生产者的要求,今年我们继续在4月至10月鱼病高发季节,组织我国主要渔业省(自治区、直辖市)水产技术推广站及水生动物疫病预防与控制机构开展水生动物疫病预测预报
2009年以来,按照国务院总体部署和农业部、四川省人民政府工作要求,四川省各地积极组织落实“安全生产年”各项活动,深入开展“三项行动、三项建设”,全年实现渔业船舶水上零事故