深度学习中三种常用激活函数的性能对比研究

来源 :北京电子科技学院学报 | 被引量 : 0次 | 上传用户:lixuechao0926
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
以目前神经网络研究领域应用比较广泛的Sigmoid函数、双曲正切函数以及校正激活函数为研究对象,通过谷歌发布的机器学习平台Tensorflow中的神经网络可视化实验操作平台Playground,在给定网络拓扑结构的情况下,对三种激活函数的性能展开对比研究。分别在调整学习率与网络深度的情况下观察基于上述三种激活函数的神经网络的分类效果。通过分析实验结果,探讨三种激活函数的应用场景,并对深度神经网络中激活函数的选择方式给出建议。
其他文献
在当前环境趋势下,职业院校实习实训中融入创新创业教育,既是学校开展大学生创新创业教育的一种手段,又是职业院校内涵式发展的重要组成。本研究以创新创业教育为切入点,结合
数字媒体艺术行业随着产业向纵深发展,人才问题日益突出,产教融合实施过程中出现的定位不清,管、办、评关系不清,措施不实等系列问题亟待解决,本文从顶层设计的视角入手,提出
磁场对化学反应有一定的促进作用,可以作为污水处理技术的有效强化措施,提高常规处理技术的处理效率。本研究将磁场与城市污水深度处理技术进行结合,分别研究磁场强化混凝深
职业教育必须坚持产教融合的教育模式,推行产教融合、校企合作,是高职院校培养技术技能人才的根本途径。黄冈职业技术学院以培养适应老区经济发展急需的"下得去、留得住、用得
寿宁县地处福建东北部,山地地区,平均海拔为600米,属于中亚热带湿润气候区,全年平均温度为15.2℃,昼夜温差较大,降水量平均在2000毫米以上。春薯3号属于晚熟品种,生长期在4个
NFC技术,即近距离无线通讯技术,是在RFID技术上发展而来的一项新技术,近年来被广泛应用于移动支付、物联网、数据交流等领域。本文在对NFC最重要的数据交换协议—NDEF协议的研究分析基础上,采用模糊测试的思想,使用ACR122U等工具,设计了一套基于NFC数据交换格式协议的漏洞挖掘系统。详细阐明了此系统的用例构造、自动化测试、异常监控等几大模块的设计方案和实现方法,并介绍了异常监控的方法与实现,
毛泽东,缔造新中国的伟大革命家;华罗庚,开创举世公认的“中国数论学派”的伟大数学家。这两位伟大人物在生前的交往中留下了令人回味的篇章。 看戏谈育人 1952年全国第二次
通过固原市原州区近10年胡麻生育观测资料以及胡麻的生长适宜环境分析总结得出,影响原州区胡麻生育状况及产量形成关键因子的光、热、水条件基本适宜,生长期内光、热充足,水
价格战是工程机械行业的热门话题,也是大多数人的攻击对象,扮演着负面角色。很重要的一个原因是,价格战导致行业利润不断萎缩,其压力已经让很多企业感到有点儿喘不过气来。但
期刊
邹甲申教授在北京《科学社会主义研究》杂志93年第8期上撰文推荐,扬州市社科联副主席、副研究员孙德庆先生撰写的新作《中国特色社会主义研究》一书。该书阐述了邓小平同志建