基于自适应学习率的深度信念网设计与应用

来源 :自动化学报 | 被引量 : 0次 | 上传用户:pingguotailang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对深度信念网(Deep belief network,DBN)预训练耗时长的问题,提出了一种基于自适应学习率的DBN(Adaptive learning rate DBN,ALRDBN).ALRDBN将自适应学习率引入到对比差度(Contrastive divergence,CD)算法中,通过自动调整学习步长来提高CD算法的收敛速度.然后设计基于自适应学习率的权值训练方法,通过网络性能分析给出学习率变化系数的范围.最后,通过一系列的实验对所设计的ALRDBN进行测试,仿真实验结果表明,ALRDBN的收敛速度得到了提高且预测精度也有所改善.
其他文献
高粱是陕西省的传统作物,栽培历史悠久,具有适应范围广、抗逆性强和经济产量高等优势;但是陕西省高粱生产一直处于低位运行,大量高粱需要外部调运或者进口,严重制约陕西省高
<正>复习课,是教师引导学生对已学过知识的重新组合和综合提高,是对基本知识和基础问题的再认识和升华,以及更扎实地掌握。要使复习课充满生机和活力,就需要重组教材,实现学
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
【摘要】小学音乐教学中蕴含着丰富的情感因素,运用得当对学生的学习兴趣激发、学习成效提升等方面具有积极意义,教师要结合教学设计充分考虑情感因素的作用,创设良好环境、拓展教学内容、优化教学方式以及改进评价方式,为学生的全面发展奠定基础。  【关键词】小学音乐;情感因素;作用分析  在小学音乐教学工作中,情感因素对教学的影响较为明显,小学生充满兴趣、充满激情投入到小学活动之中,不仅学得更加有劲头,而且掌
Background: Large numbers of Forcibly Displaced Myanmar Nationals (FDMN), also called the Rohingya community, in Bangladesh face chronic life-threatening illnes
农作物种子检验人员素质高低关系种子检验工作的有效开展。2006-2015年江西省认真落实种子检验员考核制度,采取了一系列新的举措和机制,取得了显著成果。十年的工作实践值得
对广西宁明县2种更新方式(植苗林更新和萌芽林更新)尾巨桉中龄林(4年生)地上部分生物量和生产力进行比较与分析。研究结果表明:4年生植苗林和萌芽林地上部分各器官生物量分配
建立能反映省煤器工作状态的模型是锅炉建模的必要环节。基于能量守恒和质量守恒,将系统动力学原理应用于省煤器,以因果回路模型和存量流量模型为载体,提出了省煤器的系统动
中国历史上有名的恭王府坐落在北京什刹海附近,这座名不见经传的府邸曾经是清朝乾隆时期权贵、大贪官和珅、庆郡王永璘及其后人和清朝晚期恭亲王奕訢及其后人的居住地,有了浓