【摘 要】
:
深度神经网络已被广泛应用于各行各业,其中循环神经网络在时间序列预测,语音识别等方面具有很好的效果,根据实际应用设计出的模型比较复杂,循环神经网络中通常包含大量需要训练的参数,要训练出一个效果良好的模型,需要很长的训练时间。因此,如何提高深度学习方法在求解复杂预测问题上的性能是当前计算智能领域的研究热点。现有的循环神经网络预测方法,面对大规模的复杂计算问题具有挑战性,设计一种高效稳定的学习模型势在必
论文部分内容阅读
深度神经网络已被广泛应用于各行各业,其中循环神经网络在时间序列预测,语音识别等方面具有很好的效果,根据实际应用设计出的模型比较复杂,循环神经网络中通常包含大量需要训练的参数,要训练出一个效果良好的模型,需要很长的训练时间。因此,如何提高深度学习方法在求解复杂预测问题上的性能是当前计算智能领域的研究热点。现有的循环神经网络预测方法,面对大规模的复杂计算问题具有挑战性,设计一种高效稳定的学习模型势在必行。为解决这一重要的问题,图形处理单元(GPU)已被用于加速学习模型的优化过程。本研究在GPU平台上提出一种集成聚合模型来实现循环神经网络的并行优化,并且进行光变曲线的预测。首先,对本文研究的循环神经网络进行分析,根据循环神经网络的特点选择合适的网络作为集成模型的子网络,并研究各种优化算法对模型收敛速度的影响,使得模型训练的计算量减少,提高训练速度,从而在不影响精度的前提下对模型进行优化。其次,对光变曲线的获取和处理做了深入研究,对数据进行采样、数据增强和特征工程使其更加符合模型要求,构造更显著的特征加速模型训练。然后对子模型进行网络优化,提高GPU利用率,从模型并行和数据并行的角度解决循环神经网络计算量巨大的问题,优化模型训练框架,将子模型聚合成集成模型进行并行训练。最后,根据设计的模型及优化方法在GPU平台上进行一系列的实验,研究使用单GPU训练和使用多GPU训练的加速效果,调整参数得到最优的子模型,使用集成方法得到最优的集成模型。综上所述,本文工作以天文光变曲线为研究对象,采用循环神经网络模型作为子学习器,搭建多层深度学习模型并聚合成集成模型,在实现光变曲线预测的同时大大提高模型训练速度,研究提取时间序列特征的方法和优化训练相关算法,通过对基于GPU的并行循环神经网络的设计与实现,进行一系列实验来评估并行加速学习方法的性能,使用多种模型评价方法进行度量。证明本文所使用的模型在不损失预测精确度的情况下能够提高训练效率,验证本文提出方法的合理性和实用性。
其他文献
研究背景线粒体磷酸甘油脱氢酶(Mitochondrial glycerol-3-phosphate dehydrogenase,mGPDH)是与核黄素相连接的线粒体呼吸链脱氢酶,m GPDH既是呼吸链的重要组成部分也是调控
目前我国城市间物流发展不均衡、物流业分布不均影响了物流业的持续发展,物流网络可推动工商业发展、提升城市竞争力、促进物流业集约发展,对物流业发展有重要意义。在“一带一路”大背景下,物流业在我国与沿线国家的国际产能合作中有重要作用。但目前《愿景与行动》中划定的节点城市建设程度不同、定位模糊、节点功能雷同,而物流网络具有整合物流资源、增强城市竞争力、明确节点城市定位的作用,故在“一带一路”背景下以我国部
目的:观察肠内营养结合益生菌对重症颅脑损伤后胃肠功能紊乱患者疗效的影响.方法:选取2018年4月至2019年4月我科收治的180例重症颅脑损伤后胃肠功能紊乱病人,通过随机数字表
裂隙岩体中裂纹的扩展贯通问题是岩土工程领域的重要研究课题,对工程设计、施工、监测、维护等有重要的理论指导意义。为了探究裂纹的存在对裂隙岩体破坏特征的影响,本文综合运用理论分析、室内试验、数值模拟手段对预制裂纹类岩石材料进行研究。主要的研究成果如下:(1)采用类岩石材料进行预制主次裂纹室内试验,针对主次裂纹不同组合情况进行了5组试验。结果表明:不同裂纹组合下均是主裂纹尖端首先起裂;主次相交时,次裂纹
孔子学院中华文化海外传播是我国文化国际传播的重要组成部分,在文化强国战略的实施中起着至关重要的作用,关乎国家利益,是一项党和国家事业发展的战略性任务。自古以来,中国就没有停止过对外文化传播的步伐,不断地扩大中华文化的国际影响力,为世界文化传播与交流作出贡献。新中国成立以来,党和国家高度重视中华文化的海外传播,孔子学院的成立响应了国家号召,同时对增强我国文化国际竞争力、提升国家文化软实力、提高国家话
目前每个公司拥有的数据量和需要处理的事务日益增多,促使所有公司将业务云化处理,IVCE平台就是为了进行日常全国网络各运营商和省市状况的测试而开发的平台,为了能够使得测
研究背景:慢性肾功能衰竭继发的钙磷代谢紊乱伴发继发性甲状旁腺功能亢进症(secondary hyperparathyroidism,SHPT)是慢性肾脏病(chronic kidney disease,CKD)最常见的晚期并
米歇尔·德塞都(Michel de Certeau)是法国著名的后现代思想家,他的日常生活实践理论为我们提供了一个细微的视角,提醒我们注意大众看似平凡无奇的日常生活中的细枝末节,从而探讨发掘出那些对整体宰制的抵制力量。本文以米歇尔·德塞都的日常生活实践理论为研究对象,试图系统地梳理与探究其理论来源、核心概念及主要思想,并尝试使用日常生活实践理论来解读当下新媒介语境中读者的阅读实践与其它新媒介文化现
作为能建立英语词素与读音之间的对应关系、培养学生单词拼读与拼写能力的一种有效方法,自然拼读教学近年来受到了许多学者与中小学一线教师的关注。笔者所在的A小学,也有部分教师把自然拼读应用到英语课堂中实施教学。但据笔者调查,A小学的自然拼读教学过程中出现了两个问题:1.学生缺乏学习兴趣,单词拼读能力有待提高;2.自然拼读法运用不够理想,较为死板。笔者基于当前A小学在自然拼读词汇教学过程中出现的问题,将输
“一带一路”倡议架起了中国与欧亚地区联系的桥梁,加大了对外开放的力度,有序开展了国际间的合作,稳步推进与世界人民在政治、经济、文化等方面的交流,是全方位、多方面助力我国繁荣、可持续、快速发展的重大举措。中欧班列作为推进“一带一路”倡议实施的关键因素,在促进区域协调发展、提升基础设施互联互通水平、加速对外经贸发展进程、培育我国新经济增长点、推动中欧班列高速发展等方面具有积极作用。“山景终须横向看”,