【摘 要】
:
随着大数据技术的迅猛发展,全球范围内掀起了大数据技术研究的热潮。车站的货车运行故障动态图像检测系统(TFDS)用于检测货运列车部件状态,使用传统技术难以处理TFDS产生的海
论文部分内容阅读
随着大数据技术的迅猛发展,全球范围内掀起了大数据技术研究的热潮。车站的货车运行故障动态图像检测系统(TFDS)用于检测货运列车部件状态,使用传统技术难以处理TFDS产生的海量数据,需要使用机器学习等基于迭代计算算法的技术提取海量数据中有价值的信息。而迭代计算任务需要消耗大量的内存空间,当迭代计算任务所需的内存空间不足时,大数据平台需要替换内存中已有的中间结果。目前应用较为广泛的大数据平台有Spark等,Spark默认使用最近最少替换算法(LRU)在处理列车故障图像识别任务时,内存利用率不高,导致列车故障图像识别任务效率低下。基于以上背景,本文研究大数据平台缓存替换策略,提出了Spark平台中弹性分布式数据集(RDD)计算成本的缓存替换策略,通过优化缓存策略的平台缩短列车故障图像识别模型训练的时间。本文主要的工作如下:首先,本文根据RDD权重值优化并提出缓存权重替换(CWS)算法。列车图像数据量巨大,Spark默认的LRU缓存替换策略频繁淘汰RDD分区,CWS算法优化了选择策略,并在替换阶段充分考虑了历史访问次数与计算成本。通过使用斯坦福大学提供的公开数据集进行测试,实验结果表明CWS算法在内存充足的条件下处理较小数据的内存占用率要低于其它算法,在内存有限条件下处理数据的时间要少于其它算法。其次,本文通过卷积神经网络(CNN)方法实现列车故障图像识别,使用Tensor Flow机器学习计算库设计模型,提出了多类货运列车(MFT)故障图像识别模型。同时,采用Tensor Flow On Spark技术优化Tensor Flow的资源管理并改进其任务调度策略。通过以株洲车辆段货运列车故障图像识别为例进行实验测试,实验结果表明CWS算法能够缩短MFT模型的训练时间并提升Spark平台的资源管理与任务调度性能,MFT模型能够有效地识别货运列车的故障,为设备故障检修提供便利。
其他文献
土性参数变异性和施工参数的不确定性对软土深基坑力学性状有着重要影响,而既有成果大都仅关注土性参数变异性的影响,未深入研究施工参数不确定性对基坑力学性状的影响。因此,本文兼顾了土性参数变异性和施工参数不确定性对基坑力学性状的影响,主要完成了以下工作:(1)广泛调查基坑事故案例,分析基坑事故类型,按不同责任单位统计事故发生原因。统计结果表明设计和施工原因是引发事故的主要原因。(2)通过有限差分数值分析
城市道路网络是城市系统的重要组成部分,其结构对于城市交通运行有着重要的影响。在目前城市交通拥堵愈发严重的背景下,要解决城市交通问题首先要从了解城市路网的结构开始,而传统的研究大多只是对城市路网的形态做出简要的分析,所使用的研究方法偏重于定性的描述,缺乏对路网结构特点的深层次研究,亟需引入新的理论和方法对城市路网的空间结构展开更为细致的研究分析。近年来复杂网络的研究一直受到学者的关注,对其各项特性的
半导体材料被广泛应用于太阳能电池和光电化学领域,解决人类社会目前面临的能源危机和环境污染,而受到科研人员的广泛关注。针对不同的应用,研发出具有不同特性的半导体材料,
目的:探讨半乳糖凝集素-3(Galectin-3,Gal-3)在慢性射血分数保留心力衰竭患者中的表达水平,评估其对慢性射血分数保留心衰的诊断价值及短期不良预后的预测价值。方法:选取2017年6月至2018年5月至青岛大学附属医院心内科就诊的诊断为慢性心力衰竭患者共193例和同时期住院无心衰症状和体征者103例。根据心衰情况分为三组,即非心衰(Non-HF)组(103例,LVEF≥50%)、射血分数
目的:1.明确机械应力下细胞外金属基质蛋白酶(EMMPRIN)在人牙周膜细胞(HPDLCs)中的表达情况。2.研究机械应力下EMMPRIN及血管内皮生长因子(VEGF)在HPDLCs中的可能联系。3.探
外伤性尿道狭窄是泌尿外科范畴内较为棘手的临床问题,随着现代社会发展及城市化进程的不断推进,包括交通事故、高空坠落等意外频发,骨盆骨折所致后尿道损伤的发生基数在不断
目的:比较异种骨材料Bio-Oss骨粉经侧壁开窗法植入上颌窦内后不同时期的成骨效果。方法:对24例(25侧)患者行侧壁开窗法上颌窦底提升植骨术,采用单纯Bio-Oss骨粉作为植骨材料
近20年太赫兹技术在通信、无损检测、成像等领域飞速发展,太赫兹频段的各类高性能天线需求日益增加。可重构反射阵列天线具有高增益、快速调制、波束扫描与波束合成的性能得
玄德是1930年代末在小说和童话两个领域进行文学创作的朝鲜现代作家之一。不同于当时的主流儿童文学把小说的重心放在儿童成长与情感发育,玄德摆脱了主流文学框架,在现实主义文学的领域创造出了属于自己的,独特的文学写作方式及书写方式。他的创作重点并不在于儿童小说的教训主义,而是把创作重点放在儿童的心理和行动上,并以充满童心的,以儿童的视角来描述的现实主义观点完成了作品。本文以“属下研究”的视角深层分析了玄
卷积神经网络(Convolutional Neural Network,CNN)是深度学习领域重要的模型之一,近些年来被广泛应用在图像视频处理等场景中。在图像识别任务中,CNN对图像特征的不变性和良