基于YARN的GPU训练平台的设计与实现

来源 :北京交通大学 | 被引量 : 0次 | 上传用户:kongs874
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当今时代,大数据为企业带来精准分析和生产指导的同时,也给存储和计算带来了巨大的压力。为了满足海量数据的处理需求,大数据计算应运而生。大数据计算包含多种计算模式,不同计算模式的平台在集群的任务调度和资源管理层面上都有自己的解决方案。YARN作为一种通用的任务调度和资源管理平台,能够支持不同计算模式的平台在其上运行,从而使得集群的物理资源能够在统一的平台下进行管理。GPU相对于CPU最大的优势是提供高性能的并行计算,传统的CPU运算很难保证效率。目前,以YARN为代表的分布式资源管理平台仍然具有一定的局限性。一方面,虽然YARN提供了完整的第三方平台接入解决方案,但是目前第三方平台仍集中在一些大数据有关的平台上,缺少对机器学习相关平台的支持。另一方面,YARN中仅支持CPU和内存两种资源的管理,不支持GPU资源管理,同时缺少异构资源环境下的资源调度策略。为增强GPU对机器学习并行计算的支持,本文设计并实现了基于YARN的GPU训练平台,对YARN底层资源模型进行优化改进,把GPU资源加入底层资源模型,完成YARN对GPU资源的管理和调度支持。从而实现支持GPU调度的机器学习分布式训练平台。本文具体工作主要分为以下四部分:(1)对现有的分布式调度架构和机器学习平台进行对比分析,完成对本文平台的技术和架构选型。(2)基于选型结果,设计基于YARN的GPU训练平台。具体包括对基于YARN的GPU训练平台的架构、应用抽象与协议、应用执行流程的设计与实现。(3)在分布式训练平台的基础上,设计与实现YARN的GPU资源管理与调度机制,完成GPU-FIFO调度器的设计。(4)针对任务提交等待时间和任务运行时间两个性能指标,对平台进行性能测试,比较GPU-FIFO调度器相对原始FIFO调度器的调度性能以及在YARN中运行MPI分布式任务相对直接在物理机环境下运行MPI分布式任务运行时间上的损失。测试结果表明,基于YARN的GPU训练平台能够在不影响YARN原始调度性能和任务执行速度的情况下,支持在YARN上运行MPI分布式训练任务。使用GPU-FIFO调度器相对原始FIFO调度器训练效率明显提高,达到了预期要求。
其他文献
随着中国金融市场化的不断完善,当前我国正在逐步进行货币政策运行机制的转轨,也即是将以银行信贷为基础的货币政策运行机制转变为以市场为基础的货币政策运行机制。为了改善现有的市场化金融市场运行机制,除了在保证金融市场稳定运行的前提下,提高市场中微观主体对价格设定的敏感性,还应当保证货币政策的有效性以应对当下复杂国际国内态势对金融市场的冲击。利率市场化在国际货币政策的影响下取得阶段性成果,已经降低了货币政
背景及目的:经口内镜下肌切开术(Peroral endoscopic myotomy,POEM)是一种内镜下微微创选择性肌切开术,因其具有疗效佳、安全性高等优点,逐渐成为治疗贲门失弛缓症(Achalasia
进入二十一世纪以来,随着经济社会的高速发展,环境污染问题日益严重。半导体光催化技术作为一种能耗低、稳定性好、清洁无污染的新型技术,在环境污染治理领域受到了广泛关注
环糊精(CDs)是一类具有亲水性表面和疏水性空腔的环状低聚糖,能够包埋疏水性的分子或基团形成水溶性的包合物,这一特性使CDs广泛应用于化妆品、制药、食品、化学工业等领域。环
车载自组织网络(Vehicular ad hoc network,VANET)是未来智能交通系统中不可或缺的关键部分,人们对于各种面向VANET的应用需求日益增长,导致专为VANET划分的通信频段出现供不
生物技术不断发展,无细胞合成技术使得重组蛋白质能够快速的表达,并且大大提高了经济性。现在有许多高活性的CFPS平台可用,并且最近已用于合成生物学。应用无细胞蛋白质合成
新疆贡梨果实硕大,黄亮美观,皮薄多汁,味浓甘甜,在全国备受欢迎。但是采后在贮藏和运输中,贡梨容易产生失水,营养损失,表皮锈斑等不良现象,严重影响果实品质,产生巨大的经济
当前,无煤柱护巷技术主要是通过沿空留巷和沿空掘巷来实现的。其中,沿空留巷时需要经受两次工作面采动的影响,巷道维护成本较大,而一般沿空掘巷也需留设保护煤柱。针对此现象,本文研究了一种综放巷内预置充填墙无煤柱开采技术,实现了无煤柱开采,其工作原理为上区段工作面回采前,在预先开挖好的巷道内紧靠非截割帮预先构筑充填体,下区段工作面回采前沿充填体掘巷。本论文以新巨龙煤矿2304S工作面的具体地质条件为依据,
近年来,随着工业化水平不断的提高,水污染问题也日益严重,面对大量的难降解有机污染物,传统的污水处理技术难以将其有效去除。因此,需要寻求新型高效的技术来解决这些难题。光催化技术因其高效环保、可有效分解难降解有机污染物等优点一直受到人们的关注。在众多光催化材料中,卤氧化铋和Bi_2O_4因其独特的电子结构和具有良好的光催化活性,而备受重视。但两者仍存在着光生载流子复合率较高等不足,光催化性能仍需进一步
在油气田钻井、排采生产过程中,使用的各类管具、钻具、套管和油管常常处于富含O2、H2S、CO2或酸性电解质溶液中。在动态环境下,由于水力和机械力的相互作用,电化学腐蚀或其