MPI高性能云计算平台关键技术研究

被引量 : 24次 | 上传用户:zhangyi202
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
云计算是一种新近流行的计算模式,是目前进行海量数据处理的主要技术手段。现有云计算平台技术虽然已较为成熟,但在处理兼具数据密集和计算密集的一类问题上仍有不足,效率较为低下。一方面,目前主流平台底层普遍采用虚拟化技术,所有软件和应用均运行在虚拟硬件之上,从而带来了一定程度上性能的降低,有文献指出,其性能损耗可达20%左右,本文使用非虚拟化方法构建云计算平台底层的模拟环境,在其上对其性能进行测试,实验表明,虚拟化技术的效率只有非虚拟化技术的50-70%;另一方面,现有云计算MapReduce模型,对中间数据采用先存储、再转发处理的策略,当中间数据规模变大时,产生了大量无用的远程I/O操作,其效率不能满足高性能计算的应用需求。本文在深入分析、研究现有云计算平台的缺点和MPI (Message Passing Interface)技术容错容灾能力的基础之上,自主研发了一种基于MPI的高性能云计算平台原型系统(MPI-based HPCCP)。该云平台不经过虚拟化,直接使用异构计算节点构建云平台底层;采用增加多级容错容灾功能的MPI技术和多线程技术重写MapReduce编程模型,避免大量无用的I/O操作,从而提高云计算的效率,以满足兼具数据密集和计算密集的海量数据高性能计算问题对云计算的需要。本文提出的"MPI高性能云计算平台”的主要创新点如下:1.针对现有云计算平台底层性能损失较大的问题,提出了一种云计算平台底层的非虚拟化构建方法。本文在节点异构环境下,不使用目前流行的虚拟化技术,而是利用MPI良好的异构环境开发能力,直接使用异构硬件架设云基础设施服务层,减少了虚拟化对云底层硬件性能的影响,从而提高了云平台效率,实验表明虚拟化技术的性能只有非虚拟化技术的50%-70%.这是本文的一个重要创新点。2.针对目前MPI在容灾能力上的不足,本文改进了MPI的容灾技术,提出并设计实现了一种MPI的多级容灾方案。虽然MPI有进行高性能计算的优异能力,但容灾能力一直以来是MPI的一个重要缺陷。此缺陷限制了MPI在海量数据处理上的应用。不解决此问题,无法将MPI技术应用于云计算之中。本文着重研究了MPI容错容灾技术,实现了“作业重调度”,“作业/任务恢复”和“动态任务迁移”三个不同层次的容灾方案,弥补了MPI容灾能力的不足,是本文的一个重要特色和创新点。3.针对现有云计算编程模型MapReduce计算效率的不足,本文提出并实现了一种基于多级容错MPI的MapReduce模型。现有MapReduce模型的数据传递由分布式文件系统所封装,计算过程中需要不断重复的对分布式文件系统进行I/O操作,从而影响了计算效率。本文使用多级次容灾MPI重写MapReduce编程模型,对中间结果进行直接处理,减少不必要的I/O操作,提高了云计算速度和效率,执行时间是当前主流云平台Hadoop的25%,这是本文的重要特色和创新点。本文从系统分片大小对性能的影响,多级容灾的健壮性、效率,新云计算平台的总体性能方面进行了详细的测试与分析。并将新云计算平台与传统Hadoop平台进行了比较。实验表明本文提出的MPI高性能云计算平台的执行效率是传统Hadoop平台的4倍以上。在文章的最后,本文对本文所做的研究进行了工作总结。并简要说明了有待于进一步研究的问题及将来的研究计划。本文下一步将针对如何解决各节点计算有依赖性的问题,以及如何在本平台实现节点间MPI并行、节点内CPU+GPU并行的问题进一步展开研究。
其他文献
进入新世纪以来,云南农产品加工业发展强劲、亮点不断。综合判断,目前至2020年甚至更长一段时期,云南农产品加工业将始终处于战略机遇期:由北向南,东中部地区的产业梯度转移势
随着信息化的发展以及国际战略政策的迫切需求,网络安全问题逐步成为研究的热点,尤其是教育信息化的快速建设。作为局域网典型代表的校园网,其网络安全的重要性更为明显,急需要纳
关于数学课堂的教学模式,我们平常重视较少,教学模式几十年来不是“满堂灌”就是“满堂问”,是一种一味追求数学知识纯客观性的结果式教学.伴随着新课程实施中对数学知识观的教学
在经济、信息全球化的今天,随着信息技术的高速发展,电子信息网络系统技术迅速成长以及供应链生产模式的繁荣发展,基于电子商务平台的供应链融资模式营运而生。这种全新的供
在教学过程中让学生在探究中思维,在思维中探究,采取"尝试——错误——纠正——解决——再尝试"的教学模式。文章认为,要创设一系列的功能各异的自创性实验,充分发挥实验在建
<正> 一、工作前的安装固定式的小型铡草机应固定在地基或长方木上,电动机与铡草机中心距离要符合要求;移动式大中型铡草机进行青贮饲料切碎时,应将轮子适度地埋入土中固定,
《灿烂千阳》是阿富汗籍美国作家卡勒德胡赛尼继《追风筝的人》之后在2007年推出的第二部力作。在《灿烂千阳》这部作品中,作者以独特的女性视角,记述了两位背负着伤痛的阿富汗
根据经济学观点,经济增长有两种方式,一种是通过资本总量的增长,即增加生产要素占用和消耗;另外一种是通过资本配置效率的提高,即优化生产要素配置和提高利用效率。目前我国的
目的:比较艾片与合成冰片的脑保护及其对血脑屏障影响机制,为阐释冰片“辛开入脑”,“开窍醒神”的科学内涵,并为临床合理用药提供参考。方法:本研究从整体-细胞-分子水平探讨
森林结构的定量描述有助于进行森林资源调查、管理和规划,有助于森林生物量的评估。激光雷达(Light Detection And Ranging. LiDAR)具有与被动光学遥感不同的成像机理,能够提