分布式图计算引擎设计与实现

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:j15890193764
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
互联网技术的应用导致了数据爆炸式地增长,而海量数据的分析和处理一直是业界挖掘数据中蕴含价值的着力点。图模型作为现实世界中对象及其关联关系的抽象,较之于传统关系模型可以更有力地表达数据的属性和数据间的依赖关系。分布式数据处理系统比如Spark、MapReduce主要作用于传统数据分析,且以批处理计算为主,无法很好地适应图数据的迭代式计算过程。而基于图的分布式处理系统着眼于图数据模型,一般按图顶点以GAS(Gather-Apply-Scatter)或者超步进行迭代式计算,从而实现大规模图数据的分布式实时分析和处理。本文设计并实现了一个图数据的分布式图计算引擎,该引擎借鉴了 Pregel和PowerGraph等典型图计算系统的设计方案,着重讨论了数据组织和迭代方式对系统性能的影响,主要工作如下:(1)设计并实现了分布式图计算引擎的内存图元数据及数据管理结构。以现有的图分片算法为基础,设计并实现了以边为加载粒度的基于贪婪策略的平衡点切割策略,将图数据分布式地从图存储引擎加载到图计算引擎内存中;设计并实现基于内存的顶点主备存储结构,并提供在迭代式计算过程中对顶点数据、及其备份数据和邻接点、边数据进行快速访问和修改的接口;计算过程中对内存图元数据进行主备存储,避免数据因单点故障而导致无法访问的问题。(2)设计并实现了分布式图计算引擎的计算模型。设计了同步迭代式的图计算模型,以超步Super-Step和子步Sub-Step分解执行实体,将执行实体与计算机资源绑定并制定调度策略以达到优化迭代效率的目的。结合PowerGraph中GAS迭代模式和Pregel中BSP迭代模式的特性,设计了一种基于子步迭代且超步同步的计算模型;计算模型采用多线程编程实现,用户自定义GAS程序使用共享库作为插件进行加载,将业务逻辑与计算引擎逻辑解耦;设计并实现了一种增量缓存模型,通过提前传输增量的方式降低超步迭代时的网络传输开销。(3)对分布式图计算引擎进行完整性功能测试和性能测试,测试通过自动化脚本执行,测试结果表明系统在图切分算法上能够满足负载均衡和计算邻近性的需求,且基于GAS的迭代模型能够成功提高图数据的处理效率。
其他文献
宏程序编程灵活、高效、快洁,是加工编程的重要补充,在不用CAM软件情况下也可以加工较为复杂的曲面,其强大的计算功能可以达到事半功倍的效果,本文通过教学实例来说明其应用
社会实践是青年学生锻炼成才的重要途径。学校作为培养和造就青少年的地方,要十分重视社会实践活动,并努力做到形式多样、措施有力,讲求实效,开拓创新,不断提高社会实践的科
本文旨在以中国2000年至2010年城镇建设的时间序列数据为依据,通过构建计量经济学模型,实证分析中国人口老龄化带来的可支配收入、价格水平及收入差距对城镇居民消费产生的影
目的:探讨直肠癌术后致抑郁症患者血清中白介素-6(interleukin-6,IL-6)水平及其临床意义。方法:选取2017年3月2019年5月我院收治的70例直肠癌患者为研究组,采用汉密尔顿抑郁量表(HAMD)评分表评定研究组患者抑郁情况。根据汉密尔顿抑郁量表(HAMD)评分结果将患者分为抑郁症组46例和无抑郁症组24例,其中的抑郁症组根据评分高低分为轻度组、中度组与重度组。选取同期来我院体检的
中国文化是模糊的文化,从这种文化中孕育而出的道家思想流传至今对中国人的思想、文学、艺术等方方面面产生了巨大的影响,著名学者叶朗更是将道家思想中的美学部分视作我国美学史的开端。道家思想影响了我国的山水画论从而影响了中国古典园林的营造。王澍作为中国首位获得普利兹克建筑奖的建筑师是代表当代中国建筑的新生力量,他的设计作品处处流露出对中国文化的崇敬之情,王澍满怀对山水画论的兴趣,又对中国古典造园文化的崇敬
电站锅炉运行状态参数的准确测量是电厂提高生产效率以及安全运行的关键,而电站锅炉烟气流量和温度检测对优化电厂燃烧以及控制污染气体排放具有重要的意义。由于烟气管道环
沙特对也门政策一直是其对外政策中重要而独特的组成部分。自1962至2010年,沙特总体上实现了打压、控制也门的政策目标,但中东剧变以来其也门政策却逐渐陷入困境,2015年后的
警灯通常是安装在警务车、消防车、救护车等特种车辆的车顶上方的位置,起到警示、开道、震慑等作用。随着人们对特种车辆整体的气动性能的提升提出了要求,在一定的行驶速度下的警灯气动性能提升、是否符合人们审美等多方面的发展同样有待拓展和完善。本文先采用流体仿真软件对两款国内常见的警灯进行三维数据在相关设置参数下仿真分析得出数据基础,然后根据与警务人员交流和结合相关工业设计理论方法设计六款警灯设计方案,并同样
动力电池的热安全问题是电动汽车所面临的关键问题之一,为保证电池的热安全本文设计了一种动力电池散热系统,同时研究了散热系统的流场分布情况对于电池温度特性的影响规律,
<正>最近,日本发生里氏9.0级地震,引发了海啸。海啸是一种破坏力极大的自然灾害,它又一次引起人们的密切关注和高度重视。破坏严重杀伤大根据海啸形成的不同情况,科学家将其