分布式计算引擎架构设计及在城市数据分析中的应用

来源 :东南大学 | 被引量 : 0次 | 上传用户:jjjjedu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在城市中存在很多时空数据,如网约车的轨迹数据、手机信令数据、道路交通流量数据等,这些数据往往体量巨大,它们在虚拟的数字世界构成了真实世界的映像,其中蕴含着大量的财富。然而,城市数据的出现不仅仅带来了机遇,也带来了对工业界的挑战,其中一大难点便是城市数据分析中出现的算力问题。城市大数据体量大、多模异构等特点,造成了极大的计算负荷。与此同时,摩尔定律已到末年,单核CPU性能难以保持持续上升的势头。因此,使用分布式计算、异构计算等技术加速城市大数据分析和进行应用的高性能部署具有重大的实际应用价值和理论研究价值。本文的研究目标,就是在开源工具的基础上,在城市大数据分析的场景下,通过设计分布式后端计算引擎,有效地调度包括CPU、GPU、存储、通信等硬件计算资源,以实现各类城市大数据挖掘任务在高性能服务器集群上稳定、高性能、易用地开发、运行和部署。本文的主要工作及创新点如下:1、对计算引擎所面向的任务进行需求分析。首先,本文将计算引擎所需要解决的计算任务分成两类:面向大规模数据的挖掘任务和高并发的交互式计算任务。本文分析了两类计算任务各自的特点,包括其计算流程、可能出现的算力瓶颈、对应的加速方案和计算架构等。2、对计算引擎各组件进行方案选择和架构设计。在上述分析的基础上,通过对各类开源工具和分布式框架的调研,本文在Docker技术、分布式资源管理和容器调度工具Kubernetes、分布式计算引擎Spark、分布式存储系统Hadoop等开源技术的基础上构建了一套完整的后端计算引擎,其功能包括大规模数据的分布式存储和管理、异构计算资源实时调度、高性能大规模数据分析、交互式计算支持等。3、选取案例在计算引擎上进行实际测试。本文中选取了两个城市规划与管理的实际应用作为两类任务的案例,在设计的计算引擎上进行分布式地部署和加速,以验证架构设计的正确性和高性能:对于大规模数据挖掘任务,测试了在1.5亿条LBS数据上进行驻留点检测的算法,与单机相比,分布式部署可以达到360倍的加速效果。对于高并发的业务部署场景,本文选取了一个基于Res Net的城市人流量预测应用,通过Kubernetes动态调度GPU,实现了该应用的高并发部署。进一步地,本文使用一种软件模拟的系统负荷承载测试方案,通过程序仿真用户行为达到测试集群承载能力的目的。实验结果显示9台服务器组成的集群可以容纳超过300名用户在系统上同时作业,本文也分析了GPU卡的数量、集群数量、通信情况对于整体性能的影响情况。
其他文献
一根分子链上同时含有正负离子的两性共聚物在药物控制释放中具有增强药物载体突破细胞膜能力的特殊性质,但是由于该共聚物在水中失去了胶体稳定性,因而如何制备纳米粒子成为了难题。本课题组之前的研究中发现在乙醇中嵌段两性共聚物(聚甲基丙烯酸嵌段聚4-乙烯基吡啶,PMAA-b-P4VP)与无规两性共聚物(聚甲基丙烯酸共聚4-乙烯基吡啶,PMAA-co-P4VP)呈现了完全不同的性质,无规两性共聚物溶于乙醇,而
学位
Ti(C,N)基金属陶瓷作为刀具领域硬质合金的理想替代材料,具有红硬性高、造价低等优点。为提高金属陶瓷力学性能,金属陶瓷的硬质相采用Ti(C,N)基固溶体。目前多阴离子组元高熵陶瓷和高熵陶瓷粉体的研究较少。本文制备了单相高熵碳氮化物粉体,探究煅烧工艺对粉体物相和形貌的影响,并用粉体制备高熵陶瓷和金属陶瓷,探究其组织结构与力学性能间的关系。过渡金属氧化物可以在氮气气氛下与碳反应生成过渡金属碳化物和氮
椰蓉是椰肉磨碎榨汁后的产物,其含有多种活性成分,具有抗氧化、抗癌、降血脂、杀菌等多种功能,多用于食品,其作为海南地源性资源,在饲料上的研究鲜有报道。本研究通过以自然发酵椰蓉作为分离源,分离得到国家农业部允许使用的微生物添加剂菌种即酿酒酵母和植物乳杆菌,以椰蓉和豆粕为原料进行发酵饲料的工艺优化及品质评定的研究,探讨发酵工艺流程及发酵条件的影响,评价椰蓉作为饲料开发与利用的价值,为海南椰蓉综合利用提供
生物滞留设施作为海绵城市建设中微观尺度构建的一种最佳的城市雨水管理设施,因其设计规模、布置和构造的灵活性及美观性而成为海绵城市中广泛分布且数量众多的设施类型。其中,植物的选择和合理设计是生物滞留设施功能发挥的关键,也是其提供更广泛生态系统服务功能的基础。本文提出生物滞留设施地被植物群落设计方法,旨在从风景园林植物种植设计角度探索生物滞留设施的多元生态系统服务功能,对海绵城市建设发展有积极意义。首先
在经济下行压力不断增大的发展“新常态”下,以要素升级、结构调整和创新驱动为动力的经济转型不断加快。在这一总体背景下,作为推动经济社会发展战略重地的高等教育供需匹配问题凸显。我国长期以来实行的需求侧管理带来阶段性高等教育辉煌成就的同时,却难以解决高等教育有效供给不足、供需错配、办学效益和育人质量低等问题。与经济社会转型升级的要求相匹配,高等教育系统也正面临着向内涵式发展的范式转换,高等教育供给侧改革
学位
早期功利主义思想家们往往注重理论体系的构建,忽视对理论本身和前提的证明,因而受到人们的质疑和诘难。密尔认识到功利主义很多难以自洽的地方,为了维护功利主义,密尔结合新的历史条件对功利主义的部分原理进行修正,否定边沁功利主义的冷酷计算,强调人对精神的追求并肯定自我牺牲,从而使功利主义焕发新的活力。思想言论自由是密尔自由思想的核心内容。与弥尔顿的言论自由观相比,密尔通过肯定人类多种生活方式的价值,重申人
学位
机场刚性道面在开通使用一段时间后,由于受到施工过程中的人为因素、服役过程中的外界环境因素以及复杂多变的荷载作用的影响,其表面功能性构造特征会逐步丧失,内部结构出现损伤破坏,整体性能不断衰减,以至于出现严重病害。造成这些病害始终无法根治的原因之一是对机场刚性道面的结构特性和内部损伤发展过程还缺乏深入的研究,这一缺陷给道面结构的设计、施工、养护和改建工作带来很大的盲目性。因此,有必要采用更合理的方法研