大数据一体机软件中间件设计与研究

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:kulahai
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据一体机软件中间件是大数据和云计算领域研究的重要方向之一,大数据一体机独特的产品形态解决了大数据时代基础设施的持续化扩展问题,大数据一体机软件中间件的设计与研究有助于满足日益繁多的上层应用对海量数据的存储、计算需求,帮助系统充分发挥硬件性能,提高系统资源利用率,降低整体成本,进而促进整个大数据一体机生态的可持续发展。本文对大数据一体机软件中间件的研究主要包括以下两点:提出了一种基于排队论和粒子群的自适应容器资源调度算法。无论是在传统的数据中心还是当前的大数据一体机环境中,日益繁多的应用产生了大量的任务,不断增加的任务请求和系统环境下资源有限的状态形成了鲜明的矛盾。有效提高一体机的资源利用率是解决该矛盾的主要手段,本文基于容器技术提出了一种自适应容器资源调度算法,该算法依托排队论构建了任务平均等待时间和系统容器资源利用率的数学模型,在求解该模型的过程中使用了收敛速度更快的粒子群算法,求解结果可以帮助我们精确的调整容器的数量,最大化的节约资源。实验表明,该算法在满足任务平均等待时间的前提下,显著提高了系统资源利用率,且和主流的Kubernetes基于增量调度和全量调度的模式相比,本算法的任务平均等待时间更短、系统综合资源利用率更高。给出了大数据一体机软件中间件系统架构实现。该实现集成了主流的软件中间件技术,整个软件中间件使用了上述自适应容器资源调度算法,使整个大数据一体机软件中间件在满足任务平均等待时间的基础上具备弹性伸缩的能力,提高了系统综合资源利用率。除了满足大数据一体机的日常计算、存储需求外,结合当前研究重点设计了基于多级缓存的分布式存储模块显著提高了数据检索效率,并通过设计HBase文件索引以及大文件检索模块提高了HBase非主键索引和大文件存取性能。
其他文献
为了满足飞秒超快激光技术和集成光学发展的需要、解决β-BaB2O4(β-BBO)体单晶中因厚度带来的群速度失配问题以及脉宽展宽等问题,人们开始了β-BBO薄膜的制备技术研究.文章
【中图分类号】G4 【文献标识码】A 【文章编号】2095-3089(2015)09-0280-01  精心设计的教案,精美的课件,激情地讲解,而孩子们却自顾地玩起来:翻书的、说话的、做小动作的,这是我曾经遇到的,可能也是大家正在遭遇的状况。真的,很痛苦。记得,有一位老师,我的同事,对我说,面对乱哄哄的课堂,我真想哭!面对这种状况,有时我们真的很无措。但反念一想,他们毕竟刚从幼儿园踏入小学的大门,
【正】每年新学期的开始,教师们往往会下定决心在工作中取得好成绩,工作的热情饱满、高涨。两个月过后,紧张的感觉开始滋生,备课、上课、开会、评价等开始占据了他们生活的全
[目的]通过对伴有轻中度慢性牙周炎的错患者使用隐形和固定矫治器正畸治疗前后上下前牙区牙根长度、不同位点牙槽骨高度及牙根周围牙槽骨面积进行测量,分析两种矫治器在成
内容摘要:当今社会的发展将教育推进到一个新的阶段,新时期的班主任要有能应对新问题的新方案,当代的班主任要解放思想,与时俱进。真正做到以人为本,关注学生的全面发展和全面成长。同时还要尊重学生的个性发展,拥有针对性的,更人性化的方法化解学生心中的烦恼,塑造心灵的晴空。担负起心灵的呵护者的神圣使命。  关键词: 班主任 教育 社会发展 新时期  【中图分类号】G630  苏霍姆林斯基曾告诫我们:“要像对
传粉者与植物之间的密切关系是生物之间互惠共生、协同进化的典范,本文以蓝靛果忍冬(Lonicera edulis)及大花百合(Lilium megalanthum)为材料,前者为多年生灌木植物,后者为多年生草
应用广义函数理论对复数域本征方程导模的求解问题进行了分析并提出了一种可靠的初值选取方法—分步迭代法,不仅计算量少,并且无需人工选取初值.对经典算例做了计算并与文献进
本文基于扎根理论的三级编码,研究国际海事组织新闻简报的关键词及其分类,从而揭示从2010年到2018年期间国际海事组织的关注热点和工作重点,以及在这九年之间工作重点的变化及未来发展趋势。同时,国际海事组织简报作为官方文件,其中的海事英语对海事英语学习者有指向参考的作用,因此,本研究也可以为海事英语学习者提供借鉴与帮助。本研究以自建的IMO官网的海事新闻简报语料库为研究对象,以BROWN、CLOB和