基于Infiniband的分布式文件系统的设计与实现

被引量 : 0次 | 上传用户:lrq22
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着CPU计算能力和计算机磁盘I/O速度的不断提高,企业分布式文件系统在传输海量数据时会遇到网络带宽的性能瓶颈问题。由于以太网传输能力相比于CPU处理能力和磁盘I/O能力差,所以网络带宽在很大程度上影响了分布式文件系统的传输性能。基于上述背景,本文设计实现了基于Infiniband网络的HDFS分布式文件系统。该分布式系统不仅可以大幅度提升网络传输能力,提高整个数据集群的运行效率,而且还针对磁盘有独立的管理模块,提升磁盘效率,并且这些性能上的优化对用户透明,使用方便。本文设计和实现的基于Infiniband的HDFS分布式文件系统是以开源的HDFS分布式文件系统为基础开发的。该系统最大的特点是在数据通信上采用了有别于以太网的网络通信技术-Infiniband。Infiniband是一种基于RDMA协议的网络通信技术,速度比当前的以太网速度快4倍以上。我们将在分布式文件系统HDFS上应用Infiniband,并且修改分布式文件系统的传输机制,摒弃原有的Socket网络传输方法,采用Infiniband以RDMA内存拷贝方式传输的方法,使分布式文件系统在Infiniband上突破网络带宽的瓶颈,提高性能。整个应用包括JNI调用模块、HDFS源代码插件模块、Infiniband网络通信模块,Block控制管理模块以及磁盘存储管理模块。目前整个系统还处于性能测试阶段,本人在项目中的主要工作是完成项目的原型开发并测试其性能提升情况,以验证项目可行性。本文首先阐述了论文的研究背景,分析了国内外对HDFS分布式文件系统的研究现状,并阐述了本文的主要工作,然后介绍了项目所用的相关技术。在了解使用的技术的基础上,本文对该系统进行了需求分析、软件设计以及详细设计和系统实现。我们最终将通过实验对比使用Infiniband的且修改后的分布式文件系统、只使用Infiniband的IPOIB模式的HDFS分布式文件系统和使用以太网的HDFS分布式文件系统以验证修改后的HDFS分布式文件系统在Infiniband上的性能大大提高。如果能够得到商业应用,将拓宽HDFS在很多领域的应用,尤其在高强度网络需求的应用上的使用。最后本文对现阶段的工作进行了总结和展望。
其他文献
目前,数控加工中的刀路轨迹主要有三种形式:连续小线段轨迹、圆弧轨迹和NURBS曲线轨迹。顺序直线连接一系列数据点形成连续小线段轨迹,这种刀路轨迹只是从形状上逼近原工件轮
随着经济以及社会的不断发展进步,我国对于交通运输建设的重视程度越来越高,我国的交通运输网络也逐渐完善。公路桥梁工程施工建设是我国交通运输网络建设中的一个重要部分,
笔者以苏州部分现代住区为实例,以《园冶》古典宜居环境和生态理论为依据,重点论述了中国古典园林宜居环境的山水理景艺术手法在现代山水型生态住区规划设计中的应用。认为:
与传统高性能镁稀土合金(Mg-4Y-3Nd和Mg-5Y-4Nd)相比,Mg-Gd-Y系合金具有更优异的拉伸性能、抗疲劳性能和抗蠕变性能,在航空航天、兵器和交通车辆汽车领域具有非常广阔的应用
经济发展是全球最重要的课题之一,众多经济学家对经济发展进行了深入的研究。传统经济学认为自然资源禀赋应与经济发展呈正相关,也就是说自然资源禀赋丰富的国家经济发展水平也
主办侦查员制度是司法责任制在侦查阶段的一种延展,其理论依据是警察自决权与权力的规范化运行理论。主办侦查员制度由1990年代以来的地方性探索,逐步演化为当前由中央统筹规
目的:回顾性分析经显微手术切除的颅咽管瘤临床病例,探讨颅咽管瘤的手术方法及技巧,观察手术效果及并发症,明确相关手术入路的适应症和优缺点,为颅咽管瘤手术入路选择提供更科学的
石墨是我国的优势矿产资源之一。从2003年天然石墨行业复苏以来,2007年生产和出口达到了历史最高水平。在分析天然石墨行业现状的基础上,对该行业的未来发展提出了一些看法和
目的:探讨牙本质应用三种脱敏剂后对自酸蚀/全酸蚀粘结剂粘结强度的影响。方法:选取新鲜因正畸拔除没有龋坏的人类恒磨牙(前磨牙、完整的第三磨牙)120颗,1%氯胺-T溶液室温保存
叶黄素具有营养强化和着色的双重功能,但其性质不稳定,且不溶于水。以改性淀粉为壁材制得的叶黄素微胶囊具有较高的微胶囊化效率和保留率,最佳工艺条件为:均质压力40MPa、进