海量对象存储系统数据组织算法的研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:huanghuimin1224
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在网络存储系统中,数据的组织优化是提高存储系统性能的有效方法之一。合理的数据组织算法可提高存储系统的性能,使存储系统具有高可靠性、可用性和可扩展性。网络存储系统中的数据组织包括两个方面的内容:存储空间的数据组织和传输路径上的数据组织。存储空间的数据组织利用存储节点间的并行性,提高存储系统的I/O性能,通过不同存储节点的数据副本提高数据的可靠性和可用性;传输路径上的数据组织则是通过传输路径上的Cache合理配置和替换算法的选择,达到提高I/O性能的目的。本文根据对象存储系统的特点,研究数据组织的算法及相关问题,包括以下几方面的内容:对象存储区别于其它网络存储系统之处在于它将文件系统的存储管理和用户管理分离,存储管理由存储节点来完成,而用户管理则通过元数据服务器来实现。这种功能的分离使得元数据服务器成为瘦服务器,便于存储系统的扩展。对象有丰富的语义,通过对象的语义,对象存储为存储系统提供安全保障,还可以为应用提供基于QoS的I/O服务。对象存储系统的体系结构使其有两种数据传输模式:NAS模式和三方传送模式,传输模式结合Cache方案可达到提高存储系统性能的目的。对象存储系统的存储空间的数据组织就是要实现数据对象在存储节点间按存储节点的容量分布,数据组织算法应尽可能减小算法的时间和空间开销,同时要保证算法适应存储系统的扩展,为此,设计了一种数据定位算法及扩展数据迁移算法。算法有以下特点:将存储节点分组,采用组间按容量分布和组内均匀分布的机制实现数据按容量分布;算法采用映射函数实现用户空间到存储空间的映射,使得算法的时间开销和空间开销最小;算法的适应性则通过记录系统的扩展信息来实现;相应的扩展迁移算法则保证系统扩展引起的数据迁移量最小。应用要求存储系统提供基于QoS的I/O服务,而数据迁移对存储系统的服务质量有影响。通过对基于QoS的I/O服务模型的分析,定义迁移任务附加收益,并将迁移任务细分为迁移请求,在此基础上建立一个基于QoS的数据迁移模型,并设计出相应的最大收益迁移调度算法。实验表明,该迁移调度算法对I/O服务质量的影响小于常用的迁移算法。数据传输路径上的数据组织涉及到Cache替换算法,而Cache替换算法的好坏标准是存储系统的性能是否提高。通过对对象存储系统的加速比进行分析得出结论:Cache对存储系统的性能改善不仅与Cache命中率有关,还与数据对象的设备访问时间有关。根据这一结论,设计出两种Cache替换算法:LAT算法和WLFRU算法。LAT算法选择Cache中设备访问时间短、命中率低的数据对象作为替换的对象;WLFRU算法则通过对访问频率的加权达到同时考虑访问的局部性和数据对象的访问成本的目的。两种算法的性能都优于常用的LRU算法。数据传输路径上的Cache设置必须结合数据的访问特点,而对象存储系统的三种实体的特点各不相同,所以,它们的Cache方案也各不相同。根据存储节点的读写速度慢的特点,将其Cache设置为预取Buffer和写Buffer,前者利用预取缩短数据对象的读响应时间,后者通过延迟写,及时响应写请求。元数据服务器和客户端的Cache方案则和数据传送模式相联系,元数据服务器Cache在负载轻时缓存小数据对象,而客户端的Cache除了对两类数据对象都缓存外,还使用磁盘Cache积累采用三方传送的数据对象,达到减少网络通信量的目的。实验显示三类Cache的设置有助于存储系统的性能改善。
其他文献
目的研究氟比洛芬酯对两种不同靶控浓度瑞芬太尼(1和3ng/mL)输注下七氟醚能抑制切皮时肾上腺素能反应的最低肺泡气浓度(MACBAR)的影响。方法 76例拟全麻行腹部手术患者随机分为4
目的:探讨人工肱骨头置换治疗老年肱骨近端粉碎性骨折的临床疗效和安全性。方法回顾性分析40例老年肱骨近端粉碎性骨折患者的病历资料,采用人工肱骨头置换治疗者22例(Ⅰ组),采用锁
本文利用高分辨距离像(HRRP)序列所含的丰富信息,提出了一种基于卷积神经网络(CNN)的空间目标识别方法。利用CNN自动地从序列图中学习稳定的特征,进而实现目标分类。该方法不
目的探讨成立哮喘健康呼吸中心对哮喘患者健康行为的影响。方法对2010年1月至2011年1月144例支气管哮喘患者经过哮喘健康呼吸中心(即哮喘专科门诊、哮喘健康宣教中心、哮喘患
卡洛夫船长摇了摇头,说道:"我并没有这么乐观,也许你忘了在我们之前与阿尔法星人进行交易的另一个星球……"罗恩想了想,说道:"是的,阿尔法星人说过这件事,那个星球强制要求阿
列表法在有的同学眼里可能是比较笨的方法,但就是这样一个小小的表格能帮助我们解决很多难题。酒店有100个标准间,房间价为400元每天,但入住率只有50%,若每降低20元的房价则
目的通过测定不同浓度的鸟司他丁(UTI)对体外乳腺癌细胞MCF-7(雌激素受体阳性)和MDA—MB-231(雌激素受体阴性)干预后细胞中乙酰肝素酶(Hpse)、1型透明质酸酶(HYAL1)及细胞黏附分子CD44v
目的 探讨化疗性口腔溃疡的口腔护理方法。方法 选取我院2014年1月至2016年1月收治的121例化疗性口腔溃疡患者,采用随机数字表法将患者分为试验组与对照组。对照组患者60例,