分布式存储系统中再生码的研究

来源 :中南民族大学 | 被引量 : 0次 | 上传用户:zonglijuan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着云计算时代的到来,云端存储的数据急剧增长,因此云存储系统已经成为云计算中的一个关键要素。云存储中的海量数据,使得云存储系统必须面对一个问题:如何在保证数据的有效性和可靠性的同时,还要兼顾存储空间、带宽消耗和延迟等条件。分布式存储系统通过增加冗余的方式来提供可靠的服务,并将这些数据独立的存储在不同的节点中。基于复制策略的分布式系统,将数据复制多份,随后将这些副本存储在独立的节点中。因为存储了多份数据,因此它可以容忍一定数量节点的损坏,从而具有一定的容错能力。但是复制策略的存储效率太低,会浪费几倍自身大小的存储空间,显然不能满足目前大数据存储的要求。而纠删码策略将原数据进行分片后再编码,并将其存储在网络中的不同节点。相对于复制策略,纠删码的存储效率得到了很大的提高,但是它也会带来额外的开销,如带宽的消耗和访问延迟等,而且在修复一个失效节点时所需要的数据量远远大于该节点本身的数据量。再生码在修复单个节点时可以达到存储空间和带宽消耗的最优折衷,但是在多个节点同时损坏时,再生码只能逐个的修复每个节点,因此,对于多个失效节点的修复,再生码的效率是次优的。协同再生码能够同时修复多个失效节点,并且具有更好的存储空间和带宽消耗的折衷曲线,但是最小冗余协同再生码的构造方法较少,同时对参数的选择也受到限制。本文主要对基于矩阵的最小冗余再生码(MSR)和最小冗余协同再生码(MSCR)展开研究,具体工作和贡献点如下:(1)对基于复制的策略和编码的策略进行深入地研究和分析,包括纠删码、再生码和协同再生码。(2)分析了已有的两种基于矩阵的最小冗余再生码的优缺点,针对这些缺点设计实现了基于矩阵的低复杂度MSR码,解决了矩阵实现的MSR码中编译码复杂度较高的问题,完整的推导了该MSR码的编码、节点修复以及数据重构的算法实现过程。(3)分析了已有协同再生码的优缺点,针对目前协同再生码的实现过程中参数选择不够灵活的缺点,由基于矩阵实现的MSR码码推导出了一种基于矩阵实现的最小冗余协同再生码,该方法继承了矩阵实现中参数广泛的特性。给出了该MSCR码的编码、节点修复以及数据重构的具体算法。(4)采用JAVA编程实现了本文提出的两种方法,并与已有算法进行了对比,证明了本文提出的方法的可行性和有效性。
其他文献
目的:通过全面分析结核病住院患者特征及变化趋势,提高对结核病患者特征的认识;采用对应分析和logistic回归方法分析结核病治疗转归的影响因素,识别影响治疗转归的重要因素;
随着人工智能领域的高速发展,图像处理技术也愈渐成熟,其中目标跟踪在智能交通、公共场所安防、医学图像处理等方面均有广泛应用。尽管当前目标跟踪算法的研究已经有了突破性
本文依据公民政治参与的基本理论要点,按照“理论框架——实践问题——调研分析——对策建议”的研究范式,确立藏区公民政治参与的衡量指标体系,对青海等省藏区公民基层政治
随着社会经济的发展和我国城镇化的进一步推进,农民不断进城务工,大量的农村人口向城市转移。大量的农村人口向城市转移后,农村土地的流转变的频繁起来。中央适时出台“三权
随着智能手机和平板电脑等移动终端设备的普及,利用无线连接技术将可穿戴设备与智能移动终端设备互联,是目前可穿戴设备实现人机交互的一种趋势。可穿戴设备与移动端应用的短
我国实行改革开放40周年,未来还将进一步扩大开放,大力发展经济,各地政府根据自身经济、人才发展需求,不断在产业政策上推陈出新,由此衍生了附条件政府奖励的措施。然而,各地
随着科学技术的快速发展,控制领域中复杂控制环境对控制系统的性能要求越来越高,处理中心需要执行更加复杂的处理任务表,处理系统中大量的数据流。由于功耗和散热问题,通过增
随着云计算技术的发展,作为其核心基础设施——数据中心,已成为制约云计算技术快速发展的重要因素,从而引起世界各国研究机构和研究者的广泛关注。传统的数据中心网络结构主
随着互联网信息技术的迅猛发展,门户新闻网站、各类新闻媒体平台和搜索引擎构成的在线多源媒体已然成为了描述各类话题的重要载体。话题在大规模在线多源媒体中呈现的演化过
半导体光催化技术作为一种高效、安全的环境净化技术,已广泛应用于水中污染物的降解、水分解及二氧化碳还原等领域,在治理环境污染和解决能源危机方面有很大的应用前景。石墨