基于Redis的海量小文件分布式存储方法研究

来源 :计算机工程与科学 | 被引量 : 0次 | 上传用户:sasaruru
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
小文件作为信息传输、存储的重要方式,使用相当广泛,用户对其可靠性和速度的要求也在不断提高。针对目前小文件存储效率较低的问题,首先结合分布式存储系统HDFS的大文件存储优势和Redis缓存技术,提出快速合并小文件的存储方案。把小文件合并为Sequence File存储到HDFS上,采用多元线性回归分析确定负载系数进行负载均衡调节,并在获取文件时使用缓存保证效率。在实验上,搭建相应的文件平台,分别对上传、获取、删除以及内存占用和传统直接上传的方式进行对比分析。可以看出,与传统的直接上传文件到HDFS的方式相比,经过改进的小文件处理方式可以在保证文件可靠性的同时,更快速地处理小文件。
其他文献
我国公务员绩效考核的制度化形式是国家公务员的考核制度。经过几十年的发展,我国的国家公务员考核制度,已经取得了很大的成就,并逐渐走上了规范化、法制化的道路。但其仍存
针对我国产业结构服务化引起的“结构性减速”现象,本文根据新结构经济学“禀赋结构-产业结构-生产效率-经济增长”的逻辑,从结构变迁的循环累积、禀赋结构需求和比较优势三
朋友到俄罗斯旅游,在圣彼得堡的旧货市场上用一美元买了一幅老地图,卖图的白发老人说是二战时期用过的军用图。接过地图后,我先谢了朋友而后打开。地图拼贴后的长宽比为130∶
随着《金婚风雨情》、《非诚勿扰2》的播映,以及央视春晚的来临,植入式广告无疑成为了2010年同“围脖”、“给力”一样饱受热议的词汇。植入式广告从《大力水手》中的菠菜植
自组织系统是一类复杂系统,它通常驻留在开放的环境中,并且可以根据外部环境和内部状态的变化,通过系统成分之间的自主交互,对系统进行动态调整,从而更好地满足设计目标。近
<正>检测机构取得资质认定是一项十分重要的工作。它相当于工商业的管理执照和驾驶员的驾驶执照,因此,资质的管理凸现它的必要性。目前就一个城市来说,检测机构出现重叠、检
直接敷铜(DBC)法陶瓷基板是新型的陶瓷-金属连接方法。附着力是这种基板的主要性能,结合生产实践中发现的问题,对影响附着力的一些主要工艺因素进行了分析研究,力求获得最佳
双语和多语族群的语码选择和转换受制于约定俗成的语码使用规范。这些规范与族群的发源地、居住地、社会地位、民族意识、社会关系和社交意愿等因素有着千丝万缕的联系。它们
介绍了重庆单轨交通轨道电路的工作原理,对轨道继电器为保证故障-安全所起的作用进行了阐述.
随着中国加入WTO以及全球经济一体化的趋势越加明显,中国有越来越多的承包企业走出国门,参与国际工程项目的承包。而合同管理贯穿着工程项目实施的全过程,如果承包商没有在项