基于Hadoop的存储资源调度机制研究

来源 :信息系统工程 | 被引量 : 0次 | 上传用户:kgfu86
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息时代的迅速发展,海量数据在各个领域中产生。但在对数据运算过程中,其载体——Hadoop分布式文件系统在存储机制上存在一定缺陷,小文件过多将导致集群因负载增高而产生运行率下降的问题。针对因小文件而产生的存储缺陷,提出一种基于云计算的优化策略:通过数据平衡算法将小文件合并为合理的大文件,再将LZO无损压缩编码融入计算任务中,实现对大数据运算的效率提高。
其他文献
2006年5月,万事达卡在纽约证券交易所上市;2008年3月,VISA在纽约证券交易所上市。两大国际信用卡公司对自身所有权结构和公司治理都进行了重大调整,不约而同地终止了多年来堪称成
为了查明拟建场地的岩溶空洞详细情况,结合该地区的工程地质水文状况,采用三维直流并行高密度电法与瞬变电磁法两种物探手段相结合的方法,利用上述两种方法的各自优势作出解