面向范围查询的索引及查询技术研究与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:spcheng
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网应用的迅速发展,全球数据正以爆炸式的速度增长。数据规模扩大的同时,数据的种类也变得更加多样化。传统型数据库虽然能够支持复杂的数据查询和保证数据的一致性,但在扩展性和支持的数据类型上有一定的局限性。为了有效存储和管理海量数据,出现了 NoSQL数据库。NoSQL数据库不同于传统的关系型数据库,它支持灵活的数据模型,并且可以通过增加节点的方式来扩大数据库的容量。HBase是一种典型的分布式、面向列的NoSQL数据库,可以对结构化、半结构化、甚至非结构化的海量数据进行实时的读写和随机访问。HBase按照主键的字节字典序存储每一行记录,因此支持基于主键的快速查询,但在有些应用场景下可能需要对其他非主键字段进行查询。HBase目前并未对非主键建立索引机制,所以非主键的查询需要对HBase整张表进行扫描,查询效率很低。随着HBase被国内外企业、科研机构广泛使用,针对HBase的查询性能优化已经成为大数据存储管理研究中一个热点研究问题。为了进一步加速非主键数据的范围查询,本文提出了非主键索引数据分块管理的方法,将数据管理粒度由一条记录扩大为一个数据块,从而减少建立索引的空间开销和查询索引的时间开销。此外,本文还提出自适应调整数据块的方法,使得数据块的划分与范围查询请求序列的分布规律相接近。基于以上技术方法,本文对HBase非主键数据建立索引,并构建了基于数据分块的分层式索引管理系统,进一步提升了 HBase非主键范围查询的性能。本文的主要工作和贡献如下:(1)针对范围查询,本文提出索引数据分块管理的方法,并使用跳表结构管理数据块的元信息。为了使数据块的划分更加合理,本文提出基于访问热度的自适应分块方法。此外,本文还提出了基于数据块的分层式索引存储模型。实验表明,基于自适应数据块的索引管理能够减少索引查询的时间开销。(2)本文提出一种基于跳表和分层式索引的范围查询方法。同时,为了在缓存层获得较高的命中率,针对各种常见替换策略的不足,本文提出一种基于自适应分块的缓存替换策略AdaHotscore。实验结果显示,在缓存空间较小时AdaHotscore替换算法能很好地预测冷热数据块,并将热数据块缓存到内存,来提升系统的整体性能。(3)基于以上提出的技术方法,本文研究实现了基于数据分块的分层式索引查询系统。实验表明,与HBase系统相比,本系统对非主键的范围查询性能提升了数百倍;与HiBase系统相比,本系统对非主键的范围查询性能提升了 5~6倍。最后通过测试本系统在不同数据集规模和不同节点规模下的表现,证明了本系统具有良好的可扩展性和可用性。
其他文献
黄曲霉是一种常见腐生真菌,能够对粮食作物,如花生和玉米造成严重危害,造成这种危害的根源主要是其次生代谢产物黄曲霉毒素。黄曲霉毒素在自然界中普遍存在,是一种具有极强毒
[目的]作为食管癌病人复发和转移的一个重要因素,c-Met的过表达被认为是接受放化疗患者治疗失败的重要因素。虽然c-Met已经被证实对肿瘤细胞的生存、增殖和迁移能力是至关重
为研究所有匹配的整体性质,在平面二部图的全体完美匹配集合上建立了Z-变换图(也称为共振图),进而通过定向给出了全体完美匹配集合上的分配格结构,并证明分配格的有向或无向H
随着信息技术的飞速发展,推荐系统在人们的日常生活中起着重要的作用。尤其是在信息爆炸式增长的当今,人们难以从海量的数据中去寻找自己所需要的个性化信息。因此,研究实现
随着全球化的发展和教育理念的更新,“包班制”在国内受到的关注呈上升趋势。国内基础教育领域的各项变革,如开设综合课程、培养全科教师以及缩小班级规模等,都与“包班制”的理念不谋而合,也为我国各个地区和学校进行“包班制”的试点和实验提供了契机。然而,在国外小学一直处于主流地位的“包班制”来到具有强大文化背景的中国,要怎样实施?这个问题需要研究者在教学实践中去寻找答案。本研究以在小学融合部实施中外合作教学
目的1.探究体素内不相干运动磁共振成像(Intravoxel incoherent motion MR imaging,IVIM-MRI)技术定量研究犬超急性期脑缺血灌注及弥散异常的可行性。2.运用体素内不相干运动
设G为简单图.G的全k-染色是指k种颜色1,2,…,k对图G的全体顶点及边的一个分配.设c是图G的一个全k-染色,任意的x ∈ V(G),称(?)为点x的扩展和,其中N(x)={y∈ V(G)|xy ∈E(G)}.
郑州东赵遗址位于郑州西北郊,处于夏商文化分布核心区,东赵城址的发现为研究早期文明尤其是夏文明提供了丰富的考古学材料。为明确东赵遗址的考古学文化体系,厘清不同时期聚
足球烯C60的发现开辟了富勒烯材料科学的一个有趣的新领域。富勒烯的研究虽然广泛,但其形成机理尚不清楚,这也是富勒烯化学中最具挑战性的课题之一。目前,研究人员通常认为富
随着技术的进步、移动互联网的普及,互联网全面渗透到经济社会的各个领域,成为生产建设、经济贸易、科技创新、公共服务、文化传播、生活娱乐的新型平台和变革力量,推动着我