【摘 要】
:
基于日志结构合并树(Log Structured Merged Tree,LSM-tree)的键值存储系统以其良好的存储扩展性而被广泛地用作于各类互联网应用的存储服务。然而,互联网中数据总量的急剧增长为键值存储系统带来了新的问题。一方面,键值存储系统的缓存容量逐渐变得相对不足,而缓存往往对整个系统的性能起到关键性作用。另一方面,键值存储系统往往为多种应用提供服务,如出行类、餐饮类以及办公类应用等。
论文部分内容阅读
基于日志结构合并树(Log Structured Merged Tree,LSM-tree)的键值存储系统以其良好的存储扩展性而被广泛地用作于各类互联网应用的存储服务。然而,互联网中数据总量的急剧增长为键值存储系统带来了新的问题。一方面,键值存储系统的缓存容量逐渐变得相对不足,而缓存往往对整个系统的性能起到关键性作用。另一方面,键值存储系统往往为多种应用提供服务,如出行类、餐饮类以及办公类应用等。多应用共享键值存储资源的场景伴随用户的使用呈现出周期性变化的负载特点,对基于日志结构合并树的键值存储系统的缓存设计提出了挑战。
本文提出Concerto方案来解决基于日志结构合并树的键值存储系统面临的上述问题。Concerto使用最新的英特尔傲腾固态盘作为内存的补充来组成分级缓存,同时提出多应用共享环境下基于离散时间的缓存算法Conductor来提升共享缓存的性能。具体地,基于多应用共享键值存储资源场景下互联网负载周期性变化的特点,缓存算法Conductor将访问负载按定长时间片作离散处理,识别出历史前N天离散时间片内访问频度高的热点数据,并在第N+1天相同时间片的开始时刻进行预取;同时,存储系统Concerto使用高效的哈希索引来提高系统的性能,并基于傲腾固态盘低延迟、高IOPS且顺序随机访问差异小的特性,提出一种根据KV大小来分类处理的缓存空间管理方案,在避免空间浪费的同时实现空间的轻量级回收与快速重用。
基于开源的LevelDB代码,本文实现了Concerto系统原型,在模拟的具有周期性特点的负载测试下,与使用传统缓存算法的键值存储系统相比,Concerto原型可以提高11%的命中率、降低13%的平均请求时延,以及减少92%的数据迁移量。
其他文献
NAND闪存是一种被广泛应用于存储领域的非易失性存储介质。随着闪存单位尺寸的减小和每单元存储的数据位增多,闪存存储密度越来越高,这不可避免地带来了闪存可靠性和寿命的降低。为了保证闪存可靠性,提出采用前期主动预防和后期高效修正相结合的方法,从数据写入闪存前的错误预防和数据读出时的错误纠正两个方面入手研究降低闪存误码率。 编程干扰和保留错误被公认为是NAND闪存中最主要的两种错误类型,且与闪存状态密
为了应对日益增长的图处理需求,大量基于整体同步并行计算(Bulk Synchronous Parallel, BSP)模型的图处理系统被提出。近年来,分布式外存模式图处理系统因兼具分布式内存模式与单机外存模式图处理系统的优点而受到了越来越多的关注。然而现有的分布式外存模式图处理系统更注重于提升处理规模,在处理性能方面虽然较单机外存模式有所提升,但依然远不如分布式内存模式图处理系统。 结合BSP计
作为知识图谱补全的重要技术手段,知识推理已经成为当下研究的热点。其中基于路径的知识表示学习模型由于同时考虑了关系路径和实体的语义信息,大大提高了知识推理的准确度。虽然该模型以知识表示学习为基础,通过引入复杂关系路径建模提高了知识推理准确度,但同时也增加了时间开销,难以适应规模日益庞大的知识图谱。 针对复杂关系路径建模存在的效率问题,提出了一种利用子关系路径特征进行建模的方法(Sub-relati
随着大数据和云计算技术的发展,越来越多的数据和服务都部署在数据中心中,这就使得数据中心存储系统的容量变大和异构性突出,导致存储系统的软硬件故障发生的概率变高,进而导致存储系统可靠性和可用性严重降低,增加运行维护成本。硬盘故障预测作为一种主动容错的技术,以其故障前瞻性提高存储系统的可靠性和可用性,越来越受到工业界和学术界的关注。但是,磁盘故障预测还是面临着许多问题,例如数据集的不平衡性、检出率和误报
NANDFlash具有高性能、低延迟、低功耗等优势,因此被广泛应用于数据密集型存储系统。日志结构文件系统(Log-structured File System,LFS)对Flash特性友好,其通过异地更新,将随机写转化为顺序写,具有更高的随机写性能和更低的一致性维护开销。然而,LFS在运行过程中仍然存在段清理开销过大、文件系统写放大严重等问题,导致LFS的性能和Flash设备的寿命大幅降低。 I
大数据时代,闪存凭借优越的性能逐渐取代磁盘成为主流的存储设备。在闪存存储系统中,闪存文件系统的日志结构写方式和闪存转换层的地址映射功能,使数据块和空闲块离散地分布在文件系统和闪存中,带来了严重的碎片化问题。碎片的管理分为碎片避免和碎片整理,现有的碎片避免方案主要面向磁盘文件系统,不适合闪存文件系统;而碎片整理引入了大量的写开销,严重缩短了闪存的寿命。 针对闪存文件系统的逻辑层碎片问题,提出了一种
基于阻变存储器(Resistive Random Access Memory,RRAM)的交叉开关(Crossbar)阵列结构支持高能效存内计算(Processing-In-Memory,PIM),是实现神经形态计算系统最具潜力的架构之一。然而,RRAM器件其单元本身及RRAM单元构成的阵列具有一些非理想因素,这些非理想因素会影响计算的操作数进而使系统的计算准确率降低。选用单元稳定性更高的数字RR
传统动态随机存储器(Dynamic Random Access Memory,DRAM)面临存储密度难以进一步提升、刷新功耗高等问题。而新兴持久内存(Persistent Memory,PM)的读写性能与DRAM接近,同时还具有低功耗、非易失等特性。这使得PM正在成为DRAM内存的一种补充。在PM的几种访问模式中,直接访问(Direct Access, DAX)模式支持应用利用PM的非易失性,且避
随着闪存工艺尺寸的缩小以及单元内多比特存储技术的发展,闪存芯片的容量逐渐增加,但闪存的可靠性问题变得更加严重。固态硬盘(Solid State Driver,SSD)内部现有的可靠性方案(如ECC、RAID)不能很好的应对闪存的多级可靠性问题;另外,固定的可靠性方案未考虑块间磨损不平衡:在SSD前期提供了过多的冗余,从而增加了闪存的写放大,并且在SSD后期也不能容忍条带内出现多个错误的情况。 针
键值存储系统是当前数据中心的主要存储技术,具有高性能、高可用和高扩展性的特点,能够满足大数据环境下的数据存储需求。另外,非易失性内存(Non-Volatile Memory,NVM)是一种新型存储设备,具有数据非易失、高存储密度、高性能和高并发等特点。新型NVM设备的出现,也为研究更高效的键值存储系统带来了机遇与挑战。 基于日志结构合并树(Log-StructuredMerged-Tree,LS