相似聚类的二级索引重复数据删除算法

来源 :小型微型计算机系统 | 被引量 : 0次 | 上传用户:xyc657924564
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对重复数据删除算法指纹对比I/O瓶颈问题,提出一种基于相似聚类的二级索引重复数据删除算法.首先计算所有数据块的Simhash值,基于Simhash值之间的海明距离,提出一种自适应的相似聚类算法,所有聚类中心信息形成一级索引存放在内存中.然后计算每个类中数据块的MD5值,将其信息形成二级索引存放在聚类中心.当需要进行重复数据块检测时,计算待检测数据块Simhash值到一级索引中所有聚类中心Simhash值的海明距离,并将海明距离最小的类的二级索引调入内存中进行MD5指纹对比.实验结果表明,算法没有误判率,在较大提高了指纹对比速度的同时,每次检测只产生一次I/O操作,具有更高效的性能.
其他文献
目的:探讨糖链抗原125(CA125)、附睾蛋白4(HE4)和血管紧张素Ⅱ(Ang Ⅱ)单检以及联合检测在子宫内膜癌(endometrial cancer,EC)诊断的应用价值。方法:搜集2013年1月至2014年11
目的探讨老年人带状疱疹患者的护理方法与对策。方法选择该院自2008年1月—2010年1月收治的老年人带状疱疹患者25例的临床资料进行回顾性分析,分别从基础护理、心理护理、眼
目的探讨研究在手术中对患者实施人性化护理对手术室患者的满意度及护理质量的影响。方法收集2011年5月—2012年5月期间在该院需要接受手术治疗的患者120例,随机分为对照组和
目的:通过分析硬质容器灭菌盒独具的优点,及在消毒供应中心的使用体会,提出硬质容器灭菌盒在医院中值得推广和使用。方法:通过介绍硬质容器灭菌盒基本情况,从阻菌效果、使用
该文介绍了英国淋巴水肿训练学院护士专业培训模式,对其分层专业课程设置、交互式培训方法、"互联网+"培训平台、人文关怀的培训理念与方法、院校合作的培训与认证资质进行总
目的:探讨心理干预对恶性骨肿瘤患儿CT增强检查影响因素的作用。方法:选取医院行CT增强扫描的152例7~15岁恶性骨肿瘤患儿,采用系统抽样的方法将其随机分为对照组和干预组,每
目的对比观察采取预防措施前后某地区的手足口病的流行情况,评价预防措施的有效性。方法某地区自2010年起采取综合措施预防手足口病,对比采取预防措施前后2年的手足口病疫情
小儿呼吸机是新生患儿临床诊疗的重要生命支持设备,应用中的设备维修保养尤为重要。选取1例小儿呼吸机空压机故障案例,总结替代法维修经验,为同类机型的类似故障提供维修参考
校园网站改版重建,可以看作软件工程中原型法开发过程,因此可依据原型法进行需求分析,同时,随着校园网站服务的不断拓展和深入,构建动态校园网站是解决更新和管理矛盾的好方