应用于数据质量核查的几项数据挖掘技术研究

被引量 : 0次 | 上传用户:kygl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
质量低劣的数据已经成为影响企业正确决策的关键因素,成为制约信息服务的瓶颈。因此,如何高效的管理数据,提高数据质量,使其成为决策部门的有效依据,是具有较高研究价值和实际意义的问题。本文由此背景出发,根据不同类型的数据错误,采用相应检测方法,并通过实现具体程序,验证方法的有效性。本文首先介绍了数据质量的定义、分类、评价指标以及数据质量提高技术。然后总结了数据清洗技术的原理方法。最后针对不同的数据错误类型,给出了相应的解决方法。本文重点给出了异常数据和相似重复记录的检测方法。本文充分考虑数据内部之间的联系,采用基于关联规则的思想对异常数据进行检测。首先,将数据集中的数据进行转换,使其满足关联规则挖掘的条件;然后,在训练集中找出所有的频繁项集,由频繁项集生成关联规则,并将其放入规则库;最后,将测试集中的记录与规则库中的规则进行比对,以此判断记录是否异常。通过实验证明此方法检测异常数据效果良好。本文采用基于权值分组的方法来检测相似重复记录。根据识别事物的能力给不同的属性分配相应的权值,以此提高检测精度;根据关键字段将大数据集分割成不相交的小数据集,再在小数据集中检测相似重复记录,以减少匹配次数;采用位置编码方法计算字段相似度,解决了英文缩写问题和中文字符匹配问题;使用多趟查找技术克服了字符敏感问题。实验证明此方法能够快速准确的检测相似重复记录。
其他文献
在海洋工程中,系泊系统是深海浮式结构的重要组成部分,是制约海洋开发水深的主要因素。浮式结构物是通过系缆固定在海底的,在系泊系统设计过程中系缆张力的确定占有重要的地
癔症是一种神经精神疾病,多发生于成人,儿童则少见。我县某学校儿童因接种乙脑疫苗,集体发作转换型癔症84例,现报告如下。1临床资料1.1一般资料84例中男17例,女67例;年龄9-14
装配线的平衡直接影响到制造系统的生产率。本文采用理论与实践相结合的方法,运用工作研究的原理和技术以DA公司减速顶装配线为研究对象进行分析研究;运用Double-E软件从基础
悲剧,作为最早踏入人类心灵,其丰富情节寄寓深邃哲思的戏剧类型,其审美理念一向以古希腊作为参照的原点。基于此,从百多年前西方学术思想传入始,否定中国存在“严格意义”悲
<正> 化脓性耳廓软骨膜炎是一种较常见的严重的耳廓感染,多由外伤引起,以绿脓杆菌感染为多见,单纯切开引流及抗生素治疗较难控制。近3年来,我们应用清创加中药二砂散局部外敷
在优化薄膜制备工艺的基础上,通过实验对Cu、CuNi薄膜的电阻率与T型薄膜热电偶(TFTC)灵敏度之间的关系进行了研究。首先,通过设计正交试验,以Cu、CuNi薄膜电阻率为考察指标,得到了
彝族在漫长的发展史中形成了自己特有的天时习俗,对日、月、年、季部有自己独特的认识,并且以物测日观星来认知时节。这种将科学的成分与习俗的活动相融的习俗,反映了彝族人民认
国际干散货航运市场是航运市场的重要组成部分。金融危机爆发以前的很长一段里,世界经济平稳较快增长,尤其是以中国为首的发展中国家工业化进程的加速,使国际干散货航运市场
财政国库集中收付制度是一种现代国库管理制度,是指对财政性资金通过国库单一账户体系实行集中收缴和支付的一种管理制度。包括集中收入制度和集中支付制度。财政集中支付制
文章详细介绍了一种智慧时代下的城市信息服务平台建设方案,包括城市信息服务平台的建设目标、总体构架、运行流程和技术要点,为城市信息服务平台的建设提供了可参照的技术方