基于预处理技术的数据清理系统研究与实现

被引量 : 0次 | 上传用户:mscspn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息化工程的不断深入,许多企业在长期的运营过程中积累大量数据,这些数据能够反映企业生产经营过程中的规律。建立决策支持系统是利用已有数据的应用服务之一,但是基于劣质数据的决策是不可信的。纠正数据错误是避免错误决策、降低决策风险的重要一环,数据清理应运而生。本文深入研究数据预处理技术和数据清理技术。数据预处理技术分别针对数值型字段和字符型字段研究了孤立点的检测和缩写的发现;数据清理技术研究相似重复记录的清理。孤立点的检测使用一种基于邻域局部修剪的算法,利用垂直的数据结构—P-树实现算法,保证算法的有效性和高效率,并对算法做出改进,提高算法的适用性。在缩写发现技术中,重点研究基于动态规划的缩写发现算法,该算法不仅能处理西文字符而且能有效地发现中文缩写形式,改进后的算法具有较高的效率和较好的健壮性。数据清理部分对于相似重复记录的清理,分别研究英文、中文记录排序算法,不同类型字段的相似度计算方法,记录相似度计算方法以及相似重复记录的合并规则,并对以上相似重复记录清理的每个步骤都做出改进,提高了数据清理过程的正确率和执行效率。最后,本文给出了基于预处理技术的数据清理系统的初步实现,并将其应用到某项目中,验证结果表明:基于预处理技术的数据清理系统具有良好的运行效率和运行效果。
其他文献
目的探讨治疗真菌性外耳道炎的有效方法。方法收集2004年1月~2006年1月门诊真菌性外耳道炎患者,随机双盲分成氟康唑液组和4%硼酸酒精组各54耳进行疗效分析。结果4%的硼酸酒精
从钧釉的外观上,对古今钧瓷窑变的艺术特征进行描述,并结合现代钧瓷生产工艺的特点,讨论了影响钧瓷窑变的工艺因素。指出:钧瓷窑变的关键,是使用特定的原料、合理的釉料组成和独特
随着我国市场经济体制的不断完善,人们对电视新闻采访也提出了更高的要求。在电视新闻报道中,采访占据非常重要的地位。记者只有不断积累经验,掌握丰富的采访技巧,发挥自身特
目的通过对重症监护病房(ICU)机械通气患者下呼吸道感染的细菌分布特点和耐药性分析,为临床合理应用抗生素提供依据。方法对深圳市龙岗中心医院2006年1月~2007年12月间ICU机
很多小学生在进入初中后数学成绩就呈下降趋势,这就是中小学数学衔接教育上的问题。随着新课改的推进,如何抓好中小学数学教育的衔接,提高初中生的学业成绩,促使初一新生的持
上海高校探索基于协同育人的课程思政工作模式,建立思政课堂显性教育与其他课堂隐性教育的协同育人工作理念,打造思政教师与其他课教师全程、全方位的协同育人主体,构建思想
<正> 1 前言 陶瓷装饰是在陶瓷器件上进行艺术加工的工序,它使陶瓷制品既有实用性,又有艺术感。装饰是陶瓷生产工艺必不可少的工序,用于装饰陶瓷制品的方法多种多样,日用陶瓷
创造性、趣味性、实用性是衡量当今中学美术教学成功与否的重要依据,如何使美术课堂教学焕发活力?至今没有固定模式。为此通过尝试操作、创作材料、互组教学、角色互动几方面
<正>目前检测水中镉元素首推原子吸收法和原子荧光法,因其既灵敏又准确。但在一些基层单位缺乏这类仪器设备的情况下,选用双硫腙分光光度法仍不失为一种较好的方法。我们从历
中医中药是中华民族对世界医药史的重要贡献,也是祖先给我们留下的宝贵财富。运用中医中药理论,开发现代中药是我国当前中药产业发展的一条必由之路。中药由于见效慢等特点而缺