基于Spark的交互式数据预处理系统

来源 :计算机系统应用 | 被引量 : 0次 | 上传用户:newnew111
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
高质量的决策依赖于高质量的数据,数据预处理是数据挖掘至关重要的环节.传统的数据预处理系统并不能很好的适用于大数据环境,企业现阶段主要使用Hadoop/Hive对海量数据进行预处理,但普遍存在耗时长、效率低、无交互等问题.提出了一种基于Spark的交互式数据预处理系统,系统提供一套通用的数据预处理组件,并支持组件的扩展,数据以电子表格的形式展现,系统记录用户的处理过程并支持撤销重做.本文从数据模型、数据预处理操作、交互式执行引擎以及交互式前端四个方面描述了系统架构.最后使用医疗脑卒中的真实数据对系统进行验证,实验结果表明,系统能够在大数据场景下满足交互式处理需求.
其他文献
根据NO的性质和可能的产生途径,略述了生物胁迫 病原菌侵害 和干旱胁迫、盐胁迫、极端温度、机械损伤、臭氧和紫外辐射等各种非生物胁迫信号与NO信号分子的偶联及其信号的级
深度学习是一种面向真实社会情景和复杂技术环境中的学习方式和学习理念,倡导主动性、批判性的有意义学习。它与机械地、被动地接受知识,孤立地存储信息的浅层学习不同,要求
硅(Si)器件在电力电子变换器中应用广泛,但其性能已接近理论极限。与Si材料制成的Si二极管相比,由新型碳化硅(SiC)材料制成的SiC二极管性能更加优越。对Si二极管和SiC二极管
以纳米Al2O3和ZrO2为原料,利用大气等离子喷涂技术(APS)沉积TZrO2,ZrO2-15%Al2O3(体积分数,下同)和ZrO2-30%Al2O3,三种涂层。运用FESEM,SEM,TEM,XRD和Raman Spectroscopy等分析技术对涂层
民国时期,蒙藏委员会赴藏特派员谢国梁父子先后卒于赴藏途中。对此,西藏地方政府与中央政府均给予高度重视,分别在藏、汉两地为其举办高规格的丧葬仪式,这在民国历史上是极为
中小微型企业以非公开方式发行债券是我国资本市场的重大发展创新举措,其不仅对缓解中小企业融资难是有力支持,更重要的是,可能由此推动中国债券市场结构、民间融资、金融创
现代商贸业的发展加大了社会对门店管理人才的需求。在高职院校通过建立“校中店”生产性实训基地是现代商贸业所需门店管理人才培养的有效途径,引企入校与孵化学生创业项目是
<正>陕西鼓舞历史悠久,风格独特,影响深远的有陕北腰鼓、洛川蹩鼓、华阴素鼓、富平老鼓、渭南八仙鼓、陕南羊皮鼓、勉县对鼓、宝鸡刁鼓、咸阳蛟龙转鼓、牛拉鼓、秦汉战鼓以及
本文基于2017年我国传媒经济研究领域论文,从传媒经济本体研究、媒介融合、传媒产业、传媒经营与媒介规制五个方面梳理了年内传媒经济研究领域的关注要点。随着互联网发展进
<正>北京十一学校一分校八年级罗少为:历史是现实的镜子。上海浓缩了中国近代200年的历史。鲁迅故居、宋庆龄故居、豫园、城隍庙、外滩中都有它的缩影。在鲁迅故居,我们深入