面向MapReduce的数据处理流程开发方法

来源 :计算机科学与探索 | 被引量 : 0次 | 上传用户:fly8468
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
数据处理流程在信息爆炸的今天被广泛应用并呈现出海量和并行的特点,MapReduce编程模型的简单性和高性价比使得其适用于海量数据的并行处理,但是MapReduce不支持多数据源的数据处理,不能直接应用于具有多个处理操作、多个数据流分支的数据处理流程。提出一种模型驱动的面向MapReduce计算模型的数据处理流程快速开发方法,定义数据处理流程的逻辑模型、物理模型和组件模型,使用模型转换算法和代码生成算法将逻辑模型转化为物理模型,再转换为能直接在Hadoop平台上运行的MapReduce程序,基于该方法实现了
其他文献
在网络技术与现代化科学技术不断进步的影响下,信息技术这门提高学生信息能力、综合素质,促进学生全面发展的学科,变得越来越重要。而如何打造初中信息技术高效课堂是所有信
中青年领导干部必须提高自身的马克思主义理论素养,才能进一步拓宽视野,具有世界的眼光;才能善于从政治上和战略上把握大势,不断增强总揽全局、驾驭复杂局面的战略思维能力.
提出了一种自适应三维美工树木骨架提取算法。该算法主要由前处理、骨架提取和后处理三个步骤组成。前处理阶段依次完成预计算操作,包括对具有几何相似性的子枝进行聚类,自适应生成每个子枝点云的聚类长度阈值,确定子枝之间的父子关系等;骨架提取阶段实现对每个子枝点云的聚类,及其对应骨架点、骨架曲线的生成等操作;后处理阶段完成孤立骨架节点去除,整棵树所有骨架曲线光滑化等处理。该树木骨架提取过程完全由计算机自动完成
从初高中物理教材与教学要求,从高一学生存在的学法障碍、心理障碍、能力障碍等几方面分析高一新生学习物理存在的问题,并提出教学建议。
高中数学近些年强调提高学生的兴趣,使学生的知识面得到有效拓宽。教学软件发展得越来越快,和高中数学教学联系得也日益密切。Mathematica是针对数学类计算的软件,具有很强的
随着科学技术和电子产品的迅猛发展,新课程的改革实施步伐也不断加紧,新的课程标准要求教师在教学过程中可以适当利用多媒体教学技术,以多媒体为依托进行教学,实现信息技术与
兴趣是学习的先导。基于高中语文教学的实践现状,提出怎样在高中语文课堂中培养学习兴趣,以兴趣作为学习的动力,从而提高语文课堂的教学效果,并为语文学科教研提供参考。