易天数据管理系统数据集成和数据分析模块的设计与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:XUE19880204
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着企业信息化程度的提高,商务数据在企业经营和发展过程中起到的作用愈发突出,如何有效整合数据并加以利用,进而创造出更多的商业价值是所有企业共有的课题。为了解决这一问题,江苏易天集团计划研发一套企业自用的数据管理系统,系统将各部门的商务数据集成汇总,并在此基础进行统计分析和数据挖掘,为企业决策提供数据支持。本文主要论述易天数据管理系统数据集成和数据分析模块的实现。数据管理系统基于B/S模式进行开发,系统服务端采用标准的分层架构,并提供RES Tful风格的接口供前端调用。数据集成模块负责将需求方不同部门的数据集成到系统中,本文对数据读取过程进行抽象,并通过策略模式实现了对不同数据源不同格式数据的支持。数据分析模块负责对系统集成的数据进行分析,本文基于SparkSQL和MLlib实现了基于SQL的查询分析和基础的数据挖掘分析,并通过策略模式和Java反射机制实现了对用户自定义脚本的支持,允许用户创建自己的分析模板,提高了系统的可拓展性。此外本文还设计并实现了任务模块和数据集模块等基础服务模块,分别负责系统定期任务的调度和系统数据访问的控制。目前系统已交付需求方进行试验性部署,总体运作良好,可以按照设计完成数据集成和数据分析任务,达到了预期目标。
其他文献
本文针对交流提升机控制性能的改善提出了加以改进的方法,用一种新型的控制器替代原有的磁放大器和凸轮板,使得交流提升机的动态性能和可靠性有了较大的提高。
近年来,随着我国水利工程的不断发展,我国的水利工程施工技术、工艺、材料和装备等方面都获得了较大发展,尽管技术不断更新完善,但是我国的水利施工中仍存在很多问题,只有在
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
农业银行股份制改造时间表已经排定,根据国家对国有商业银行股份制改造上市要求,降低不良资产,充实资本金,已摆在了第一位。
阅读下面文字,完成1-5题.  贾谊  贾生名谊,洛阳人也.年十八,以能诵诗属书闻于郡中.吴廷尉为河南守,闻其秀才,召置门下,甚幸爱.孝文皇帝初立,闻河南守吴公治平为天下第一
期刊
目的通过检测磷酸化细胞外信号调节激酶1/2(phosphorylated extracellularsignal-regulated kinase1/2,pERK1/2)在大鼠弥漫性脑损伤中表达的时程变化和空间分布,来探讨弥漫性脑损