面向工业的数据处理系统设计与实现

来源 :大连理工大学 | 被引量 : 2次 | 上传用户:cyld2006_ldcy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
工业4.0时代的到来,加上互联网和计算机技术的迅速发展,为工业生产和工业管理等环节带来了大量的工业数据,工业大数据的分析挖掘成为未来工业信息化发展的关键。但是工业领域涉及广泛、结构复杂、影响因素多样,工业大数据具有数据量大、实时性高、结构复杂、存储介质多样等特点。随着数据量的累计,传统的数据处理方式难以解决工业大数据数据量大、结构复杂的难题,亟需新的工业大数据平台来统一管理这些海量的数据,并尽可能的挖掘这些数据潜在价值,为智能化生产提供决策。本文依据工业大数据的特点与需求,设计了一个面向工业的数据处理系统,该系统设计了五层架构体系。分别为数据采集层、数据缓冲层、数据存储层、数据分析层和交互层。数据采集层主要的功能是与数据转发设备进行通信,负责工业生产过程中实时数据的采集;采集层之上是数据缓冲层,利用了Kafka分布式消息中间件,对实时采集的数据进行缓冲和临时存储,目的是实现数据采集和数据处理的解耦;数据存储层位于缓冲层之上,针对工业数据多源异构同的特点,选取了MySQL和分布式文件系统HDFS作为存储介质,负责工业数据的多级别存储功能,解决工业海量数据的存储问题;数据分析层以Spark作为大数据挖掘的计算框架,实现对海量数据的快速分析;交互层主要的功能是管理、监控整个系统,提供良好的管理画面。依据设计方案,本文实现了面向工业的数据处理系统,系统搭建了大数据基础平台Hadoop和并行计算框架Spark,并且进行模块化开发。最后本文对设计的系统进行了测试,实验结果表明,本文设计的面向工业大数据的处理系统具有较好的性能,对工业数据的处理具有较好的实际意义。
其他文献
随着航空、航天遥感技术的不断发展,遥感应用需求日益迫切,海量的遥感数据和相对滞后的信息处理能力间的矛盾日益突出。机器学习方法以其先进性、智能性等技术特性,在海量数
<正>肺癌的发病率和死亡率正在迅速上升,在很多发达国家中,肺癌占男性常见恶性肿瘤的第一位,占女性常见恶性肿瘤的第二三位,在我国,肺癌的发病率也在持续上升,严重危害人类的
会议
系统论是研究系统原理与规律的科学。目前,它已广泛用于各个学科领域并取得了丰硕成果。无疑,它对教学改革也具有有益的启示。这里,我就如何以系统论的整体原则来改进识字教
日本文化审议会国语分科会的敬语小委员会最近公布了将敬语分为5类的方案。以往敬语分为「尊敬」「谦让」「丁宁」3类。这次把「料理」一类的表现划为「美化语」。「谦让语」
期刊
首届北海国际动态雕塑展,为北海围绕城市文化和风貌特色建设注入了国际文化新元素,对国家历史文化名城北海进一步探寻文旅融合发展之路,开阔了视野,更新了思维。$$近日,首届中国北
报纸
目的 探讨血细胞比容(hematocrit,HCT)变化对重症急性胰腺炎(Severe acute pancreatitis。SAP)的预测价值及治疗意义。方法 收集我院2003-10-2006-09收治的急性胰腺炎(AP)住院患者21
通过对澳大利亚体育体制的组织结构的剖析,以及对其体育政策的分析,得到对我国体育体制改革的一些启示,即结合学校体育发展竞技体育;加强政府及体育组织的绩效评估;平衡竞技
期刊
2019年3月27日,戴森在中国发布全新Dyson V11 Absolute无绳吸尘器。相比上一代V10,戴森V11 Absolute无绳吸尘器实现了软件与硬件的双线升级,可帮助用户深度清洁家中环境,吸除
企业人事考核是企业人力资源管理的重要组成部分,人事考核工作的好坏直接影响企业员工积极性和创造性的发挥,然而,当前我国大部分企业尚无较为完善的人事考核制度,本课题就企业人