基于Spark的工业大数据能效分析平台的设计与实现

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:czhaoguof
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
信息技术的快速发展以及互联网的广泛应用,引发世界各国先后实施“再工业化”战略。互联网在数据传输、软件管理、信息化应用等方面的强力保障为包括物联网在内的各项技术应用打开了大门。通过新兴技术提升工业智能化水平,提升企业的竞争力,以智能制造为主导的全球化工业革命已提上日程,工业智能化将成为构建未来工业体系的关键所在。以工业互联网为基础的工业大数据分析技术及应用将成为推动智能制造,提升制造业生产效率与竞争力的关键要素,是实施流程管理智能化、生产过程智能化、制造模式智能化的重要基础。随着企业生产的扩大化,最直观地是数据成指数级增长,更为重要的是,数据源越来越丰富,由原来单一地从数据库中获取生产历史数据扩展为生产管理日志、设备运行数据、以及声音、图像、视频等多维数据,传统的数据分析管理手段无法应对企业迫切想提高生产效率的需求。因此,设计并实现一个工业大数据分析平台来实现对企业数据的统一化管理,并挖掘这些数据潜藏的巨大价值,进而指导生产,提供决策支持,推动企业生产由大批量生产制造向个性化服务制造转型具有重要意义。本文基于Spark设计并实现了一个对工业大数据能统一存储,管理分析的大数据平台,主要研究内容如下:(1)研究工业大数据处理技术,从数据集成、数据存储、数据处理以及可视化分析等数据处理的重要流程出发,研究了基于Spark的数据处理框架,并且设计了基于HDFS、HBase以及Hive等存储引擎与Mysql、oracle等关系型数据库的多级数据存储系统,实现了对工业大数据的统一访问与管理;(2)在本文研究的工业大数据平台中,以乙烯生产过程能效分析管理为例,设计和开发了乙烯生产能效分析模块。通过平台算法库中的机器学习相关算法,结合乙烯生产大数据,对乙烯生产过程中的能效进行了分析;(3)采用开源Apache HUE工具实现大数据的可视化,实现支持Hive的类sql查询、Spark交互查询、Sqoop异构数据转换等功能,给用户提供一个良好的人机交互界面,方便用户有效地分析、管理工业大数据。
其他文献
课堂教学中,教师要在学生自主先学的基础上顺学而教,要少教多学,把控好"教"的度。教学过程中,教学目标的设定要简洁、科学、有效;要增强导学意识;要将"个别教"与"整体教"有机结合起
欣闻安徽合肥不少小学为了“激励”教师带好课,将教师待遇和学科分类挂上了钩。这种改变干多干少一个样现状的破冰之举实在是振奋人心,不可否认,这种破冰之举让我们看到了实现劳
针对建筑施工企业安全管理工作的现状,介绍了安全生产标准化管理的含义,并论述了企业安全生产标准化管理所涉及的各方面内容,指出安全标准化管理是一项长期性、全员性、复杂