论文部分内容阅读
摘要:汽油精制过程中的辛烷值损失模型实时监测系统可以有效地保障在精制过程中设备运行时的安全性,实时记录各时间段数据的变化,便于后期分析、整理,通过调节设备内的可控制变量,来提高生产效率。由于得到的数据具有纬度高、数据量大、脏数据多的问题,因此采用数据挖掘的方式,对数据进行优化。针对优化后的数据,采用时序数据库IoTDB与前端展示工具Grafana,为数据的监控、存储、管理、分析提供服务,组成了一套完备的监控系统。通过实验验证,该系统的服务可以高效的完成海量数据的存储,以及优秀的监控能力,为汽油精制过程提供服务。
关键词:实时监测;数据挖掘;时序数据库;IoTDB;Grafana
1引言
随着科技的不断发展,工业生产机器设备越来越智能化,机器设备每秒产生大量数据然后被记录、收集和存储。每间隔一段时间,这些数据都会被存储和记录下来,使用一个时间戳用来作为唯一标识,因此这些数据被称为时间序列数据。为完成本次课题的实验内容,数据采用2020年第十七届中国研究生数学建模竞赛B题,汽油辛烷值建模,降低汽油精制过程中的辛烷值损失模型中的数据。
2时间序列数据的基本理论知识
2.1时间序列数据的定义
时间序列数据(time series data)是在不同时间上收集到的数据,用于所描述现象随时间变化的情况。这类数据反映了某一事物、现象等随时间的变化状态或程度。
2.2数据来源
本次研究的时序数据记录了汽油精制过程中催化裂化汽油精制装置采集的325个数据样本,包括7个原料性质、2个待生吸附剂性质、2个再生吸附剂性质、2个产品
3 IoTDB数据存储系统
在将数据写入数据库之前,还需要进行大量的准备工作:虚拟机环境的配置、实验数据优化、IoTDB使用前测试、Grafana环境配置及simple-json-datasource插件的配置。
3.1实验环境的前期配置
本次实验采用的环境有CenOS-7虚拟机一台,其中机器的配置有Apache、Maven、Java1.8、Grafana。
3.2IoTDB数据监测系统
3.2.1IoTDB数据库
本系统由Apache公司于2018年在清华大学孵化的开源项目IoTDB时序数据库作为数据库存储数据。IoTDB是一款专为物联网大数据时序数据所打造的数据库,提供高效的数据采集、存储、上传、查询等服务。
3.2.2IoTDB数据库查询性能
利用random函数随机生成数量不同的数据,将系统时间作为时间戳。每组数据包括了int型数据、float型数据、double型数据、Boolean型数据各10条,以测试IoTDB、MySQL、InfluxDB的写入性能。
4 IoTDB+Grafana监控系统
4.1实验数据优化
题目中给出的数据通过数据分析出现了数据的维度过高、空值较多、脏数据多的问题。使用先降维后建模的方法,有利于忽略次要因素,发现并分析影响模型的主要变量与因素。然后筛选出建模主要变量,使之尽可能具有代表性、独立性。
4.3可视化监控页面
首先在IoTDB写入数据,然后连接Grafana,设置后得到监控页面,如图5-1。
4.4实时可视化监控页面
利用数据的属性,以其平均值为基础,使用random方法,每间隔5s生成一组随机数据,将Grafana设置刷新时间为5s,就可以做到数据的实时监控。
5结论
本课题采用Java语言、面向对象的设计方法、Python机器学习、IoTDB时序数据库来实现系统,实现了对汽油精制过程中重要仪器的实时检测、记录,分析了IoTDB时序数据库在解决汽油精制检测系统的可行性,利用IoTDB+Grafana的方式,构建了一套完整的检测系统。
该系统的实验效果良好,可用性高,以及设备要求较低。实际生产生活中可以以较低的成本,较高的体验性吸引用户。
参考文献
[1]李天安,黃向东,王建民,毛东方,徐毅,袁骏.Apache IoTDB的分布式框架设计[J].中国科学:信息科学,2020,50(05):621-636.王伟国,刘永萍,王生年,等.B/S模式网上考试系统分析与设计[J].石河子大学学报:自然科学版,2003,6(2):145-147.
[2]韩艺坤,李富年,陈志丹.基于InfluxDB的桥梁监测系统设计与实现[J].现代电子技术,2020,43(16):21-25.邓辉.校训雷同,缺失是什么?[N].光明日报,2013-03-06(08).
作者简介
姓名:杨作超(出生1999年08月17日—),性别:男,民族:汉族,籍贯:甘肃肃南,职务/职称:学生,学历:本科在读,单位:西北师范大学,研究方向:工业大数据、物联网,单位信息单位全名:计算机科学与工程学院,所在省市:甘肃省兰州市,邮编:730070。
关键词:实时监测;数据挖掘;时序数据库;IoTDB;Grafana
1引言
随着科技的不断发展,工业生产机器设备越来越智能化,机器设备每秒产生大量数据然后被记录、收集和存储。每间隔一段时间,这些数据都会被存储和记录下来,使用一个时间戳用来作为唯一标识,因此这些数据被称为时间序列数据。为完成本次课题的实验内容,数据采用2020年第十七届中国研究生数学建模竞赛B题,汽油辛烷值建模,降低汽油精制过程中的辛烷值损失模型中的数据。
2时间序列数据的基本理论知识
2.1时间序列数据的定义
时间序列数据(time series data)是在不同时间上收集到的数据,用于所描述现象随时间变化的情况。这类数据反映了某一事物、现象等随时间的变化状态或程度。
2.2数据来源
本次研究的时序数据记录了汽油精制过程中催化裂化汽油精制装置采集的325个数据样本,包括7个原料性质、2个待生吸附剂性质、2个再生吸附剂性质、2个产品
3 IoTDB数据存储系统
在将数据写入数据库之前,还需要进行大量的准备工作:虚拟机环境的配置、实验数据优化、IoTDB使用前测试、Grafana环境配置及simple-json-datasource插件的配置。
3.1实验环境的前期配置
本次实验采用的环境有CenOS-7虚拟机一台,其中机器的配置有Apache、Maven、Java1.8、Grafana。
3.2IoTDB数据监测系统
3.2.1IoTDB数据库
本系统由Apache公司于2018年在清华大学孵化的开源项目IoTDB时序数据库作为数据库存储数据。IoTDB是一款专为物联网大数据时序数据所打造的数据库,提供高效的数据采集、存储、上传、查询等服务。
3.2.2IoTDB数据库查询性能
利用random函数随机生成数量不同的数据,将系统时间作为时间戳。每组数据包括了int型数据、float型数据、double型数据、Boolean型数据各10条,以测试IoTDB、MySQL、InfluxDB的写入性能。
4 IoTDB+Grafana监控系统
4.1实验数据优化
题目中给出的数据通过数据分析出现了数据的维度过高、空值较多、脏数据多的问题。使用先降维后建模的方法,有利于忽略次要因素,发现并分析影响模型的主要变量与因素。然后筛选出建模主要变量,使之尽可能具有代表性、独立性。
4.3可视化监控页面
首先在IoTDB写入数据,然后连接Grafana,设置后得到监控页面,如图5-1。
4.4实时可视化监控页面
利用数据的属性,以其平均值为基础,使用random方法,每间隔5s生成一组随机数据,将Grafana设置刷新时间为5s,就可以做到数据的实时监控。
5结论
本课题采用Java语言、面向对象的设计方法、Python机器学习、IoTDB时序数据库来实现系统,实现了对汽油精制过程中重要仪器的实时检测、记录,分析了IoTDB时序数据库在解决汽油精制检测系统的可行性,利用IoTDB+Grafana的方式,构建了一套完整的检测系统。
该系统的实验效果良好,可用性高,以及设备要求较低。实际生产生活中可以以较低的成本,较高的体验性吸引用户。
参考文献
[1]李天安,黃向东,王建民,毛东方,徐毅,袁骏.Apache IoTDB的分布式框架设计[J].中国科学:信息科学,2020,50(05):621-636.王伟国,刘永萍,王生年,等.B/S模式网上考试系统分析与设计[J].石河子大学学报:自然科学版,2003,6(2):145-147.
[2]韩艺坤,李富年,陈志丹.基于InfluxDB的桥梁监测系统设计与实现[J].现代电子技术,2020,43(16):21-25.邓辉.校训雷同,缺失是什么?[N].光明日报,2013-03-06(08).
作者简介
姓名:杨作超(出生1999年08月17日—),性别:男,民族:汉族,籍贯:甘肃肃南,职务/职称:学生,学历:本科在读,单位:西北师范大学,研究方向:工业大数据、物联网,单位信息单位全名:计算机科学与工程学院,所在省市:甘肃省兰州市,邮编:730070。