基于监控PaaS的大数据治理研究

来源 :电力大数据 | 被引量 : 0次 | 上传用户:hionor
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为解决区域能源互联网数据质量差的问题,设计了基于监控PaaS的大数据治理框架,通过PaaS平台、DM8MPP数据库.Spark计算引擎等技术,支撑构建消息传输桥接代理、分片内存索引快照、流计算数据清洗、数据混合存储等传统ETL工具缺乏的流计算模块,实现云原生数据采集处理与数据治理技术的融合互补。本文采用Kafka消息动态代理,实现跨层、广域、无感知的消息发布/订阅;基于HashMap和智能指针构建分片内存快照,扩展实现索引快照,实现跨节点、跨容器的快速信息访问;研究流计算数据清洗技术,实现多源遥测、遥信的
其他文献
本文以青海某油田为例,对当代油田开采工艺的应用进行研究,分析了低渗透油田应当采用的技术。
28选用有机涂层类作为钢结构的防护应有哪些考虑?钢结构用途甚广,可用于以桥梁为主的基础设施、工业与民用建筑、仓库、广播电视塔以及地下、水下各类建筑桩体、管道、海洋平
利用超高真空扫描隧道显微镜的隧道谱实验对汞空位掺杂的液相外延P型碲镉汞材料在室温条件下进行测量,发现直接的电流-电压隧道谱对带隙预言一定程度上要受到成像偏置电压的
通过对八钢2500m^3高炉提高煤比难点进行的分析,总结了提高煤比的生产操作措施,并提出了进一步提高煤比仍需解决的诸多问题。
随着自媒体时代的到来,信息生产的边界不断被打破,其规则重新被定义。信息传播平台的扩大和低准入门槛及创新者的涌入,使得传统信息平台的热度渐渐消退,内容价值需求再度显现
提出一种基于低秩表示和学习字典的高光谱遥感图像异常探测算法.相对于其它低秩矩阵分解方法如鲁棒主成分分析,低秩表示方法更为契合高光谱图像的线性混合模型.该算法将低秩表示模型应用到高光谱图像异常探测问题上来,引入表征背景信息的学习字典,大大增强了低秩表示模型对初始参数的鲁棒性.仿真和实际高光谱数据的实验结果表明,所提出的算法有效地提高了异常的探测率,同时对初始参数具有较好的鲁棒性,可以作为一种解决高光
讨论了行星齿轮减速器设计中的各种因素,建立了以体积最小和重合度最大的多目标优化模型,运用多目标优化的乘除法以及可行性枚举法获得了最优解。结果表明,该方法不仅获得了
基于分形几何与复合左右手传输线的混合技术方法,提出了一种新型小型化微带双工器并对其进行了研究。该双工器将工作于一对不同频率的两个三端口网络进行合成,由构成其左手部
物流业作为一种服务行业,其产生和发展都离不开其他行业的支持。目前,物流业和其他行业的协同发展也逐渐引起社会各界的广泛关注,究其原因,在于物流业与其他行业的结合,能带