基于大数据集群的监控系统的研究与设计

来源 :广东工业大学 | 被引量 : 0次 | 上传用户:laopoxqq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网与移动设备的快速发展,人们日常生活与工作产生的数据越来越多。公司企业在为人们提供服务的时候,也积累了大量的用户数据。为了能够更好地帮助人们决策,满足人们的生活与工作需求,对大量数据进行采集、分析、处理已经成为许多公司企业的必然选项。对于广告行业更是如此,广告行业的需求决定了它需要分析和处理大量的数据。为了对大数据进行分析和处理,公司企业需要搭建大数据集群。而Hadoop作为一款开源的分布式数据处理框架,已经被广泛应用在大数据的处理和分析领域,也已经成为公司企业搭建大数据集群必不可少的选项。而随着需要分析和处理的数据规模的快速增长,大数据集群的机器数量也将快速增加,随之而来的问题就是集群机器出现异常甚至宕机的问题,这将给公司企业带来巨大的损失。因此,集群运行的稳定性和健壮性问题成为了公司企业不可忽视的问题。为了保障集群机器的稳定与健壮运行,开发一套对大数据集群进行监控的系统变得尤为必要。本文将结合实际的需要,在开源监控工具Zabbix的基础上进行二次开发,针对Zabbix在监控项采集、信息展示和告警通知方面的问题,设计和实现一个大数据集群监控系统,并将监控系统应用到实际应用中。具体包含的工作如下:(1)在开源监控工具Zabbix的基础上,设计并实现一个监控系统,对大数据集群的性能指标进行采集,并在Web浏览器端对各类指标进行可视化展示,对各类指标的异常情况进行告警和通知相关人员,及时发现问题,降低损失。(2)实现一个广告系统,包括广告管理模块和广告检索模块,用于产生数据以供大数据集群分析与处理。(3)将本文实现的大数据集群监控系统应用到对处理广告数据的大数据集群的监控中去。(4)对监控系统和广告系统进行功能和性能测试。
其他文献
除草剂作为一种农药形式,现已被广泛的用于农田各种杂草的防治,但其在使用过程中也不可避免的产生了各种药害现象。为了有效的减轻或克服这种危害,除草剂安全剂应运而生,它们与除草剂的搭配使用显著提高了除草剂的活性,减轻了除草剂对作物产生的药害,也对生态环境保护产生了积极的影响。除草剂安全剂—吡唑解草酯常与磺酰脲类除草剂甲基二磺隆配伍使用,是麦田专用的特效除草剂。它是1999年英国Brighton植保会议公
随着我国高等教育规模的扩张,高等教育财政呈现出财政经费紧张的状况,资金不足成为政府和高校需要共同面对的问题。我国高等教育资源配置效率不高,质量和效益低下,已引起社会
间隙波导(Gap Waveguide,GWG)传输线,自2009年被提出以来,便受到了广泛的关注。作为一种新型的传输线,GWG利用周期性短路结构,和具有一定间隙的金属面,实现频率阻带。电磁波
会议
石炳目在昆虫纲的系统发生关系分析中处于基部,是最早分支出来的原始类群,是一种不被人们熟知的无翅类昆虫。目前,关于石蛃目的系统发生地位及单系性已经得到普遍证实,但是关
本次设计的题目是基于江永女书的信息可视化设计与应用。江永女书文字诞生于中国神秘的湘南大地之上,是现今世界上留存的唯一专属女性使用的文字。女书文字被当地妇女书写于
电力系统是一个由发电侧、输电侧、配电侧和用电侧组成的有机整体。为确保电力系统的安全经济稳定运行,实现发电侧功率和用电侧负荷之间的能量平衡,电网需实时对系统频率进行
针对污水厂尾水无法满足逐步提高的环保标准,在污水厂尾水深度处理中采用一种FZ除氨剂,研究其对污水厂深度处理出水水质的提升效果。分别研究了 FZ除氨剂的静态吸附特性,在不
为应对能源短缺、环境污染与气候变化,全球各国已把加快大力开发利用新能源作为能源战略。我国风资源丰富,但是由于风电的波动性、随机性和不确定性,大规模风电的接入对电网
随着无线通信,电子设备和工作在吉赫兹(GHz)数字系统的不断发展,人类生存空间充斥着不同波长和频率的电磁波,电磁污染现已是当今社会的公共污染之一,不仅影响电子设备的正常运行,还可能威胁人的生物系统。为了解决这一问题,人们一直致力于探索理想高效的微波吸收材料,这些材料可以将微波转化为热能或通过干扰消散的方法吸收掉。理想的微波吸收材料应具有吸收强、吸收频带宽、重量轻、匹配厚度薄等特点。基于此,本文提出
传统的火焰温度检测技术与计量装置经历了长时间的检验,但信息传输、保存不便以及测量精度不高。近些年来,随着图像处理技术的发展,将CCD技术、层析成像技术、辐射测温技术等