日志数据分析系统的设计与实现

来源 :北京交通大学 | 被引量 : 16次 | 上传用户:dmf625
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着企业信息化的不断发展,运行的信息系统不断增加,大型企业内部部署的各种软硬件资源不断增加。在企业系统维护的过程中,数据处理的压力会越来越大,系统维护的工作量和难度不断增加。路由器,交换机,PC服务器,阿里云服务器,各种大型应用系统,数据库等计算机网络设备产生的网络日志,系统日志,各种应用程序日志不断增加。在日志分析方面,传统的技术在处理大量复杂日志时就会出现非常大的计算瓶颈。日志,作为对系统应用,网络设备,用户操作的记录工具,在保障系统安全性,排除系统故障,监控系统和网络运营情况等很多方面都起到举足轻重的作用。通过日志分析可以总结查看出系统故障出处,用户操作行为,设备运行状态等很多信息。如通过查看用户注册登录记录,用户事件记录即可发现用户是否为正常状态。对网络配置,设备参数,接口变动等行为的记录分析,就能获取网络运行状态的信息。如果能对实时产生的日志做到实时全量采集,就可以进行数据实时分析或设置数据告警来对系统运行状态进行监控。通过数据仪表盘展示分析结果,是企业极易接受的一种数据展现形式,更能清晰的体现出数据的价值。本文所描述的项目是作者在北京久其智通数据科技有限公司实习过程中参与设计开发的实际项目。本人在项目中参与了系统需求分析,设计开发及测试部署的整个过程,主要包括系统前期需求调研,日志数据接入系统、日志检索、可视化仪表盘和告警共四个模块的设计,以及除了日志检索模块之外的开发工作。实现了对接入到系统的日志数据实时采集,实时检索,定时监控告警,日志分析结果可视化等功能。本论文首先根据实际业务需求对系统进行需求分析,确定了系统的功能需求和非功能需求。在此基础上完成系统的概要设计,使用阿里云服务器作为开发的测试环境,并将系统分为检索模块,入数据到中间层模块,中间层数据接入到ElasticSearch索引模块,仪表盘模块,告警模块。完成数据库设计后,在系统详细设计与实现部分,对负责实现模块进行功能描述和类设计,并对负责的重点功能的实现逻辑及实现过程中各方法的调用关系和实际运行效果进行了详细的说明。系统上线后,针对接入系统的日志数据的实时快速检索,大大提升了运维人员的工作效率,也节省了工作人员的时间成本。通过监控告警和仪表盘的应用,使日志数据中蕴含的丰富资源得以展现,也大大提升了被监控系统和设备的运行稳定性,能够对系统中出现的问题迅速定位。
其他文献
目的:探讨灾后护理中护士应对方式与交流恐惧状况及其相关性,并提出对策,为提高该群体心理健康水平、构建灾难心理护理体系提供参考。方法:抽取甘肃省9所医院中承担灾后护理任务
在双星主动式卫星定位系统的基础上,对建设GEO卫星和MEO卫星联合被动定位系统进行了探讨。介绍了一种联合被动定位系统的基本结构,建立了定位解算模型并进行了定位误差分析。通过编制相应的仿真软件对所提出的定位系统方案进行了仿真,验证了在我国分步建设被动式全球导航卫星系统的技术可行性。
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
随着我国经济建设发展的逐步加快,人民群众的生活质量越来越好,随之而来的是越来越多的垃圾对环境造成影响。在生活垃圾填埋场纳滤液的浓缩处理方面,经过对比发现:物料膜浓缩
针对大数值孔径旋转抛物面反射镜对倾斜入射光线较大的散焦和离焦问题,本文设计一种用于大数值孔径旋转抛物面反射镜光轴偏角测量的系统,用于对大数值孔径旋转抛物面反射镜光轴
随着中国的发展越来越迅速,水泥的需求量也越来越大。虽然所有的水泥生产企业的生产过程是全自动,但是装车过程却是通过人力来实现的,水泥自动装车机在业内研究领域尙属空白,