索引分发监控与诊断系统中数据处理服务的设计与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:cz1502008
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
分布式软件系统由分布于不同的计算机之上的多个软件模块组成,并通过网络连接,在资源共享、高可用性以及并行处理等方面具有很大优势。由于大型分布式系统具有资源分布、交互复杂、规模庞大等特点,传统的测试手段在可靠性保障方面效果不太理想,系统运行时往往会出现一些意料之外的错误,使得对分布式系统的问题检测和诊断成为了巨大的挑战,因此监控被作为一种常用的手段用于分布式系统的可靠性保障中。本文的项目背景来自于本人在eBay公司搜索部门索引分发小组实习期间参与的项目。索引分发涉及到复杂的流程,由不同的分布式系统共同交互完成,最终需要确保超过2万台节点组成的集群获得正确、最新的索引。由于缺乏完善的监控、诊断和修复机制,系统运行出现问题时需要花费很长的时间定位原因。为了解决上述问题,本文提出了索引分发监控与诊断系统的分析与设计。本文首先概述了项目背景,并从分布式索引技术和软件监控两个方面进行了国内外相关研究现状的综述。论文主要介绍了系统的数据处理服务(DPS)的设计与实现。DPS使用Akka Cluster框架来构建集群服务,通过对规则文件的分配运行实现了对索引分发系统组件的监控,使用Quartz框架实现监控任务的调度运行,将具体的被监控对象与系统代码分离,提高了监控服务上线的灵活性。DPS实现了诊断工作流框架,与系统的补救服务相结合,能够找出具体的问题原因并进行相应的系统补救。DPS能够自动进行问题监控、分析问题原因、发送问题报告以及进行系统补救,并且能够持续稳定地上线新的监控服务。DPS缩短了索引分发系统故障的检测时间和修复时间,减少了人工干预的需要,开发人员得以专注于系统业务功能的开发,提高了索引分发服务的健壮性,用户能得到更准确的搜索结果。
其他文献
本文论证,大卫·休谟为十八世纪英国道德与政治思想的一个关键议题,自然社会性问题,提供了一种全新的解决思路。休谟对“自爱”这一普遍但又含混的关键概念进行了根本上的重
随着经济的快速发展和人们生活水平的日益提高,我国居民的平均寿命显著增加,当前我国已经进入到老龄化社会,老年人已经成为一个重要群体。城市社区退休老年人是老年人群体的
随着互联技术与经济的发展,我国网店的规模不断的扩张,网店的商业价值逐渐显现出来,网店转让行为也逐渐增多。但是在网络交易平台经营者与网店经营者签订的网店服务协议中,却
自然场景下的文本定位一直以来都是机器视觉领域的一个重要研究课题,在基于内容的图像检索、机器人导航、工业自动化和智能交通系统等领域都扮演着重要的角色。自然场景图像的文本定位算法有两个主要阶段:字符候选区域选取和字符分类。在字符候选区域选取阶段,传统算法一般采用级联过滤器的方式对候选区域进行筛选,文本召回率较低;在字符分类阶段,目前大多数算法采用有监督的方法利用数据库训练分类器。此类方法存在两个主要缺
在男性主导的职业领域如科学、技术、工程、数学(Science,Technology,Engineering,and Mathematics,STEM)领域普遍存在性别偏见,这种现象不仅对女性不公平,阻碍其职业生涯的
隐逸思想是中国古代思想史的不可缺少的组成部分,它广泛的存在于古代文人的生命意识之中。文人山水画作为古代文人士大夫创作的艺术绘画作品,凝聚了文人毕生的心血,其中也蕴
不同于传统的制冷技术,磁制冷是运用工质的磁热效应进行制冷的一种新型制冷模式,具有效率高、噪音小和绿色无污染的优点。铁基非晶磁热材料以其较低的磁滞和热滞,较好的耐腐
南宋时期咏侠诗创作已经衰落,但其仍具有一定的价值,它是南宋内忧外患时代的产物,承载着此时文人的心理和价值取向。本文据傅璇琮主编的《全宋诗》共整理南宋咏侠诗130首,本
脉络膜层是眼内包含结缔组织的血管层,位于视网膜和巩膜之间,为整个外视网膜层提供氧气和营养。脉络膜新生血管(CNV)是一种生长在最内层脉络膜与视网膜色素上皮层之间的增殖
随着监测设备和观测手段的逐步提升,人类日常接收的气象数据呈几何式的增长,传统的存储技术已经无法满足海量数据的存储需求。海量数据蕴含着大量有用的信息,对气象数据进行