蚂蚁金服消息队列运维平台的设计与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:chenww275245962
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
消息队列利用其高效稳定丰富的信息传递机制进行平台无关的数据交流,它基于消息的形式进行分布式系统的集成。随着业务数量和复杂度的增长,消息队列作为分布式系统之间通信的桥梁,其用户数量和自身部署规模也在快速增长:用户遇到的问题需要依靠用户支持来解决,因而用户数量的增长带来了用户支持总耗时的增长;另一方面消息队列部署规模的增加给服务状态监控和服务的容量规划等服务治理带来很大的压力,同时随着部署规模到达一定阈值,人工的服务治理已经难以满足需求。本文基于消息队列用户数量和部署规模不断增长的背景,对比当前消息队列运维相关产品的现状,针对它们的缺点并结合蚂蚁金服消息队列运维的需求,从设计和实现两方面提出了蚂蚁金服消息队列运维平台这一解决方案。本文的主要工作如下:(1)针对平台的扩展性和维护性问题,本文提出了仿照函数式编程的无状态系统架构,将后端的状态抽离到共有的持久化存储,解决了平台集群的扩展、实例迁移和实例重启状态恢复的复杂性问题,实现了实例的低成本添加及销毁,使运维人员无需关心平台的正确性问题,从而给平台的运维带来了很大的便利。(2)针对消息队列用户数量增长导致用户支持力不从心的问题,本文提出了将以往用户支持经验通过程序的形式固化成以提供解决方案为核心的用户自助支持的方案,解决了用户支持并发度低和耗时长的问题。更重要的是,由于改进后的用户自助支持不再只进行问题的反馈,而是直接提供了帮助用户解决问题的引导,省去了用户依据问题反馈进行人工分析的过程。(3)针对平台业务逻辑中建立SSH连接耗时过长导致用户请求整体耗时过长的问题,本文创造性地提出了可复用、可重入和缓存隔离的SSH连接池方案,方案的三种特性分别解决了 SSH连接重复创建、线程重复获取SSH连接和SSH连接缓存隔离的问题。本方案对SSH连接池的引入,总体上取得了同时减少业务操作耗时和资源占用的效果。(4)针对消息队列部署规模增长导致服务治理困难的问题,本文提出服务状态监控和容量规划的方案。其中服务状态监控解决了无法把控服务高维度状态和感知异常不及时的问题;容量规划解决了集群容量不足和集群资源浪费的问题。以上两方面的改进,使消息队列更好地满足了其服务等级协议。(5)针对分布式环境下执行任务的健壮性问题,本文提出了更为轻量级的分布式任务调度的方案,解决了分布式执行任务的负载均衡、任务丢失和任务同时重复执行的问题。这一改进帮助开发人员将关注点集中于任务的业务逻辑,而不再需要考虑分布式任务调度和容错的问题。自上线以来,蚂蚁金服消息队列运维平台运行状态良好。消息队列用户可从平台获得用户自助支持服务;消息队列运维人员可通过平台使用服务监控和容量规划等服务治理功能。据统计,本平台以平均每月9000的有效页面访问量和400的用户数量对企业内部提供服务,大大提高了消息队列用户支持和服务治理的效率,达到了企业对该平台的基本需求。
其他文献
1案例 周某,女,52岁,平素体健,无心血管及呼吸系统疾病。死亡前1月无明显诱因出现腰痛,自服止痛药治疗,效果不佳。死亡前1天在某赤脚医生处以穴位注射进行治疗,选取双侧肾俞和阿是
1 案 例张某,男.20岁,因“转移性右下腹痛2d”于2009年9月20日15:50入住某医院,入院诊断:急性阑尾炎,局限性腹膜炎。即刻在硬膜外麻醉改全麻下行阑尾切除术+剖腹探查术。术后手术切口
<正>氟在自然界中分布广泛,它对人体的健康起着至关重要的作用。地下水是人体氟摄入的主要来源。依据世界卫生组织建议的饮用水中氟的安全标准浓度1.5 mg/L,现在全球超过20个
会议
目的 :调查首次接受血液透析治疗的尿毒症患者使用血管通路的情况。方法 :将2015年1月至2017年1月期间四川省达州市达川区人民医院收治的160例尿毒症患者作为研究对象。调查
城市管理体制的变革和信息技术的发展,带来了社区治理的诸多挑战。社区档案资源的利用、管理和服务等过程分别指向社区档案资源的行政价值、社会价值和人本价值目标,并由其构
近来,“伊斯兰国”接连丢城失地,中东反恐战局出现实质性逆转。从一年前的势不可挡到如今的兵败如山倒,“伊斯兰国”犹如被点了“穴”,全无还手之力。究其缘由,主要是因为国际反恐
报纸
传统的档案及其学术起源说本质是一种修辞表征,不仅存在演绎逻辑混乱,还将学科发展路径固限于记录及其载体的方向。档案学研究的起点应该为包括管理活动在内的社会实践之记录
目的建立甲醛固定组织中士的宁与马钱子碱的高效液相色谱-串联质谱(LC—MS/MS)分析方法。方法甲醛固定组织经匀浆、离心后,上清液用SCX固相萃取小柱净化,在SB—C18液相色谱柱上以y
2018年8月15~21日,四川农业代表团一行53人赴香港开展系列农业经贸活动。参加了2018年香港国际茶展暨美食博览,成功举办了基地连港澳-四川生态特色农产品(香港)推介会、四川蔬菜
传统的轴盘类零件的制造方法周期较长,成本也较高,利用差温无模锻造技术则可以克服上述缺点。本文模拟了轴盘类零件的差温无模锻造成形过程,通过分析坯料变形过程中的温度场、位