iGMAS数据中心MySQL高可用系统的研究与实现

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:CID102626720
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
北斗卫星导航系统是我国空间基础设施建设中非常关键的一部分,而iGMAS则是为了在北斗系统之上向全球用户提供安全、稳定和可靠的导航数据以及产品服务。iGMAS数据中心中采用MySQL作为结构化数据的存储方案,而且MySQL系统在其中扮演的角色直接决定了整个业务系统的可用性,因此提高MySQL系统的高可用性对于整个iGMAS数据中心建设的意义和重要性不言而喻。但是由于数据中心中业务的特殊性,使得利用当前已有的一些高可用系统并不能满足业务需求,这种特殊性主要是由业务系统使用MySQL的方式造成的,数据中心中的业务系统通过将业务数据的元数据信息存储到数据库中,这些元数据包括数据文件的路径等信息,然后业务系统再通过这些元数据信息找到对应的业务数据文件来对外提供数据服务。MySQL在其中相当于扮演了一个索引的角色,这就造成了业务系统对数据库的写入操作所占的比重非常大,而且由于业务系统写入元数据的高并发量以及单次大批量写入的实现方式,更加大了实现MySQL高可用的难度。因此本文旨在研究和实现一个更加高效的高可用系统来实现MySQL系统的高可用性,以减少数据中心业务系统的不可用时间。一个完备的复制环境是MySQL高可用系统的重要基础,包括MHA等开源的高可用系统并不具备自动搭建复制环境的能力,而本文则设计了一个REP-ENV-DAG复制环境有向无环图,并在此数据结构之上设计了复制环境配置算法BUILD-REP-ENV和复制环境合法性检测算法CHECK-REP-ENV,以及基于Redis的缓存方案。经过多次实验测试,采用多线程方案搭建一个包含10个从节点的复制环境平均只需要耗时0.66s,与之前采用人工的方式需要花费10分钟以上的情况相比,不仅大大提高了搭建效率,而且保证了复制环境的可靠性。保证MySQL系统高可用主要是通过在主节点发生异常时进行快速的故障转移来实现的,本文针对广泛使用的开源框架MHA所采用的数据库实例健康检测方法所存在的不足,使用Python语言重新设计实现了基于系统表更新MONITOR-BY-UPDATESYSTABLE和基于IO请求时间MONITOR-BY-CHECK-IOTIME的检测算法,提出了一种启发式的算法来动态、适应性地调整轮询检测的间隔时间,从而更加有效地缩短发现数据库异常的时间,并提出了哨兵算法来解决误判问题。经过多次实验测试,在将定时轮询的间隔时间设为5s的前提下,MONITOR-BY-UPDATE-SYSTABLE算法发现异常的平均耗时为6.010s,MONITOR-BY-CHECK-IOTIME算法发现异常的平均耗时仅为4.546s,验证了后者的启发式算法具有更好的性能,可以进一步减少系统的不可用时间。当检测到数据库实例出现了异常时,就要快速地触发故障转移过程来实现主节点的失效转移,本文分别设计实现了在非gtid模式和gtid模式下的故障转移算法,详细分析了基于二进制日志的数据同步过程中产生数据缺失的各种异常情况,设计实现了数据一致性保证算法来保证节点间数据的一致性,并根据算法为IO密集型操作的特点,提出并设计了异步协程的解决方案,和MHA开源系统所采用的多线程方案相比,能够提高数据恢复的并发效率。经过多次实验测试,在包含10个从节点的复制环境中,非gtid模式下采用多线程并发方案实现故障转移操作的平均耗时为1.642s,而采用异步协程方案的平均耗时仅为1.288s,验证了异步协程方案具有很好的优化效果,可以在保证数据一致的情况下进一步减少系统的不可用时间。最终通过上述的优化,满足了iGMAS对MySQL高可用性的功能要求和性能需求,目前已经在数据中心投入使用,提高了整个数据中心业务系统的高可用性。
其他文献
德孝文化是中华民族的传统文化之一,以"孝"贯穿着中国传统美德,具有继承性和时代性。它不仅仅是"善事父母",更是社会核心价值观的重要体现。从"德"与"孝"的关系上来看,"孝"既
目的观察复方蜥蜴散不同微粒组合剂对胃癌前病变(PLGC)模型大鼠血管内皮生长因子(VEGF)和缺氧诱导因子(HIF-1α)表达的影响,探讨该方干预PLGC的机制。方法 SPF级、4-6w龄雄性
德孝是儒家伦理系统的重要组成部分,它具有四重意涵:治国之器、教化之本、事功之源与修身之道。这四重意涵分别专注于国家治理层面、社会教化层面、个体事功层面和个体修养层
最优化问题在工业、农业、国防、通信等领域都有广泛的应用。特别是随着近些年来计算机技术的不断发展,各类软件的不断完善,快速、高效的求解最优化问题显得越来越重要,也成
从老年鞋靴产品人性化设计定义出发,通过对老龄化社会形态和老年鞋靴消费市场现状的深入分析,明确了老年鞋靴产品具有广阔的发展潜力及商机。着重探索了老年鞋靴产品的人性化
中国房地产行业起步较晚,真正意义上的房地产市场是从上世纪九十年代兴起的,迄今为止仅发展了二十余年,但在这仅有的二十年里,我国房地产行业却彰显出了旺盛的发展力,成为我
“从中国传统制造到中国智造的发展,广交会是一个充分展示中国制造实力及中国品牌风采的平台。”日前,在第123届中国进出口商品交易会(下称“广交会”)上,格兰仕集团总裁梁昭贤
铁磁/超导异质结构由于不同自旋序之间的相互竞争会展现出一系列新奇的物理特性。包括LOFF态,Andreev散射,三重态超导库伯对等等。而三重态的超导库伯对打破了人们对传统库伯
耐冷微生物分布广泛,是在极地、深海以及冷藏储存等多种低温环境中重要的生物类群。它们在低温下仍然具有高效的物质吸收和转化能力,因此对低温环境中的能量与物质循环起着至
网络经济的发展无疑是人类社会最为壮观的科技、经济、社会乃至文化观念的全新变革。美国互联网的发展具有典型的代表性。1995年8月,网景公司公开上市,这个投资1700万美元,成立仅16个月,没有