流计算系统中的高效异常恢复方法研究

来源 :重庆邮电大学 | 被引量 : 0次 | 上传用户:lvjjvl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
流计算(Stream Computing)是近年来在大数据处理领域尤其受到重视的一项核心技术,同时流计算服务也是云计算PaaS(Platform-as-a-Service)体系中重要的一项平台能力,它的主要计算特征是可以连续处理各种网络实体所生成的实时动态数据流。不同于Mapreduce、Pregel等大数据批处理系统,流计算可以使公共服务系统、企业运营系统、以及客户系统获得在线实时的高性能、海量吞吐等大数据应用的关键能力。然而,随着应用规模的扩大,流计算系统的处理荷载大幅增长,系统发生异常的概率也随之上升,严重影响了系统的计算效率及应用效果。因此,如何高效地恢复异常是流计算系统中亟待解决的问题。本文主要对流计算系统中的异常恢复方法和异常感知方法进行研究,具体的研究工作和创新点如下:1.针对流计算系统中异常恢复效率较低的问题,本文设计了一种面向可扩展流计算系统的高效异常恢复方法。首先,为了实现流计算系统的动态扩展,该方法把系统中工作节点的内部状态划分为输入状态、逻辑状态、路由状态和输出状态,并进行上游备份,当系统中的相关节点需要动态扩展时,只需要把该节点的上游备份状态平滑地迁移到新的节点上即可;其次,为了实现流计算系统异常的高效恢复,该方法结合动态扩展和元组上游备份策略,当系统中的节点发生异常时,只需要动态扩展一个新的节点代替异常节点,并在新的节点上重放上游备份元组。以此来实现流计算系统中的高效异常恢复。2.针对流计算系统中异常恢复较被动的问题,本文设计了一种面向流计算系统的异常感知及多等级异常恢复方法。为了主动地恢复系统中的异常,该方法根据Master节点接收工作节点心跳包的频率把系统中节点的工作状态分为正常、警告、高危和异常,并在高效异常恢复的基础上,对处于不同工作状态的工作节点进行不同等级的异常恢复。其中,不同等级的异常恢复方法可以根据工作节点状态的转变而迁移。该方法能够提前处理系统的异常,提高系统对异常的恢复效率。综上所述,本文从流计算系统异常恢复的效率和主动性两个方面研究了流计算系统中的高效异常恢复方法。
其他文献
在信息爆炸式增长、多媒体技术及互联网发展日新月异的时代,人与人之间对各种多媒体资源共享的需求越来越高,大量的图片共享需要构建高效的检索系统。现有的社交图像搜索技术
当前社会,在大数据迅猛发展的势头下,信息量呈现出爆炸式增长。面对海量数据的冲击,越来越多的用户需要个性化和针对性的信息推荐,高校图书馆作为高校学术研究的主要信息提供
随着互联网时代的到来,异质信息的规模正在飞速增长。具有广泛应用的图数据不仅在数量上急剧增长,其包含的信息也更加多样化,因此对海量图数据进行有效地管理具有重要意义。
人脸识别的研究对于图像处理、模式识别、计算机视觉、计算机图形学等领域的发展具有重大的推动作用。随着视频监控、信息安全、访问控制,尤其是互联网信息检索等应用领域的
自从2006年云计算的概念被提出以来,这一融合了网格计算、并行计算、效用计算以及分布式存储技术的产物得到了快速发展,给用户带来了无可比拟的使用体验:成本低廉、按使用付
随着投资者投资理念的形成,证券市场不断规范化,上市公司经营绩效评价在协助市场管理者加强监管,引导投资者理性投资,促进上市公司加强内部管理等方面的作用显得越来越重要。
帧率上转换(Frame Rate Up-Conversion,FRUC)算法通过在原有两个视频帧中插入中间帧的方式,实现将视频从一个较低的帧率提高到一个较高的帧率。随着超高清4K视频的出现,像素
长输管道工艺系统是一个统一的、连续的水力系统,若首站和某中间站突然出现非正常阀门启闭和泵机组非正常停运,就会导致水击现象发生。水击波沿管道传播,极易造成管道某些管
随着信息技术的发展,存储设备成本的降低,企业都根据自己的业务需求建立了大量的数据库并存储了海量的数据。如何利用这些数据为业务决策提供指引与建议是企业决策分析人员需
随着科技的发展、社会需求的不断增长,手势识别在虚拟现实、智能设备控制、机器人控制、医疗诊断、计算机辅助制造等多方面具有广泛的应用前景,成为了人机交互的重点研究内容