【摘 要】
:
随着信息技术的飞速发展,近年来互联网产生的数据呈爆发式增长,诸如Storm,Spark和S4等大数据处理框架也在这一背景下顺势而生。数据的激增也带来了处理数据能耗的增长,而Storm作为主流的大数据实时处理框架,实现Storm平台的节能调度对于大数据节能有着重要的意义。本文深入研究和分析了Storm的组成和工作原理,同时详细阐述了Storm的调度算法与大数据节能的相关研究。Storm原生的调度算法
论文部分内容阅读
随着信息技术的飞速发展,近年来互联网产生的数据呈爆发式增长,诸如Storm,Spark和S4等大数据处理框架也在这一背景下顺势而生。数据的激增也带来了处理数据能耗的增长,而Storm作为主流的大数据实时处理框架,实现Storm平台的节能调度对于大数据节能有着重要的意义。本文深入研究和分析了Storm的组成和工作原理,同时详细阐述了Storm的调度算法与大数据节能的相关研究。Storm原生的调度算法没有把能耗作为调度的考虑因素,在实际任务处理过程中,由于任务对于资源需求的差异性可能会带来过多的能量浪费。针对以上问题,提出了对应的优化调度算法并用实验加以验证。论文主要工作如下:1.提出了一种基于能耗感知的Storm节能调度算法。在Storm体系架构中加入能耗监控模块和持久化模块,同时对节点处理任务的能耗进行排序,通过整合任务到低能耗节点来实现降低集群处理任务能耗的目的。通过实验对比,在处理相同数据量的条件下,基于能耗感知的Storm节能调度算法相较于默认调度算法降低了35%左右的总能耗。2.提出了一种改进的能耗感知的Storm节能调度策略。通过对集群中低能耗节点的Slot使用率进行排序,优先分配Slot使用率低的节点进行任务处理,使集群负载更加均衡,提升了Storm的整体性能。改进后的节能调度策略能在满足SLA(服务等级协议)的条件下,同时降低集群处理任务的总能耗。通过实验与默认调度算法相比,集群处理任务的总能耗下降了25%左右,同时集群负载状态和处理任务的完成时间均优于基于能耗感知的节能调度算法。本文研究工作表明,改进后的调度算法能有效地降低Storm集群处理任务的总能耗,并且能在满足SLA条件的同时降低处理任务的总能耗,对于大数据节能具有重要意义。
其他文献
近年来,集成电路产业、物联网等技术快速发展。模数转换器作为模拟信号和数字信号的转换电路,需求也迅速增大。其中,逐次逼近型模数转换器(SAR ADC)凭借其低功耗、面积小、精度以及速度适中的综合优势,被广泛地应用在各类系统中,例如便携式医疗器械,人工智能以及自动驾驶等,随之,对SAR ADC的精度要求也越来越高。然而,由于工艺造成的电容失配误差降低了模数转换器的线性度,大大限制了逐次逼近型模数转换器
在传统的信息加密手段的基础上,物理层安全技术以降低窃听者接收信号质量为出发点,可以进一步提升无线系统的安全等级。安全区域是评估物理层安全传输性能的重要指标之一,给定传输方案下的安全区域分析可以为薄弱区域布防提供参考,也可以通过优化传输方案设计来增大安全区域范围,提升系统的安全性能。有关安全区域的研究目前仍处在起步阶段,所基于的信道模型(高斯和瑞利信道)较为简单,应用场景受限。本文在更为普适的莱斯信
近年来,移动虚拟网络运营商迅猛发展,然而,移动虚拟网络运营商的现状却并不十分乐观。无线通讯的需求量持续上升,造成对这些无线通信技术支持的数据传输速率的要求愈加高,导
乡土小说是一种讲述农村农民生活、书写乡土文化的文学样式,统编本初中语文教材中共有八篇乡土小说,它们或描绘独特的风景民俗,充满浓郁的乡土气息;或蕴含深厚的文化底蕴,彰显出传统文化的魅力。乡土小说的学习,不仅能够让学生在了解异域乡土中提升审美能力,还能够唤起他们对本土文化的热爱之情。因此,研究统编本初中语文教材中乡土小说的教学很有必要。本文将在明确统编本初中语文教材中乡土小说选编情况的基础上,探讨其教
马克思主义中国化是一个历久弥新的话题,马克思主义史学作为马克思主义中国化理论成果的重要组成部分,其发展备受学界关注。以何干之为代表的中共学者在发展马克思主义史学的同时,也关注到中西文化之间的冲突与融合以及与现代化发展之间的矛盾,以何种姿态对待中国传统文化和外来文化成为近代知识分子无法逃避的话题。何干之作为我国著名的中共党史学家、马克思主义史学家,集“战士”与“学者”于一身,对马克思主义史学的发展和
反拨作用,又称反拨效应,指的是测试对教学和学习产生的影响。为了了解广西南宁中考英语写作题对初中英语写作教学的反拨作用,笔者依据Alderson和Wall提出的反拨作用假设以及Bailey提出的反拨作用模型,结合广西南宁初中英语写作教学的现状,编制问卷及访谈提纲,通过课堂观察法、问卷调查法和访谈法对南宁市某中学的200名初中生和30名英语教师进行了调查。调查结果显示:广西南宁中考英语写作题的体裁比较
随着军改的大幕徐徐拉开,作为武警部队干部队伍重要组成部分和中坚力量的“一线指挥部”党委成员,无论是在参与军改,抑或是带领部队完成任务,都扮演着最为核心的作用,因此上
核心素养是我国未成年学生在基础教育阶段,在学校发展形成的新时代社会发展必需的关键能力。但是核心素养并非无根之木,它是在具体的基础学科课程之上发展的。初中物理教学是基础教育的重要组成部分,而习题教学是其中不可或缺的内容,它能够巩固加深学生对知识的掌握帮助学生建立物理思维,同时也是教师诊断学生学习效果的手段之一。故此在初中物理习题课的教学中,也应该体现对学生核心素养的培养。然而,在实际的习题课堂教学中
万物互联时代下,数据具有规模庞大、种类繁多、结构复杂以及高维度等特点。基于奎斯特采样理论的传统信号处理方式面临诸多挑战,如硬件成本过高、设备功率过大以及数据冗余等。为了解决上述问题,提出了一种全新的采样方法——压缩感知。在稀疏性的假设下,压缩感知能够以远低于奈奎斯特采样率的方式对信号采样,并且凭借采样获得的少量测量值就能够精确重构出原始信号。历经十余年的发展,压缩感知逐步形成了较为完善的理论体系,
目的身材矮小是内分泌科和儿科医生最常关注的领域之一。其病因种类复杂、繁多,患者临床表型多样,需通过规范的问诊查体、激素检测和影像学检查明确病因。随着围产期保健的加强,生长激素缺乏症、甲状腺功能低减(甲低)等导致生长发育障碍的疾病逐渐减少,更多的矮小症患者在生化检测水平无明显异常。二代测序技术的广泛应用为这些患者的病因诊断提供了有力的技术支持。本研究拟对216例病因未明的矮小症患者行基因检测,以期明