利用近似计算保证共同运行的多个延迟敏感程序性能

来源 :山东师范大学 | 被引量 : 0次 | 上传用户:hnsushiheng
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
互联网自诞生之日起,就以惊人的速度改变世界,云计算、大数据产业应运发展,这背后离不开数据中心的支持,数据中心在当今社会发挥非常重要的核心作用,已融入我们的生活。数据中心作为一个大量程序共同运行的载体,已经从理想变为现实。大型数据中心资源平均利用率仅在10%到50%之间,为了提高数据中心资源利用率,通常采用的方法是负载聚合(workload consolidation),是指在单个服务器节点上共同运行多个程序,超过60%的数据中心运营商会采用负载聚合。此外,数据中心程序内容具有多样性,按照性能指标可以分为以IPC(Instruction Per Cycle)为度量方法的批量程序、以响应时间为度量方法的延迟关键程序(Latency Critical Program),而对于高优先级、延迟敏感程序超出服务质量要求的性能下降是不能被接受的。为了保证延迟敏感程序的性能,同时实现负载聚合,当前很多研究是将延迟敏感程序与批量程序在一个服务器节点上共同运行,当前工作提出很多资源配置、程序调度策略,实现延迟敏感程序性能与系统资源利用率二者之间的权衡。然而,数据中心很多应用程序正处在由批量程序向延迟敏感程序的转型期,并且数据中心的程序架构正重新设计,整体且功能强大的服务正更新为上百个松散耦合的微服务,每个微服务具有微秒级延迟限制。因此,将一个延迟敏感程序与批量程序共同运行的方法有很多不足,比如:与当前数据中心程序类型的比例不符,严重限制了在数据中心运行程序的类型,阻碍程序灵活性调度。而目前针对支持多个延迟敏感程序聚合执行的研究刚刚开始。研究发现,近似计算以其精度损失为代价来获取程序性能提升的特性,可以解决延迟敏感程序的延迟问题。由于数据中心很多延迟敏感程序比如机器学习、人脸识别、图像处理属于可以近似计算的程序,这类程序对输出质量有高容忍性,当程序输出精度降低时,输出质量的差异是用户在视觉和听觉上不可察觉的,符合近似计算的特性。因此,可将延迟敏感程序细分为可近似延迟敏感程序和不可近似延迟敏感程序。数据中心运营商可以与用户协商程序输出的精度范围,获得程序源代码,利用近似计算的特性,减少程序中某些循环迭代或者指令的执行,维持程序原有的执行时间。所以,本文提出一种利用近似计算保证多个延迟敏感程序性能的方法,旨在通过近似计算将多个延迟敏感程序在同一服务器节点上共同运行,提高系统资源利用率的同时,保证多个延迟敏感程序的性能,实现系统资源利用率、多个延迟敏感程序性能、灵活性程序调度三者之间的权衡,该方法主要有以下工作:第一,设计基于LLVM编译器的近似计算方法。利用LLVM编译器,通过修改优化器中转换循环的自然循环规范化(loop-simplify)实现近似计算软件级循环穿孔,设置控制近似程度的穿孔率,穿孔率由N表示,N为大于1的整数,并设置三种质量管理办法。通过实验证明,近似计算软件级循环穿孔可以减少程序执行时间,程序性能变化率与穿孔率有直接关系,该近似计算方法也可以维持程序原有的执行时间。第二,提出一种利用近似计算保证多个延迟敏感程序性能的方法,该方法基于近似计算技术的研究。该方法将多个延迟敏感程序在同一服务器节点上共同运行,即可近似和不可近似延迟敏感程序共同运行;利用Cgroups资源管理机制限制可近似延迟敏感程序使用的资源,使不可近似延迟敏感程序在充足的资源环境内执行,保证其性能;可近似延迟敏感程序在限制的资源内运行,设置动态调整机制,通过近似计算方法来维持程序原有的执行时间。实验表明:可以通过在同一服务器节点上共同运行可近似和不可近似延迟敏感程序的方法来提高系统资源利用率,同时保证多个延迟敏感程序性能,有效解决将一个延迟敏感程序与批量程序共同运行的弊端。通过以上工作,本文以保证多个延迟敏感程序性能和提高系统资源利用率为研究目标,通过LLVM编译器实现可近似程序自动循环穿孔,减少程序执行时间;通过将多个延迟敏感程序在同一服务器节点上共同运行,利用近似计算技术保证多个延迟敏感程序性能,并提高系统资源利用率。最终,实现延迟敏感程序性能保证、系统资源利用率提高、程序灵活性调度三者之间的权衡。
其他文献
使役是指某人对他人施加作用,促使他人做某事。现代日语中的形态使役句通常是指谓语动词由动词后接助动词“(サ)セル”构成的句型。通过考察大量语例,“目を輝かせる”“顔を曇らせる”等形式引起了笔者的注意。基本的使役句式,即:“X(使役主体)ガY(使役対象)ニ(Z(動作対象))ヲVt(サ)セル”和“X(使役主体)ガY(使役対象)ヲVi(サ)セル”中,使役主体和使役对象是不同的个体,使役主体对使役对象施加作
科学技术的发展加速了经济全球化进程,知识产权跨境交流的频繁发生也导致知识产权的跨国民商事纠纷的增多。知识产权自诞生之日起就有着鲜明的属地性、地域性特点,早期的知识产权只受到权利人各自国家法律的保护,因此与国际私法联系较少,法官在审理知识产权案件时不需要理会冲突法的诸多规则。随着知识产权的国际保护日益提上日程,许多国际公约都在实体方面对知识产权给予保护。即便如此,各国的实体法在知识产权的取得、丧失、
微米柱状阵列因其特殊尺寸、高比表面积以及阵列化排布,常被用于浸润性调控以及图案化材料制备,经化学修饰可赋予微柱阵列独特的浸润特性。生物材料,如多糖和聚酯,因其高生物
言语行为理论是语用学的重要理论之一。用言语行为理论指导具体语料的分析是近年来言语行为理论研究的热点,也是言语行为理论研究的一个趋势。作为一种冲突性言语行为,“批评”在人们的日常交际中较为常见。本文以言语行为理论、面子理论和力图式理论为基础,以俄语批评话语为语料,对俄语批评言语行为进行深入研究,旨在帮助外语学习者在跨文化交际中减少语用失误,促进交际的顺利进行。本文一共包括五个部分:绪论、正文三章、结
氯代有机污染物结构稳定,毒性强,并且难生物降解,对人体具有“三致”影响,水体环境中氯酚类化合物(Chlorophenols Compounds,CPs)对生态环境污染严重,严重威胁水体动、植物以
行政许可作为出罪事由,广泛应用于以“未经……许可”“未经……批准”等作为犯罪成立条件的罪名中,但是具有瑕疵的行政许可,例如行为人通过欺骗、胁迫、贿赂等非法手段获得的行政许可,是否仍然具有出罪功能在理论界存在争议。瑕疵行政许可是否具有出罪功能不能一概而论,本文以行政法为依托,以行为人对行政许可的瑕疵是否有过错以及瑕疵行政许可的分类为基础,并结合犯罪的本质,试图归纳出一个关于瑕疵行政许可是否具有出罪功
生物柴油是一种高效、清洁的替代燃料。然而,酯交换法制备的生物柴油中含有较多的多不饱和脂肪酸甲酯,造成生物柴油的氧化稳定性和低温流动性变差,这将在一定程度上限制生物
随着我国老龄化的日益严重,失能老人的数量不断增加,由于身体的衰老、生病影响和意外等原因,失能程度逐渐加深。其中,重度失能老人几乎无法自主活动,生活内容需要依靠家庭照
唐纳德·戴维森被公认为二十世纪下半叶最重要的哲学家之一。戴维森对语言哲学的主要贡献是提出了独特的自然语言意义理论。戴维森认为,构建自然语言的意义理论,可以使用形式语言分析自然语言,研究自然语言的逻辑结构。戴维森认为,塔尔斯基的真定义揭示了真与意义的关系,真定义通过给出语句的真值条件来解释语句的意义,因此戴维森将塔尔斯基真定义作为意义理论的形式表征的基础,使改造后的塔尔斯基真定义适用于自然语言,实现
合格的食用油中是不会含有辣椒碱,而地沟油大部分都是餐饮废弃油,如果在烹饪过程中加入了辣味调料等物质,尤其是牛油火锅中,则油脂中一定会有辣椒碱物质的存在。因为辣椒碱的