基于强化学习的云数据中心任务调度优化研究

来源 :南京信息工程大学 | 被引量 : 0次 | 上传用户:wzlzcy_yt190057
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着物联网和大数据技术的快速发展以及数据智能的建设推进,云计算业务急剧增长,云数据中心作为云计算服务的主要载体,承担着日益复杂且繁重的工作。由于云环境高度的动态性以及任务类型和需求的多样性,合理高效的进行任务调度成为保障云数据中心服务稳定性以及提升资源利用效率的重要途径。目前云数据中心的规模不断扩展,所处理的任务类型包含了独立的批处理任务和具有依赖关系的工作流任务模型。传统任务调度方法存在规则单一、缺乏对任务需求及机器负载感知等缺陷,容易导致云数据中心出现集群负载不均、任务最大完工时间和响应时间较长等问题。针对上述问题,本文提出基于强化学习的任务调度方法,旨在提升云数据中心任务调度效率及智能化水平,具体研究工作如下:(1)针对云数据中心独立的批处理任务实时调度中存在负载不均导致任务完工时间大的问题,提出一种基于先验知识指导的深度强化学习任务调度方法。所提方法将改进多群落粒子群优化方法产生的任务调度优化解作为先验知识赋予强化学习智能体进行评估网络的预训练,形成初始化评估网络参数,并且设计新的奖励函数以及经验回放单元数据管理机制,充分挖掘历史经验数据价值,以提高智能体学习和调度效率。实验结果表明,该方法能够提升任务调度过程中集群机器负载均衡性,从而有效降低任务最大完工时间。(2)针对云数据中心具有依赖关系的工作流任务实时调度问题,提出一种基于QoS约束的深度强化学习工作流任务调度方法。所提方法利用有向无环图(Directed Acyclic Graph,DAG)构建工作流任务模型,提取任务节点及其父任务节点特征信息,并对工作流中相互关联的任务进行并行化阶段划分,同时设计了新的QoS约束深度强化学习智能体奖励函数。实验结果表明,该方法能够提高工作流中任务的关联关系表示以及任务并行化执行度,并且在保障工作流任务最大完工时间的基础上,进一步降低了响应时间。
其他文献
近年来,网络安全和社会安全问题频发,企业和个人需要通过安装防火墙和接种疫苗等方式来抵御网络和生物病毒,实现安全投资。当网络中的投资达到一定要求时能够实现群体免疫,未投资个体可以直接获益。因此个体有动机自身不进行投资,而是期望直接受益于网络中其他个体的投资,然而这种自利行为容易导致群体的安全投资失败,造成集体的巨大损失。这种个人利益与集体利益相冲突的问题可以建模为网络公共品博弈模型来进行分析。尽管已
学位
随着5G时代的到来,人类社会的信息化程度将进一步提升。相比4G,5G网络的应用场景将遍布移动互联网、车联网及工业互联网等领域。5G网络的正常运行不仅关乎人类社会的信息化程度,也直接影响到人类社会的生活便利程度。软件定义网络能够较好地满足5G网络对网络切片的需求,但目前和传统网络一样,仍然面临着网络攻击的风险。软件定义网络受到网络攻击的情况居高不下,这导致广大企业的生产运行受到影响。因此,快速准确地
学位
随着云计算技术的不断发展,日益增长的用户需求和海量数据使得数据中心的规模不断扩大。通常情况下,云服务提供商将数据中心中的作业根据其性质分为在线作业与离线作业,在线作业对时延的要求较高而离线作业可以容忍一定的执行延时。为提高数据中心的资源利用率以降低运营成本,云服务提供商将在线作业与离线作业混合部署到同一服务器上。混部技术虽然可以有效提升资源利用率,但是同一服务器上的作业会争用共享资源,从而造成作业
学位
随着物联网技术的迅速发展与5G网络通信技术的普及,智能终端设备数量急剧增加,网络流量数据也因此呈指数级增长。传统的云计算模式在面对这种情形已经略显乏力。边缘计算正是在这种背景下诞生的。通过将云计算中心的资源下沉到网络边缘设备端,就近为智能终端设备提供计算和存储的服务,从而缩短任务的处理时延和能耗,保障用户服务质量。针对当前边缘计算任务卸载过程中对时延和能耗等多目标优化问题的局限性,本文对边缘计算多
学位
党的二十大指出,我国特殊教育事业应普惠发展。对于听障儿童来说,绘本是极佳的阅读材料。然而,国外的听障主题绘本题材相对完善、更为丰富,社会关注度也相对较高。相比之下,我国的理论研究起步较晚,原创作品也较少。但是,随着近五年来社会关注度的急速增长,特殊儿童对绘本的需求日益显现,我国的特殊儿童题材的绘本也开始蓬勃发展。本文基于图像叙事的基础上,以创作者的角度对听障主题绘本阅读的特殊性进行分析,通过文献查
学位
学位
移动应用流量识别是实现网络管理和网络安全管控的网络侧关键技术之一,传统深度包解析方法识别的颗粒度低,且面临网络协议加密、服务器部署云化和软件快速演进带来的持续挑战。基于深度学习的移动应用智能流量识别方法受到学术和工业界越来越多的关注。本文针对提升基于深度学习方法的特征提取效率和解决加密通道下的移动应用流量识别问题进行了研究,具体研究内容和主要成果如下:(1)针对现有深度学习框架处理和提取网络流量时
学位
学位
随着信息技术的高速发展,工控系统朝着互联互通,开放融合的方向大步迈进。由于OPC UA(OLE for Process Control Unified Architecture)具有统一、开放、独立的特性,其被认为是工控系统未来的通信标准。然而,开放的网络环境不仅带来了巨大的机遇,同时也引入了更多的安全威胁。在所有安全威胁中,拒绝服务攻击(DoS,Denial of Service)对于工控系统的
学位
我国从2022年开始实施“东数西算”战略,将东部的数据处理需求有序引导到西部,以解决东西部之间的数据处理需求和供给不平衡问题。边缘计算技术是“东数西算”战略的重要组成部分,能够为用户提供更低的任务处理延迟和更强的隐私保护。未来中西部将成为云计算中心,连接全国各地的边缘计算节点,形成新的数字基础设施格局。然而,边缘计算设备的资源受限,导致在生产环境下面临两个严峻的挑战:1)如何设计服务部署策略,合理
学位