基于强化学习的超密集网络动态资源分配及能效优化研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:jonquil1981
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着移动通信的发展,通信系统中的用户设备、用户需求速率等呈指数增长,为了提升无线移动网络容量,小区密集化成为增加系统容量的重要技术手段之一。超密集网络作为小区密集化手段之一,它采用密集化部署微基站来解决热点地区容量低的问题。但是这也导致超密集网络在工程实现上面临着很多问题,比如说能耗和求解问题复杂度问题等。由于微基站数量大,通信系统的能耗不断增大,另外,微基站的数量过大也会导致资源分配和功率分配求解问题复杂。本论文首先分析了超密集网络中网络节能、资源分配的国内外研究现状,发现超密集网络主要问题为由于网络节点多、干扰严重、能耗大、网络拓扑复杂导致的求解空间规模大。接着分析了超密集网络的系统特点,完成了超密集网络的站址建模和信道建模,并简单的介绍了分簇算法,长短期记忆人工神经网络和强化学习,为后续的研究做铺垫。然后,为了减少超密集网络能耗,本文提出了一种基于强化学习的基站休眠策略。先对超密集网络的能耗模型进行了建模与分析,阐述了基站各个部分的能量消耗。由于基站是否休眠和该基站的业务负载有关,如果能提前知道基站的负载状况,就可以提前做出决策。根据历史流量数据进行下行流量预测,根据流量预测和资源预留大小来确定候选待关闭微基站;最后提出了一种基于强化学习的基站休眠策略,在保证服务用户的最低服务质量的基础上,确定需要关闭的微基站。仿真结果表明,本文提出的基于强化学习的基站休眠策略可以减少网络能耗,进而提升系统的能量效率。最后,本文研究了微基站的分簇算法,在分簇的基础上完成了资源分配。本文采用了多智能体强化学习,进行了频率和功率联合分配算法。首先,对超密集网络进行分簇,降低网络的规模,然后进行簇间资源分配,尽量将增大使用相同资源块的用户间距离,从而减少同频干扰。根据簇间资源分配后,采用强化学习算法,进行频率和功率的联合分配,为了减小动作空间,引入了多智能体的概念,提出了一种中心化训练去中心化执行的多智能体强化学习的资源分配算法。仿真结果表明,与现有算法作比较,基于强化学习的资源分配算法可以提高系统的能量效率和频谱效率。
其他文献
目的 研究腕部小切口手术治疗腕管综合征(CTS)的临床疗效。方法 选取2020年7月至2022年6月我院收治的60例CTS患者,按照随机对照原则分为对照组和观察组各30例。对照组行传统切开手术,观察组行腕部小切口手术,对比两组手术疗效、手术及术后恢复情况、术后瘢痕疼痛发生率,对比两组术前、术后6个月时临床症状严重程度。结果 术后6个月时,两组手术优良率比较,无显著差异(P>0.05)。术后6个月时
期刊
推动长江经济带的发展是我国重大国家战略之一。长江经济带包括上海、浙江、江苏、江西、安徽、重庆、湖北、湖南、四川、云南和贵州11个省市,横跨中国的东中西三大区域,在进出口贸易及吸引外资方面成就瞩目。长江经济带经济的崛起依赖于对外贸易的发展,该地区的贸易对外开放促进了当地经济的发展,同时将新兴的西方思想理念传入,冲击了当地传统的就业理念和就业结构,导致对不同质劳动者的需求发生巨大的变化。贸易开放对长江
学位
在如今这个科技高度发展的时代,无人飞行器,无人水下机器人,无人驾驶等技术日趋成熟,越来越多的“无人”产品将走入我们的生活,使人们的生活更加便捷。在这些“无人”技术中,路径规划是不可或缺的重要一环,路径的好坏直接关系到这些无人载具的耗能和时间消耗。而在路径规划这个研究领域,三维路径规划相关研究相比于二维路径规划来说数量太少,所以本文将以三维路径规划问题作为研究对象进行展开。就路径规划问题来说,Q学习
学位
气膜孔对涡轮叶片冷却起到了至关重要的作用。随着新型航空发动机的发展,涡前温度已达到2000 K,在已涂覆热障涂层的叶片上制取气膜孔能够有效改善冷却能力,但对孔的加工质量和效率的要求越来越高。常用的气膜孔加工方法一般为电火花加工、电液束加工和超短脉冲激光加工,电火花加工无法避免热缺陷的产生,存在严重的重铸和裂纹现象,且难以加工导电性差的陶瓷涂层,电液束加工设备和工艺复杂,无法精确控制孔的形状,超短脉
学位
光热自驱动机制是基于光照条件下产生的局部不对称温度响应,在热梯度力的作用下驱动颗粒定向运动,该过程具有非接触式的能量传递、控制方法简单、容易启停等优点。考虑到Au的等离激元光热响应效率高且Au和SiO2的生物相容性好,因此,SiO2@Au Janus微米颗粒的光热自驱动特性在能源开采、微控流和生物医学等领域具有广阔的应用前景。目前,针对微纳米颗粒的光热自驱动机制,研究者们已经开展了部分实验和模拟研
学位
永磁同步电机凭借高功率密度,高效率,以及高动态响应性能的优势,已成为电动汽车电驱系统电机的主流选择。匝间短路故障作为最常见的电机定子故障,会对电动汽车的安全行驶造成隐患。本文围绕永磁同步电机匝间短路故障诊断为核心,设计出一套满足电动汽车驱动电机实用需求的高速准确的,适用性强的在线双核匝间短路诊断系统。采用探测线圈作为故障诊断监测手段,本文首先对采用SVPWM控制的永磁同步电机探测线圈内的谐波成分进
学位
在机械加工中,为了保证大深径比内表面达到较高的加工精度和较低的表面粗糙度,多采用的磨削加工方式,特别是对于高硬度材料。然而受加工工况的限制,在磨削大深径比内表面时需要大长径比磨杆配合砂轮进行加工,其刚度较低,同时为了保证磨削线速度足够大,磨削主轴转速一般较高,因此非常容易发生颤振现象,进而导致磨削表面出现振纹,影响磨削加工表面的粗糙度和尺寸精度。目前,大长径比磨杆已成为限制高精度大深径比内表面加工
学位
近年来,随着科技的进步,社会上各行各业对移动机器人的智能化要求越来越高,而在移动机器人通往智能化的道路上,如何实现移动机器人的精确定位一直是一个热点研究问题。而单一的传感器定位已经满足不了精度高、覆盖范围广、实时性好的定位要求,所以目前的定位方法主要依赖于多传感器融合定位。在众多定位传感器中,3D激光雷达(Light Detection and Ranging,Li DAR)精度高、视场范围大、适
学位
随着现代社会的到来,电磁波已经遍布我们的生活,在提高生活质量促进社会发展的同时,也悄悄地造成不可见的污染。高精度的电子仪器会由于电磁干扰而出现信息错误、功能受损、精度降低;公共交通会由于电磁干扰而出现延误或事故;医疗器械会发生畸变失真和误报;长时间生活在具有电磁污染的环境中,会损害中枢神经系统和造成心脑血管疾病。因此,屏蔽多余电磁干扰,减轻电磁污染意义重大,而屏蔽电磁波材料可能会导致电磁波折射,引
学位
随着大动态航天器、大动态战术性武器在航空航天、军事等领域的应用越来越多,惯性仪表处于高动态、高精度、高过载的环境下工作的情况也越来越多,其精度决定了惯性导航系统的精度,为了能够对惯性仪表有更加精准的建模和误差标定,研制高动态力学环境激励设备对惯性仪表进行测试成为当下迫切需求。高动态精密离心机能够模拟动态加速度、动态角速度等精准复合激励对惯性仪表进行动态性能评价,其技术特点为:大负载、高动态、宽频带
学位