基于强化学习的无人机辅助通信部署策略

来源 :东华大学 | 被引量 : 0次 | 上传用户:zxf3896641
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着用户需求的不断增长和网络环境的千变万化,搭载中继设备的无人机在军事、农业、城市勘察、灾害重建等方面都得到了广泛的应用。一方面,无人机相对较高的飞行高度对地面用户具有大的视距概率,对网络覆盖性能有很大的提升。另一方面,无人机在空中彼此通信共享信息,灵活度更高,易适应不同环境。无人机作为中继辅助地面基站扩大覆盖通信范围,为更多地面终端提供数据访问,满足更多用户服务需求。部署单个无人机基站受到功耗、带宽资源、覆盖范围等的局限,多无人机联合组网可应用的场景更为广泛,但地面环境的复杂性给无人机部署带来现实意义的挑战。目前的部署工作侧重研究内容各有不同,但其假设和约束也存在不同的缺点。1)多在固定高度进行二维部署,而非寻找三维空间的最佳部署位置;2)为寻找无人机最优联合部署位置,需已知用户的位置信息或分布;3)假设具有全局信息的实体,实施集中式部署;4)未考虑无人机到基站间通信网络的连通性;5)未考虑到无人机的有限电量以及无人机飞行到目标位置所消耗的电量。因此,本文主要工作贡献如下:(1)根据无人机基站结合地面基站的网络架构,提出了一种无人机辅助地面基站通信的混合部署问题。寻找无人机在三维空间中的最佳部署位置,使得无人机和地面基站在各自的覆盖范围内(覆盖范围根据空对地信道模型确定),最大化全局可服务移动用户数的同时,保证无人机到基站的连通性。(2)提出了一种多无人机分布式强化学习方法SDQ-H(Semi Distributed Q learning-Height),在移动用户位置未知的情况下,实现分布式无人机三维部署。为确保部署后用户与地面基站的连通性,并解决用户位置信息未知问题,提出了分层式奖励机制和无人机基站之间和无人机基站与地面基站的通信策略。同时,为延长多无人机辅助通信网络服务时间,在完成SDQ-H部署后,本文提出集中式部署算法SDQ-H-RL(Semi Distributed Q learning-Height-Reinforcement Learning),包括多无人机三维位置优化方案和最近距离部署原则,有效提高用户服务总时刻数,同时最大化网络服务时间。(3)针对以上两种方法分别在四种不同的用户分布(Tokyo,New York City,Cluster,PPP),结合无人机、基站、地面用户间通信信道模型,进行实验评估。在SDQ-H方法中,通过大量的前提实验来确定最优参数,然后与现有的启发式、集中式部署算法进行对比,在环境参数,SINR连接阈值,地面基站个数,用户密度和通信距离等影响因素上对该方法进行实验验证,结果表明SDQ-H在覆盖性能上具有很好的优越性。在SDQ-H-RL方法中,本文设置用户累计总服务时刻数和网络存活时间两个评估指标,在不同的无人机初始分布,地面基站分布和用户密度等因素上,与改进的极值优化算法进行对比,实验证明了该方法能够有效延长网络服务时间并提高用户服务总时刻数。
其他文献
汽轮机叶片作为汽轮机装置的关键零件,在很大程度上影响着汽轮机的工作效率。砂带打磨是汽轮机叶片精加工的最后一道工序,决定了叶片的最终性能。由于国外在精加工领域的技术封锁,国内汽轮机叶片精加工技术发展缓慢,目前还普遍采用手工砂带打磨方式,这严重制约了国内电力设备的发展。本文将汽轮机叶片机器人砂带打磨中的打磨机构作为研究对象,为实现打磨机构的高刚度、轻量化和打磨叶片表面粗糙度Ra≤1.6μm,首先对打磨
学位
受益于数据的爆炸式增长和算力的飞速发展,以深度神经网络为代表的人工智能技术飞速发展。在医疗健康领域,基于历史积累的数据训练深度学习模型,从而进行面向特定任务的智能诊断和辅助决策,可在一定程度上克服医生个体经验的局限,帮助普通医生以专家水平进行诊断和决策。特别是将深度学习技术应用于疾病进展预测,对患者病情发展进行预警和个性化的早期干预,具有重要意义,是国内外众多学者关注的热点问题。由于患者积累的历史
学位
随着车联网技术的逐步成熟和应用落地,未来将有大量的车辆产生边缘计算和接入网络资源的需求。智能的网络资源调度技术将会赋能车联网,改善联网车辆的驾乘体验,极大地提高交通效率,提升交通系统的安全性。然而,目前的无线网络中可用的频谱和计算资源有限且匮乏,这对于满足联网车辆的高质量网络服务需求提出了一个新的挑战。为满足随车联网发展与日俱增的资源需求,就需要更加有效的网络资源的组织和调度技术。本文研究能够自适
学位
调查了上海市市级医院在突发新冠疫情的背景下对后勤第三方人员进行“气泡式”管理的过程中,第三方人员关注的问题、对医院提出的需求和建议,对后勤第三方人员在“气泡式”管理下的关注内容进行了总结并找出关键因素,建议以行业规范或政策扶持等方式将医院后勤第三方人员人本管理纳入公共卫生防疫体系,从精神和物质层面给予后勤第三方人员足够的重视。
期刊
<正>2023年5月12日—14日,第27届CBE中国美容博览会在上海新国际博览中心举行。5月12日下午,以“产学研协同创新促进产业高质量发展”为主题的2023中国化妆品产学研协同创新论坛暨《中国化妆品科研成果蓝皮书(2024年)》启动大会在博览会上举行。此次大会围绕“最新成果、产业需求、转化合作”进行深入探讨,旨在促进化妆品企业和与化妆品相关科研机构的相互合作、交流和学习,增强合作意识和创新能力
期刊
牛仔服装作为大众群体个性化服装的选择,消费者选择其作为服装产品购买的热度和趋势始终有增无减。选择粘胶纤维作为夏季牛仔面料的原料,具有良好的穿着舒适性。双分梳转杯纺技术为新型花式牛仔纱的纺制提供了另一种牛仔纱线生产思路。本文基于双分梳转杯纺技术进行花式牛仔纱开发,具体内容及结论如下:本文以牛仔纱的色彩设计和纱线结构作为思路,利用颜色差异大的黑白纤维条进行纺纱试验设计,探究双分梳花色牛仔纱的外观结构及
学位
刚度是衡量材料在受到外界力时抵抗变形的能力,其大小往往用弹性模量来衡量。人们通常根据任务需要来设计权衡材料的刚度,然而固定模量的材料已逐渐不满足未来智能穿戴、3D打印和软机器人等新兴应用领域的需求。受自然界中模量可切换生物材料如海参表皮、章鱼触手、大象鼻子等启发,研究人员已报道了许多模量可调的刺激响应材料,但是这些材料的可拉伸性和弹性恢复大都不佳,极大限制了其在柔性器件中的应用。由于温度升高会大幅
学位
近年来,带隙较窄(2.45 e V)的Ag3PO4在可见光照射下存在光腐蚀,从而影响了其稳定性。为了提高Ag3PO4的性能,研究人员开发了很多银基材料,这些银基材料因其对可见光的快速响应和优异的光催化活性而备受关注。因此,我们分别制备了三维类花状球形Ag3PO4/MoS2光催化剂和双Z型Ag3PO4/MoS2/g-C3N4光催化剂来改善Ag3PO4的性能。为了确保MoS2具有良好的形貌,结晶程度和
学位
棉纤维作为天然纤维之一,一直以来都是纺织行业最主要的纤维原料,也是除粮食以外的第二大农作物,在全球范围内均有广泛种植,我国也是世界上主要的棉花种植国和棉花消费国,我国的种植地主要分为三大区域,新疆流域棉区,黄河流域棉区和长江流域棉区,新疆也由于其得天独厚的地理优势成为优质棉花的主要生产基地。本课题比较了新疆细绒棉MB703和海南细绒棉以及长绒棉在结构性能上的差异,并对MB703棉纤维所纺纱线的强力
学位
环氧树脂是一类典型的热固性聚合物,具有优异的机械性能、耐热性和抗溶剂性能,是高性能纤维增强复合材料的理想基体树脂。然而,由于其固化后形成的稳定、不可逆的交联网状结构赋予了环氧树脂不溶不熔的特性,给材料的回收再利用带来了巨大的难题。环氧树脂固塑体(Epoxy Vitrimer)由于其交联网络中存在可交换的动态共价键,使其不仅能保持传统热固性环氧树脂优越的机械性能,还能在一定条件诱导出与热塑性聚合物相
学位