基于强化学习的无人机集群自主区域侦察覆盖算法研究

来源 :中国电子科技集团公司电子科学研究院 | 被引量 : 0次 | 上传用户:c1061088
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在当前信息时代的背景下,随着高新科学技术的不断发展,军用和民用领域的许多任务场景对于无人技术的需求日益增加。无人机因灵活机动、效费比高等优势成为当前应用较多的一种无人平台,并随着无人集群概念的提出开始向着集群化、智能化的方向发展。集群化应用也凭借其组织灵活、高鲁棒性、多功能性等特点成为未来无人机应用的一种发展趋势以及各国重点关注的一个研究方向。在未来战场环境下,对多个敌方目标实现协同侦察是多无人机系统的一个重要应用场景。当前传统的智能优化算法在面对环境条件未知或部分可知的情况时往往难以进行实时规划调整。强化学习是一种在试错中不断最大化自身收益信号的学习方法,非常适合解决环境模型未知情况下的决策优化问题。本文针对无人机集群自主区域侦察覆盖任务,围绕大面积未知区域的侦察覆盖和区域内特定未知目标点的侦察覆盖这两个典型任务场景进行深入研究,并结合强化学习的方法分别设计算法对问题进行求解,通过构建环境模型进行算法验证,证明基于强化学习的无人机集群自主区域侦察覆盖方法具有一定的可行性和鲁棒性,为未知环境下无人机集群实现协同侦察提供解决思路。具体研究的主要内容如下:1.针对特定未知大面积目标区域的侦察覆盖问题,提出一种基于PPO(Proximal Policy Optimization)的无人机集群区域侦察覆盖算法。通过记录历史覆盖信息构建状态空间,根据无人机运动的各项约束建立动作空间,并使用动作屏蔽(Action Masking)对其进行优化。根据任务需求设计奖励函数,通过最大化累计奖励使集群能够尽快实现对未知目标区域的侦察覆盖。最后通过仿真验证,证明本文提出的方法可以有效实现侦察覆盖任务,且相较于传统的flocking方法能够减少重复覆盖情况的发生,平均覆盖时间更短,具备较好的收敛性和鲁棒性。2.针对目标区域内特定目标点的侦察覆盖问题,提出一种基于改进MAIPPO(Multi-Agent Independent Proximal Policy Optimization)的无人机集群自主区域侦察覆盖算法,通过设计并学习中心化的状态值函数来解决多智能体训练时环境产生非平稳性的问题。依据任务场景设计状态空间,结合无人机运动的各项约束规则来设计动作空间和奖励函数,引入消息失活机制对网络进行优化,避免出现过拟合。通过最大化累计总体奖励来更合理的实现目标分配以及航迹规划。最后通过仿真验证,证明本文提出的方法可有效实现侦察覆盖任务,相比于MAIPPO可以更有效的实现多无人机的协同侦察且平均用时更短,算法的收敛性和鲁棒性更好。
其他文献
废弃生物质的资源化利用是国家可持续发展和碳中和战略实施的重要保障之一。餐厨垃圾是我国城镇有机固体废弃物的主要组成部分,具有产生量大、有机质含量丰富、可生物利用性高等特点。随着我国餐厨垃圾收运体系的逐步完善,如何实现高附加值的资源化处理备受关注。基于反向β-氧化的碳链延伸途径,利用厌氧菌群生物合成己酸等中链脂肪酸(Medium chain fatty acids,MCFAs)被认为是一种非常有潜力的
研究了一种用未经精制的粗M与环己胺反应合成硫化促进剂CBS的新工艺。新工艺具有原料消耗低、经济效益好的特点,同时,还避免了因精制原料M而带来的大量废水。对该工艺最佳条件进行了讨论。
无人机以其使用便捷、响应快速、机动灵活等特点,在目标搜索、农业植保、灾难救援等领域具有重大突破。相较于单架无人机,无人机集群通过网络协同可以更短时间、更高效率、更广服务范围的完成作业。其中,无人机集群中心节点在网络协同中扮演着数据汇聚和决策的角色,它的选择直接影响了整个网络流的方向和数据大小。无人机集群执行任务时网络复杂,属于一种多跳、自组织的特殊复杂网络,借鉴复杂网络中心节点选择算法对无人机集群
<正>在中华民族悠久的文明史长河中,中国美术史璀璨夺目,原始美术的神秘与粗简、先秦美术的肃穆与威严、秦汉美术的宏大与粗犷、魏晋南北朝美术的纤弱与婉约、唐宋美术的博大与精深、元明清美术的多样与繁缛等不一而足。美术教育历经了从师徒父子的口传心授到宫廷画院的集体授课,再到现代教育的转型发展。由美术理论家滕固著作的《中国美术小史》一书,对我国艺术教育从传统向现代的转型研究具有重要的文献参考价值。这是一部介
期刊
探索用地经济和生态价值的转化关系、实现经济发展和环境保护利益平衡,是土地利用在生态文明建设和高质量城镇化时期的新任务。本文立足货币化视角,运用GDP-GEP双测算方法,对深圳市大鹏新区的用地经济价值和生态价值进行货币化量化评估,并结合用地转移矩阵揭示2013-2019年土地利用经济价值和生态价值的定量转化关系。研究认为GDP-GEP双测算以价值货币化形式实现了用地经济和生态价值的可比性,基于用地经
突水突泥是制约隧道建设的最常见、最严重的地质灾害。为更好地指导工程实践,掌握隧道突水突泥灾害关键致灾要素及建立科学合理的防控技术对于突水突泥灾害防治至为关键。突水突泥发生机理即突水突泥通道形成的灾变演化过程,主要有两种形式:一种是完整岩体裂隙演化导致的突水突泥通道;另一种是地质缺陷式突水突泥通道。对两类通道形成机理进行总结,结果表明目前关于富水全强风化花岗岩突水突泥机理的研究,尤其是颗粒迁移的变质
学位
<正>据估算,目前我国高血压患者人数超过2.7亿,高血压在我们的日常生活中,已经越来越常见。按照以上数据推测,我国十个成年人中大约有两个人患有高血压。《中国高血压防治指南(2018年修订版)》将高血压定义为:在未使用降压药物的情况下,诊室收缩压(SBP)≥140毫米汞柱和(或)舒张压(DBP)≥90毫米汞柱。可能有的朋友会立刻拿出家里的电子血压计进行血压测量,发现自己血压已经是上面所说的高血压水平
期刊
<正>高血压是临床常见慢性疾病之一,也是多种微血管疾病、大血管疾病的诱因,甚至会导致患者出现全身性血管损伤。而有效的医院内部护理措施,可以改善患者生活质量。下面我们就来聊一聊关于高血压的正确护理措施。1高血压高血压又可称之为原发性高血压,是一种全身慢性血管疾病,主要特征为动脉血压升高(以舒张压为主)。原发性高血压临床主要表现为头晕、头痛。2高血压治疗降低心脏、脑血管、肾脏、血管并发症,提高患者生存
期刊
高速公路隧道工程建设技术的完善推动了我国高速公路工程建设发展。为了能够有效解决隧道施工作业过程中出现的问题,本文以重庆合川至璧山至江津高速公路为例,对高速公路隧道工程建设技术的应用现状进行研究并提出相应的处理措施,确保隧道工程总体的建设质量,以期为相关人员参考交流。