随着无线通信的发展,多样化的通信场景对无线网络高吞吐量、超低能耗、超高可靠性的要求越来越高,通信运营商利用无人机通信网络快速灵活地为复杂的通信场景提供有效的无线连接,为当今社会构建海量数据连接提供了高效的解决方案。相较于传统静态的无线通信系统,无人机通过与地面通信节点建立视距链路进行通信,可以提供更好的通信质量,节省更多的资源。但是,由于信道的开放性、无人机通信网络的动态拓扑结构,无人机通信比传统的静态无线通信更容易遭到敌对设备的窃听攻击。由于无人机的移动,当其与其他节点进行通信时,信道特征会随着无人机的移动而发生改变,而物理层安全是基于信道特征的通信安全技术,因此无人机的轨迹会对系统的安全传输性能产生决定性的影响。因此如何有效利用无人机的可移动特性改善无线链路安全性的物理层安全方法成为了无人机通信的研究重点。本文主要利用凸优化理论在窃听者位置信息已知的情况下,对无人机的飞行轨迹、资源分配结合物理层安全机制提升通信安全性能进行了研究。主要研究了以下两个问题:1、针对无人机作为合法监听器的无线通信场景,对无人机采用联合飞行轨迹和发送功率优化方法最大化合法监听速率进行了研究。2、针对地面存在多个被动窃听者的无人机对地通信场景中,采用一架无人机作为协作干扰无人机发送干扰噪声,干扰窃听者的窃听,并对无人机的三维轨迹优化提升系统的保密性能进行了研究。通过对优化问题的建模,针对所构造的原问题是一个优化变量耦合的混合非凸优化问题,引入松弛变量替代优化过程中遇到的复杂表达式,利用连续凸优化算法将原非凸问题转化为近似的次优化问题,再使用凸优化的方法进行求解。采用固定一个解决另一个的交替迭代优化算法进行分步优化,并通过仿真验证迭代优化轨迹和功率算法的有效性,且能够明显提升系统的安全性能。