随着无线通信技术的快速发展,无线网络终端呈现海量式增长,同时各种新型业务场景也随之产生。第六代移动通信技术不仅在传输速率、时延、功率等性能方面超越5G标准,而且通信范围扩展到空天地海等多重领域,这些极大地推动了无人机通信技术的研究与发展。无人机凭借其操作简单、移动性强和适应范围广等独特优势,广泛应用于军事和民用通信等领域。作为空中平台搭载无线通信设备,无人机不仅可以接入地面通信网络、构成多无人机自组织网络,还能够与卫星通信进行融合,提高整个通信网络的通信、感知、负载和抗毁坏能力。因此,无人机辅助通信可用于改善地面终端间的通信质量,同时扩大通信网络的覆盖范围,从而满足5G和6G系统的超高速率通信、海量终端接入和高可靠低时延的要求。但是当前无人机通信相关的研究大多局限于简单的单无人机的通信资源优化,相较于多无人机通信场景缺少实际应用可行性。因此,本文考虑多无人机通信系统分别作为空中基站和数据中继,并研究了其位置部署、飞行轨迹和通信资源分配等优化问题。主要研究内容如下:（1）研究了无人机通信节点的三维部署及功率分配的优化问题。首先,分析了无人机通信节点的三维位置部署、链路传播以及物理干扰和速率约束问题,构建了无人机作为临时基站覆盖地面终端用户的通信系统模型。其次,提出了以能效和覆盖率为目标的优化问题,对无人机通信节点的三维空间坐标位置及其发射功率进行联合优化。最后,采用多目标粒子群算法对该问题进行求解,最终求出最优解并防止陷入局部最优。仿真结果表明,所提方案不仅能够提高无人机通信网络的能效,而且能够提升覆盖率、扩大通信的服务范围,同时能够实现无人机通信节点的三维位置部署和最佳的功率分配结果。（2）研究了无人机中继节点的飞行轨迹及资源分配的优化问题。首先,分析了多无人机中继通信系统中无人机节点之间的干扰、链路调度和速率约束问题,构建了无人机作为数据中继实现地面用户通信的系统模型。其次,提出了以吞吐量为目标的优化问题,对无人机中继节点的飞行轨迹、节点选择和通信资源进行联合优化。最后,采用改进的深度确定性策略梯度算法对该问题进行分析并求得最优解。仿真结果表明,所提方案不仅能够最大化地面终端用户及其链路的吞吐量,而且能够实现无人机的飞行轨迹优化和通信资源的合理分配,同时能够减少算法迭代次数,加速收敛过程。