近年来,无人机（Unmanned Aerial Vehicle,UAV）在无线通信领域发挥着越来越重要的作用,无人机作为中继的相关研究也得到了广泛关注。由于无人机的部署,特别是无人机的轨迹优化与资源分配是无人机中继辅助系统性能提升的关键,也是极具挑战的任务。因此,本文对无人机辅助中继通信系统的轨迹优化和资源分配展开了研究,具体研究内容包括以下三个方面:本文针对无人机中继系统面临的安全问题,考虑来自不明位置的空中窃听者的威胁,以保密率为优化目标,将无人机的轨迹和发射功率进行联合优化设计,提出一种有效的基于安全的联合轨迹与功率优化（Secure based Joint Trajectory and Power Optimization,SJTPO）算法。同时,通过将优化问题拆解成四个子问题,并逐个转化为凸优化问题进行求解,从而获取最优的轨迹和功率分配方案。仿真结果表明,与其他方案相比,提出的SJTPO算法最低可以提升10%的保密率,增强了系统的安全性。本文针对通信质量要求较高的场景,通过分析无人机中继辅助通信系统的吞吐量与轨迹和功率的关系,以最优化无人机中继系统的吞吐量为目标进行研究,通过联合优化无人机的轨迹和发射功率,以最大化系统的吞吐量,提出一种联合轨迹与功率优化（Joint Trajectory and Power Optimization,JTPO）算法。首先,将优化问题拆分成两个子问题。其次,分别将子问题转化为凸优化问题。最后,交替求解两个子问题,得到无人机的轨迹和功率分配的方案。经过仿真分析,提出的JTPO算法提升了无人机辅助通信系统的41%的吞吐量。考虑到无人机的机载能量有限,本文为提升无人机中继辅助通信系统的能效,对无人机的轨迹和功率进行了联合优化设计,提出一种基于能效的联合轨迹与功率优化（Energy-Efficiency based Joint Trajectory and Power Optimization,EJTPO）算法。首先,解决了能效优化问题中存在的变量耦合问题。其次,将优化问题进行迭代求解。最后,获取最优的轨迹和功率分配方案。仿真结果表明,提出的EJTPO算法能够有效提升了无人机中继辅助通信系统的能效。本文以保密率、吞吐量、能效三个指标来衡量无人机中继辅助通信系统的性能,分别提出三种有效获取最优的轨迹和功率的算法。仿真结果表明,本文提出的方案可以有效提升无人机中继辅助通信系统的性能。