具有灵活部署特点的中继站(简称中继)能提高系统容量、拓展网络覆盖,这使得多跳中继网络越来越受到研究者们的关注。相对于传统的无线网络,多跳中继网络中需要考虑有更多的因素来发挥中继的优势,这些因素包括中继的跳数、中继的个数和位置、资源分配等。目前,多数研究工作主要关注多跳中继网络的两种情况,即用户为均匀分布或非均匀分布。本文针对多跳中继网络的下行链路,在用户均匀分布时研究了中继的位置,并在用户非均匀分布时研究了中继的个数、位置和频率复用方式。在用户均匀分布的多跳中继网络的研究中,到日前为止,虽然有部分文章通过仿真方法研究了中继部署问题,但关于可变中继位置的系统性能理论分析还没有被研究。本文在译码前传的两跳中继网络下,对中继位置问题进行了理论研究。首先,本文研究了基于路径的中继选择算法,把小区中继位置优化位置问题简化为了扇区下的中继位置优化问题。对该问题的理论求解,本文提出了四个定理来阐明中继位置引起的覆盖范围变化,并推导了中继位置变化下的中断用户数闭式解和系统容量表达式。最后,利用蒙特卡洛仿真证明了理论解的正确性并在不同的目标函数下得到了最佳中继位置。在用户非均匀分布的多跳中继网络中,目前仅有少量的文章研究了关于中继部署的联合优化问题,但尚无文章联合中继部署和频率复用进行优化。本文针对用户非均匀分布的一种普遍情况,即在覆盖热点的两跳中继网络中,联合优化中继的位置和频率复用方式,最大化系统容量以使得能够部署最少的中继满足系统需求。本文把联合中继部署和频率复用方式的优化问题归纳为数学上的混合整数非线性规划问题,即非确定性多项式困难问题。因此,本文结合遗传算法的基本原理和遍历搜索算法,提出一种适用于此优化问题的探索性方法。在计算机的仿真实验中,本文实现了探索性方法并得到中继个数、位置和频率复用方式的优化结果。相比于传统规划方案,本文提出的规划方案在系统性能上有较大的提升。最后,本文讨论了中断用户数上限和中继个数对系统性能的影响。