协作通信通过在现有蜂窝网络中加入中继站或通过相邻用户的帮助进行合作传输,其提供了一种在不改变骨干网络结构的同时能显著改善网络性能的有效途径。协作通信利用空间分集(Space Diversity)原理,使单天线节点之间彼此相互协作和共享资源,形成虚拟多天线阵列来实现分集增益,不仅能够对抗信道的深衰落特性,而且避免了用户终端设备难以配置多天线的实现难度。协作中继网络里的研究问题通常包括中继协议设计、中继选择、功率分配等。本文首先研究了双向中继网络的中继选择问题,针对双向(Two-way)放大转发(AF, Amplify-and-Forward)中继的传输特性,提出了一种基于双向信道调和均值的中继选择方案。通过理论分析,指出双向中继网络的总传输速率(Sum Rate)是信道的加权调和均值的函数,因此选择具有最大加权调和均值的中继节点可以优化总传输速率。此外,本文通过分析平均误符号率(Average Symbol Error Probability)证明了该提出的中继选择方案可获得满分集度。其次,本文研究了双向中继网络的功率分配问题,针对双向放大转发中继的传输特性,提出了一种基于信道统计信息的统一的功率分配方案。通过将该功率分配问题建模为凸优化问题,利用相应数学工具,求得了最优解的闭合表达式。证明了该功率分配方案可以在高信噪比(SNR, Signal-to-Noise Ratio)条件下同时最优化网络平均总传输速率(Average Sum Rate)、平均误符号率以及平均中断概率(Average Outage Probability)。计算机数值仿真验证了该方案给双向中继网络带来的性能增益。最后,本文研究了中继网络的功率分配与中继选择联合优化问题,针对单向(One-way)与双向中继网络,提出了两种不同的联合优化策略。其一为,在满足一定服务质量(QoS, Quality of Service)的约束条件下,最小化中继网络的总功率的联合优化策略；其二为,在满足一定功率预算下,最优化中继网络的服务质量的联合优化策略。应用凸优化工具,对联合优化问题进行数学建模,证明了联合优化过程可以等效为分步依次进行中继选择和功率分配,求解得到了不同策略的最优解的闭合表达式。