近年来,无线通信设备飞速发展,人们追求更高效率、高质量的通信体验。利用中继的协作通信技术通过节点间的协作构成虚拟多天线矩阵,使通信节点获得更高的分集增益,从而很好的抵抗无线信道的衰落特性及不稳定性,扩大通信覆盖范围,改善链路质量,提高频谱效率。在多中继协作场景下,选择最优中继节点协作传输能够极大的改善系统整体性能,保障通信质量。本文主要针对协作通信的多中继系统及最优中继选择策略做出研究。论文主要研究内容和创新点如下:1)针对全双工中继系统,研究了瑞利信道环境下解码转发(DF)中继系统性能。综合考虑了数据传输过程中会发生的平均数据包错误率,以及全双工中继接收端与发射端产生的自干扰影响,并总结了自干扰消除技术,推导出端到端系统稳定性表达式,然后进行中继选择以及系统好坏的判定。通过MATLAB仿真结果表明,在自干扰较小时,全双工中继系统的系统稳定性优于半双工中继系统,并且增加中继个数能提升系统稳定性。2)针对中继协作系统以频谱效率为代价来实现空间分集增益,研究了瑞利信道和Nakagami-m信道的混合信道中解码转发中继系统的性能。结合信息传输过程中发生的数据平均误包率,推导出以源节点和中继节点的调制等级为设计变量的双中继端到端频谱效率表达式以及系统稳定性表达式,通过表达式进行最优中继选择从而最大化端到端频谱效率。同时还分析了不同信道参数、门限阈值对于链路频谱效率以及系统稳定性的影响。仿真结果表明,与传统的自适应DF传输策略相比,本文策略在提升频谱效率方面更优。3)为了获得更多的空间资源,网络中的通信节点相互博弈,但往往能量强的节点会抢占大量资源实现信息优先传输,能量弱的节点会出现信息滞留现象,协作网络面临着如何保障公平性及选择最佳中继辅助传输的问题。针对上述问题本文提出了基于网络公平性的混合多中继选择策略(NFHDAF),首先通过设立“奖励”值来保障网络公平,其次通过信道增益及传输阈值筛选出放大转发(AF)和DF中继集合,最后选择出最佳的全双工/半双工中继(HDR/FDR)并计算系统中断概率表达式。仿真结果表明,NFHDAF策略相比较单一的HDR/FDR传输方案和常见的最佳中继选择算法具有更低的中断概率。