无线中继技术具有低成本、扩大发端覆盖范围、提高通信系统可靠性和增加系统传输速率的作用。将无线中继技术引入到蜂窝网中,能扩大基站覆盖范围和提高小区边缘用户性能。因此,利用中继技术有望构建高效、低成本的移动通信系统。中继技术是下一代无线通信系统LTE-Advanced的关键技术之一。中继主要分为放大转发(AF)中继和译码转发(DF)中继。AF中继又可分为CSI (Channel State Information)-assisted中继和固定增益中继。本论文将对这两种AF中继进行深入的性能研究。中继通信在小尺度衰落信道下的性能,已有不少文献进行研究。由于Nakagami-lognormal分布表达式比较复杂,目前还没有文章研究在中小尺度复合衰落信道下的无线中继系统的性能。不过,很多文章已经验证Generalized-K(KG)分布适合建模中小尺度复合衰落信道,并能降低数学处理的复杂度。因此,本论文第二章研究在独立不同分布(i.n.d)KG衰落信道下配有固定增益中继的两跳通信系统性能。文中首先得到端到端信噪比n阶矩的闭式表达式,接着利用PA (Pade Approximant)方法也得到了相应矩母函数(Moment Generating Function,MGF)的近似闭式表达式。利用这些结果,可直接得到平均端到端信噪比和衰落量的准确闭式表达式,以及平均误比特率(Average Bit Error Probability,ABEP)和中断概率的近似闭式表达式.另外,根据琴生(Jensen)不等式,得到了系统遍历容量下界的闭式表达式。数值仿真结果表明,在发端和中继间的功率分配比例对无线通信系统的性能影响比较大。只需知道信道统计信息的半盲中继是固定增益中继的一个特例,但对比需要实时跟踪信道信息的CSI-assisted中继,半盲中继的性能降低并不多。因此,具有研究价值。第二章得到了KG衰落信道下的半盲中继增益因子的闭式表达式。仿真结果表明,增益因子对第一跳平均信噪比(γ1)在高值处的变化比较敏感,即相对于γ1在低值处的增加,其在高值处的增加会使中继端的发送功率减少的更快。最近研究表明,Weibull分布是一个适用性很广的衰落信道模型,室内和室外环境都能适用,且在某些场景的实测数据拟合效果往往比Nakagami-m好。因此,第三章研究了i.n.d Weibull衰落信道下配有CSI-assisted中继和固定增益中继多跳通信系统的性能。首先,基于调和几何平均不等式,得到了更易于数学处理的端到端信噪比上界。然后,求得该界MGF、PDF和矩的闭式表达式。利用这些理论结果,得到了平均端到端信噪比、信道容量、ABEP和中断概率等性能的闭式界。仿真结果表明,当跳数越少或信道衰落越严重时,该界会越紧。中断概率是无线通信系统重要的性能指标。第三章还给出了一个通用的分析配有CSI-assisted中继的多跳系统中断概率下界的方法。研究发现,min(γ1,…,γN)即为端到端信噪比上界,因此,根据min(γ1,…,γN)的CDF表达式,只要求得γi的CDF,就能获得中断概率下界。这将使原本复杂的多跳系统中断概率分析变得简单。继续利用该界,第三章还分析了Nakagami-m衰落信道下配有CSI-assisted中继多跳系统性能。在求得MGF函数的基础上,可得到平均误比特率的下界。仿真结果表明,在中高信噪比下,该界曲线与蒙特卡罗仿真曲线几乎重合。在协作中继通信系统中,终端通过收到信号的多个独立副本而获得分集增益。但如果附近可协作的中继比较多,系统复杂度会比较高。此时,可通过选择信道质量好的中继信号进行合并,既可降低复杂度,又不致性能损失太多。第四章主要分析在i.n.d Nakagami-m衰落信道下,配有CSI-assisted中继的两跳并行通信系统模型的广义选择合并(Generalized Selection Combining, GSC)技术性能。首先利用PA方法得到各分支终端信噪比PDF的闭式表达式；在此基础上,经过计算得到GSC系统终端信噪比的MGF闭式表达式。有了MGF就可方便分析GSC的平均错误率等性能。从仿真的结果可知,在低信噪比下GSC的性能更接近具有最优性能的MRC技术。认知无线电技术能显著提高频谱利用率,是目前一个热门研究领域。频谱检测是认知无线电的关键技术之一。协作检测是一种能有效对抗衰落的频谱检测方法。第五章提出一种协作检测优化方案,即让检测信道最好的次用户优先向集中控制节点汇报检测结果。分析结果表明,在给定误检概率下,该优化方案能显著提高系统的灵敏度和检测概率。另外,为达到相同检测概率,该方案所需要的检测用户数明显减少。