协作分集技术作为一种虚拟多输入多输出(Multiple-Input Multiple-Output,MIMO)技术,在无线通信领域具有非常广阔的应用前景。它不仅能够获得提高数据传输速率和传输质量方面的益处、突破无线终端必须配备多天线方面的限制,而且还能有效地扩大网络覆盖范围、覆盖阴影区域、节约能耗。然而,由于在实际通信系统中使用的是半双工的中继,导致基于传统单向中继技术的协作系统频谱利用率低。为此,一种称之为双向中继的新协作技术应运而生,该技术允许中继在同一时刻同时为两个终端节点转发信号,大幅度提高了系统的速率以及频谱利用率。其中,基于放大转发(Amplify-and-Forward,AF)的双向中继技术,由于具有较高的频谱利用率和较低的实现复杂度,成为了无线通信领域最重要的热点之一。本文以基于高效低复杂度的双向AF中继传输技术的协作通信系统为研究对象,从性能分析、节点选择和功率分配三个方向,围绕中断概率研究、链路速率非对称性、频谱效率(Spetrum Efficiency,SE)和能量效率(Energy Efficiency,EE)的权衡、非理想信道状态信息(Channel State Information,CSI)等问题展开的研究。本文的主要工作和贡献概括如下:第一部分针对双向AF中继协作通信系统的传统中断概率分析方法适用范围不够广泛的问题,考虑更一般的衰落信道模型:两个终端节点与中继间的信道相互独立,且可以分别服从不同的衰落,研究更为全面、通用的中断概率表达式。首先,提出一种基于积分区域的几何分析法,该方法不依赖于信道衰落分布函数的具体形式。针对三节点双向AF中继协作通信系统,分别推导得到了单向中断概率和系统中断概率通用表达式及闭合下界。然后,将研究场景拓展到多中继多用户双向AF中继协作通信系统,推导得到了系统中断概率表达式和闭合下界。这些表达式很简洁,都是信道增益模平方的分布函数(Cumulative Distribution Function,CDF)的函数,适用于不同的衰落信道。特别是得到的闭合下界,可用于系统渐进性能的分析,如分集增益、编码增益等。仿真结果验证了本文推导得到的公式的正确性,与现有其他工作相比,还具有高效性、通用性和灵活性的优势。第二部分针对多中继双向AF协作通信系统中双向链路速率非对称问题,在充分分析速率的非对称性对系统性能的影响的基础上,研究该系统下的最优中继选择算法。根据信道速率的非对称性,提出一种基于信道流量信息的中继选择算法并分别在Rayleigh和Rician衰落信道下进行详细的性能分析。对于Rayleigh衰落信道,给出了系统中断概率精确闭合表达式及分集增益和编码增益;对于Rician衰落信道,推导得到了系统中断概率的闭合表达式,并确定该中继选择算法获得的分集增益和编码增益。仿真结果表明,相比于传统的中继选择,本章提出的选择算法在非对称的条件下能显著地提高系统的性能。第三部分针对SE和EE往往无法兼得的问题,主要研究非对称双向AF中继协作通信系统的SE-EE权衡问题。首先基于统计CSI分别建立了SE和EE的统计模型,并根据这两个模型建立最优化功率分配问题联合优化SE和EE,然后根据非线性分式规划相关理论,得到闭合形式全局最优解,同时证明了该解为SE和EE的帕累托最优解。最后针对多中继系统,提出基于SE-EE权衡的中继选择算法。实现了通过调节一个权衡因子就能简单高效地完成SE和EE间的权衡,达到它们间的帕累托最优。第四部分针对实际场景中无法获得理想CSI的问题,研究非理想CSI对双向AF协作通信系统的性能的影响并通过鲁棒的功率分配的方法袮补其带来的性能损失。分别分析了该系统的单向中断概率、平均SER和系统中断概率的影响,分别推导得到了它们的准确表达式、高信噪比渐进表达式以及由非理想CSI引入的误码平层(Error floor,EF)。分析结果和仿真结果表明,非理想CSI给双向中继系统带来了严重的性能损失,在高SNR条件下会出现地板效应。于是,根据系统的需求,提出两种鲁棒的功率分配问题:以总消耗的功率为约束条件,以系统中断概率为优化目标,建立功率分配最优化问题;以中断概率和每个节点发射功率的上限为约束条件,建立功率分配最优化问题最小化系统的总功率,并最后分别得到了它们的闭合形式最优解。仿真结果表明,本文提出的功率分配能够有效地削弱非理想CSI对系统性能的影响,相比等功率分配算法平均节省了50%的能量消耗,从而有效地提高了系统的能量效率。