近年来，协作分集技术受到了学术界和工业界的广泛关注，逐渐成为无线通信领域研究的热点。该技术的基本思想是：无线网络中的每个用户在向目的节点发送信息的同时，作为中继帮助伙伴转发信息。通过用户间共享彼此的天线，组成一种虚拟的多输入多输出（MIMO）系统来获得空间分集增益，提高传输的可靠性。目前，对协作系统的研究已经从最初的单天线两用户协作系统（即单中继协作传输）发展到复杂的多中继、多信源、甚至是用户装备了多天线的情形。在大量新方案不断涌现的同时，协作分集技术也逐渐成为下一代无线标准，例如IEEE802.16（WiMAX）和长期演进（LTE）中的关键技术。随着研究的深入，人们越来越关注较为复杂的协作系统。然而，即使对于最简单的单中继协作系统来说，仍然有许多重要的问题需要解决。本论文在全面分析了传统的自适应译码转发（ADF）协作系统的误比特性能和中断性能的基础上，针对该系统在有效性、可靠性和实现的简单性方面的不足展开研究。论文的主要研究成果如下：1、针对基于重复码的ADF协作系统，首先推导了逐帧传输条件下，系统端到端误比特率的精确闭式表达式和渐近近似表达式以及最优功率分配（OPA）相对于平均功率分配（EPA）的信噪比增益的闭式表达式。在此基础上，分析了数据帧长对系统的误比特率、编码增益、分集增益以及功率分配的影响。然后，推导了ADF协作系统准确的中断概率以及用中断概率衡量的OPA相对于EPA的信噪比增益。此外，证明了在高信噪比条件下，不论以误比特率还是中断概率衡量的OPA相对于EPA的最大信噪比增益均为1.5dB。2、基于重复码的ADF协作系统虽然可以获得满分集增益，但是其带宽效率只有直接传输的一半。为解决ADF协作系统的有效性偏低的问题，人们设计了信号空间协作系统，该系统可以在获得满分集增益的同时，维持全速率传输。本文推导了信号空间协作系统的误比特率和中断概率，并分析了功率分配对误比特率和中断概率的影响，旨在为系统设计提供理论上的指导。首先推导了目的节点采用三种解调方式时，系统端到端的精确误比特率表达式和渐近近似表达式，以确定采用三种解调方式可以获得的分集和编码增益。然后，推导了协作系统中断概率的准确表达式以及渐近近似表达式。此外，理论分析和仿真结果表明，不论对于误比特率还是中断概率来说，系统采用平均功率分配都是比较明智的选择。3、将信号空间分集（SSD）引入ADF协作系统，使得协作系统获得更高阶的分集增益，来进一步提高协作传输的可靠性。采用星座旋转技术，首先提出了一种将信号空间分集和ADF协议合并的SSD-DF协作方案。然后，分析了该方案的平均误比特率性能并提出一种基于信道统计状态信息的最优功率分配方案。此外，渐近近似分析表明，SSD-DF方案可以同时获得协作分集和信号空间分集。仿真结果表明，相比传统的ADF协作方案，SSD-DF方案可以在不增加发送功率和带宽的条件下，获得较大的信噪比增益，显著提高了协作传输的可靠性。4、针对实现较为简单的基于正交振幅调制的协作方案进行改进，首先提出了一种增强型的协作方案，该方案可以在获得协作分集增益的同时，保持全速率传输。然后，分析了该全速率方案的平均误比特率性能，得到了精确的误比特率的闭式表达式以及高信噪比条件下的渐近近似表达式。仿真结果表明，全速率方案相比传统的基于正交振幅调制的协作方案具有较大的信噪比增益，并且两种方案具有相似的计算复杂度。