分集技术是无线通信中对抗衰落、保障传输可靠性的最重要的技术手段之一。近年来,协作通信作为一种能以分布式的方式提供空间分集的技术,成为了研究的热点和重点,并被视为未来移动通信系统的关键技术之一。在多中继的协作通信系统中,基于中继选择的机会中继是一种传输效率高、实现较简单的满协作分集方案;另一方面,未来移动通信系统还是一个多用户系统,因此未来移动通信系统中还存在多用户分集。多用户分集的主要思想是利用各用户间信道的独立性,选择“最好”的用户进行服务,以提升系统的容量和传输可靠性。综上所述,未来移动通信系统中同时存在着多用户分集和协作分集。现有关于多用户协作通信系统中分集的研究实质是把非协作通信系统中的多用户调度扩展和移植到多用户协作通信中,并未充分考虑到协作的特点,一定程度上造成了性能损失。本文拟突破现有研究思路的限制,从新的角度来研究多用户协作通信系统中的分集理论,设计高效、低复杂度的协作方案。本文的主要研究内容和创新点归纳如下:首先,以无线广播系统中的重传协议设计为例,提出了一种具有更高传输效率的基于双重网络编码的无线广播系统中的重传方案,并分析了该方案和对比方案的传输效率,说明了贯穿整篇论文的主导思想,即要根据系统的特点和性能潜力设计高效、实用的分集方案,为多用户协作通信中的分集方案设计提供了一种借鉴。其次,研究了轮询调度下,在多用户协作通信系统中获得满协作分集的问题,并提出了一种新的基于轮询中继的满协作分集方案。轮询调度是一种公平调度,所有用户依次传输。现有的机会中继方案基于传统时隙分配框架,即用一个广播时隙和一个中继时隙来为一个用户服务,通过中继时隙的最优中继选择为用户提供满协作分集。本文所提方案采用了新的时隙分配框架,所有用户的传输分为两个阶段:广播阶段和中继阶段。广播阶段中所有用户依次传输,中继阶段中所有中继依次帮助用户传输。通过在中继阶段每个时隙引入非常容易实现的用户选择,使得中继的每次传输都能为所有用户提供分集,达到“中继共享”的效果。该方案与机会中继方案相比,具有两方面的优势,一是在用户数较多的未来移动通信系统中具有更好的分集-复用折中性能,提高了系统频谱效率;二是中继阶段无需中继选择,因此降低了实现复杂度。在分集-复用折中性能理论分析的基础上,又提出了一种自适应中继激活策略,通过关闭不必要的中继来进一步提高系统的分集-复用折中性能。第三,论文基于前述的新的时隙分配框架,使用贪婪调度代替轮询调度,提出了一种能同时获得多用户分集和协作分集的协作方案。与基于传统时隙分配框架的现有联合多用户分集与协作分集的方案相比,一方面所提方案具有更好的分集-复用折中性能,并且具有渐进最优性,可逼近理想的分集-复用折中理论极限;另一方面无需中继选择,更具有实用性。第四,研究了“多用户协作通信系统中轮询调度是否会导致多用户分集的丧失”这一问题。现有的联合多用户分集和协作分集方案均基于贪婪调度。与之相对,本文提出了一种基于轮询调度的联合多用户分集和协作分集方案。理论分析和仿真验证说明该方案在使用轮询调度器的条件下同时获得了多用户分集和协作分集,并且保障了用户的公平性。最后,本文提出了两种基于线性接收机的多天线多用户协作通信方案。该方案同样引入“中继共享”的思想,与现有方案相比在获得同样分集阶数的同时大大减少了所需的中继时隙数,因而明显提升了系统的吞吐量。