作为下一代的宽带移动通信系统,LTE及LTE-Advanced均将提高小区边缘的传输性能作为系统关键的需求指标。在目前各种主流的小区边缘性能的提升技术中,通过中继节点实现的蜂窝多跳技术以及协作分集技术可以有效提高小区边缘用户的吞吐量,增加系统的覆盖范围。与实用性较弱的用户中继不同,固定中继已成为下一代宽带移动通信系统的关键技术,如LTE-Advanced系统中的层3中继和层2中继。然而,作为独立小区的层3中继在为LTE-Advanced系统带来更高吞吐量和更大覆盖范围的同时,也带来更复杂的干扰结构、切换场景以及资源分配等一系列潜在的问题。随着WLAN技术的迅速发展与广泛应用,目前大量移动终端在配置有蜂窝移动通信模块的同时还配置有WLAN接口,而在LTE系统日益广泛的应用过程中,配置有LTE、WLAN两种接口的双模终端将会陆续出现,这使得基于LTE与WLAN的新型中继网络成为可能。本文针对LTE三扇区系统提出一种新型的基于LTE/WLAN的异构中继网路,用于提高小区边缘用户的吞吐量,增加系统的覆盖范围。文中首先对基于LTE/WLAN的异构中继网络的架构进行研究,给出其网络覆盖模型;然后对该网络的相关工作原理进行研究,主要包括两跳接入/退出机制、空中接口协议栈以及两跳切换机制三个方面;此外,对该网络的性能进行理论分析与仿真评估。与层3中继的独立控制方式不同,层2中继主要以解码转发的方式协助小区边缘用户进行数据传输,其中利用层2中继实现的协作分集技术可以为小区边缘用户带来分集增益,提高其传输性能。随着网络规模的不断增大,有限的频率资源日益成为限制系统吞吐量的瓶颈,协作分集技术通过引入网络编码以提高系统资源利用率,增加系统吞吐量,其中基于复数域网络编码(Complex Field Network Coding,CFNC)的协作分集技术的资源利用率最高。然而由于直接分集链路的存在,若将现有的基于CFNC的协作分集技术直接用于LTE-Advanced系统,将导致更加严重的小区间干扰,甚至降低系统的吞吐量。本文针对LTE-Advanced层2中继系统提出一种基于CFNC的两跳协作分集技术,用于提高小区边缘用户的上行传输性能。通过将两跳传输与CFNC相结合,使协作分集技术在保持较低的小区间干扰以及较高的系统资源利用率的基础上,提高小区边缘用户的传输性能。文中首先基于最基本的协作场景对基于CFNC的两跳协作分集技术进行研究,然后将其扩展为一般的协作模型,并对该协作分集技术的性能进行理论分析与仿真评估。