随着无线通信系统的不断发展,对于蜂窝通信系统的用户吞吐量、上下行传输速率、系统覆盖和QoS需求都提出了新的标准。为满足新的系统需求,频率聚合技术、MIMO技术、协作通信技术都在不断被应用到现代通信系统。协作通信技术充分利用了无线电波传输的全向特性,通过虚拟的准并行分布式MIMO链路,可以获得系统空间分集增益,提高系统传输速率；协作通信技术中节点部署灵活,可以扩大系统的覆盖区域,为阴影衰落严重的地区和覆盖盲区提供信号服务,还可以满足局部热点地区的系统需求,增强通信系统的鲁棒性。基于传统蜂窝结构,新一代通信系统中也在不断研究协作通信技术。本文在蜂窝网中研究协作传输模式,对系统中协作传输的理论性能,蜂窝系统的动态资源分配和自适应MAC组包,以及蜂窝网用户协作通信的系统评估进行了研究。主要研究内容与创新之处概括如下：蜂窝网的部署结构已由传统模式向更广义的结构转变,包括两种典型模式：一种是多跳蜂窝网,通过允许移动终端多跳传输,拓展了系统的传输链路；另一种是基站协作联合解码的蜂窝网,允许不同基站间协作而做到上行链路解码／下行链路均衡,以获得宏分集增益。而小区中基站与用户联合协作的性能有待研究。本文在线性时分蜂窝系统中,通过研究单链路、MIMO信道条件下联合协作可获得的单个小区上行可达传输速率,得出两种协作方式的相互作用和系统传输最小Eb／N0,并给出了小区联合解码与终端AF、DF协作混合模式下的可达速率计算方法和DF最小Eb／N0的闭式解。通过仿真,给出了衰减信道条件下的仿真结果,分析得出了基站协作联合解码(宏分集)与终端协作性能的线性叠加关系,强临近小区干扰将会严重削弱用户与基站联合协作时终端协作作用的结论,验证了联合协作模式会极大提高系统传输性能。在时分蜂窝网协作传输中,数据传输的物理帧需要在时间上进行分配。但是由于网络的动态性变化以及多元的异构业务结构,固定的物理帧时分结构不能获得最优的资源利用率。因此,文中研究解决何时、怎样在时分双工OFDMA无线网络中进行上下行资源的分配。对于传统的蜂窝网络和网状结构蜂窝网,根据上下行异构业务的动态变化,文中基于基本用户业务容量接入控制提出了具有动态非对称上下行比例的资源分配算法。数据仿真表明资源利用率上动态资源分配算法性能优于固定比例资源分配。物理层的自适应技术在无线通信系统中得到了广泛深入的应用,基于跨层设计的M.AC层数据包自适应技术同样可以提高系统的资源利用率。基于动态的系统传输信道变化,通过分析和构建马尔可夫信道模型,提出了基于已知信道信息的跨层设计,旨在最大化资源利用率的自适应数据包长度APS MRU算法,也就是融合物理层自适应调制和MAC层数据帧的自动重传请求协议。并得到了自适应数据包长度的闭式解。数据仿真表明每个传输周期中根据时变信道和调制编码模式的动态包长算法提高了数据传输速率和资源利用率。蜂窝网协作传输的系统性能评估同样也是一个需要研究的课题。新一代无线通信系统更关注于最差服务用户的性能,因此,在引入不同频率复用系数后的蜂窝网协作系统性能研究是必要的。文中,以SFR协作用户位置为出发点,通过统计平均的方式研究SFR用户协作与传统的蜂窝网在单个载波的可达传输速率和基站发射功率这两个性能,分析得出了SFR用户协作比较于传统蜂窝网增强系统性能的必然结果。在仿真中,验证和比较了系统中的BER、基站发射功率、用户部署密度和SFR用户协作范围对系统的传输速率的影响,以及BER、系统需求传输速率和SFR用户协作范围对于基站发射功率的需求。