随着人们对移动通信业务需求的不断增长,移动通信系统正朝着高速、宽带、多业务和低成本的方向飞速发展。4G技术的发展不仅要求对物理层技术进行变革,同时还对传统系统架构提出了新的挑战。而协作中继的网络结构则为移动通信发展提供了一个新的方向。本文针对下一代移动通信系统中的协作中继传输这一当前热点,在国内外学者的研究基础之上,对于支持协作中继传输技术的未来无线网络中的若干关键技术进行了深入研究,其中在协作节点选择策略、用户协作激励策略、用户接入机制、负载均衡机制以及涵盖干扰抑制与资源分配的联合无线资源管理机制等方面做了一系列的工作,主要贡献如下：基于当前用户QoS的时延需求限制,以最大化系统容量为目标,对协作中继节点的位置及协作节点传输时间对系统性能的影响进行了理论分析。针对“与谁协作”的问题,提出了一种应用于中继蜂窝网络的混合型协作中继选择算法(HCRSA)。所提出的算法能根据当前小区中的用户密度情况,动态地选择了基站和中继节点之间的协作传输,或中继节点和协作用户之间的协作传输。从而根据网络中的实际情况,选择不同的协作中继机制,充分利用协作中继来有效提高用户容量,提升系统性能。提出了一种基于合作博弈理论的用户协作激励策略。基于价格机制建立了两节点一基站的模型,并引入了有偿转发的机制。在该模型中,每个节点被认为是理性的决策者。因此,节点可以独立地决定是否与别的节点协作,以及如何协作。引入“合作博弈论”和经典的纳什讨价还价算法用于确定最优系统效用,和保证用户之间的公平性。为了在确保用户公平性的同时保证系统的最佳效用值,本策略主要解决了“每个节点为了最大化自身的效用,它最优的行动是什么?”以及“为了鼓励协作行为,最佳的回报价格应该定为多少?”这两个关键问题,从而使得参与协作传输的用户能够在获得最大收益的同时保证用户之间的公平性。提出了一种自适应随机接入算法。所提出的随机接入算法主要用于布设有中继节点的多信道网络中,实时业务通过提前预约随机接入信道(RACH信道)来实现无冲突的接入,而非实时业务则通过中继节点共享剩余的RACH信道实现两跳接入。当非实时业务的数据在时域接入发生碰撞时,中继节点根据当前的非实时业务到达状况和剩余的RACH信道数目自适应地确定最优的频域退避窗口大小。为了减轻中继节点之间由于完全信道复用所产生的干扰,所提出的策略还结合了部分频率复用的思想。从而更好的保证了非实时业务的接入过程,进一步提高了接入资源的利用率。提出了一种通过中继节点,利用负载转移以及信道信用策略来实现蜂窝中继网络中小区之间负载均衡的机制。中继节点利用实时业务信道实现将呼叫从热点小区转移到非热点小区。由于每个中继节点分配数目实时信道有限,提出了利用动态的信道借用来进一步实现小区之间的负载均衡。考虑了两种不同的中继节点布设场景,采用多状态马尔可夫模型对提出的负载均衡机制进行评估。该机制能够有效地降低系统的呼叫阻塞概率,提升了系统的整体性能。提出了基于静态频率规划方案与动态用户调度相结合的中继蜂窝小区中干扰协调方案。将每个小区中的可用子信道划分为两份。其中一份用于移动用户直接与基站通信,而另一份则供通过中继节点两跳接入基站的用户使用。为了保证用户之间的公平性,位于基站处的调度器根据当前信道状况反馈信息(CSI)构造一个基于得分制度的效用函数,从而根据用户得分灵活地调度位于小区边缘的用户。通过动态调整权值来兼顾系统性能和用户的公平性,使得小区之间的干扰能够得到较好的抑制,有效地提升边缘用户的性能和系统吞吐量。论文最后对全文进行了总结,并指出了今后的研究方向。