无线中继技术(Relay)作为第四代移动通信系统的主要特征之一而广受关注。在蜂窝系统中引入中继站,构成中继增强蜂窝系统,能以较低的成本来增强小区覆盖,并改善小区边缘/盲点用户性能。但是,中继站的引入也为蜂窝系统的无线资源调度带来了新的问题。例如,用户需要选择中继或直接传输方式与基站通信,系统需要通过无线资源划分来使中继和直接传输方式共享有限频谱资源,中继传输的数据包需要经过多次无线链路分组调度才能到达目的端等。所以,有必要对中继增强型蜂窝系统如何进行合理有效的无线资源调度展开深入地研究,以充分发挥中继技术为蜂窝系统带来的性能增益。本论文针对基于正交频分复用(Orthogonal Frequency-Division Mul-tiplexing)的中继增强蜂窝系统的无线资源调度算法及性能进行研究,重点分析了无线资源划分、用户路径选择和分组调度问题。基于中继增强蜂窝系统的特性,提出了综合考虑系统有效性和用户公平性的资源划分以及路径选择算法；设计了适用于不同业务类型的中继系统分组调度算法和机制；并根据LTE-Advanced系统参数,通过系统级动态仿真对中继增强蜂窝系统的性能进行了分析。如何划分无线资源是影响中继增强蜂窝系统性能的重要因素之一。本论文针对多中继站系统,以全局比例公平性为优化目标建模了资源划分最优化问题,并分别基于基站及所属各中继站的接入链路(基站或中继站与用户间链路)完全复用资源和完全正交资源这两种假设,给出了相应的比例公平资源划分方法。通过此方法,可获得相比传统资源划分方案更好的系统吞吐量和公平性的折中。另外,还设计了一种基于接入链路部分频率复用的中继系统资源分配方法,相比完全复用或完全正交方案可获得更好的系统吞吐量和小区边缘用户吞吐量的折中。用户路径选择是中继增强蜂窝系统的无线资源调度需要解决的另一重要问题。本文针对多中继站系统,结合前述无线资源划分的分析结果,以全局比例公平性为优化目标,分别在接入链路资源完全复用和完全正交两种情况下建模了相应的路径选择最优化问题,并给出了高效的次优路径选择算法。系统仿真结果表明,所提算法相比传统路径选择算法可达到更好的系统吞吐量和用户公平性指标。在无线资源划分和用户路径选择确定的前提下,如何对进行中继传输的用户进行合理的分组调度是中继系统面临的又一问题。本论文分别针对不同的业务类型研究了相应的多跳链路分组调度算法的设计。首先,针对满队列(Full buffer)业务模型,设计了一种基于中继站业务队列信息的回传链路分组调度方案,能够以较小的反馈开销达到较高的中继链路传输效率。其次,针对语音IP (Voice over Internet Protocol, VoIP)业务模型,结合中继回传链路上多个VolP用户聚合的业务传输特性,设计了一种多进程的回传链路半持续分组调度方案。另外,为解决中继接入链路上存在的时延累积问题,设计了一种改进的接入链路半持续分组调度方案。仿真结果表明,通过改进VoIP分组调度方案,可以有效的改善中继站服务用户的VolP时延性能,提高中继增强蜂窝系统的VolP容量。最后,论文对基于LTE-Advanced系统参数的中继增强蜂窝系统性能进行了分析和讨论。搭建了可灵活部署中继站的系统级动态仿真平台,并对中继技术带来的性能增益及其主要的影响因素进行了评估与分析。