传统的无线蜂窝网络为了提高系统容量，扩大网络覆盖范围通常需要部署大量的基站，导致投入成本和运营成本的大幅上升。为了缓解这一矛盾，新一代的中继增强蜂窝网络架构应运而生，得到了产业界和学术界越来越多的关注，成为一个新的研究热点。值得注意的是，作为移动通信系统核心技术之一的无线资源分配技术对于充分发挥中继增强蜂窝网络的各种优势起着十分重要的作用。然而，中继节点的引入改变了网络的体系架构，使得网络环境变得更加复杂，对无线资源分配提出了新的挑战。因此，针对中继增强蜂窝网络的无线资源分配的研究已成为目前迫切且关键的课题之一。为此，本论文以中继增强蜂窝网络为研究背景，在信息论与凸优化理论的指导下，采用理论推导与实验研究相结合的方法，研究了中继增强蜂窝网络的跨层资源分配技术中的若干关键问题。飞速发展的移动通信业务对系统的资源利用效率和用户公平性方面都提出了更高要求，为了兼顾资源分配的效率与公平性，本文研究了多用户OFDMA蜂窝网络的基于效用的资源分配算法。针对包含软QoS业务与BE业务的混合业务场景提出了一种最大化系统效用的跨层资源分配模型；基于该模型提出了一种基于最优松弛解的动态子载波分配算法，即MMU算法。MMU算法在满足QoS用户的速率要求前提下为BE用户提供了较高的吞吐量与良好的公平性，并且可获得接近于理论最优值的系统效用值。近年来，合作分集技术作为一种能够有效提高通信可靠性，扩大网络覆盖范围的新兴传输技术得到了广泛关注与研究。本文创新地将合作分集技术引入到中继增强的OFDMA蜂窝网络中，针对包含硬QoS业务与BE业务的混合业务场景，考虑基站与中继节点各自的最大发射功率限制，研究了中继节点采用简单子载波配对与比特重分配这两种不同数据处理方式下的最大化系统效用的联合资源分配算法，分别提出了C-JSPA算法与CoRA算法，解决了合作中继节点选取，子载波分配与功率控制问题。与未考虑合作中继和/或联合资源调度的算法相比，C-JSPA算法在提高用户效用与系统吞吐量，以及节约能量方面具有明显优势。进一步地，CoRA算法允许基站与合作中继节点都进行资源调度，充分利用了无线信道的时间，频率以及多用户分集特性，进一步改善了系统的用户效用、吞吐量、能量消耗以及能容纳的用户数等性能。另一方面，随着移动通信业务的迅速增长，绿色无线网络设计受到了产业界和学术界的广泛重视。本文研究了OFDM中继系统的绿色资源分配算法。考虑系统的发射功率消耗与电路功率消耗，提出了一种最大化系统能效的资源分配模型，从而联合优化各个子载波的通信方式选择以及源节点与中继节点的功率分配。基于该模型分析证明了在给定通信方式选择条件下系统最大能效是关于系统总发射功率的严格拟凹函数；进而提出了GreenPA算法以获得能效最优的功率分配。相比于谱效优先的功率分配算法，GreenPA算法可显著提升系统的能量效率。此外，中继节点在改善本小区边缘用户服务质量的同时也给相邻小区的用户带来了干扰，并且干扰环境比传统蜂窝网络的更加复杂。因此，小区间干扰管理是中继增强蜂窝网络的无线资源分配研究中的另一个亟待解决的关键问题。本文针对全局频率复用的中继增强无线蜂窝多小区网络，考虑小区间干扰对中继节点与移动终端的影响，以及基站与中继节点各自的最大发射功率约束，分别研究了最大化系统吞吐量的功率控制算法，与联合用户调度、中继节点选择与功率控制算法。首先针对所有小区都采用两跳中继通信场景下的功率控制问题提出了EEPA算法和QDPA算法。EEPA算法提供了一种高效节能的功率分配方案。QDPA算法具有准分布式实现与计算复杂度低的特点，非常适用于实际系统。EEPA算法与QDPA算法获得的性能逼近最优功率分配算法，明显改善了系统的吞吐量与能量效率。进一步地，研究了直接通信与中继通信并存场景下的联合资源分配策略。针对用户与中继节点配对问题提出了ICIS算法；针对功率控制问题提出了SOPA算法和MEPA算法。“ICIS+MEPA”算法与“ICIS+SOPA”算法明显改善了系统的吞吐量与能量效率，并且接近最优资源分配。