为满足爆炸式增长的移动业务需求,蜂窝网络可以通过缩小小区面积以提高链路传输质量并减少每个小区的业务量。覆盖面积较小的小区(如毫微小区、家庭基站小区)和提供广域覆盖的传统宏蜂窝网络形成了异构网络。对于网络运营商而言,家庭基站利用现有的回程网络与宏基站通信,从而降低了运营成本。而对于用户而言,家庭基站更加易于安装。基于上述优点,本博士论文着重讨论由家庭基站和宏基站构成的异构网络。在第三代合作伙伴项目(3GPP)中,异构网络中的干扰问题被分成两类：跨层干扰(宏小区和家庭基站小区之间的干扰)问题和同层干扰(家庭基站小区之间的干扰)问题。典型的干扰抑制方案是给相互干扰的小区分配正交的信道,然而正交信道分配方法会导致频谱利用率下降。为了提高频谱利用率,需要更精细化的解决方案。而对于跨层干扰问题,家庭基站接入基于IP的有线回程网络,该网络回程时延波动较大,使得利用实时信息交换来抑制干扰的方法难以实现。另外,家庭基站的部署没有特定的规划并且其服务用户数较少,不同用户的干扰情况不具备统计相似性,这使得应用在宏小区间的干扰协调方法无法直接解决同层干扰问题。考虑到传统的干扰抑制方案在解决跨层干扰问题和同层干扰问题上的局限,本博士论文提出了一系列干扰管理策略。首先,针对跨层干扰场景,设计了二维的资源分配方法以适应信道和业务的动态变化。其次,提出了基于凸优化的算法来进一步提高现有同层干扰管理策略的性能。另外,针对同层干扰场景,结合准入控制和资源分配,设计了基于图论的解决方案。最后,探究了带有串行组解码的上行同层干扰管理方案。本文在国家自然科学基金重点项目“无线网络的干扰管理与容量研究”(61231008),“高等学校创新引智计划基金资助项目”(B08038),“国家重点实验室专项基金”(ISN1002005, ISN090305),长江学者和创新团队发展计划(IRT0852)的共同资助下,主要的贡献和结果如下：1、在异构网络的跨层干扰场景下,提出了二维的资源分配方案以适应时频信道变化。该方案通过在优化模型中引入了组稀疏项来避免跨层干扰,通过对资源分组从而使其对业务量大的突发性业务具有鲁棒性。该方案具有合作开销小、分布式等特点,适用于长期发展计划(LTE)已有协议。仿真研究了合作周期和分组大小对不同性能测度的影响,结果表明较之单独进行频域分配或单独进行时域分配的传统方案而言,本文所提方案具有明显的性能增益。2、在多用户正交频分复用(OFDM)网络中,研究了分布式同层干扰管理解决方案中的关键优化问题,提出了基于凸优化的信道和功率联合分配方案。由于该资源优化模型中同时存在离散变量和连续变量,不易求解,我们将该模型重新整理成为只有功率变量的连续优化问题,并对其进一步松弛得到易于求解的凸问题。我们采用内点法求解这个松弛后的凸问题,并且给出了相应的算法复杂度分析。仿真结果表明所设计的方案具有高的能效和低的计算复杂度。3、在同层干扰场景中,提出了基于图论的高效算法,以最大化具有资源需求的用户数和频谱空间效用。一方面,在干扰受限的家庭基站网络中,同一时刻可能无法保障所有用户的资源需求。另一方面,家庭基站网络的部署应尽可能重复使用资源。针对上述两个方面,我们联合准入控制和资源分配并建立了多目标优化模型,以尽可能的接入更多的用户和复用资源。典型的求解方法是迭代求解一系列松弛了的问题从而逐步逼近最优解。由于上述求解方法具有极高的计算复杂度,我们提出了基于弦图的启发式算法。仿真结果表明在网络密度较大的场景中,该启发式算法能以较低的计算复杂度接入较多的用户和带来较高的资源复用率。4、在上行同层干扰场景中,研究了带有串行组解码的干扰管理技术。在密集部署的家庭基站网络中采用高级接收机技术来减缓上行同层干扰。利用串行组解码器可以提高资源复用率,用户可以机会地使用相邻家庭基站小区预先分配的频谱资源而不影响相邻小区用户的正常通信。为了最好地解码有用信号,串行组解码器首先会解码一些干扰信号。本文将带有串行组解码器的多小区资源分配问题建模成为一个信道分配、速率分配和解码组分配的联合问题。在满足保障比特率业务(GBR)的速率需求约束下,最大化加权可变比特率业务(VBR)的和速率。本文证明了该分配问题是NP-hard问题,并提出了贪婪算法对其求解。求解思想是让GBR用户尽可能地使用相邻小区占用的信道,同时给VBR用户释放更多的“无干扰”信道以便其进行高速率数据传输。为了快速而粗略地评估上述方案带来的性能增益,我们提出了半解析的评估框架来估算其带来的潜在的吞吐量增益。同时,通过蒙特卡罗仿真,我们研究了GBR和VBR业务比例、用户数以及速率需求的配置变化对所设计方案的性能影响,结果表明该方案和传统的正交资源分配方案相比带来10%-100%的吞吐量增益。