超密集网络(UDN)是满足5G蜂窝网络用户高流量需求的一个有效方案。随着资源的高度复用和更密集的网络部署,网络的干扰情况空前严重。为解决5G超密集网络中高复杂度的干扰管理问题,本文首先总结了 UDN的网络性能需求和技术难点;随后引入一种创新的以微基站分簇技术为基础的下行频域和功率域资源分配;为提升系统吞吐量和用户平均SINR性能,本文提出如下两种创新的资源分配算法。考虑任意通信链路可复用全频带资源的下行传输场景,本文将资源分配建模为一个最大化系统吞吐量的问题,在本文第三章提出了一种基于超图理论微小区分簇的资源分配算法。为减小问题复杂度,基于时频差异性可将该问题分解为信道分配和功率分配两个子问题。对于信道分配,提出一种超图分簇的算法,其中,创建了可复用信道微用户集合以提升分簇效率,最终使得算法复杂度降低至O(N2)。对于功率分配,提出一个可快速收敛到最优解的二分算法,进一步提升了系统吞吐量。对比传统图论算法,仿真结果验证了提出的基于超图理论微小区分簇的资源分配算法在系统吞吐量性能上提升至少20%,在用户平均SINR性能上有约5dB提升。进一步地,深入研究下行UDN中微基站间协作可带来的干扰抑制增益,本文第四章将微基站间的交互行为建模为最大化系统总效用函数的协作博弈理论模型。博弈的交互过程分为两步,第一步,挑选一个本地锚点作为领导者,由其首先设定干扰惩罚代价参数值,并基于此决策所有微基站的信道分配。第二步,根据第一步确定的干扰惩罚代价和信道分配方案,每个微基站以自身效用函数最大化分布式地进行传输功率决策。根据博弈过程中信息交互的优势,本地锚点可以通过预测微基站的最优策略,进而确定最优的干扰惩罚代价和信道分配方案。本文推导了最优化系统总效用函数的均衡解,进而证明了最优均衡解的存在性。仿真结果验证了数学推导的正确性,并且表明了本文提出的基于博弈模型的资源分配算法在系统总效用和微基站间公平性上均显著优越于非博弈模型的算法。