由于无线移动网络的用户数和设备数不断增多,如何提供更大的网络容量,更快的传输速率和更好的用户体验成为了亟待解决的问题。分层异构网络通过部署不同发射功率的节点来提供更可靠的覆盖、更高的吞吐量以及更快的数据速率,具有重要的研究意义以及广泛的应用前景。虽然分层异构网络具有上述诸多优点,但是由于其网络结构复杂,节点类型多样,有些问题不能直接使用传统蜂窝网络中的方法解决,例如干扰管理、移动性管理、负载均衡、用户调度等。而又由于分层异构网络复杂的流量分布情况,网络资源可能会出现在局部短缺而在其他地方空闲的情况。因此如何针对不同场景设计合理的负载均衡算法是一个值得研究的问题。本文针对分层异构网络不同场景中出现的负载均衡问题展开研究,具体的工作包括以下内容:随着数据流量的增长,用户服务需求在时间和空间维度上呈现出不同的特性,由此带来了严重的负载不均衡问题,造成资源利用率低下,影响了用户体验。本文针对典型场景,提出了一个分布式的负载均衡算法,利用时空变化特性并结合小小区基站(Small Cell Base Station,SBS)开关技术,提高系统能效。本文设计了一个衡量各个SBS上流量负载方差的均衡因子,并将最小化该均衡因子作为优化目标。上述问题是一个混合非线性整数规划问题,采用了遗传算法对其进行求解。仿真结果验证了所提算法能够有效均衡系统负载,提高能量效率。本文针对非正交多址接入(Non-Orthogonal Multiple Access,NOMA)的典型分层网络场景,提出了一个基于自组织资源分配的负载均衡算法,将资源按流量需求进行合理分配,从而解决负载不均衡问题。本文在NOMA网络中引入了流量预测模型,在获得预测结果的基础上,进行时频资源块以及功率等资源的优化分配,以最大化系统总吞吐量为优化目标进行建模,并通过量子粒子群算法(Quantum-Behaved Particle Swarm Optimization,QPSO)对该问题求解。另外,为了评估系统资源分配与流量分布的关系,本文还设计了一个均衡因子,该因子综合考虑了资源利用效率和数据流量分布等因素。仿真结果说明所提算法和其他同类算法相比在吞吐量和资源利用效率方面有明显优势。