为了加强网络覆盖、提升网络容量,LTE-A提出在宏蜂窝中部署一系列的低功率节点以形成多层蜂窝网络,即异构网络。按照异构网络方式进行部署以后,LTE-A的网络结构将会变得更加庞大和复杂。如果网络运营商仍然以人工方式进行网络规划和网络优化,将造成成本的急剧增加。因此LTE-A引入了自组织网络的概念,旨在通过提高网络的自组织能力,来降低网络的基础设施建设费用和运营费用。本文针对不同类型的异构网络,选取了3个SON用例进行研究。第一个用例是eNB-HeNB共覆盖网络中Femtocell UE之间的合作通信机制。本文将eNB-HeNB共覆盖网络看成一个认知无线电网络,并以提高系统吞吐量及公平性为目标,研究了HeNB网络的R-C-P策略,即联合中继选择、信道选择及功率分配策略,提出了一个低复杂度的启发式算法——节点分组算法。该算法能够增加HeNB网络的平均吞吐量,同时提高用户之间的公平性。第二个用例是eNB-RN共覆盖网络下行链路的负载均衡问题。本文提出了一个具有自组织特性的负载均衡方案RSPC-RL。在所提方案中,每个中继节点通过调整参考信号功率来改变覆盖范围,从而调节网络中的负载分布。同时,方案中引入了强化学习算法,使中继节点能够自主获取最优的参考信号功率控制策略。该算法具有分布式、低复杂度、高性能等特点,因此适用于实际的多跳蜂窝网络。第三个用例是eNB-RN-HeNB共覆盖网络中的层间切换问题。本文提出了一个基于驻留概率和切换优先级的切换方案,可以有效减少频繁的、不必要的切换。所提方案的核心思想是：当UE驻留在Femtocell中的概率较高时,降低UE切入Femtocell的门限,以减少冗余的切换；当UE驻留在Femtocell中的概率较低时,提高UE切入Femtocell的门限,以减少不必要的切换。所提算法能够在维持掉话率基本不变的情况下,显著减少UE的切换次数。