随着无线通信近十年来的飞速发展,传统的同构规则蜂窝小区结构已无法满足急剧增长的移动用户数及大数据量的业务需求,因而正朝着不规则的、多元化的、多种类小区重叠覆盖的多层异构蜂窝网络架构不断演进。在多层异构蜂窝网络中,干扰是限制网络性能进一步提升的主要瓶颈之一,而无线网络中基站的空间分布对于整个蜂窝网络的干扰及性能的评估起着至关重要的作用。因此,找寻一个严谨、有效且便于分析的点空间分布模型是现代无线网络一个亟待解决的问题。本文采用随机几何理论这一关于空间点分布的新兴数学工具,对多层异构蜂窝网络进行多角度更真实(例如,反映其异构性、随机性以及空间相关性等)地建模并进行干扰及无线网络的关键性能分析,对未来无线通信网络的发展具有理论指导意义。最后,在一定的模型及分析的基础上,给出组网技术及网络管理与规划等方面的相关设计。首先,从最简单的模型开始,即多层独立齐次泊松点过程模型。该模型将异构网络中不同类型的站点位置建模为多个相互独立的齐次泊松点过程,即网络内所有节点的位置相互独立。具体地,以两层中继蜂窝网为例,将宏基站与中继的空间分布分别建模为两个相互独立的齐次泊松点过程。利用随机几何的相关理论,推导了协作用户与非协作用户的信干噪比分布和平均可达速率,以及在此基础上推导了单用户速率和区域频谱效率。虽然该模型可以形象地体现出多层异构蜂窝网络的异构性及随机性,同时也便于分析网络性能,但仍无法表征实际网络站点分布的特点。比如,由泊松点过程建模的蜂窝网络意味着站点之间是没有任何关联的,这显然与实际不符。因此,在齐次泊松点过程的基础上,我们逐步地赋予该模型更为实际的元素,使模型更加贴近实际。最先考虑的就是多层异构蜂窝网络中的宏基站建模。由于宏基站具有高功率大覆盖范围的特点,实际宏基站之间是存在一定程度的排斥特性,即任意两个宏基站之间不会相隔很近,以免产生严重的相互干扰。基于这一特点,我们采用具有软核特性的β-Ginibre点过程去建模宏基站分布,并在以平均接收功率最大为接入准则及瑞利信道情况下,推导了用户覆盖率性能。此外,通过改变该点过程的参数去拟合实际基站布局下的用户覆盖率性能,验证了β-Ginibre点过程可以准确地建模规则度介于Ginibre与泊松点过程之间的任意基站空间分布。在准确建模宏基站分布后,我们继而关注多层异构蜂窝网络中小基站的空间分布。具体地,考虑两个经典场景,一个是将小基站部署在宏小区的边缘,以改善边缘用户的信号质量；另一个则是密集部署小基站在热点地区,以提高热点区域的容量。前者,通过对独立齐次泊松点过程进行人为“去点”操作,建模了宏基站与小基站间的相关性,即每个宏基站有一个排斥区域(或者中心服务区域),落入排斥区域的小基站都将人为去掉,这样所形成的点过程称为泊松洞过程。从整体看来,小基站是集中部署在宏小区边缘的,用来改善边缘用户的服务质量。后者,从业务分布不均匀的角度出发,将业务区域分为热点与非热点区域,对于非热点区域仍由宏基站进行服务,而对于热点区域由成簇的小基站对其进行集中服务。因此对于该场景,我们将采用泊松簇过程去建模小基站的空间分布。这两个场景建模之后,我们分析了用户覆盖率、单用户容量及区域频谱效率等性能指标。最后,以独立齐次泊松点过程建模的中继蜂窝网为例,根据当前无线通信网络的发展需求,考虑更加实际的因素,比如网络的能效问题、业务的时空变化特点等,对未来网络的规划管理进行了初步的设计。首先,从能效的角度出发,引入功率模型,研究将中继加入蜂窝网络后能否改善蜂窝网络的能效,如何才能提高网络的能效。进一步地,考虑到实际的业务分布呈现出时空动态变化的特点,提出基于业务动态变化的中继休眠策略,以尽可能少的网络开销来满足不同时段的用户需求。分析与仿真结果表明,该策略对于中继蜂窝网具有很好的鲁棒性和适用性,既可以满足峰值业务时期的用户需求,同时又可以在业务低潮期减少不必要的能量开销。本文研究结果对多层异构蜂窝网络的建模分析与设计具有重要的理论指导意义和实际应用价值。