随着LTE无线通信网络在全球的部署和建设,我们已然进入了4G移动通信时代。第四代移动通信系统为用户提供了更优质、更丰富的用户业务体验,例如：实时的移动视频业务、移动端的在线游戏、高清晰视频传输等高速数据业务。然而,近年来随着移动终端的数量(未来预计将达到千亿量级水平)及移动数据流量的急剧增加,也带了很多4G难以解决的问题,例如：频谱资源匮乏、能耗过高、不能支持高铁等高速移动体间的通信服务以及其他特殊场景的无线通信服务。因此,对于能够获得更高容量、频效、能效的第五代移动通信系统(5G)的需求越来越大。同时,第五代移动通信系统还能实现更高的传输速率、更高平均吞吐量和网络容量、更小的时延、实现无缝覆盖、适应高速移动体的通信,以及支持数以千亿计终端的通信业务等。早在2012年欧盟就已经开始了5G相关的研究,中国也于2013年成立IMT-2020推进组,展开5G方面的研究工作。从目前国内、外移动通信的众多研究项目中,信道容量、频谱效率和能量效率的大幅提升都作为5G的重要衡量指标被提出来。提高信道容量和频谱效率,最为主流的共识就是密集小蜂窝和寻找新的频谱资源,即尽可能增加小区的数量、减少小区的尺寸,并开拓利用未曾开发的新频谱资源。如此势必要增加能量的消耗,这也是未来困扰运营商的一个难题。因此,如何能够在提高容量和频谱效率的情况下,减少能量的消耗、增加能量的利用率将是5G研究的一个热点问题。本文专注研究第五代移动通信系统的网络架构和关键技术。在采用室内、室外场景分离的网络架构以及应用可见光通信技术的情况下,探究移动通信网络的信道容量、频谱效率和能量效率,以及频谱效率和能量效率的折中等问题。本文首先介绍了国内、外移动通信系统的研究现状,以及未来第五代移动通信系统潜在的关键技术和网络架构,研究Massive MIMO和可见光通信技术的发展、优势、原理和应用；然后,着重研究了室内、外场景分离的网络架构来减少建筑物的穿透损耗的优势和思想,并进行场景建模和仿真实验。最后,对采用室、外场景分离架构通信网络的频谱效率和能量效率,以及频谱效率和能量效率的折中等问题进行了详细推导和仿真,并给出结论。