随着人民生活水平的不断提高,人们对于物质以外的精神生活的需求也越来越高,尤其是对于网络通讯的需求快速增长,使得通信中产生的流量显著增加。已开展部署的第五代移动通信系统(The Fifth Generation Mobile Communication,5G)以及后续的后 5G(Beyond 5G,B5G)、第六代移动通信系统(The Sixth Generation Mobile Communication,6G)需要大幅度提高数据速率,满足高可靠性、低延迟、低能耗、低成本的目标。为了实现这些目标,超密集云无线接入网络(Cloud Radio Access Network,C-RAN)是目前最有前途的研究方案之一。超密集C-RAN利用集中式的架构,在基带单元池(Baseband Unit,BBU)中共享全局网络信息,并且借助强大的云计算实现协作通信,为大量用户提供超高吞吐量和无缝覆盖。然而目前的蜂窝回程网络大多采用光纤或铜线作为通信链路的传输媒介,不仅部署工程繁琐,且安装成本高昂。近年来,自由空间光通信(Free Space Optics,FSO)作为一种以光波为载体的无线通信技术,具有数据速率高、大容量、低时延和低成本等优点,FSO可以作为光纤的补充技术应用于C-RAN的前传链路。但在实际应用中,大气环境的限制导致FSO无法作为一个高效的、独立的前传解决方案。因此,我们提出采用中继辅助传输技术的系统和hybrid射频/自由空间光通信系统,不仅发展了传统的射频(Radio Frequency,RF)技术,还包含了新的无线光通信技术,能够有效地结合FSO和C-RAN的优点,更好地满足5G、B5G、6G移动网络对容量、延迟、可靠性等要求。本文在C-RAN架构的基础上研究了两种混合射频/自由空间光通信(Mixed RF/FSO,Hybrid RF/FSO)系统并对其性能进行了分析。为了更加精确地模拟移动通信环境,我们建立了这两种混合RF/FSO系统的数学模型。在这两种系统模型中,我们采用κ-μ阴影衰落分布来模拟RF信道状况,在FSO链路中利用指数韦伯分布和有限接收孔径对准误差模型来模拟通信信道。该系统模型能够灵活地描述包括阴影衰落和多径衰落在内的各种衰落环境,并且可以准确地描述湍流和对准误差影响下的近地无线光通信信道。其次,本文分别对两种混合RF/FSO系统的性能进行了分析,推导出了中断概率、平均误码率和信道容量的闭合表达式,并且考虑了多种常用的调制方式。本文研究结果表明增加RF信道中的多径簇数可以提高混合RF/FSO系统的性能;阴影、湍流、指向误差会对通信效果产生一定影响;孔径平均技术可以提高系统的性能;在实际的通信场景中,FSO依然是影响城市通信的主要因素;根据不同的通信条件来搭建系统或者选择合适的中继方式可以得到更好的通信效果。最后,我们利用蒙特卡洛仿真进行了全面的计算机实验,验证了本文构建的系统模型的准确性和性能结果。