随着5G商用化以及如B5G、6G等下一代移动通信系统研究带来的多种服务和应用。海量节点与连接使得单点到单点的简单传输环境转变为多点间的复杂传输环境。而在目前的网络架构中,主要采用的是基于公共无线接口（CPRI）的数字化传输方案,其中的量化和采样过程会导致接口数据速率增长迅速。当采用大规模多入多出（Massive MIMO）技术以增长网络容量时,由于使用天线数量的进一步提升,基于CPRI协议的接口数据速率会迅速增长,给接口带来传输压力。与此同时,结合了微波技术和光波技术的微波光子链路由于利用模拟波形信号进行传输,避免了 CPRI协议下数字信号的量化和采样过程,被认为将在后5G通信系统中扮演重要角色。其中,基于微波光子链路的光载无线技术具有低损耗、低延时等一系列优点,被认为是实现新型宽带无线信号接入的有效方案。本论文主要针对宽带多载波微波光子链路中的谐波失真、交调失真和互调失真等多种非线性失真进行综合处理,并对多用户、多频段的光载无线接入系统中由不同用户产生的综合非线性干扰同时作用的问题进行深入研究。利用近年来被广泛关注的人工神经网络等多种先进机器学习算法,实现多用户、高兼容性的线性化微波光子链路。所提出方法有望应用于多用户、多频段的宽带无线接入中。论文主要创新成果如下:1.面对宽带多载波微波光子链路中的互调非线性失真抑制问题,论文提出了一种基于全连接人工神经网络的线性化方法,通过信号部分功率谱密度特征的训练,建立输入和输出间的回归函数,通过仿真和实验两个方面验证了人工神经网络对互相调制非线性失真的抑制能力,并讨论了不同结构神经网络对非线性失真抑制的差异。传输实验采用强度调制-直接检测系统（IM/DD）,利用相隔15 GHz的两个双音信号来模拟宽带多载波链路。实验结果表明,人工神经网络能实现互调失真抑制比22.18 dB的提升,同时还能实现交调失真抑制比29.76 dB的提升。提出方法能有效抑制宽带多载波情况下不同频段载波间的互相干扰。2.针对微波光子链路在超大带宽、多频段共存情况下的多种非线性失真同时补偿问题。论文从降低学习成本和增加兼容性的需求出发,提出了一种结合迁移学习的改进型人工神经网络线性化方法。该方案利用不同神经网络间参数知识的迁移降低人工神经网络的训练开销,并且完成了不同数目用户间的多种非线性失真抑制,低成本实现了对交调和互调失真的同时抑制。实验分别利用面向相隔15 GHz的两个用户以及相隔5 GHz和10 GHz的三个用户的网络来对实验数据进行兼容性线性化处理。实验结果表明,在利用面向三个用户的网络处理后,能实现实验信号22.38 dB的互调非线性失真抑制比的提升以及16.73 dB的三阶交调失真抑制比的提升,无杂散动态范围提升14.3 dB。该方法能低成本、兼容化的实现多用户情况下宽带多载波微波光子链路的多种非线性综合性处理需求。3.面对多频段、多用户光载无线系统中的宽带无线信号接入应用,为了消除用户本身和用户间带来的非线性失真,实现不同数目用户间兼容性的非线性均衡,论文提出了一种结合了迁移学习的基于波形学习的人工神经网络非线性均衡方法,该方法降低了学习成本并提升了不同应用场景下的兼容性。论文搭建了面向Sub-6G频段,包括2 km多芯光纤传输以及0.5 m无线传输的模拟光载无线接入系统,传输信号为正交频分复用信号。实验结果证明,在进行四个用户信号非线性均衡时,所提出方案能够将接收信号的误码率降低至3.8×10-3的前向纠错门限以下。在实现不同数目用户应用场景间的兼容性非线性均衡时,在由四个用户的应用场景向两个用户的应用场景进行兼容性非线性均衡时,能够实现超过1.5 dB接收灵敏度的提升。所提方案能有效实现高兼容性的多频段、多用户数目信号的宽带无线接入。