光载无线（RoF）通信系统融合了光纤和无线两种通信系统各自的优点，既具有高带宽、低损耗、抗电磁干扰等特性，又支持随时随地便携式接入，因此，RoF系统在光纤无线接入网、物联网等领域具有广阔的应用前景。基于光外差技术的RoF系统在射频信号的产生以及系统的可调谐性、可扩展性方面展现了独特的优势，引起学者们广泛的研究。
　　通常来说，在RoF系统中，下行链路比上行链路要求更大的带宽和更高的通信速率，因此，如何构建RoF下行链路以提供更出色的性能显得尤为重要。光外差RoF下行链路当前正面临着传输距离、系统成本、系统容量和系统能效等几个方面的挑战。为了应对这些挑战，本文基于光外差RoF下行链路，研究了不同的调制和检测技术，重点围绕单边带调制、基于单个双驱动马赫–曾德尔调制器（DD-MZM）的光正交调制和解调以及基于抑制载波的功率探测等关键技术，进行了深入的理论分析、仿真和实验研究。本论文的主要研究内容和创新工作如下：
　　1.光外差RoF链路单边带调制技术研究
　　针对光外差RoF链路，建立了单边带调制理论模型。在DD-MZM和基于MZM的IQ调制器的基础上，研究了三种单边带调制方案，详细分析了各自的优缺点。此外，研究了基于克莱默–克朗尼格（KK）算法的信号与信号拍频串扰（SSBI）消除技术，在满足最小相位条件下，利用KK算法能够有效地消除单边带信号因功率探测导致的SSBI。通过仿真验证了这三种单边带调制方案，仿真结果与理论分析相符，它们为光外差RoF链路采用单边带调制提供了理论依据和实践指导。
　　2.基于射频导频（RFP）的相位噪声补偿技术研究
　　在采用混频下变换的光外差RoF链路中，研究了基于RFP的相位噪声补偿技术，并针对传统的RFP载波整体乘（CWM）方案存在二阶非线性失真的问题，提出了改进的RFP载波信号乘（CSM）方案。提出的方案既能有效地补偿光外差RoF链路中由两个自由振荡激光器引起的相位噪声，同时又能消除由调制器非线性效应导致的二阶非线性失真。与传统的RFP-CWM方案相比，提出的RFP-CSM方案能够提升超过60%的频谱效率和1.2dB的接收机灵敏度。此外，与常用的维特比-维特比相位估计方法相比，提出的RFP-CSM相位噪声补偿技术具有更高的线宽容忍极限，更有利于低成本、宽线宽的激光器在光外差RoF链路中的部署。
　　3.基于单DD-MZM的光正交调制和解调技术研究
　　提出了基于单DD-MZM的光正交调制和解调技术。利用光正交调制通过一个正交点偏置的DD-MZM实现两路独立同频信号的调制，基于光外差探测和混频下变换技术，结合一种新颖的数字信号处理方法，成功地分离和恢复了这两个独立同频信号，同时实现了激光器相位噪声的补偿。更进一步地，基于光正交调制技术，提出了双重双边带和双生单边带两种不同的调制方案，它们分别以两个双边带或两个单边带的方式完成这两个独立同频信号的并行传输。在接收端通过联合两路信号以复数形式进行频域色散补偿，解决了双边带调制信号的功率衰落问题。与常规的DD-MZM双边带或单边带调制方案相比，提出的方案允许在同一射频载波上同时传输两个独立且同频的无线信号，因此能为单波长光外差RoF链路提供双倍的数据速率。
　　4.基于抑制载波的功率探测技术研究
　　针对光外差RoF链路采用传统的功率探测存在高能耗的载波而降低了功率效率和接收机灵敏度的问题，提出了基于抑制载波的功率探测方案。利用信号预编码技术对标准矢量信号的幅度和相位进行预编码，从而允许在抑制载波的情况下直接采用功率探测恢复目标标准矢量信号。在实现信号预编码的过程中，采用相位解卷绕技术，解决了信号预编码后会产生额外电载波的问题，分析了信号预编码和脉冲成型的操作顺序对系统性能的影响，解决了采用预编码方案系统性能可能会受脉冲成型函数限制的问题。提出的方案继承了功率探测对激光器相位噪声不敏感的特性，并且受益于功率效率的提升，与传统的功率探测方案相比，它能改善接收机灵敏度约5dB。
　　本论文通过理论分析、仿真或实验验证了上述几种技术方案，研究结果为改善光外差RoF下行链路的性能，包括扩展传输距离、降低系统成本、提升系统容量和改善系统能效等方面，提供了参考的解决方案。