随着车联网、大数据和5G通信等新兴技术的出现,数字移动设备和各种网络服务流量急剧增长,这对数据通信的传输容量和传输距离提出了更高的要求。光载无线（Radio-over-fiber,RoF）技术融合了光纤通信和无线通信的优势,具有带宽大、中继传输距离长、灵活性高和成本低等特点,有效满足了上述需求。基于偏振复用技术的RoF通信系统利用光的偏振特性,进一步提高了频谱效率和传输容量,且无需占用额外的带宽资源。但是目前基于偏振复用的RoF方案只能输出单频段信号,其应用范围小、灵活度低。因此,输出微波和毫米波等多种不同频段的偏振复用RoF系统是目前通信系统研究的主要方向之一。本文首先从偏振复用RoF系统的研究背景、RoF通信技术的优势、课题的研究现状三个方面进行阐述。然后,介绍了偏振复用系统中偏振光的分类和琼斯矢量表示方法,并对马赫增德尔调制器的常用边带调制方式进行了公式推导与仿真验证。最后,分类阐述信号在光纤传输中的损伤,为所提方案的抗色散能力分析提供理论基础。为了增大信号应用范围和传输距离,本文提出一种基于双极化马赫-曾德尔调制器的多业务全双工RoF系统。该系统利用偏振复用技术可同时输出下行基带信号、中频信号、毫米波信号和上行基带信号,适用于有线和无线接入同时部署的应用场景。对于开关键控调制方式,经过50 km光纤传输,下行基带信号的功率损失为0.4 d B,上行基带信号的功率损失仅为0.03 d B,且上、下行链路输出信号的误码率均低于前向纠错技术标准的1×10-9。因此,所提出的双极化马赫-曾德尔调制器多业务传输RoF系统传输性能良好。此外,为了进一步提高频谱效率和降低基站成本,本文提出一种基于偏振复用和抑制载波的多波段全双工RoF系统。该系统无需使用光滤波器,结合偏振复用、载波抑制、相干检测、数字信号处理等技术,可实现下行微波与毫米波矢量信号输出和上行基带信号输出。针对6 Gb/s的16-QAM信号,经过30 km光纤传输,下行传输信号的最小误差矢量幅度值为5.66%（5 GHz）,4.03%（45 GHz）,2.67%（25 GHz）,上行基带信号最小误差矢量幅度为4.01%,均低于第三代合作伙伴标准的12.5%,这表明提出的系统具有良好的传输性能。最后,仿真结果验证了该方案输出信号功率稳定,不受光纤色散导致的功率周期性衰落影响。