无线光通信融合了射频通信和光通信的特点,是一种宽带通信方式。本文研究无线光通信中的副载波调制所涉及到的载波恢复技术,包括副载波调制/相干解调、副载波-正交频分复用以及轨道角动量复用等。主要工作和创新点如下:（1）对副载波调制信号在高斯信道、Gamma-Gamma大气湍流信道引起的相位偏移和频率偏移进行了数值分析,说明了经不同信道后信号的频率偏移、相位偏移会使星座图发生弥散,讨论了信号频率和相位偏移引起系统的误码率特性,并通过实验探讨了载波恢复的必要性。（2）考虑到信号通过大气信道时光强起伏所具有的非线性、非高斯以及时变特性,论证了将粒子滤波算法应用于载波恢复中的合理性,提出了将粒子滤波算法应用于副载波调制系统的非线性、非高斯以及时变系统参数估计和状态滤波中,对副载波调制信号的频率进行估计。仿真及实验结果证实粒子滤波可以对信号的频率进行估计,有益于副载波调制信号的解调。（3）考虑到副载波调制信号具有循环平稳性,以及循环谱、高阶循环累积量具有抗噪声性能,提出利用循环累积量、循环谱对信号载波频率进行估计。分别在高斯噪声、Gamma-Gamma非高斯噪声下对MPSK四阶循环累积量和循环谱进行仿真分析,讨论了相同数据长度下信噪比、光强起伏与载波估计的关系,通过实验表明该方法具有抑制噪声的能力。（4）研究了轨道角动量复用技术及其涉及到的载波恢复问题。采用空间光调制器制备了不同阶数的拉盖尔高斯光束,对加载信号的拉盖尔高斯光束轨道角动量叠加态进行实验研究。利用循环谱对轨道角动量复用信号进行分离,为轨道角动量复用技术提供实验依据。