自由空间光通信因具有高容量、高速率等优势,近年来受到了学者们广泛的重视和研究。利用涡旋光束作为传递信息的载体在自由空间传输的通信方式潜力巨大。涡旋光束是一种具有独特螺旋相位波前,在涡旋中心光强为零,且携带轨道角动量的奇异光束。传统的编码方式是利用光子偏振态编码,通信容量低下；而利用轨道角动量编码,不仅使传输的信息量增大,并且增加了安全性,这些优良特性使其在自由空间光通信领域有着广泛的应用价值。然而,涡旋光束通过自由空间的传输过程中,由于大气湍流的影响产生光强畸变、光束漂移、光束扩展等效应,造成光束幅度相位失真,破坏信息完整性。本文针对上述问题着重研究了在大气湍流下涡旋光束的传输特性,分析了涡旋光束拓扑荷对涡旋光束涡旋中心漂移的影响,并采用新颖的自适应光学技术中的波前重构法对涡旋光束的畸变相位进行补偿,提高通信系统性能,具体工作如下：首先,以拉盖尔高斯光束为研究对象,理论分析在弱大气湍流环境下,拓扑荷为1的涡旋光束的漂移现象,推导出在接收平面涡旋中心坐标(x,y)的概率分布,结果表明涡旋中心坐标位置呈高斯分布；在理论推导的基础上,创新性的结合相位屏法和涡旋中心探测法对涡旋光束的漂移现象进行数值模拟,进一步对拓扑荷数为1、5、10、15的拉盖尔高斯光束的涡旋中心位置分布情况进行仿真分析,模拟结果表明在拓扑荷数为1时,涡旋中心位置分布符合高斯分布,即涡旋中心在接收平面中心的概率最大,与理论推导结果一致,随着拓扑荷数逐渐增大,涡旋中心位置的高斯分布情况越来越不明显,涡旋中心落在接收平面的概率减小,在中心区域以外随机漂移概率增加。结果表明,在弱湍流情况下,涡旋光束的拓扑荷数越高,涡旋中心的漂移现象越严重,即大气湍流对高阶涡旋光束的影响更大。该结论对研究涡旋光束在大气湍流中的传播特性方面有一定意义。其次,引入自适应光学技术对涡旋光束畸变相位进行补偿。由于涡旋光束主要利用特殊的螺旋相位进行信息传递,并且相位畸变对涡旋光束的影响更大,因此本文对涡旋光束的相位重构进行了探讨。采用自适应光学技术波前重构的迭代算法,利用被大气湍流扰动的涡旋光束的光强信息对相位信息进行恢复,创新性的将GS迭代算法的初始随机相位替换为一阶螺旋相位,在弱湍流环境下,针对涡旋光束的波前补偿效果显著,低阶涡旋光束的相位信息几乎可以完全恢复。该研究成果采用经典方法对涡旋光束畸变相位进行补偿,提高了传输信息的完整性,改善了信噪比,增强了整个涡旋光通信系统的稳定性。