随着人类生产生活、科学探索、军事应用等由大气空间向海洋空间不断拓展和延伸,水下通信系统面临着信息传输量不断增长的压力。携带光子轨道角动量（Orbital Angular Momentum,OAM）的涡旋光束可实现多路信息在同一个水下路径中的传输,将成为提升水下无线光通信系统容量和频带利用率的有效途径,为水下无线光通信持续扩容的发展开辟了新方向。然而,涡旋光束在海水介质中传输时将不可避免的受到海洋湍流的干扰,因此,涡旋光束在海洋湍流中传输特性的研究,将对基于OAM的大容量、长距离和超高速水下无线光通信链路的设计和应用具有重要意义。论文的主要工作和创新如下:（1）离轴涡旋光束在海洋湍流中的传输特性研究。基于广义惠更斯-菲涅尔原理,分析了具有自聚焦特性的离轴空心高斯-谢尔模型涡旋光束在各向异性海洋湍流中传输的光强分布以及光谱相干度的演化。数值仿真结果表明,在各向异性海洋湍流环境中,位置因子的增大将有利于离轴空心高斯-谢尔模型涡旋光束的聚焦分布;光束在海洋湍流中传输时,其光强分布扩展并逐渐失去暗空中心结构,最终在远场演化为类高斯光束。光源参数中空心阶数、拓扑荷、横向相干长度和束腰半径越大,波长越短,光束光强分布演化为类高斯光束所需要的距离越长。而海洋湍流参数中较小的单位流体质量动能耗散率、内尺度因子、各向异性因子和较大的均方温度耗散率、温度-盐度贡献比,将加速光束光强分布的扩展以及光谱相干度的衰减。（2）平顶涡旋光束在海洋湍流中的传输特性研究。建立了一种新的多高斯-谢尔模型源产生多高斯相关的汉克-贝塞尔平顶涡旋光束的理论模型。基于Rytov近似理论,建立了在各向异性海洋湍流中传输的多高斯相关的汉克-贝塞尔平顶涡旋光束OAM模探测概率模型,并在此基础上,建立了各向异性海洋湍流中多高斯相关的汉克-贝塞尔平顶涡旋光束通信系统的信道容量模型。数值仿真结果表明,较大的单位流体质量动能耗散率、内尺度因子、各向异性因子和较小的均方温度耗散率、温度-盐度贡献比将显著地提升探测概率和信道容量;长波长、横向相干长度和小光束阶数、拓扑荷的光束有利于提高光束在各向异性海洋湍流中的传输性能。在相同的海洋湍流环境下,多高斯相关的汉克-贝塞尔平顶涡旋光束比艾里涡旋光束具有更强的抗海洋湍流干扰的能力,两者相比前者更适合作为水下无线光通信系统的信息载体。（3）无衍射涡旋光束在海洋湍流中的传输特性研究。基于Rytov近似理论,建立了具有无衍射特性的艾里涡旋光束、幂指数涡旋相位艾里光束以及惠特尔-高斯涡旋光束通过海洋湍流传输的OAM模探测概率模型。数值仿真结果表明,采用小拓扑荷、长波长的光源参数能够缓解海洋湍流对光束传输的影响,获得较大的探测概率;同时,增大艾里涡旋光束的主环半径、幂指数涡旋相位艾里光束的幂指数、惠特尔-高斯涡旋光束的束腰半径,也有利于提升光束在各向异性海洋湍流中信号OAM模的探测概率。当以上光束在大的单位流体质量动能耗散率、内尺度因子、各向异性因子和小的均方温度耗散率、温度-盐度贡献比的各向异性海洋湍流环境中传输时,能够获得较大的信号OAM模探测概率。（4）随机相位屏模型下涡旋光束在海洋湍流中传输特性研究。结合海洋湍流的折射率功率谱和功率谱反演法,获得表征海洋湍流特性的随机相位屏模型,建立海洋湍流的数值计算方法,分析不同海洋湍流参数和光源参数对超几何-高斯涡旋光束在海洋湍流中传输的OAM模探测概率的影响。结果表明,海洋湍流对在其中传输的超几何-高斯涡旋光束的影响随着单位流体质量动能耗散率、内尺度因子的增大而减小,随着均方温度耗散率、温度-盐度贡献比的增大而增大;具有小拓扑荷和长波长的超几何-高斯涡旋光束能够较好的抵抗海洋湍流的干扰。同时,将理论推导结果与随机相位屏模型下的数值计算结果进行对比,得到两种方法在预测超几何-高斯涡旋光束通过海洋湍流传输特性上的高度一致,证实了使用海洋湍流随机相位屏模型分析涡旋光束在海洋湍流中传输特性的有效性,这为理论推导艰难或不可行情形下研究海洋湍流中的光束传输特性提供了一种有效的途径。