自由空间光通信（Free Space Optical Communications,FSO）在天空地海一体化通信系统中具有重要的应用价值,因其具有大容量、低串扰、可灵活搭建链路等特点受到广泛的关注。矢量光束具有偏振涡旋结构,为大容量光通信打开了一个新的复用维度,但是传统矢量光束在自由空间中传输,会受到大气湍流的影响,使光束严重劣化,甚至出现光斑破碎导致通信中断等现象。通过对矢量光场调控有助于优化光束的链路传输性能,对提高FSO质量具有重要意义。本论文采用光场调控的方法,优化矢量光束在湍流大气中的传输性能,研究非均匀部分相干单模/多模矢量光束和阵列矢量光束传输特性。主要研究内容分以下几方面:第一,研究了非均匀部分相干矢量光束的传输特性。对光场进行恰当的相干度调控是抑制大气湍流对光束干扰的有效方法,本论文利用闪烁指数与光强的对应关系调控非均匀部分相干矢量光场,根据矢量光束的大气传输理论,分析了非均匀部分相干矢量光束在大气湍流中的传输特性,并与完全相干、均匀部分相干矢量光束的传输特性对比。实验结果表明,非均匀部分相干光束可同时具有低的闪烁指数和显著的自聚焦特性,使得接收机接收的光斑能量最大可达完全相干矢量光的3倍左右,有助于提高信噪比;且非均匀部分相干矢量光束的模式纯度较均匀相干矢量光束最大提高50%,说明非均匀部分相干矢量光束的偏振涡旋模式不易受湍流影响。第二,研究了非均匀部分相干多模矢量光束的传输特性。模分复用是扩大自由空间矢量光通信系统容量的有效途径,多模矢量光束的非均匀部分相干调控有先复用后调控的整体调控法与先调控后复用的单模调控法,本论文对比研究了两种调控方式下的非均匀部分相干多模矢量光束的传输特性。结果表明,单模调控法获得的非均匀部分相干多模矢量光束具有聚焦特性和低的闪烁指数,接收能量最大可达完全相干多模矢量光的2倍左右,且模式间串扰小,模式纯度比整体调控法的非均匀部分相干多模矢量光束纯度最大可提高24%,可提升矢量光束复用通信的解复用性能。第三,研究了径向阵列矢量光束的传输特性。阵列光束能增加远场光斑的功率进而提升通信质量,本论文利用径向阵列涡旋光束易于远场合成相同类型涡旋光束的思路构建了径向阵列矢量光束,分析了几何分布、偏振涡旋模式对远场矢量光束的影响。结果表明,在恰当建立距离条件下的径向阵列远场矢量光束具有高功率高纯度的特性,子光束数为6和8的阵列矢量光束在相同接收孔径（5cm、5.5cm）时的接收功率最大可分别达到单矢量光束的20倍和28倍左右。同时,子光束数量的增加和离轴距离的减小能缩短高性能远场矢量光束的建立距离,而子光束束腰半径的增大能延长建立距离,这为不同通信距离提供了简单有效的调控方案;另外增加子光束的偏振拓扑荷数,可使远场阵列光束的闪烁降低、光强增大,进而提升了空间矢量光通信的性能。