空间光通信是指利用红外、紫外和可见光载波在非波导介质中传递信息的通信技术,一般用于点对点的高速通信。与传统的射频通信相比,空间光通信系统频率高、频谱宽、指向性好,具有高传输速率和极强的安全保密性能。与光纤通信相比,空间光通信不需要铺设线路,线路架设灵活、成本低。因此空间光通信技术广泛应用于星间和星地通信、应急通信、最后一公里接入、蜂窝移动通信的回传等方面。但是在大气中传播光信号会受到各种大气因素的影响,尤其是大气湍流。湍流是造成大气空间光信道恶化的最主要因素,会对激光产生一系列的影响,从而导致通信质量降低。本文围绕大气空间光通信系统展开,重点研究大气信道的特点以及克服大气信道影响的手段。论文主要工作内容如下:1.从大气湍流的Kolmogorov理论模型和Von Karman模型入手,建立了激光传输的大气信道仿真模型,完成了实验室内的大气相干激光通信模拟平台的搭建,基于该平台进行了不同传输距离不同大气湍流强度下的接收功率及其波动的研究。实验中分别采用0.5m、1m和2m的室内传输距离模拟0.5km、1km和2km的大气激光传输,随着大气湍流强度和传输距离的增加,接收端耦合效率降低、接收功率的相对波动先增大后减小。2.室内模拟实现了大气信道下4km的单波长320Gbps Nyquist-QPSK信号传输,并研究不同大气湍流强度对系统误码率和中断概率的影响。3.研究了采用少模光纤耦合的空间光接收系统。测量了大气湍流影响下空间光到单模光纤和少模光纤的耦合功率和平均接收功率的波动情况。在中强湍流条件下,采用三模光纤或六模光纤进行空间光的耦合接收可以将接收功率提高4dB或7dB,对应的接收功率抖抖动可以降低34%或49%。4.实现了基于自适应光学技术的空间光到少模光纤耦合系统,实验证明采用自适应光学技术在强湍流下可以将少模光纤的耦合效率进一步提高约10dB。5.提出并实现了基于模式分集接收的空间光通信系统。详细分析了模式分集系统中不同分集合并方法的性能和实现途径,完成了三模式分集的40Gbps的QPSK信号传输。在相同的通信误码率或中断概率下,在中、强湍流时,采用三模式分集的空间激光通信系统可以带来4～5dB的性能提升,在极强湍流下,这种提升缩减到2dB。6.仿真研究了空间-模式分集技术对星地下行通信系统性能的改进,结果表明,采用三模式分集可以将系统性能提升6-9dB,采用四孔径分集可以提升系统性能7.5-9dB,将四孔径分集和三模式分集同时使用,可在四孔径分集的基础上再提升系统性能约2dB。