空间光通信以其数据传输率高、通信容量大、发射功率小、抗干扰能力强、保密性好等优点将逐步取代传统的微波通信成为未来空间光通信的主要方式。但光束经过大气时,大气湍流对光信号产生光强起伏、相位角起伏、到达角起伏、光束漂移、光束扩展等效应,连同卫星平台的振动和噪声干扰,均降低了接收到的信号光功率,增大了误码率,严重地影响激光通信的性能。为保证空间激光信号的顺利传输,本文对以上扰动产生的机理和对光通信的影响进行了深入地分析,重点研究了扰动的补偿技术。论文主要内容如下:研究了大气湍流理论,对湍流产生的强度起伏、相位角起伏、到达角起伏、光束漂移和光束扩展进行了数学建模,分析了这些效应对传输光信号的影响;研究了卫星平台振动来源、种类、模型和特点,并对大气湍流和卫星平台振动对误码率的影响进行了分析,为后面扰动补偿技术研究提供依据。针对大气湍流产生的波前相位畸变,研究了自适应光学技术。阐述了自适应光学系统的工作原理和基本组成。针对传统重构算法计算量大、难以实现实时补偿的问题,提出了阈值式波基波前重构算法,采用四维波基作为标准正交基,将波前相位畸变投射到四维波基上,使伪逆矩阵变为稀疏矩阵,有效地减少了计算量,同时采用了阈值法,去除波前重构矩阵算子中对精度影响较小的一些波基系数项,进一步增加了矩阵的稀疏程度,提高了运算效率。最后对本文采用的波基重构算法与传统的最小二乘法、Zernike模式法和迭代法进行了比较,从理论和仿真两方面验证了该算法具有收敛速率快的特点。针对液晶空间光调制器控制单元数多、以其作为输入信号直接进行波前相位畸变补偿时计算量大的问题,将控制输入与描述波前畸变的Zernike多项式系数形成映射,极大地减小了系统维数,有效地提高了计算效率。引入单纯形算法,通过对选取的性能指标优化,得到最佳的Zernike多项式,实现精确的相位畸变补偿。针对传统的单纯形算法易收敛于局部极点、难以实现全局最优的特点,对单纯形算法进行了改进,仿真结果表明,改进后的算法均可以通过重新初始化跳出局部极点继续寻优,同时分析了各种改进算法的特点,为实际应用提供了依据。针对卫星平台振动、噪声扰动等干扰产生的光束偏移问题,提出了基于压电偏转控制系统的补偿方案,设计了基于改进型LMS算法的自适应控制器,利用Filtered-X LMS算法保证了系统的稳定性,讨论了最优步长的选择方法,针对信号的相位延迟问题,引入了自适应延迟滤波器,不但补偿了系统相位延迟,还可通过自适应调节输入信号相位,在不增加步长的前提下提高了收敛速度,最后设计了自适应偏差滤波器,补偿了低频高幅的偏差扰动。针对传统的压电偏转系统与卫星平台存在耦合、能耗大、动力学复杂等问题提出了一种基于液晶偏转系统的扰动补偿方案,设计了基于RLS格型滤波算法的自适应控制器,不但实现了快速收敛,而且达到了最优稳态扰动补偿,引入了变阶算法,在没有增加计算量的情况下,消除了高定阶RLS自适应算法中大的暂态响应。