激光通信系统是一种利用激光作为信息传输载体,在自由空间进行高速率通信的系统。激光通信系统终端所处环境一般会有大量外部杂散光,其中人为干扰产生的主动杂散光对激光通信系统的影响最大。本论文针对该问题研究了主动杂散光对激光通信光学系统性能、跟瞄性能以及通信性能的影响,并进行了地面模拟实验验证。本论文分析了激光通信系统可能面临的主动杂散光特性,建立了用于激光通信的卡塞格林式光学天线模型。基于仿真模型研究了小角度主动杂散光在卡式天线内部的传播特性,并针对主动杂散光对主反射镜遮光罩进行了优化,优化后的结构与一般结构相比,像面杂散光强度下降了61.6%。本论文研究了主动杂散光造成的激光通信系统跟瞄偏差角测量误差,仿真了主动杂散光入射角度及强度对激光通信系统粗、精跟踪跟瞄精度的影响以及不同条件下的最适光斑检测算法。结果表明,粗、精跟踪光束跟瞄偏差角测量误差随主动杂散光入射角度增大而下降,随干扰强度增大而上升。精跟踪跟瞄偏差角测量误差随主动杂散光入射角度增大而下降,随干扰强度及“窗口”视场增大而上升。当干扰强度小于60d B时,采用平方质心算法精度更高,而当干扰强度大于60d B时,采用质心算法精度更高。本论文研究了主动杂散光干扰下激光通信系统的信道矩阵、误码率、信道容量特性。结果表明:信标光受干扰时,误码率随干扰造成的跟瞄偏差角标准差增大而增大。在满足误码率使用要求的情况下,减小判决阈值,可提高系统抗干扰能力。信号光受干扰时,误码率及信道容量受主动杂散光均值及标准差影响,为使误码率保持在最低容限10-6以下,仿真所得能保证误码率满足要求的最佳判决阈值取值区间为0.38-0.59。根据判决阈值及主动杂散光强度,调整信号强度,可提升受干扰激光通信系统的信道容量。本论文进行了激光通信系统主动杂散光实验,结果表明:视场外小角度主动杂散干扰激光经过卡式光学天线在光电探测器上形成与仿真结果接近的杂散干扰光斑,实验所得跟瞄偏差角误差随主动杂散光入射角度及强度的变化趋势与仿真结果基本一致。