无线激光通信是光通信的一个重要分支,它是利用激光束作为载波直接在空间进行信息传输的技术。该通信技术具有信息容量大、安全性高、无需授权执照、设备尺寸小和建设灵活等优点,因此在卫星链路之间、地面站之间及水下通信方面发挥重要的作用。调制技术是无线激光通信中的关键技术之一。目前国内外无线激光通信所采用的调制方式多为强度调制。本文对研究较少的偏振调制系统进行了探讨,并在其编码方式、系统实现和激光在大气传播过程中偏振特性的变化进行了研究。主要内容包括以下几个方面:(1)对偏振调制的编码原理进行了阐述,并分析了直接探测偏振调制系统的性能。在平均功率利用率、带宽需求,信息容量和误码率等方面与OOK、PPM、DPPM和DPIM等常用的强度调制进行了数值比较。通过分析,偏振调制平均功率需求较高、传输容量较小,但是它具有最小的带宽需求和接收误码率,而这两个参数正是我们最为关注的,因此偏振调制是一种性能优良的无线激光通信调制方式。(2)在OptiSystem系统仿真环境下,构造了OOK强度调制、线偏振调制和圆偏振调制直接探测系统模型。通过设置合适的系统参数,分析比较了这几种系统模型的性能。仿真结果表明采用双路差分接收的偏振调制系统具有更好的性能。同时对影响系统性能的探测器噪声、信道衰减、光束发散角等几个主要因素进行了分析,以便于设计实际通信系统时,提高信号接收质量。(3)基于相干性和偏振性统一理论,利用交叉谱密度矩阵对高斯-谢尔模型光束在大气信道中传输的偏振特性进行了分析。在一定的假设条件下,证明完全偏振的高斯-谢尔模型光束在大气湍流中传输时,偏振态和偏振度没有改变。而部分偏振光在大气湍流中其偏振度会有稍微增加。在远场近似条件下,偏振度趋于源平面上的初始值,其大小与湍流参数无关;在自由空间中传播时,光束的偏振度达到一个稳定值,之后保持不变。研究表明,偏振调制能够很好的抑制大气干扰,提高通信质量,是一种比强度调制更适合无线激光通信领域的调制方式。