随着相干光通信方案在下一代通讯网络中的广泛应用，载波信号传输速率得到了极大地提升，相对应地在接收端对判决信息补偿性能的需求也飞速提高。相干光通信技术方案利用偏振复用原理可加倍提高传输信息的容量，无需改变通讯链路。而调制信息在信道中输送时因双折射效应会引入偏振混叠，需要在检测信号后面向偏振态实施有效地跟踪补偿以判决出其中加载的信息。因此，偏振解复用处理作为相应的关键技术需要高效的解偏振算法的支持来实现偏振态补偿的目的。载波信息在通讯链路中输送时，除了偏振混叠外还将引入的剩余色散、偏振膜色散等影响因素，这些干扰因素会严重影响数字信号处理算法的计算性能，这时就需要均衡处理来补偿上述串扰所带来的影响，自适应地判决计算接收信号来提升接收机性能，所以有效的均衡算法对于相干光通信系统来说至关重要。　　本文阐述了相干光通信技术方案的信号处理流程，分析了相应的公式建模原理及对应的数字信号处理方案。从发射端、光纤信道、接收端三个方面阐述了信号在传输过程中的数理模型，针对其中的偏振解复用算法和信道均衡算法调研了常用的数学方案，并对比基于斯托克斯空间的算法原理来分析各方案的利弊所在。　　在斯托克斯空间动态矢量算法的研究中，搭建了完整的相干光通信传输仿真平台，对PM-QPSK、PM-16QAM、PM-64QAM等类型的载波信息进行了实验仿真来测试计算方法的性能。实验得出，斯托克斯动态矢量算法不受相位噪声与频率偏移因素的影响，更新参数收敛速度快，对偏振态旋转跟踪速率较高，应用于低阶调制格式信号的旋转解偏振时效果更为优秀，计算复杂度相对传统算法较大。　　对于斯托克斯空间扩展卡尔曼滤波方案的研究，采用和动态矢量计算方法一致的仿真平台和判决标准，分析该算法在误码率、参数收敛速率、偏振跟踪速度、信号调制类型等方面的计算性能。对比传统斯托克斯解偏算法，可以得出扩展卡尔曼滤波算法更加适用于高阶调制格式信号的旋转偏振解复用处理，收敛速度略低于动态矢量方案，计算量也略低于动态矢量方案。　　在斯托克斯空间信道均衡处理的研究中，用1dB的误码率损耗作为判决准则来探究均衡器抽头系数在一、三、五时的鲁棒性，分析了该均衡算法在剩余色散、偏振膜色散、误码率性能等方面的计算效果。实验结果表明，此均衡算法对于剩余色散和偏振膜色散的容忍性与传统恒模算法基本一致，随着抽头系数的增加可以减小解偏代价，提升接收机均衡能力。