随着近几年来业务数据量的急剧增长，对网络的传输速率、吞吐量等都提出了新的要求。40Gbit/s速率的光通系统己投入商用，160Gbit/s甚至更高速率的传输系统也在进行研制。全光通信网络随着光网络技术的发展也日趋成熟，已成功的解决了光信噪比、色度色散等问题。但是，随着单信道传输速率的提高和模拟信号带宽的增加，偏振模色散PMD逐渐成为制约高速光纤通信系统吞吐量和传输距离的主要瓶颈。　　 本文首先通过对光波导传输理论的研究，详细地介绍了PMD的产生原理。并分析了PMD如何导致通信传输系统中信号脉冲的展宽。通过公式推导，研究了双折射、模式耦合等因素与PMD的相关性，分析了其统计分布规律。通过邦加球，stocks参数，Jones矩阵等方法对光波导的传输以及偏振主轴PSP进行了描述。从而更全面地对PMD进行了研究，为整个论文架构奠定了理论基础。其次，从预制棒生产过程和已铺设的光纤通信系统运营过程中，归纳并分析了各种针对PMD的补偿方法。然后客观地比较了各种方法的优劣。目前，已铺设的光纤通信系统存在三种常见的PMD补偿方案：电域补偿、光域补偿和光电结合的补偿方式。本文针对未来大容量高速率的全光传输系统，详细阐述了全光补偿方案在速度以及损耗方面的优势。最后，着重研究了偏振模色散的反馈控制算法，通过理论推导建立了补偿控制器的搜索函数。对近几年来较为流行的智能优化算法进行了研究与总结。改进了反馈控制算法，第一次引入了CPSO和ASPSO两种混合算法作为反馈控制算法的第一阶段，同时提出了新的权重因子以及收缩因子。使用测试函数分析了改进算法的性能。数值分析的结果表明了改进算法能在跳出局部极值干扰的情况下，更快更好的搜索到全局最优值，具有较高的稳定性。将反馈补偿器封装在MATLAB模块内部联合Optisystem搭建了速率为40Gbit/s×4的光通信仿真系统，实现了两个软件的联合仿真。使用BER、眼图等对补偿前后的信号进行了对比分析，发现取得较好的结果。也同时证明了算法的可行性和优势。