目前光纤色散和偏振模色散成为制约光纤通信系统向高速率和长距离传输发展的主要因素。色散导致光纤中的光信号在传输过程中产生失真并且随着传输距离的增加变的越来越严重。在接收端光脉冲被展宽，致使前后脉冲相互重叠，引起数字信号的码间串扰，造成误码率增加。　　 本文首先分析了色度色散和偏振模色散对光纤通信系统的制约，研究了自适应均衡器的结构模块和自适应算法。在分析了光纤色散和偏振模色散对光纤通信系统影响的基础上设计了用于光纤信道均衡的判决反馈均衡器(DFE)和前馈均衡器(FFE)的结构和自适应算法，其中包括最小均方算法(LMS)、递归最小二乘算法(RLS)。并用MATLAB 仿真了各种算法对光纤信道进行自适应均衡的性能。　　 最后从均衡器补偿性能、收敛速度、计算复杂性等方面对各种自适应算法进行分析比较，得出结论。仿真结果表明，基于最小均方误差算法的自适应均衡器在信道条件不是非常恶劣的情况下能够对光纤信道进行很好的均衡，缺点是收敛速度较慢。基于递归最小二乘算法的自适应均衡器对信号统计特性变化具有更快的收敛速度快，缺点是运算量大。线性均衡器结构简单、复杂度低、易于实现，缺点是收敛速度较慢，对信噪比也比较敏感，在带有严重码间干扰的情况下均衡效果较差。判决反馈均衡器的结构具有许多优点，当判决差错对性能的影响可忽略时，判决反馈均衡器效果优于线性均衡器。但是判决反馈结构的主要缺点是错误传播，错误传播是由于不正确的判决而产生的。基于维特比算法的最大似然序列估计均衡器有更好的性能，由于光纤通信接近于恒参信道，ISI 并不太严重，而且信噪比较高，误性码扩散的可能性很小，而高的信号速率限制了电路的复杂性和规模，不过随着微电子和高速信号处理技术的进一步发展，最大似然估计均衡器会有广阔的发展前途。