随着信息化社会的高速发展,人们对光通信传输距离和传输容量的要求也越来越高,超长传输距离、超大容量的高速相干光通信系统是当前光通信领域的研究热点。色散是制约高速相干光通信系统性能的重要因素,我们研究高速相干光通信系统中的色散均衡方法,有着非常重要的意义。本文对高速相干光通信系统中的色散均衡方法进行了研究,主要工作包括以下几个方面:广泛查阅国内外文献,分析了高速相干光通信系统中存在的损伤以及对应的解决方案,重点分析了系统中经典的色散均衡方法,并对经典方法中,抽头系数的模值恒定导致色散均衡效果受限这一现象进行了分析。提出了一种权重优化的有限脉冲响应(FIR)时域色散均衡方法。该方法通过选择合适的优化函数对FIR滤波器的抽头系数进行权重优化,从而提高色散均衡的效果。本文对两种权重优化的FIR时域色散均衡方法进行了研究,一种为以平方根升余弦函数为优化函数的SRRC-FIR时域色散均衡方法,另一种为以高斯函数为优化函数的GS-FIR时域色散均衡方法。通过虚拟光学仪器(VPI)仿真软件和MATLAB编程软件进行联合仿真,搭建了高速相干光通信系统,对提出的方法进行了仿真验证,并与两种已有的时域色散均衡方法进行了对比。仿真结果表明,SRRC-FIR时域色散均衡和GS-FIR时域色散均衡都能减小经过色散均衡后光纤通信系统的误码率(BER),说明权重优化的FIR时域色散均衡是一种能有效提高时域色散均衡效果的方法。将权重优化的方法运用到频域,提出了一种权重优化的重叠频域色散均衡(OFDE)方法。这种方法通过选择合适的优化函数,对原始OFDE方法的频域抽头系数进行权重优化,达到提高频域色散均衡效果的目的。本文以SRRC-OFDE和RC-OFDE两种方法为例进行了介绍,它们的优化函数分别为平方根升余弦函数和升余弦函数。在通过联合仿真搭建的高速相干光通信系统中,对比了SRRC-OFDE、RC-OFDE和OFDE三种方法的均衡效果。仿真结果证明了权重优化的OFDE方法能有效提高频域色散均衡的效果。