随着数字通信业务的飞速发展,现有的光纤通信系统扩容技术在时间、频率、偏振上的复用及高阶调制等技术的利用已远远不能满足未来信息量的需求。因此,如何提升光纤通信系统的传输容量是一个亟待解决的关键问题。在此背景下,基于少模光纤的模分复用技术将少模光纤中有限个正交模式作为独立信道承载多路信号进行传输,使系统传输容量成倍增长,是未来高速大容量光传输系统的关键技术之一。但是少模光纤模式复用技术中存在的模式耦合和差分模式群时延严重限制了信号传输距离和速率。因此,实现输出信号解复用和均衡是保证模分复用信号可靠传输的关键。本文围绕少模光纤模分复用系统频域均衡技术,主要完成以下工作:(1)以少模光纤的传输特性为出发点,深入研究了少模光纤链路损伤中差分模式群时延和模式耦合对信号传输的影响。综合考虑少模光纤中色度色散、差分模式群时延和模式耦合等因素,根据矩阵传输模型理论,在MATLAB软件平台上建立了少模光纤传输链路仿真模型。(2)对模分复用系统的频域均衡技术进行了研究。首先介绍了时域均衡和频域均衡的特点,考虑实际通信系统对均衡算法的低复杂度需求,说明频域均衡的必要性。然后详细介绍了频域最小均方算法和频域恒模算法(Frequency-domain Constant Modulus Algorithm,FD-CMA)的基本原理和计算流程,并比较了两类算法的计算复杂度。针对FD-CMA在高阶调制格式时均衡性能较差等问题,本文采用频域多模盲均衡算法(Frequency-domain Multimodulus Algorithm,FD-MMA)进行均衡,并推导得出MIMO均衡算法表达式。(3)仿真搭建了 3模少模光纤模分复用系统,从星座图、收敛速度和稳态误差等角度研究了迭代步长对频域均衡算法性能的影响,并在56Gb/s 3模QPSK模分复用系统和112Gb/s3模16QAM模分复用系统中对FD-CMA和FD-MMA的均衡性能进行仿真对比。仿真结果表明,对于恒模QPSK信号,经FD-CMA和FD-MMA均衡后信号均衡效果相当,并且在误码率为10-3处,FD-MMA比FD-CMA有1dB光信噪比容限的提升;对于非恒模16QAM信号,FD-MMA均衡效果优于FD-CMA,在误码率为10-3处,FD-MMA比FD-CMA有2.5dB光信噪比容限的提升。