近年来信息化社会的步伐不断加快,随着大数据、云计算和移动互联网等新兴业务的蓬勃发展,用户对网络带宽和通信容量的需求也在持续增长。用户对移动终端的数据需求持续增加,这就对通信系统的传输速率和系统容量提出了更高的要求。因此,光纤通信在这些方面凸显的优势被越来越多的人所关注,高速大容量光纤通信系统将是未来通信网络的发展趋势。密集波分复用技术、高阶调制技术以及偏振复用技术等技术的运用,进一步提升了通信系统的传输容量、提高了系统的传输距离和频谱利用率,同时还降低了系统成本,为下一步新型通信网络业务的发展提供了扎实的基础。空分复用(Space-Division Multiplexing,SDM)技术,做为可以大幅度提升通信系统传输容量的新技术,也受到了人们的关注,通过利用多模光纤中不同的模式分别承载信号进行传输以及多芯光纤的多个物理传输通道,增加系统的一个自由度,从而实现对系统容量的大幅提升。多模光纤相比与单模光纤来说,具有更大的模场面积,因此其非线性效应更弱,也因此可以进行大容量的信号传输。对于多模光纤中传输的多个正交模式作为光传输系统的新的自由度加以利用,除了可以增加通信系统的复用维度,还可以有效的提升通信系统的传输容量和频谱利用率。多芯光纤的包层中包括多个纤芯,通过设计不同结构的多芯信道,减少对信号的干扰,而其中的每个纤芯剂都可以作为一个独立的传输通道,使得信号在每个纤芯中都能进行独立传输,以此来有效的提升系统容量。多芯光纤的结构设计可以根据信号传输的需要进行调整,而且多芯光纤中的非线性效应影响较小,同时它的模场面积也比单模光纤大,因此多芯光纤在提升系统容量和频谱利用率方面有较好的性能。但是,在实际传输信号的过程中,由于光纤在制造和铺设过程中可能发生弯曲、折射率分布不均等情况,会导致不同模式之间会发生模式耦合;且由于信号在光纤中传输时每个模式的速度都不同,模式之间还会有模间色散效应的影响,这些都给信号带来干扰,因此要在接收端对信号进行处理,使信号得到恢复,即对接收到的信号进行有效的均衡。本文对多模多芯光传输系统的的各组成部分进行了研究,对系统中关键模块的功能进行了分析,而且对基于多模多芯的光传输系统建立了传输模型,并进行了理论分析,并对接收端的数字信号处理部分进行了研究。本文的主要研究内容如下:(一)在多模光纤和多芯光纤的理论分析基础之上,本文对基于多模光纤和多芯光纤的光传输系统进行了研究,包括系统组成、各模块的功能等,并阐述了系统中用到的关键技术,包括多模光纤光传输系统中的模式复用/解复用、模式转换等技术,多芯光纤光传输系统中的连接器、复用/解复用器等。(二)在多模光纤和多芯光纤传输系统模块的研究基础之上,本文建立了基于多模多芯的光传输系统的传输模型,并对传输模型进行了研究及理论分析,主要以传输矩阵的方式对模式耦合、模间色散等可能对信号产生影响的因素进行了理论分析。(三)本文对多模多芯光传输系统的MIMO均衡结构进行了研究和分析,对常用的自适应算法LMS算法以及RLS算法进行了研究,并对算法的仿真的结果进行了分析比较,仿真结果表明RLS算法的收敛速度比LMS算法更快。本文采用了一种自适应步长的RLSCMA算法,仿真结果表明此算法具有更快的收敛速度和跟踪性能,总体性能更优。