随着通信技术的不断演进和新业务井喷式的涌现,人们对通信网络的容量提出了越来越高的要求。过去的十几年里研究人员为了提升光纤通信的容量,基于单模光纤研究出了很多先进的方法。例如,高阶正交调制格式替代简单的幅度调制格式,偏振复用(PDM),密集波分复用技术(DWDM),正交频分复用(OFDM)技术等。使得目前单模光纤容量已接近香农极限。在这种情况下,人们开始把研究的目光重新转向多模光纤。单模光纤中的,多种复用方法尚未能够充分利用到光纤中可利用的所有自由度。其中,光纤中的固有属性—光纤模式,便是重要的自由度之一。研究学者们设想,若能使多模光纤中携带的模式彼此分离地承载信号,充分利用光纤带宽,则可能给光纤容量带来新的飞跃。因此研究模式复用即空间复用是光传输未来的发展趋势与重要技术。本论文对阶跃多模光纤模式复用问题进行了理论和数值研究,在此基础上分析出模式复用的部分规律与结论,并讨论了这种新型传输模型中的重要器件。着重研究了模式转换过程中的重要参数,耦合效率与模场分布,并对模场组合后的模斑情况进行了总结和分类。主要研究工作如下：1)模式转换与模式耦合研究以倾斜光栅为转换材料,通过推导单向倾斜光栅中的模式转换公式,计算出了倾斜光栅中的模式耦合规律,即在x倾斜光栅中,LP11偶模LP11c(相位分布呈cosΦ)只能耦合成LP01模；在y倾斜光栅中,LP11奇模LP11s(相位分布呈sinΦ)只能耦合成LP01模。并延伸到双向倾斜光栅中,对模式转换后和过程中的模场分布及光强做了分析。在双倾斜光纤光栅中,LP11c可以通过LPo1模的过渡作用进而耦合进LP11s,同理反之也成立。同时,x,y光栅之间的倾角差的大小对于转换后的模场及光栅中的光强至关重要。另外,TE01、TM01,HE21以及不同偏振方向和空间简并的LP11模式,都可以在光栅模式转换的过程中产生。2)模式均衡放大理论与技术研究本论文对模式均衡放大理论与技术进行了研究,与单模光纤链路上的放大器类似,多模均衡放大对延长传输距离有重要作用。搭建了MM—EDFA(多模掺铒光纤放大器)模型,通过调整泵浦模LP01,p和LP21,p的功率,信号模LP01,s和LP11,s的增益及模式相关增益差可以实现动态调节。增加少量的LP11θ,p(由LP11奇模旋转0而来)可以平衡LP11,s的两种空间简并模的增益。最后,从耦合模方程出发,分别研究了激发出非理想泵浦模式、模式耦合效应及掺铒光纤弯曲损耗对模式放大的影响。计算得出,在实际选取掺铒光纤时,阶跃折射率掺铒光纤的弯曲半径应大于9cm；或设计更复杂的折射率分布光纤(例如引入折射率沟槽)以更好地束缚所有信号模式与泵浦模式。3)模式非线性作用研究用双模光纤建立了WDM-PDM-QPSK传输系统的简化模型,并对系统的非线性效应进行了数值仿真。定量分析了模式群延时与差分色度色散对克服模式非线性的重要性。与两种模式彼此独立与模场完全重合的极限情况作对比,数值仿真了模式复用系统中非线性效应带来的功率代价。在速率为200Gb/s的MDM-PDM-QPSK系统,传输1200km后由非线性引起的功率代价可以控制在1dB以内,这也从侧面说明模式复用技术在未来提升系统容量方面是非常有潜力的。