随着移动互联网、大数据等一系列新型业务的出现,单模光纤信道容量越来越难以满足日益增长的通信需求。模分复用被认为是进一步提高信道容量的有效方式之一,已成为光纤通信技术的研究热点。其中,少模掺铒光纤放大器（Few Mode Erbium Doped Fiber Amplifier,FM-EDFA）作为长距离模分复用系统的关键器件,倍受关注。论文围绕低差模增益（Differential Modal Gain,DMG）少模掺铒光纤放大器及其级联系统设计开展研究,主要内容和创新如下:1.根据FM-EDFA模式增益的解析表达式,提出一种测量少模掺铒光纤（Few Mode Erbium Doped Fiber,FM-EDF）模式吸收系数的方法,模式吸收系数可根据模式增益随平均反转粒子数的变化曲线外推得到。采用单模光器件搭建了一个实验平台,测量了FM-EDF的吸收损耗系数,并用于估计FM-EDF的铒离子掺杂浓度。在此基础上,通过调整FM-EDF长度和泵浦功率,优化设计了前向泵浦三模EDFA,增益和DMG分别为20d B和1.8d B。2.将波分复用器和光隔离器进行功能集成在一起,设计加工了光纤型光隔离/波分复用器（Isolator and Wavelength Division Multiplexing,IWDM）,构建了全光纤型三模EDFA,并开展了LP01和LP11信号的双向泵浦放大实验,实现了DMG的可调功能。提出一种基于等效掺铒浓度的仿真方法,通过搭建与双向泵浦实验相同的VPI仿真结构,验证了等效掺铒浓度仿真方法的可行性。采用双向泵浦功率加权方式得到的仿真结果与实验结果相比,最大相差1.3d B,这种泵浦功率加权方式可有效降低FM-EDFA自动增益控制的复杂性。3.采用等效掺铒浓度仿真方法优化了前后向泵浦的功率比,设计出模式增益约为11d B、差模增益近乎为0的两模EDFA。通过搭建基于光循环器的长距离放大系统仿真平台,研究了该FM-EDFA的级联传输特性;当LP01和LP11两个模式信号放大传输550km后,系统输出端的差模增益和光信噪比分别约为0.56d B和27d B。进一步地,通过优化设计泵浦功率和长度,设计出更高增益（约为19d B）的三模EDFA放大器,LP01,LP11a,LP11b三个模式信号放大传输1000km后,系统输出端的差模增益和光信噪比分别约为0.2d B和33d B,满足差模增益小于2d B的项目指标。