掺铒光纤激光器由于激射波长处于光纤的低损耗窗口，被认为是光纤通信系统的极具开发潜力的光源。随着光通信系统容量需求的进一步增长，时分复用(OTDM)、波分复用(WDM)或时分/波分(OTDM/WDM)混合复用技术是实现光纤通信系统提速扩容的有效手段，而具备短脉冲或者多波长输出能力的掺铒光纤激光器是相对应的理想光源。本论文围绕如何提高掺铒光纤激光器的性能，从理论和实验两方面对超短脉冲、多波长连续波以及多波长脉冲掺铒光纤激光器进行了系统、深入的研究，主要研究内容包括：　　1.在超短脉冲掺铒光纤激光器研制方面，提出将非线性偏振旋转锁模光纤激光器的双折射诱导光谱滤波效应用于抑制孤子光谱边带，解决了光谱边带限制脉冲脉宽进一步窄化的问题，获得了132fs的孤子脉冲输出；针对目前普通光学沉积法存在的问题，提出基于凹槽准直器的腔内光学沉积法来简便研制石墨烯锁模器，并用于掺铒光纤激光器中获得超短脉冲输出。　　2.对孤子脉冲光纤激光器中的非线性效应进行了理论和实验研究。首先，分析了孤子光纤激光器中的脉冲不均匀性；其次，提出并实验验证了孤子光纤激光器中边带功率周期性波动是孤子光谱子边带出现的物理起源；最后，研究了在新型双波长被动锁模光纤激光器中交叉相位调制诱导的调制不稳定性现象，实验观察到多级调制不稳定性边带出现。　　3.系统研究了基于改进马赫一曾德干涉仪的可调谐多波长光谱滤波技术，突破长期以来普通马赫-曾德干涉仪不具备可调谐输出的限制。证实了改进的双通道马赫-曾德干涉仪具有波长间隔可调谐和波长可开关特性；详细分析了偏振态及分光比对双环结构的马赫-曾德干涉仪光谱响应的影响，报道了此结构滤波器的可调谐平顶光谱响应特性；设计了基于偏振分束器的新型波长可开关马赫-曾德梳状滤波器，并在此基础上，提出了基于偏振分束器的级联马赫-曾德干涉仪的波长间隔可调谐及可开关梳状滤波器；报道了与偏振无关、基于可变耦合比耦合器的马赫-曾德干涉仪多功能梳状滤波器，其中包括信道间隔可调、波长可开关和平顶滤波效应功能。　　4.通过在激光腔内放置可饱和吸收镜辅助增加强度相关损耗效应，在短腔长结构中实现了室温稳定的多波长光纤激光器；提出利用波长相关偏振旋转效应的简便方法来实现波段可开关多波长光纤激光器；基于自主研制的新型可调谐梳状滤波器，在掺铒光纤激光器中获得了灵活可调谐多波长激光输出，其中包括波长间距可调谐、波长可开关、波长数可调、激射位置可调等。　　5.对多波长被动锁模光纤激光器的几种实现技术进行了研究。首先，研究了基于非线性偏振旋转结构的腔内双折射诱导滤波效应的多波长脉冲掺铒光纤激光器；其次，提出了基于半导体可饱和吸收体和梳状滤波器相结合的多波长被动锁模脉冲光纤激光器；最后，研究了基于对比度可调谐梳状滤波器的多波长皮秒脉冲与单波长飞秒脉冲可切换输出掺铒光纤激光器。