非线性环形镜锁模光纤激光器是一种基于光纤结构等效可饱和吸收体的被动锁模光纤激光器。非线性环形镜锁模光纤激光器易于实现全光纤全保偏化,具有低成本、结构紧凑和抗干扰能力强等优点。本文以基于非线性环形镜的全正色散掺镱锁模光纤激光器为主要研究对象,在对其锁模原理、脉冲特性进行仿真研究的基础上,开展一系列基于非线性环形镜的8字形和哑铃形锁模光纤激光器的实验研究工作。在保持全光纤结构优势的基础上,提升脉冲能量、峰值功率、平均功率等脉冲性能,是本文的主要研究目标。本文获得的主要研究成果如下:建立了非线性环形镜锁模掺镱光纤激光器的分立元件模型,研究了在全正色散区下该模型的锁模脉冲状态在激光器二维参数空间内的分布。在利用分立元件模型对耗散孤子脉冲状态进行严格求解的基础上,首次系统研究了脉冲状态在激光器实际参数空间内的分布。提出了优化滤波器带宽可提高多脉冲产生阈值,发现了非线性环形镜可饱和吸收效应的波长依赖性是产生不稳定锁模的原因之一。对耗散孤子脉冲的线性压缩性能进行了系统分析,提出了传统耗散孤子与耗散孤子共振状态的过渡区域存在很强的线性压缩潜力,并分析了该状态的参数空间分布。在8字形非线性环形镜锁模掺镱光纤激光器实验中,结合仿真计算进行参数优化,得到了首个峰值功率超过1kW的耗散孤子共振脉冲。脉冲可以维持1.1kW的峰值功率,进行48 ps到146 ps范围的脉宽调节。激光器最大输出平均功率1.66W、最大单脉冲能量161 nJ。光谱中心波长1035 nm,3 dB光谱宽度约10 nm。实验与仿真结果达到了较好的吻合。在全保偏哑铃形掺镱锁模光纤激光器实验中,实现了全保偏哑铃形结构的输出脉冲性能提升。根据不同的激光器参数设置,分别实现了从全保偏全光纤哑铃形锁模激光器中直接输出:脉冲能量512 nJ、平均功率2 W的大能量耗散孤子共振脉冲,平均功率4 W、峰值功率600 W的高峰值功率高平均功率耗散孤子共振脉冲。本论文的研究深入探索了全正色散锁模光纤激光器的锁模机理,促进了对耗散孤子脉冲状态的定域问题的研究,对非线性环形镜锁模光纤激光器的设计和实验有直接指导意义。本论文的实验研究对目前的全光纤锁模激光器的输出脉冲性能有较大提升,研究结果可作为高功率种子源,降低后续功率放大的级数,提高系统可靠性,具有良好的应用价值。