光纤中的光孤子因非线性效应平衡了色散的影响，能够传输很长距离而不变形，在光纤通信系统中有着巨大的应用价值。目前，光孤子已经成为了非线性光纤光学的研究热点之一。相比于其它孤子光源，非线性偏振旋转（NPR）锁模光纤激光器具有结构简单、锁模带宽宽等特点，可以产生脉宽窄至几十飞秒的孤子脉冲和非常丰富的孤子现象，是研究光孤子特性的理想平台。本文主要对NPR锁模光纤激光器中的孤子特性进行研究。首先分析了NPR锁模光纤激光器的锁模原理和腔内光传输特性，并以腔内传输函数为基础分析了激光器锁模区域的特性和腔内存在的可调谐滤波效应。基于理论分析搭建了一台腔内净色散为负值的NPR锁模光纤激光器并进行实验研究。在泵浦功率约为30mW时，获得了中心波长为1566.5nm，脉宽约为295fs的光孤子脉冲。增大泵浦功率，观察到了孤子束缚态、多孤子和谐波锁模等孤子现象，并对它们的光学特性进行了研究。采用“脉冲跟踪”方法对NPR锁模光纤激光器进行了数值仿真研究。首先数值模拟了负色散腔NPR锁模光纤激光器中的孤子形成，获得了单孤子锁模、孤子束缚态以及多孤子等不同类型的孤子态，并对腔内孤子动力学进行了研究。系统地数值分析了掺铒光纤增益系数，偏振控制器引起的相移差和腔内光纤双折射对激光器工作状态的影响。通过改变激光腔内不同色散光纤的长度获得正色散腔，研究了相应激光器中暗孤子的形成和特性，获得了脉宽约为5ps的暗孤子输出。最后，数值研究了一种实现高重频孤子脉冲的方法，通过在NPR锁模光纤激光器腔内引入一段高双折射光纤，利用光纤双折射导致的可调谐滤波效应对脉冲光谱进行调制，仿真获得了重复频率高达345GHz的孤子脉冲。研究表明，孤子脉冲的重复频率取决于滤波效应的带宽，可以通过改变高双折射光纤的长度来调节滤波效应的带宽，从而改变输出孤子的重复频率。