超快光纤激光器在光通信系统、激光材料加工、生物医学和光学精密计量等领域具有重要的应用价值。作为一个典型的非线性耗散系统，超快光纤激光器也是一个研究光波非线性行为的良好平台。尽管伺服反馈系统可以用来克服外部扰动对激光器稳态运转的影响，然而当激光器的参数偏离稳态锁模运转条件较远时，光脉冲仍不可避免地会在诸多激光器内部因素共同作用下发生非线性演化。激光器中光孤子的非线性行为的复杂性和具体物理机制尚待更加深入和详细的探究，这对于更好地设计超快光纤激光器、理解超快激光物理中的非线性现象具有重要意义。
　　本论文从理论模拟和实验探究两个方面，对超快光纤激光器中的孤子非线性行为进行了详细和深入的研究。
　　本论文的主要内容包括：
　　(1)研究了超快光纤激光器中色散波与孤子相互作用的动力学行为。首次实验观测到了连续波诱导的共振色散波辐射，并提出与实验结果相符的相位匹配条件；理论模拟了传统孤子光纤激光器中孤子光谱的凹陷型Kelly边带的形成机制；实验观测到了尖锐Kelly边带的展宽现象，通过理论模拟揭示了边带展宽的原因是由于色散波波长的105Hz量级的快速振荡；基于理论模拟，发现了耗散孤子的共振色散波，并提出了与数值模拟结果一致的相位匹配公式。丰富了激光器中色散波与孤子相互作用的理论和现象，对激光器的稳定性优化设计提供了一定的理论依据。
　　(2)基于耦合金兹堡朗道方程的数值模拟，研究了光纤激光器中矢量孤子的偏振演化特性。探究了在光纤激光器中的矢量孤子偏振态的快轴不稳定性；研究了双脉冲构成的孤子分子的偏振态演化特性以及两个正交偏振分量的分子振动特性，探究了激光器线性双折射和泵浦强度对于产生的孤子分子的偏振态的影响和调控。加深了对超快激光器偏振态的演化过程的理解，对利用和控制超短脉冲偏振态具有重要意义。
　　(3)理论模拟并探究了超快光纤激光器中高阶孤子演化特性。提出了一种高阶孤子色散管理激光器结构，此结构可直接输出时域宽度小于40飞秒的变换极限锁模脉冲；分析了传统孤子光纤激光器中当脉冲的孤子阶数大于2时产生的高阶孤子分裂现象。对激光器中高阶孤子的探究具有推动作用，同时对宽带光谱极窄脉宽的超快光纤激光器设计提供了一个可行性方案。
　　(4)基于数值模拟，探究了光脉冲在正常色散光纤激光器中脉冲整形机制。分析了激光器的泵浦强度和光谱滤波效应对不同脉冲机制的调节作用，例如光脉冲从相干单脉冲转变为非相干类噪声脉冲；光脉冲从耗散孤子转变到耗散自相似子最终转变为放大自相似子。加深了对激光器脉冲整形机制的理解，并对高能量耗散孤子激光器的设计优化具有一定指导意义。
　　(5)基于理论模拟，研究了耗散孤子光纤激光器中的孤子爆炸现象的分类和机制。指出线性损耗和光谱滤波效应对孤子爆炸的调控作用。同时首次证明了暗孤子在亮孤子爆炸中的存在和演化特性，发现亮孤子爆炸过程中独特的脉冲塌陷结构是由暗孤子簇镶嵌在亮脉冲中引起的。对于理解耗散孤子的混沌演化和暗孤子动力学行为具有重要意义。
　　(6)搭建了基于色散傅里叶变换的实时光谱测量系统，其光谱分辨率为0.138纳米。在正常色散掺铒光纤激光器中观测到了振动频率为183千赫兹振动态耗散孤子，并分析其振动的机理。通过调节激光器的偏振控制器，发现了一种激光器的纵模在同步锁定和失锁两个状态之间进行随机切换的状态，其切换演化的时间尺度为10-2秒量级，并通过揭示其实时光谱演化分析了激光激射状态自发切换的机理。丰富了超快光纤激光器的非线性动力学行为的实验结果，对理解超快激光器混沌演化行为具有重要意义。