被动锁模光纤激光器作为产生超短脉冲的优质光源,在实际应用和基础科研领域都起着不可估量的作用。一方面,其输出的脉冲具有窄脉宽、高峰值功率、高重复频率、宽带宽等优点,在通信、传感、精密加工等实际应用中发挥着不可替代的作用;另一方面,其结构紧凑、操作简单、成本低廉等优势,为研究超短脉冲的超快、超强非线性光物理学现象提供了优良的平台。而超短脉冲的瞬态动力学研究需要实时测量技术,时间拉伸-色散傅里叶变换技术作为一种开创性的工具,克服了传统光谱仪器的限制,实现了连续的单发光谱测量、成像等功能。它不仅被应用在通信、传感、生物诊断等前沿领域,也为揭示非线性动力学里的瞬态现象开辟了新天地。本论文以超快激光物理探索为基础,以超快光纤激光技术的应用需求为导向,以色散傅里叶变换技术为工具,分别对光纤激光器中的矢量脉冲和孤子分子这两类脉冲复合体进行了系统性研究,揭示了矢量脉冲的瞬态偏振动力学特性以及孤子分子的内部演化和切换动力学过程。本论文的主要研究成果如下:（1）矢量脉冲瞬态偏振动力学研究。研究了基于非线性多模干涉的被动锁模机理,并利用渐变折射率多模光纤搭建了矢量被动锁模光纤激光器实验平台,实现了群速度锁定矢量孤子和矢量类噪声脉冲的产生;结合基于色散傅里叶变换技术的实时光谱观测手段和偏振解复用方法对矢量脉冲的瞬态偏振动力学特性进行了深入探索,并观测到群速度锁定矢量类噪声脉冲的脉动现象,其结果有利于拓展超短脉冲在激光精密加工应用领域的研究。（2）孤子对瞬态动力学研究。搭建了色散管理被动锁模光纤激光器,结合实时光谱观测作为孤子分子瞬态动力学研究平台。基于一阶自相关反演方法,分析了稳态孤子对、常规演化孤子对和复合振动孤子对的瞬态动力学过程。针对复合振动孤子对的内部演化,提出了振荡频率谱用于分析多重振动频率叠加的复合振动动力学过程。实验结果丰富了耗散系统中孤子分子的演化现象,为进一步探索更加复杂的孤子分子瞬态演化过程提供了参考。（3）多脉冲孤子分子瞬态动力学研究。在孤子对的基础上,研究了多脉冲孤子分子的瞬态动力学过程。基于一阶自相关反演的脉冲分布分析方法,对等间距三脉冲孤子分子和非等间距三脉冲孤子分子的内部演化进行了深入研究,分析了稳定、常规振荡、复合振动、跳跃演化等三脉冲孤子分子的瞬态动力学过程。然后利用脉冲匹配方法,还原了跳跃演化非等间距三脉冲孤子分子的实时光谱演化。最后分析了非等间距多脉冲孤子分子的阶梯相位演化现象。其结果为解释多脉冲孤子分子的瞬态动力学过程提供了基础,有利于拓展对超快光纤激光器稳定性与孤子分子脉冲操控的研究。（4）脉冲切换过程瞬态动力学研究。研究了自由运转光纤激光器在非稳定锁模状态下,不同种类脉冲产生、消逝以及切换的瞬态动力学过程。使用色散傅里叶变换技术,随机记录非稳定锁模状态下的超短脉冲实时光谱。观测到了孤子单体和孤子分子产生和消逝的现象,并总结了弛豫振荡阶段、过渡阶段、锁模建立阶段、锁模退化阶段四个瞬态动力学过程。进一步,实验记录了不同种类脉冲间的切换现象,并着重分析了孤子分子退化和孤子进化过程中的瞬态动力学。其结果有利于加深对超短脉冲在非线性系统中演化的动力学过程的理解,为实现对超快激光器的精密智能操控奠定了基础。