高功率光纤激光器作为新一代固体激光,以其阈值低、效率高、光束质量好、散热性能好、结构紧凑等优点,广泛应用于光通信、医疗、工业和军事等领域。目前,连续光纤激光器的输出已达到万瓦量级,脉冲光纤激光器的输出已达到兆瓦量级。然而,随着输出功率的不断提升,如何优化光纤激光系统的性能成为高功率光纤激光器总体设计和工程研制的重要问题。本论文在前人工作基础上,系统研究了高功率连续和锁模脉冲光纤激光器系统的优化问题,并提供了设计准则。取得的主要成果有：第一,改进了一种适用于求解连续双包层光纤激光器传输模型的打靶算法。连续双包层光纤激光器的传输模型属于二元微分方程,通常仅知道其初始泵浦功率,因此无法直接用打靶法求解。根据传输模型两边值之间的关系,将原有传输方程转化为已知两边界值的二元微分方程的边值问题,由此可用打靶法求解。这种改进的打靶法可对连续双包层光纤激光器的传输模型进行简单、快速、准确的求解。第二,提出了一种适用于求解连续双包层光纤激光器传输模型的线性迭代打靶算法。在常规连续双包层光纤激光器的传输模型中,信号激光的初始和末端值成比例关系,当初始信号功率不满足边界条件时,可以直接利用该比例关系和已得到的输出端功率值的乘积作为下一个信号功率的初始值,直到满足条件为止。在相同精度下,该线性迭代打靶算法比原基于牛顿—拉夫逊迭代的打靶法(或改进的打靶法)更简单,且运算量提高2-4倍。第三,提出了一种适用于连续光纤激光器的光纤最佳长度准则,分析了散射损耗、掺杂离子浓度等参数对光纤最佳长度和输出特性的影响,为建立优化的高功率连续激光输出提供了理论依据。为了使系统得到高性能输出,要求光纤工作在最佳长度。但以往关于光纤最佳长度的分析是在忽略散射损耗和泵浦反射等近似条件下进行的,本文从光纤最佳长度的物理概念出发,建立了更广泛的光纤最佳长度模型,且该模型在系统存在泵浦反射和散射损耗时仍适用。第四,基于非线性偏振旋转被动锁模光纤激光器,理论和实验研究了负色散下腔体结构参数对脉冲输出特性的影响,得到了偏振控制、腔长等参数对脉冲输出特性的影响规律,为建立高功率高能量脉冲输出提供了依据。实验发现在长腔负色散系统中,偏振状态的改变不仅能产生双脉冲、三脉冲等多态孤子,还得到无孤子分裂的基态孤子。该基态孤子比多态孤子脉冲能量和峰值功率大,且其脉冲宽度和输出平均功率(或脉冲能量)随泵浦功率线性增加。腔长增长,基态重复频率降低,脉冲宽度、脉冲能量和峰值功率增大。腔内色散系数增加,输出脉宽变窄,平均功率、脉冲能量和峰值功率提高。另外,偏振状态和腔长的变化会引起中心波长的移动。