TM₀₁模式和TE₀₁模式是光纤二阶模式组中的两种矢量模式。这两种模式的光束具有聚焦后偏振方向保持稳定、能量高度集中的优势,因此它们在光学镊子、粒子加速、材料加工、高分辨率显微镜等诸多方面都具有重要的应用价值。目前,大多数激光器输出TM₀₁模式(TE₀₁模式)的方法均基于模式转换,因而输出功率和模式纯度均受限于模式转换效率。本文针对通过控制少模光纤激光器横模,从而使激光器直接振荡在TM₀₁模式(TE₀₁模式)并单独输出TM₀₁模式(TE₀₁模式)进行了研究。首先,本文设计了两种光纤结构,实现了LP₁₁模式中简并的矢量模式(TM₀₁、TE₀₁和HE₂₁)的有效分离。同时,利用数值法分别求解了两种光纤中传输的矢量模式以及各矢量模式沿光纤半径方向的功率填充因子。然后,将设计的两种光纤分别应用到光纤激光器中,并结合光纤中矢量模式的功率径向分布,提出了单环形和双环形铒离子均匀掺杂方案。基于光纤激光器速率方程组,采用数值方法计算了抽运光和信号光各模式在光纤激光器谐振腔中各位置处的正向和反向功率。其次,分别分析了光纤长度、铒离子掺杂浓度以及光纤激光器抽运光功率对基于两种不同光纤结构的掺铒光纤激光器输出TM₀₁模式(TE₀₁模式)的输出功率和模式纯度的影响。最后,分析了自发辐射噪声对光纤激光器横模控制以及输出TM₀₁模式和TE₀₁模式的功率和模式纯度的影响。研究结果表明,该有源掺铒光纤可以使光纤激光器直接振荡在TM₀₁模式(TE₀₁模式)并稳定输出TM₀₁模式(TE₀₁模式)。在保证足够高的模式纯度的条件下,对于基于反抛物线型光纤的掺铒光纤激光器而言,输出TM₀₁模式和TE₀₁模式时,光纤激光器的斜率效率分别高达65.06%和62.15%;而基于环形光纤的掺铒光纤激光器的斜率效率分别高达67.5%和67.46%。此外,通过设计不同的铒离子掺杂分布,本文提出的掺铒光纤激光器还可以单独输出HE₁₁、HE₂₁和EH₁₁、模式,并且在保证足够高的模式纯度时,激光器斜率效率均高于60%。因此,通过设计不同的铒离子掺杂方案,可以实现光纤激光器横模可控。由于不需要引入任何模式转换器件,本文提出的方法与现有输出TM₀₁模式和TE₀₁模式的方法相比拥有更高的激光器斜率效率和输出模式纯度。本文的研究结果对高功率和高纯度的矢量模式输出的光纤激光器设计与制造具有重要的指导意义。