近年来,为满足社会发展的需要,数据流量急剧增长。但与此同时,光纤作为一种非常关键的传输介质,其传输速率的提升却越来越显得困难。一方面交换节点的交换能力受到限制,另一方面光纤本身传输速率的提升变得越来越难,因此全光交换技术以及新型大容量传输技术的研究,有助于解决这些问题。涡旋光是指拥有螺旋形相位波前的一种结构光,其能够携带轨道角动量(orbital angular momentum,OAM),可以广泛应用于光镊、微粒操控、显微镜、传感、通信等领域。近年来,基于光纤的涡旋光的生成、控制、测量、应用等相关研究,成为研究人员追逐的热点,尤其是大容量光纤通信方面。将光纤和涡旋光结合,既可以提升光纤的性能,也可以拓展光纤的应用,具有广阔的前景。本论文在相关科研项目的支持下,针对上述内容在特种光纤和涡旋光这两个方面做了些研究,并取得如下成果:(1)研制了可用于光纤放大器的大模场面积低掺杂浓度的掺铒光纤,研制了可用于光纤激光器的高掺杂浓度的单模掺铒光纤以及少模掺铒光纤,研制了可用于光纤到户等方面的大模场面积抗弯损光纤,研制了多种结构的少模光纤,这些光纤的研制为后续的研究奠定基础。(2)分析研究了三种涡旋光纤的实现方案,分别制造了三种类型的多根涡旋光纤并进行了相关测试。提出了利用S2技术测量光纤中矢量模式成分的方案,并用该方案测量了涡旋光纤中的矢量模式成分,完成对涡旋光纤的特征描述。(3)介绍了两种经典的基于光纤的OAM的生成理论,并且分析了这两种OAM模式之间的关系。提出了基于同一模式群内不同矢量模式的奇偶模式叠加产生连续可调OAM以及实现线偏振OAM模式与标量模式间切换的新理论。提出了基于同一模式群内两个偏振方向互相垂直的标量模式叠加产生连续可调OAM以及实现线偏振OAM模式与标量模式间切换的新理论。分析研究了标量模式在涡旋光纤中的演化,然后利用该演化过程可实现二维的连续可调的OAM及线偏振OAM模式与标量模式间的切换。分析研究了矢量模式在保偏少模光纤中的演化,然后利用该演化过程可实现二维的连续可调的OAM及线偏振OAM模式与标量模式间的切换。丰富完善了基于光纤的OAM生成的理论体系。(4)受矢量强度分析法(Ring Method)的启发提出一种测量线偏振OAM模式纯度的方法,称为标量强度分析法。分析了该方法的可行性、精确度、灵敏度和误差,对该方法的适用条件以及适用场合进行了详细的说明,并将该方法在实验中应用。(5)研究了基于机械长周期少模光纤光栅的模式转换器和基于短周期少模光纤光栅的模式转换器。基于将长周期和短周期光栅级联的装置,搭建了环形腔光纤激光器,并且实现了三波长单模可切换输出,以及双波长六横模可切换输出,为涡旋光纤激光器的研制打下基础。