轨道角动量(Orbital Angular Momentum,OAM)复用技术为自由空间光通信提供了新的复用形式,可用于提高通信系统的信道容量。研究携带OAM的涡旋光束的产生及传输属于OAM复用通信系统中的关键问题。在众多产生方法中利用光纤产生的涡旋光束具有较高的相位纯度。设计能够产生多种OAM模式并支持其传输的光纤尤为重要。本文在环形光子晶体光纤(Photonic Crystal Fiber,PCF)的基础上进行优化改进,得到了一种可生成并支持多种OAM模式的光纤结构,并对其光纤的性能进行了研究与分析。具体的工作如下:1.光纤中模式理论公式推导。求解了光纤中的矢量模解以及标量模解,数值仿真分析了矢量模式与标量模式的光强和偏振分布,并研究了矢量模式与光纤中OAM模式间的关系,为光纤结构的优化改进提供理论依据。2.光纤结构设计。对圆形空气孔包层的PCF进行了优化改进,在光纤包层引入了矩形空气孔。通过分析光纤参数对OAM模式数目以及模式的有效折射率差等的影响,得到了一种可生成并支持多种OAM模式的PCF。3.光纤特性分析。对PCF进行模拟仿真得到了矢量模式的有效折射率差,并研究了模式的归一化电场强度分布以及在z方向的强度分布,证明了本文得到的PCF在1.15～2.0μm波长范围内可生成并支持50种OAM模式。最后分析了色散、限制损耗以及非线性系数等光学特性,并与其他文献中PCF的相应光学特性进行对比。研究结果表明,该光纤结构在1.15～2.0μm波长范围内可产生并支持50种OAM模式传输,并且该光纤具有良好的性能,如所有模式间有效折射率差均大于1×10-4,850nm波长范围内模式色散更为平坦、限制损耗更小、较大的模场面积以及较小的非线性系数,从而证明了该光纤具有较优的性能,有助于OAM模式的稳定传输。