光子准晶光纤是继光子晶体光纤之后又发展起来的一种新型微结构光纤,其晶格结构呈现旋转对称性与长程有序性,但不具备平移对称性,其中每个格点对模式作用均不相同。相对于光子晶体光纤,其结构自由度更高,模式调控方法更灵活,缺陷模式更丰富,在优化色散、限制损耗及非线性系数等传输特性方面具有更大优势,在光通信、光学测量及高功率激光器等应用领域表现出很大潜力。另外,环形芯光子准晶光纤可实现轨道角动量的稳定传输,在低损耗、高容量及高效率光纤通信中体现出优势,对拓展光波新型复用技术,以及解决现代通信网络对信息传输容量与速率持续增高的问题,具有重要的实际应用价值。本论文在对石英基光子准晶光纤结构参量与传输特性的变化关系的深入研究基础之上,提出与分析了面向光纤通信及高功率激光器相关应用的特种光子准晶光纤,深入讨论了光子准晶光纤设计方法、传输机制与传输特性,以期望能为光子准晶光纤相关物理特性分析与制备应用方面提供理论指导。本论文研究创新成果主要体现在以下几个方面。（1）仿真得到了双包层及旋转重数结构参量与光子准晶光纤传输特性的定性关系。研究表明,当内包层空气填充比大于0.65时,限制损耗出现跳跃变化规律且最大波峰数值与入射波长呈现指数函数关系。光纤色散与内包层空气填充比呈现先减小后增大的变化规律,在填充比为0.25左右时色散值最小。有效模场面积与内包层圈数呈现递增关系,但仅适用于一定的填充比变化范围,否则,有效模场面积基本不变。另外,光纤旋转重数与统一气孔条件下孔径最大值呈现一定函数关系,对光纤基模传播常数、电场分布、色散、有效模场面积及限制损耗等传输特性有明显的调控作用,可作为一个新的结构自由度优化光纤传输特性。选定主流的六重旋转重数,光子准晶光纤实现无截止单模传输所需的空气填充比达到0.575,高于光子晶体光纤近30%。（2）提出了一种宽波段、超平坦近零色散、低损耗及大模场面积双包层光子准晶光纤。在波长λ∈[1.27μm,1.67μm]近400 nm带宽范围内,获得了0.014±0.293ps/nm/km平坦近零色散,工作带宽基本涵盖所有通信窗口。在通信波长1.55μm处,限制损耗低于1.8×10-4d B/km,有效模场面积高于25.7μm2。研究表明,该光纤在3%的制备误差下设计的特性（色散、限制损耗及有效模场面积）波动甚微且可接受,呈现良好的容差能力。其次,以增强光子准晶光纤抗弯曲特性为目标,基于梯度孔径结构提出一种低弯曲损耗、单模传输及大模场面积Sunflower型光子准晶光纤。在较大弯曲程度下（弯曲半径为R=15 cm）,该光纤仍能保持低于8.04×10-3d B/km的弯曲损耗及高于1105μm2的模场面积。研究显示,外大内小的梯度孔径结构可有效抑制处于较大弯曲程度状态下光纤基模的偏离并能保持单模传输。（3）提出了一种双包层环形芯Stampfli型OAM光子准晶光纤。在大于200nm带宽内实现了6个OAM模式（8个信号承载通道）的稳定传输。优化环形芯结构参数,LP标量模组中同阶矢量模之间的有效折射率差可调升至10-2,有效避免了OAM模式之间耦合与相互串扰。研究显示,在所有通信窗口E、S、C、L及U内,多数OAM模式可保持平坦色散及较低限制损耗,且容差能力良好。结果表明,更高阶OAM模式存在更大色散值的问题。为解决此问题,提出了一种阶数可控的OAM模式色散补偿双芯Sunflower型光子准晶光纤。对于HE31模式,在波长1.55μm处,实现了高于-3039.45 ps/nm/km的负色散及高于2.15×10-3的有效折射率差,调整光纤结构参数,可实现对其它OAM模式的色散补偿。