涡旋光束具有螺旋的相位结构,并且携带轨道角动量,因此涡旋光束的传播以及应用一直是结构光场的重要方向。随着近几年人们对光场调控手段的丰富,一些特殊结构的涡旋光束被相继提出。基于这个研究背景,本论文中利用光的传播衍射理论并结合实验手段研究了分数涡旋光束、多匝道分数涡旋光束以及涡旋对光束的传播特性以及在光学捕获中的应用。本文具体章节安排如下:第一章介绍了涡旋光束的研究背景和意义,并分别介绍了整数涡旋光束、分数涡旋光束和特殊涡旋光束的研究发展现状;涡旋光束的实际应用情况以及产生涡旋光束、探测涡旋的方法。同时第一章介绍了本文研究中所用到的理论基础及实验研究方法。第二章推导并计算在实际情况中高斯光束入射至螺旋相位板后产生的整数涡旋光束的传播的表达式。实验上我们利用纯相位型空间光调制器产生该整数涡旋光束,对其在自由空间中的传输特点进行观察并验证了我们的理论计算结果。第三章介绍了分数涡旋光束的涡旋强度和光束传播因子。在傍轴近似下,我们推导出了分数涡旋光束通过任意线性ABCD光学系统输出场的解析表达式。我们通过研究分数涡旋光束焦平面处的光场,发现当且仅当拓扑荷数非常接近偶数时,并在该偶数拓扑荷数的前后,涡旋强度连续增加1。实验上,我们分别使用三角形光阑法和刀口衍射法,检测了焦平面上分数涡旋光束的涡旋,验证了焦平面上所有涡旋的动力学过程。另外,我们利用光束传播因子刻画了分数涡旋光束传播行为的特征。实验结果表明,随着拓扑荷数的增加,分数涡旋光束的光束传播因子的x分量随拓扑荷数线性增加,而y分量的光束传播因子值存在明显的振荡。随着拓扑荷数的增加,总的光束传播因子值也呈阶梯状跳跃增加。我们的发现将为分数涡旋光束和其他复杂结构光场的焦平面涡旋强度和光束传播因子研究提供新的不同观点。第四章研究了实际情况中的多匝道分数涡旋光束的总涡旋强度和涡旋结构。实际情况的多匝道分数涡旋光束是通过有限束宽的高斯光束而不是理想的平面波入射生成。原则上,当多匝道分数涡旋光束在自由空间中传播时,它们的总涡旋强度始终保持不变。我们的结果分析了多匝道分数涡旋光束的总涡旋强度与拓扑荷数的函数关系,与现有文献中利用理想的平面波产生的分数涡旋光束和多匝道分数涡旋光束的结果不同。需要指出的是,尽管可以通过使用宽束宽的光场来模拟近场区域中的理想结果,但是,实际由有限束宽光束产生的多匝道分数涡旋光束和分数涡旋光束在自由空间中的基本传播特性具有完全不同的行为,尤其是在远场区域。我们的结果还表明,直接探测在远场区域的总涡旋强度更为方便,因为远场区域的所有涡旋都是稳定且可数的。我们的结果为在实际应用中复杂的分数涡旋结构光束提供了新的理解。第五章介绍了基于涡旋对光束实验实现了一种新型的光镊。我们的实验结果显示了该光镊系统具有巨大的优点,即使用此类光束可以同时捕获两个球形微粒。两个被捕获的球形微粒之间的分离距离可以通过初始涡旋对相位的涡旋的离轴距离参数来调节。此外,我们的结果还表明两个捕获的球形微粒之间的分离距离与离轴距离参数呈线性变化关系。此外,我们通过旋转初始相位结构实现了对圆柱状微粒的捕获和可控旋转。最后,我们系统地研究了涡旋对光束通过2-f透镜系统的演化特点,并解释了涡旋对光束在光学捕获和操纵方面具有上述优势的原因。就我们所知,我们的结果是首次使用涡旋对光束捕获和操纵微粒（球形和圆柱形）,这对于光镊的研究可能具有重要意义。它在生物领域和纳米制造等许多领域也可能具有潜在的应用价值。第六章对本文的主要工作进行总结,并给出所做研究工作的创新点。最后对未来的科研工作进行展望。