自问世以来,光镊技术飞速发展,尤其是真空光镊的出现大大提升了系统的探测灵敏度,在力、热、质量等物理量的精密测量领域展现出巨大的应用潜力。近年来,真空光镊中光致旋转效应的研究也迎来了研究热潮,微粒旋转频率已高达6 GHz,扭矩的探测灵敏度已达到10-29 N?m/√Hz,在精密测量和量子物理等领域具有巨大的应用潜力。基于偏振调制的光致旋转能够更加精细地操控微粒的旋转状态,可以实时传感周围环境、光场或微粒的相关参数,并且在同等气压条件下能够实现更高Q值的转子系统,在微陀螺效应研究、微弱扭矩探测和量子基础理论验证等方面具有广泛的应用前景。本文分别从理论和实验两个方面研究了真空光镊中基于偏振调制的光致旋转效应,主要研究内容如下:1.利用转子动力学中的欧拉角变换得到了两个任意坐标系之间的转化矩阵,结合光致旋转偶极子模型,构建了三维的光致扭矩计算模型,实现了光场中任意位置任意定向的球、棒或椭球形纳米微粒的光致扭矩计算。在此基础上,提出了一种合理的具有实验可行性的二维简化模型,并且推导了线偏-圆偏跃变、线偏-圆偏渐变和线偏调制三种光场偏振调制方式下微粒所受的光致扭矩计算公式,为后续的理论建模和实验工作奠定了基础。2.利用转子动力学中的动力矩定理和欧拉角变换构建了三维的微粒运动模型,并将上述三维模型简化为一个同样具有实验可行性的沿z轴的微粒运动方程,大大提高了数值仿真计算的效率。针对偏振调制导致的微粒运动方程的非线性问题,引入了非线性动力学中定点的概念、稳定性判据和相图概念,对上述非线性问题的求解方式进行了简化。相较于常规非线性微分方程的数值解法,非线性动力学的求解方法得出的结果与微粒的初始运动状态无关,并且可以判断定点位置和稳定性。而且相图的引入更加简化了定点稳定性的判断过程,还更为直观地展示了分析结果。利用上述分析方法和四阶龙格库塔方法分别研究了线偏-圆偏跃变、线偏-圆偏渐变和线偏调制三种光场偏振调制方式下微粒的运动状态,为后续实验工作提供了理论依据。3.设计并搭建了一套用于研究真空光镊中基于偏振调制的光致旋转效应的实验系统。首先研究了真空光镊中非偏振调制状态下的光致旋转效应,给出了微粒转动频率与光场偏振态、气压、光功率的关系。之后研究了多种偏振调制方式下微粒的运动状态。线偏-圆偏跃变和线偏-圆偏渐变这两种调制方式可以在调制频率小于190 k Hz时实现平均转速恒定,波动幅值可调的锁频旋转,在大于等于190 k Hz时z轴平动信号和转动信号发生耦合。这两种偏振调制方式可以在同等实验条件下将系统Q值提升2个数量级。线偏摆动和线偏跃变这两种偏振调制方式也可以实现平均转速恒定,波动幅值可调的锁频旋转,并且没有出现平动信号和转动信号的耦合现象。这两种偏振调制方式可以在同等实验条件下将系统Q值提升1个数量级。