现代光学工程中,光学薄膜具有重要地位。可以说,没有光学薄膜,就没有当今许多复杂的高性能的光学仪器、光电子器件以及各种光电系统。随着科学技术的发展,特别是在光通信与信息显示技术的发展需求下,快速精确地测量光学薄膜的参数成了制约薄膜技术发展的一个瓶颈。椭圆偏振测量是一种通过分析偏振光在待测薄膜样品表面反射前后偏振态的改变来获得薄膜材料的光学常数和厚度的高精度、非接触测量方法。但是通过椭圆偏振测量只能得到椭偏参数Ψ和Δ,由椭偏参数求解薄膜结构参数的椭偏方程是一个超越方程,很难得到精确的解析解,因此一般采用数值反演迭代不断逼近测量数据,将最优解作为测量结果。粒子群算法(PSO)是一种新兴的群智能随机优化算法,具有简单易实现,收敛速度快,设置参数少,具有较强的全局优化能力等特点,可用于椭偏检测数据的反演。本文根据椭偏检测的数据特点提出了一种新的评价函数,即用表征经过薄膜反射椭偏光的椭偏分量比ρ来作为评价函数。ρ是偏振状态完全相同的P光和S光经过薄膜反射后的振幅之比和相位差的函数,它能够完全表征偏振光经过薄膜反射之后偏振状态的变化情况,与直接利用Ψ和Δ来作为评价函数相比较,编程更加简单,计算步骤更少,大大提高了数据反演的效率。虽然粒子群算法的应用已有十多年的历史,但是其理论和实践都不太成熟,在将粒子群算法应用于椭偏检测数据反演的过程中还需要我们对粒子群算法进行必要的优化。通过对粒子群算法的各参数在反演过程中对算法优化性能的影响进行研究,发现惯性权重ω的取值范围在0.5到0.8之间为最佳,学习参数c1,c2配对之和最好不要超过3,同时,要求较小的c1与较大的c2相配对；群体参数c2对算法的影响要强于个体参数c1。对于粒子群优化算法在膜系设计中的应用,本文对两种膜系设计要求进行了设计实验。实验结果表明,相比于传统的针式方法,在相同膜层数的情况下使用该方法设计可以得到更好的结果。