精密制造技术的不断发展,对测量技术的要求也逐渐提高。微米乃至纳米量级的位移测量已经成为计量领域的一个重要研究方向。传统的做法是采用He-Ne激光干涉测量技术,但是其昂贵的成本、复杂的结构以及对测量环境要求高的缺点造成了其使用的局限性。与之相比,基于相位光栅干涉传感的位移测量技术因为其成本低、受测量环境影响较小等优点,近年来快速发展,而其中大量程、高分辨的位移测量成为其主要的研究方向。本文依据相位光栅干涉测量原理,根据后续轮廓仪研制对10 nm分辨率、12mm量程位移测量的需求展开对纳米级分辨率位移测量的研究,从光栅干涉测量系统设计、数字细分、误差分析以及误差补偿等方面展开研究。光栅干涉测量的首要步骤是获得与位移信息相关的光电信号。本文在分析现有两类干涉光路原理的基础上,根据实验要求以及空间布局来设计相应的干涉光路。借助ZEMAX等光学仿真软件建立相应的干涉光路模型并进行干涉仿真,对其可行性进行验证。根据后续位移测量对电信号的要求,设计了模拟信号调理电路以及数字辨向电路。完成了光栅干涉位移测量实验平台搭建以及信号调理电路PCB布板。纳米级分辨率的测量决定着必须采用高倍数的细分方法,本文采用构造正切函数的细分方法来实现高倍数的细分。结合实际采集到的电信号,分析其主要误差源和误差特性,借助Matlab对光电信号的细分误差进行分析。依据对实际信号的噪声特性以及非线性误差特性的分析,本文采用数字信号处理方式对原始光电信号在细分计算前进行相应的预处理。针对光电信号中的工频干扰和高斯噪声,分别设计了IIR带阻滤波器以及Kalman滤波器。针对非线性误差建立了椭圆修正模型,依据最小二乘原理,完成了对非线性误差的补偿。最终,基于Labview软件平台,完成了对光电信号的数据采集、滤波、非线性误差修正以及细分数显,并利用Labview多线程工作优点,在对光电信号进行处理的同时实时拟合非线性误差参数并更新之,以此来提高细分精度。基于初步完成的光栅干涉位移测量系统,完成了相关实验,并对其分辨率及细分误差进行了测试分析。实验结果表明,当前的测量系统已具备10 nm以内的分辨率,经非线性误差修正后细分标准差能够控制在10 nm以内。