在微电子、超精加工等现代工业技术领域，对精密位移测量的要求越来越高。有些应用要求测量的分辨率达到纳米量级，而且测量范围越来越大。本文主要研究利用低线数计量光栅实现具有大量程、纳米级分辨率的位移测量理论及其关键技术。本文的主要研究内容包括： 1．研究大量程、纳米级分辨率的光栅测量理论及方法。在对现有方法分析的基础上，重点对非对称双级闪耀光栅进行系统的理论分析和实验研究。分析了该方法实现高倍数光学细分的原理，建立了光路系统的数学模型，对莫尔条纹的成因作了解释，并讨论了入射角对测量的影响以及光栅付中闪耀光栅的作用。 2．指出了非对称双级闪耀光栅实现莫尔条纹倍增理论的实质，并简化了实现高倍数光学细分的手段。在此基础上，提出了全新的单计量光栅位移测量方案。该方案不仅可实现高倍数光学细分，而且克服了闪耀光栅的许多限制。文中利用波动光学、多普勒效应和傅里叶光学对测量原理进行了分析，建立了量程400mm、分辨率为1nm的位移测量系统，并介绍了有关在摩擦扭轮传动平台上进行实验的情况， 3．利用标量和矢量衍射理论研究光栅衍射效率，包括光栅的轮廓形状、光栅系统的结构布局对衍射效率的影响。目的是使获取的光学莫尔条纹信噪比最高。提出了一种新型的相位光栅——等腰闪耀光栅，并对其衍射特性作了分析和仿真。 4．提出了基于DSP的宽动态范围莫尔条纹精密计数细分方法。详细描述了该方法的硬件平台、处理时序及其具体实现手段。该方法利用高速数据采集及数字信号处理技术，通过软件双阈值二倍频计数、分片段细分以及计数与细分的合理匹配，能够对0——1MHz的条纹信号进行可逆计数和高倍数细分。实现了零频响特性，对A、B相信号的正交性不敏感，抗干扰性强。 5.将自适应信号处理理论引入到莫尔条纹光电转换信号处理之中。建立了A、B相信号质量增强的自适应模型，使用该模型可以快速精密地提高莫尔条纹光电转换信号质量。提出并实现了一些高效率的实时处理算法，这些算法能有效的提高A、B相信号质量，达到消除零点漂移，滤除信号中高次谐波的效果，并且可实现信号幅度的自增益调整，改善通道间的正交性。提出了利用互相关系数阈值法判别和剔除A、B相信号中典型的故障信号。 6．系统分析了影响单计量光栅位移测量系统精度的各种因素，定量计算了各项误差的极限值，并分别提出了误差的修正补偿方法。给出了各种情况下单光栅位移测量系统的精度指标。得出单计量光栅系统在安装时对光栅间隙大小和锥度不敏感的结论，这大大方便了系统的安装、使用。在修正光栅累积误差以及对温度进行补偿之后，系统完全可以实现0.1μm/100nm的位移测量精度。