纳米测量是纳米科技领域研究的一个重要的分支。原子力显微镜(Atomic Force Microscope,AFM)因具有以nm级分辨率获得样本表面的三维形貌的能力而被用作纳米测量的重要工具。半导体工业的迅速发展对AFM进行纳米尺度的半导体刻线形貌测量的需求尤为迫切。因此对AFM的工作模式及其测量误差的研究有着十分重要的理论和现实意义。恒力模式是AFM的主要工作模式之一,它具有分辨率高和测量速度快等优点,但其测量结果因受样本表面倾角和针尖-样本表面间摩擦力的影响而存在较大的测量误差。为克服上述缺点,本课题研究了摩擦力及倾角对测量结果的影响,并提出了消除该影响的一种新AFM工作模式。在综述了恒力模式下影响AFM测量结果的各种因素基础上,分析了摩擦力和倾角对测量结果的影响,证明这两个因素是测量误差的重要来源,研究了能够克服这两个因素影响的工作模式的可行性。研究了恒力模式下针尖和样本表面间的范德瓦尔斯力(van der Waals力,简称为vdW力)和摩擦力,并给出两种常用的悬臂梁——矩形梁和三角梁在法向力和切向力作用时悬臂梁末端的形变及偏转角,建立了恒力模式下针尖和样本表面间摩擦力和样本表面倾角与测量结果之间的数学模型。证明了摩擦力使测量结果产生明显误差,并且扫描方向改变导致的摩擦力方向的变化将使其测量结果产生明显差异。倾角除产生测量误差外,还可能导致样本表面上的一些点在恒力模式下无法得到正确的测量结果,即可能产生测量死点或测量死区。针对AFM在半导体刻线形貌测量中摩擦力和倾角影响测量结果的问题,提出一种消除倾角和摩擦力影响的AFM工作模式——EIIAF模式,在这种工作模式下,AFM针尖保持与样本表面接触,扫描方向垂直于悬臂梁的长轴方向。在测量过程中,AFM反馈控制器控制扫描器沿z轴移动样本,保持针尖-样本表面间的vdW力恒定。分析了摩擦力和倾角对针尖的受力的影响,研究了悬臂梁末端沿z轴方向偏转角和沿x轴方向扭转角与vdW力之间的关系,建立其数学模型,推导出了样本表面形貌高度的重建算法。提出两个基于EIIAF模式的扩展工作模式:横向恒高模式和补偿模式,并分析了它们的优缺点。在这两种工作模式中,放宽了对vdW力恒定的要求,但仍可得到较精确的测量结果,并使AFM反馈控制器简化。研究EIIAF模式及其两种扩展模式中摩擦力及倾角与测量结果和测量过程中vdW力之间的数学关系。证明在这三种工作模式下摩擦力和倾角不会对测量结果产生影响。但在两种扩展模式下这两个因素可能导致vdW力的误差,并由此导致在一些情况下出现不可测点或不可测区。能够通过改变扫描器运动方向消除这里的不可测点或不可测区,从而实现对表面任何形貌的测量。在理论和仿真研究基础上,利用测量梯形截面的Si刻线样本,实验验证了EIIAF模式的可行性,并与恒力模式下测量结果对比,验证新工作模式消除摩擦力和倾角对测量结果影响的效果。实验结果分析证明了由这两个因素导致的恒力模式下的测量误差能够被理论公式适当的描述,并且EIIAF模式能够消除这两个因素给测量带来的影响。说明校准悬臂梁弹性常数和针尖-样本表面间的摩擦系数对于在该模式下样本表面形貌和vdW力的精确测量是十分重要的。改造原AFM的模拟控制系统为数字控制系统,并在原有功能基础上增加了所提出的新AFM工作模式的测量功能。