了解样品表面由于吸湿作用所产生的液膜对原子力显微镜测量结果的影响是提高测量精度的基础。由于这一问题所涉及的为固—液—固耦合作用的系统,而之前的研究大多基于无限深液体与探针作用的模型,和样品测量的实际问题有一定距离,因此无法给出液膜厚度对探针与样品相互作用的影响的确切认识。本文针对有限厚度液膜,通过考虑探针、液膜和样品三者间的相互作用,通过对液膜的变形、失稳等现象的分析,对上述问题进行了研究。首先基于液膜在探针作用下的受力平衡,得到了液膜表面形貌的控制方程和渐近解析结果。通过对物理模型的进一步发展,利用对系统总能量求变分的方法论证了该控制方程的正确性。在给出液膜受探针的吸引作用突然上跳的临界失稳条件的基础上,阐明了液膜变形的临界最大隆起高度,指出这一临界高度的量级取决于探针和液体间的Hamaker常数、液体的表面张力系数以及探针的曲率半径。在此基础上进一步讨论了液膜厚度对液面变形及临界失稳的影响,给出了液膜厚度的物理定义。分析了液膜对系统失稳点的影响,指出临界状态下无量纲液面隆起高度仅由两个无量纲参数所决定:无量纲液膜厚度和探针—样品Hamaker常数差的相对值,揭示了样品性质如何导致系统失稳点的变化。基于探针与样品和液膜间Hamaker常数差值的不同取值范围,得到了失稳点随液膜厚度改变的三种不同变化趋势。上述研究对确切认识什么是原子力显微镜下的液膜,以及液膜的存在如何影响针尖与样品间的相互作用和吸附接触,给出了机理性的认识和描述。