虚拟手术是专门用于模拟手术过程中可能发生的各种现象的虚拟现实应用系统,其与各种外部交互设备相结合可为医生提供逼真的手术场景,从而实现降低手术培训成本、提高手术治疗效果、减小病人痛苦和降低手术风险的目的。目前大部分的虚拟手术仿真系统中,针对软组织的建模和形变计算都是采用基于网格的方法,但是基于网格的方法在发生大变形或切割等操作时受网格畸变或网格重构的影响,求解精度和稳定性会急剧下降,严重影响仿真结果。本文针对目前软组织形变仿真的不足,深入研究黏弹性力学的基本理论,构建了基于无网格法的软组织形变模型,实现软组织模型的形变仿真。为解决基于网格的方法精度低和稳定性差的问题,本文采用无网格法计算软组织的形变过程,利用无网格法求解精度高、稳定性强及处理大变形问题的优势,提高了大变形下软组织形变仿真精度和稳定性。在软组织形变建模方面,本文结合软组织的生物力学特性和黏弹性力学理论,首先研究了经典的线弹性模型,并由线弹性模型得到一般结构线性黏弹性模型,通过在一般结构线性黏弹性模型中加入非线性调整函数,建立了非线性黏弹性软组织生物力学模型,然后将该模型与无网格法结合起来构建了无网格非线性黏弹性软组织形变模型,并推导出基于无网格法的软组织形变总体系统控制方程,软组织形变过程中的黏弹性由该模型中应力应变率随时间的变化控制,而软组织形变的非线性则由该模型中的非线性调整函数控制,通过系统方程计算出软组织形变过程中的力学特性并仿真模拟出软组织的形变过程。为验证本文提出的模型的有效性,本文首先采用二维悬臂梁模型对无网格法的有效性进行验证,并以肝脏模型为对象进行实验仿真,对实验结果的对比分析表明本文的无网格非线性黏弹性模型可以真实的表现软组织的形变过程及形变过程中表现的力学特性,而且采用无网格法对软组织形变过程进行计算,不仅保证了软组织形变过程的仿真精度和稳定性,还避免了基于网格的方法在形变过程中易出现的网格畸变、重构等问题。