随着科学的进步和微创手术的发展，虚拟手术系统得到了越来越广泛的应用。而腹腔镜微创虚拟手术不仅能够训练医生的腹腔镜手术操作，还具有辅助确定手术方案等作用，它的出现大大的推广了腹腔镜手术机器人的应用。在腹腔镜虚拟手术系统中，逼真、实时的视觉和力觉反馈可以增强系统的真实感和沉浸感。人体软组织的切割与变形仿真是虚拟手术仿真的重点和难点，对切割操作的仿真要求具有良好的实时性和仿真稳定性，同时具有良好的沉浸感和真实感。本文面向微创腹腔镜虚拟手术，对腹腔镜手术中软组织的切割变形仿真进行研究。首先，在对比分析了主要的三维建模方法后，结合本课题的特点和要求，决定采用三维建模软件手工建立虚拟手术仿真中的手术对象和手术器械的三维几何模型，并保留几何模型的相关参数和渲染信息，以.3DS和.OBJ的数据格式导出。根据几何模型的信息，在Microsoft Visual Studio的平台中应用C++和OpenGL实现了几何模型在仿真平台中的显示。然后，根据人体软组织的生物力学特性，采用改进的弹簧-质点模型建立软组织的物理模型；研究了在软组织变形仿真中的碰撞检测算法，利用粗略检测和精确检测相结合的方法实现碰撞的快速检测。结合物理模型和碰撞检测算法，实现了软组织变形仿真，并根据物理模型计算出手术器械和手术对象触碰时的实时力反馈信息。借助Omega.7力反馈设备，实现手术器械的操作和力反馈信息的输出，实现用户和仿真平台的力觉交互。针对胆囊切割手术操作，对胆囊进行网格划分，建立胆囊的表面网格模型，根据表面网格的切割算法，结合切割仿真中的粗略碰撞检测算法和相邻面片搜索树算法，实现在手术刀操作下的胆囊切割操作仿真。同时本文还提出了一种只用于实现切割操作的顶点移动表面网格切割算法，它主要适用于网格划分较细，最小单元体多的情况。最后，结合软组织的变形仿真和切割仿真实现虚拟切割变形仿真平台，实现胆囊软组织的变形与切割仿真实验，同时此仿真平台可实现不同手术器械下的软组织变形仿真和不同材质的软组织变形仿真，并通过仿真实验验证此仿真平台实时性、准确性和稳定性。