当前传统手术训练存在较大的局限性,随着计算机技术和虚拟现实技术的快速发展,结合现代医学技术的虚拟手术系统应运而生。虚拟手术系统不但能够很大程度上提高手术学习、训练的效率和效果,还可以进行手术的术前规划和罕见手术的预演等。更为先进的力触觉反馈设备也越来越多,为增加操作者在虚拟手术系统中的沉浸感提供了硬件基础。虚拟手术中,人体器官大体可以分为刚体,软体和流体三种,我们主要从刚体和软体的角度进行力反馈算法的研究。虚拟手术对实时性要求较高,人体器官的建模是虚拟手术研究的基础,碰撞检测算法贯穿始终,反馈力的计算及实时反馈决定操作者的感觉。对于刚体的力反馈算法,我们针对虚拟手术的特点,即与人体器官相比,手术器械所参与碰撞检测的区域较小这一特点,引入有效区域的概念,对手术器械采用顺序表方法建模,只用一步即可完成基本碰撞检测,大体确定是否发生碰撞。在精确碰撞检测阶段,采用矢量判别法代替Brute-force方法。对于反馈力的计算我们采用Virtual-proxy方法进行,验证碰撞检测算法的优劣。在软体的力反馈模型中,针对传统柔性体变形算法存在动力学仿真不足的问题,提出一种基于物理意义的复合变形算法。采用GEL凝胶动力学引擎,即填充球模型中引入一种骨架技术,模拟软体的动力学特性及整体形变,进行手术器械与人体的碰撞检测。针对填充球模型局部形变不够明显,及反馈力计算过于简单的缺点,在软体表面采用弹簧质点模型,引入分层的思想,以受力点为中心将软体表面分成均匀的同心圆,算法最终得到发生形变的边界,而不必对整个软体表面进行计算。通过虚拟力的分层渲染,增强操作者的触觉感受。