增强现实（Augmented Reality，AR）的关键是要做到无缝的虚实物体融合。真实物体与虚拟物体之间正确的遮挡关系是判断增强现实系统真实感强弱，使用户在与增强现实环境的交互过程中实现临场感强以及正确操作的关键技术之一。错误的遮挡关系容易导致用户在空间位置上的错乱和感官上的错判，严重影响用户与场景的正确交互。 本文针对基于视频的增强现实系统及其研究现状，研究了适用于视频透视式的虚实物体遮挡关系判断算法，提出了基于三角面片虚实物体遮挡判断算法，该算法通过对组成虚拟模型的三角面片集合做穿越测试和深度测试来重构虚拟物体。通过对上述算法进行了性能测试，得出其在实际应用中的优点和缺点。算法在场景模型顶点数较少情况下实时性较好，由于不需要对场景进行预处理，适用性较广，由于穿越测试所需要的计算时间较长，在模型顶点数较多情况下处理速度较慢，实时性较差。 论文针对场景模型顶点数较多时实时性较差的情况，重点研究了基于三角面片虚实物体遮挡判断算法的改进算法，该算法通过对真实物体建立虚拟模型简化了算法中需要运行时间较长的步骤，既穿越测试所需要的时间，使算法满足实时性的要求。该算法针对非刚性真实物体，采用动态转换虚拟模型方法，提高了算法的适用性。主要研究内容包括：坐标注册，虚拟模型建立，虚拟模型贴合等技术。 最后，本文结合摄像头一体化的立体显示器作为输入输出设备，针对刚性物体与非刚性物体，通过建立不同的实验系统，即增强现实布局原型实验和卧式齿轮油泵装拆实验。通过实验验证了基于三角面片虚实物体遮挡判断算法的改进算法在增强现实应用中的实时性和可行性。