随着城市轨道交通的不断发展,地铁安全运行问题引起越来越多的关注。地铁因其节约能源、污染少、运输量大、效率高等优点受到大众的广泛热爱,但是由于地铁隧道环境恶劣和反复振动导致隧道结构很容易变形,造成重大损失,同时地铁隧道具有建造成本高、建设周期长、后期维护成本大等缺点。三维激光扫描技术作为一门新技术在文物古迹保护、建筑、交通事故处理、大型集装箱装载等方面有了更多的探索和应用。本文利用三维激光扫描技术,从隧道三维点云数据出发开展地铁隧道结构变形检测的关键技术研究,并对现有的三维点云实例分割网络模型基于分割精度和计算效率进行改进。论文首先介绍国内、外三维激光扫描仪在隧道结构检测方面的研究现状及应用、获取点云数据的智能处理、神经网络模型、点云实例分割技术、迁移学习等基础知识。随后对改进后的三维点云实例分割网络模型进行了详细的介绍:在现有的3D-Bonet三维点云实例分割模型加入多尺度分组（MSG）模块并创新性地将迁移学习应用在三维点云数据,为验证改进后模型的有效性,将改进后的模型在同一公开数据集上与目前三维点云实例分割效果较好的两个模型进行对比,实验数据证明了改进后模型的计算效率与分割精准度都有了提高。其次以青岛某地铁隧道为例,利用三维激光扫描仪采集地铁隧道段内相对完整的隧道段点云数据,并对点云数据进行预处理,将改进后的三维点云实例分割网络模型和迁移学习直接用于三维点云隧道数据集,通过实验证明了改进后的实例分割模型可以有效地实现对隧道内接触网导高距离、左右轨道高低差、左右轨道平行度、左右轨道平面中心线四方面的检测;同时为进一步验证该方法在地铁隧道管环、管片等方面的应用,文中分别从管环圆度、管环之间的错位、管片之间的错台三方面进行形变检测,并通过实验验证了该方法的实用性。在三维数据拟合方面,对实例分割后的隧道三维数据利用随机采样一致性与最小二乘法结合进行数据拟合,通过施工标准指标对比拟合结果与实际测量结果,得知提出的新方法拟合误差范围满足实际生产需要,进一步证明了提出方法的有效性。研究结果表明采用三维激光扫描仪采集地铁隧道点云数据,利用改进后的三维点云实例分割网络模型可以实现对地铁隧道结构形变检测,实验分析结果为地铁隧道的后期研究提供了理论依据,同时该方法的提出为地铁隧道结构检测提供了较为革新的手段。在日后隧道安全、稳定的维护监测中,此方法具有广阔的应用前景。