随着医学影像学的发展,医学图像中的计算机辅助诊断变得越来越普遍,并在医学诊断中发挥着越来越重要的作用。其中,医学图像分割,是医学图像处理中最底层,最基础的环节之一,对目标区域的分割是否准确将影响诸多计算机辅助诊断领域的上层应用。传统的图像分割算法如主动轮廓模型是将图像建模,假设分割区域的能量泛函拥有最小值,不仅在简单的合成图像上取得了良好的效果,而且在部分强度不均匀的医学图像如大脑MR图像上也得到了准确的分割结果。但缺点往往也十分明显,基于能量泛函的分割模型,虽然无需大量的标注进行训练即可对图像进行处理,但繁琐的参数调节本质上也是人工依靠对于图像的先验经验对模型进行手动调整。随着图像处理器算力的高速发展,基于深度学习的图像分割方法得到了众多关注,此类方法往往需要大量的图像标注进行训练,即可得到较为良好的分割结果,无需对参数过多调整,在行业内得到了大量的应用。本文研究的内容是探究如何结合主动轮廓方法和卷积神经网络,得到一种充分结合两者优点的分割模型。我们首先将主动轮廓模型作为卷积神经网络的后处理器,提出了一种基于目标检测算法和水平集方程的牙齿分割模型,将二者进行了初步的结合。目标检测算法检测到牙齿的位置后,根据检测结果生成椭圆的先验轮廓信息,在水平集能量泛函中添加先验项,并迭代得到分割结果。该算法无需牙齿的精确标注,仅需牙齿的位置标注,大大减少了标注的成本,拓展了算法的应用范围。不同于第一个模型中仅将主动轮廓模型作为神经网络的后处理器,在第二个模型中,我们将主动轮廓模型由阈值卷积迭代法优化后作为神经网络的一个分割卷积层添加进神经网络中,这种做法完整结合了两种模型,形成了一个端到端的模型,避免了初始轮廓、参数的调整困难,自动得到准确的分割结果。最后,在第三个模型中,我们拓展了第二个模型的框架,在卷积神经网络中结合使用了自注意力机制,拓展了神经网络的视野,增强了对于图像细节的捕捉能力。其次,我们改进了神经网络和主动轮廓模型之间的连接方式,增加了目标区域内外的权重分布,让神经网络更好地指导主动轮廓模型对图像进行分割。实验说明,我们的模型在大型数据集上的表现优于先进的主动轮廓模型和深度学习模型。本文提出的框架可以适用于任何深度学习模型和主动轮廓模型,与现有的先进方法相比,所提出的模型可以带来分割结果上的改进,所提出的框架在大规模的医学图像数据库中可以得到很多应用。