宫颈细胞图像的分割是癌细胞检测中极其重要的一环。目前传统的图像分割方法（二值化、分水岭等）只能对单细胞或者简单重叠细胞进行分割,难以对高度重叠的细胞进行分割,分割效果极大受制于原始图像的质量,导致了传统的分割方法泛化能力差。尽管基于深度学习的细胞分割算法泛化能力强,能够解决复杂背景的图像分割问题,但目前的深度学习方法依然难以解决高度重叠细胞的分割,无法实现从重叠细胞中分割单细胞图像的要求。针对上述问题,本文的主要工作如下。（1）为了解决重叠细胞难以分割的难题,提出基于优化循环GAN（Generative Adversarial Networks）的网络模型,在损失函数中加入图像正则化限制项,充分描述生成图像与真实图像的差距,加快模型收敛过程。模型中的生成器结构改进成跳跃连接结构,增大网络的特征提取能力,同时对判别器进行优化,使用特征图代替原来标量值来评价图像,使其损失函数的计算关注更多的细节,从而保证图像的生成质量。经实验验证,该算法可以有效地产生细胞分割边界。（2）为了保证识别细胞位置的精确性与快速性,本文提出了Cell＿yolo的目标检测算法。Cell＿yolo中采用精简的网络结构,并改进最大池化操作,使得模型池化过程中最大程度的保留了图像的信息。针对宫颈细胞图像中重叠细胞较多的特点,提出中心距离的非极大值抑制方法防止重叠细胞检测框被误删的问题,同时对损失函数进行改进并加入焦点损失函数缓解训练过程中正负样本不平衡的问题。经实验验证,Cell＿yolo在保证检测精度的同时,检测速率较目标检测算法YOLOv4提升34%。（3）为了解决分割后细胞图像的边界归属的难点与提取单细胞图像的需要,本文将对抗生成网络与目标检测算法进行联合检测,设计一种用于从细胞图像中分割并获取各个单细胞图像的分割框架Solo＿GAN,该架构通过目标检测算法锁定细胞位置并通过对抗生成网络获取细胞边界。经实验验证,本文提出的Solo＿GAN在自建宫颈癌数据集上DC（Dice Coefficient）系数为0.892,相对于基于图像处理的分割算法MSSEG提升23.54%,相较于基于深度学习的U-Net分割网络提升21.52%;Solo＿GAN的分割假阴性率为0.163,其分割错误率明显低于另外两种方法。Solo＿GAN可以有效地分割包含高度重叠细胞图像,具有优越的抗干扰能力。图45幅,表6个,参考文献50篇。