子宫颈癌是全世界女性中第四大常见的癌症。目前子宫颈癌有效的诊断方式是液基薄层细胞学检测。但这需要医生于显微镜下在大量的细胞中寻找癌细胞,其工作量巨大、误诊率高,且我国的病理医生严重缺乏。因此迫切需要智能化的辅助诊断系统。而细胞核的分割和识别是决定这一系统是否有效的关键两步。然而显微镜采集到的图像会存在一些光照不均、背景复杂、染色深浅不一,采集到的图像中也会有一些细胞碎片、垃圾的存在。且医生通过显微镜下看到的图像是具有多个层次的,每个层次细胞的聚焦点可能都不同,但本文采集到的图像是2D平面图像,这会造成采集到的细胞图像有部分聚焦不清,且存在大量的重叠细胞。同时在细胞图像的分类过程中,正常细胞和癌细胞并存,它们之间的差异较小,识别较为困难。针对上述问题,本文首先提出了基于优化最大极值稳定区域(Maximally Stable Extremal Regions,MSER)算法的宫颈细胞核分割方法,有效地消除了复杂背景对细胞核分割的影响。然后提出了基于U-Net的重叠细胞核分割方法,解决了重叠细胞中的细胞核的分割问题。最后针对于分割后细胞的分类问题,提出了一种基于解构-重构模块的细胞分类方法。本文以宫颈细胞图像为研究对象,结合细胞核分割、分割后细胞的分类这两步,实现了病变宫颈细胞核的筛查。具体工作如下:1.提出了一种基于优化MSER算法分割宫颈细胞核的方法。该方法首先将图像转换到HSV(Hue,Saturation,Value)颜色空间。然后针对S和V通道做加权组合后,采用优化后的MSER算法处理加权后的图像,获得灰度值均匀的粗分割区域。再利用参数自适应的阈值分割方法进行精细分割。最后通过提取精细分割后的细胞核特征训练人工神经网络来判断分割后得到的结果是否为细胞核。2.提出了一种基于U-Net模型的重叠细胞核分割算法。在网络结构上,首先减少U-Net的深度,在编码器和解码器中分别采用两次下采样和两次上采样操作,提高网络分割的效率。并引入注意力机制,聚焦于重叠细胞的边界像素。同时将网络中的3×3卷积替换为非对称卷积,在保证效率的前提下提升模型分割的精度。3.提出了一种基于解构重构模块的宫颈癌细胞分类方法。该方法首先利用区域混淆机制将原始细胞图像扰乱,再将扰乱后的细胞图像和原始图像一起输入到卷积神经网络中训练,利用得到的特征向量进行分类学习、对抗学习、重构学习,并得到最终的癌细胞分类网络。实验表明,本文所提出的方法针对离散细胞核和重叠细胞核均有较好的分割效果。提升了分割效率,能够基本满足宫颈癌辅助诊断系统中的细胞核分割需求。同时基于解构重构模块的卷积神经网络的分类准确率能够达到95%以上。本文可以为宫颈细胞图像的计算机辅助诊断的研究提供参考。