宫颈癌是严重威胁女性健康的常见恶性肿瘤,但是宫颈癌病因明确,是一种能够早发现和早预防的癌症。随着政府对于宫颈癌早期筛查的大力推广和普及,使得宫颈癌的发病率和死亡率有明显下降。传统的宫颈癌筛查方法主要是将宫颈的脱落细胞制成宫颈病理图像,病理医生从宫颈病理图像的细胞形态中观察是否存在癌变细胞。由于宫颈病理图像数量巨大,导致病理医生工作强度很大,而且传统的宫颈癌细胞筛查方法高度依赖病理医生的专业知识与诊断经验,若医生经验不足则容易导致误诊。近年来,随着基于深度学习的目标检测技术的飞速发展,利用基于深度学习的目标检测方法辅助医生对宫颈病理图像进行检测已经逐渐成为了一个热门的研究方向。在众多基于深度学习的目标检测模型中,YOLOv4是一种非常受欢迎的目标检测模型,具有检测速度快、检测精度高等优点,本文选择YOLOv4作为基线模型。然而,由于宫颈病理图像中存在着小目标占比很多且图像背景复杂、小目标密集分布、待检细胞目标和图像背景特征差异不明显等三个难点问题,直接使用YOLOv4模型对宫颈病理图像进行细胞检测的实际检测效果并不理想,检测精度不高。为了提高YOLOv4模型在宫颈病理图像细胞检测任务上的性能表现,本文针对宫颈病理图像中存在的三个难点问题,提出了一种基于改进YOLOv4的宫颈病理图像细胞检测方法。本文的主要研究内容如下:（1）宫颈病理图像预处理对宫颈病理图像数据集进行数据预处理,将原始数据集的XML标注文件格式转换为TXT标注文件格式,并利用Mixup、Flip、Hsv、Mosaic等一系列数据增强策略对宫颈病理图像数据集进行数据增强操作。（2）提出了一种基于改进YOLOv4的宫颈病理图像细胞检测模型CCIYOLOv4（YOLOv4 for Cervical Cytopathology Images）。该模型对YOLOv4模型的特征提取网络、特征融合网络、检测头以及非极大值抑制算法等四部分进行了改进。在特征提取网络中,设计了一种新的特征提取网络Co T-Dark Net,新网络具备长距离建模和捕获全局信息的能力,让模型在面对复杂图像背景下的小目标检测场景时具有更好的性能表现。接着进一步在Co TDark Net中融合了一种CBAM注意力机制模块,让模型更加关注待检目标区域的特征信息,从而在待检目标与图像背景特征差异不明显的检测场景下具有更好的检测能力;在特征融合网络中,在其末端层融合了一种ECA通道注意力模块,使得不同通道的特征信息能够更好地进行交互,从而让特征融合网络具备更准确的表达待检目标区域重要特征信息的能力,进一步提升了模型在待检目标与图像背景特征差异不明显的检测场景下的检测效果;在检测头中,设计了一种基于Co T自注意力机制的检测头Co THead,让模型在小目标密集分布的检测场景下具有更好的检测能力;此外,本文还采用Merge-NMS算法来取代YOLOv4模型中原有的非极大值抑制算法,使得模型生成的目标预测框的位置更加准确。最后在宫颈病理图像数据集上进行了实验,结果表明本文提出的CCIYOLOv4模型对各类宫颈细胞都有着较好的检测效果,m [email protected]精度达到了74.7%。CCI-YOLOv4模型相比于YOLOv4模型,参数量减少了0.4M,GFLOPS计算量减少了3.0,m [email protected]精度提高了5.8%,验证了本文提出的CCI-YOLOv4模型在宫颈病理图像细胞检测任务上的有效性与优越性。