细胞核图像的精细分割是各种计算病理学应用的起点,包括核形态分析、细胞类型分类和癌症分级等等。由于癌细胞的侵入性,一旦扩散难以治愈。通过活体组织检查观察细胞的早期突变从而尽早确诊治疗是目前一个有效的方式。但是病理科大夫借助显微镜观察标本组织的方式费时费力,极大的占用了宝贵的医疗资源。而且组织细胞中细胞核的定位又是绝大多数医疗研究的基础工作。例如,快速的定位细胞核,在药物测试中能够加速细胞核对药物反应状态的研究,从而加快新药的问世。近年来,基于深度学习的医学图像分割方法已经成为工业界与学术界的热点问题。在细胞核图像分割的研究中,对单个细胞核分割的精确度是关键性能指标之一。然而,现有方法大多基于卷积神经网络实现,其输出结果的准确性与样本的质量、人工标注的质量密切相关,且难以区分重叠、贴近的细胞核,现有的分割方法大多仅适用于特定数据集,无法顺利迁移到其他数据集上。因此,本文针对生物细胞核图像的分割方法开展研究,主要工作及创新点包括:1)提出了一种能够模拟细胞核现实分布的数据增强方法。由于组织切片图像不易获取,标注费时费力,导致可训练的样本较少,且考虑到通用的图像增强方法例如随机旋转、缩放等无法模拟细胞核分布的复杂现实情况,本文提出了一种通过标注样本生成新样本的方法。首先提取出所有标签图中标注为细胞核的区域,之后随机选择若干数目的单个细胞核组成新的样本,可以模拟核间两两接触、旋转等实际情况。2)提出了一种解决数据标注不完全问题的迭代训练策略。标注医学图像需要丰富的病理学背景且耗费大量的时间,在实际标注过程中会出现部分细胞核漏标、细胞核区域标注不完全等问题,对神经网络的监督学习过程造成很大的影响,因此本文提出了一种改进该问题的学习方法。首先利用卷积神经网络对训练样本进行卷积处理,然后根据特征图中像素点的概率值划分前后景,最后人工挑选优秀的新标签图与对应的原标签图融合,迭代训练,达到精确分割的目的。3)提出一种图像分割方法DcRes-U-Net,该方法结合了ResNet、空洞卷积等,并对U-Net网络进行改进。该方法的优势如下:一是使用目前业内更加先进的卷积神经网络ResNet替换编码器部分类似VGG的结构;二是引入空洞卷积以增加卷积感受野,更多的提取每一层中的语义信息;三是修改了U-Net中的损失函数,使其能够更好的表达预测值和标注值之间的差异。四是引入了传统图像处理算法中的分水岭算法,作为分割器接收U-Net模型的输出,进一步完善细胞核边缘,提升单核的IOU指标。本文基于U-Net和DcRes-U-Net模型分别对细胞核图像进行分割。实验结果表明,改进后的DcRes-U-Net对于图像中细胞核的边缘、重叠的细胞核、临近的细胞核、体积小的细胞核,分割效果均比原始的U-Net好。配合迭代训练策略、数据增强、基于K-means的样本划分法等策略,在比赛专用测试集上取得了较高的精度。