单克隆抗体药物具有高特异性和低成本的优点,在药品研发领域有着广泛的应用,利用杂交瘤细胞可以大量的生产单克隆抗体。在杂交瘤生产流程中,必须对试管中的细胞进行定期筛选。传统的杂交瘤细胞筛选通过人工完成,存在着效率低下和容易发生主观性偏差等缺点。本文采用深度学习技术,提出了两种基于卷积神经网络的杂交瘤细胞图像分割算法,并且设计和完成了杂交瘤细胞图像自动分割系统,实现对细胞图像快速且精确的分割。通过大量的实验数据验证了算法的可靠性,同时系统在真实环境中进行了部署应用。本文主要工作具体如下:（1）建立杂交瘤细胞图像分割数据集和完成数据集增强。通过细胞图像预处理、试管分割、手工精确标注等一系列流程,完成细胞分割数据集的初步制作。同时设计出针对原始数据进行增强的自动化工具,使用旋转反射变换、对比度及亮度变换对数据集进行增强,提高深度学习网络的泛化能力。（2）针对U-Net网络分割细胞图像时出现的过分割和欠分割等问题,本文对图像分割网络U-Net进行改进,结合残差网络的思想,提出了一种基于残差UNet（Residual U-Net,R-UNet）的图像分割网络。首先,为了提升网络对于复杂细胞的分割性能,在卷积层中加入残差结构,能够更加有效地提取细胞特征。其次,针对数据集中细胞和背景在图像中占比差距较大而出现的类别不平衡问题,将原始网络中的损失函数改进为Focal Loss损失函数,通过降低背景这类易分样本在总损失中的权重,引导网络加强对难分类的细胞类别的学习。最后,在网络中加入了批量归一化层,有效的减少了网络训练的时间,同时让训练损失能够更快的收敛。经过大量实际细胞图像的分割实验,证明本文提出的R-UNet网络能够实现杂交瘤细胞图像的准确分割,能够大幅减少原始网络分割细胞图像时出现的过分割和欠分割等问题。（3）在杂交瘤细胞筛选中,细胞的面积大小及轮廓光滑程度是重要评价指标。R-UNet在分割复杂细胞的能力上有所提升,但是在边缘形状的拟合上还有待提高。为进一步提高细胞分割准确性,需要增强网络对特征的提取能力。本文提出了多尺度特征融合和全局及通道双注意力机制,并将其应用到改进的分割网络RA-UNet（Residual and Attention U-Net,RA-UNet）中。首先,对网络编码器中五个模块输出的特征图使用特征金字塔的方式进行多尺度特征融合,再拼接到网络的解码器中,丰富解码器中特征图的语义层次。然后,将全局注意力机制Non-Local（Non-Local Neural Networks,Non-Local）接入到网络的解码器中,扩大特征图的感受野,为网络带来更丰富的信息。最后,将通道注意力机制SENet（Squeeze-and-Excitation Networks,SENet）接入到Non-Local注意力机制后,通过对特征通道权重的学习来增强重要的特征,抑制次要的特征。实验表明,算法在分割轮廓准确性上得到了较大提升。（4）基于所提出的深度学习图像分割算法,本文设计并实现了杂交瘤细胞图像自动分割系统,并已在实验室的杂交瘤细胞筛选项目工作中得到应用,能够帮助研究人员进行细胞的自动筛选工作,提高了研发效率。