深度卷积神经网络在诸多工程领域中都取得了突破性的进展,尤其是在机器视觉领域。以深度学习为基本框架的实例分割算法越来越成为时下的主流。该算法是一种最接近人类视觉理解的计算机视觉任务,其分割效果和网络的扩展性都比较强。本文针对当前主流的实例分割网络模型存在的不足之处进行探究,提出优化的Mask R-CNN算法和优化的YOLACT算法,具体的工作内容如下:（1）Mask R-CNN算法在处理小目标时,分割效果表现比较差,针对这一问题,设计多尺度RPN网络结构。即根据卷积神经网络中感受野的相关概念,从原始建议框与实际感受野大小相等的原则,在网络特征提取层设计了不同尺度（3x3、5x5、7x7）的滑动窗,以此完成对小目标初始建议框的精确筛选。（2）针对Mask R-CNN算法由于目标图像边界框模糊会导致对边缘的分割效果不佳,所以边界框回归将利用KL loss来进行处理,将复杂多变量的函数分布简化为单变量的函数分布。很大程度上提升了边界回归框回归处理的准确度,有效地改善了算法的分割效果。（3）YOLACT实例分割算法中批量归一化的方式在应对的样本批量比较小时,分割精度会急速下降;当样本的批量比较大时,会出现GPU内存溢出的问题。基于上述问题,使用改进的自适配归一化方式代替原始的归一化方式。此改进方法不但克服了样本批量大小对实例分割任务的不友好,而且解决了自适配归一化中权重学习的方式赋值容易出现平均的问题,充分挖掘归一化方法的潜能,实现优质的目标图像分割。将上述改进方法在COCO系列数据集和自动驾驶数据集上进行测试。实验结果表明,改进算法在分割精度、模型收敛等均有所提升,在实际应用场景中也具备良好的实用性。