目标检测与实例分割是计算机视觉的两大经典任务,在文本、车牌、行人、遥感检测及无人驾驶等多个领域有着重要作用。目标检测需要在一张图像中识别出给定类别范围内的所有物体,并且用一个矩形框将物体框出来。而实例分割则是用掩膜来为每个实例打上像素级标签。近年来随着硬件设备GPU的计算力大大提高,以及卷积神经网络（CNN）的快速发展,深度学习方法已成为包括目标检测在内的多种计算机视觉领域的主流方法。本文将着眼于改进目标检测和实例分割两大任务框架中的核心部件,包括深入剖析在目标检测中边界框回归损失函数的优劣,以及在后处理阶段所广泛采用的非极大值抑制（NMS）所面临的不足。具体来说,边界框回归是目标检测的关键阶段。在现有的方法中,普遍采用的损失函数均为Ln范数形式,这类损失函数不适合于优化评价的度量IoU。最近IoU损失和广义IoU（GIoU）损失被提出以优化IoU度量,但仍然面临着收敛缓慢和不准确回归的问题。通过引入两个框之间的规范化距离,本文提出距离IoU（DIoU）损失函数,其相比IoU和GIoU损失具有更快的收敛性。更进一步,本文总结了边界框回归中的三个重要几何因素,即重叠面积、中心点距离、宽高比,基于此提出完全IoU（CIoU）损失函数,其具有更快的收敛性和更好的性能。通过将DIoU和CIoU损失函数纳入到最先进的目标检测与实例分割算法中,如YOLOv3、SSD、Faster R-CNN、YOLACT及Blend Mask-RT,本文获得了显著的性能改进。对于后处理阶段,使用最为广泛的非极大值抑制（NMS）是一种贪婪算法,采取IoU为判别指标,且以顺序处理的方式逐一确定一个框是保留亦或剔除。它面临着两个问题:第一,仅使用IoU作为判别准则对有遮挡的案例不够适合。第二,顺序处理是一种极为耗时的方法,无法充分利用GPU进行加速。针对第一个问题本文提出DIoU-NMS,使用DIoU来替代IoU作为判别准则。针对第二个问题,本文还提出Cluster-NMS,一种通过矩阵之间运算实现的可GPU加速的NMS,极大地提升了NMS的处理速度,且几何因子也可以很轻松地纳入到Cluster-NMS中,以进一步提升平均精度与平均召回率。大量实验证明了所提方法的有效性。