目标检测是计算机视觉的一个基础但又十分重要的任务。现阶段基于深度学习算法尤其是卷积神经网络的目标检测器成为了检测领域的主流。并且和基于传统特征提取算法的检测器相比,无论是在检测准确率还是在推理速度上都有着显著性的提高。在基于卷积的目标检测器中,两阶段检测器Faster R-CNN和单阶段检测器YOLOv2,YOLOv3虽然在性能上相比其他的检测器有着明显的检测准确率或者推理速度的优势。但是,我们仍然可以对其进行一些优化和改进来得到更为高效的检测结果。本文主要有以下三个创新点:首先,针对由于目标检测器Faster R-CNN的区域生成网络产生的表示物体在图片上潜在位置的候选区域的不太准确性,从而制约了其最终检测准确率的进一步提升的问题,提出了基于Faster R-CNN的候选区域纯迭代提炼模型和LSTM迭代提炼模型。纯迭代提炼模型在PASCAL VOC 07训练集上进行网络训练,在测试集上基于VGG-16骨干网络的迭代模型得到的最好m AP比基准高1.1%,基于ZFNet得到的最好m AP比基准高1.5%。LSTM迭代提炼模型也能够较好地提升检测准确率。而且由于LSTM层的加入,使得此模型能够从后一次候选区域迭代过程向前一次迭代进行反向传播,实现了端到端的学习。其次,针对基于深度学习的单阶段目标检测器在训练过程中的样本不均衡问题,从优化模型训练过程中的分类损失函数入手,设计了一种新型的基于Softmax分类的动态调制交叉熵损失函数。此损失函数能够高效地降低训练过程中的易分负样本的损失权重,相应地达到提高困难样本的损失权重的目的,从而使得模型的整个训练过程变得高效。并从损失函数表达式分析入手进行足够的数学理论支撑。文中将设计的基于Softmax分类的动态调制交叉熵损失函数,替换标准的交叉熵损失函数,用于YOLOv2训练中关于类别预测的损失计算,实验结果表明应用此损失函数能够给YOLOv2带来明显的检测准确率提升。最后,针对深度学习目标检测模型如何能更高效地训练的问题,探究了四种优化训练方法对于检测性能的提升程度。将数据增强、类标签平滑、学习率优化和随机尺度训练用于单阶段检测模型YOLOv3和双阶段检测模型Faster R-CNN在PASCAL VOC数据集上的训练,证明这些方法都能在一定程度上提高检测准确率,并阐释各种方法能有效提升准确率的原因。MS COCO数据集的实验很好地证明了这些方法的泛化能力。最终,表明应用这些优化训练方法能更高效地训练目标检测模型。