目标检测是一项计算机视觉领域的具有挑战性的研究工作,在3D物体检测、实例分割和智能视频监控等方面都有着重要应用。然而,在实际检测场景存在着大量前景背景相似或者带有遮挡小目标的情况,当对这些场景进行检测时存在检测精度不高的问题,这些问题在在检测目标的大小、形状不同,目标数量和目标位置不定的情况下体现的更为突出。为了增强基于深度学习的目标检测算法在检测带遮挡或者低分辨率小目标时的性能,本文对Faster R-CNN算法进行了相应的改进。主要的研究内容如下:（1）针对Faster R-CNN算法中卷积提取网络所提取的特征图存在语义信息和位置信息不匹配的问题,提出RFPN特征融合算法来融合卷积提取网络提取到的不同尺度的特征图。首先,通过融入RPN,提升了算法对目标候选框的框选能力。其次,在RPN的基础上,加入FPN网络,通过自底向上、自顶而下和横向连接的融合方式解决目标检测过程中的多尺度问题。最后,对数据集进行数据增强,提高网络模型的泛化能力,进而提升了目标检测的精度。（2）针对Fast R-CNN检测器对带遮挡低分辨率目标的分类能力差的问题,提出基于RFPN和对抗遮挡网络的目标检测算法。基于RFPN算法,对Fast R-CNN检测器进行创新与改进,采用对抗学习策略并利用特征映射来提升Fast R-CNN检测器的分类能力。首先,通过生成器和Fast R-CNN检测器对抗学习,在不增加训练样本的前提下,提升基于RFPN和对抗遮挡网络的目标检测算法对带遮挡小目标的检测性能。其次,通过特征映射将RoI池化后的低分辨率特征图映射成高分辨率特征图,实现基于RFPN和对抗遮挡网络的目标检测算法对低分辨率小目标和高分辨率大目标的更高检测精度。（3）通过PASCAL VOC和MSCOCO数据集,对基于RFPN和对抗遮挡网络的目标检测算法针对低分辨率、带遮挡小目标AP和mAP值进行验证分析,发现AP和mAP值均有所提升。基于VGG-16的算法在VOC2007上的mAP值为75.80%,在VOC2012上的mAP值达到73.90%;基于ResNet-101的算法在VOC2007 上的 mAP 值为 80.71%,在 VOC2012 上的 mAP 值达到 77.72%。在MSCOCO 数据集上,AP50达到 58.6%,AP75 达到 40.6%。图[55]表[13]参[75]