目标检测算法作为深度学习和计算机视觉领域最重要的研究方向之一,有众多的研究成果被相继提出。但是当这些算法被应用到实际的视频图像中检测时,检测效果往往不太理想。原因主要分为外源性和内源性两种,外源性原因是目标检测模型普遍在遇到低分辨率图像时检测准确度会大幅下降,而内源性原因是不同的目标检测算法本身的缺陷,导致模型在极端尺寸以及相似的密集分布目标等非常规类型检测对象上出现检测准确度大幅下降的情况。这些问题正在成为推动目标检测模型应用的障碍。为了解决上述问题,本文主要开展了如下工作:（1）针对在低分辨率图片上目标检测精度受到显著影响的问题,提出了一种目标检测模型与超分辨率算法有机结合的方法。该方法首先设计了一种能以任意倍率对图像进行放大和缩小的反馈式超分辨率网络。其次,利用超分辨率网络能以任意倍率对图像进行放大和缩小的特点,在超分辨率网络与目标检测网络中间层之间建立信息通信,并进行联合训练,使超分辨率网络结构成为目标检测模型的一部分,从而提高目标检测模型在低分辨率图像上的检测效果。实验结果显示,目标检测模型在结合超分辨率算法前,在4倍及8倍下采样的视频图像上检测精度下降分别为8%以及24%,结合超分辨率算法后该降幅缩小为3%以及9%。（2）在上一个工作基础上,研究了如何在不额外增加网络结构的前提下,提升轻量级目标检测模型在低分辨率图像上的检测精度。本部分工作主要是提出了一种多尺度特征传递的知识蒸馏算法,该方法主要思路是分别在高分辨率和低分辨率图像上训练教师和学生网络模型,学生网络的中间层受到多层教师网络中间层的监督,使得学生网络学习教师网络的目标检测能力。同时设计了一种结合池化与全链接的网络结构,用于判断教师网络在监督时传递的知识哪些重要和冗余,以提高知识蒸馏的效率。实验结果显示,通过使用本文提出的多尺度知识蒸馏算法训练出的轻量级目标检测模型,在4倍和8倍下采样的视频图像数据集上的精度降幅从原来的14%和49%,缩小为了8%以及39%。（3）除了图像分辨率这种导致目标检测模型性能下降的外源性原因外,算法本身的缺陷导致模型在一些特定目标上检测效果下降的情况就是内源性原因了。例如,在极大以及极小等异常尺寸的目标上检测时,采用Anchor-Based路径实现的目标检测模型的检测精度下降明显。针对这一问题,本文提出了一种能够自适应学习Anchor大小的算法。该算法通过动态地为特征图上各个像素位置预测一个任意大小的Anchor的方式来实现目标检测任务。算法整体流程可以分为位置预测、特征过滤以及Anchor大小预测三个步骤,在进行检测时,只需要为有限数量的像素位置预测一个Anchor就能够完成目标检测流程,而不需要像普通Anchor-Based模型一样,为特征图上每一个位置都放置Anchor,大大减少计算负担。实验结果表明,本方法由于预测Anchor大小的不固定性,使得其能够向任意大小的目标进行拟合,使得模型在视频图像数据集上能够获得约3%左右的精度提升。（4）除了Anchor-Based模型的问题之外,部分使用Anchor-Free路径实现的目标检测模型,在实际应用中常常遇到的密集相似目标上也表现出检测效果不佳的问题。为此,本文提出了一种基于预测中心位置划分的关键点匹配算法。与部分Anchor-Free模型采用外观信息来匹配关键点的方法不同,本方法通过将预测关键点组成的框,与真实目标框之间的空间信息进行充分考虑的方法,来完成关键点的匹配和目标检测任务。在检测的过程中,一部分预测框能够找到与之中心距离相近的真实目标框,针对这类目标框设计一种损失函数,从而在这部分预测目标框上进行回归得到定位结果,并对其进行二次分类得到更准确的分类结果。而另一部分的预测目标框与任何真实目标框的中心点距离都较远,为此另外设计了一个损失函数,从而使得这部分预测目标框的数量尽可能少,并且让预测出的这类目标框也应该尽可能远离其他类型的目标框,以免对网络模型产生混淆。实验表明,使用基于预测中心位置划分的关键点匹配方式,能够让使用普通关键点匹配方法的模型提升5%左右的检测精度。