近年来蜂群无人机的军事威胁日趋提升,针对蜂群无人机的探测与反制引起各军事强国的高度关注,稳定可靠的探测技术作为反制蜂群无人机的前提已成为计算机视觉领域的研究重点。通过雷达引导的中远程光电设备拍摄可疑飞行物并进行在线识别检测,成为常用探测手段之一。本文以蜂群无人机为目标,重点研究中远程光电设备平台下的无人机集群目标检测技术。论文的主要工作如下:（1）基于改进YOLOv3的无人机小目标检测方法。针对中远距离条件下无人机在图像上所占像素过少、在光电设备聚焦不良时呈现斑点状的问题,本文对YOLOv3检测算法进行改进,提高了模型对于低空小目标的检测效果。首先,利用K-means对自制无人机数据集中的标注框进行聚类计算,得到适合无人机小目标训练的锚框。然后,本文引入注意力机制改进YOLOv3的Darknet-53特征提取网络,强化了对无人机小目标有效特征的提取能力。最后,本文设计了一种适用于小目标的SIo U损失函数,改善了目标框的回归表现。实验结果表明,本文算法在自建无人机数据集上的检测召回率和准确率分别达到了90.91%和93.95%。（2）基于目标关联和轨迹聚类的目标群关系分析方法。基于改进YOLOv3的无人机小目标检测方法可以提高单帧图像中无人机小目标的检测效果,但光电设备在雷达的引导下会产生抖动现象造成检测框丢失,并且在远距离时会出现将飞鸟误检为无人机等情况。针对这些问题,本文在目标检测结果之上加入目标关联算法和轨迹聚类算法,用以进一步提高检测结果的稳定性和可靠性。首先,利用卡尔曼滤波预测无人机目标在下一帧图像中可能出现的位置,再将预测框和实际目标检测到的检测框通过匈牙利算法进行匹配,然后利用匹配后的帧间数据提取出蜂群无人机编队中每架无人机的轨迹并进行密度聚类,从而得到目标的群聚关系,剔除异于无人机群飞行轨迹的离群飞行物目标。实验证明,本文算法在真实场景测试集上的检测性得到有效提高,能实现对无人机蜂群目标持续、稳定地检测。