红外小目标检测任务的核心思路是在一组红外图像序列中定位到目标所在的位置,从而实现后续的目标跟踪任务。在以往的研究中,以Faster R-CNN和YOLO为代表的深度学习神经网络模型得到了快速发展。与此同时,一些基于局部滤波的算法也已经被证明在提高目标检测过程中的可区分度方面非常成功。但是,这些算法通过遍历局部图像来构建补丁,而忽略了不同图像区域之间的相关性,导致目标的某些纹理信息被忽略,最终会使得算法无法准确识别任意形式的目标。非局部检测算法以全局图像信息进行处理及训练,可以有效提升检测模型的鲁棒性,但该类算法存在计算量大、速度慢的缺点。为了提高在不同场景下的红外小目标检测算法的泛化性,本文提出两种改进方案,主要研究成果如下:（1）针对传统的局部红外小目标检测算法忽略不同图像区域之间相关性的问题,本文提出了基于金字塔共生特征架构的新型目标检测方法。新提出的检测框架可将红外小目标检测问题进行分解:首先通过金字塔特征架构,对输入的红外图像进行分层并提取相应的共生矩阵,再将这些共生矩阵进行融合,以更好地概括非局部空间稀疏限制。另一方面,共生矩阵保留了目标和周围区域的语义上下文信息,从而避免了低秩矩阵的偏离近似值。最后,通过结合自适应的菱形结构元素进行形态学操作,输出最终的红外小目标检测结果。（2）对于现有的深度学习显著性目标检测架构,虽然模型能够捕获更丰富的图像局部和全局信息,但是通常需要非常庞大的多样化训练数据集来训练更准确和稳健的模型。对于红外图像而言,虽然背景包含多种场景,但都会受到噪声影响,并在视觉上呈现黑灰感,总体的类别区分度并不明显。针对这一问题,我们提出基于共生图割神经网络的深度学习目标检测模型。将共生滤波作为一种可训练的卷积层,然后结合残差思想设计为共生残差块,结合进深度学习图像分割模型中,以提高训练过程中红外图像的可识别度。另一方面,在模型中引入反向注意力机制,生成相对粗略的掩膜图,然后在侧输入特征中去除当前预测的显著性区域,从而引导模型能够补充相应细节,最终融合每层的输出映射,得到最终的红外小目标检测结果。为了探讨本文提出的红外小目标检测算法性能,本文基于真实采集的红外序列图像数据集进行对比实验,包括13种红外小目标算法。通过对检测结果的主观评价和客观评估指标分析,本文所提出的红外小目标检测算法在各种复杂红外图像中能展现出良好的性能,同时保证泛化性。