在日益复杂的电磁环境下,时频重叠的干扰信号广泛存在。通信信号时常会遭受到同频段干扰信号的入侵,影响接收端正常通信信号的接收。通过对通信系统中的时频重叠干扰信号实现检测和识别,能够有效的减少或者避免干扰信号的影响。本文在深入研究时频重叠干扰信号的检测和识别问题的基础上,将问题分解为依次递进的三个步骤:干扰信号的检测、干扰信号的分离、和干扰信号的分类识别。融合特征工程和深度学习的思路,在三个步骤中分别提出相应的三种模型,以有效地实现时频重叠干扰信号的检测与识别。论文的主要工作内容包括以下三个方面:1.提出基于时频功率熵的干扰信号检测算法模型。针对干扰信号功率低于通信信号功率情况下的干扰信号检测困难的问题,采用时域、频域、功率域三种维度下的时频功率熵作为干扰信号检测模型的输入特征;结合信息战场中入侵的干扰信号异常样本往往是少于正常信号样本的实际情况,即出现正负样本不均衡的问题,采用了单分类支持向量机（One class Support Vector Machine,Oc-SVM）机器学习分类算法作为干扰信号检测模型的分类器;设计了干扰信号入侵通信信号的实验场景,对提出的干扰信号检测算法模型的可行性和有效性进行了仿真分析验证。2.提出基于卷积自编码器的干扰信号盲分离算法模型。针对干扰信号的盲分离问题,使用卷积神经网络作为自编码器的基本结构,采用单任务自编码器模型,通过网络的输入与预测输出的差值分离出干扰信号;针对当干扰信号功率远高于通信信号的功率时,单任务自编码器分离效果不佳的问题,采用多任务自编码器模型进行干扰信号分离,可以得到独立且无噪的干扰信号。设计了分离时频重叠的多音干扰信号与通信信号的实验场景,对提出的干扰信号盲分离算法模型的可行性和有效性进行了仿真分析验证。3.提出基于门控循环单元（Gated Recurrent Unit,GRU）的干扰信号分类识别算法模型。针对干扰信号的识别问题,将干扰信号视作时间序列,采用善于处理时序数据的GRU来构建神经网络,提取出干扰时序数据中的隐藏特征,进而获得对干扰信号的识别结果;对比研究了传统的基于特征提取与本文提出的基于GRU神经网络的两种识别分类算法,描述了各算法的基本原理;采用t分布随机邻域嵌入（t-distributed Stochastic Neighbor Embedding,t-SNE）算法将 GRU 网络倒数第二层数据降维显示,解释了 GRU算法的可行性;设计了不同样本条件下的四种干扰信号的分类识别实验场景,对提出的干扰信号识别模型的性能进行了仿真分析验证。