频谱资源的有限性及通信设备的爆炸性增长,使得频谱感知成为当前提高频谱有效性利用的关键技术之一。在深度频谱感知中,往往需要对非授权或干扰信号进行检测与识别。传统的干扰检测方式主要通过分析接收信号的频谱和功率等参数特征实现,但是对于一些与原始信号频率相同且同时产生的干扰,很难用传统特征工程方式检测和提取。本文将针对这种特殊的时频重叠干扰进行研究,提出了基于深度学习模型的无线通信干扰检测算法,并将干扰信号和噪声分离以支持干扰信号的分析与识别。本文研究的主要内容包括以下三个方面:首先,建立了基于深度学习的原始信号预测模型,并利用预测信号和原始信号的差值作为特征进行干扰检测。分析比较了多种神经网络结构对信号的预测能力,并结合无噪样本训练方法提升了低信噪比条件下的信号预测性能;选用预测效果最好的模型计算得到差值特征后,输入到SVDD模型中进行干扰检测,该方法在信噪比较高时能够取得一定的效果,不仅能够检测出干扰信号的存在,而且能够确定干扰信号在接收信号时域波形中的具体位置。然后,为解决低信噪比条件下干扰检测效果不好的问题,提出了用信号重构代替信号预测的思路,搭建基于AutoEncoder的原始信号重构模型并计算原始信号和重构信号的差值作为特征进行干扰检测,并基于SVDD算法作最后的判决。实验表明,神经网络对信号重构的难度低于信号预测的难度,使重构信号与原始发射信号极为接近,因此应用该算法的干扰检测性能大大提升。最后,基于重构信号的深度学习网络可以将干扰信号和噪声与原始发射信号分离,论文分析将分离出的干扰信号进行进一步识别的可能性,对已分离干扰信号的进行了调制识别和辐射源指纹识别研究。实验证明,分离出的干扰信号较为完整地保存了原始干扰信号的特征并在调制识别和辐射源指纹识别中皆取得了较理想的结果。