通信信号识别现在的需求愈来愈广泛,是频谱管理、电子对抗、通信甄别等领域的重要环节。以往的通信信号识别方法对信号先验知识要求较高,导致算法复杂度高,耗时长,适用场景范围受限。而且为了在复杂的频谱环境下传递更多的信息,现代通信设备往往采用多种复杂工作模式发送信息,这给通信信号识别带来了极大挑战。此外,在实际应用场景中,经常会出现新的未知通信个体参与信息传递的情景,以往算法只能将整个识别过程重新训练,耗时费力,且严重限制了适用场景。本文针对以上挑战,利用深度学习的优势,对具有多种复杂工作模式的通信个体进行了识别,也实现了对未知通信个体无标签数据样本的检测,以及整体通信信号识别系统的动态更新。本文的工作主要包括以下两方面:(1)本文针对每个通信个体型相同号,且都具有相同的多种工作模式场景,构建了一种基于深度学习,利用通信信号的时频域信息进行通信个体识别的算法。该方法首先将信号进行时频域变换,然后利用深度学习自动提取通信个体时频域的细微特征,搭建了深度学习网络模型,对通信个体进行识别。此外还针对总体数据样本数量较少、或者不同标签下的数据样本数量不均衡的情况下,以往算法训练耗时长,收敛过程中频繁震荡,模型易崩溃的问题,构建了一种利用生成式对抗模型进行数据增强的方法,增强了识别系统的鲁棒性与稳定性,提升了整体系统的性能。(2)本文针对在实际应用中,经常会出现未知通信个体参与信息传递的情景,搭建了一种基于半监督学习和迁移学习的算法框架,实现了自动检测每次出现的未知通信个体的无标签样本,并为其自动加标签,然后通过模型迁移的方法对信号识别系统进行更新,避免了以往算法需要对新样本手动加标签以及需要完全重新训练算法的弊端,使本论文提出的识别算法在保持识别精度的同时,能够相比以往算法更快得适应数据集的变化,实现整体识别系统的动态更新。