自动调制识别是信号解调和参数估计中的关键步骤,通常应用于民用和军事无线通信中的干扰识别、电子对抗、频谱检测等方面,是认知无线电、非协作通信等领域研究的基础。随着通信环境与调制样式不断发生变化,从调制信号中提取特征参数不足以准确区分信号调制方式,深度学习技术能够从大规模数据中提取隐式特征,相比于机器学习方法,计算速度快,特征抽象程度高,利用深度神经网络强大的模式识别能力,提高调制信号在低信噪比下的自动识别问题,是自动调制识别技术发展的必然趋势。针对传统调制识别算法存在的问题,本文从特征和网络两方面研究深度学习技术在调制识别中的应用,具体内容可概括为:(1)针对MPSK与MQAM等六种信号类型在低信噪比下识别率低的问题,本文首先提出基于循环谱特征组合与深度学习的调制识别方法。通过对调制信号三维循环谱图从不同角度进行特征分析,提取循环谱三维图像的等高线图、循环频率轴α投影图、频率轴1)投影图三种特征,将原始图像转化为灰度图,之后通过矩阵变换将三种特征图像在第三维度进行组合,组合得到的特征数据能更深层次反映信号之间的差别。针对传统的卷积神经网络结构存在的问题,本文对卷积层、池化层和全连接层结构做出改进,减小模型计算量,提升网络收敛速度。实验结果表明:对于MPSK信号,当SNR为-5d B时,其平均识别率可达90%以上;对于MQAM信号,当SNR为-4d B时,其平均识别率达到95%以上;MPSK和MQAM的混合调制类型,在SNR为0d B时,平均识别率高达100%。通过与传统的决策树模型与SVM模型对比分析,本方法在低信噪比下具有较好的识别效果。(2)从特征预处理角度出发,本文提出将调制信号自模糊函数原始图像作为特征数据,使用特征组合方法得到多通道融合数据,之后将数据送入卷积神经网络进行训练,实验结果表明低信噪比下对于MPSK与MQAM类内与类间信号有较高识别准确率,验证了特征组合有效性。从图像处理角度出发,本文提取图像中每个通道的像素信息,通过在每个通道上分别计算图像的直方图数据,在第三个维度进行拼接得到三维直方图数据作为网络模型的输入。(3)网络结构优化方面,本文利用CNN网络提取空间特征与LSTM网络提取时序信息的优势,提出CNN-LSTM与LSTM-CNN模型,针对CNN网络,本文将SENet网络中的Squeeze与Excitation两个步骤嵌入到CNN网络中,根据网络损失值去学习特征权重,使得有效的特征通道权重大,无效或效果小的特征通道权重小,提高网络模型的训练效率;针对传统LSTM网络门控结构的三个不足之处,对遗忘门、输入门和输出门结构进行调整,增加LSTM网络长时记忆对数据输出的贡献率,加强遗忘门与输出门之间的结构联系。实验结果表明,本文提出的网络模型与其他机器学习和深度学习模型相比低信噪比下调制识别准确率有了明显提升。