信号调制识别技术在非合作通信系统中不可或缺,研究出更多行之有效的方法以准确识别出接受信号所使用的调制方式至关重要。因此,本文结合卷积神经网络（Convolutional Neural Network,CNN）对调制识别加以研究,主要内容如下:1.基于CNN的调制识别方法虽无需手动设计特征,但是需要大量的数据来训练模型,数据不足会导致模型过拟合从而引起正确识别率下降。为了应对小数据集,数据增强已广泛用于图像处理领域。然而,在无线通信领域,不同数据增强方法对无线电调制识别的影响还没有研究过。因此,本文研究了一种基于数据增强和Alex Net的信号调制识别方法。首先,该方法将公开数据集Radio ML2016.10a中的已调信号预处理为星座图表示,并按照8:2的比例将星座图分为训练集和测试集。然后,训练集使用随机擦除（Random erasing）、Cut Mix和旋转（Rotation）进行数据增强,得到增强训练集。最后,通过Alex Net模型自动提取增强训练集的图像特征,并根据测试集对模型进行测试。仿真结果表明,相比于没有使用数据增强的调制识别方法,所研究方法在一定的信噪比（Signal Noise Ratio,SNR）范围内提升了性能,且旋转的性能优于随机擦除、Cut Mix。2.多进制数字相位调制（Many Phase Shift Keying,MPSK）信号之间的相似度更高,类内识别难度更大,而且目前没有专门针对MPSK（M=2,4,8,16）信号的类内识别方法。因此,本文研究了一种高斯信道下基于ISPP-Res Net18和星座图的信号调制识别方法。首先,该方法将信号转化为星座图表示。然后,针对传统空间金字塔池化（Spatial Pyramid Pooling,SPP）难以融合同一卷积层的多尺度局部特性信息的问题,对其进行改进并得到改进空间金字塔池化（Improved Spatial Pyramid Pooling,ISPP）,并将ISPP引入到经典卷积神经网络Res Net18中,形成ISPP-Res Net18网络。最后,结合星座图和ISPP-Res Net18网络完成调制识别,并探索符号数、星座图的数据区域范围、图像分辨率、激活函数种类对模型识别性能的影响。仿真结果表明,相比于使用传统SPP或者没有使用ISPP的调制识别方法,所研究方法在信噪比小于6d B时提升了性能,证明了ISPP比SPP更加有效。