传统调制识别算法主要采用基于似然度或专家特征的分类方法。随着深度学习在计算机视觉等领域迅速发展,研究者开始尝试将其运用在调制识别问题中。然而时至今日,多数基于深度学习的调制识别算法更多的仍只是借用针对计算机视觉所开发的算法架构,并没有针对调制识别问题对核心算法进行创新设计。因此本文结合调制信号的分布特征提出了基于自定义卷积核初始化的深度学习算法。相比于随机初始化卷积核,卷积核自定义初始化引导卷积核向更符合调制信号通用分布规律的方向优化,则可能会缩短训练时间,避免过拟合,并提升识别精度。本文使用的卷积神经网络采用双卷积层结构,在自定义卷积核时,第一个卷积层用来提取调制符号位周围的局部分布特征,第二个卷积层用于提取不同调制的符号位映射。本文研究了信号在加性高斯白噪声和衰落信道下卷积核的初始化设计。在加性高斯白噪声信道中根据信号同相正交分量的分布计算第一个卷积层中卷积核的初始数值,从而提取符号位位置。为了使模型更加符合实际应用场景,本文考虑了信号在衰落信道中存在载波相位或载波频率偏移的情况。当信号存在载波相位偏移时,在第一个卷积层中根据每种调制模式下每个符号位的分布重新设计卷积核,解决了加性高斯白噪声信道中设计的卷积核的不足。在第二个卷积层中通过卷积核多样化适应不同程度的相位偏移。当信号存在载波频率偏移时,通过以相位与幅度表示信号并重新设计第一个卷积层中卷积核解决该问题。仿真测试结果表明,本文提出的方案能够在保持较少计算资源的同时实现更高分类精度。在加性高斯白噪声信道中,模型的卷积核使用自定义初始化比使用随机初始化在一些信噪比下过拟合减轻、训练时间缩短。在衰落信道中,存在载波相位或频率偏移时,使用自定义初始化卷积核的模型有较强的鲁棒性。