数字信号调制方式的自动识别是实现非协作通信和信息监听等领域的关键技术之一，同时也是软件无线电技术的重要组成部分。无论是在军事上的电子对抗，还是民用上的频谱监管，调制方式识别技术都有着十分重要的应用。近几年来，在提高调制方式识别准确度的同时降低算法复杂度已成为该领域追求的目标。本文致力于此目标，以通信信号的循环谱理论为基础，在谱相关估计算法改进、数字调制信号的谱相关特征提取、BP神经网络分类器及其改进等方面进行了相关研究，并通过理论分析和计算机仿真验证改进算法。首先，本文对基于频域平滑的谱相关估计算法做了重点分析，并针对由噪声干扰和计算样本点数受限引起的谱相关估计中的随机波动，引入小波去噪和叠加平均的方法对估计算法进行改进。理论分析和仿真结果表明，该改进算法有效地改善了谱相关中的随机波动，使得信号的谱相关特征更加清晰。其次，利用谱相关估计改进算法仿真分析常用数字调制信号(幅移键控MASK、频移键控MFSK、相移MPSK、最小频移MSK及码元初始相位不相关的频移键控MFSK*)的谱相关特征。并在此基础上提出了谱相关函数f截面归一化面积、和f截面最大绝对值比、信号平方谱相关函数、零中心归一化瞬时幅度等4种区分度较好且抗噪性能强的特征参数。最后，利用BP神经网络分类方法对常用数字调制信号进行了正确的分类识别。针对BP网络传递函数存在的问题，提出了改进算法，并仿真验证了改进算法的有效性。