一直以来调制方式识别都是通信接收过程中的一个重要环节，无论在民用领域还是军事领域都具有重大意义，因此引起众多专家学者的关注和重视。在通信环境日益复杂的今天，调制方式识别也面临一些新问题，比如在军事领域非合作方通信中，有用信号常被湮没在强噪声背景中传输，且接收方或者截获方对所传输信号的各种参数知之甚少，这就需要调制方式识别需要在信噪比低，先验知识匮乏的情况下进行，增加了识别难度。另一方面，随着以混沌(Chaos)理论、随机共振理论等为代表的非线性科学的飞速发展，研究者尝试把非线性理论应用在通信领域，也取得了一些令人瞩目的成果。例如Duffing混沌系统由于其对噪声的免疫性和对微弱信号的敏感性，已经在弱信号检测方面表现出其超越传统方法的优越性。据此，本文尝试性的将Duffing混沌理论运用于调制方法识别，研究混沌理论与调制识别工程应用相结合的可能性。本文首先简要介绍混沌理论的相关知识，重点通过Melnikov解析方法分析了Duffing振子的动力学特性，作为本调制识别的理论基础。然后重点研究了当输入外部信号对Duffing系统运动状态的影响，从而结合二进制调制模型，设计了能够通过系统状态区别不同调制方式的Duffing振子阵列预处理系统，并提出能够快速有效量化判定Duffing系统状态的功率谱熵作为特征参数。最后提出了基于间歇混沌原理的载波估计新方法和BP神经网络分类器，结合Duffing预处理系统以及功率谱熵特征参数提取，构建了完整的二进制调制方式识别系统。最终经仿真验证表明，该方法能有效识别二进制信号的调制方法，并且在低信噪比条件下，具有明显优于其他调制方式识别方法的识别准确率，比如在-25dB的信噪比条件下，该方法的平均调制识别率可以达到98%。并且具有不依赖于信道先验知识的优点。