正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)是一种特殊的多载波调制信号,因其具有实现成本低廉、频谱利用率高和较强的抗多径衰落能力等优点,目前成为无线宽带通信系统的首选。在全球范围内,被广泛应用于民用通信和军事通信等众多领域,如数字视频广播(DVB)系统、第四代超宽带移动通信系统、无线局域网(WIFI)和各种战术/战略通信系统等。但是,信号在空间传输过程中,由于受到信道噪声和空间中其他信号的干扰,对OFDM进行调制识别影响比较大,因此本文提出一种应用支持向量机的分层迭代结构,用来解决OFDM信号在复杂电磁环境下的调制识别问题。本文的主要内容包括:1.介绍了OFDM系统原理以及OFDM信号调制识别基本理论和关键技术,同时分析了单载波信号包括MPSK信号、MFSK信号、MQAM信号,以及多载小波小波包调制(Wavelet Packet Modulation,WPM)信号的调制特点。2.介绍了支持向量机(Support Vector Machines,SVM)的基本分类原理,分析了OFDM信号同其他信号的特征参数,包括区分多载波和单载波的高阶累积量,以及区分多载波之间的双谱图的对应关系。3.研究了在瑞利信道背景下,结合SVM的分类理论和各调制信号特征值的区别,提出了一种分层迭代SVM分类器的OFDM信号调制识别结构,分析了各调制信号的高阶累积量和双谱特性,将其作为分类器的训练样本参数。并设计了一种基于径向基核函数(Radial Basis Kernel Function,RBF)的三层支持向量机分类器,依次区分开OFDM信号与单载波及小波包信号,其次采用分层迭代法训练分类器参数,先对每一层进行训练,再对训练好的三层分类器进行整体迭代训练进一步优化分类器的参数,最终识出OFDM调制信号。研究结果表明:三层分类器迭代结构能有效地识别OFDM信号,其不仅和单载波分类,同时可以和多载波小波包信号进行分类。