低截获概率(Low Probability of Intercept,LPI)雷达波形识别是电子侦察领域的重要分支,是获得非合作方雷达信息的重要手段。在战场上及时对非合作方LPI雷达波形进行识别,提取LPI雷达的关键信息,有助于我方提出合适的对抗决策,对提高目标的跟踪和打击的成功率起关键作用,具有重要的理论意义和实际应用价值。本文针对LPI雷达的多信号分离,以及分离后波形的识别方法进行研究。波形识别方法从波形特征以及波形结构两个方面,分别采用特征提取和深度学习算法对LPI雷达波形进行识别,提高了在较低信噪比(Signal-to-noise ratio,SNR)条件下的波形识别成功率(Ratio of Successful Recognition,RSR)。论文主要做了以下几方面的工作:首先,在混叠信号的分离过程中,针对于单天线情况,提出了基于椭球基序列(Discrete Prolate Spheroidal Sequence,DPSS)和霍夫变换(Hough Transform,HT)的联合分离方法。该方法采用DPSS作为短时傅里叶变换(Short Time Fourier Transform,STFT)的窗函数,有效降低多线性调频信号(Multiple Linear Frequency Modulation,MLFM)在STFT之后的噪声干扰,使得MLFM信号能在时频图像中更容易的被霍夫变换所区分,提升了在低信噪比下对MLFM信号的分离效果。仿真实验表明,联合方法能在SNR<-20dB的条件下对MLFM信号的有效分离。针对于多天线情况,提出了基于单源点检测(Single Source Points Detection,SSPD)和子空间投影(Subspace Projection,SP)的联合分离方法。该方法不再局限于信号类型,单源点检测算法依靠不同种类的波形在时频域的稀疏性,完成对信号的混合矩阵进行估计。子空间投影算法则依据估计的混合矩阵,对混合信号进行重构。仿真实验表明,联合方法在不同种类的波形混合条件下,对混合矩阵估计以及波形重构都具有良好的性能。其次,在针对频率调制类、二进制相移键控信号(Binary Phase Shift Keying,BPSK)和多相码类的识别研究中,提出了基于波形特征的识别方法。该方法采用特征提取以及基于主从结构的Elman神经网络分类器对LPI雷达波形进行识别。Elman神经网络是一种带有层间反馈的神经网络,比传统神经网络有更好的稳定性。分类器采用主从结构,完整的分类器由两个子分类网络构成,每个子分类网络负责分类不同的波形,降低了每个子分类网络的训练时间与训练复杂度,提升了分类器的可靠性与抗干扰性。同时采用了新的特征,优化了提取流程。与传统方法相比,不需要过多的先验信息,并且所提取的特征有着更为优秀的稳定性。仿真实验表明,该方法能对包括线性调频信号(Linear Frequency Modulation,LFM)、BPSK、Costas信号、Frank码以及P1-P4码在内的8种波形进行识别,在信噪比为0dB的条件下,总的识别成功率达到97%。最后,在针对频率调制类、BPSK和多时码类的识别研究中,提出了基于信号结构的识别方法。该方法采用了一种新的分类器——CNN-EntropyRBM分类器。此分类器不再需要人工提取特征,特征提取过程可以在分类器的训练过程中自动完成。训练过程中,采用了基于信息熵理论的神经元优化算法,按照传输信息最大原则确定分类器隐藏连接层的神经元数目,提高了分类器的准确性。仿真实验表明,该分类器能对包括LFM、BPSK、Costas以及T1-T4码在内的7种波形进行识别,在信噪比为0dB的条件下,总识别成功率在96%以上。针对频率调制类、多相码类和多时码类共同存在的识别研究中,给出了基于波形特征与结构的联合识别方法。该方法结合了特征识别与结构识别的优点,可以满足包括LFM、BPSK、Costas、Frank码、P1-P4码以及T1-T4码的联合识别要求,仿真实验表明,在信噪比为0dB的条件下,联合识别方法对上述12种波形的总识别成功率超过93%。综上所述,本文为LPI雷达波形识别提供了新的方法,提高了在低信噪比条件下的识别成功率,增加了可识别的LPI雷达波形的种类,具有较强的实用价值。