外辐射源雷达与传统的主动雷达相比具有隐蔽性强、辐射源丰富、成本较低、容易部署等优点,已经在军事/民用领域得到了广泛应用。近年来,数字信息化技术飞速发展,相对于传统的模拟广播信号,数字广播、电视、通信等信号的模糊函数大多呈典型的“图钉型”,具有较好的稀疏性。本文针对不同的外辐射源雷达系统,研究了基于稀疏表示的目标检测问题,提出了新的检测算法。所提算法无需信号重构,有效地降低了运算量,缓解了雷达信号处理可能面临的采样率过高、数据量过大、存储空间不足、高速信号实时处理困难等挑战。本文的主要工作及创新点总结如下:1.针对双基地外辐射源雷达系统,研究了回波信号中含有直达波与多径杂波干扰的多目标检测问题。根据干扰的特点,设计了随机压缩测量矩阵,该矩阵在得到压缩数据的同时去除了干扰影响,提出了一种基于残差分布特性的正交匹配追踪（Orthogonal Matching Pursuit,OMP）检测算法,并推导了虚警概率的闭式解。进一步,考虑到回波信号中干扰无法完全消除时,根据目标回波的稀疏特性,设计了确定的压缩矩阵,提出了基于稀疏表示的恒虚警检测器。仿真实验表明,所提算法优于其他算法。2.针对单源多接收站外辐射源雷达系统,研究了回波信号中含有直达波与多径杂波干扰的目标压缩检测问题。对于待检测单元内确定存在但未知的目标,首先利用辐射源与接收机的空间位置信息,计算得到了各接收机目标回波之间的相对时延与多普勒频差,在此基础上联合设计了各监视通道的压缩测量矩阵。接着,针对噪声功率已知、未知两种情况,提出了基于广义似然比的压缩子空间检测算法,还分别推导了所提算法虚警概率的表达式。最后,通过计算机仿真实验对所提算法的检测性能进行验证。3.针对单源多接收站外辐射源雷达系统,研究了无干扰条件下的目标压缩检测问题。根据目标回波信号之间的关联性与稀疏特性,联合设计了各接收站的测量矩阵,证明了压缩后的信号在二元假设下服从两个均值相同但方差不同的复高斯分布。根据此特性,在噪声功率已知/未知的条件下,分别提出了两种基于样本方差统计的多观测向量检测算法。与压缩子空间检测算法相比,多观测向量检测算法具有较低的数据运算量。仿真实验表明,在一定信噪比范围内多观测向量算法的检测性能优于压缩子空间检测算法。4.针对多源单接收站外辐射源雷达系统,研究了基于单频网结构的目标检测问题。基于此模型,本文考虑了辐射源位置信息已知/未知两种情况。当辐射源位置已知时,分别在噪声功率已知/未知的条件下提出了两种基于单频网的压缩子空间检测算法。当辐射源位置信息未知时,即目标支撑集未知,通过利用OMP算法对信号支撑集进行估计,提出了一种基于顺序统计量的正交匹配追踪（Order-Statistic based Orthogonal Matching Pursuit,OSOMP）检测算法,并推导了OSOMP算法虚警概率的解析表达式。为了进一步降低数据量,本文继续讨论了在满足期望的检测概率和虚警概率的条件下,OSOMP算法所需要的最少的迭代次数的情况。