雷达最为基本的任务是判断场景中是否存在感兴趣的目标,完成这一任务的典型手段是发射电磁波信号并对接收回波进行信号处理。一般而言,接收回波中不仅包含感兴趣的目标信号,还包含场景中其他不感兴趣的散射体的回波和接收机热噪声。不感兴趣的散射体的回波统称为杂波,且目标常常淹没在杂波之中,因此在检测目标之前通常需要进行杂波抑制以提高目标的信杂比。杂波的统计特性经常是复杂多变的,为了有效地抑制杂波,需要采用自适应杂波抑制技术,通过实时地估计杂波的统计特性来设计自适应的滤波器。自适应杂波抑制技术通常需要一定数目的均匀训练样本来估计待检测样本的杂波统计特性,而实际环境往往是非均匀的。因此如何在非均匀环境中设计自适应的杂波抑制和目标检测方法是雷达领域的重要研究方向,本文正是围绕这一方向展开研究,主要内容概括如下:一、研究了非均匀环境对自适应杂波抑制和目标检测性能的影响。以空时自适应处理(Space Time Adaptive Processing,STAP)为例,分析了杂波散射强度非均匀、杂波谱非均匀以及训练样本中含有运动目标对该方法性能的影响。研究表明对性能影响最大的因素通常为训练样本中的类目标信号,即具有和感兴趣目标相近角度和多普勒的信号。二、研究了基于广义似然函数准则的非均匀样本剔除方法。非均匀样本可以分解成均匀分量和非均匀分量,其中均匀分量具有相同的统计特性。当非均匀分量未知时,推导了非均匀样本位置集合的最大似然估计,并基于此提出了剔除非均匀样本的最大似然算法(Maximum Likelihood,ML)。针对ML算法计算复杂度高的问题,提出了近似的最大似然算法。当非均匀分量为类目标信号时,在均匀分量满足零均值复高斯分布且协方差矩阵已知的前提下推导了非均匀样本位置集合的最大似然估计,其目标函数和自适应功率剩余准则一致。针对传统自适应功率剩余准则利用采样协方差矩阵代替真实协方差矩阵存在的对类目标信号敏感的问题,提出了循环检测归一化自适应功率剩余算法。三、研究了基于正则化广义似然函数准则的非均匀样本剔除方法。ML算法及其近似算法要求均匀样本的数目不能少于系统自由度,这在实际中可能是难以满足的。针对均匀训练样本数目有限的场景,提出了在广义似然函数准则上添加正则化约束的方法,在此基础上推导了非均匀样本位置集合的正则化最大似然估计,并基于此提出了剔除非均匀样本的正则化最大似然算法(Regularized Maximum Likelihood,RML)。针对RML算法计算复杂度高的问题,提出了三种近似算法。RML算法及其近似算法的性能取决于选取的正则化参数。针对正则化参数设置难的问题,考虑了两种确定正则化参数的方法:期望似然法和交叉验证法。这两种方法都能有效地挑选出合适的正则化参数,并且在训练样本有限的情况下,RML算法及其近似算法能在计算量稍微增加的情况下获得远超过ML算法及其近似算法的性能。但是当训练样本充足时,RML算法及其近似算法和ML算法及其近似算法的性能相近。四、研究了基于杂波空时谱稀疏性的空时自适应处理技术。基于杂波空时谱稀疏性的空时自适应处理技术(Space Time Adaptive Processing Based on Sparse Recovery,SR-STAP)一般情况下只需要4-6个均匀样本就可以获得比较好的性能,因此能有效地应对非均匀环境引起的均匀训练样本数目有限的问题。SR-STAP的主要问题是计算量大,针对这一问题,提出了基于功率谱降维的SR-STAP方法。该方法首先通过功率谱确定杂波在空时二维平面上可能出现的区域,再在这个区域内采用稀疏恢复算法获得杂波空时幅度谱并基于此估计杂波协方差矩阵。降维的SR-STAP方法相比于传统的SR-STAP方法能在性能损失较小的情况下极大地降低计算量,有利于实时化处理。非均匀环境中,SR-STAP也面临着训练样本的选择问题。针对这一问题,提出了基于杂波散射点位置重合度和杂波协方差矩阵之间距离的训练样本选择方法。这两种方法挖掘了训练样本杂波空时谱内在的稀疏性,有利于提高SR-STAP的性能。五、研究了基于目标稀疏性的可调检测器设计方法。目标检测是自适应杂波抑制的最终目的。传统检测器的主要问题在于副瓣的强目标或相干干扰也能触发检测,引起错误检测,而这一问题可以利用目标方位位置的信息有效解决。基于目标方位向的稀疏性,提出首先采用稀疏恢复算法获得目标空间幅度谱的估计。利用该幅度谱,提出了两种检测器结构,分别是基于两级检测器理论和似然比理论的检测结构。所提检测器通过调整方位向的角度间隔,能在匹配目标的检测性能和失配目标的抑制性能中取得折衷。