杂波抑制是机载雷达完成多种使命任务的基础,空时自适应处理(Space-Time Adaptive Processing,STAP)技术为机载雷达杂波抑制提供了一条有效途径。对于传统STAP方法,为获得较优的处理性能,理论上用于估计杂波统计特性的独立同分布(Independent and Identically Distributed,IID)训练样本数不能少于两倍的系统自由度。然而在实际中,机载雷达所面临的杂波环境通常是非均匀、非平稳的,很难获取足够的IID训练样本(简称小样本问题),从而导致严重的系统性能损失。本文以机载相控阵雷达为背景,以提升STAP技术在小样本条件下的杂波抑制性能为目的,充分利用稀疏表示技术的快速收敛性和高分辨能力,开展基于稀疏表示的机载雷达STAP技术研究。第一章阐述本课题的研究背景及意义,归纳总结STAP技术的发展历史与研究现状,并对稀疏表示STAP技术中的相关问题进行探讨。第二章介绍STAP技术的基本理论,并对稀疏表示问题的基本模型和主流的稀疏表示方法进行概述。在此基础上,对STAP中的稀疏内涵进行探讨:介绍STAP字典的构造方式,并对杂波信号的稀疏性进行分析,指出对杂波信号进行稀疏表示与杂波子空间估计之间的联系,探讨在STAP问题中利用稀疏表示技术的可行途径和优势。第三章从杂波白化的角度出发对稀疏表示STAP技术进行研究,提出两种在有限训练样本条件下有效估计杂波协方差矩阵的算法。一方面,针对STAP问题的特点,基于子空间扩张多重信号分类理论,提出一种参数设置较为简单的稀疏表示STAP算法,该算法可在有限训练样本条件下有效地估计杂波协方差矩阵。另一方面,针对稀疏贝叶斯学习算法收敛速度慢的问题,提出一种具有快速收敛特性的稀疏贝叶斯学习算法,利用该算法可在有限训练样本条件下快速、有效地估计杂波协方差矩阵。理论推导和实验结果表明上述两种算法能够明显提升杂波白化STAP技术在非均匀环境下的性能。第四章从杂波零陷的角度出发对稀疏表示STAP技术展开研究,提出两种在有限训练样本条件下有效估计杂波子空间的算法。一方面,针对有限训练样本条件下无法估计完整杂波子空间的问题,利用子空间扩张思想,将所估计的全维杂波子空间划分为直接部分和补充部分,其中直接部分来源于训练样本数据,补充部分则由从STAP字典中挑选出的一组空时导向矢量构成,两部分联合起来扩张成完整的杂波子空间,该算法可在有限训练样本条件下有效地估计杂波子空间。另一方面,针对直接利用训练样本数据估计杂波子空间会受到噪声分量干扰的问题,提出一种原子挑选准则,并基于该准则提出一种估计纯净杂波子空间的算法。理论推导和实验结果表明上述两种算法能够明显提升杂波零陷STAP技术在非均匀环境下的性能。第五章对距离模糊情况下的非平稳杂波抑制问题进行研究,提出一种基于稀疏表示的子空间投影预处理算法。该算法利用矩形平面阵所提供的俯仰自由度在方位-俯仰域上将杂波划分为近距和远距两类,并借助稀疏表示技术在方位-俯仰域上估计近距杂波子空间,进而采用子空间投影处理的方法滤除近距杂波,预处理后的数据经俯仰向常规波束形成得到等效线阵数据,杂波的距离平稳性得到明显改善,可级联常规的二维STAP方法进一步滤除剩余杂波。该算法不需要雷达天线与地面的几何结构信息,也无需载机的飞行参数信息,完全利用单个距离单元回波数据滤除近距杂波,相对现有方法具有明显优势。第六章对STAP字典的网格失配问题进行研究,提出一种基于局域搜索的杂波零陷STAP算法。该算法通过在每次迭代中增加局域搜索步骤以改善杂波子空间估计的准确性,降低网格失配问题带来的性能损失。第七章对本文工作进行总结,并对未来的研究内容进行展望。