高光谱遥感影像具有光谱分辨率高、图谱合一的特点,承载了丰富的地物光谱信息,尤其是区分不同地物的诊断性光谱信息和区分相似地物之间细微差别的光谱信息,在小目标探测应用上具有独特的优势。但是,在应用与实践中发现,高光谱遥感影像小目标探测技术虽然取得了一定的研究进展,但是仍然存在几个难题并没有很好地解决,包括异常目标探测中背景估计的问题、亚像元级小目标探测中光谱表示模型建立的问题、以及影像波段相关性处理的问题等。本文从高光谱遥感影像自身的数据特点出发,着眼于高光谱遥感影像的稀疏性,主要包括影像光谱稀疏性及小目标数量稀疏性,提出基于高光谱遥感影像稀疏性的小目标探测理论。首先,在没有目标先验光谱信息的情况下,针对异常目标的探测问题,利用背景的低秩性和异常目标的数量稀疏性,结合低秩与稀疏矩阵分解理论对异常目标探测中背景估计的问题展开研究。其次,在有目标先验光谱信息的情况下,结合目标尺寸展开研究。针对亚像元级小目标的探测问题,利用影像的光谱稀疏性和亚像元级小目标的数量稀疏性,结合二元假设检验对亚像元级小目标的光谱表示模型展开研究。针对全像元级小目标的探测问题,利用影像的光谱稀疏性和波段相关性,结合多任务学习理论对影像波段相关性的学习展开研究。针对以上三种小目标探测问题,通过几组高光谱遥感影像的应用实例来验证本文所提出的各种方法的有效性。本文首先介绍了高光谱遥感影像目标探测方法的一般设计方法、评价准则和探测器分类情况。并分三类介绍了有代表性的异常目标探测方法、亚像元级小目标探测方法和全像元级小目标探测方法。在此基础上,对三种小目标的探测方法进行了研究。对于异常目标的探测,本文提出一种基于低秩与稀疏矩阵分解的马氏距离异常探测方法,简称LSMAD(Low-rank and Sparse matrix decomposition-based Mahalanobis distance for Anomaly Detection)方法。该方法分为三个部分：(1)基于异常目标的数量稀疏性、背景的低秩性以及噪声的高斯分布特性,分析低秩与稀疏矩阵分解技术和高光谱遥感影像异常探测问题的一致性,利用低秩与稀疏矩阵分解技术将背景与目标进行初步分离。(2)采用与稀疏成分相比更加可靠的背景成分进行背景估计,根据背景矩阵的秩信息进行背景成分的降维处理,以避免低秩的背景协方差逆矩阵估计不稳定的问题,进一步减弱目标对背景统计特征的干扰。(3)结合经典马氏距离的优点建立异常探测器。实验结果表明：LSMAD方法分离异常和背景、抑制背景信息的能力总体上要优于传统探测方法。而且,相比于传统的基于稀疏成分的异常探测方法,LSMAD方法能在较大的稀疏参数范围内取得较好的探测效果,对稀疏参数敏感性较弱。对于亚像元级小目标的探测,本文提出一种基于二元假设的稀疏表示模型用于亚像元级小目标探测,简称SRBBHD(Sparse Representation Based Binary Hypothesis model for target Detection)方法。该方法分为三个部分：(1)针对亚像元级小目标的特点,构建基于二元假设的稀疏表示模型。基于该模型构建目标子字典和背景子字典,在目标存在假设下,利用目标和背景的联合字典来表示待探测像元光谱；在目标不存在假设下,根据背景子字典来表示待探测像元光谱。(2)分别从两种假设下的字典里寻找少量的样本对待探测像元进行稀疏表示,利用正交匹配追踪OMP算法进行稀疏优化求解。(3)利用两个假设下的重建残差,构建探测器。实验结果表明：SRBBHD方法对亚像元级小目标的探测效果要优于基于传统稀疏表示模型的探测方法。同时,与其他传统探测方法相比,SRBBHD方法的探测效果也较强。此外,与传统的稀疏表示模型相比,基于二元假设的稀疏表示模型能提高对像元光谱的表示能力。对于全像元级小目标的探测,提出一种联合稀疏表示与多任务学习的全像元级小目标探测方法,简称JSR-MTL(Joint Sparse Representation and Multi-Task Learning)方法。该方法分为三个部分：(1)针对高光谱遥感影像数据的波段相关性,通过波段交叉分组策略构建多个高光谱影像子集,每一个子集对应一个探测任务。(2)考虑影像的光谱稀疏性,针对全像元级小目标,对每一个子集中的待探测像元建立统一的像元光谱稀疏表示模型；再针对多个探测任务对应的多个稀疏表示模型,利用多任务学习,建立联合稀疏表示与多任务学习的模型。(3)利用多个探测任务下的累计重建残差构建探测器。实验结果表明：JSR-MTL方法能够能够充分利用影像波段相关性,提高对全像元级小目标的探测效果。本文的研究表明,基于高光谱遥感影像的稀疏性提出的一系列针对小目标的探测算法,有针对性地克服了现有探测方法存在的问题,能够提高对无先验信息的异常目标、有先验信息的亚像元级小目标以及全像元级小目标的探测效果。