随着光电探测仪器的发展和信息处理手段的进步,高光谱遥感技术正受到越来越多的关注和重视,并在诸多应用领域发挥着日益重要的作用。相较于其他遥感影像,高光谱遥感影像在空间信息之外多了光谱维信息,进而衍生出诸多独有的处理技术。高光谱异常检测技术是其中最为基础的探测手段,在近些来取得了诸多进展。然而,当目标分布较为密集时,高光谱异常检测算法往往表现不佳。本文从背景建模和空间分布两个角度,分别提出了相应的解决方法,并且将密集目标检测问题从单帧高光谱图像推广到序列图像,提出了一种新的时域异常检测框架。本文取得的主要研究成果如下:一是提出了超像素密度异常检测算法。该算法属于基于背景建模类检测方法,将高光谱图像划分成若干的超像素,每个超像素均可视为多元正态分布。为了避免传统局部背景建模方法检测密集目标时存在的背景污染问题,该算法在降维后的特征空间上计算待测像元到每一超像素的标准欧式距离,并综合权衡所有的距离值后输出检测结果,使目标像元所带来的污染只局限于各自的超像素内,提升了密集目标的检测响应强度。此外,超像素样本方差小于真实概率分布方差,故对超像素进行合并,用全局和合并区域的样本方差来替代超像素样本方差进行距离计算。考虑到不同空间距离和不同面积的超像素带来的背景信息量是不同的,在检测距离融合上加入了空间距离权值和面积权值。实验表明所提出的算法对密集目标的检测精度高,优于现有背景建模类和稀疏重构类算法,并且运算耗时较少。二是提出了一种简单高效的基于分割加权的检测后处理策略,有效提升异常检测算法对密集目标的检测能力。该策略首先利用基于图的分割算法,获取潜在异常目标与背景的空间信息,然后利用权重矩阵将空间信息融合到异常检测算法的检测结果中,抑制狭长区域和大面积区域两类背景的检测响应。在分割过程中通过对所构建的无向图的边权值的数值处理以及对潜在异常目标区域进行扩展,提高了目标与背景的可分离性。实验表明该策略有效提高了异常检测算法的检测精度和参数鲁棒性,具有较强的鲁棒性和较低的运算耗时。空间形态信息的引入有利于弥补同心双窗策略的诸多不足,同时狭长背景区域的抑制也可减少密集目标异常检测算法在该类背景上的虚警。三是针对高光谱序列图像中密集运动目标检测提出了一种基于约束稀疏表示的时空联合异常检测算法。复杂运动状态的密集目标检测是高光谱序列图像目标检测算法的一大挑战。本章所提算法首次将高光谱异常检测从单帧上空谱域扩展到多帧间时谱域,提出了一种新的时域异常检测框架。该时域检测框架收集待测像元前序历史光谱作为检测背景,通过两次背景纯化来去除背景中潜在目标光谱,对轨迹重合的密集目标、不同运动速度目标共存以及混合像元目标等均有良好的检测性能。空域检测结果和时域检测结果经过迭代平滑滤波处理后进行融合,噪声杂波、静止目标以及运动背景区域在检测图均可被抑制。实验表明该算法优于现有的高光谱单帧异常检测算法以及多帧运动目标检测算法,在高噪声情况下能有效地检测出密集运动目标群,并且对目标的运动速度有较强的鲁棒性。