高光谱遥感融合成像技术和光谱学技术,能同时获取地物的空间信息和丰富的光谱信息,得到“图谱合一”的高光谱图像,实现地物的精准识别。异常检测作为一种无监督的目标检测方法,能在无先验的条件下根据不同地物的光谱差异性检测图像中未知的异常点,适用于难以获取地物先验信息的实际应用场景。传统的高光谱异常检测方法假设背景分布符合某种统计特征模型,但实际应用时地物类型复杂、图像空间分辨率低等问题导致背景的有效表征难以实现。基于低秩表示的异常检测方法不需要假设背景分布,融合了图像背景的低秩性和异常的稀疏性,能够充分挖掘数据的内在特征,成为高光谱图像异常检测领域的研究热点。因此,本文围绕着低秩表示方法中的低秩稀疏表示模型展开,主要工作概括如下:（1）针对基于低秩稀疏表示的异常检测方法中背景字典易被污染、空间信息利用不足等问题,提出了一种基于分数阶傅里叶变换和全变分正则化的高光谱图像异常检测方法。通过分数阶傅里叶变换（Fractional Fourier transform,Fr FT）提取原始数据的时频域特征。在原始数据聚类后的每个子空间内构造Fr FT-RX（Reed Xiaoli,RX）算子,求得纯净的背景字典。在低秩稀疏表示模型中引入全变分正则化约束,利用交替方向乘子法在中间域内对模型进行求解,得到异常部分。实验结果表明该方法综合利用高光谱图像的空谱信息,具有较好的检测效果。（2）针对基于低秩稀疏表示的异常检测方法中K-means聚类方法鲁棒性较差、混合像元难以检测、噪声干扰等问题,提出了一种基于非负矩阵分解与密度峰值聚类的高光谱图像异常检测算法。引入非负矩阵分解得到混合像元的丰度特征,与原始图像融合形成混合数据集。通过自适应密度峰值聚类算法和改进的背景、异常分数指标,得到完备的背景字典和异常字典。基于联合字典改进低秩稀疏表示模型,添加噪声项和稀疏约束,在混合数据集上利用交替方向乘子法得到异常部分。实验结果表明该方法结合混合像元的丰度特征,得到更稳定的联合字典,提高了低秩稀疏表示模型的背景抑制能力,具有较好的检测效果。（3）高光谱图像异常检测软件设计。基于前述的异常检测方法,完成包括图像显示、异常检测、光谱解混、结果输出等功能模块的设计,实现高光谱图像异常检测的功能。