高光谱成像技术对同一地区的几十甚至几百个波段同时成像,将图像空间信息和光谱信息结合在了一起,常被用于地物分类、地表目标检测、环境监测、城市规划、资源勘探、灾难预警等领域。但由于受限于传感器的空间分辨率,高光谱图像中每个像元通常包含多种不同地物,这使得高光谱图像普遍存在混合像元问题。而混合像元的存在,严重影响了高光谱图像数据处理的精度。因此,如何有效地解决高光谱图像混合像元分解问题,是高光谱遥感图像后续分析和定量化应用的关键。近年来,随着压缩感知理论和稀疏表示理论的发展,有学者用已知光谱库替代从图像中选取的端元集合,并将稀疏性约束加入到混合像元分解之中,提出了稀疏解混方法,己经成为高光谱图像混合像元分解领域里的一个研究热点,引起了广泛的关注和研究。本论文针对稀疏解混在高光谱图像混合像元分解中的应用进行了大量研究,其主要研究工作和创新包括以下几部分:1)提出一种基于自适应全变分的高光谱遥感图像稀疏解混方法。根据高光谱图像的空间相关特性,将自适应全变差约束项加入稀疏解混模型中,并采用交替方向乘子法求解稀疏解混模型。在交替迭代中,全变差正则项加权系数因子不再是一个全局的变量,而是根据图像信息决定全变差正则项加权系数,并用图像的边缘信息对全变差正则项加权系数进行加权。在模拟和实际数据实验可以看出,本章算法明显优于基于全变分的高光谱遥感图像稀疏解混方法,而且能够更好地保护丰度图像边缘信息。2)针对SOMP和SMP等贪婪算法在端元选择机制中存在非最优问题,提出一种基于自适应回溯联合正交匹配追踪的高光谱图像解混方法。首先采用分块思想将高光谱图像分块处理,然后在每个分块中,先通过初步测试选择合适的端元加入端元支撑集,再通过终极测试,对已存在于支撑集中的端元进行再次检验,删除其中的错误端元。最终,选取分块端元支撑集的并集,作为整幅图像的端元支撑集,并以此为依据进行最小二乘法丰度估计。实验结果表明,本章算法与其他贪婪算法相比具有更好的解混精度。