高光谱遥感技术的持续进步,推动了对地观测、深空探测等领域的发展,遥感图像的应用范围扩展到国土资源分配,矿产资源勘测,大气成分分析,海洋资源探测等大量领域。为了更好、更充分地发挥获取到的高光谱数据的效能,通常需要对高光谱图像中的地物进行有效的识别以及精确的分类,如果不妥善地解决由于高光谱图像空间分辨率较低而导致的混合像元问题将严重影响识别和分类的精度。本文的主要研究思路是基于丰度系数的稀疏性,考虑使用非凸范数建立联合稀疏解混模型完成混合像元分解,并做出了以下尝试:（1）研究了基于L_p非凸范数联合约束的稀疏解混算法,利用非凸p范数描述高光谱图像的丰度系数矩阵的稀疏性,另利用非凸p范数表征高光谱图像的丰度系数矩阵的奇异值作为低秩约束,从而建立非凸稀疏低秩约束的稀疏解混模型。通过将非凸p范数约束项作为正则项以及使用拉格朗日乘子法将非负约束项作为二次罚函数写入稀疏解混模型的目标函数,提出求解的增广拉格朗日交替极小化算法,将原问题转化为多项无约束最优化问题,并依次迭代求解每个单一正则项。相应仿真实验表明,本算法对高光谱图像数据的解混精度相较贪婪类算法以及凸优化类算法有显著提高,在信噪比SNR较高时,能获得更好的解混精度。（2）研究了基于L_2,q-L_2,p范数约束的高光谱稀疏解混方法,将高光谱解混问题建模为一个基于L_2,q-L_2,p范数约束的最优化问题,其中L_2,q范数惩罚因子表征信号重构误差,L_2,p范数惩罚因子表征高光谱图像丰度系数的稀疏性。为了有效解决任意q（1?q?2）,p（0（27）p?1）条件下的这一最优化问题,提出了基于迭代加权最小二乘的IRLS-L2qp解混算法,并证明了该算法的收敛性。模拟和真实高光谱数据解混实验表明,本文所提出IRLS-L2qp算法具有比贪婪算法和凸优化算法更好的解混精度。