数字图像处理技术已被广泛地应用于各个科学领域。由于图像成像硬件设备的限制以及图像获取和传输的过程中由于内部电子元件和外界环境的影响,采集到的图像往往出现各种各样不同的不足,如图像中部分数据丢失,图像分辨率低,图像数据量太大等。这些都是前沿性的研究课题。本文以医学图像,多光谱和高光谱遥感图像数据为主线,围绕图像分割,图像修复,图像超分辨率重构及高光谱图像压缩感知问题,建立非凸优化模型,并设计相应问题的高效求解算法。本文的主要研究内容分为以下四个部分:1.图像分割:利用余弦函数表示传统活动轮廓模型的数据能量拟合,提出了一种基于部分图像复原的局部余弦拟合能量活动轮廓的模型,用于医学图像和合成图像的分割。该模型可以分割强度不均匀的合成图像并且提取图像中的感兴趣区域。此外,本研究利用离散的形式来描述模型,这样可以更方便地添加正则项来控制分割。最后,利用提出的改进算法对医学图像进行分割,得到三维可视化结果。实验结果表明,所提出的模型对不同类型的图像进行分割,分割结果都比较准确有效。2.卫星图像数据带状丢失的修复:2003年5月31日,Landsat-7卫星上增强型卫星专题制图仪Plus(ETM+)的扫描线校正器(SLC)出现故障,导致自那时以来获取的所有ETM+图像数据中呈现条带状丢失。在这项研究中,我们提出了一种新的修复算法来恢复ETM+SLC-OFF图像。首先通过Hough变换对每个缺失条带边界的两侧斜率进行提取,进而计算缺失条带边缘的斜率。然后使用2003年5月31日之前获取的ETM+SLC-ON图像训练相应的自适应字典,以便在恢复过程中考虑数据缺失条带所覆盖地面的物理特征和几何特征。为了使算法更高效的计算,使用非凸低秩替换模型和自适应字典结合的方法沿斜率方向修复缺失的数据条带。结果表明,使用新算法恢复的ETM+图像具有较低的RMSE,较高的PSNR和SSIM值以及更好的可视化效果。3.遥感图像超分辨:在地球和环境遥感图像处理应用领域中,超分辨是一个有效的图像优化方法,它可以利用低分辨遥感图像来重建出高分辨遥感图像。本研究提出了一种新型的超分辨算法,它包含以下步骤:(1)将一个低分辨率图像进行傅里叶变换到频率范围。(2)利用这个频域图像在频率范围内扩大到与预期的高分辨图像一样的大小(相同的像素)。(3)在频率范围内扩展的这个图像进行傅里叶逆变换得到初始的高分辨图像。(4)通过利用高分辨图像的频域压缩数据最终重建出新的高分辨图像。这个算法是基于非局部平滑秩函数的低秩正则化模型来实现超分辨的。因此这个新的超分辨算法被称为频域扩展压缩超分辨重建算法。结果表明,所提出的超分辨算法克服了基于频域的超分辨算法在含有噪声的低分辨图像重建高分辨图像中的不足,具有较低的均方根误差(RMSE),较高的峰值信噪比(PSNR)和结构相似性(SSIM),同时取得了较好的视觉重建效果。4.低秩张量压缩感知(Compressive sensing,CS):低秩张量压缩感知在多光谱和高光谱遥感中的应用受到了广泛的关注。本研究提出了一种新的基于非凸非局部低秩近似张量CS重构算法。基于Laplacian函数的近似低秩替换模型对不同的奇异值自适应分配不同的权重。在本研究中使用小立方体张量之间的结构稀疏性和谱方向间的近似低秩性,来获得比其他算法更好的张量CS重构结果。首先,利用非局部低秩正则化和变分框架,提出了张量CS重构算法。其次,采用立方体分组和非凸拉普拉斯函数作为正则化/处罚项对张量CS重构模型进行约束。最后,为了有效地求解秩最小化问题,采用了交替方向乘子方法(ADMM)进行求解。非凸非局部拉普拉斯函数的低秩近似正则化方法比常用的低秩替代方法所得到的重构结果更精确。数值实验结果表明,本文提出的基于非凸非局部的TCS-NL-Laplacian正则化约束的张量CS重构模型,在噪声水平不同的遥感图像中,能很好地保持信息的广域性,在重构三维张量图像中是有效并且稳定的。