图像处理中的大量实际问题属于由观测数据反求真实数据的反问题,例如图像复原（包含去噪、去模糊、修补等分支）、图像分解、图像重建等。由于涉及真实物理过程的反演,反问题在求解上普遍具有不适定性,稳定而有效的求解过程通常依赖于真实图像的先验知识。近年来,基于稀疏性先验知识的稀疏优化方法在图像处理领域取得了巨大的成功。这类方法假设真实图像在合适的基底下具有近似稀疏的表达,进而通过约束解的稀疏表示实现真实图像的有效估计。本文旨在研究求解过程中的两个核心问题:建立稀疏优化模型与设计模型的求解算法。主要研究内容与创新点列举如下。一、提出了两个图像去噪的稀疏优化模型。模型采用空间适应性正则参数来控制图像的局部滤波强度,使得图像的表示系数趋近于经验分布,从而增强图像表示的稀疏度。基于联合最小化的思想,提出的模型能够同时估计复原图像与正则参数,并使两者相互受益以至于达到联合优化。我们利用交替最小化算法将复杂的原问题分解为两个简单的子问题逐个解决,并证明了算法收敛性。二、提出了一种基于非局部图像表示的稀疏优化方法来实现图像的卡通纹理分解。我们将相似图像块堆叠为三维图像块组,提出了以图像块组为单位的图像分解框架。提出的框架旨在利用图像的非局部自相似性先验知识来增强图像表示的稀疏度。我们分别对卡通与纹理选取了合适的表示基底,进而建立了分解图像块组的稀疏优化模型。提出的模型实现了卡通与纹理的局部稀疏性与非局部自相似性的联合刻画。我们使用交替方向乘子算法实现了模型的高效求解,并设计了正则参数的自适应选取策略。三、在研究内容与创新点“二”的基础上,利用非局部图像表示求解带有非精确模糊核的图像去模糊问题。我们提出了一个增强的正则化总体最小二乘模型来同时估计图像与模糊核。提出的模型使用群组低秩先验知识刻画图像与模糊核,实现了局部稀疏性与非局部自相似性先验知识的结合。我们利用交替最小化算法将原始非凸问题分解为两个凸性子问题逐个解决,并证明了算法收敛性。四、提出了基于截断?₍1-2伪范数的稀疏度量函数,并研究其在图像重建中的应用。通过松弛对大绝对值元素或奇异值的惩罚,提出的度量函数达成了对向量稀疏度与矩阵秩的近似无偏逼近。在理论方面,我们给出了截断?_1-2伪范数的重建条件与最优解的性质。在数值方面,我们证明提出的重建模型能够被表达为两个凸函数的差,进而使用凸函数差算法将原始非凸问题分解为一系列凸性子问题逐个解决。我们还提出了一个自适应策略来选取截断的元素或奇异值数量。五、在研究内容与创新点“二”、“三”与“四”的基础上,结合非局部图像表示与截断?_1-2伪范数求解图像修补问题。我们提出了基于图像块组的截断?_1-2最小化模型,整合了群组低秩先验知识在图像刻画方面与截断?_1-2伪范数在稀疏促进方面的优势。我们将提出的模型分解为两个凸函数的差,并基于凸函数差算法设计了模型的求解策略。我们还提出了一个自适应策略来选取每个图像块组的截断奇异值数量。