逆问题已成为国际上的研究热点,广泛存在于科学和工程领域。本文选取去噪和分割两个图像处理领域的典型逆问题作为研究对象,利用变分法、分数阶微积分理论、对偶理论和鞍点理论等代表性数学工具,对去噪和分割逆问题中建模方法和数值计算方法开展了深入研究。主要包括以下几方面工作：1.基于对偶理论提出了一种原始对偶图像去噪模型。理论上分析了该模型与经典ROF去噪模型的等价性,以及与鞍点优化模型的结构相似性。使用一种求解鞍点问题的原始对偶算法对该模型进行求解,推导得出了算法的收敛条件。在模型参数选取方面,提出了一种基于Morozov偏差原理的自适应正则化参数调整策略,限制了图像去噪寻优过程的可行域,保护了图像特征。实验结果表明,采用的原始对偶算法能有效提高收敛速度,提出的参数自适应调整策略能有效改善去噪效果。2.针对整数阶变分去噪易产生“阶梯效应”的问题,结合分数阶微积分理论和对偶理论,提出了一种分数阶变分去噪模型,推导了该模型的鞍点结构形式。在此基础上,使用基于预解式的原始对偶算法对该模型进行求解,并采用自适应变步长迭代优化策略提高寻优效率,弥补了传统数值算法对步长要求过高的缺陷,同时推导得出了算法的收敛条件。采用所提出的自适应正则化参数调整策略,平衡了模型的边缘保护能力和去噪保真度。实验结果表明,提出的分数阶变分算法能够有效抑制“阶梯效应”,保护纹理和细节信息,具有较快的收敛速度。3.针对乘性Gamma噪声的去除问题,分析研究了几种经典变分模型的特性和相关性。在此基础上结合分数阶微分的频率特性,扩展了经典I-divergence变分模型,提出了一种分数阶凸变分模型。基于对偶理论和鞍点理论,提出了一种求解该模型的分数阶原始对偶算法,分析了算法的收敛性。同时,为了平衡模型的边缘保护能力和保真性,基于平衡原理提出了一种无需噪声先验知识的自适应参数调整策略。实验中从频域角度分析并验证了提出的分数阶变分模型较经典的一阶变分模型能够有效缓解“阶梯效应”现象,更好的保持图像的中频纹理和高频边缘信息。同时提出的分数阶原始对偶数值算法能有效收敛,且收敛速度较快。4.传统的边缘检测微分算子中,一阶微分掩模容易遗失图像的细节信息,二阶微分掩模对噪声较为敏感。针对上述问题,结合分数阶微分的频率特性和长记忆性,将经典的一阶Sobel和二阶Laplacian边缘检测算子推广到分数阶模式,构造了分数阶微分掩模,用于提取医学影像的边缘特征。实验结果表明,与整数阶微分相比,分数阶微分能检测更多的医学图像边缘细节特征,且对噪声的鲁棒性更强。5.为了进一步刻画边缘和纹理等图像中重要视觉几何结构,结合分数阶变分的建模思想,提出了一种分数阶水平集图像分割模型,有效增强了图像目标物体凹陷部分区域的边界提取。推导得出了该模型对应的分数阶欧拉—拉格朗日方程,采用梯度下降法实现模型的求解。实验结果表明,提出的分数阶水平集模型能提取更多的凹陷部分轮廓,在分割图像细节上具有较好的性能。