图像分割是图像处理和计算机视觉等领域中的一个经典问题，尤其在图像分析、图像理解和图像识别中是一项关键技术。近年来，基于变分偏微分方程的活动轮廓模型，因其在求解过程中结合了水平集理论、曲线演化理论，适合处理形式多样、结构复杂的图像边界，与传统图像分割方法相比呈现出独特的优越性和广泛的适应性。因此本文主要针对活动轮廓模型做进一步的研究与探讨。本文首先总结了图像分割的发展现状，系统的阐述了必要的数学基础和水平集等的相关理论。其次分析了基于变分偏微分方程的几种几何活动轮廓模型，并总结了各个模型的优缺点。然后在研究C-V模型和多相C-V模型的基础上，给出两个改进的模型。针对两相的图像分割问题，提出了一种新的基于水平集的图像分割模型。在新模型中，引入一个非凸正则项，利用它的非凸性减弱水平集函数在边界处的模糊性，从而对边界起到保护的作用。另外在非凸正则项中加入边缘停止函数，使得新模型同时结合区域信息和边缘信息。针对多相的图像分割问题，提出了一种新的基于隶属度函数的图像分割模型。在新模型中，将原来凸的正则项改为非凸正则项，并将其中的Heaviside阶跃函数用隶属度函数来代替，以避免多相图像分割的重复和遗漏。针对两个新模型利用Nesterov算法的思想给出快速求解算法。实验结果表明，与CV模型和多相CV模型相比本文模型能够更好的刻画目标边缘。另外在数值求解方面，与传统梯度下降法相比，本文采用的Nesterov算法具有更快的收敛速度。