为了适应医学影像检查技术的飞速发展，开展以计算机辅助诊断或智能化诊断为目标的医学图像处理和分析研究，已经成为目前这个领域的一个研究热点和将来发展的主要趋势。在颅脑CT图像的计算机自动化病变检出中，创建正常人脑的数字化统计图谱以及准确提取病人图像形变信息，是实现病变自动化检出的基础和关键之一。非刚性配准是提取正常人脑解剖结构的变异信息以构建组成完备的CT正常人脑数字化统计图谱之形变图谱的关键技术；同时也是衡量病人图像与图谱之间相对形态差异大小，得出作为后续模糊推理系统判断的根据之一的核心方法。 传统Demons算法虽然能够成功构建灰度图谱，但对形变质量要求更高的形变图谱和病人图像形变信息的提取，Demons算法就不能满足要求了。Demons算法的一个重要缺陷就是它在形变过程中不保持图像的拓扑结构，这种情况下产生的形变信息是无用的，不论是构建形变图谱还是用来做病变检出。 为了更好的理解基于灰度的单模态配准问题从而更好的理解Demons算法以求改进，本文从数值优化的角度分析了用于配准的李群上的优化方法，为后面提出微分同胚Demons算法做好了准备。在充分利用单模态图像配准的特点后，引入高效二阶最小化优化算法加速配准寻优过程的收敛速度。 本文从理论上分析了Demons算法的三种变体，认识到它们实际上是在对参数寻优过程采用了不同的优化算法的结果，在此基础上用实验验证了基于高效二阶最小化算法的对称Demons力有最快的收敛速度，在相同的迭代次数下配准效果最好，同时形变的总能量也较小，形变场最为平滑。 以李群上的优化方法为理论基础，用恒定速度场来参数化李群空间中的元素--微分同胚，从而可以利用李群及其李代数间的指数映射和单参数子群的性质，快速计算出李群中的几何变换。用这种方式取代原先Demons算法的形变场更新方式，就得到了具有拓扑保持性质的微分同胚Demons算法。分别用模拟和真实颅脑数据证实了新算法的优良特性：适用于大形变且保持模板图像的拓扑结构不变。另外，在实际应用中，对现有的Demons算法采用多分辨率分级配准，可以大幅缩短配准时间，同时提高配准的准确性。 本论文的工作得到了国家自然科学基金的资助(60771007)。