医学图像配准通过发现图像之间的空间对应关系,将不同的图像转换为一个具有匹配内容的公共坐标系。配准在医学图像分析中起着至关重要的作用,是许多临床任务的基础,如不同模式的图像融合、解剖结构演变的纵向分析、运动提取和群体建模。医学图像配准框架包含待配准图像对及其特征、相似性度量、转换模型和优化方法。传统配准方法旨在求解为每个图像对精心设计的优化问题,计算成本高。基于深度学习的方法用一个全局函数的优化取代昂贵的数值优化,可以实现快速对齐。然而,大多数配准网络只是基于预先设计的损失函数直接学习参数以输出变形场,很难为前端特征提取阶段自适应地强制执行配准约束,并且这些完全数据驱动的深度网络缺乏明确的拓扑保留约束。成功的配准算法,无论是源于传统的能量优化还是深度网络,都需要计算机专家做出巨大的努力以便很好地设计配准能量,或者针对特定类型的医疗数据仔细调整网络结构。为解决上述问题,本文工作从医学影像配准框架的三个方面（特征空间、相似性度量和转换模型）出发,结合深度学习和双层优化机制,提出了如下配准算法。1)本文提出了基于特征学习的双层配准模型。该模型将变形计算的能量作为上层优化,将特征的最大后验概率估计作为下层优化,协同求解变形场和特定于配准任务的特征。在脑部核磁数据集上的大量实验表明,该研究方法在准确性,鲁棒性和效率方面获得领先性能。2)本文设计了新颖的相似性度量——双层自调整损失函数。具体来说,本文提出了一个新的优化学习框架,它将深度网络、微分同胚优化和灵活适应各种场景的双层自调整训练策略相结合。大量的实验证明了所提出方法具有拓扑保留的领先性能。本文还将该框架应用于多模态图像配准,并验证它在支持下游医学图像融合和分割任务上的实用性。3)本文构建了基于三层优化的自动学习配准框架。该框架自动地设计配准网络的损失函数、特征学习和可变形模块的网络结构,使非计算机专家（例如医疗专家）能够方便地找到适用于不同场景的现成配准算法。在各种配准任务上的结果表明,所提出方法可以自动学习面向给定数据的配准网络,并实现比现有技术更准确高效的性能。