大脑核磁共振（Magnetic Resonance,MR）图像分割是很多医学图像分析应用中至关重要的一步。随着机器学习方法的快速发展,基于机器学习方法开发自动的大脑MR图像分割方法是当前研究的热点问题之一。机器学习方法能够从MR图像中学习到体素的分布,然后使用学习到的模型对图像进行分割。由于大脑结构极其复杂,有效的分割大脑MR图像是一个具有挑战性的任务。利用来自多图谱的解剖结构先验知识被证明可以有效的提高脑MR图像的分割效果,本论文基于机器学习方法并结合多图谱解剖结构先验对大脑MR图像分割开展研究工作:（1）基于高阶特征表示的多图谱大脑MR图像分割;（2）基于解剖结构先验的深度神经网络的大脑MR图像分割;（3）基于可靠性估计的鲁棒多图谱标签融合;（4）基于解剖结构约束网络的婴儿皮层表面拓扑校正。主要工作和创新点如下:（1）为了更有效地表示图像块中体素的高阶关系,本文提出一种基于高阶特征学习的多图谱大脑MR图像分割方法。具体来说,一种无监督特征学习方法（即均值-协方差限制玻尔兹曼机）用于提取大脑MR图像上图像块的高阶特征。然后,一种基于group-fused约束的稀疏字典学习方法根据学习到的特征和原始图像的灰度特征联合学习用于标签融合的投票权重。我们将本文提出的方法与几种先进的标签融合方法在ADNI、NIREP和LONI-LPBA40数据集上进行比较。三个数据集上的实验结果表明本文提出方法的有效性。（2）利用深度网络速度快和多图谱方法分割效果好的优点,本文提出一种基于解剖结构注意力深度网络的大脑MR图像分割方法。该网络包含两个子网络。第一个子网络为分割子网络,用于提取图像的判别性特征并将输入的MR图像分割成多个感兴趣区域。第二个子网络为解剖结构注意力子网络,用于刻画来自多个带标注的图谱图像的解剖结构信息。为了有效的利用来自图谱图像的解剖结构注意力信息,我们开发了一个解剖结构门结构用于融合来自图谱图像的特征映射和待分割图像的特征映射。通过这种方式,来自图谱图像的解剖结构先验信息能够有效的指导分割子网络进行分割。在该框架下,基于FCN和U-Net两种经典分割网络结构,我们提出了两种基于解剖结构注意力分割模型,即基于解剖结构门的全卷积网络和基于解剖结构门的U-Net。在ADNI和LONI-LPBA40数据集上的结果显示,与其对应的传统网络相比,本文提出的AG-FCN和AG-UNet在大脑MR图像感兴趣区域分割上取得了优越的性能。并且与传统基于多图谱的分割方法相比,本文提出的AG-FCN和AG-UNet具有更高的时间效率。（3）针对大多数误分割体素出现在感兴趣区域边界这一问题,本文提出一种基于可靠性估计的鲁棒多图谱标签融合的大脑MR图像分割方法。具体来说,首先,我们使用传统基于多图谱的分割方法对大脑MR图像进行初始化分割。然后,对目标图像上的每个体素根据初始分割后的软标签和空间信息定义两种可靠性,即标签可靠性和空间可靠性。最后,我们使用目标图像上高可靠性的体素对低可靠性体素的分割结果进行进一步的精炼。我们将四种经典的多图谱分割方法融入该框架中,包括LWV、PBM、JLF和SPBM。因此,得到四种标签-空间可靠性标签融合方法ls-LWV、ls-PBM、ls-JLF和ls-SPBM。我们在NIREP、LONI-LPBA40和ADNI数据集上验证本文提出的方法。NIREP、LONI-LPBA40和ADNI数据集上的实验结果证明本文提出的基于可靠性估计的鲁棒多图谱标签融合方法可以有效提高传统标签融合方法的分割精度。（4）为了校正婴儿MR图像组织分割错误导致的拓扑错误,本文提出一种基于解剖结构约束的卷积神经网络的婴儿皮层表面拓扑校正方法。具体来说,我们首先使用拓扑保持水平集方法检测拓扑缺陷区域。然后使用本文提出的基于解剖结构约束的卷积神经网络校正拓扑缺陷区域中的体素分割结果。然而,婴儿皮层表面通常包含体积大的复杂拓扑错误,这使得很难通过一次校正对所有拓扑错误进行校正。因此,我们将上述两步融合到一个迭代框架中,逐步的校正复杂的拓扑错误。据我们所知,这是第一个使用深度学习方法对婴儿皮层表面进行拓扑校正的工作。我们将该方法与当前最先进的方法在人类婴儿模拟拓扑错误数据集、人类婴儿真实拓扑错误数据集和猕猴婴儿真实拓扑错误数据集上进行对比。实验结果证明了本文提出方法能够更好的校正婴儿大脑皮层表面的拓扑错误。