脑肿瘤是一种全球死亡率较高的疾病,对病变组织范围的界定是对脑肿瘤定量评估和制定治疗计划的一个主要挑战。近年来,基于核磁共振成像（Magnetic Resonance Imaging,MRI）的脑肿瘤分割研究因其无创成像和良好的软组织对比度而受到越来越多的关注。核磁脑肿瘤分割是指,基于脑部核磁共振影像,将坏死细胞、水肿、活跃细胞从脑脊液等正常组织中标记出来,从而确定肿瘤范围的过程。目前,常规临床中采用人工分割的方法。该方法由一个或多个专家凭借知识经验进行手工标注,不仅耗时费力而且具有主观性。即使同一专家在不同时候得到的分割结果也可能不相同。为了解决人工分割的弊端,本文基于深度学习技术研究脑肿瘤自动分割算法,具体研究成果如下:（1）研究分析了基于U-Net网络模型分割算法的原理和优化方案。U-Net采用四次上采样和四次下采样以及跳层链接结构,该结构可以更好地结合核磁脑肿瘤的低分辨率信息以及精准分割定位的高分辨率信息,减少卷积过程的信息损失。通过数据预处理和后处理、引入残差机制和注意力机制、改进损失函数等多种策略对该算法进行改进,并在Bra TS（The Brain Tumor Segmentation Challenge）数据集上进行模型训练、测试。实验结果表明:残差机制对于算法性能提升较小;注意力机制能够使模型集中病灶区域,更有利于分割准确度;通过改进损失函数可以在一定程度上解决细粒度数据不均衡问题,从而提升算法性能。（2）基于（1）的研究成果,本文提出了一种基于MASegGAN模型的脑肿瘤分割算法。该模型由肿瘤分割器（Tumor Segmentor,TS）和分割判别器（Prediction Discriminator,PD）组成。肿瘤分割器使用了类似U-Net网络的编码器-解码器模型,并采用平行分支来利用不同模态特征,最终生成概率图。分割判别器由卷积层、多尺度平均误差和Focal损失函数构成。在训练过程中,二者进行动态博弈最终达到平衡。采用五折交叉验证和模型融合方法得到最终模型,然后在Bra TS数据集上进行测试,在整个肿瘤、增强肿瘤和核心肿瘤的平均Dice分值分别为0.9016、0.8987和0.9147,在整个肿瘤和增强肿瘤部分的分割结果优于当前主流算法性能。同时,实验也验证了多模型融合可以进一步提高脑肿瘤分割的准确度。最后,为了方便医生使用该算法,将训练好的模型应用在一个可视化的、支持交互操作的脚本中。