缺陷检测是材料学研究与应用中的一项重要环节。晶界缺陷属于一种晶体面缺陷,其存在导致晶体结构容易受到腐蚀,显著降低产品的塑性、硬度以及抗拉强度。目前,晶界缺陷检测主要利用高分辨率透射电子显微镜（High Resolution Transmission Electron Microscope,HRTEM）采集图像,再通过图像处理技术对缺陷进行检测和定位。随着深度学习技术的快速发展,基于深度神经网络模型的检测技术逐渐成为晶体材料领域的研究热点,但针对HRTEM图像晶界缺陷的研究相对较少。本文对HRTEM图像晶界缺陷的特点开展研究,通过优化深度学习网络提高缺陷检测的性能和速度。研究内容和创新点如下:首先,针对HRTEM图像晶界缺陷检测过程漏检率高、定位精度低的问题,提出了一种基于改进Efficient Det的晶界缺陷检测算法。通过对现有目标检测网络性能和速度的对比分析,选定基于Efficient Det网络模型进行算法优化。为了降低漏检率,算法对Efficient Det网络进行了改进,通过引入特征融合模块,对骨干网络Efficient Net和Bi FPN（Bidirectional Feature Pyramid Network）网络提取的特征层进行加权融合,更好的提取晶界的精细边缘特征。进一步地,为了提高缺陷的定位精度,算法对定位损失函数进行了改进,利用CIo U（Complete Intersection over Union）损失函数替换原有的L1损失函数。实验结果表明,与原算法相比,改进算法对HRTEM图像晶界的检测性能定位精度更优,AP（Average Precision）指标平均提高了4.8%,AR（Average Recall）指标平均提高了5.4%。其次,为了提高算法的运行速度,减少网络模型的参数量,本文进一步研究了网络模型的剪枝技术,设计了基于权重剪枝和BN（Batch Normalization）层通道剪枝的Efficient Det模型压缩算法。通过对卷积层和全连接层可学习参数的重要性排序,对权重低的参数置零,实现权重矩阵的稀疏化。对于BN层通道矩阵,则采用L1正则化求稀疏解。为了最大限度保持网络性能,算法采用迭代训练的方式对剪枝后的参数微调。实验结果表明,剪枝后模型的参数量降低了70%,模型的计算量FLOPs（Floating Point Operations）降低了60%,而AP值仅降低2.4%。