随着电子信息产业的快速发展,人们希望通过各式各样的电子设备理解这个世界的愿望越来越迫切。自然场景下的文字检测对于文字识别起到了至关重要的作用,同时文字识别对于理解当前的场景提供了高级的语言信息。不同于传统的光学字符识别(Optical Character Recongnition),对文本资料的图像文件进行分析识别处理,自然场景下的文字检测针对的是形式各异的文字图像,无疑提升了检测难度。近年来,深度学习的快速发展给图像检测提供了新的方法,本文通过使用ICDAR文本数据集,基于深度学习对自然场景下的文字检测做了以下两个方面的研究:1.基于实例分割神经网络的自然场景下的文字检测方法。语义分割神经网络针对图像中的每个像素点进行分类,实例分割神经网络在语义分割神经网络像素点分类的基础上再次划分出了每个检测目标的序号。本文中的实例分割神经网络,利用卷积神经网络提取图像中待检测区域的特征,再通过全卷积网络融合低级空间位置特征和高级语义信息特征,对图像中的每个像素进行分类,与此同时,预测当前像素与周围8个像素的链接,当像素类别为文本同时其与周围8个像素的链接都为正,则连接此片区域。此方法有效的解决了自然场景文字检测中目标区域背景复杂多变的问题,在ICDAR2015数据集上,对比Seglink算法在F值上提高了8.7%。2.基于可变形卷积和注意力机制的自然场景下的文字检测方法。区别于通用目标检测,自然场景下的文字目标具有更加不规则的形态。针对此问题,本文提出基于可变形卷积的文字检测方法,可变形卷积通过添加偏移量扩展了卷积的空间采样范围,解决了常规卷积只能在固定位置采样导致的缺陷,并且其不需要额外的监督项,能够直接在目标任务中进行训练。针对为了提取特征带来的网络过深的问题,本文基于注意力机制的自然场景文字检测,提出在构建基础特征提取网络的过程中加入注意力机制,注意力机制模拟人类处理视觉信息的方式,对一个场景只关心待检测的区域,利用注意力机制可以获取带权重的特征值,提升了本文自然场景下的文字检测方法性能,对比单纯的实例分割网络,添加可变形卷积和注意力机制的网络在F值上提升了1.1%。