文字是高层视觉元素,包含着丰富的语义信息,通过文字检测或者识别等视觉任务挖掘图像中的文字信息对于以图搜图、自动搜索、自动翻译、人机交互等具有重大意义。针对复杂场景的文字检测进行了大量的研究,相关方法主要分为两大类,一类是基于传统方法的文字检测方法,一类是基于深度学习的文字检测方法。然而,现有的方法多针对于水平方向的文字检测,而任意方向文字检测的研究尚处于初级阶段。此外,现有的方法的精度和速度也不尽人意,无法适应复杂场景下文字的多样变化,例如模糊、低分辨率、遮挡等。本文针对这些问题展开研究,研究内容和主要贡献包括以下几个方面。第一,设计了基于变形卷积和特征金字塔卷积相结合的深度神经网络架构用于场景文字检测。本文借鉴特征金字塔网络的思想,对底层的特征映射图用3×3卷积进行上采样,再用1×1卷积改变通道数,然后与上层的特征映射图融合。这样使得框架的表达能力更加强大,实验结果表明了其优越性。普通的深度检测框架所用的卷积层对应的感受野一般都是水平矩形框,形状单一。对于复杂场景的文字而言,它的形状是一个不固定的四边形,本文于是在SegLink网络当中加入变形卷积层,从而使得其感受野可以任意变化,增强模型的容纳能力。实验结果使得改进后的SegLink又得到一次提升。另外,本文借鉴Mask-RCNN的思想,在SegLink框架中加入了掩模信息,将掩模信息引入网络而使之参与训练,使得网络又多了一个更为精细的监督,实验结果也证实了它的优越性。第二,设计了基于残差网络和焦点损失相结合的深度神经网络架构用于场景文字检测。本文对一个快速且精确的文本检测框架(Efficient and Accurate Scene Text Detector,EAST)的基础网络PVANet进行改进,采用ResNet-50,并结合精炼网络等结构,以及融合各层的特征来增加网络的表达能力。此外,本文将EAST本来的平衡损失改为焦点损失。EAST的标注信息是像素级别的,正负样本的比例严重失平衡。EAST原文对正负样本添加了各自的权重系数,以此来平衡其比例。但是,这样做却没有区分简单样本和困难样本,可能出现梯度被简单样本占据的情况,所以对于困难样本增加其权重,削减简单样本对损失的贡献率,这样使得训练更加稳定。最后,本文对网络输出层的特征映射图进行扩大,以获得更好的结果。