铁路运输是我国主要的运输方式,在交通运输领域占有重要的地位。铁路重点区域的人员干扰是影响铁路运输安全的重要因素,因此铁路场景下的行人检测算法研究对于铁路运输安全具有重要的意义,其中小尺度行人检测是行人检测算法研究的重点和难点。本文的主要工作如下:(1)针对传统铁路预警方法耗费大量人力资源、检测效率低等问题,构建了一种基于卷积神经网络(Convolutional Neural Network,CNN)的小尺度行人检测模型。在分析通用行人检测算法的基础上,根据实际铁路场景的特点,基于Faster R-CNN(Faster Region CNN)模型实现铁路场景下的行人检测。针对数据集的问题,扩充了铁路场景小尺度行人图像;设计卷积神经网络各部分结构,确定损失函数和训练策略,完成了Faster R-CNN模型的搭建。(2)针对小尺度行人特征表达能力弱、漏检率较高等问题,优化了基于Faster R-CNN的小尺度行人检测算法。首先针对检测目标与anchor匹配度较低的问题,基于K-means和Mean shift的改进算法,给出了自适应候选区域网络(Adaptive Candidate Network,ACN),提升了候选区域的生成效率;分析了小尺度行人难以检测的原因,融合浅层的细节信息和深层的语义信息,基于多层级特征融合实现了行人检测,增加了目标的特征表达能力;针对数据集有标签数据较少的问题,基于Faster R-CNN的半监督学习(Semi-supervised Learning,SSL)实现了无标签数据和有标签数据的混合训练,有助于获取更多的行人信息。实验结果表明该算法能够有效降低铁路场景下小尺度行人的漏检率,取得了良好的检测结果。(3)基于行人检测算法设计了铁路场景下的行人检测系统,其将数据采集、模型训练、模型推理等通过控制界面形成行人检测系统,通过行人图像采集与处理测试验证了系统的行人检测功能,可用于铁路场景下的行人检测。