随着我国铁路信息化的发展,监控摄像头逐渐普及,监控范围扩大,铁路安全监控人员的工作强度不断增加。传统的依靠人工观看监控视频的方法不但费时费力,还容易造成视觉疲劳带来的误检漏检,这就迫切要求机器视觉技术能在铁路视频监控中发挥作用,高效准确的对监控视频进行分析。本课题的目的是在于利用机器视觉技术代替人眼,对铁路视频监控中的目标检测和行为识别技术进行研究。论文的主要研究工作如下:(1)介绍了铁路视频监控中的智能检测技术,分析了铁路视频监控系统的结构,给出了将智能监控技术应用于铁路监控的必要性。(2)从传统的帧间差分法、光流法和背景统计模型出发,研究运动目标检测算法。针对传统高斯差分不能提取清晰目标轮廓的问题,设计了梯度图像与混合高斯模型相结合的目标检测方法,并对前景提取中容易出现的空洞和阴影问题提出解决方法,设计了基于HOG和LBP特征相结合的行人检测模型。(3)对现在在图像识别、检测方面炙手可热的人工神经网络,从网络结构、损失函数和网络优化算法几个方面对其进行了分析。针对传统的目标检测方法鲁棒性不高的问题,通过分析基于区域候选的人工神经网络,设计了基于Faster-RCNN的铁路目标检测模型,最后训练了铁路目标检测模型,并在自制数据集上进行训练和验证,实验表明本文网络可以对小目标准确检测,对光照环境影响鲁棒性强,平均准确率达到了81.1%。(4)分析了铁路监控视频中不同场景下的异常行为,设计了铁路监控视频中异常行为的识别系统原型。针对人工设计特征进行行为识别时,存在过程繁琐等问题,提出一种基于三维卷积神经网络的行为识别方法,并对网络结构进行改进,增加了网络的深度,并修改了输入图像的长度和大小,最后设计实验对比不同采样方式对网络的影响,实验表明更深的网络结构和输入帧长度能提高行为识别的准确率,在KTH数据集上平均准确率达到93%以上,比原始网络提高3%左右。