基于智能监控的异常行为检测对社会维稳治安具有重要意义。本文对现有的异常行为的检测方法进行了归类和分析,并针对基于生成对抗网络的异常行为检测方法进行深入研究。生成对抗网络在异常行为检测方面表现较好,但传统生成对抗网络的检测方法存在浅层的时空特征利用率较低、深层网络训练使梯度消失等问题。本文在生成对抗网络的基础上,提出了两种基于预测思想的深度学习模型,主要研究内容如下:为解决生成网络中特征学习不充分的问题,本文提出一种融合门控自注意力机制的生成对抗网络视频异常行为检测方法。通过生成网络U-net的跳连结构逐层引入门控自注意力机制,在采样过程中抑制输入序列中与异常检测任务不相关区域的特征信息表达,关注与任务相关的视频序列的显著特征,为模型特征提取过程中的浅层特征和深层特征进行权重分配,从而更好地针对视频样本的空间维度的信息进行建模。判别网络采用马尔可夫判别器进行训练,两者通过对抗学习进行训练优化。同时,利用lite Flownet光流网络关注视频序列的时间维度特征来保证视频序列之间的连续性。为加强模型受噪声影响的抗干扰能力,在模型训练过程中加入强度损失、梯度损失和运动损失函数保证模型检测的稳定性以实现对异常行为的检测。本方法在CUHK Avenue、UCSD数据集上的AUC分数较高,在异常行为判定的准确率上达到较好的效果。为进一步地实现对视频的空间特征和时间特征地充分提取,本文提出了一种融合循环残差网络的生成对抗网络视频异常行为检测方法。此方法结合循环网络、残差网络和U-net网络的结构优势,针对生成网络模块进行优化。在生成网络U-net的卷积层中引入循环结构,在向下采样的卷积单元中引入残差单元,并将该层的输入特征与输出特征融合后作为下一层的输入。此结构对浅层特征深度利用,保证浅层特征信息损失的最小化。同时利用预训练好的Flownet网络进行视频序列的运动特征提取,生成光流预计图。最后将生成图像和光流预测输入判别网络中进行结果判定,得出真假结果。与基准模型相比本方法的AUC指标和生成图像的质量有了明显的提升,表明该模型在生成网络部分引入循环残差结构后,对特征进行有效提取。本文通过对异常行为检测算法的研究,发现了在视频场景下对时空维度特征提取的不足,进一步深入研究后提出了两种有效的解决方法,提升了异常行为检测的准确率,为检测算法的应用推广打下基础。