异常检测的目标是找到与正常模式不同的对象,是很多领域的一个基础性问题。异常检测技术不论在工业生产中还是在日常生活中,应用范围都非常广泛。在大数据时代,异常检测主要面临三个难题:样本不均衡、数据缺少标注以及异常多样化。基于无监督学习的异常检测是当前研究者最关注的主流技术之一,本文研究了基于自编码网络的异常检测方法及其在高铁轨道扣件病害识别场景中的应用。论文的主要工作和创新点如下:(1)提出了基于局部优先编码的异常检测模型LRGAN(Locality-preferred Recoding Generative Adversarial Network)。深入研究并分析了基于自编码网络的异常检测方法的重构样本性质,发现了中间层隐向量分布的局部性,启发了LRGAN模型的研究思路;LRGAN中的局部优先编码模块强制性的使用正常样本的隐向量来表示异常样本,使得异常样本重构出来的样本会偏向于正常样本,重构差异就会增大。并且,在LRGAN的基础上依据聚类和自适应阈值距离这两种策略进一步提出了LRGAN+,它利用聚类得到更紧凑的码本和自适应阈值距离自动判断是否重编码隐向量,在LRGAN的基础上更进一步提高了异常检测模型的性能。基于两个公开数据集和两个评价协议,验证了本文提出的LRGAN和LRGAN+模型,实验结果表明LRGAN能取得与当前最好方法相当的检测效果,LRGAN+取得的异常检测效果要较大幅度优于前沿的异常检测模型。(2)提出了基于对抗自编码网络的扣件异常检测方法。该方法集成了自编码网络和对抗生成网络,构建了扣件异常检测的神经网络模型;特别地,该方法在预测过程中应用局部优先编码模块,这种后处理策略不仅减低了模型训练的复杂度、提升了模型的灵活性,而且取得了与LRGAN+可比的检测性能。