面对日益增长的网络安全需求,入侵检测系统越来越被人们关注。当前的入侵检测系统存在着检测效果、实时性和可扩展性等方面的不足,难于处理大规模数据。非负矩阵分解算法能够从大规模数据中提取关键特征,从显式变量中找出隐藏变量,将高维数据降维,适合处理大规模数据。所以本文研究将非负矩阵分解应用于入侵检测领域,为解决入侵检测系统实时快速处理高维海量数据的问题提供一种新的方法。异常检测能够检测未知入侵,是未来入侵检测系统的发展方向。异常检测的难点在于如何从计算机系统产生的大量冗余信息中提取特征,建立富含特征信息而又适合于分析处理的模型。本文从基于程序行为建模的研究开始,分析了两个具有代表性的入侵检测模型。针对这两类模型的特征提取工作分别只使用系统调用数据的时序或频率特性之一的不足,创新的提出一种新的特征提取方法,综合了两者的优点,能够更准确的检测入侵。这种数据预处理方法能够得以使用的原因在于本模型所使用的非负矩阵分解算法具有强大的数据处理能力。本文简述了非负矩阵分解算法的原理,以在图像识别领域的应用实例说明了该算法具有非凡的特征提取和数据降维能力,特别适合于处理大规模数据。论证了非负矩阵分解算法在入侵检测中应用的可行性。基于以上理论设计了一个入侵检测模型,将进程的入侵检测问题转换为向量的异常检测问题来处理。利用非负矩阵分解算法的数据降维功能,提取特征,精简数据,将高维向量空间投影于低维向量空间,在低维空间进行异常检测。最后进行了一些初步的实验,并给出结果。