当前,各种新技术新应用不断更新迭代并通过智能手机上各式各样的应用走进了大家的生活,这些创新应用中的每一个都与网络的互连和互通密不可分。网络技术的快速发展使得网络安全问题尤为突出,网络上的攻击手段日趋多样化,安全的网络环境是信息化时代持续健康发展的基石。网络的快速发展导致了网络数据量的爆炸式增长,传统的网络安全防御与检测手段,如防火墙与传统的入侵检测等方法难以在庞大的数据量中发挥有效作用。因此,大多数的新型入侵检测系统开始与机器学习的相关方法进行结合,将机器学习的方法应用到入侵检测系统的数据分析与处理的过程中。实践证明,入侵检测与机器学习方法的结合提高了入侵检测系统的检测效率,使其更具智能性,降低了检测的漏报率和误报率。但是,随着机器学习在各个领域的深入应用,给我们的生活带来了便利的同时,机器学习自身的安全性问题也得以暴露,这对采用机器学习算法的入侵检测系统埋下了安全隐患。(1)对抗环境中机器学习算法的脆弱性分析。本文提出采用了梯度优化理论的对抗样本生成方法,阐述了对抗环境下由机器学习算法的脆弱性导致的对抗样本投毒攻击对入侵检测系统造成的影响。首先针对机器学习算法面临的安全威胁进行分析,然后针对特征选择算法的应用与分类进行了阐述,通过对特征选择算法模型的分析,提出针对特征选择算法的对抗样本生成方法,利用产生的对抗样本诱导特征选择的相关算法,分别从分类错误率、特征子集的一致性的角度深入开展了对抗环境下的特征选择算法的鲁棒性研究。我们采用了3种经典的Embedded和1种Filter特征选择算法作为评估对抗样本对鲁棒性影响的目标算法,通过在KDD99、NSL-KDD、Kyoto 2006+和WSN-DS四个数据集上进行实验,结果表明,我们的对抗样本生成算法可以有效地干扰特征选择的准确度,使样本分类准确率显著下降。(2)对抗环境下相关攻击的防御手段的研究。本文将两种方法相结合进行研究,第一种方法是在对抗样本的防御中较为常见的主动防御机制,包括对抗样本学习和数据清洗两种方法。第二种防御方法是基于移动目标防御(Moving Target Defense,MTD)的方法。我们结合主动防御的方法,利用MTD的思想提出了基于MTD的特征选择算法防御模型(Moving Target Defense for Feature Selection,MTDF),通过配置多种MTDF防御策略,在每次模型学习时切换使用不同的防御及算法组合,来达到更高的鲁棒性。通过在NSL-KDD和Kyoto 2006+两个数据集中进行实验验证,对抗样本对采用了MTDF的系统分类准确率的影响显著下降,即分类准确率在对抗样本的影响下依旧可以保持较为稳定的水平,因此利用这种防御模型可以有效提高相关入侵检测系统的鲁棒性。综上所述,本文针对对抗环境下特征选择算法的攻击及防御进行了深入研究,针对特征选择算法的脆弱性,提出了基于梯度优化的特征选择投毒算法,并利用实验进行了验证;并据此对特征选择算法在对抗环境中的防御方法做了研究,提出了基于MTD的特征选择算法防御模型,并利用实验进行了验证,实现了对于对抗环境下机器学习算法安全性的深入分析。