网络流量检测是网络空间安全的关键性基础技术之一,在网络攻击发现、网络行为分析和网络态势感知等领域有着极为重要的应用价值,受到国内外研究人员的广泛关注。随着物联网等新型网络形态的迅猛发展,面向互联网的传统网络流量检测技术在性能开销、分类精细度等方面面临严峻挑战;而近年来以深度学习为代表的新一代人工智能技术日益成熟,为网络流量检测提供了新的方法手段。本文围绕网络异常流量智能检测问题,针对异常流量检测和异常流量分类等两种典型场景开展了深入研究,主要贡献如下:1、针对物联网中网络环境稳定、网络流量规律变化的特点,提出了一种基于新型堆叠自动编码器的无监督流量异常检测方法iAID。在iAID中,我们设计了一种具备特征强化特性的新型堆叠自动编码器网络结构,由深度提取层和强化分类层构成。其中,深度提取层负责提取关键特征信息,强化分类层负责重组输入数据,实现对关键信息的增强。新增加的强化分类层中实现了一种新型的具备隐藏层泛化的去噪算法,增强了深度学习网络的鲁棒性。在系统实现中,还专门设计了数据重构模块,负责获取网络流量维度信息,为编码器网络提供输入。在公开数据集上开展的实验表明:iAID在平均召回率和准确度等方面显著优于现有的Kitstune等算法,可以广泛检测Active Wiretap、OS Scan、SSDP Flood和Mirai等各类物联网攻击。2、针对现有异常流量分类方法难以对DDoS攻击等异常流量精细区分的问题,提出了一种基于三维线性成簇聚类的新型流量异常分类方法A3DC。本文首先创新提出了三维线性成簇聚类算法3DC,充分挖掘了异常流量在低维空间的线性聚集特性,通过矢量距离计算与回归拟合实现对流量的有效聚类。然后以3DC算法为基础,设计了由数据归一化预处理、自动编码器降维和数据聚类三个阶段构成的A3DC方法。在公开数据集上开展的实验表明:A3DC在混合攻击流量分类方面显著优于现有方法,并在DDoS攻击检测中能够获得更高的检测率和更低的误报率。