互联网技术的飞速发展给网络环境带来了更多的网络流量,网络安全已经成为网络管理者必须认真面对的重要问题,提高网络安全防护水平、研究网络异常流量检测具有长远意义。SDN网络相对于传统的IP网络的区别为它分离了控制层和转发层,是一种创新的网络结构,通过利用它可编程、易扩展的特点可方便对整个网络进行集中控制,为异常流量检测提供了新的机遇。本文充分利用了SDN网络环境的特点,在对现有的基于数据挖掘的异常流量检测技术进行深入研究的基础上,设计并验证了一个包含数据流量采集和分类的异常流量检测系统。考虑到SDN网络的数据流量较大且网络资源有限,为了避免网络中出现过大的流量负载,不能将流表中的数据全部传递给异常检测服务器,所以本文提出了一种基于遗传算法的流量采样方法。该方法以所有数据流的误判率之和作为目标函数构造了最优化模型,然后利用遗传算法求解模型得出采样点的最优采样概率。经实验证明,本文提出的流量采样方式,在保证较低的网络负载情况下提高了入侵检测效率,达到了高效捕获恶意数据包的目的。在确定了合适的流量采样概率之后,SDN控制器使用数据挖掘算法对所采集到流量进行异常流量检测。本文通过分析核函数及其参数的选择对SVM性能的影响,提出了一种优化的基于信息熵特征加权组合核函数的SVM方法,以达到对网络流量进行分类从而进行异常流量检测的目的。该算法首先利用信息熵提高有利于分类的特征的贡献以避免结果陷入局部最优,随后借鉴多核学习的思想以增强算法的适应性,再利用优化的遗传算法进行组合核函数的选择、组合核函数参数及错误惩罚因子的求解。实验证明该算法相比于其他类似的优化SVM算法具有更高的分类精度,并且收敛速度也较快。最后,本文提出新的SDN网络体系结构,并对SDN网络中的IDS模块的部署以及控制平面的结构模型进行了概述,介绍了SDN网络异常流量检测系统的总体设计和模块设计。通过Mininet搭建真实的SDN网络环境并模拟DDoS攻击进行仿真实验,实验结果表明本文提出的基于数据挖掘的异常流量检测系统对网络环境的适应性较强,对异常流量的检测效果良好。