软件定义网络（Software Defined Network,SDN）作为一种新兴的网络架构,如今已被广泛应用于数据中心等场景中。SDN将数据平面与控制平面分离,网络控制功能都转移至逻辑上集中的控制器中,这样的设计让网络变得更加灵活且易于管理,同时还为网络带来了可编程性。但也正因为采用集中式的控制方式,SDN控制器容易成为DDo S（Distributed Denial of Service）攻击的目标,且作为网络核心的控制器一旦失守,可能导致整个网络都无法正常运行。为了在SDN环境下对DDo S攻击进行防御,已经有众多研究者提出了不少检测和防御方法,但其中仍旧有可以改进的地方。首先,在许多现有的方案中,攻击检测过程会降低控制器性能,而控制器作为SDN核心存在,其性能直接关系到整个网络的正常运行。其次,许多检测方法将数据的收集和攻击检测割裂,检测方法中不包含数据收集过程,这使得检测方法的应用更为困难,使用者必须构造出满足这些检测方法的数据。最后,诸多基于机器学习的检测都是采用监督式学习模型,这意味着训练模型的数据需要包含人工标注的标签,但数据标注工作耗时耗力,且需要网络安全专家对这些数据进行标注,这使得这些检测方法的应用更为困难和复杂。为了解决这些问题,本文提出了一种SDN中基于无监督机器学习的DDo S检测系统——OFAEDDS（Open Flow-Auto Encoder-based DDo S Detection System）,本文主要工作包括:第一,在OFAEDDS中,攻击检测过程与控制器进行了分离,检测过程运行在独立于控制器之外的服务器上,检测过程对控制器的性能影响微小,这保证了网络的稳定运行。第二,基于SDN中原生的Open Flow协议实现了流数据收集器,数据收集过程不需要额外的软硬件支持,且Open Flow协议是SDN的标准协议,不会出现兼容性问题,在检测系统所部署的网络中完成数据收集,收集到的数据也能直接反映出当前网络的状态。第三,结合SDN的特性,提出了一种基于无监督机器学习的检测方法,检测模型的训练数据不需要包含标签,这将大大降低了检测方法部署的难度,同时,检测模型采用流式数据,能够通过所实现的流数据收集器便捷获取。第四,设计并实现了SDN中基于无监督机器学习的DDo S检测系统,并通过实验对其进行了验证和评估。我们首先在仿真网络环境下进行了实验与测试,采用ROC（Receiver Operating Characteristics）和AUC（Area Under the ROC curve）作为评价标准,同时将检测模型与单类支持向量机（One-Class SVM,OCSVM）进行了对比。实验结果表明,OFAEDDS所采用的基于自编码器的检测模型的检测性能要优于单类支持向量机。另外,为了进一步对检测模型进行验证,我们还在包含真实流数据的UGR‘16数据集上进行了测试和评估,结果同样表明了OFAEDDS的检测模型能够对DDo S攻击进行有效的检测,且检测性能表现同样优于单类支持向量机。