自20世纪末互联网问世以来,网络随着时代的变迁而蓬勃发展,特别是随着新冠疫情在全球快速传播,移动互联网也在以前所未有的速度飞速发展,随之出现的网络安全问题也越来越多,受到人们的广泛重视。分布式拒绝服务（Distributed Denial of Service,DDoS）攻击是目前黑客所常用的一种攻击方式,其通过利用被黑客程序感染的多台“肉鸡”,基于UDP、DNS、HTTP、ICMP等各种网络协议的漏洞向目标服务器发动攻击,导致被攻击目标的系统资源耗尽,直至服务崩溃,从而导致被攻击的目标拒绝为正常访问的用户提供服务。DDoS攻击对政府、商业、医疗、军事等领域都会产生较大的网络安全威胁,一旦发生DDoS攻击往往会伴随着较大的经济损失。DDoS攻击检测是最为常见的防御手段,在现阶段DDoS攻击检测主要有四种方法:基于数理统计、基于机器学习、基于深度学习、基于混合模型。传统的数理统计、机器学习方法依赖于人为设定的阈值或特征工程,无法适应多变的DDoS攻击场合。因此本文提出了基于自编码器（Auto Encoder,AE）与XGBoost相结合的混合检测模型,主要工作如下:（1）提出了混合流量数据集（Mixed Flow Data,MFD）。本文根据DDoS攻击特点对论文中使用的公开数据集CIC-DDoS2019进行数据预处理。其他研究学者使用该数据集时,都忽略了在这个数据集中的许多重复数据,如果不对这些重复数据进行数据清洗,最后分类器的结果会被高估,但这种高的准确率是无意义的,因为分类器只是将完全相同的数据进行分类,并且CIC-DDoS2019中的重复数据占了约40%,需要对重复数据进行删除;同时将CICIDS2017数据集引入,通过两个数据集的结合并进行数据清洗,构建出本文研究所使用的混合流量数据集MFD,其相较其他网络安全领域的数据集具有符合真实网络环境流量分布的特点。（2）设计了基于CNN的自编码器模型,通过该模型对网络流量数据进行深层特征提取并降低输入XGBoost分类器的特征维度。AE模块可以在尽可能少的损失信息的情况下提高分类器对输出特征的分类精确度,降低分类器的计算量。同时本论文还在自编码器的网络模型中引入了 Focal Loss以解决AE在处理不平衡数据集时的效果。（3）提出了 DDoS攻击检测模型AE-XGBoost,该模型通过将AE与XGBoost分类器相结合,在提高准确率的同时降低了模型的计算时间。本文通过实验验证了加入AE对模型性能的正面影响和AE相较于其他特征降维方法的优越性,最后通过分析AE-XGBoost在三个公开数据集和本文提出的MFD上的分类性能,结果表明AE-XGBoost模型在DDoS攻击检测任务上具有良好的效果。