软件定义网络（Software Defined Networking,SDN）作为新兴的网络架构,具有集中控制、高利用率、可编程的优点,是未来网络提供灵活、多样的网络连接和服务不可缺少的部分,在物联网和云计算等领域具有广泛的应用前景。但SDN带来便利的同时也面临着许多安全挑战。其中,分布式拒绝服务（Distributed Denial of Service,DDoS）攻击是最值得关注的安全问题之一。在SDN网络中,DDoS攻击持续耗尽网络中关键设备的资源,导致SDN网络无法提供正常服务,甚至崩溃。近年来,网络功能虚拟化（Network Function Virtualization,NFV）技术的出现,为解决SDN中的DDoS攻击问题提供了新的思路。NFV凭借高效的资源管理能力和灵活的动态部署等优点,开始被引入到SDN网络中,并用于提高SDN网络的安全性。本文针对SDN网络中的DDoS攻击问题,以检测攻击、溯源攻击和缓解攻击为目标,通过结合NFV技术对DDoS攻击防御方法展开研究,主要研究工作包括:（1）基于强化学习-随机森林算法的DDoS攻击检测方法。针对SDN网络中DDoS攻击检测方法在控制器负载和检测精度方面的不足,设计基于软件定义网络的网络功能虚拟化（Software-Defined Network Functions Virtualization,SDNFV）网络架构,提出基于强化学习-随机森林算法的DDoS攻击检测方法,用于改进检测精度和减轻控制器负载,提高SDN网络整体的安全性。通过仿真实验对方案性能进行验证,表明该方案在攻击响应时间、CPU利用率和检测精度方面表现较好。（2）基于分类策略的DDoS攻击溯源方法。针对SDN网络中DDoS攻击溯源方法在溯源效率和溯源响应时间方面的不足,基于本文提出的SDNFV架构,提出依据DDoS攻击检测结果的分类策略。对分类后处于危险状态的位置,采取基于条件熵的路径回溯,并对处于可疑状态的位置进行部署监测节点。通过仿真实验对方案性能进行验证,表明该方案在溯源时间和CPU利用率方面表现较好。（3）基于囚徒困境博弈的DDoS攻击缓解方法。针对SDN网络中DDoS攻击缓解方法在伸缩性和资源利用方面的不足,设计多控制器协作系统,通过协作系统内部成员的协作完成DDoS攻击缓解作用。并针对上述系统中的成员在协作过程中采取“自私行为”和“恶意行为”的问题,引入囚徒困境博弈技术,提出添加赏罚分明激励机制的重复囚徒困境博弈模型,并依据博弈结果,提出基于社会信誉值的资源分配机制,从而提高协作系统的协作性。通过仿真实验对方案性能进行验证,表明该方案在分组丢包率、信誉值和资源分配量方面表现较好。