软件定义网络(Software-Defined Networking,SDN)凭借其可编程性与开放灵活的特点成为未来网络发展的趋势。控制器作为SDN网络功能的核心部件,具有极其重要的作用和地位,但也因此导致其成为网络攻击的焦点,一旦控制器被恶意劫持,攻击者可以任意修改流规则实现对网络流行为的控制,造成严重的安全威胁。针对SDN控制器安全问题,现有的解决方案仍具有防御被动性、静态性的缺陷,多为了提升控制层的可用性,而无法有效防御控制器被劫持控制的局面,特别是面对基于0day漏洞、系统后门等所发动的高级持续威胁(Advanced Persistent Threat,APT)尚力不从心。本文结合拟态防御理论,构建一种SDN控制器主动防御机制,通过异构冗余控制器架构以及动态防御策略,增加控制器对网络攻击所呈现的动态性和不确定性,进而加大攻击者利用系统弱点实现控制器劫持的难度,提高了控制器的安全可靠性和防御灵活性。本文主要研究内容包括:1.针对现阶段控制器安全研究方案所具有的防御被动性、静态性缺陷,结合拟态防御理论相关研究,设计一种基于动态多样性的控制器主动防御机制,根据控制器执行体异构度与调度历史更新原则建立调度算法以确定执行体选调方案。仿真实验对多种方案进行了对比分析,结果表明相比静态结构,动态多样性调度能够有效提升控制器系统的安全系数,同时所提算法避免了调度局部极值问题。2.针对控制器主动防御过程中不同状态的防御策略选择问题,建立马尔可夫攻防博弈模型,以分析控制器攻防博弈过程中动态化、多样化的攻防状态,根据防御容忍度和攻击表面的改变量定义了攻防双方收益函数并通过非线性规划解决均衡策略选择问题,仿真实验对比移动目标防御模型验证了本文模型的安全性,同时基于控制器执行体弱点信息评估了不同状态下的攻防策略,给出了多种攻击路径下的最优防御措施。3.针对复杂多样的攻击手段,通过动态性、主动性的防御能显著增加攻击难度,但这种主动式的防御难免产生一定的防御代价,而面对不同类型的攻击方式存在防御效率方面的问题,通过建立控制器主动防御过程中的安全收益与防御代价模型,结合增强学习相关算法,设计一种自适应选择防御动作时间间隔的控制器主动防御机制,仿真实验对比了几种不同偏向的防御者类型,验证了平衡型的防御策略能够减少不必要的主动防御损耗,提高防御效率和防御灵活性。