软件定义网络(Software Defined Networking,SDN)提出控制与转发相分离的集中式控制架构,提供开放的编程接口和细粒度的报文操作,为网络应用带来了创新与便利。SDN作为一种新型的网络架构,同时也面临着新的安全挑战,主要反映在控制层,包括管控集中、控制器漏洞和恶意应用。针对此,研究者提出了多种多样的解决方法,例如,融入传统防御技术、采用安全机制及优化控制器部署等,但均存在各自的缺陷,尤其是不能较好地防御控制层中的未知安全威胁。拟态防御是一种新型的主动防御技术,通过构造动态、异构、冗余的架构提高信息系统内生的安全性,旨在改变当前网络“易攻难守”的困局。研究者在理论推导和工程实践中均验证了拟态防御技术对目标系统的安全增益,逐步在有高安全需求的信息领域中推广应用。因此,探索将拟态防御技术应用到SDN的控制层中,对于提高网络的安全性具有重要的意义。基于此,本文研究了软件定义网络中拟态防御的关键技术,首先,提出具体可行的防御架构并解决引入的新问题,然后,量化研究其中的安全调度策略和拟态同步问题。主要研究成果包括:1.针对当前SDN网络中的安全问题,提出一种具有动态、异构、冗余(Dynamic、Heterogeneous、Redundancy,DHR)特性的集中式的安全控制架构,即引入拟态防御技术,从构造上增强控制层的抗攻击能力。首先,在分析SDN原型实例--OpenFlow协议的基础上,提出基于控制器代理的DHR架构,使得能够同时存在多个主控制器。其次,基于FlowVisor实现该代理的原型系统,着重解决引入的新问题,包括控制器组的定义与调整、响应的识别与分组等。然后,针对多个异构控制器输出响应的差异化问题,提出一种基于头空间分析的拟态裁决方法,能够在语义层面对比多组流表项。最后,通过对比测试该原型系统,验证了拟态防御技术能够提升SDN网络的可靠性和安全性,但也增加了一定程度的性能开销和响应延迟。2.针对规模大、分布广的SDN网络,提出一种分布式的拟态防御架构,以适应其高吞吐、可扩展的应用需求。首先,设计支持DHR的安全可靠的分布式交互协议,即DMP(Distributed Mimic Protocol),包括安全认证、请求响应、动态变换等。DMP不仅保证了分布式多控制器的协同工作,同时也能防止恶意控制器的协同作弊,并清除其累积的攻击经验。然后,研究DMP协议下多控制器位置的优化部署,以提高该协议在SDN网络中的运行效率。最后,仿真结果验证了,该分布式拟态防御架构相对于传统的主备切换机制和拜占庭容错机制,能够显著提升SDN网络的安全性。3.针对拟态化的SDN网络,研究基于负反馈机制的多控制器调度策略,以进一步提高控制层的安全性,并减小由拟态机制引入的性能开销。首先,探讨拟态化SDN网络中基于负反馈机制的调度管理框架。然后,从调度时机、调度数量和调度对象这三个策略参数着手,提出了两种调度算法--基于效用的动态弹性调度和基于历史行为的自学习调度。其中,动态弹性调度是根据当前网络的安全态势,按照相应的趋势并带有随机性的调整控制器的工作数量和时间,在保证安全的前提下减小调度的性能损耗;自学习调度是通过不断地统计和学习各异构控制器和控制器之间的安全性信息,将其作为衡量指标并量化,以筛选出更加优质安全的控制器组合。最后,仿真实验验证了上述调度算法的有效性,对网络的安全和性能均有增益。4.针对由调度导致多个控制器网络视图(或工作状态)的差异问题,研究控制器间的一致性,以保证拟态SDN网络的正常运行,并进一步提高系统的性能和可用性。首先,提出一种基于分布式数据库的同步方法,并对其中共享的网络视图进行抽象化表示。然后,结合SDN网络的特性,给出一致性、性能及可用性的度量指标,建立量化分析模型。同时,选择其中的几类一致性问题进行量化研究,求解其最优值以及获得最优值的条件,为一致性参数的配置提供指导。最后,仿真实验验证了上述量化模型的有效性,在保证一致性要求的前提下,能够有效提升网络的性能和可用性。本文依托国家自然科学基金群体项目“网络空间拟态防御基础理论研究”,研究成果将为拟态网络体系架构和拟态防御关键技术提供支撑。同时,文中的研究也有助于在SDN网络环境中科学论证拟态防御技术的基本方法及其有效性,并拓宽SDN网络安全研究的新方向。