近几年,软件定义网络(Software Defined Network,SDN)技术发展迅速,SDN实现了控制层和数据层的解耦,控制层负责对网络的控制,并维护全局的网络拓扑视图,数据层负责数据的转发。控制层和数据层的解耦简化了网络的管理,实现了网络的可编程,为网络新业务的部署以及网络的快速创新提供了条件。在SDN网络中控制层是整个网络的核心,一方面控制层需要负责管理数据层的转发设备;另一方面,控制层需要向应用层提供准确的网络状态信息,其安全性和可靠性十分重要,在构建大规模SDN网络时为了提高网络可靠性,控制层通常通过控制器集群的形式来实现。但是SDN控制器集群中恶意控制器的存在对SDN网络的安全造成了严重威胁。基于此背景下,本文实现了在SDN控制器集群中对恶意控制器的恶意行为的检测和防护,主要包括对SDN控制器集群的网络拓扑视图的保护以及对恶意控制器下发的恶意流规则的防护。首先,针对SDN控制器集群中原有集群方案在东西向接口安全性不足,恶意控制器可以通过东西向接口破坏控制器集群的网络拓扑视图的问题,提出了基于拜占庭仲裁系统的集群拓扑安全方案。该方案在控制器集群的东西向接口上实现了对网络拓扑更新消息的验证功能,然后在集群中构建了拜占庭仲裁系统,以确保存在恶意控制器时能保护集群的网络拓扑视图的安全,控制器集群中某个控制器更新集群的拓扑视图时需要通过一个仲裁的验证来完成。此外,该方案可以提供每一个控制器更新集群网络拓扑视图的记录以定位恶意控制器。然后,针对SDN网络中数据层对恶意流规则防护的不足,SDN控制器集群中恶意控制器可以通过南向接口下发恶意流规则破坏数据层数据包转发逻辑的问题,本文提出了基于可编程协议无关报文处理(Programming Protocol-Independent Packet Processors,P4)语言的对恶意流规则的检测和防护方案,该方案对恶意流规则进行分类,在数据层上利用P4语言提供的数据平面可编程的特点,针对不同类别的恶意流规则在数据层的交换设备上实现了对恶意流规则的检测功能,并为网络管理员提供了恶意流规则的定位方法。根据SDN网络中控制器和交换机的映射关系,网络管理员可以定位到SDN控制器集群中的恶意控制器,从而实现了SDN控制器集群中对恶意控制器下发恶意流规则行为的检测与防护。最后,本文通过实验验证了本文所提出的方案的可行性,实验证明本文所提出的方案效率高,并且能有效地检测和防护SDN控制器集群中恶意控制器的破坏集群网络拓扑视图以及下发恶意流规则的恶意行为,从而提高SDN控制器集群的安全性。