近年来,随着5G、大数据和云计算等新兴服务的快速崛起,以及虚拟网络映射、网络功能虚拟化等虚拟技术的广泛部署,网络变得复杂且高度动态,这给传统的网络控制与管理（Network Control and Management,NC＆M）带来了新的挑战。同时,随着弹性光网络（Elastic Optical Network,EON）和IP网络组合而成的IP-over-EON多层网络架构的普及,需要实现对光层和电层网络统一且高效的管控,这进一步增加了 NC＆M研究和开发的难度。为此,研究人员提出了基于知识定义网络（Knowledge-Defined Networking,KDN）的 NC＆M 方案,通过整合软件定义网络（Software-Defined Networking,SDN）、人工智能、网络遥测和数据分析等技术,构建了“观察-分析-行动”的闭环控制,实现了网络自动管控系统。基于KDN架构,网络自动管控减少了人工干预并加大了管控力度,但仍然面临着管控效率较低的问题。在闭环控制的“行动”环节,由于虚拟软件定义网络（virtual SDN,vSDN）重配置过程解决方案的质量直接影响重配置的性能,进而影响网络的可用性。因此,有必要研究如何优化vSDN重配置的调度过程,提高管控效率,完善闭环控制的“行动”环节。在实际应用中,除了系统本身的性能提升之外,系统的安全性亦不容忽视。因此,有必要针对网络自动管控系统的安全性展开研究。由于重配置建立在对遥测数据的观察和分析基础上,所以本文重点关注与网络遥测和数据分析相关的安全问题。具体的研究内容和贡献如下:·首先,在闭环控制的“行动”环节,本文研究如何优化光电混合数据中心中vSDN重配置的调度过程。在此场景中,vSDN重配置包括电层和光层网络的重配置,其中,光交叉连接器（Optical Cross-Connect,OXC）重配置将导致光层物理拓扑变化。然而,现有的vSDN重配置方案都缺乏动态拓扑中vSDN重配置调度过程的优化。本文在考虑了 OXC重配置对vSDN重配置影响的基础上,率先对此问题进行了研究,提出并行vSDN重配置调度机制来提高重配置效率。首先,本文建立vSDN重配置的混合整数线性规划模型并求出最优解,然后,设计快速的启发式算法来降低时间复杂度。仿真结果表明,该算法可以有效减少整体vSDN重配置延迟,降低重配置对网络服务质量的影响,提高重配置效率。·其次,在闭环控制的“观察”环节,本文研究如何解决遥测数据在数据上报通道中存在的由窃听和篡改带来的隐私和安全问题。为此,本文率先提出支持隐私保护的跨层遥测和数据分析方法。本文利用基于向量同态加密（Vector Homomorphic Encryption,VHE）算法和支持密文异常检测的机器学习（Machine Learning,ML）模型来解决由窃听造成的安全漏洞,并设计基于编码和哈希的数据验证来消除篡改攻击带来的安全威胁。同时,在商用设备搭建的IP-over-EON多层网络测试平台上,本文实现支持隐私保护的跨层遥测和数据分析系统原型,并验证设计方案的可行性、有效性和可扩展性。仿真和系统实验结果显示,本文提出的方案可以在保障系统实时性的前提下实现隐私保护功能,提高遥测数据的隐私性和安全性。·最后,在闭环控制的“分析”环节,本文探究对抗样本攻击给网络自动管控系统带来的安全隐患。本文率先开展网络自动管控系统中面向异常检测的机器学习模型的对抗性研究。本文首先针对网络自动管控系统分别提出白盒攻击（White-box Attack,WBA）和黑盒攻击（Black-box Attack,BBA）策略,并设计两种有效的对抗样本生成算法（基于雅可比和基于自学习）来实现黑盒攻击策略。然后,制作并利用对抗样本去攻击网络自动管控系统中基于机器学习的分类器,定量分析对抗样本给模型性能造成的影响,并将结果推广到不同结构的机器学习模型。同样,本文也用商用设备搭建一个真实的IP-over-EON多层网络作为测试平台,并采集大量遥测数据用于仿真实验。实验结果验证了对抗样本攻击可以严重干扰网络自动管控系统的正常运行,本文的研究结果将为实际应用场景中系统的防御研究提供重要参考。