本文在对网络安全中第一代被动防护、第二代主动检测和以可生存性为代表的第三代安全技术研究的基础上,针对其中的一些关键技术和理论方法作了如下4个方面的工作:(1)针对规则库中规则的查找和冲突规则的检测已成为防火墙主要的性能瓶颈,通过分析数据包过滤技术中的这一问题,提出了过滤规则快速匹配算法BSLT(Binary Search in Leafs of Tries),并对规则冲突进行了分析,给出了冲突的理论证明和检测算法。(2)由于异常检测的入侵检测系统的高误报率问题是该类方法难于实用化的主要原因,根据网络数据包结构定义网络行为特征变量,提出了具有无监督、在线实时学习特点的基于异常检测的网络入侵检测系统、改进的自适应谐振理论算法、基于主属性及兴趣度的序列模式匹配算法和类似Hamming距离检测算法。(3)基于处理器的速度明显低于骨干网的传输速度,从而使得传统的入侵检测方法无法应用于大规模网络的检测这一事实,提出了分布式神经网络学习算法并将其用于大规模网络异常检测。该算法的优点是大数据集可被随机分割后分发给独立的神经网络进行并行学习,在降低分割算法的复杂度的同时保证学习结果的完整性。(4)基于攻击模型对于分析网络安全性、检测入侵等发挥的重要作用,提出了网络吞吐率动力学模型,并通过此模型分析不同拓扑结构、节点配置、传输协议和管理策略下网络中吞吐率的变化情况,预测网络稳定状态下网络中各条连接路径之间的影响;采用统计分析和回归分析方法确定增长系数和竞争系数后,该模型能够结合攻击图等方法来分析网络安全性和网络可生存性。