现代信息网络中,网络蠕虫凭借自我复制的能力,以网络为传播媒介,成为目前互联网上最严重的安全威胁之一。为了有效防御网络蠕虫,降低其造成的危害,网络蠕虫传播机理及控制策略成为研究热点。目前,随着计算机网络技术的进步,网络蠕虫呈现出种类繁多、传播途径多样化等新的特点,简单套用传染病传播模型,泛泛地研究网络蠕虫,不具有针对性,很难反映蠕虫的传播特征。同时网络拓扑结构和用户行为等是蠕虫传播所依赖的关键因素,为了能更真实的反应蠕虫的传播机制,必须将这些因素考虑到特定蠕虫的传播模型中。因此如何刻画网络拓扑、用户行为对蠕虫的传播速度、范围及控制效果的影响是非常有意义且值得深入研究的。为此本文以email蠕虫、P2P蠕虫及随机扫描蠕虫为研究对象,根据其不同传播特征,建立相应蠕虫的动力学模型,并分析其传播动力学行为,得到蠕虫传播的关键阈值条件,为网络蠕虫的预防和控制提供理论依据。具体研究内容如下：针对email蠕虫传播所依赖的网络的特殊性,通过网络语言的抽象与刻画,建立了email蠕虫传播的离散模型,并将其转化为连续常微分动力系统,分析了系统的动力学性态,进一步通过构造Liapunov函数,估计出了平衡态的吸引域,为email蠕虫的控制提供了依据。针对P2P网络的无标度特性,利用良性蠕虫主动防御的特点,考虑P2P网络上的良性-恶意蠕虫对抗过程,建立了复杂网络模型,得到了蠕虫传播的有效再生数,证明了网络拓扑结构在蠕虫传播过程中的关键作用,分析了不同参数对恶意蠕虫控制的影响,比较了良性蠕虫不同投放策略的控制效果,并提出了可行的控制恶意蠕虫传播策略。针对用户行为与蠕虫传播之间相互作用、相互影响的特点,依据用户保护力度将脆弱主机进行划分,建立了耦合用户自适应保护行为的动力学模型,得到了用户行为修正的基本再生数,发现模型会出现后向分支等复杂的动力学性态,从而刻画了用户行为在蠕虫传播中的重要作用,并针对不同情况提出了合理的蠕虫控制策略。