网络信息技术的快速发展,使得互联网络已经完全渗透进我们的生活,给人们带来极大便利的同时网络安全问题也日益突出,其中,恶意软件由于具有传播规模广、隐蔽性强的特点已然成为互联网最严重的安全威胁之一。近年来,物联网技术的普及使得它的传播方式更加多变,网络安全形势不容乐观。因此,研究恶意软件传播规律并提出有效的防御措施成为网络安全研究领域最重要的课题之一。恶意软件的传播和用户密切相关,为此本文基于用户心理、行为和认知三个角度,系统分析这三方面对恶意软件传播规律和防御措施的影响。在考虑用户异质性的基础上,建立了恶意软件动力学传播模型,对恶意软件传播进行深入研究,具体研究内容如下:（1）考虑游戏玩家心理异质性对木马病毒传播的影响,提出了借助在线游戏加速器传播的木马病毒模型。通过对模型的理论分析,得到了木马的传播阈值和模型的稳定性条件。基于最优控制理论解决了借助游戏加速器传播木马的时变控制问题。研究结果表明,对理性用户的快速免疫控制方案可以快速有效地降低木马的传播规模。（2）考虑物联网设备使用者的行为异质性对恶意软件传播能力的影响,提出了基于物联网的恶意软件传播模型。通过分析模型的动力学性态,得到了恶意软件的传播阈值。基于最优控制理论对最优解的存在性进行了证明并给出了最优解。研究结果表明,物联网设备使用者的安全意识和行为对最终感染规模具有重要影响,对被感染设备的个性化防御措施可以有效地遏制恶意软件传播。（3）考虑用户认知和行为异质性对其网络安全意识的影响,通过邮件媒介发送网络安全科普知识给目标用户并进行了问卷调查。分析了邮件发送次数、邮件发送者身份和目标用户背景等因素与网络安全意识建设的关系。研究结果表明,邮件发送次数和用户专业背景对用户安全意识建设具有显著影响。基于真实用户数据,对前述两个模型进行了仿真。结果表明,对用户进行网络安全教育能有效降低恶意软件的最终传播规模,与其它情况相比由管理员发送一次邮件会取得最好的防御效果。