信息技术的快速发展使得数据正成为组织、企业和个人的重要资产。近年来,勒索软件通过锁定用户的系统或加密重要数据来进行勒索,对网络安全造成了严重的危害。现有的通用恶意软件检测系统无法针对性检测勒索软件,对勒索软件的防御依赖于特别的缓解措施。另一方面,机器学习的理论研究逐渐成熟,开始广泛地应用于恶意软件检测领域。在详细研究了勒索软件的攻击过程及其技术原理后,本文基于深度学习技术提出了两种勒索软件检测方法,对于高威胁性和破坏性的加密型勒索软件均取得了良好的检测效果。本文主要研究内容如下:基于前馈神经网络的检测方法以勒索软件运行过程中API调用次数、文件系统操作、注册表操作和导入字符串等作为特征集,以全连接的链式深度神经网络为模型训练分类器。实验表明,该检测方法准确率达到95%,而AUC值达到0.98,具有良好的分类性能和扩展性。基于长短期记忆模型的检测方法以API函数调用序列为特征,对原始数据集进行压缩处理,极大地降低了数据规模,提高了模型学习速率。同时采用Dropout正则化将泛化误差从5%降低到2%,显著地提高了模型性能。实验结果表明,该检测方法的模型学习开销和误报率很低,能准确地检测识别勒索软件及其变种。