随着互联网的迅速发展,恶意软件成为最主要的互联网安全威胁之一,并损害着用户的计算机系统。在过去的十年里,恶意软件数量急速增加,对计算机网络和系统的安全造成了严重的威胁。面对计算机恶意软件的传播,和恶意软件变种增加的问题,研究新型恶意软件检测的就显得极其重要。近几年,恶意软件检测方法相继提出,传统的基于特征码的恶意软件检测方法,通过读取恶意样本的二进制序列生成恶意软件的特征码库,并对新样本和特征码库的对比结果对已知恶意软件进行检测,但是这种方法无法检测恶意软件的变体和混淆恶意软件。因此一些学者将机器学习算法应用到恶意软件检测领域,通过度量特征的相似度可以有效的检测恶意软件变体。但是目前很多基于机器学习算法的恶意软件检测方法在提取特征时都会消耗大量的训练和检测时间,耗费大量的网络资源。针对这些方法的不足之处,本文提出一种基于全局二维操作码矩阵和密度聚类的恶意软件检测方法。该方法首先将恶意软件样本训练集反编译为汇编代码,然后提取操作码序列,利用N-gram算法转换为二维操作码序列,通过采用信息增益等方法构建二维操作码矩阵,随后采用密度聚类算法(DBSCAN算法)把训练集的二维操作码矩阵聚类成簇,然后计算测试集的二维操作码矩阵和簇矩阵之间的相似性,最后通过比较相似性判断测试样本是否为恶意软件。本文的主要贡献如下:提取了全局操作码序列,在不丢失恶意软件的行为信息,确保检测过程中准确率的情况下,采用聚类算法提取共性的行为模式,从而在匹配这些行为模式时减小搜索空间,使得训练时间和检测时间大幅缩短。对比实验结果表明,本文提出的恶意软件检测方法能够在不损失准确率的同时,减小时间开销,准确率达到90%以上,训练时间为每个0.045s,检测时间每个0.46s。与其他检测方法相比无论在准确率还是时间开销方面也都具有明显优势,在如今恶意软件规模越来越庞大的今天,具备广阔商用价值。