现如今移动设备成为人们使用的主流电子设备,针对移动设备的攻击威胁也越来越多,其中包括了传统基于特征码分析无法检测的未知威胁。未知威胁是没有被记录的攻击威胁。对于移动设备而言,通常通过网络等方式以恶意软件形式植入到移动设备,利用零日漏洞等方式对移动设备进行攻击,造成使用者严重损失。如何有效检测移动设备的恶意软件,有效阻止未知威胁已经成为一种迫切需求。鉴于此,本文主要的研究内容如下:（1）设计了一种基于特征选择算法的未知威胁检测模型。本文利用支持向量机作为分类模型,对Android未知软件进行分类来判断是否是恶意软件。针对检测过程中,样本特征过多导致模型效果差的问题,分析了递归特征消除算法与遗传算法这两个特征选择算法的不足,并改进这两个算法。首先,先通过₁L范数的支持向量机消除无用特征,减少递归特征消除算法的迭代次数,然后将递归特征消除算法与遗传算法进行融合来改进遗传算法容易受随机初始化影响的问题。实验表明,融合之后的特征选择算法具有较好的消除冗余、无价值特征的效果,很好的提高了检测模型的检测准确率。（2）改进了一种支持向量机的增量式算法。针对新增样本检测会造成检测率下降的问题,考虑利用增量式算法快速迭代检测模型维持检测准确率。首先,分析了基于误分点的支持向量机增量算法的不足,然后对该算法进行改进。针对原算法只选择误分点附近的样本作为增量样本而忽略了其他可能的样本问题,考虑利用KKT条件来代替误分点判断,然后利用核密度估算新增样本之后的分布,考虑选择违反KKT条件样本和他们附近分布类似的样本以及历史支持向量和他们附近样本作为增量样本。利用这些样本代替全部样本进行训练,可以大量缩短训练时间节省存储空间。实验表明,改进后的增量算法比基于误分点的算法更适于Android未知威胁检测模型的更新。（3）最后设计实现了一个未知威胁检测系统。以Update Flash Player恶意软件为例,系统展示了通过静态分析和动态分析提取的行为,以及对该恶意软件的全面分析。