随着移动互联网的快速发展,智能手机逐渐成为人们日常生活中不可或缺的一部分,Android系统以其开源性成为目前最流行的手机操作系统。然而,Android系统的开放性也使得它更容易受到攻击者的恶意攻击,因此Android应用的安全问题成为移动安全领域研究的热点。目前针对Android应用的保护手段通常有防止反编译、代码混淆、防调试、软件加壳等方式。这些手段虽然可以在一定程度上保护Android应用的安全,但也存在着保护方式固定、易于分析和破解方式相对成熟等局限性,因而迫切需要一种动态的、安全性更高的安全加固技术对Android应用提供保护。针对上述问题,本文在深入研究Android应用体系架构与安全机制以及Android Dalvik虚拟机体系结构基础上,提出一种基于动态虚拟指令集的Android应用保护方法。论文的主要工作如下:(1)研究Android系统架构及其安全机制,深入分析Android应用常见的攻击方式及现有的保护手段,以及Android Dalvik虚拟机的工作原理与Dalvik指令集,并在此基础上,提出了通过动态虚拟指令变换来实现Android应用运行时保护的基本思想。(2)提出了一种基于动态虚拟指令集的Android应用保护方法。通过抽取原始DEX文件中关键方法的Dalvik指令,并对其进行指令混淆和动态变换,实现了原始Dalvik指令集到自定义虚拟指令集的动态映射,隐藏了原始指令序列及其统计特性;通过自定义解释器,实现了变换后自定义动态虚拟指令序列的解释执行,并提供了运行时的指令安全保护功能。从而,在保证原始Android应用正常执行的前提下,攻击者即使在应用运行时通过动态分析手段获取驻留内存的指令与数据,也无法从中恢复有价值的信息,最大限度地提高了 Android应用的保护强度。(3)设计实现一个面向隐私数据安全的Android应用保护系统原型。针对Android应用隐私数据保护需求,采用基于动态虚拟指令集的Android应用保护方法,该Android应用保护系统实现了隐私数据安全策略的自动分析与生成、隐私敏感关键方法的抽取与混淆、基于置换矩阵的指令动态变换,以及自定义解释器等功能,完成了 Android应用中针对隐私数据及其相关操作方法的安全保护,使之能够有效抵御针对Android应用中隐私数据的静态逆向分析与动态内存转储分析。(4)实验结果表明,本文提出的方法与系统能够对Android应用程序中的关键方法与隐私数据提供有效的安全保护,提高其混淆程度与不可读性,以有限的时间与空间开销极大地增加攻击者的逆向分析的难度。