二进制软件漏洞作为一种战略资源,广泛用于网络安全攻防对抗之中。随着W⊕X安全模型等安全机制在计算机系统上的实现,ROP攻击已成为二进制软件漏洞利用的必要环节,如何防御ROP攻击具有重要的研究意义。研究学者已经提出了多种针对ROP攻击的防御技术,分类为:基于动态监控、基于随机化以及基于静态编译。虽然现有ROP攻击防御技术能在一定程度上防御ROP攻击,但仍存在缺陷。基于动态监控的ROP攻击防御技术能够在软件的运行过程中对ROP攻击进行防御;但是由于其依赖具有主观性的阈值,检测结果可靠性不高;且因为是在程序运行时进行额外的检测,对程序的性能影响较大。基于随机化的ROP攻击防御技术通过将程序指令的地址及指令随机化使得攻击者无法得到实现ROP攻击的必要条件;但随机化程度不高以及部分代码无法随机化使得该技术防御效果有限。基于静态编译的ROP攻击防御技术通过控制程序代码的编译生成来对ROP攻击进行防御;但该技术需要源代码等辅助信息且现有的技术存在部分代码无法支持的缺陷。本文研究的目标是基于静态编译的ROP攻击防御技术,主要工作以及创新点包括以下几个方面:第一,分析ROP攻击的原理以及现有的防御技术,总结出ROP攻击技术的基本单位gadget的来源以及ROP攻击技术的特点,并结合对函数调用约定以及系统调用原理的分析,特别是参数寄存器与临时寄存器设定的关联,提出了基于静态编译的ROP攻击防御技术。该技术的核心是消除程序中非预期的gadget以及破坏程序中常规gadget。第二,基于ROP攻击特点以及函数调用约定等原理,从理论上证明了破坏程序中常规gadget能够有效防御ROP攻击;基于二进制动态插桩框架Pin,设计实现动态监控ROP攻击防御系统,证明该理论的实践有效性。第三,基于高度模块化的编译器框架LLVM,设计实现了能够编译出有效防御ROP攻击的程序的编译器原型,并设计实验表明本文所提出的ROP攻击防御技术是可以有效地防御的ROP攻击且不会影响程序正常运行。总的来说,本文所提出的基于静态编译的ROP攻击防御技术为防御ROP攻击提供了思路以及可行性方案,同时为编译器的安全扩展提供了新的方法,对编译器安全性能的改进具有一定的意义。