随着软件逆向分析技术及其相关分析工具的发展,使得针对软件可执行代码的非法窃取和任意篡改操作更加容易,从而导致了软件盗版现象越来越严重。盗版软件的猖獗不仅给软件开发商带来了巨大的经济损失,也严重制约了我国软件行业的发展。对于软件开发者而言,面对新的软件分析技术的挑战,开发者必须采用新的软件保护技术才能防止软件被肆意窃取或篡改,从而保护自身的软件版权不受侵害。本文的研究目标是：通过对软件加密保护的关键技术的研究,对存在安全隐患的软件保护技术进行改进并对基于漏洞攻击技术的软件保护方案的可行性进行论证、探讨,从而设计出更加具有安全性、创新性、实用性的软件保护方案。本课题主要采用了实证研究与探索性研究相结合的研究方法,具体而言：在对当前主流的软件分析技术与常见的软件保护技术的研究时,通过实证研究法完成课题研究平台的开发以实现相关技术的功能演示,并利用功能分析法对传统注册码保护技术进行改进；在对漏洞攻击技术进行研究时,通过探索性研究法论证了具有较强隐蔽性“优点”的漏洞攻击技术在软件保护中应用的可能性,并给出具体的设计方案。本文的成果主要有：首先设计并实现了基于RSA算法的安全注册码系统,在不增加软件成本的同时很好地弥补了传统注册码保护机制在安全性上的不足；其次通过对缓冲区溢出漏洞工作原理的研究,提出了一种基于缓冲区溢出漏洞攻击技术的反逆向分析的保护方案,并对方案的设计思路、可行性、预期效用进行了深入的探讨。该设计方案充分利用了溢出漏洞攻击技术的隐蔽性特点,将软件攻击技术应用到软件保护技术当中,具有很好的应用前景。