随着信息化社会的快速发展,计算机网络环境日趋复杂化,作为信息数据处理的主体,计算机系统正在面临着越来越严峻的安全威胁。目前流行的系统安全防护技术相对比较完善,能够对传统的系统攻击行为进行有效的防御,系统安全攻防技术具有演变迅速的特点,即使最全面的防护机制,也只能保证系统一段时间的安全性；恶意软件就像病毒一样,能够快速找到系统防护机制的缺陷并利用之,不断威胁计算机系统的安全。系统安全攻击技术,主要涉及系统植入、程序启动和躲避查杀等方面。系统植入技术手段一般具有极强的迷惑性,使用户防不胜防,常用的方法有电子邮件、常用软件的伪造、危险超链接等；程序启动技术具有高隐蔽性,使用户不易发觉,常用手段包括启动文件夹、修改注册表、绑定文件类型、注册系统服务等；躲避查杀技术具有复杂多样性,使用户难以辨别,常用策略是修改特征指令、隐藏输入表、函数挂钩、添加保护壳等。系统攻击技术的实现原理相对固定,但具有极强的演变性,经过一定形式的转变就可以轻松躲过防护系统的检测。总而言之,系统攻击与防御技术的发展是矛与盾的交锋,在双方此消彼长的斗争中,系统安全防护技术才能日益完善。首先,论文研究目前流行的系统安全攻击技术,主要从三个方面进行论述：系统植入技术、程序启动技术和躲避查杀技术。其次,系统安全防护技术主要包括特征指令查杀与云引擎检测技术、启发式扫描技术和主动防御技术,通过重点研究目前流行的系统安全防护技术,论文探索主流系统安全防护系统中存在的安全技术缺陷,例如利用修改特征指令、隐藏与伪装输入表和函数挂钩等技术就能绕过安全检测；设计并实现基于内置代码段的指令特征隐藏系统,主要包括创建内置代码段、隐藏与恢复输入表、隐藏特征指令和突破主动防御等功能模块,并在实验环境中进行测试。然后,通过分析指令特征隐藏系统中各个功能模块的实现原理,提出相应的检测思路,即利用函数调用检测的方法统计并分析LoadLibraryA和GetProcAddress函数的调用次数来检测指令特征隐藏系统；设计并实现基于函数调用检测的防护系统,包括Hook模块实现对LoadLibraryA和GetProcAddress函数的挂钩的功能,检测模块实现对DLL进程注入和创建远程线程加载DLL文件的功能。最后,论文对防护系统的有效性进行实验验证,促进系统安全防护技术的发展。