随着计算机在各行各业应用的深入和普及,围绕系统安全的研究也成为信息安全领域最热门的研究方向之一。“攻”与“防”是永久不变的话题,两者互补使得技术不断更新发展。木马、病毒技术迅速发展,同时安全软件也日新月异,主机入侵防御系统(Host Intrusion Prevent System,HIPS)技术是安全软件的发展方向之一。本文通过分析安全软件HIPS模块的一些技术原理,从隐式的和显式的对抗两种技术方式展示了目前HIPS系统的脆弱性。同时也提出一些改进的建议。本文首先叙述了HIPS技术特点、类型以及相关的系统内核原理,然后在此基础上,从显式以及隐式两大方向对HIPS系统进行分析研究,剖析了HIPS机制目前存在的一些缺陷问题,并利用这些缺陷相应的去对抗HIPS。在显式对抗HIPS系统中,重点研究了HIPS系统的两种进程守护机制及安全软件自身设计上的一些不足,并且对应的分别设计了对抗HIPS的方法,同时对于每种对抗措施都编写了相应的实现代码,并在实际系统环境中进行测试完善,在实际应用中达到了比较好的效果。在隐式对抗HIPS系统中,主要讨论了恢复影系统服务调用表(System Service Dispatch Table,Shadow SSDT)、利用未导出函数以及突破驱动加载监控。提出了一种基于Shadow SSDT以及底层回调(callback)函数的新型键盘记录。同时重点分析了HIPS系统在驱动加载监控中存在的问题以及相应的绕过技术。本文在研究对抗HIPS系统的同时,针对HIPS系统的不足,从木马病毒角度及人为因素角度两方面分别提出了几种改进措施,并且相应也给出了技术上的一些实现。本文在最后提出了对抗HIPS系统进一步的研究方向。本文的研究工作弥补了HIPS系统现有的不足,对HIPS系统的改进提供了帮助和参考。