入侵检测是主动防御技术,其作用是对计算机和网络上的恶意行为进行识别和响应。传统的入侵检测系统在扩展性和适应性上已不能应付越来越复杂的攻击方式。将数据挖掘技术引入到入侵检测中,不仅能够增强入侵检测系统处理海量数据能力,而且使得入侵检测系统具有可扩展性和自学习能力。关联规则挖掘是数据挖掘中广泛应用的技术之一,本文重点研究了入侵检测系统中关联规则和模糊关联规则挖掘。在分析和研究关联规则挖掘算法以及关联规则增量更新的基础上,本文引入了基于COFI-树挖掘算法,以改进FP-Growth算法挖掘效率。该算法在FP-树基础上,通过创建额外的COFI-树结构进行频繁模式挖掘,能有效避免FP-Growth算法在挖掘过程中需要递归发现短模式的问题,提高了挖掘效率。由于入侵行为和异常检测中阈值的确定具有模糊性,近年来研究人员提出了将模糊数学理论和方法运用到入侵检测中。本文研究了入侵检测中模糊关联规则挖掘问题,对数据集中类别型属性和数量型属性进行模糊化以解决“尖锐边界”问题。由于模糊关联规则挖掘中存在产生无用规则的问题,提出了利用轴属性对挖掘过程进行约束,以减少无用规则生成。模糊关联规则挖掘算法大都是基于Apriori或类Apriori算法的,存在多次扫描数据库问题。本文设计了一种模糊FP-树结构,并利用COFI-树挖掘算法挖掘模糊关联规则。实验表明该方法提高了模糊关联规则挖掘效率。最后,设计了一个基于模糊关联规则的异常检测和Snort系统的误用检测的混合入侵检测模型。结合Snort入侵检测系统插件机制,设计并实现了数据属性模糊化模块、模糊关联规则挖掘模块和异常检测模块。实验表明,本文设计的混合入侵检测模型具有很好的异常检测能力,提高了检测效率。