随着网络的发展，网络安全问题日益突出。入侵检测是网络安全研究的重要领域之一。自从二十世纪八十年代开始，它在短短的二十年里就取得了丰硕的成果。但是由于网络复杂度增加，黑客软件的流行，入侵检测仍面临着检测正确率不高，处理数据量大和缺少理论支持等问题。这些问题限制了入侵检测在实际中的应用。 本论文从寻找理论模型支持这一问题入手，建立了入侵检测的信道模型；在此基础上，研究了特征选择的准则和方法，从而达到减少数据量的目的；为了提高检测的正确率，设计了多层次的系统构架与支持向量机检测算法相结合的入侵检测系统；最后研究了无需训练基于核方法的入侵检测方法。主要工作概括如下： 第一、建立了入侵检测的信道模型。从信息传输的角度对入侵检测过程进行研究，将入侵检测过程看作由收集数据信道、分析数据信道构成的串联信道；分别给出了两个信道、特征参数集和知识参数集的数学定义；根据信息论中的数据处理定理，研究了正确检测的前提条件；定义了特征参数集和知识参数集的差集；基于该差集，分析了正确检测和错误检测这两种基本情形，其中重点研究了错误检测时三种不同情况下的信道特征、错误概率表达式和检测信道的损失熵。本模型将复杂的入侵检测系统表达成了简单的信道形式，抽象出入侵检测的实质，简洁明了，并且为研究和解决入侵检测面临的问题提供了新思路。 第二、以收集数据信道为基础，提出了基于熵的特征参数正确性衡量准则；根据该准则分析了特征参数的性质；重点研究了基于熵的特征参数选择方法。用熵准则选择的参数不但独立于检测算法，而且最大程度上包含了系统活动状态的信息，较之传统基于检测正确率的选择模式更具有精炼准确的优势。 第三、设计了基于支持向量机的免疫入侵检测系统。比较了分析数据信道和统计学习问题，针对小样本下检测入侵的实际情况，提出了用支持向量机检测入侵的方法；根据自然免疫系统的多层防护特性，研究了多层次的入侵检测系统体系架构；进而设计了基于支持向量机的免疫入侵检测系统。基于支持向量机的检测方法提高了正确率，多层次的结构具有更好的完备性，这样使得整个系统的性能得以提高。该系统包括四个子系统：外部网络连接的入侵检测器、基于支持向量机的内部网络连接入侵检测器、基于支持向量机的主机入侵检测器和基于支持向量机的系统级入侵检测器。重点研究并实现了基于支持向量机的主机检测器和基于支持向量机的系统级检测器，并进行了实验仿真。 第四、提出了无需训练的基于核方法的入侵检测技术。为了寻找使得混合类型的入侵检测数据线性可分的空间，提出了间接空间映射的方法；提出了利用核函数实现间接空间映射的思路，引出了核的最近邻分类法、核聚类分类法和核中心距比值分类法这几种核方法；给出基于核方法检测入侵的系统框图和工作过程；研究了上述三种核方法的算法和它们在入侵检测中的应用，仿真结果表明基于核方法的检测性能优于传统的空间分类法的检测性能；最后通过仿真结果比较了基于核方法的入侵检测与基于支持向量机方法的入侵检测，研究了它们的特点和应用场合，特别是核中心距比值法具有无需训练，推广能力强的特点，适合于更小样本的条件下检测的情况。