随着大数据时代的到来,在线数据大幅增加,实时挖掘海量数据流已成为机器学习领域面临的一大挑战。在线学习方法通过对数据的逐条处理,并利用增量式更新模型的方法实现了海量数据的实时处理,受到了研究人员的广泛关注。朴素贝叶斯作为一种在线学习方法,简单高效且有坚实的理论基础,被用来解决数据流分类问题,但当数据流中出现概念漂移时,会严重影响其分类性能。同时,其属性条件独立假设要求在现实应用中通常无法满足。基于以上问题,本文以朴素贝叶斯算法为基础,做改进研究:(1)为解决分类中特征空间维度过高的问题以及朴素贝叶斯算法属性条件独立假设的不足,提出了一种基于信息论的属性选择分类框架。通过分析Jeffreys散度与贝叶斯分类器Ⅰ型和Ⅱ型错误相关性质,针对Jeffreys散度在多元分布下的局限性,引入衡量多分布差异的Multi-Jeffreys-Hypothesis(MJH)度量,提出基于MJH的选择性朴素贝叶斯分类算法。实验结果表明了算法的良好分类效果与收敛性。(2)针对朴素贝叶斯分类器没有检测与处理概念漂移的机制,无法处理非静止情况下的流式数据分类。本文提出一种基于遗忘机制的加权朴素贝叶斯算法。通过遗忘机制对实例加权,随着时间推移实现权重逐渐衰减,使原本的朴素贝叶斯分类器能自动、迅速地适应数据变化,达到解决概念漂移问题的目的。实验结果证明了该算法的有效性。(3)在概念漂移的情况下,基于历史知识和当前知识存在相关性的假设,分析集成学习方法的优越性,提出基于知识迁移的集成学习算法。通过知识迁移的模式,在提取历史.模型中有用知识的同时,去除其中与最新数据分布不同的知识,得到新的历史模型。将迁移后的历史模型与最新数据所得模型进行加权融合。仿真和真实数据上的实验结果表明了基于知识迁移的集成学习算法能够充分发挥集成学习的优势,有效解决数据流分类中的概念漂移问题。