近年来,动态增长的数据量和数据类别,对大规模数据分类研究提出了新的挑战。因此,利用全部数据训练一个新的模型变得不再可行,加之,增量数据的产生包括有标签数据和无监督数据,为模型的局部修改带来了阻碍。于是,我们提出了有监督的增量学习方法和无监督的增量学习方法。针对有监督的增量学习方法,随着数据及其类别数目增加,大多数传统的方法很难平衡精度和计算开销。比如,一些现有的方法精度不高,一部分方法耗时太久。在本文中,我们提出了一种增量式学习方法,即混合增量最近类平均随机森林(hi-RF)来处理这个问题。hi-RF方法对随机森林中一部分树进行替换,另一部分树更新其叶子节点的概率,使得新的任务出现以后,在较短的训练时间内,获得较高的分类精度。最终的实验结果说明,hi-RF在较少的时间开销下(约为批处理的1/3～1/2),获得较低的精度损失(不超过2.5%)。针对无监督的增量学习方法,传统的方法仅仅能在无监督数据分类上面起作用,但是面对增量学习便无能为力,尤其是无监督增量学习更是一个尚未被涉及的方向。为了填补这一空白,我们提出增量自动编码器(Incremental AutoEncoder,IAE)方法,以自动编码器作为基本模型,将原始任务的分类卷积神经网络作为分类器,加上相应的约束,使其能够增强对新的无监督任务的分类能力,保持对原始任务的分类能力。实验证明,IAE分类结果比聚类方法会好,而且实现了模型端到端的训练。