增量学习是人工智能领域的重要研究方向之一,旨在让模型在不重复学习先前数据的情况下持续学习多个任务。随着人工智能技术的快速发展,增量学习逐渐成为智能算法应用在实际场景中的驱动力,引起工业界和学术界的广泛关注。虽然增量学习已经取得了长足进步,智能算法能够以较小的计算和内存代价持续学习多个任务并取得较好的结果,但在实际场景的应用方面仍然面临诸多需要解决的理论问题和关键技术,如增量学习中固有的灾难性遗忘问题。因此,本文的研究主要集中在通过知识积累的形式使深度学习模型具有增量学习的能力并且探索增量学习与其他应用场景的结合。本文的主要创新点可以概括为:1.提出了一种全新的零样本设定—增量零样本学习设定,并提出了对应的评价标准和算法。现有的零样本算法是在预先设定的数据集上进行训练而无法在不利用过去数据的情况下实现算法的增长更新,这严重限制了零样本算法在实际场景中的应用。针对这一问题,本文提出了一种类增量零样本识别算法,可以持续学习多个任务并且逐步提升对于未见类别的识别能力:首先,构建了生成性重现算法来获得包含有先前任务知识的数据,并与当前任务的数据共同用于当前任务的训练,一定程度上将增量零样本学习问题转换成有监督零样本学习问题;然后,利用知识蒸馏策略限制模型参数的更新,尽可能保留先前任务中输入输出之间的映射关系,将先前任务的知识传递到当前任务中;最后,所提出的方法可以和多种基于生成模型的零样本算法相结合,使这些零样本算法同样可以拥有持续学习的能力。2.提出了一种更具挑战的零样本设定—永久零样本学习设定,提高了零样本算法的实用性和可拓展性。在实际场景中,不同环境的数据类型差距很大,存在很大的域差,零样本算法在适应新的环境后无法保留对于先前场景的识别能力。针对这一问题,本文提出了一种域增量零样本识别算法,可以在不重新学习过去数据集的情况下持续学习多种数据集,提高零样本算法的应用能力:首先,构建了联合表示机制,使模型能够持续学习数据以及属性都存在较大差异的多种数据集;然后,设计了选择性重训练的策略,减少对于先前任务重要的参数更新,保留了先前任务的知识;最后,利用了知识蒸馏策略,将先前任务的知识传递到当前任务中,完成不同数据集知识的积累。3.提出了一种基于零样本迁移的类增量算法。深度模型在连续学习多个任务的过程中,模型的参数会持续发生改变,这就意味着两个相邻任务间会存在特征表示差异,即语义鸿沟问题,从而导致了模型遗忘了先前任务的知识。针对这一问题,本文提出了一种全新的基于零样本迁移的方法,首先,设计了零样本迁移策略在两个相邻任务间寻找一个共享语义空间,并在共享语义空间对来自两个任务的特征表示进行对齐,缓解语义鸿沟问题;然后,在这个空间对特征重新进行联合表示,使特征在此空间内依旧具有类别判别性;最后,所提方法可以与基于正则化约束的增量学习方法相结合,进一步提升缓解灾难性遗忘的能力。4.提出了一种基于解耦表示的类增量算法。深度模型在增量学习过程中参数的持续改变会带来语义鸿沟问题,然而仅仅通过迁移和对齐特征是无法完全地弥补语义鸿沟和缓解灾难性遗忘问题,这些特征中存在大量与类别无关的冗余信息。针对这一问题,本文提出了全新的基于解耦表示的类增量算法:设计了特征解耦表示机制,在迁移过程中将特征解耦成类别解耦特征和任务解耦特征,去除无关冗余信息;除此之外,还设计了注意力机制引导的迁移网络去引导特征迁移,保证了迁移过程中判别性信息不会丢失,推动了对齐语义表示和缓解灾难性遗忘。