近年来,深度学习是人工智能领域的一个新的研究热点。由于深度学习是以数据驱动的方法,而对数据加标签和信息标注通常是人工完成的,该方法需要耗费大量的人力和时间。此外,传统的深度学习模型针对整个输入进行编码,无法找出输入数据中的关键部分。因此如何针对弱标签数据训练深度学习模型,并且能够找出输入中的关键部分成为值得研究的问题。注意力(Attention)机制源于对人类视觉的研究,由于信息处理的瓶颈,人类会选择性的关注所有信息的一部分,同时忽略其他可见的信息。在深度学习中,注意力机制通常由一个神经网络构成,它能够给输入的不同部分分配不同的权重或者直接将输入的某些部分作为输入,这一特点使得注意力机制适合解决弱标签下的监督学习问题。针对弱标签的长文档数据和图像数据,本文提出了两种弱监督分类算法,并完成了以下几个方面的工作:(1)本文综述了注意力机制以及基于注意力机制的多种经典模型,并且说明了本文工作的思路来源。其次对于强化学习中的经典算法REINFORCE,介绍了它们的原理和过程。(2)针对传统文档分类模型使用全文信息,且只适用于短文档的这一问题。本文提出了一种面向弱标签数据的长文档分类算法。该算法仅需要观察长文档中的几组局部关键词即可对文档进行分类。首先从原理上证明了模型的可行性,然后分步骤的阐述了该模型是如何解决长文档分类问题的。最后通过实验证明模型仅使用了少量的文本信息,就能够对长文档做出正确的分类,而且能够输出长文档中的关键语句。(3)针对弱标签的图像数据,本文提出了一种名为Smart-zoom的图像细粒度分类算法。该算法以注意力机制为基础,结合了深度强化学习,能够模仿人类的视觉方式,逐渐将注意力集中至图像的关键位置,以此提高分类的准确率。本文从理论上证明了Smart-zoom的可行性,并且详细阐述了模型工作流程。其次介绍了实验使用的两个弱标签的图像数据集。最后通过实验证明该模型能够在弱标签的情况下,正确识别图像的类别。