虽然以深度学习为代表的机器学习在图像、语音等多种任务上取得了显著的成功,但是其对海量人工标注数据的依赖严重限制了其在实际任务中的应用。因此,本文主要研究了如何基于较低成本的数据采集和数据标注得到一个表现良好的模型。本文以细粒度图像分类任务为例,在如下三个方面进行研究。首先,本文探索了如何以弱监督的方式自动地挖掘利用图像的局部特征。出于此目的,本文提出了一种包含双通道,即分类通道和检测通道,的弱监督部位检测网络。通过合理的模型与目标设计,本文提出的方法可以以端到端的方式在检测通道得到具有辨别度的语义部位并用于细粒度图片的分类任务。其次本文以域适应任务为例研究了如何利用迁移学习的方法从辅助数据中迁移知识到目标数据。为了实现域层级以及类别层级的域对齐目标,本文设计了一种具有两个任务分类器的网络结构,并相应的设计了一种包含域层级和类别层级的双层级域混淆目标。最后本文研究如何将迁移学习用于细粒度图像分类任务。常用的迁移学习方式,如预训练和多任务学习,在知识迁移过程中并没有考虑目标任务。因此,本文提出了一种正则化的元学习方法,该方法采用多任务学习的模型框架,通过元学习方法将目标任务的优化引入知识迁移的过程之中。基于标准数据集的严谨实验结果,本文可以得到如下结论:1.通过弱监督方式挖掘物体的局部部位信息对细粒度图像分类有明显帮助;2.在域适应任务中进行类别层级的特征对齐要优于只在域间进行特征边缘分布的对齐;3.在知识迁移的过程中加入对目标任务优化的考虑是有帮助的。