【摘 要】
:
少样本学习旨在从单个或少数训练样本中学习关于对象类别的信息,这种学习方式对基于大量数据的深度学习方法至关重要。深度学习方法可以通过元学习“利用先前经验学习如何学习”的思想来解决少样本学习问题。因此本文以少样本图像分类问题为研究对象,研究深度学习方法如何利用元学习从少量样本中快速学习和泛化。主要内容如下:1)在广泛的任务空间上进行度量学习,可以让深度学习方法能够很好地利用先前的经验知识,但该方法受制
论文部分内容阅读
少样本学习旨在从单个或少数训练样本中学习关于对象类别的信息,这种学习方式对基于大量数据的深度学习方法至关重要。深度学习方法可以通过元学习“利用先前经验学习如何学习”的思想来解决少样本学习问题。因此本文以少样本图像分类问题为研究对象,研究深度学习方法如何利用元学习从少量样本中快速学习和泛化。主要内容如下:1)在广泛的任务空间上进行度量学习,可以让深度学习方法能够很好地利用先前的经验知识,但该方法受制于特征提取的好坏以及支持集与目标集的度量方式的选取。因此针对上述问题,本文设计了多尺度关系网络。首先在特征提取器加入多尺度特征,将卷积神经网络中第三、四个模块的输出在深度方向进行拼接得到支持集、目标集的多尺度特征。其次,设计支持集、目标集的多尺度特征结合方式,将支持集每个类别的A个样本的多尺度特征求均值后,与目标集样本的多尺度特征按两特征相减后取绝对值的方式进行结合得到关系特征。最后,将关系特征通过神经网络进行度量学习。实验结果说明,多尺度关系网络使用简单的设计可以实现更高的性能,不仅提高了少样本学习基准集的分类准确率,而且缓解了过拟合情况。但是为了确保统一度量适用于所有任务,基于度量学习的少样本图像分类方法应保证任务集的同源分布。2)考虑到数据集分布差异性对度量学习泛化性能的影响,以及优化初始化表征方法“更适合于元训练任务分布之外的数据集”的优点,本文在多尺度关系网络的基础上,加入模型无关的元学习算法,设计了多尺度元关系网络。首先采用元梯度下降法的思想,将内层学习率作为学习矢量和模型参数一起学习。其次在元训练过程中采用模型无关的元学习算法寻找模型最优参数,而在元验证、元测试过程中取消内层梯度迭代。实验结果说明,多尺度元关系网络使学习得到的度量方式具有更强的泛化性能,不仅进一步提高了基准集上的分类正确率,而且避免了使用模型无关的元学习算法需要微调的情况。最后本文将多尺度元关系网络推广应用于小样本条件下的细粒度、遥感图像分类任务。
其他文献
<正>《当代比较文学》迎来了总第四辑,也是2019年出的第二期辑刊。本辑中的论文和译文关涉的主题,时间跨度相当长,从上古神话、古希罗跨越到20世纪中国印刷史研究。各个栏目
2010年,我国教育部印发的《国家中长期教育改革和发展规划纲要(2010-2020年)》中提出为适应国家和社会发展的需求,要深化教育教学改革,创新教育教学方式,探索多种人才培养方
研究了一种基于零力矩点(ZMP)预观控制系统的双足机器人稳定行走步行模式生成方法.通过对双足机器人行走过程中行走参数及ZMP轨迹进行规划,计算出机器人行走过程中的质心轨迹
动态红外视景生成是红外成像制导半实物仿真的关键技术,将基于增强现实的虚拟场景技术应用于动态红外视景生成过程中,可以较有效地提高生成的场景的真实感,减少自然背景模拟
具有高容量、高能量密度和快速充放电能力的锂离子电池是未来绿色二次能源发展的重要方向之一,与上述要求相一致的锂离子电池脱嵌锂容量、循环特性及倍率性能均与电极界面发生
【目的】Fascin-1是一种参与细胞黏附、移动以及信号转导的肌动蛋白结合蛋白,其主要功能是在细胞质中与相应肌动蛋白结合,并在细胞膜表面形成伪足和微棘的结构,以提高细胞的迁
本文以美国Prentice Hall(普伦蒂斯—霍尔)教育出版公司2007年出版的《世界历史》教科书(以下简称霍尔《世界历史》)为依据,对其中涉及到中国史的内容进行叙述和评价。一方面希望
主要介绍了应用ASP.NET技术进行交友网站系统的设计与实现。交友网站主要为用户提供发表文章、浏览文章等功能,用户通过Internet可以发表一些自己撰写的文章来和网友进行交流
目前,我国各高校基本实现了校园网络化,网络使用人数日益增多。网络已经迅速、多方位地融入了大学生的生活。校园BBS论坛也以其丰富的内容、便捷的操作和自由的氛围,,已经成
玉米花粉作为一种东北地区产量丰富的药食同源性产品,富含多种具有辐射防护作用的活性成分,具有重要的科学研究和实际应用价值。本研究以玉米花粉作为主要研究对象,采用不同分离