基于元学习内外循环优化的小样本图像分类方法研究

来源 :武汉理工大学 | 被引量 : 0次 | 上传用户:JohnStorm
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,得益于高性能计算机或分布式系统的超强计算能力,深度学习方法在计算机视觉相关问题上,尤其是对图像分类任务的研究,取得了长足的发展。然而,在实际计算操作或者现实生活中,出于安全或者隐私等方面考虑,常常面临难以获取样本或者图像样本量过少的问题,这在研究领域内被定义为小样本学习问题。而当涉及到小样本问题时,高性能的计算能力或是传统深度学习模型似乎显得力不从心。针对目前计算机视觉中的热门问题,本文对小样本图像分类任务和问题,以及相关方法进行了研究,并提出了相应改进措施。(1)小样本图像分类问题的核心挑战,在于样本量过少,导致用于训练的特征信息不足,深度学习模型的性能因此难以有效发挥。元学习是目前解决小样本问题的主要方法之一,旨在通过多个任务积累“经验”并完成元学习器的训练,达到快速推广泛化到新任务中的目标,但在目前小样本元学习方法中,内循环阶段的特征缺失问题依然没有得到有效解决。针对这一难题,本文首先提出了基于变分推断内循环优化的元学习方法MCRNet,在原有元学习框架下,利用变分推断进行特征弥补,在元学习内循环训练阶段嵌入额外的特征信息,从而完成对模型的有效训练。特别地,在小样本标准数据集上,MCRNet的准确率相较于基准方法(Baseline)提升了最高达4.2%。(2)在元学习内循环优化的基础上,本文考虑到小样本图像分类任务中一般涉及多个类别,结合元学习框架内循环和外循环作用原理,本文提出基于图神经网络外循环优化的元学习方法,充分发掘并利用类与类之间,图像与图像之间的关系,从而进一步提高模型在对图像划分类别时的准确率。在小样本标准数据集上,使用了图神经网络外循环优化的MCRNet,相比于(1)中的MCRNet,分类准确率进一步提升了最高1%。(3)小样本图像分类任务中,典型值为1-shot或5-shot,本文将该任务扩展至10-shot,15-shot和20-shot,丰富了模型的应用场景并使得模型的对比更全面。特别地,在新的小样本分类任务下,MCRNet相较于基准方法分类准确率平均提升了1.5%左右,而使用图神经网络外循环优化的MCRNet,在MCRNet基础上进一步提升了最高达2%。为验证本文所提出的MCRNet的有效性,分别在小样本图像分类问题的标准数据集CIFAR-FS,FC100和mini Image Net上进行了实验,包括与不同先进方法的对比实验,消融实验等。从定量和定性分析的角度,以分类准确率、特征可视化、收敛效率等为指标,将本文所提出的方法,与基准方法和目前国内外先进的方法进行全面对比,均验证了本文所提出的方法的有效性,且与基准方法相比,在取得更好的性能表现的同时,并没有过多增加内存和算力负担。此外,本文所提出的基于元学习的小样本图像分类方法,搭配不同的基础学习器,均有良好的性能发挥,体现了本文方法的可扩展性。
其他文献
在机器翻译日益重要的今天,有监督和无监督方式成为训练机器翻译模型的主流方式。传统的有监督机器学习需要应用大规模的巨量平行语料进行训练,形成高质量翻译模型,从而使其的使用受到了限制。无监督翻译模型的提出,有效改善了机器翻译对平行语料的需求,但其仍然依赖大规模(千万级别)非平行高质量语料来实现翻译的高质量。因此本文研究借助少量的高质量标记来进行弱监督的多模态机器翻译。同时,在多模态的机器翻译中,图像特
学位
在移动边缘计算中,用户将计算任务卸载到边缘服务器处理,减少任务的时间延迟和能量消耗,并提升用户的体验。在现实场景中,用户移动和计算需求不断产生会影响到任务的卸载,而任务卸载会直接影响到用户的收益,因此需要高效的任务卸载策略。边缘服务器对资源的定价会影响到用户对任务的卸载,从而影响到边缘服务器的收益,因此需要高效的资源定价策略。本文在用户处于移动状态且计算需求不断产生的情况下,当边缘服务器对资源固定
学位
商业银行等金融机构积极推进高水平的数字化转型,如何在这一转型过程中通过有效的治理手段实现可持续的转型发展成为关键。本研究基于价值创造理论,结合国内外商业银行转型实践,通过扎根理论法和案例研究法,提出“价值创造三维治理模型”,以及具有适应性的治理路径和治理对策。研究发现,商业银行数字化转型的治理目标是通过价值网络中不同主体间的协同和互动提升金融资源的优化配置效率和价值创造能力,实现价值创造体系的持续
期刊
本文基于2015—2020年沪深A股上市企业的数据,采用文本分析技术构建企业数字化转型和企业价值研究模型,实证检验数字化转型对企业价值的影响及其作用机制。研究结果表明:(1)数字化转型能够显著促进企业价值的提升;(2)数字化转型能够提升创新效率,且创新效率在数字化转型与企业价值之间起部分中介作用;(3)异质性分析表明,在东部地区、高市场化地区和低环境不确定性情境下,数字化转型对企业价值的促进作用更
期刊
人脸特征点定位是指自动定位人脸特征点位置的方法,在人脸检测、人脸识别和面部表情分析等领域有着十分广泛的应用。级联姿态回归在人脸特征点定位表现优异,该算法基于初始形状,利用回归器逐步回归,逼近人脸真实形状。然而,当人脸包含局部遮挡时,人脸特征变得不可靠,从而导致人脸特征点定位和遮挡检测准确率降低,甚至导致人脸特征点定位失败。针对以上问题,本文提出如下两个解决方案:1)针对局部遮挡导致人脸特征点定位准
学位
随着白天和晚上监视数据爆炸性的增长,跨模态行人重识别成为新兴的挑战。与只处理模态之内差异的传统的行人重识别相比,跨模态行人重识别遭受了由不同类型成像系统造成的额外的跨模态差异。因此提出红外图片着色的方法来消除模态差距。但是生成对抗网络的着色方法依然存在一些问题,本文就这些问题进行一些研究。最近的各种研究工作提出了各种生成对抗网络模型,以将可见模态转换为另一个统一模态,旨在弥合跨模态鸿沟。但是,它们
学位
随着大数据、人工智能等技术的发展,数字经济时代已经到来,传统企业的数字变革也是大势所趋。索菲亚是家居定制行业中最早进行数字化转型的企业,最终实现了智能制造以及流程信息全打通的愿景。文章以索菲亚为例,对其数字化转型的动因、路径以及企业的盈利、营运、偿债、成长能力和EVA指标进行分析,以期为其他企业进行数字化转型提供参考。
期刊
叶脉是支撑叶片生长、运输叶片所需养分与光合作用产物的重要结构。叶脉根据所处位置、生长趋势和宽度等因素可以将其分级,例如一级叶脉定义为从叶柄向叶尖延伸的最粗叶脉,叶脉层级相较于叶脉网络更能表征叶脉的特性。叶脉的层级分割对图像分类、叶片建模和分子育种等领域具有重大意义。然而,当前对叶脉的研究大多停留在叶脉网络,由于层级叶脉复杂难以定位,更能发掘叶脉的特性的叶脉层级却少有涉及。一方面各级叶脉在色彩、亮度
学位
生成一直是自动摘要领域的难题,现有的文本自动摘要方法在处理长文本的过程中,存在准确率低、冗余等情况。无法达到令用户满意的性能效果。主要问题有两点:其一,目前以卷积神经网络(CNN)/循环神经网络(RNN)为编码器的抽取式文本摘要模型,在进行长文本抽取时,模型对文本内容的理解不够,抽取效果极不稳定,无法抽取到长文本的主旨句。其二,目前单纯的抽取式摘要模型存在性能瓶颈,由于抽取式文本摘要的粒度过大,进
学位
近年来,生物医学领域研究取得飞速进展,大量携带研究成果的文献被发表。尽管有人力物力去手动整理这些文献中的信息,但仅仅依靠人力对信息进行更新远远跟不上文献发表的速度。与通用领域相比,生物医学文献的信息抽取存在大量的嵌套实体和重叠关系等问题。因此,如何准确的从大量生物医学文献中抽取出有价值的知识,是目前生物医学领域信息抽取的重大挑战。为此,本文研究了生物医学领域的实体识别和关系抽取。对于实体识别,本文
学位